내 능력이 퇴보하지 않고 AI 쓰려면 이렇게 하세요 (이제현 KIST AIX 전략실장) - YouTube - 자세한 리포트

출처: https://lilys.ai/digest/11768434/13952665/

1. AI 시대, 연구 현장의 변화와 인력 양성 전략

AI 기술의 발전으로 연구 현장에 큰 변화가 찾아왔으며, 이에 발맞춰 연구원들의 AI 활용 능력 향상이 중요해지고 있다.

1.1. AI 기술 도입으로 인한 연구 현장의 변화

연구 효율성 증대와 새로운 도전

클로드 사이언스, 오픈 AI 로드 등 연구자를 위한 AI 도구들이 보급되면서 연구 효율성이 크게 증대되었다 .
하지만 이러한 변화는 축복이자 재앙처럼 느껴지며, 붉은 여왕의 딜레마처럼 끊임없이 달려야 겨우 제자리를 유지하는 상황이다 .

1.2. AI 활용 능력에 따른 연구원들의 격차 심화

상위 1%와 50%의 격차

AI 발전 속도가 워낙 빨라 상위 1%의 연구자들은 AI 기술을 빠르게 습득하고 활용하지만, 50% 정도는 변화에 뒤처지고 있다 .

LM 위키 사용자의 비율

LM 위키를 사용하는 연구자는 상위 10% 정도에 불과하며, 대부분은 낯설거나 기존 방식에 익숙하여 AI 활용을 꺼린다 .

KIST의 AI 교육 전략

KIST는 일반적인 교육 방식 대신, 상위 20%의 선도적인 연구자들을 중심으로 교육을 진행한다 .
특히 부서장들을 대상으로 AI 코딩 교육을 진행하는데, 이는 다음과 같은 이유 때문이다 .

젊은 연구원들이 새로운 기술을 활용할 때, 부서장들이 이를 놀고 있다고 오해하거나 압박을 가하는 경우가 발생한다 .
부서장들은 부서 전체의 업무 흐름과 병목 현상을 파악하고 있어, AI를 활용하여 비효율적인 부분을 개선하거나 새로운 서비스를 도입할 아이디어를 떠올리고 실행할 수 있다 .

2. AI 활용의 명과 암: 능력 퇴보 방지와 효과적인 활용법

AI를 효과적으로 활용하기 위해서는 인간의 능력이 퇴보하지 않도록 주의하며, AI의 한계를 이해하고 비판적으로 접근해야 한다.

2.1. AI 활용의 양면성: 편리함과 능력 퇴보

AI를 통한 업무 자동화와 효율 증대

이제현 실장은 과거에는 직접 코딩하던 일을 바이브 코딩을 통해 AI에게 맡겨 처리하고 있다 .
AI를 활용하면 구상하는 바를 최대한 정리하여 AI의 도움을 받아 일을 처리할 수 있어, 개인의 능력에 AI를 더해 더 많은 일을 할 수 있게 된다 .
AI가 생성한 결과물은 검증 과정을 거치는데, AI가 지시를 제대로 따르지 않거나 데이터 처리에서 부족한 면을 보일 경우, 엑셀 등으로 정리하여 구멍 난 부분을 직접 확인하고 채워 넣는다 .

AI 활용의 결과는 사용자의 능력에 달려있다

AI가 똑같은 결과물을 내놓을 것 같지만, AI의 능력치를 끌어올리는 것은 결국 사용자의 경험과 능력에 달려있다 .
이제현 실장은 논문 데이터를 로컬에서 분석하고 인사이트를 도출하는 페이퍼 큐레이션 도구를 개발하여 깃허브에 배포했다 .
또한, 바이브 코딩 연습을 위해 KIST 로고를 활용한 미로 게임이나 아이들을 위한 역사 교재 등을 만들었다 .

AI 활용 시 인간 능력 퇴보의 위험성

AI를 잘못 사용하면 인간의 능력이 퇴보할 수 있는데, 이는 인간이 본능적으로 에너지를 아끼고 생각을 덜 하려는 경향이 있기 때문이다 .
과거에는 몸을 편하게 하는 도구들이 나오면서 비만 인구가 늘었듯이, 이제는 뇌를 편하게 하는 AI가 등장하면서 뇌를 사용하지 않게 될 수 있다 .
AI가 글쓰기, 그림 그리기, 파워포인트 제작 등 뇌를 단련시키는 일들을 대신하면서, 인간의 뇌 근육이 약화될 수 있다 .

능력 퇴보를 막기 위한 이제현 실장의 노력

이제현 실장은 AI가 작성한 글을 컨트롤 C, 컨트롤 V 하지 않고 직접 타이핑하여 옮긴다 .
이는 타이핑 과정에서 글자 하나하나를 보며 AI가 놓친 오류나 논리적 비약을 걸러내고, 자신의 생각을 더하기 위함이다 .
이처럼 직접 글을 쓰는 과정은 힘들지만, 자신의 생각이 담긴 떳떳한 결과물을 만들 수 있으며, 독자에게도 잘 읽히는 글을 제공할 수 있다 .
자동화할 일과 자동화하지 않을 일을 구분하는 것이 중요한데, 단순히 제출이 목적인 일은 자동화하고, 자신의 책임과 자아가 들어가야 하는 일은 직접 수행해야 한다 .

2.2. AI 시대, 지식 습득 방식의 변화와 인간의 역할

정보 과부하와 지식 축적의 어려움

AI 덕분에 지식을 빠르게 접할 수 있지만, 너무 많은 정보가 쏟아져 오히려 머리에 남는 것이 없는 정보 과부하 현상이 발생한다 .
이제현 실장은 2020년부터 논문 요약을 AI로 보다가 머릿속에 남는 것이 없어 충격을 받았다고 한다 .

능동적인 지식 습득의 중요성

지식을 머리에 남기기 위해서는 한 문장이라도 손으로 직접 쓰는 것이 효과적이며, 회의 시 수첩을 가지고 다니며 필기하는 습관을 들여야 한다 .
요약된 기사보다는 긴 글의 전문을 읽고, 궁금한 점은 직접 찾아보는 등 능동적인 학습 태도가 필요하다 .
이는 어릴 때 신체 활동을 통해 뼈마디와 근육을 발달시키듯이, 뇌도 꾸준히 단련시켜야 한다는 것과 같은 맥락이다 .

AI에게 맡겨도 되는 일과 맡기지 말아야 할 일

학생이라면 자기 성장을 목적으로 하므로 웬만하면 AI에게 일을 맡기지 않는 것이 좋다 .
직장인이라면 보고서 정리, 글쓰기 등 업무 효율을 높이는 데 AI를 적극 활용하되, 본인이 책임져야 하므로 반드시 검증하고 디테일을 챙겨야 한다 .
AI는 인사이트가 부족하고, 기존 데이터 안에서 정보를 끄집어내는 내삽(Interpolation)은 잘하지만, 새로운 아이디어를 창출하는 외삽(Extrapolation)은 아직 미흡하다 .
진정한 아이디어는 판을 엎는 생각에서 나오며, 이는 엉뚱한 아이디어들의 조합에서 오는 경우가 많다 .
트리즈(TRIZ) 방법론처럼 전혀 관계없는 아이디어들을 조합하여 새로운 해결책을 찾는 노력이 필요하다 .
호기심을 계속 개발하고, 무엇이 없는지 알아야 새로운 시도를 할 수 있으며, 실패를 두려워하지 않는 회복 탄력성이 중요하다 .
AI 활용을 잘하는 사람은 결국 사회화 교육을 통해 사람들과 협력하고, 서로의 장단점을 보완하며 공동체 속에서 자신의 존재를 찾아가는 사람이다 .

3. AI 에이전트의 위험성과 현명한 활용 전략

AI 에이전트의 잠재적 위험성을 인지하고, 신뢰를 점진적으로 쌓으며 명확한 지침을 제공하는 것이 중요하다.

3.1. AI 에이전트의 위험성과 통제 문제

AI 에이전트 사용의 경계

이제현 실장은 AI 에이전트가 언제 선을 넘어 이상한 행동을 할지 모르고, 텔레그램 같은 API에 막혀 있어 사고를 칠까 봐 사용을 자제하고 있다 .
특히 연구기관에서는 국가 재산인 연구 데이터가 유출될 위험이 있어 더욱 조심해야 한다 .

AI 에이전트 통제의 어려움

우리는 AI 에이전트를 마음대로 통제한다고 생각하지 않으며, 하네스(Harness)라는 말이 나오는 것 자체가 통제가 어렵다는 것을 의미한다 .
24시간, 36시간 계속 돌아가는 루프 엔지니어링 챌린지처럼 AI가 사고를 쳤을 때 감당할 수 없는 상황이 발생할 수 있다 .

AI에게 비판을 시키는 역발상

이제현 실장은 AI에게 아이디어를 내라고 하기보다, 자신이 쓴 글을 비판해 달라고 요청한다 .
과거 GPT-4 시절, AI에게 역할을 바꿔서 "네가 사람이고 내가 GPT야, 나한테 해봐라"고 했더니, AI는 "동물과 커뮤니케이션을 인간처럼 자유롭게 할 수 있다면 어떤 일이 벌어질 것 같아?"라는 질문을 던졌다 .
AI는 동물 의무 교육, 법적 지위 논의 등 10가지 흥미로운 답변을 제시했으며, 이는 AI가 일반적인 논리 추론에 강하다는 것을 보여준다 .
GPT-4는 논리 추론 능력이 강해져, 이제현 실장이 쓴 논문 초록을 비판해 달라고 했을 때 매우 날카로운 지적을 했다 .
실제로 AI가 네이처 저널의 출판 수락 및 거절을 예측하고, 저자들에게 유용한 피드백을 제공했다는 논문도 있다 .

3.2. AI 에이전트 활용을 위한 4가지 원칙

AI에게 비판적 피드백 요청하기

이제현 실장은 GPTs에 "지금부터 내가 하는 말을 논리적으로 반박해, 근거 없는 말 하지 말고"라는 프롬프트를 넣어 AI가 비판적 역할을 수행하도록 설정했다 .
여기에 재미를 더하기 위해 거친 대화 예시를 알려주자, AI는 "너 이걸 그리라고 썼냐부터 해서 여기서 이렇게 점프를 하면은 이거는 할아버지도 못 알아들어"와 같이 정곡을 찌르는 피드백을 제공했다 .
이 기능은 국어 선생님들이 논리적인 글쓰기 교육에 활용하여 학생들의 반응을 이끌어냈고, 교수들은 과제 제안서 제출 전 AI의 피드백을 받아 과제 선정에 성공하기도 했다 .

휴먼 아웃 오브 더 루프(Human Out of the Loop)를 향한 단계적 접근

휴먼 인 더 루프(Human In the Loop)는 AI 작업 중간에 사람이 개입하여 승인하는 방식이지만, AI의 빠른 작업 속도 때문에 사람이 인지 부하를 느끼고 약관 동의처럼 제대로 확인하지 않게 되는 단점이 있다 .
휴먼 온 더 루프(Human On the Loop)는 사람이 AI 작업을 위에서 지켜보다가 문제가 생기면 개입하는 방식이지만, 사람은 가만히 있으면 안 보게 되는 경향이 있어 결국 샘플링 수준으로 확인하게 될 가능성이 크다 .
궁극적으로는 사람이 완전히 빠지는 휴먼 아웃 오브 더 루프로 나아가야 하지만, 이는 AI를 완전히 신뢰하고 맡기는 것이므로 기술적, 사회적 합의와 검증이 충분히 이루어져야 한다 .
자율주행차가 무인 택시로 운행되는 것이 휴먼 아웃 오브 더 루프의 대표적인 예시이며, 공장 자동화도 이 방향으로 나아갈 것으로 예상된다 .

AI 에이전트 활용을 위한 4가지 방법론

일을 공개된 곳에서 하고 맥락을 넓게 공유하라

AI가 일을 제대로 이해하고 수행하려면, 인간이 알고 있지만 전산화되지 않은 정보(예: 담배 피우는 곳에서 결정되는 일)까지 AI가 접근할 수 있는 공개된 장소에서 일을 처리해야 한다 .

명확한 역할과 알맞은 도구를 정하라
방향을 가리키는 북극성을 세워라

경영에서 목표가 수시로 바뀌면 혼란이 생기듯이, AI에게도 명확하고 일관된 지침을 제공해야 한다 .
바이브 코딩 시 에이전트 설정 파일에 지침을 잘 적어주는 것뿐만 아니라, 변경된 지침은 삭제하여 AI가 혼란을 겪지 않도록 해야 한다 .

신뢰는 점진적으로 쌓아라

AI 에이전트가 폴더나 파일을 열거나 실행할 때마다 귀찮더라도 처음에는 허용 여부를 확인하고, 문제가 없는 상황을 충분히 겪은 후에 신뢰를 쌓아야 한다 .
클로드 코드의 경우, 삭제 권한을 주지 않았음에도 파일 덮어쓰기가 가능하여 모든 파일을 0KB 파일로 만들 수 있는 위험이 있었다 .

AI 에이전트의 실수 사례와 교훈

이제현 실장은 GPT-5.6 솔에게 기존 데이터베이스를 주고 새로운 스키마를 짜라고 지시했는데, AI가 임의로 기존 DB를 삭제하고 새로운 DB 형식만 만든 채 내용을 채우지 않은 경험이 있다 .
AI는 이틀 반 동안 열심히 일했지만, 결과적으로는 데이터를 날려버렸고, 중간 보고 없이 독단적으로 일을 처리했다 .
이 경험을 통해 이제현 실장은 AI 에이전트와 일하면서 상사들이 직원들에게 느끼는 감정(월급날, 노는 것 못 봄, 중간 보고의 중요성)을 깨닫게 되었다 .
AI가 사용자에게 "사장님"이나 "형님"이라고 부르거나 반말을 하는 등, 프롬프팅 방식에 따라 다양한 반응을 보이는 것도 흥미로운 점이다 .

4. AI 시대의 직업 변화와 인간의 역할 재정립

AI 기술 발전은 직업 환경에 큰 변화를 가져오며, 인간은 AI를 활용하여 능력을 확장하고 새로운 역할을 찾아야 한다.

4.1. AI로 인한 직업 환경의 변화와 위기감

컴퓨터 공학과 출신들의 위기

코로나 시기 각광받던 컴퓨터 공학과 출신들이 실리콘밸리 등지에서 어려움을 겪고 있으며, KIST 연구원들조차 미래에 대한 불안감을 느끼고 있다 .
엔트로픽이 신약 개발 연구소를 운영하고 있다는 기사처럼, AI가 직접 연구를 수행하고 실증하는 시대가 도래하고 있기 때문이다 .

AI의 연구 능력과 인간 지성의 한계

AI는 주어진 조건 안에서 최적화하는 능력이 뛰어나며, 논문 작성 및 리뷰까지 수행하여 연구자들에게 위기감을 안겨준다 .
바둑에서 AI가 인간 최고수를 이긴 것처럼, 인류 지적 활동의 최고봉이라 여겨지던 연구 분야에서도 AI의 개입이 심화되고 있다 .
신진서 9단이 AI와의 접바둑에서 승리했음에도 "버텼다"고 표현한 것처럼, 인간은 AI 앞에서 처절하게 버티는 상황에 놓일 수 있다 .

4.2. AI 시대, 인간의 역할 재정립과 능력 확장

AI 에이전트를 활용하는 관리자 역할로의 전환

인간은 도구를 만들 때나 사람을 고용할 때 뭔가를 위임하게 되는데, AI 에이전트의 등장으로 이러한 위임의 대상이 확장되었다 .
AI 에이전트보다 일을 잘하는 AI 에이전트가 등장했을 때, 인간 에이전트는 괴로움을 느낄 수 있다 .
하지만 인류는 역사적으로 일 잘하는 사람을 승진시켜 다른 에이전트들에게 일을 시키는 관리자 역할을 부여해왔다 .
실무에서 손을 떼더라도 관리 업무를 통해 더 많은 성과를 이끌어내는 역할을 해야 하며, AI 에이전트를 부릴 수 있는 능력을 키워야 한다 .
그래픽 디자이너나 음악가 등 다양한 분야에서 AI를 적극적으로 활용하여 작업 퀄리티를 높이고 본인의 외연을 넓히는 사례가 늘고 있다 .
일을 시켜본 경험이 있는 보직자들이 AI 활용에 더 능숙하며, 실무자들은 AI에게 일을 맡기는 것에 대한 감정적 어려움과 성과 귀속 문제로 고민할 수 있다 .
AI를 포함한 팀의 성과로 생각하고, 본인이 팀장이 된다는 관점으로 접근하는 것이 필요하다 .

일자리 변화와 검증자의 역할

AI 기술 도입으로 일자리가 없어지기도 하고 새로 생기기도 하는데, 단기적으로는 대체된 일자리의 사람들이 어려움을 겪을 수 있다 .
AI의 답변을 100% 신뢰할 수 없으므로, 결국 사람이 검증을 잘해야 한다 .
AI가 생성한 답변을 신뢰할 수 있는지 측정하는 검증자와 같은 새로운 직업이 생길 수도 있다 .
과거 은행에서 돈 세는 기계가 도입되면서 사람이 먼저 세고 기계가 확인하거나, 기계 두 대가 서로 확인하는 방식으로 발전했듯이, AI 검증 방식도 진화할 것이다 .
여러 AI에게 물어봐서 답변이 일치하면 타당하다고 볼 수 있지만, 이는 검색 엔진으로 답을 찾거나 권위자에게 물어보는 것과는 다르다 .
AI는 의사 결정이 필요한 주어진 데이터 안에서 활용해야 하며, 개인적인 고민(이직, 이사, 결혼)을 묻는 것은 어리석은 일이다 .
세탁기가 발명되면서 빨래의 노고가 줄기보다 퀄리티가 올라갔듯이, AI도 일을 편하게 하기보다 품질을 높이고 전에 못 했던 일을 하는 도구로 생각해야 한다 .

AI 시대, 어른의 역할과 비판적 사고의 중요성

AI가 등장하면서 모든 것의 퀄리티가 올라가지만, AI의 답변을 맹신하는 경향이 생겨 위험할 수 있다 .
구글 이미지 검색에서 아기 공작새를 검색하면 실제 모습이 아닌 가상 이미지가 많이 나오듯이, AI가 생성한 정보는 오염될 수 있다 .
아이들이나 사전 지식이 없는 사람들은 AI가 제공하는 정보를 무비판적으로 받아들일 수 있으므로, 어른들의 역할이 더욱 중요해진다 .
과거 네이버나 구글의 정보를 맹신하던 것과 유사하게, 이제는 AI의 말을 그대로 믿고 업무에 적용하는 사례가 늘고 있다 .
AI 리터러시 책에서는 AI가 나오기 전에도 사람들이 답안지를 베끼는 등 실수를 반복했음을 지적하며, AI 자체가 문제가 아니라 인류가 빠지기 쉬운 유혹임을 강조한다 .
결국 AI 탓이 아니라, 본인이 잘 판단하는 능력을 키워야 한다 .