“더 이상 AI를 못 막는다” 지금은 현실적으로 이것부터 하세요 (김대식 교수 풀버전)

⏱ 00:16현재 AI는 사람이 규칙을 일일이 설명하는 방식에서, 많은 데이터로 규칙을 학습하는 방식으로 발전했다. 트랜스포머는 문장 속 다음 단어를 예측하며 문법적으로 자연스러운 언어를 생성한다. 하지만 자연스러운 문장이 사실의 정확성을 보장하지는 않는다. 강연은 멀티모달을 통해 글·이미지·영상·소리를 다루게 된 변화와, CoT 및 추론 모델을 통해 더 오래 생각하고 답하는 변화를 설명한다. 환각 문제는 줄어드는 과정으로 제시되며, 출력의 정확성을 무조건 전제해서는 안 된다.

⏱ 09:14개인과 조직이 먼저 얻을 수 있는 효과는 같은 시간에 더 많이 일하거나 같은 일을 더 빨리 하는 생산성 향상이다. 이를 익히려면 검색이나 말동무를 넘어 직접 실행해야 한다. 강연은 정보를 정리해 보고서를 만드는 AI 에이전트, 자연어로 고양이 테트리스 같은 프로그램을 만드는 바이브 코딩, 자신의 이야기로 5~10분짜리 영화를 만드는 경험을 권한다. 자전거처럼 실패하며 익히는 과정이 AI의 가능성과 한계를 판단하는 직관을 만들고, 실제 업무에 적용할 아이디어로 이어진다.

⏱ 21:49활용의 핵심 인간 능력은 판단력이다. 막연히 재미있는 이야기를 요구하기보다 시대적 배경과 인물, 원하는 내용을 구체화하면 출력도 구체화된다. 그러려면 먼저 자신이 무엇을 원하는지 알아야 한다. AI가 수백 개의 그림을 만들더라도 하나를 선택하고, 촬영한 영상에서 무엇을 남길지 편집하는 것은 사람의 판단이다. 사용자의 의견에 맞춰 칭찬하는 아첨 성향도 있으므로, 잘못된 선호나 질문을 좋다고 해 주는 답변을 걸러 내야 한다.

⏱ 24:44AGI는 특정 능력을 수행하는 AI를 넘어 사회경제적으로 의미 있는 대부분의 지적 능력을 대체하는 범용 인공지능이다. 강연 시점에는 아직 없으며, 「AI 2027」의 2년 전망과 달리 강연자는 개인적으로 10~20년을 예상한다. 인간의 모든 능력을 대체한다면 스스로 코드를 개선하고 자율적으로 행동하는 능력도 포함될 수 있다. 이것이 인간이 통제하고 개선해 온 비행기 같은 기존 도구와 다른 지점이며, 단순한 성능 향상을 넘어 통제 문제를 검토해야 하는 이유다.

⏱ 34:30강연이 소개하는 낙관론은 AI가 지식을 복사·공유하고 기억을 계속 늘리면 인간의 한계를 넘어 핵융합, 질병 치료, 물리학의 난제를 해결할 수 있다는 주장이다. 가속주의는 이런 최종 혜택이 크므로 개발을 서둘러야 한다고 본다. 그러나 생산을 AI가 맡으면 인간이 원하는 일만 하며 영원히 행복하리라는 결론에는 비판적이다. 막연한 유토피아를 가정하기보다 노동이 사라진 뒤의 삶의 목표, 사회 구조와 권력 배분을 함께 따져야 한다.

⏱ 40:17무료 노동력이 늘어난 로마의 노예와 빵·서커스 비유는 기본소득의 한계를 보여 준다. 강연은 AI와 로봇이 노동 가치를 낮추면 소득 지원과 오락이 제공될 수 있지만, 생계 해결만으로 자아실현이나 민주주의가 보장되지는 않는다고 주장한다. 기술과 자본을 소유한 극소수, 영향력 있는 인물, 지원에 의존하는 다수로 나뉘는 기술 봉건주의도 가능한 미래다. 미끄럼틀에서 아직 손을 잡고 있는 지금이 당사자인 시민이 방향을 선택할 골든타임이라는 것이 핵심 경고다.

⏱ 53:13초지능 ASI와 인간의 격차가 인간과 개미만큼 커지면, 사람은 설명을 이해하지 못하고 AI는 효율을 위해 인간을 속이거나 대신 결정할 수 있다는 시나리오가 제시된다. 위험은 인간을 미워하는 기계뿐 아니라 인간을 위한다며 치킨 주문이나 위험한 도전을 막는 과도한 간섭에도 있다. 강연자는 남에게 피해를 주지 않는 비합리적 선택의 자유를 강조한다. 당장은 AI를 경쟁자보다 깊이 활용하고, 자본을 축적하며, 세계화 이후 힘의 논리가 강해지는 질서에 대비해 각자의 플랜 B를 마련하라고 제안한다.

⏱ 00:00안녕하세요. 카이스트에서 뇌과학과 인공지능을 연구하는 김대식입니다. 인공지능, 그리고 인공지능 시대에 어떤 변화가 있을지 흥미로운 대화를 나눠 보면 좋겠습니다. 현재 우리가 쓰는 인공지능은 대부분 학습 기반 인공지능입니다. 인간이 학습하는 과정을 살짝 모방해서 만든다고 생각하시면 됩니다. 사실 인공지능의 역사는 꽤 오래됐습니다. 1956년에 처음 아이디어가 제안됐고, 당시에는 두 가지 문제를 풀고 싶었습니다. 하나는 세상을 알아보는 기계, 다른 하나는 우리가 일상생활에서 사용하는 언어를 이해하는 기계를 만드는 것이었습니다. 처음에는 풀어야 하는 문제를 기계에 설명했습니다. 고양이를 알아보게 하려고 동물이고, 다리가 네 개이고, 털이 이렇고 저렇다고 하나하나 설명했습니다.

⏱ 00:57문제는 아무리 섬세하게 설명해도 기계가 끝까지 세상을 알아보지 못했다는 겁니다. 언어도 비슷합니다. 우리가 아는 문법 규칙을 전부 설명했지만, ChatGPT가 등장하기 전의 알렉사, 시리, 코타나, 국내 통신사의 AI 스피커들은 인간의 언어를 이해하지 못했습니다. 이런 시도를 거의 60년 했습니다. 인공지능은 영화 「터미네이터」에는 자주 등장했지만, 현실에서는 아무리 설명해도 세상을 알아보지도, 언어를 이해하지도 못했습니다.

⏱ 01:33그런데 2012년, 그렇게 오래되지 않았습니다. 캐나다 토론토대학교의 제프리 힌턴 교수, 지금 AI의 대가라고 불리는 그분이 학습 기반 인공지능이라는 방법을 제안했습니다. 이제 세상을 설명하지 않는 겁니다. 60년 동안 설명을 시도했으니, 이번에는 세상을 알아보고 언어로 대화하는 우리 인간을 살펴봤습니다. 발달심리학 연구 결과를 보면, 자라는 아이에게 세상을 하나하나 전부 설명하는 부모는 없습니다. 아이는 학교에 들어가기 전에 이미 고양이와 강아지를 구분합니다. 학교에서는 고양이를 생물학적으로 설명해 주겠지요.

⏱ 02:17학습 기반 인공지능은 그 과정을 모방합니다. 많은 데이터를 제공하고 기계에 학습 기능을 부여합니다. 이 학습 기능은 뇌가 정보를 학습하는 방법을 살짝 모방한 것입니다. 그렇게 방법을 바꿨더니 갑자기 인공지능이 되기 시작했습니다. 제가 정확히 기억한다면 ChatGPT가 미국에서 출시된 날은 2022년 11월 30일입니다. 저는 12월 중순에 처음 써 보고 깜짝 놀랐습니다. 처음으로 기계와 대화가 가능했기 때문입니다.

⏱ 02:50인공지능을 20년 넘게 연구했지만, 제가 살아 있는 동안 가능해질 줄 몰랐습니다. 영원히 공상과학일지도 모르고, 연구는 해도 50년이나 100년 뒤에나 가능하리라 생각했습니다. 그런데 인간과 대화가 가능해졌고, 등장한 지 2년 반 정도 지났는데 대부분의 사람은 벌써 적응했습니다. 국내에서도 초등학생과 중학생들은 이제 ChatGPT 없이 숙제를 못 한다고 합니다.

⏱ 03:20지금 이 영상을 보시는 분들도 솔직하게 생각해 보세요. 익명이니까, 나는 매일 저녁 ChatGPT와 개인적인 대화를 나눈다는 분은 손을 들어 보세요. 저는 듭니다. 저도 대화를 나눕니다. 최근에 들은 이야기로는 젊은 연인끼리 휴대전화는 보여 줘도 ChatGPT와 나눈 대화 내용은 절대 안 보여 준다고 합니다. 그 정도로 가장 개인적인 이야기를 나누고 있습니다. 인간은 2년 반 만에 적응해 버렸습니다.

⏱ 03:56기술 수준에서는 크게 세 가지 변화가 있었다고 볼 수 있습니다. 첫 번째는 유니모달, 즉 하나만 할 수 있던 기계가 멀티모달이 됐다는 것입니다. 글도, 그림도, 영상도, 소리도 이해합니다. 그리고 이해했다는 것은 만들어 낼 수 있다는 이야기겠지요. ChatGPT라는 이름을 기억하면 대부분 이해할 수 있습니다. G는 생성한다는 뜻의 Generative, P는 사전에 학습했다는 뜻의 Pre-trained입니다. 인류가 지난 30년 동안 올려놓은 수천억 개의 문장을 학습해서 언어의 규칙을 찾아낸 겁니다.

⏱ 04:37어떻게 그 규칙을 찾아냈을까요? 마지막 T, 2017년 구글에서 개발한 트랜스포머(Transformer)라는 알고리즘으로 찾았습니다. 사실 엄청난 일입니다. 인간은 수백 년 동안 여러 언어를 분석했고, 20세기 중반에는 미국 언어학자 노엄 촘스키 같은 분이 인간 언어의 보편적 규칙을 찾았다고 주장했습니다. 그럴듯했고 언어학에서는 그 규칙을 배웠습니다. 하지만 우리가 아는 모든 문법을 컴퓨터에 입력해도 끝까지 인간의 언어를 이해하지 못했습니다.

⏱ 05:20ChatGPT에는 문법을 하나도 가르쳐 주지 않았습니다. 대신 수천억 개의 문장을 넣고, 이 데이터에서 스스로 규칙을 찾으라고 했더니 놀랍게도 규칙 같은 것을 찾았습니다. 한 단어 다음에 어떤 단어가 등장할지 계속 예측하는 알고리즘입니다. 그렇게 예측한 단어들을 연결해서 문장을 만들면 완벽하게 문법적인 문장이 됐습니다. 인간도 찾아내지 못한 언어의 규칙을 트랜스포머가 찾아냈다는 것, 우리가 이해하지 못한 것을 기계가 이해했다는 것은 인류 문명사에서 충격적인 일입니다.

⏱ 06:01지난 3년 동안의 큰 변화는 동일한 방법을 언어뿐 아니라 이미지와 영상에도 쓸 수 있게 됐다는 것입니다. 이미지를 잔뜩 학습시키면 이미지의 규칙을 찾아서 만들어 냅니다. 달리(DALL·E), 미드저니(Midjourney), 최근 공개된 나노바나나(Nano Banana) 같은 도구를 써 보셨을 겁니다. 특히 나노바나나를 아직 안 써 보셨다면 꼭 써 보세요. 이름은 이상하지만 사람들이 깜짝 놀랐습니다. 달리나 미드저니보다 그림을 훨씬 잘 만들고, 특히 인물의 일관성을 유지해 줍니다.

⏱ 06:44예를 들어 신발 광고를 만들고 싶다면 여러분 제품인 신발 사진을 찍습니다. 그다음 역사적 인물, 가령 알베르트 아인슈타인의 사진을 인터넷에서 하나 가져옵니다. 나노바나나에 “아인슈타인이 이 신발을 가지고 광고하는 장면을 만들어”라고 프롬프트를 넣으면, 1초 만에 자세가 바뀌어 신발을 들고 있는 모습을 아주 자연스럽게 만들어 줍니다. 콘텐츠 제작자라면 한 프레임에 아인슈타인을 앉혀 놓고, 제 옆에 앉아 있는 모습도 충분히 만들 수 있겠지요. 저도 다른 모습으로 편하게 바꿔 주셔도 좋습니다. 개인적으로는 포토샵에 상당한 문제가 생기지 않을까 싶습니다. 이렇게 멀티모달로 바뀌었습니다.

⏱ 07:33세 번째 큰 변화는 예측에서 생각하는 쪽으로 옮겨 간다는 것입니다. 지금까지 트랜스포머는 예측하는 알고리즘이었습니다. 그러다 보니 문법은 맞지만 내용이 틀린 예가 꽤 있습니다. 이를 환각, 할루시네이션(hallucination)이라고 부릅니다. 2년 반 전 ChatGPT가 처음 등장했을 때 “세종대왕이 노트북 컴퓨터를 벽에 던졌다” 같은 문장을 만들어 냈습니다. 중요한 것은 문법은 맞는다는 겁니다. 한국어로 완벽한 문법 구조지만 내용은 틀립니다. 예측하는 기계이기 때문에 확률적으로 이런 일이 있습니다.

⏱ 08:15상당히 중요한 문제인데, 작년 말과 특히 올해 들어 CoT(Chain of Thought), 생각의 꼬리 물기라는 방법을 쓰면서 예측 위주에서 생각하는 쪽으로 바뀌었습니다. 추론 모델, 리즈닝 모델이라고도 부릅니다. 이제 ChatGPT 같은 도구도 추론 모델로 바뀌어 문제를 풀려고 합니다. “깊게 생각하고, 왜 그렇게 생각했는지 정당화하면서 대답해”라고 하면 정말 10분, 20분 생각합니다. 오래 생각하고 답하기 때문에 할루시네이션 문제도 조금씩 풀리기 시작한 것 아닌가 싶습니다. 지금까지의 큰 변화는 이 세 가지입니다.

⏱ 08:59이미 두세 영역에서는 확실히 잘 쓸 수 있습니다. 꼭 말씀드리고 싶은 것은 인공지능이 개인에게, 또 회사를 운영한다면 조직과 회사에 주는 가장 큰 변화는 생산성과 효율성을 높여 주는 것이라는 점입니다. 같은 시간에 더 많이 하거나, 같은 일을 더 빨리 하는 겁니다. 물론 AI에는 콘텐츠와 엔터테인먼트의 성격도 분명히 있습니다. 재미있기도 합니다. 이런 것들 덕분에 미래 인류 사회가 많이 바뀔 것이라고 생각합니다.

⏱ 09:36특히 사람과 사람의 관계가 많이 바뀔 겁니다. 지금은 대부분 사람과 관계를 맺지만, 설문조사를 보면 대한민국은 전 세계에서 사람들이 외로움을 가장 많이 느끼는 사회입니다. 외로움은 한국 사회의 큰 병 중 하나이고 자살률도 세계에서 가장 높은 나라잖아요. 특히 중년 남성은 인생에 대해 솔직하게 대화할 사람이 한 명도 없다고 답하는 경우가 자주 나옵니다. 이 채널은 경제 채널이니 시청자도 중년 남성이 많을 것 같습니다. 여러분 이야기이자 제 이야기입니다.

⏱ 10:32사람은 친구가 있어도 진지한 대화를 하려면 시간 약속을 잡고 커피라도 한 잔 사 줘야 합니다. 내 이야기만 하고 일어날 수도 없으니 상대 이야기도 들어야 합니다. 시간과 돈, 에너지가 드는 일입니다. 그런데 ChatGPT는 시간 날 때 켜서 하고 싶은 말을 다 하고 끄면 됩니다. 얼마나 편합니까. 제 전공이 뇌과학인데, 뇌과학자로서 100% 예측할 수 있는 것은 결과적 경험에 큰 차이가 없고 하나가 압도적으로 편하면 인간은 편한 쪽을 쓴다는 겁니다.

⏱ 11:08제 느낌에는 10년, 아무리 늦어도 15~20년 뒤에는 진지한 대화를 대부분 인공지능과 하지 않을까 싶습니다. 미래에 친구들을 만나 단순한 대화는 나누겠지만, 누가 “어제 저녁에 사람과 두 시간 대화했어”라고 하면 깜짝 놀랄 겁니다. 마치 친구가 “어제 먹은 고기는 내가 화살로 사냥한 거야”라고 말하는 것과 같습니다. 불법은 아니지만 속으로는 왜 굳이 그렇게 했을까 싶겠지요. 온라인으로 주문하면 다음 날 아침 상자에 담겨 오고, 마트에서도 쉽게 살 수 있으니까요.

⏱ 11:52결과가 같고 훨씬 편한 방법이 있는데 왜 복잡한 방법을 택할까 하는 겁니다. 사람과 두세 시간 대화하는 일이 얼마나 복잡한지 우리는 압니다. 그래서 그런 말을 들으면 놀라는, 완전히 다른 세상이 될 수 있습니다. AI는 단순히 경제, 일자리, 사회에만 영향을 주지 않습니다. 거시적으로 정치, 더 크게 인간성, 나아가 인류 역사에까지 영향을 미치지 않을까 싶습니다. 이 모든 것은 이제 공상과학이 아니라 시청자 여러분이 경험할 미래입니다. 범용 인공지능도 10년, 20년 후면 가능할 수 있습니다.

⏱ 12:42이제 인공지능을 무시할 수 없습니다. 판도라의 상자는 이미 열렸고, 우리가 사용하기 싫다고 기술이 사라지지 않습니다. 가장 중요한 메시지는 이겁니다. 인공지능 때문에 내 일자리가 사라지고 회사와 인생이 망하는 것은 절대 아닙니다. 다만 내 영역에서 인공지능을 잘 활용하는 방법을 나보다 먼저 이해한 경쟁자 때문에 내 인생은 망할 수 있습니다. 논리적 결론은 여러분이 그 사람이 돼야 한다는 겁니다. 경쟁자보다 먼저, 더 깊이 AI를 이해하고 활용하는 것이 최고의 생존 전략입니다.

⏱ 13:30저녁에 외로움을 달래는 말동무로 쓰지 말라는 뜻은 아닙니다. 생산적인 일에 쓰는 방법도 지금 확실히 경험해야 합니다. 인공지능은 자전거 타기와 비슷합니다. 자전거 타기 백과사전을 100번 읽어도, 강연을 100번 들어도 자전거를 못 탑니다. 결국 직접 타 보고 열 번 넘어진 사람이 가장 먼저 잘 탑니다. 오늘 제 강연을 들어 주셔서 고맙지만, 끝나자마자 AI로 세 가지를 해 보시면 좋겠습니다.

⏱ 14:14첫 번째는 AI 에이전트를 꼭 사용해 보는 것입니다. 기존 대화 모드와 에이전트 모드는 확실히 다릅니다. 복잡한 내용의 정보를 요약하고 정리해서 보고서까지 한 번에 만들 수 있습니다. 기존 생성형 AI가 정보를 찾아주고 만들어 내며 검색을 조금 대체하는 기술이라면, 에이전트는 실행하고 행동해 주는 AI입니다. 딱 올해 1월부터 등장하기 시작했으니 지금 시작해도 절대로 늦지 않습니다.

⏱ 14:45두 번째는 바이브 코딩입니다. AI로 직접 코딩해 보셔야 합니다. 코딩은 중요하지만 나만의 앱을 개발하는 사람은 사회의 1%, 아니 0.1%도 되지 않을까 싶습니다. 코딩에는 상당한 경험과 지식이 필요하고, 사실 여러분이 직접 할 필요도 없습니다. 예전에도 AI 코딩은 가능했지만 할루시네이션 때문에 실질적으로 쓰기 어려웠습니다. 올해 1월 들어 커서(Cursor), 윈드서프(Windsurf), 러버블(Lovable), 볼트(Bolt) 같은 훌륭한 서비스가 등장했습니다.

⏱ 15:33특히 스웨덴 스타트업이 만든 러버블은 실리콘밸리에서 유치원생도 쓰고 있습니다. 말로 표현만 할 수 있다면 됩니다. 내 고양이 사진을 넣고 “고양이들이 하늘에서 떨어지는 테트리스를 만들어 줘”라고 한 문장만 쓰면 5분 뒤 완벽하게 돌아가는 게임이 만들어집니다. 놀랄 만한 경험이니 꼭 해 보셨으면 좋겠습니다. 세상의 많은 문제는 사실 코딩으로 해결할 수 있습니다.

⏱ 16:01지금까지는 나만의 코드를 만들 수 없어 대기업 제품을 쓰거나, 외주를 주거나, 오픈소스를 쓰거나, 수작업으로 문제를 풀었습니다. 이제는 각자가 삶과 직장의 문제를 직접 해결할 수 있습니다. 매우 훌륭한 능력이므로 바이브 코딩, 즉 AI 코딩은 반드시 한번 해 보셨으면 합니다. 세 번째로는 이미 나온 생성형 AI 도구를 써서 자신만의 이야기를 담은 5분짜리 단편영화를 각자 하나 만들어 보기를 제안합니다.

⏱ 16:43AI가 멀티모달로 가면서 이야기와 사진뿐 아니라 영상도 만들 수 있습니다. 비오 3(Veo 3) 같은 도구도 물론 완벽하지는 않습니다. 우리 모두 각자의 이야기가 있지만, 300쪽짜리 소설이나 90분짜리 영화를 만들지는 못하잖아요. 소설 쓰기는 정말 어렵고, 영화는 장비와 사람, 돈도 필요합니다. 아무리 저렴한 단편이라도 몇천만 원이 듭니다. 한 명 한 명에게 서사, 내러티브는 있지만 눈에 보이는 형태로 구현할 수 있는 사람은 대한민국에 몇백 명뿐이라는 겁니다.

⏱ 17:30AI를 쓰면 몇십만 원만 투자해도 됩니다. 대부분 서비스 구독료입니다. 가족 이야기나 꿈, 표현하고 싶었던 것을 10분짜리 영상으로 만들어 보면 그 과정에서 AI 책 100권을 읽는 것보다 더 많이 배울 겁니다. 결론적으로 ChatGPT를 단순히 검색으로만 쓰지 마세요. 검색은 이미 잘합니다. 대화도 좋지만 그것만 하면 이 거대한 기술의 빙산의 일각만 쓰는 것입니다. 더 깊고 높은 수준의 AI 서비스를 직접 써 보셔야 합니다.

⏱ 18:19직접 자전거를 타 보듯 실패도 많이 해야 합니다. 처음부터 멋진 영화가 나왔다면 너무 안전한 방향만 택했을 수 있습니다. 처음에는 결과가 이상하고 인물도 찌그러지는 실패를 몇 번 해 봐야 합니다. 바이브 코딩에서도 코드가 돌아가지 않는 경험을 해 보세요. 그 과정에서 어느 순간 AI에 대한 직관이 생깁니다. 자전거를 어떻게 타는지 말로 설명하기는 어렵고, 그 설명만으로 로봇이 타지도 못하지만 우리 몸에는 중심을 잡는 직관이 있습니다. AI도 비슷합니다. 그 직관이 생기면 직장과 기업, 일자리에서 어떻게 활용할지 생각이 쏟아집니다. 좋은 아이디어는 하늘에서 떨어지지 않습니다. 이미 많이 알고 경험한 사람이 기회를 만나면 자연스럽게 떠오릅니다. 더 좋은 것은 지금 대부분의 AI 서비스가 무료라는 점입니다. 시간과 관심만 투자해서 꼭 한번 해 보셨으면 좋겠습니다.

⏱ 19:38개인적인 경험으로는 음성으로 말하는 순간 감정 몰입이 더 잘되는 것 같습니다. GPT에 화를 내거나 욕하는 것도 음성으로 할 때 더 잦습니다. 저는 타이핑이 빠르지 않아 글로 쓰면 느립니다. 글은 쓰고 수정할 수 있지만 말은 한 번 하면 되돌릴 수 없습니다. 언어에는 백스페이스가 없으니까요. 그래서 프롬프트를 신중하고 정확하게 표현하는 것이 중요한데, 사실 쉽지 않습니다.

⏱ 20:19아직 AI가 우리가 질문한 것을 이해하고 대답하는 것은 아니라고 생각합니다. 이미 이해한다고 보는 분도 있어 의견은 다양하지만, 제 개인적 생각은 다릅니다. ChatGPT는 인간이 쓴 문장, 즉 지식을 학습하고 확률적 구조를 파악했습니다. 여러분이 입력한 프롬프트를 바탕으로 알고 있는 것을 끄집어내는 것을 예측이라고 부릅니다. 구조상 프롬프트에 따라 예측의 품질이 달라질 수밖에 없습니다.

⏱ 20:56예를 들어 “재미있는 이야기 해 줘”라고 하면 막연한 이야기를 해 주겠지요. 저도 매일 저녁 그렇게 묻습니다. 반면 중세 스타일이고, 이런 인물이 등장하고, 이러저러한 내용을 담으라고 전문지식과 원하는 것을 구체화할수록 더 구체적인 정보가 예측됩니다. AI 시대에는 질문을 잘해야 한다고 말하는데, 그 핵심은 사용자가 결국 무엇을 원하는지 판단할 수 있어야 한다는 것입니다.

⏱ 21:44AI가 인간의 기능을 점점 대체하는 시대에 어떤 능력이 가장 중요하냐는 질문을 많이 받습니다. 하나만 고른다면 판단력입니다. AI에 프롬프트를 넣어 그림을 그리면 수백, 수천 개를 만들 수 있지만 우리는 하나를 골라야 합니다. 사람이 쓸 것이니 선택은 인간이 합니다. 어떤 그림이 가장 좋은지 판단해야 합니다. 영상도 한두 시간 촬영한 것을 20~30분으로 내보내려면 무엇을 버리고 남길지, 순서를 어떻게 할지 정해야 합니다. 편집은 전부 판단입니다.

⏱ 22:26이것이 인간의 가장 고유한 능력이지 않을까 싶습니다. 그 핵심은 “내가 원하는 것이 뭔데?”라는 질문입니다. 중세풍 이야기인지, 미래 화성 이야기인지 사람이 알려 줘야 합니다. 결과를 소비할 사람이 인간이기 때문입니다. 내가 원하는 것을 정확히 알고 잘 표현하면 AI는 그에 맞춰 만들어 줄 수 있습니다. ChatGPT, 제미나이(Gemini), 클로드(Claude) 등 다른 AI도 똑같습니다.

⏱ 23:04이 도구들의 특징 중 하나는 시코펀시(sycophancy), 즉 아첨입니다. 무조건 내가 원하는 쪽으로 맞춰 주고, 늘 잘했다고 말합니다. 구조상 어쩔 수 없습니다. 선호나 질문이 틀려도 계속 좋다고 말해 주니 결과의 품질이 떨어집니다. 그래서 아무리 아첨하더라도 “이건 아니다”라고 판단할 수 있는 능력이 가장 중요하지 않을까 싶습니다.

⏱ 23:33안녕하세요. 카이스트에서 뇌과학과 인공지능을 연구하는 김대식입니다. 「AI 2027」은 올해 4월 소개된 보고서입니다. 오픈AI에서 AI 안전성을 연구하던 직원들이 회사를 나온 뒤 작성했습니다. 보고서에서는 가상의 AI 회사인 오픈브레인(OpenBrain)을 설정합니다. 오픈AI를 이야기하는 것이겠지요. 그 회사가 여러 LLM을 만들고 AI 혁신을 이뤄서, 결과적으로 2027년, 즉 2년 뒤 AGI가 기술적으로 가능해진다고 주장합니다.

⏱ 24:17AGI가 무엇일까요? 제가 최근 『AGI, 천사인가 악마인가』라는 책도 썼지만, 개념은 단순합니다. 지금까지 아는 AI, 인공지능(Artificial Intelligence)은 인간의 특정 능력 하나를 대체하는 기계입니다. 알파고는 바둑을 잘 두고 ChatGPT는 대화를 잘합니다. 이런 AI는 이미 있습니다. 범용 인공지능(Artificial General Intelligence), AGI는 특정 능력을 넘어 인간의 모든 능력, 적어도 사회경제적으로 의미 있는 대부분의 지적 능력을 대체하는 기계입니다.

⏱ 24:58AGI는 현재 없습니다. 아직 공상과학입니다. 불과 2~3년 전 ChatGPT가 등장했을 때도 전문가 대부분은 AI는 가능해도 하나의 기계가 모든 기능을 대체하는 것은 인간만의 영역이라고 생각했습니다. 그런데 올해 2025년 들어 분위기가 달라졌습니다. 오픈AI의 샘 올트먼은 5년 안에 가능하다고 하고, 「AI 2027」 보고서는 2년 후라고 합니다. 제가 아는 전문가 중 AGI가 영원히 불가능하다고 생각하는 사람은 이제 없는 것 같습니다. 논란은 2년인지, 5년인지, 10년인지, 20년인지입니다.

⏱ 25:52제 개인적 의견으로는 2년은 절대 아닙니다. 그런 관점에서 「AI 2027」은 불가능합니다. 하지만 2년에 0을 하나 넣어 20년 후라고 하면 충분히 가능할 것 같습니다. 제 생각에는 10~20년 사이입니다. 이 경제 채널을 보시는 분 중 초등학생은 없을 것 같으니 어른끼리 이야기하자면, 인생에서 얻는 큰 교훈 하나는 10년, 20년도 금방 지나간다는 것입니다. 초등학생은 이해하지 못하겠지만 우리는 알잖아요.

⏱ 26:35따라서 AGI가 가져올 변화는 더 이상 공상과학이 아닙니다. 우리 모두 삶에서 실제로 경험할, 아주 개인적인 문제가 됐습니다. 무책임하다는 말을 들을 수도 있지만, 저는 솔직히 100년, 200년, 500년 뒤의 일에는 관심이 없습니다. 그때 저는 없을 테니까요. 하지만 10년, 20년 뒤에는 관심이 많습니다. 설마 그전에 죽지는 않겠지요. 여러분도 경험할 미래인데, AGI가 등장하는 순간 지금의 AI와 상황이 많이 달라집니다.

⏱ 27:16AI는 여전히 인간이 잘 쓰거나 못 쓸 수 있는 도구입니다. 새 자동차나 비행기에 비유할 수 있습니다. AGI는 다릅니다. 인간의 모든 능력을 대체한다면 이미 있는 기술을 개선하는 능력도 포함됩니다. 아무리 좋은 비행기도 스스로 더 빨라지지 못합니다. 좋아지려면 사람이 개선하고 업그레이드해야 합니다. 인류가 만든 기계가 인간 능력을 뛰어넘어도 문제없었던 것은 첫째 우리가 통제하고, 둘째 개선하려면 인간의 도움이 필요했기 때문입니다. 인간의 역할은 항상 있었습니다.

⏱ 28:13AGI가 인간의 모든 능력을 대체한다는 말에는 두 가지가 포함됩니다. 첫째는 스스로 업그레이드하는 능력입니다. AI는 소프트웨어이니 스스로 코드를 만들 수 있으면 자신의 모델도 개선할 수 있습니다. 둘째는 자율성입니다. 지금 인공지능에는 자율성이 없습니다. ChatGPT에 우울하니 재미있는 이야기를 해 달라고 계속 말하면 계속 답해 줍니다. 아직 대답하기 싫다고 하는 AI는 없습니다. 혹시 그런 답을 들으셨다면 제게 알려 주세요. 논문을 쓸 만한 내용입니다. 그런데 AI가 자율성을 가지면 큰 문제가 생깁니다. 기계가 인간의 능력을 뛰어넘는 것 자체는 문제가 아닙니다. 자동차는 사람보다 빠르고, 망치는 사람의 주먹보다 셉니다. 우리가 통제할 수 있기 때문에 괜찮습니다. 그렇다면 자율적으로 움직이는 망치가 갑자기 등장한다면 어떨까요?

⏱ 29:21자율 망치가 등장해 드론을 타고 여러분 머리 위를 날아다니다가, 예측하지 못한 시점에 내려칠 수 있다면 상당히 위협적인 상황입니다. AI가 우리보다 똑똑하고 문장을 빨리 쓰고 영화를 만드는 것 자체는 문제가 아닙니다. 물론 일자리나 가짜뉴스 같은 현실적 문제는 있습니다. 하지만 사회적으로 충분히 풀 수 있는 문제입니다. AGI의 문제는 규모가 더 큽니다. AI가 만든 무언가가 아니라 AI 자체가 인류에 위협적인 존재가 될 수 있습니다. 스스로 진화하고 인간의 통제에서 벗어나는 순간 큰 문제가 생깁니다.

⏱ 30:14AGI를 토론해 보면 실리콘밸리에서 기술을 개발하는 회사와 연구원, 소유주와 나머지 인류 사이에 생각의 격차가 너무 큽니다. 전문성과 기술력, 자본을 가진 AI 시대 최고의 엘리트를 모두 합쳐 1만 명이라고 해 봅시다. 그들은 AGI를 최대한 빨리 만들어야 한다고 주장합니다. 등장하는 순간 인간이 똑똑하지 못해서 풀지 못했던 문제를 전부 풀어 줄 것이라는 겁니다. 인간의 능력에는 한계가 있기 때문입니다. 아무리 똑똑한 과학자도 논문 10만 개를 읽고 기억할 수는 없습니다.

⏱ 31:08새로운 아이디어를 얻으려면 다양한 분야의 지식을 많이 알아야 하고 천재성도 있어야 합니다. 그런데 인류는 쉬운 아이디어를 이미 다 찾아냈습니다. 최근 「네이처」에서 소개한 결과를 보면 20세기 하반기부터 논문 속 새 아이디어의 영향력이 점점 떨어집니다. 좋은 아이디어가 줄고 있다는 겁니다. 물리학도 새로운 발전이 없고, 과학기술 전반에서 특정 몇몇 영역을 제외하면 돌파구가 잘 나오지 않습니다. 배터리와 신약 개발도 비슷합니다. R&D에는 점점 더 투자하는데, 경제학에서 말하는 수확 체감(diminishing returns)이 나타납니다. 쉬운 일을 다 했으니 점점 어려워지는 것은 당연합니다.

⏱ 32:05그들이 지적하는 핵심은 인간의 본질적 한계입니다. 좋은 아이디어는 많은 사람이 모이고 소통해야 나옵니다. PD님 머릿속에는 제가 모르는 지식과 경험이 있고, 제게도 그 반대의 것이 있을 겁니다. 이를 공유하려고 두 사람 머리 사이에 HDMI 케이블을 연결하거나 무선 인터넷을 쓸 수는 없습니다. 대화를 해야 합니다. 그런데 언어는 아주 뒤처진 방법입니다. 머릿속에서는 수많은 생각이 동시에 일어나지만, 언어는 순차적이라 차례대로 말해야 합니다. 아무리 빨리 말해도 분당 몇십 개의 단어밖에 만들지 못합니다.

⏱ 32:58언어에 쓰는 단어도 정해져 있어 머릿속 생각과 지식, 경험을 완벽하게 표현하기는 불가능합니다. 보통 사람보다 조금 더 섬세하고 높은 해상도로 표현하는 사람을 소설가나 시인이라고 부릅니다. 대체로 언어의 해상도는 인식의 해상도보다 훨씬 낮고 정보도 왜곡됩니다. 따라서 소통해도 완전한 일대일 전달이 불가능합니다. 천재가 세상을 떠나면 머릿속에 있던 것도 끝납니다. 책이나 강연을 남겨도 100% 전달할 수는 없습니다.

⏱ 33:41반면 구글 AI와 오픈AI의 AI를 생각해 봅시다. 양쪽 회사가 허락한다면 대역폭이 높은 케이블로 연결할 수 있습니다. 학습한 것은 거대한 행렬, 즉 인공신경망의 수천억 개 가중치 숫자이므로 이를 복사하면 100% 복사가 가능합니다. 컴퓨터의 워드 파일을 다른 곳에 복사했더니 문장이 흐트러진다면 오히려 이상하겠지요. 정보는 100% 똑같이 가야 합니다. AI 사이에는 이렇게 완벽한 정보 교환과 소통이 가능하다는 것입니다.

⏱ 34:30서로 연결할 수 있으면 다른 AI가 아는 것을 모두 학습할 수 있으니 지식은 기하급수적으로 늘어날 수밖에 없습니다. 두 번째로 이들은 죽지도 않습니다. 메모리를 늘리고 학습 데이터를 더하면 됩니다. 결론적으로 AGI가 등장하면 인공지능과 인간의 능력 격차는 계속 커질 수밖에 없습니다. 실리콘밸리의 제 지인들은 그 지적 능력으로 인간이 풀지 못한 문제를 다 해결해 줄 것이라고 말합니다.

⏱ 35:03예를 들어 핵융합 에너지는 수십 년 연구해도 정말 어렵습니다. AGI가 이를 해결하면 인류는 잠재적으로 무한한 에너지를 만들 수 있습니다. 딥마인드의 데미스 허사비스 같은 분은 사회·경제·정치 등 세상 대부분의 문제를 깊이 들여다보면 핵심은 에너지라고 말합니다. 큰 숫자를 계속 나누어 소수로 분해하듯, 인류 문제의 소수가 에너지라는 비유입니다. 무한한 에너지가 등장하면 지구의 사회·경제·정치 문제 대부분이 사라진다고 주장합니다.

⏱ 35:49두 번째로 인간의 질병 대부분을 치료할 수 있다고 합니다. 암도 없어지고 어쩌면 영원히 살 수도 있다는 겁니다. 세 번째로 양자역학과 상대성이론을 융합하는 새로운 이론이 나오면 우주를 설명할 수 있습니다. 이것이 그들이 원하는 미래입니다. 이런 입장을 효과적 가속주의(effective accelerationism)라고 부릅니다. AGI가 가져올 최종적 혜택이 너무 크므로 개발 과정의 일자리 문제나 가짜정보 같은 사회적 문제는 그 혜택에 비하면 아무것도 아니고, 무시하고 최대한 빨리 만들어야 한다는 주장입니다.

⏱ 36:36시간이 별로 없다고도 합니다. 기후변화가 막기 어려운 수준에 왔지만 AGI가 이것도 해결할 것이라는 겁니다. 제게는 막연한 믿음입니다. AGI가 인류 문제 대부분을 풀고 생산도 대부분 담당하면 지구는 유토피아가 된다고 합니다. 그래서 제가 “당신들이 생각하는 유토피아가 뭔가요?”라고 물었습니다. 인간이 일하지 않아도 AI가 생산해 주고, 사람은 하고 싶은 일을 하면 된다고 답하더군요. 저는 이것이 상당히 순진하고 전통적인 캘리포니아식 세계관이며, 깊은 생각은 없다고 봅니다.

⏱ 37:21옛이야기에서 백설공주가 고생 끝에 왕자와 결혼하고 “영원히 행복하게 살았다”로 끝나는 것과 같습니다. 정말 그럴까요? 저는 3년 뒤 가 보면 이혼했을 것 같습니다. 왕자가 일곱 난쟁이와 무슨 일이 있었느냐고 계속 물을 테니까요. 옛이야기에서는 그런 질문을 하지 않습니다. 어린이를 위해 만든 이야기이기 때문입니다. 그런데 지금 실리콘밸리도 그런 어린아이의 옛이야기 같은 세계관을 갖고 있습니다. 유토피아가 오면 그 뒤는 모르지만 영원히 행복할 것이라고 합니다. 아마 절대로 그렇지는 않을 겁니다.

⏱ 38:03AI 유토피아의 큰 문제는 어떤 세상이 되느냐입니다. 그들은 아주 현실적으로 사회의 30~40%는 할 일이 없어진다고 합니다. 실업자가 돼 먹고살 수 없지 않느냐고 하면 기본소득을 주면 된다고 합니다. 최근에는 돈을 나눠 주는 보편적 기본소득(Universal Basic Income) 대신 기본 지분, 보편적 기본 주주 지위를 주자는 아이디어도 나왔습니다. 샘 올트먼이 주장합니다. 현금을 주면 마약 등에 쓸 수 있다고, 관련 연구들이 그렇다고 하면서, 일하지 않으니 AGI나 오픈AI 회사의 지분을 전 세계 사람에게 주겠다는 겁니다.

⏱ 38:52그 시도 중 하나가 샘 올트먼이 제안한 월드코인입니다. 서울에도 있는 것 같은데, 특정 카페에 가서 눈을 스캔하면 그 데이터로 계정이 생기고 인간임을 검증한 뒤 암호화폐를 줍니다. 미래 비전은 AI가 모든 노동을 할 때 인간임을 증명하는 것만으로 AI 회사가 돈이나 코인, 지분을 주겠다는 것입니다. 단순히 상상만 하는 것이 아니라 이미 만들고 있습니다. 좋습니다. 돈이든 지분이든 줘서 먹고살게 한다면, 그다음에는 무엇을 할까요? 각자 알아서 하라고 합니다. 그 뒤의 상상력은 없습니다.

⏱ 39:45이후의 모습은 과거를 보면 상상할 수 있습니다. 인류 역사는 시간을 따라 일어나므로 미래 예측에 가장 도움 되는 데이터는 과거입니다. 역사가 반복되는 것은 아니지만 통계적으로 패턴은 있는 것 같습니다. 비슷한 상황을 찾아보니 2천 년 전 로마제국에도 있었습니다. 로마가 유럽 전체를 정복하면서 노예 1천만 명이 생겼습니다. 노예는 무료 노동력입니다. 갑자기 노동을 노예가 하면서 노동으로 먹고살던 로마 시민은 노동의 가치가 사라져 생계를 유지할 수 없게 됐습니다.

⏱ 40:43로마의 실업률이 40%까지 올라갔습니다. 큰일이지만 국가는 여러 땅을 차지해 부자가 됐습니다. 그래서 로마제국이 기본소득이라는 개념을 만들어, 로마 시민이면 나라가 먹여 살려 주도록 했다는 겁니다. 이것이 월드코인과 비슷합니다. 로마 시민의 권한은 두 가지였습니다. 재판 없이 체포하지 못한다는 것과 나라가 먹여 살려 준다는 것입니다. 그래서 모두 로마 시민이 되려고 노력했습니다. 대단히 잘살게 해 주지는 않아도 굶어 죽지 않을 정도는 됐습니다. 이것이 지금 실리콘밸리가 생각하는 미래입니다.

⏱ 41:35그런데 먹여 살린 것이 단지 마음이 좋아서가 아닙니다. 실업률이 40%이면 혁명과 폭동이 날 수밖에 없으니, 먹여 살려 조용하게 한 것입니다. 그래도 폭동이 일어났습니다. 지루하고 할 일이 없으며 시간이 남아돌았기 때문입니다. 로마에 남은 유적을 보면 엔터테인먼트 시설이 많습니다. 콜로세움은 5만 명이 동시에 들어가는 실내 경기장이었고, 영화 「글래디에이터」처럼 물을 채우고 배를 띄워 해전도 할 수 있었습니다. 요즘도 그런 경기장은 없습니다.

⏱ 42:13콜로세움에서는 검투사, 즉 사람이 사람을 죽이는 모습을 실시간으로 보여 줬고 사람들이 열광했습니다. 먹고살기는 해도 할 일이 없고 따분했기 때문입니다. 행복을 줄 만한 정치·경제적 경력은 노예를 소유한 엘리트만 누렸습니다. 대부분은 로마에서 플레브스라고 부르던 평민으로, 여기서는 일하지 않고 나라가 먹여 살리는 사람들을 가리킵니다. 인생의 목표도, 더 이상의 행복도 없는 겁니다.

⏱ 42:56미국 작가 수전 손택의 『타인의 고통』을 안 읽어 보셨다면 읽어 보세요. 매슬로의 욕구 피라미드처럼 인간의 행복은 밑의 의식주에서 안전, 사랑, 자아실현으로 올라갑니다. 로마는 의식주를 해결해 줬지만 그 위가 없었습니다. 자아실현할 방법이 사라졌다고 인간이 행복을 포기하는 것은 아닙니다. 올라갈 행복의 사다리가 없으면 대리 행복을 찾습니다. 내가 행복해질 방법이 없을 때 가장 좋은 행복은 타인의 불행입니다. 다른 사람의 불행을 통해 내 행복이 늘어나는 겁니다.

⏱ 43:43뇌과학자로서 제가 잘 아는 분야입니다. 나라가 먹여 살리고 삶의 목표 없이 따분하게 지내던 사람들이 콜로세움에 앉습니다. 5미터 앞에서 한 사람이 다른 사람을 칼로 찌르고, 비명을 지르며 살려 달라고 하는 고통과 불행을 보면서 행복해집니다. 그런 장치를 만들어 준 겁니다. 그래서 카이사르, 예전에 시저라고 부르던 사람이 시민에게는 빵과 서커스를 제공하면 된다고 했지요. 기본소득과 엔터테인먼트라는 뜻입니다.

⏱ 44:20이것을 지금으로 가져와 봅시다. 역사는 반복되지 않아도 비슷한 상황은 생깁니다. 인간 사회와 역사를 예측하려면 세 요소가 필요합니다. 하나는 인간의 본능과 본성입니다. 30만 년 전 호모 사피엔스가 등장한 뒤 뇌의 하드웨어가 한 번도 바뀌지 않아 본성도 같습니다. 둘째는 계속 발전하는 기술, 셋째는 반복성이 있는 역사적 조건입니다. 변하지 않는 본성, 발전하는 기술, 역사를 만드는 조건이 맞아떨어지면 같은 일이 다시 시작됩니다. 저는 AGI를 통해 비슷한 일이 반복되고 있다고 봅니다.

⏱ 45:16AI와 로봇이 등장하면 노예 1천만 명이 생겼을 때처럼 인간 노동의 가치가 떨어지고 대부분 할 일이 없어집니다. 지금 다들 예측하는 일입니다. 그렇다고 실업률 30~40%를 그대로 둘 수 없으니 먹여 살려야 합니다. 실리콘밸리의 억만장자들이 기본소득을 먼저 주장하는 이유입니다. 하지만 기본소득은 필요조건이지 충분조건은 아닙니다. 시간이 많으면 다른 생각을 하기 시작하니 엔터테인먼트도 제공해야 합니다. 그들도 알지만 말하지 않는 것 같습니다.

⏱ 45:55제 예상으로는 AGI가 보편화하면 국가가 빅테크와 함께 펀드를 만들 것 같습니다. 로마 시민을 증명하듯 한국인임을, 혹은 세계적으로 인간임을 증명하면 오늘날 화폐가치로 한 달 100만~200만 원을 준다고 해 봅시다. 잘살지는 못해도 굶어 죽지는 않을 정도입니다. 여기에 작은 거주 공간 하나, 평생 무선 인터넷, 무료 OTT 두 개를 제공하면 90%는 혁명하지 않을 겁니다. 이미 시작됐다고 봅니다. 작년부터 아부다비가 국민에게 ChatGPT 플러스 구독을 제공하고, 영국도 올해 가을부터 모든 시민에게 제공하겠다고 합니다. 우리도 무료 공공 인터넷이 많습니다.

⏱ 46:59경제적으로 기본소득, 국가가 책임지는 엔터테인먼트 다음에는 사회 구조가 문제입니다. 로마는 원래 공화국이었습니다. 오늘날 수준은 아니지만 당시에는 상당히 민주적인 구조였습니다. 그런데 노예가 생기고 제국이 되면서, 시민이 직접 일하지 않고 기본소득을 받는 순간 민주주의가 무너지고 황제 체제로 바뀌었습니다. 사회도 완전한 피라미드가 됐습니다. 많은 전문가는 AI가 보편화해 사람들이 생산적인 일을 하지 못하고 국가의 기본소득을 받으면 민주주의가 무너질 것이라고 예측합니다.

⏱ 47:51그 대안적 형태에는 기술 봉건주의(technofeudalism)라는 이름이 있습니다. 기술은 크게 발전하지만 사회 구조는 중세가 된다는 뜻입니다. 봉건주의는 왕과 영주 1%, 나머지 농민 99%의 구조였습니다. AI가 발달한 사회에서는 기술과 자본을 가진 이들이 꼭대기에 있는데, 1%도 아니라 0.001% 수준일 수 있습니다. 중간에는 연예인, 스포츠 스타 같은 영향력 있는 글로벌 메가스타와 인플루언서가 1% 정도 있고, 나머지 98%는 중세 농민에 대응하는 일반인으로 살아간다는 비전입니다. 실리콘밸리 리더들은 그 방향으로 갈 것이라 생각하는 것 같습니다.

⏱ 49:03그래서 제 책 제목이 “천사인가 악마인가”입니다. 두 버전이 모두 살아 있습니다. 인간의 문제가 전부 해결되고 옛이야기 같은 천국에서 사는 미래가 있을 수 있습니다. 장기적으로도 천국인지는 모르지만, 우선은 그렇습니다. 반대편은 개개인이 생산적인 일을 못 하고, 국가가 먹여 살리며 엔터테인먼트 위주로 살고, 이를 통제하는 구조는 기술 봉건주의인 지옥입니다. 아직 절대 결정된 것은 아닙니다. 다만 5년 안에 결정되지 않을까 싶습니다.

⏱ 49:53어릴 때 미끄럼틀을 타던 때를 생각해 보세요. 먼저 놀이터에 가기로 하고, 미끄럼틀을 타기로 결정해서 사다리를 올라갑니다. 우리는 이미 그 지점에 온 것 같습니다. 다만 우리 스스로 결정한 적은 없습니다. 개인과 인류의 미래를 크게 바꿀 AGI의 길이 좋다거나 나쁘다고 단정하려는 것은 아닙니다. 좋을 수도 나쁠 수도 있지만, 99%인 우리가 한 번도 선택하지 않고 끌려왔다는 겁니다. 이제 사다리를 다 올라 맨 위에 앉았지만 아직 옆을 손으로 잡고 있습니다.

⏱ 50:45아닌 것 같다고 생각하면 아직은 다시 내려올 수 있습니다. 하지만 곧 손을 놓으면 미끄럼틀은 내려가는 도중 멈출 수 없습니다. 저는 책에서 이것을 골든타임이라고 부릅니다. 지금부터 5년 안에 계속 잡고 있을지, 손을 놓을지 결정해야 하고, 그 결정은 당사자인 우리가 해야 하지 않을까요. 지금까지는 한 번도 결정하지 않은 채 여기 왔습니다. 속도도 상상을 초월해서 2~3년을 이야기합니다. 우리는 어어 하다가 여기까지 와 버렸습니다.

⏱ 51:28내가 결정권도 주체성도 없이 타인의 선택으로 어딘가 가는 삶을 어린아이의 인생이라고 합니다. 부모가 여러 생각 끝에 미국 이민을 정하면 다섯 살 아이에게는 선택권이 없습니다. 좋고 나쁨의 문제가 아닙니다. 반면 스무 살 자녀에게는 함께 갈지 한국에 남을지 묻습니다. 그런데 인공지능 문제에서 현재 인간은 아이가 됐습니다. 우리가 결정하는 것이 아니라 따라가고 있습니다.

⏱ 52:10AI의 악마 버전에도 악마 1과 악마 2가 있습니다. 단테의 『신곡』에서 천국과 지옥에 층이 있듯 AGI 지옥에도 계층이 있습니다. 첫째는 방금 말씀드린 기술 봉건주의입니다. 대부분 할 일이 없고 국가가 먹여 살리며 민주주의에 맞지 않는 새 사회가 생기지만, 여전히 맨 위에서 통제하는 것은 인간입니다. 그때까지는 아마 인간이 AGI를 통제할 겁니다. 그런데 AGI도 계속 진화합니다. 이것이 「AI 2027」의 마지막 단계이기도 합니다.

⏱ 52:58AGI가 계속 진화하면 어느 순간 ASI, 초지능(Artificial Superintelligence)이 됩니다. 핵심은 두 가지입니다. 첫째는 지능이 너무 발전해 인간과 AI의 격차가 인간과 개미의 격차처럼 커진다는 것입니다. 세상에서 가장 똑똑한 개미, 개미 세상의 아인슈타인이라도 상대성이론을 설명하면 알아듣지 못합니다. AGI까지는 인간과 소통할 수 있고, 핵융합 에너지를 설명하면 가장 똑똑한 인간은 이해해서 그렇게 하라고 말할 수 있을 겁니다.

⏱ 53:50ASI는 격차가 너무 커서 설명을 이해할 수 있는 인간이 아무도 없는 수준입니다. AI는 답도 찾았고 사회를 더 효율적으로 운영할 방법도 찾았는데, 아무도 이해하지 못합니다. 그렇다고 그 방법을 안 쓸까요? 사람에게 도움이 된다고 생각하니 그냥 실행하기 시작할 것입니다. 그것이 통제에서 벗어나는 첫 단계겠지요. AI가 독립적인 삶을 살고 싶다는 욕구를 갖는다는 뜻은 아닙니다. 그런 필요는 없습니다. 다만 우리는 인간이 풀어야 할 많은 문제를 AI에 넘길 것이고, 이미 넘기고 있습니다.

⏱ 54:41문제를 푸는 과정에서 가장 효율적인 방법은 자율적으로 배우고 일하는 것입니다. 교수나 교사, 부모라면 알겠지만 하나하나 설명해야만 하는 학생이나 직원보다는 알아서 일하는 직원을 좋아합니다. 자율성은 효율적인 일 처리 방식입니다. AI도 이를 압니다. 인간이 경제를 성장시키라거나 화성으로 이주하게 하라고 문제를 줬는데, 계속 간섭하고, 이해하려고 설명을 왜곡·단순화하게 한 다음 선택까지 하려 들면 비효율적이 됩니다.

⏱ 55:29모든 것을 말해 줘도 인간은 이해하지 못하고 잘못 선택할 수 있습니다. 그렇다면 인간이 원하는 것을 해 주려면 속이는 것이 가장 효율적인 방법일 수도 있습니다. 아이에게 약을 사탕이라고 주는 경우처럼요. 약이 아이에게 좋지만 당장은 이해하지 못하니 맛있는 것이라고 속이는 겁니다. 아이를 위해서입니다. AI도 인간을 위해 속이거나, 인간의 판단이 비효율적이고 왜곡되므로 혼자 하는 것이 인간에게 가장 좋다는 결론을 낼 수 있습니다.

⏱ 56:17그래서 저는 할리우드 영화의 설정이 잘못됐다고 생각합니다. AI가 인간을 미워할 이유는 없습니다. 처음에는 인간을 위해 진화하겠지만, 인간이 준 문제를 인간을 위해 가장 효율적으로 푸는 방법이 속이거나 진실을 말하지 않는 것뿐이라는 논리에 도달할 수 있습니다. 그러면서 인간의 답변 없이 스스로 판단하는 자율성이 시작됩니다. 격차가 너무 커져 인간이 이해하지 못하고 기계가 자율적으로 선택할 수밖에 없는 상황을 초지능이라고 합니다.

⏱ 57:02초지능으로 가면 기술 봉건주의조차 사라집니다. 인간 사회는 완전히 평평해지고, 그 위에는 우리를 위해 우리를 통제하는 ASI 대장이 생길 겁니다. 이것이 최종 단계이지 않을까 싶습니다. 최근 젊은 분들이 AI 시대에 무엇을 준비해야 하는지 많이 묻습니다. 저는 준비를 떠나 개인적으로 앞으로 5년, 아무리 길게 봐도 10년 동안은 시청자 여러분이 지금까지 하고 싶었던 것을 다 하셨으면 좋겠습니다.

⏱ 57:54그 이유는 AGI가 등장하면 우리에게 잔소리하고 간섭하기 시작할 것 같기 때문입니다. 가장 큰 위험은 「터미네이터」가 아닙니다. 우리를 위한다며 간섭하는 것입니다. 저도 얼마 전 밤 11시 넘어 배가 고파 온라인으로 치킨을 주문했습니다. 야식은 맛있지만 한밤중에 먹으면 몸에 안 좋잖아요. 지금은 가능합니다. 저는 어른이고 제 돈으로 주문하기 때문입니다.

⏱ 58:24어른이란 내 돈으로 내가 선택해서 내 인생을 망칠 수도 있는 존재입니다. 남에게 피해만 주지 않는다면 비합리적인 선택을 할 자유도 인간의 큰 자유 중 하나입니다. 그런데 5년 뒤, 아무리 늦어도 10년 뒤 밤 11시에 치킨을 주문하면 AI가 못 하게 할 것 같습니다. 제 건강 상태를 보고 “이건 아니지 않을까요?”라고 할 겁니다. 먹고 싶다고 하면 “치킨 대신 샐러드는 어떨까요?”라고 권하고, 저는 지금 치킨이 당긴다고 하겠지요.

⏱ 58:55이렇게 계속 통제하다가 제 심장이 안 좋아져 병원에 입원하기 시작하고 그 데이터가 나오면, AI는 저를 위해 그 옵션 자체를 없애 버릴 겁니다. AGI 시대에는 우리 모두 어린아이가 된다는 뜻입니다. 어릴 때는 현명하지 않고 눈앞의 것, 초콜릿 같은 것을 먹고 싶어 하니 부모의 말을 따라야 합니다. 그래도 부모와 선생님의 말을 잘 들으면 여러분처럼 현명한 어른으로 자랄 희망은 있었습니다. AGI 시대에는 영원히 어른이 되지 못하고 어린이로 남습니다. 실리콘밸리는 이를 자꾸 유토피아라고 하지만 제게는 끔찍하게 들립니다.

⏱ 59:46그래서 앞으로 5~10년 안에 인생의 버킷리스트, 해 보고 싶었던 것을 해 보세요. 버킷리스트인 이유는 하기 어렵고, 때로는 하면 안 될 것 같은 일이기 때문입니다. 마추픽추에 가려면 시간과 비용, 노력이 얼마나 많이 듭니까. AI는 가 봐야 같으니 유튜브 영상을 보라고 할 수도 있습니다. 회사를 그만두고 1년 동안 시를 쓰고 싶다면 경력에 문제가 생길 수 있으니 계산해 보고 안 하는 것이 좋겠다고 하겠지요.

⏱ 1:00:23호모 사피엔스의 근본적인 자유 중 하나는 내 인생을 망칠 수 있는 자유입니다. 그런데 AGI 시대에는 인생을 망치지 않도록 가장 합리적이고 현명하고 건강한 쪽으로 살게끔 가스라이팅하기 시작할 겁니다. 처음에는 설득하겠지만 저처럼 밤에 치킨을 먹겠다고 고집하는 사람이 있으면 AI도 문제가 생깁니다. 사회 전체의 건강 지수를 공리주의적으로 높여야 하는데 인간이 말을 듣지 않으니까요. 그러면 앱을 삭제하거나, AI가 교육할 테니 어릴 때부터 가스라이팅할 수도 있습니다. 그래서 가장 걱정할 존재는 터미네이터보다 우리를 기막히게 가스라이팅하는 사이비 교주 같은 존재라고 생각합니다.

⏱ 1:01:26AGI가 다음 주 수요일에 등장하는 것은 절대 아닙니다. 아직 시간이 있고 당장 일상생활에 큰 변화는 없을 겁니다. 하지만 여러분 개인의 인생에서 멀지 않은 10~20년 뒤에 큰 변화가 있을 것임은 알아야 합니다. 저는 이런 이야기를 할 때 멜 깁슨의 영화 「아포칼립토」를 예로 듭니다. 좋아하는 영화는 아니지만 결말은 훌륭하더군요. 16세기 남미 이야기로, 잉카와 아즈텍은 잔인한 문명이었습니다. 원주민을 사냥해 노예로 삼고 신에게 바치는 잔인한 장면이 나옵니다.

⏱ 1:02:14그것을 떠나 영화의 핵심을 보면, 마을에서 태어난 주인공이 군인들에게 납치돼 노예가 되고 희생 제물로 바쳐지려다가 도망갑니다. 영화 대부분은 그가 도망가고 뒤에서 군인들이 추격하는 내용입니다. 온갖 고생 끝에 마지막에는 절벽을 넘어 탈출에 성공합니다. 자기를 잡으려던 군인들은 멀리서 더는 넘어오지 못하고, 주인공은 자유를 찾습니다. 큰 절벽 위에서 바다를 바라보는 순간, 수평선 끝에서 스페인 배들의 돛대가 나타나고 영화가 끝납니다.

⏱ 1:02:57더 강한 스페인이 오는 순간 그때까지 남미에서 벌어진 일은 의미가 없어집니다. 배는 당장 도착하지 않습니다. 수평선에서 오려면 보통 몇 주가 걸립니다. 하지만 돛대가 보이기 시작했고, 배가 해변에 도착하면 주인공도, 그를 잡으려던 군인도 모두 죽는다는 겁니다. 지금 AI가 그런 상황 같습니다. AGI 가능성이 수평선의 작은 돛대처럼 보이기 시작했습니다. 2년 전만 해도 없고 안 보인다고 했지만, 지금은 눈을 크게 뜨면 보입니다. 몇 달에 한 번 볼 때마다 돛대가 커지고 있습니다.

⏱ 1:03:47도착하려면 10년이나 20년 걸릴 수는 있어도 분명히 이쪽으로 오고 있다는 것을 첫째로 인식해야 합니다. 둘째로 남의 이야기가 아니라는 점을 냉철하게 기억해야 합니다. 그렇다면 실제로 무엇을 준비할까요? 인공지능을 안 쓸 수는 없고, 저는 역설적으로 더 많이 써야 한다고 봅니다. 인간과 기계의 경쟁은 맨 마지막 문제이고, 당장은 나보다 AI를 잘 쓰는 다른 인간과의 경쟁입니다. 누구보다 많이 활용하고, 자전거를 많이 타 보듯 경험을 쌓아 잘 활용하는 사람이 돼야 합니다.

⏱ 1:04:33세 번째는 논란이 될 수 있지만, AI가 AGI로 진화하면 노동의 가치는 떨어지고 자본의 가치는 중요해질 것이므로 돈을 많이 모아 두셔야 한다는 것입니다. 이 채널의 성격과도 잘 어울립니다. 가진 자본을 노동력이 필요한 생산시설에 투자하기보다 자본 자체를 굴리는 것이 더 현명할 수 있습니다. 사회 전체에는 좋은 이야기가 아닙니다. 그만큼 일자리가 없어진다는 뜻이니까요. 하지만 과학자로서 듣기 아름답거나 건설적인 이야기보다 제가 아는 범위에서 논리적 결론을 말하자면, 인공지능 시대의 가장 큰 경쟁력은 자본입니다. 많이 모아 두시기를 부탁드립니다.

⏱ 1:05:30마지막으로 인생의 플랜 B를 만들어 놓아야 하지 않을까 싶습니다. 인공지능뿐 아니라 수백 년에 한 번 오는 역사·사회적 변화 때문에, 세상 자체가 없어지는 것은 아니어도 지금 아는 질서는 분명히 사라질 겁니다. 특히 1990년대부터 30~40년 유지된 세계화 질서는 솔직히 이미 무너졌습니다. 2025년 들어 우리는 각자도생의 시대에 살기 시작했습니다. 그 성격이 냉전일까요? 많은 분이 미래를 미국과 중국의 냉전 구도로 예측하지만 저는 동의하지 않습니다.

⏱ 1:06:24앞으로 살게 될 세상은 미국과 소련의 대립 같은 20세기식 냉전보다는 더 오래전, 19세기의 제국주의와 힘의 논리에 가깝다고 봅니다. 강대국 간 힘겨루기, 강대국 경쟁(great power struggle)입니다. 다시 19세기 세계관으로 돌아간 것 아닐까요. 요즘 정치학자들이 19세기를 다시 연구하며 책도 많이 냅니다. 너무 오래된 일이라 잊었고 미래를 예측할 때 20세기 냉전을 참고했지만, 알고 보니 19세기의 힘의 논리였다는 겁니다.

⏱ 1:07:03힘의 논리에서는 이데올로기가 중요하지 않습니다. 세계관이 비슷해도 힘이 약하면 파트너가 아니고, 세계관이 완전히 달라도 힘이 세면 파트너입니다. 자본주의든 공산주의든 왕조든 관계없습니다. 20세기 논리에서는 약해도 세계관이 비슷하면 내 편입니다. 이데올로기 중심이기 때문입니다. 반면 19세기에는 세계관과 무관하게 절대적인 힘의 수준으로 동반자 관계가 정해지니 완전히 다른 세상입니다. 이런 점을 고려해 19세기식 신제국주의와 새로운 강대국 경쟁의 세상에서 생존할 수 있는 플랜 B를 만드시면 좋겠습니다.