"학벌 필요 없어요." AI 시대에 주목받는 진짜 역량 | 지식인초대석 EP.59 (이상욱 교수)

⏱ 01:32AGI는 잘 정의된 과업이라면 분야와 관계없이 처리하는 범용 지능을 뜻하지만, 현재 AI에는 한계가 남아 있다. 특정 과업에 맞춘 재훈련이 다른 능력을 잃게 하는 특수 AI와 구별되며, 로봇 기술과도 별개다. 투자자들은 당장의 효용과 수익을 내는 특화된 AI 에이전트를 요구한다. 코딩 에이전트로 신입 채용을 줄이면 장차 AI를 감독할 숙련자가 부족해지는 탈숙련 문제가 생길 수 있으므로, 핵심 인력을 키울 제도와 교육이 필요하다.

⏱ 07:52강연은 향후 30년간 일자리 감소를 최대 30%로 본다는 보고서 내용을 언급하면서, 감소 규모보다 기존 직업의 직능 변화와 재교육을 강조한다. 교사도 효율적인 업무를 AI에 맡기고 학생의 정서 발달과 현명한 활용을 돕는 역할을 준비해야 한다. AI는 데이터와 목적 함수가 잘 갖춰지면 복잡한 작업도 수행한다. 인간의 경쟁력은 전문성을 바탕으로 결과를 평가하고 더 좋은 답인 이유를 설명하는 능력이다. 미드저니의 네 결과 중 무엇이 좋은지 고르고 인간 피드백으로 학습시키는 사례가 이를 보여 준다. 유료 AI도 틀릴 수 있으므로 직접 읽고 요약하는 기초 역량을 길러야 오류를 잡아낼 수 있다.

⏱ 11:48생성 AI는 진위를 판정하기보다 맥락에 자연스러운 말을 생성한다. 강연자는 환각을 구조적 특징으로 설명하며, 검색 근거를 제공해도 최종 생성 단계의 환각까지 없애지는 못한다고 말한다. 다만 예술에서는 낯선 이미지와 줄거리를 만드는 창작 협력자로, 영화에서는 배경 교체로 비용을 줄이는 수단으로 활용할 수 있다. 관심사와 사전지식을 질문에 넣고 추가 질문으로 교정을 유도하되, 탐색 단계에서는 자유롭게 쓰고 중요한 발표 전에는 직접 확인해야 한다.

⏱ 18:03추천 알고리즘의 편향에는 추천 원리의 투명성과 사용자 조절권이 필요하다. 기존 미디어의 균형 보도와도 대비된다. 다른 관점의 콘텐츠를 20% 추천하도록 선택하는 방식이 예다. 휴대폰 마이크와 계정 연계를 통한 맞춤 광고 가능성은 강연자의 추측으로 제시되며, 데이터 수집의 공개와 명시적 동의를 요구한다. AI의 미래는 정해져 있지 않다. 정부의 기회 제공과 공론장, 국제적 합의와 제도, 개인의 리터러시와 적극적 참여로 소중한 가치를 증진하는 방향을 만들어야 한다.

⏱ 00:00진행자: AI가 자꾸 우리 직업을 대체한다고 들었는데, 일자리가 없어지는 것 아닙니까? 교수: 많은 분이 AI는 단순 반복 작업을 잘하고 어려운 것은 사람이 해야 한다고 오해하시는데, 그것은 잘 모르고 하는 이야기예요. 한국에서도 IT 개발자를 덜 뽑고 있습니다. 역설적으로 사람들이 안전하다고 생각했던 분야에서 이런 일이 일어나고 있어요. 중요한 것은 줄어드는 일자리의 개수보다는 기존 직업이 어떻게 영향을 받는가에 주목해야 한다는 것입니다.

⏱ 00:25진행자: 안녕하세요. 한석준입니다. 진짜 대가들의 지식을 전하는 지식인초대석, 오늘은 과학과 철학의 경계에서 화두를 전하는 한양대학교 철학과 이상욱 교수님과 함께합니다. 어서 오십시오. 교수: 안녕하세요. 진행자: 먼저 첫 번째 질문입니다. AGI라는 용어가 있던데, 인간 수준의 범용 지능은 어떻게 봐야 하는 건가요? 교수: 조금 복잡합니다. 제가 관련해서 글도 썼지만, 말하는 사람마다 조금씩 다르게 이야기한다는 점에 주목해야 합니다.

⏱ 00:52교수: 일반인들은 SF에 등장하는, 사람과 전혀 구별되지 않는 안드로이드 로봇이 가진 인공지능을 생각하기 쉬워요. 그런데 로봇 기술과 인공지능 기술은 다릅니다. 로봇은 실제로 물리적 공간을 돌아다니지만, 인공지능은 챗GPT처럼 온라인상에 있는 것이잖아요. 그렇게 한정하더라도 인간 수준의 지능을 가졌다는 말 자체가 모호합니다. 예를 들어 어떤 인간을 말하는 걸까요? 진행자: 그렇죠. 인간의 지능에도 범위가 있네요. 이상욱 교수님 정도 되는 인간도 있고 저 정도밖에 안 되는 인간도 있고요.

⏱ 01:23교수: 그것뿐 아니라 전문가들도 전문 분야가 다르면 서로 다르잖아요. 그래서 인간 수준이라는 말 자체가 애매합니다. 컴퓨터 과학자들이 이것을 어떻게 바꿔 정의하는지가 중요해요. 잘 정의된 과업이라면 그 내용이 무엇이든 모두 처리할 수 있는 인공지능으로 정의합니다. 알파고를 생각해 보세요. 바둑을 기가 막히게 잘 뒀잖아요. 다 이겼으니까 그것을 그만두고 나중에 의료 쪽으로 갔는데, 그쪽으로 훈련시키면 바둑은 더 못 둡니다. 진행자: 복수 전공이 안 되는군요. 교수: 복수 전공이 안 됩니다. 진행자: 하나만 전공할 수 있고요. 교수: 지금은 그렇습니다.

⏱ 01:55교수: 훈련한다는 것은 결국 어떤 일을 아주 잘하도록 전부 조정해 놓는 거예요. 이것은 2.7이어야 하고, 이 스위치는 3이어야 한다는 식으로 다 조정해 놓은 겁니다. 그런데 바둑을 두지 말고 이제 다른 게임을 하라고 하면 게임용으로 전부 바꿔 줘야 해요. 그렇게 바꿔 주면 게임은 잘하지만 이제 바둑은 못 둡니다. 그런 것을 특수 인공지능이라고 해요. 영어로는 아티피셜 스페셜 인텔리전스라고 합니다. 범용 인공지능은 그와 달리 하나의 인공지능에 잘 정의된 문제를 주기만 하면, 별도로 훈련하지 않아도 이것도 하고 저것도 할 수 있는 것을 생각하는 겁니다.

⏱ 02:23교수: 그러면 여러분은 금방 챗GPT를 떠올릴 거예요. 이것을 물어봐도 대답하고 저것을 물어봐도 대답하니까요. 그런데 완벽하게 하지는 않잖아요. 환각도 있고 탈옥도 당하고, 여러 문제가 아직 남아 있습니다. 그나마 AGI에 가장 가깝고 그것을 발전시키면 될 것으로 기대하지만, 아직 일반 인공지능에 도달했다고 말하지 못하는 이유는 이런 한계가 있기 때문입니다. 그리고 그것조차도 지금 그렇게 말을 잘하는 이유는 사실 검색을 하기 때문이에요. 질문을 받으면 그 내용을 가지고 검색해서 결과를 붙이고 생성을 합니다.

⏱ 02:54교수: 반면 인간은 검색하지 않아도 어쨌든 대충은 할 수 있잖아요. 이렇게 생각하시면 됩니다. 저는 지식의 양에서 챗GPT와 상대가 되지 않고, 이미지 생성 인공지능보다 그림도 훨씬 못 그립니다. 그렇지만 저는 둘 다 대충은 해요. 사람은 어느 정도 수준이 되면 사람이 할 수 있는 거의 모든 일을 대충은 할 수 있습니다. 그런데 인공지능은 아직 그것이 안 돼요. 그것을 하겠다는 것이 일반 인공지능의 꿈입니다. 진행자: 여기서 원론적인 질문을 드리고 싶습니다. 그게 꼭 돼야 하나요?

⏱ 03:20교수: 정확히 그 점이 흥미롭습니다. 지금 기술자들과 투자자들 사이에 갈등이 있어요. 돈이 돼야 하니까요. 투자자 입장에서는 여태까지 돈을 엄청나게 쏟아부었으니 이제 돈을 벌어 와야 하는데, AGI는 무슨 AGI냐는 겁니다. 그래서 요즘 유행하는 것이 AI 에이전트예요. 돈을 벌어 오라는 거죠. 내가 그것을 사용해 무언가 할 수 있으면 돈을 낼 것 아니에요. 그런데 AI 에이전트는 AGI가 아닙니다. 상당히 기능적으로 특화된 인공지능 연구 쪽으로 투자자들이 계속 압력을 넣고 있어요. 제 느낌에는 빅테크 기업들이 당분간 그 방향으로 갈 것 같습니다.

⏱ 03:50진행자: 돈이 될 수밖에 없겠네요. 저만 해도 당장 에이전트가 더 유용하죠. 제가 챗GPT를 붙잡고 농담 따먹기만 하고 있을 것은 아니니까요. 그런데 이 이야기를 듣고 나니, 에이전트는 특정 분야에서 한 사람 몫의 일을 하는 것 아닙니까? 교수: 그렇게 기대하고 있죠. 진행자: 그렇다면 반대로 말해 일자리가 없어지는 것 아닙니까? 교수: 지금 현실화되고 있습니다. 가장 역설적인 것은 사람들이 제일 안전하다고 생각했던 분야에서 일어난다는 점이에요.

⏱ 04:15진행자: 그래서 너무 놀랍습니다. 원래 10년 전에 AI를 이야기할 때는 그래도 예술 하는 사람은 괜찮을 것이라고 했는데, 지금 예술이 제일 먼저 영향을 받고 있잖아요. 교수: 그리고 지금 판교에서 IT 개발자를 덜 뽑고 있어요. 이유는 아주 단순합니다. 개발자로 처음 입사하는 사람들은 훈련을 받았어도 실무는 처음이잖아요. 어차피 가르쳐야 합니다. 코딩하는 AI 에이전트도 아직 불완전하지만 가르쳐서 쓰면 되거든요. 싸기 때문입니다. 그것이 무서운 이야기죠.

⏱ 04:42교수: 다만 조심할 점은 아직 인간을 완전히 대체하는 것은 아니라는 겁니다. AI를 가르쳐 가며 쓸 수 있는 고급 인력, 그러니까 경력 5년 차 이상이나 10년 차인 사람들은 있어야 해요. 진행자: 책임자는 있어야 하는군요. 교수: 그렇습니다. 이 사람들을 없애고 AI 에이전트로 전부 대체할 수는 없어요. 그런데 여기서 더 심각한 문제가 생깁니다. 지금 기업 입장에서는 비용을 줄여야 하니까 그렇게 가는데, 탈숙련이라는 문제가 생겨요. 진행자: AI에 일을 지시할 수 있는 경력 5년, 10년의 숙련된 기술자가 없어지는 것 아닙니까?

⏱ 05:08교수: 기존 인력은 점점 정년이 되고, 아래에서는 신입을 뽑지 않았고 훈련도 시키지 않았으니까요. 일부를 뽑았더라도 아주 소수만 남게 됩니다. 사회 전체적으로 실제로 AI에 일을 잘 시키고, AI가 한 일을 보고 잘못했다고 가르쳐 주고, 그 아이디어들을 조합해 거대한 프로젝트를 할 수 있는 역량이 점점 줄어드는 거예요. 심각합니다. 제 개인적인 입장에서는 이 문제를 고민해야 한다고 생각해요. 당연히 효율성을 중시하므로 AI로 대체하지 못하게 할 수는 없습니다. 그렇지만 프로그램 전체를 감독하고 설계하는 사람들은 일정 부분 있어야 하잖아요.

⏱ 05:40교수: 그런 사람들을 계속 유지할 수 있는 방안이 무엇일까요? AI로 대체하는 것은 허용하되 회사 내부에서 일정 규모는 AI를 활용할 수 있는 핵심 인력으로 유지하는 방안 등을 생각할 수 있겠죠. 꼭 그렇게 하라는 뜻도 아니고, 저도 그것이 가장 좋은 방법이라고 생각하는 것은 아닙니다. 다만 각 기업 차원의 효율적인 행동에 전부 맡기기보다는, 사회 전체적으로 이런 핵심 역량을 키울 수 있는 방안을 제도화하고 실천해야 한다는 겁니다. 학교 교육에서도 마찬가지입니다. 진행자: 저도 이야기를 듣자마자 중학교와 고등학교부터 AI를 통제하고 다루는 훈련을 바로 시켜야 하는 것 아닌가 생각했습니다.

⏱ 06:12교수: 그렇죠. 제 동료 교수님이 얼마 전에 겪은 일입니다. 수업이 끝나면 학생이 와서 질문하는 것은 자연스럽잖아요. 그런데 한 학생이 다짜고짜 “교수님, 틀렸어요”라고 하더랍니다. 무엇이 틀렸느냐고 했더니, 교수님이 어떤 학자의 견해를 설명했는데 챗GPT는 다르게 이야기했다는 거예요. 요즘 학생들은 강의를 들으면서 챗GPT를 켜 놓고 같은 것을 물어보거든요. 똑같은 내용을 물었는데 다른 이야기를 하면 AI가 맞고 교수가 틀린 건가요? 그것을 기본값으로 생각하는 겁니다.

⏱ 06:34교수: 그래서 교수님이 “나도 강의 준비를 하면서 확인했는데, AI에도 환각이라는 것이 있어서 틀릴 수 있으니 확인해 봐야 하지 않겠니?”라고 했답니다. 그런데 학생은 절대로 그럴 리가 없다고 했어요. 왜냐하면 자기는 무료가 아니라 유료 버전을 쓰고 있다는 겁니다. 진행자: 무슨 소리예요? 저도 돈을 얼마나 많이 내고 있는데요. 교수: 아시잖아요. 유료와 무료의 차이는 자원이나 얼마나 많은 프롬프트를 쓸 수 있느냐 같은 것이지, 무료는 헛소리를 하지만 유료는 헛소리를 하지 않는다는 뜻이 아니에요. 그런데 요즘 대학생들이 그렇게 생각합니다.

⏱ 07:00교수: AI를 현명하게 쓰는 방법을 함께 가르쳐야 해요. 또 여기에 과의존하면 자신이 할 수 있는 일이 없어진다는 것도 알려 줘야 합니다. 예를 들어 책을 읽고 요약하는 일은 AI에 시키면 너무 쉽지만, 그 능력은 스스로 연습해 둬야 해요. 그래야 나중에 AI가 헛소리할 때 “요약은 잘했는데 이 부분은 틀렸네” 하고 잡아낼 수 있습니다. 그것이 오히려 누구나 AI를 쓰는 시대에 자신의 경쟁력이라는 것을 가르쳐야 합니다. 진행자: AI가 자꾸 우리 직업을 대체한다고 하는데, 그렇다면 기존에 이미 일하고 있는 우리가 AI를 쓰면 일을 더 잘할 수 있나요? 어떤 직업이 AI를 쓰면 더 잘할 수 있느냐고 묻지만, 생각해 보면 거의 모든 직업 아닙니까?

⏱ 07:33교수: 정확히 맞습니다. 제 개인적인 의견만이 아니라 실제로 유엔 보고서에도 그렇게 나와 있어요. 진행자님이 정확히 지적하신 겁니다. 대중 매체에서는 우리 모두 일자리를 잃는다거나, AI 시대에는 이것을 해야 살아남는다는 식으로 굉장히 단순하게 이야기해요. 그런데 유엔 보고서나 유엔의 노동 기구인 ILO 등에서는 같은 이야기를 합니다. 앞으로 30년 정도의 기간을 봤을 때 줄어드는 일자리의 개수를 최대 30% 정도로 보는데, 중요한 것은 그 개수보다는 기존 직업이 어떻게 영향을 받는가에 주목해야 한다는 겁니다.

⏱ 08:06교수: 기존 직업의 직능이 변할 것이라는 이야기를 많이 해요. 교사라면 지금까지 하던 일 중 AI에 시키는 것이 훨씬 효율적인 일은 조금 넘기고, 학생을 일대일로 만나 정서적인 발달을 돕거나 AI를 현명하게 사용하는 방법을 가르치는 쪽으로 직능이 훨씬 많이 바뀔 겁니다. 그런데 이것이 쉽지는 않잖아요. 원래 이렇게 일할 줄 알았는데 다르게 하라고 하면 배워야 하고, 어떻게 해야 할지도 고민해야 합니다. 정부나 관련 단체가 직능 변화를 고민하고 재교육에 관심을 기울여야 해요. 기술 도입에만 집중해서는 안 됩니다. 인력 재교육과 직능 변화에 대비해야 한다는 것이 사실상 공통된 견해입니다.

⏱ 08:50진행자: 어떻게 보면 우리는 늘 그래 왔다는 생각도 듭니다. 예를 들어 70년 전에는 운전할 수 있다는 것 자체가 기술이었잖아요. 그래서 운전하는 사람을 높여 부르는 말로 기사라고 했습니다. 그런데 자동변속기 차량이 나오면서 모두 할 수 있는 일이 됐죠. 그래도 운전을 극도로 잘하는 사람은 살아남았거든요. 자기 일을 아주 잘하는 사람은 계속 살아남아 있지 않을까요? 교수: 정확히 보셨습니다. 그러면 지금 AI가 무엇을 못하는가를 생각해 봐야 합니다.

⏱ 09:16교수: 많은 분이 AI는 단순 반복 작업은 잘하지만 복잡하고 어려운 것은 잘 못하니 사람이 해야 한다고 말씀하시는데, 그것은 잘 모르고 하는 이야기예요. AI는 어차피 무엇이 어렵고 쉬운지 아는 존재가 아닙니다. 양질의 훈련 데이터가 있는지, 목적 함수가 얼마나 잘 정의되어 있는지가 중요해요. 예를 들어 건물 전체의 에너지 효율을 어떻게 높일 것인지가 아주 구체적이고, 문제가 잘 정의되어 있으며 데이터가 많으면 단순 반복 작업이 아닌 굉장히 복잡한 작업도 잘합니다.

⏱ 09:48교수: AI가 정말 못하는 것은 평가입니다. 아까 이미지 생성 AI인 미드저니를 써 보셨다고 했잖아요. 항상 답을 여러 개, 네 개씩 주죠. 똑같은 프롬프트를 넣어 네 개가 나왔는데 어떤 것은 참 잘 그렸고 어떤 것은 말도 안 되는 것도 함께 나옵니다. 그런데 인공지능 입장에서는 그 네 개가 동등해요. 똑같은 프롬프트에서 생성됐으니까요. 좋은 것과 나쁜 것을 평가하기가 굉장히 어렵다는 겁니다.

⏱ 10:12교수: 그래서 생성형 인공지능의 마지막 단계에서는 인간 피드백을 통한 강화학습이라는 것을 합니다. AI에 질문해서 답변을 여러 개 만들게 하고, 그중 이것이 가장 좋은 답변이라고 알려 줘요. 반대로 “이 답변은 절대로 하면 안 된다. 큰일 난다. 이러면 우리 회사가 문을 닫아야 한다”는 것도 엄청나게 가르칩니다. 그렇게 해서 지금처럼 똑똑한 AI가 나온 거예요. 뒤집어 말하면, 인간의 입장에서 좋은 답과 나쁜 답을 스스로 판단하게 만드는 것은 굉장히 어려운 기술입니다. 불가능하지는 않지만요. 그래서 그 분야의 전문성을 가지고 “이것이 더 좋은 답이다”라고 판단하고 왜 그런지 이유를 대는 능력은 AI 시대에도 여전히 중요합니다.

⏱ 10:50진행자: 말씀 중간에 AI가 틀린 답을 낼 가능성을 계속 말씀하시네요. 할루시네이션이라고 하던가요? 저도 처음 챗GPT가 나왔을 때 좋아서 써 봤습니다. “한석준 아나운서는 어떤 사람이야?”라고 했더니 1970년대 뉴스에서 맹활약한 여성 아나운서라고 하더라고요. 이런 환각은 왜 많이 생기고 언제쯤 없어질까요? 교수: 이것은 주의가 필요합니다. 많은 분이 인공지능이 거짓말하는 것이 문제라고 하는데, 그 말은 정확하지 않아요. 저도 잘못 알고 있다면 모르는 사이에 참이 아닌 말을 할 수 있습니다.

⏱ 11:22교수: 다만 인간과 인공지능에는 중요한 차이가 있어요. 저는 방송에 들어오기 전에 확인한 사안과, 몇 년 전에 어디서 우연히 들어서 맞는 것 같지만 잘 모르는 이야기는 가려서 말하죠. 그런데 지금 생성 인공지능의 기반이 되는 아키텍처는 참과 거짓의 차이가 느껴지지 않게 잘 버무려 내는 능력을 극대화하는 것이 특징입니다. 이 기술에는 참·거짓 필터가 없어요. 내용을 생성할 때 참인지 거짓인지 확인하지 않습니다. 앞에 주어진 내용에 비추어 가장 자연스럽게 뒤따라올 말들을 만들어 내는 거예요.

⏱ 12:02교수: 사람들은 생성 인공지능이 거짓말하는 것이 굉장히 큰 문제라고 하지만, 저는 오히려 이 정도로 참말을 많이 하는 것이 대단한 능력이라고 생각합니다. 사실 원래대로라면 전부 헛소리를 해야 정상인데, 기술자들이 엄청나게 노력해서 참말을 상당히 많이 하도록 만든 거예요. 그래도 기본적인 아키텍처 자체에 그런 한계가 있으므로, 한마디로 정리하면 환각은 줄일 수는 있어도 없앨 수는 없습니다. 진행자: 100% 의존할 수는 없다는 말씀이네요. 교수: 그렇습니다. 그렇다고 인공지능이 내놓은 것을 전부 일일이 확인하면 왜 쓰겠어요? 웬만하면 쓰되 결정적인 순간에는 꼭 확인해서 써야 합니다. 환각은 프로그램을 잘못 만든 버그가 아니라 기술적인 특징이라는 것을 항상 기억해야 해요.

⏱ 12:44진행자: AI 중에 퍼플렉시티처럼 근거를 가져오는 것은 조금 더 신뢰가 가기도 합니다. 교수: 그 경우도 환각이 줄어들 뿐 완벽하지는 않아요. 신뢰성이 높아지는 이유는 질문을 던지면 그 내용과 가장 유사한 콘텐츠를 먼저 찾기 때문입니다. 검색 결과를 질문 앞에 다 집어넣어 헛소리를 덜하도록 제한하는 거죠. 그 단계까지는 사실 할루시네이션이 없지만, 그다음에 또 생성을 합니다. 맥락이 제한되므로 생성 과정에서 환각이 줄어들 수는 있어도, 마지막 단계는 어차피 생성이어서 100% 제거는 불가능합니다.

⏱ 13:19교수: 기분이 별로 안 좋으신 것 같네요. 진행자: 기분이 안 좋기도 하고 좋기도 합니다. 어차피 인간을 대체하지는 못하겠구나 하는 생각도 들어서요. 교수: 아직까지는 인간 대체가 안 되죠. 새로운 기술이 나오기 전까지는요. 진행자: 그렇다면 환각, 할루시네이션에도 좋은 측면이 있습니까? 교수: 그럼요. 환각을 자꾸 거짓말과 참말, 선악의 개념으로 보니까 그렇죠. 결국 세상에 없는 것, 혹은 세상에서 물리적으로 거의 불가능한 것을 만들어 낼 수 있는 능력이잖아요. 예를 들어 예술 분야에서는 환각이 굉장히 생산적입니다.

⏱ 13:46진행자: 그렇군요. 교수: 예술은 기존에 있는 것을 뻔하게 주면 수준이 낮아지잖아요. 새로운 것을 창조해야 하죠. 특히 디지털 아트를 하는 분들은 환각을 아주 생산적으로 활용합니다. 자신에게 어떤 아이디어가 있는데 아무리 짜내도 이미지가 그 정도밖에 떠오르지 않거나, 소설이라면 줄거리가 그 정도밖에 떠오르지 않을 때가 있어요. 그때 그 내용을 모두 주고 “여기서 가능한 모든 것을 창의적으로 만들어 봐”, 혹은 “기괴하게 만들어 봐”라고 하는 겁니다. 그러면 AI가 환각을 하면서 세상에 없는 것을 막 만들어 내요. 그중 괜찮은 것을 다시 주고 여기서 변형해 보라고 하는 식입니다.

⏱ 14:20진행자: 창조성을 가진 동지처럼 쓰는군요. 교수: 정확히 그 표현입니다. 예술가들은 이것이 도구만은 아닌 것 같다고 해요. 붓이나 물감은 머릿속의 예술적 의도를 실현하는 도구지만, 지금의 예술 인공지능은 사실 협력자에 더 가깝습니다. 물론 주도권은 인간이 가지고 있죠. 그래도 AI가 준 답변을 보고 미처 생각하지 못했던 것에 감동하고, 거기서 또 생각해 보게 됩니다. 이야기는 굉장히 잘 통하지만 가끔 멍청한 짓을 해서 조금 타일러 가며 써야 하는 동료인 셈입니다.

⏱ 14:49교수: 또 하나는 비용입니다. 영화에서도 인공지능을 엄청나게 쓰거든요. 어떤 장면을 찍고 나서 봤더니 배우의 연기는 모두 마음에 드는데 배경이 마음에 들지 않을 수 있잖아요. 다시 찍으려고 사람들을 부르면 엑스트라 비용만 해도 어마어마하게 들어요. 그런데 요즘 인공지능은 그 장면을 그대로 주고 배경만 싹 바꿀 수 있습니다. 그래서 비용을 크게 줄일 수 있어요. 환각을 나쁜 것이라고 단정하기보다는, 과의존하지 않으면서 생산적으로 활용할 방법을 분야마다 열심히 모색해야 한다고 생각합니다.

⏱ 15:17진행자: 방금 말씀은 정말 놀랍습니다. 저는 할루시네이션을 정확도를 떨어뜨리는 것으로만 생각했지, 그 자체가 새로운 창의성의 원천이라는 생각은 못 해 봤습니다. 그렇다면 우리 일반인들이 AI의 환각에 대응할 방법은 무엇인가요? 일일이 확인하기에는 너무 시간이 많이 들잖아요. 교수: 일단 두 가지를 제안하고 싶습니다. 하나는 질문할 때 그냥 “무엇에 대해 이야기해 줘”, “이 책은 무슨 내용이야?”라고 하지 않는 겁니다. 대신 자기 관심사와 이미 알고 있는 것들을 모두 집어넣고 제약을 많이 줘서 아주 구체적인 답변을 얻으세요.

⏱ 15:51교수: 그리고 AI는 환각을 자기 교정할 수도 있습니다. 답이 나오면 “진짜 맞아? 내가 보기에는 이것이 아닌 것 같은데 확인해 봐”, “이런 자료도 있네”라고 하면서 계속 추가 질문을 하는 거예요. 그렇게 더 맞는 답으로 유도해 갈 수 있는 능력을 키워야 합니다. 또 하나는 더 원론적인 방법입니다. 정말 중요한 문제는 최종적으로 자신이 확인하되, 탐색 단계에서는 마음껏 쓰세요. 아직 어떤 문제인지 잘 규정되지도 않았고 어떻게 해결할지도 모르는 초기 단계에서는 자유롭게 활용하는 겁니다.

⏱ 16:18교수: 반면 나중에 정말 중요한 자리에서 공적으로 발표하거나 자기 위신이 걸린 문제라면 그 내용을 확인해야 합니다. 어떤 모드인지, 어느 단계인지에 따라 다르게 쓰는 것을 추천합니다. 진행자: 자신의 유튜브 페이지를 누군가에게 절대로 보여 주면 안 된다는 이야기를 들어 보셨습니까? 너무 많은 것이 드러나니까요. 정치적 성향부터 평소에 좋아하는 것까지 알고리즘이 다 띄워 주잖아요. 그런데 그래서 편향적인 면도 있습니다. 이런 편향적인 결과를 가져오는 것은 알고리즘의 문제라고 볼 수 있지 않을까요?

⏱ 16:51교수: 이미 굉장히 큰 문제라고 생각하고 대응책도 모색하고 있지만 쉽지는 않습니다. 핵심은 인간에게 자신이 무엇을 할지 자율적으로 선택할 권리가 있다는 겁니다. AI는 그 권리를 행사할 때 아주 강력한 도구를 제공해 줘요. 좋아하는 동영상을 몇 개 보면 거기에 맞춰 그쪽 분야만 계속 추천해 주죠. 당연히 좋아하는 것이 계속 나오니까 좋습니다. 그런데 바람직하냐고 설문해 보면 별로 좋지 않은 것 같다고 해요. 지금 보는 콘텐츠 말고 다른 세상도 있고 자신이 상당히 편향됐을 가능성도 막연히 알지만, 어쨌든 좋으니까 계속 보게 됩니다. 필터 버블이나 에코 챔버라고 부르는 것이죠.

⏱ 17:33교수: 그래서 대응이 복잡해집니다. 예전에는 레거시 미디어가 중요한 역할을 했어요. 공정 보도 원칙에 따라 굉장히 논쟁적인 사안이 있으면 찬반양론을 늘 균형 있게 보도했죠. 그러면 사람들은 좋든 싫든 양쪽을 들어야 하니까 이런 면도 있구나 하고 생각이 바뀔 수 있습니다. 그런데 유튜브 같은 곳에서 그것을 강제할 수 있을까요? 결국 추천 알고리즘을 건드려야 하는데, 너무 많이 건드리면 개인의 선택권을 제한하게 됩니다. 그래서 많은 사람이 적어도 두 가지를 확실히 하자고 제안합니다.

⏱ 18:03교수: 첫째는 투명성입니다. 유튜브나 포털에서 인공지능이 내게 콘텐츠를 추천할 때 어떤 방식과 원리로, 무엇을 고려해 추천하는지 투명하게 밝히자는 거예요. 둘째는 그중 적어도 일부를 내가 조절할 수 있게 하자는 겁니다. 케이크를 계속 주니까 먹던 사람도 선택권을 주면 “이제 케이크는 더 주지 마”라고 할 수 있어야 하잖아요. 예를 들어 “적어도 20%는 내 생각과 다른 콘텐츠가 자동으로 뜨게 해 줘”라고 선택할 수 있어야 합니다. 그것을 강제할 수는 없지만, 적어도 항목을 선택하면 그런 알고리즘이 작동하도록 하자는 겁니다. 이 두 가지가 아직 지켜지지 않고 있어요.

⏱ 18:40진행자: 그 문제를 떠나서 누군가의 유튜브 페이지에 지식인사이드가 있으면, 이 사람은 굉장히 지식을 탐구하는 사람이구나 하고 알 수 있겠죠. 교수: 300만 구독자 축하드립니다. 진행자: 감사합니다. 인터넷 쇼핑몰도 저는 조금 무섭습니다. 여기서 친구와 “요즘 어떤 마이크가 좋아?”라고 이야기하고 있으면 갑자기 그것이 떠요. 어떻게 된 건가요? 교수: 공식적으로는 절대 인정하지 않는데, 사람들이 실험을 굉장히 많이 했어요. 휴대폰에 마이크가 있잖아요. 통화할 때 쓰지만 원칙적으로는 모든 대화 내용을 듣도록 활성화할 수 있습니다. 내가 말하고 싶을 때만이 아니라 그냥 엿들을 수 있다는 거예요.

⏱ 19:15교수: 그런데 동의의 문제가 있죠. 내가 허용했느냐는 겁니다. 불행히도 사실은 동의했다고 볼 수 있습니다. 진행자: 제가요? 교수: 혹시 구글을 쓸 때 약관을 읽어 보셨나요? 한 40~50페이지 정도 되는데 안 읽어 보셨죠? 저도 안 읽어 봤습니다. 거기에는 소비자에게 제공하는 서비스의 품질을 향상시키기 위해 필요한 데이터와 정보를 수집하고, 이를 기반으로 서비스 품질을 높일 수 있다는 것과 비슷한 구절이 있어요. 기업 입장에서는 그것이라고 주장할 수 있죠. 사람이 사생활을 염탐하는 게 아니라 인공지능이 듣는 거라는 겁니다. 낚시 이야기를 하면 낚시를 띄워 주고, 홍삼 이야기를 하면 홍삼을 띄워 주는 식이죠.

⏱ 19:51교수: 저도 그런 경우가 너무 많습니다. 참고로 제 컴퓨터에는 마이크가 없어요. 그런데도 친구나 가족과 어떤 이야기를 하면 바로 유튜브 추천 동영상에 관련된 것이 떠요. 진행자: 마이크가 없는데 어떻게 하나요? 교수: 옆에 휴대폰이 있잖아요. 구글 계정이 연결돼 있으니까 휴대폰이 듣고 그것을 컴퓨터에 보내 주는 거예요. 물론 이것은 모두 합리적인 추측입니다. 그렇지만 저는 95% 이상의 확률로 맞을 것이라고 봐요. 인정하는 순간 소송 등 문제가 복잡해질 테니까요. 그런데 소송이 걸려도 아마 소비자에게 더 좋은 서비스를 제공하기 위한 것이라고 이야기할 것 같습니다.

⏱ 20:22진행자: 들었는지 안 들었는지 어떻게 증명하겠습니까? 물리적으로 막고 다녀야 하나요? 교수: 아니요. 제도적으로 해결해야 한다고 생각합니다. 아까 말한 원칙과 같아요. 그런 일을 하는지 안 하는지 투명하게 정보를 공개하라는 겁니다. 공개한다면 “이런 경우에 우리가 당신의 이야기를 듣고 광고를 게시하는 데 동의하십니까?”라고 항상 물어보고 해야 해요. 그러면 동의할 사람은 거의 없을 겁니다. 필요한 사람, 동의할 사람은 하면 되죠. 그런데 그렇게 하지 않고 있는 것이 문제이므로, 이것은 제도적으로 풀 문제라고 생각합니다.

⏱ 20:49진행자: 조금 포괄적인 질문을 드리겠습니다. 결국 AI가 우리 인류를 행복하게 만들어 줄까요? 교수: 저는 AI가 우리를 행복하게 만들어 주도록 만들어야 한다고 생각합니다. AI의 미래가 정해져 있고 우리가 할 수 있는 일은 적극 수용하거나 거부하는 두 가지뿐이라고 생각해서는 안 돼요. 기술 개발 자체에도 좋은 거버넌스를 만들어서 우리가 소중히 생각하는 가치를 존중하고 증진하며, 우리를 그 방향으로 강화할 수 있도록 노력해야 합니다. 진행자: 기술이 발전하는 만큼 어떤 방향으로 발전시키고 통제할지에 관한 규정에도 전 국가가 합의를 만들어 가야겠네요.

⏱ 21:30교수: 기술도 만들고 제도도 만들고, 우리가 실천하고 리터러시도 키워야 합니다. 이런 노력이 이루어질 때 훨씬 더 효율적으로 살아남고 더 좋은 일을 많이 할 수 있다고 생각해요. 그 과정에서 여러 가능성을 제공하는 역할은 정부가 해야 합니다. 개인들은 그런 기회를 적극적으로 활용해 자신의 역량을 최대한 끌어올리려고 노력해야 한다고 생각합니다. 진행자: 오늘 긴 시간 동안 AI가 가져올 변화와 우리 사회의 변화를 이야기해 봤습니다. AI 시대가 도래한 지금, 특별히 강조하고 싶은 것이 있으신가요?

⏱ 22:01교수: 아까 말씀드렸듯 국제적 수준에서 고민할 것도 있고 우리나라 상황을 고려해서 고민할 것도 있어서, 사실 우리가 할 일이 굉장히 많습니다. 그나마 다행스럽게 생각하는 것은 지난 정부도 그랬고 최근 정부도 전반적으로 AI가 얼마나 혁신적인 기술인지, 국가의 경제 발전과 미래에 얼마나 중요한지 신경을 쓰는 것 같다는 점입니다. 국정 과제에서도 AI가 핵심 과제로 올라와 있어요. 단순히 AI 기술에 돈을 많이 투입해서 잘하겠다는 것만이 아니라, 어떤 문제가 있을 수 있는지, 사람들은 무엇을 기대하고 두려워하는지 공론장을 통해 모으고 있습니다. 디지털 소사이어티 같은 곳을 통해 논문 경진대회와 토론대회도 하면서 사람들의 생각을 모아 정책으로 만들어 내는 노력을 하고

⏱ 22:46있다는 점에서, 이런 노력이 좀 더 적극적으로 이루어질 필요가 있다고 생각합니다.

⏱ 22:50진행자: 어렵지 않았던 시대는 없는 것 같기도 합니다. 교수: 각 시대마다 도전 과제가 있었죠. 진행자: 이미 다 풀어낸 과거이니까 쉬웠다고 생각하는 것이지, 당시에는 그만큼 어려웠을 것 같습니다. 이제 우리 시대에는 이 과제가 닥쳤으니 잘 해결해 나가야 하지 않을까요. 교수님께서 계속 많은 가르침을 주시겠네요. 오늘 이상욱 교수님과 함께 AI의 미래, 현재 AI 기술의 문제, 그리고 그 문제에 인류가 어떻게 대처해야 하는지 깊은 말씀을 나눴습니다. 이 영상을 시청하는 여러분 한 명 한 명이 어떻게 생각하고 어떤 의견을 내느냐에 따라 훨씬 더 바람직한 미래가 올 수 있다고 생각합니다. 지식인초대석은 여기서 마무리하겠습니다. 고맙습니다. [음악]