인공지능과 인격: 크래시 코스 철학 23강

⏱ 01:32약한 인공지능은 인간 지능의 일부를 좁은 범위에서 모방하며, 강한 인공지능은 실제로 인간처럼 사고하는 시스템이다. 시리·맞춤법 검사·계산기는 전자의 예다. 튜링 테스트는 문자 대화에서 인간과 기계를 구별할 수 있는지로 사고 능력을 판단한다. 우리도 타인의 행동을 보고 이해와 의도를 추정한다는 것이 행동 기준의 근거다.

⏱ 04:00라이컨의 로봇 해리는 감정과 의도를 보이며 친구처럼 지낸다. 피 대신 기름이 흐른다는 이유로 인격을 부정할 수 있는가? 인간 역시 유전과 교육으로 형성되므로 프로그래밍 여부만으로 구분하기 어렵다. 기원·재료·생식 능력도 인격의 결정적 기준인지 따져야 한다.

⏱ 06:39설의 중국어 방에서는 중국어를 모르는 사람이 규칙에 따라 기호를 조작해 원어민을 납득시킨다. 설은 성공적인 응답과 실제 이해를 구분하며 튜링 테스트에 반론을 제기한다. 이에 방 안의 개인이 몰라도 사람·규칙서·기호를 합친 시스템 전체는 이해할 수 있다는 반박이 나온다. 학습의 핵심은 인간 같은 행동, 실제 이해, 인격의 기준을 구분해 각 논증을 검토하는 것이다.

⏱ 00:03크래시 코스 철학은 스퀘어스페이스의 후원으로 제작됩니다. 스퀘어스페이스, 여러분의 열정을 세상과 나누세요. 자, 여러분, 진지하게 이야기해 봅시다. 좀 걱정이 됩니다. 제 형 존이 로봇일지도 모르겠거든요. 터무니없게 들린다는 건 압니다. 형은 사람처럼 생겼습니다. 대체로는요. 행동도 사람 같습니다. 대부분의 경우에는요. 하지만 겉모습과 실제 정체가 같다는 걸 어떻게 정말 100퍼센트 확신할 수 있을까요? 적어도 형의 머리와 몸, 내부 작동 방식까지 속속들이 들여다보지 않고서 말입니다. 제가 동생이라는 점도 기억하세요. 어쩌면 부모님은 형을 병원에서 데려온 게 아니라 전자제품점 라디오셱에서 사 오셨을 수도 있잖아요. 그렇다면 제 형 존 그린이 인간인지, 그저 대단히 똑똑한 기계인지 어떻게 구별할 수 있을까요? [주제 음악]

⏱ 00:51몇 주 전 우리는 인격체라는 것이 무엇을 뜻하는지 이야기했습니다. 하지만 좀 더 살펴봐야 할 문제가 있습니다. 로봇처럼 살아 있지 않은 존재도 인격체가 될 수 있을까요? 이 문제는 공상과학 작가들만의 관심사가 아닙니다. 기술은 계속 발전하고 있고, 우리가 인격을 갖췄다고 판단할 만한 존재를 결국 만들어 낸다면, 그런 새로운 인격체 후보들을 어떻게 대해야 할지 정해야 하기 때문입니다. 로봇, 안드로이드, 리플리컨트, 사일런 등 뭐라고 부르든 말이죠. 관련 작품을 읽고 보셨다면 제가 어떤 존재들을 말하는지 아실 겁니다.

⏱ 01:21이런 생각이 들지도 모릅니다. “이미 인공지능이 있지 않나요? 제 휴대전화에도 있잖아요?” 맞습니다. 다만 문자메시지를 보내고 이메일을 교정하고 출근 경로를 짜는 데 쓰는 인공지능은 기술적인 의미에서 꽤 약한 인공지능입니다. 인간 지능의 어떤 측면을 모방하는 기계나 시스템을 약한 인공지능(Weak AI)이라고 합니다. 시리가 좋은 예지만, 비슷한 기술은 그보다 훨씬 오래전부터 있었습니다. 자동 수정, 맞춤법 검사, 심지어 구식 계산기도 인간 지능의 일부를 모방할 수 있습니다. 사고와 비슷한 능력을 발휘하는 범위가 비교적 좁다는 것이 약한 인공지능의 특징입니다.

⏱ 01:51반면 강한 인공지능(Strong AI)은 실제로 우리처럼 생각하는 기계나 시스템입니다. 우리 뇌가 하는 일이 무엇이든, 강한 인공지능은 똑같은 일을 하는 무기적 시스템입니다. 약한 인공지능은 오래전부터 존재했고 계속 더 강력해지고 있지만, 우리는 아직 강한 인공지능을 갖춘 시스템을 설계하지 못했습니다. 그런데 어떤 존재가 강한 인공지능을 갖췄다는 것은 무슨 뜻일까요? 실제로 그런 일이 일어나면 우리가 알아볼 수나 있을까요?

⏱ 02:12일찍이 1950년, 영국의 수학자 앨런 튜링은 바로 이 질문을 생각하고 있었습니다. 그는 기계가 우리처럼 생각할 능력을 갖추게 되었는지 보여 줄 수 있다고 생각한 검사를 고안했습니다. 튜링 테스트라고 부르는 검사입니다. 튜링이 설명한 검사는 그 시대의 산물이었습니다. 당시에는 이렇다 할 컴퓨터가 거의 없었죠. 하지만 튜링이 오늘날 이 검사를 설명한다면 아마 다음과 같은 방식으로 이야기했을 겁니다.

⏱ 02:31여러분이 두 상대와 문자로 대화하고 있다고 해 봅시다. 한쪽은 인간이고, 다른 쪽은 컴퓨터나 어떤 종류의 인공지능입니다. 하지만 어느 쪽이 누구인지 알려 주지 않습니다. 여러분은 두 대화 상대에게 원하는 것은 무엇이든 물어볼 수 있고, 상대도 원하는 방식으로 자유롭게 답할 수 있습니다. 심지어 거짓말해도 됩니다. 여러분은 어느 쪽이 인간인지 알아낼 수 있을 것 같나요? 어떻게 알아내겠습니까? 어떤 질문을 하겠습니까? 또 어떤 종류의 답변이 돌아올 것이라고 예상하나요?

⏱ 02:53충분히 복잡하게 프로그래밍된 기계라면 여러분이 다른 인간과 대화한다고 믿도록 속일 수 있을 겁니다. 튜링은 기계가 인간으로 하여금 자신을 인간이라고 믿게 만들 수 있다면, 그 기계는 강한 인공지능을 갖췄다고 말했습니다. 따라서 그의 관점에서 우리처럼 생각한다는 것은 자신이 우리처럼 생각한다고 우리를 납득시킬 수 있다는 뜻입니다. 우리가 차이를 구별할 수 없다면 실제로 차이는 없다는 것이죠. 이것은 철저하게 행동을 기준으로 삼는 검사입니다.

⏱ 03:14생각해 보면, 우리가 서로를 판단할 때 쓰는 기준도 결국 행동이지 않나요? 사실 저도 로봇일 수 있습니다! 이번 영상을 촬영하도록 도와주는 이 사람들도 마찬가지죠. 제가 안드로이드 무리와 함께 일한다고 생각하지 않는 이유는 이들이 제가 사람에게 기대하게 된 방식대로 행동하기 때문입니다. 적어도 대부분은 그렇습니다. 또 누군가가 우리와 매우 비슷한 행동을 보일 때, 가령 지향성이나 이해를 드러내는 듯한 행동을 할 때, 우리는 그 사람에게 지향성과 이해가 있다고 가정합니다.

⏱ 03:38이제 수십 년을 건너뛰어 현대 미국 철학자 윌리엄 라이컨을 만나 봅시다. 그는 여러 면에서 튜링에게 동의하며, 인공지능이 엄청나게 발전한 시대에 산다는 이점도 누리고 있습니다. 하지만 라이컨은 여전히 많은 사람이 이렇게 생각한다는 것을 압니다. 인격체처럼 보이는 로봇은 만들 수 있어도, 실제 인격체인 로봇은 결코 만들 수 없다는 것입니다. 그런 사람들에게 라이컨이 한번 생각해 보라고 내놓는 존재가 있습니다. 바로 해리입니다.

⏱ 04:00해리는 진짜 같은 피부를 가진 인간형 로봇입니다. 골프를 치고 비올라를 연주할 수 있습니다. 긴장하기도 하고, 성관계를 맺기도 하고, 비싼 진에 약한 모습도 보입니다. 해리는 존 그린처럼 모든 면에서 인격체라는 인상을 줍니다. 의도와 감정이 있고, 여러분은 그를 친구로 여깁니다. 그런데 해리가 베인 상처에서 피 대신 모터 오일을 흘린다면 분명 놀라겠죠. 하지만 라이컨에 따르면, 그런 사실이 밝혀졌다고 해서 해리의 인지적 지위를 “인격체”에서 “인격체와 비슷한 것”으로 낮춰서는 안 됩니다. 해리가 인격체가 아니라고 주장한다면, 그에게 무엇이 부족한 걸까요?

⏱ 04:31한 가지 가능한 답은 해리가 프로그래밍되었기 때문에 인격체가 아니라는 것입니다. 이에 라이컨은 “우리 모두 그렇지 않나요?”라고 되묻습니다. 우리 각자는 온갖 성향을 갖게 하는 유전 암호를 지닌 채 태어났습니다. 어머니처럼 성미가 급하거나 할아버지처럼 무심한 듯한 유머 감각을 가졌을 수도 있죠. 태어날 때 갖고 있던 코드 외에도 부모와 교사는 여러 방식으로 우리를 프로그래밍했습니다. 화장실과 식기를 쓰는 법, 포르투갈어 대신 영어를 말하는 법을 배우도록 말이죠. 물론 여러분이 포르투갈어를 쓴다면 예외겠지만, 그래도 프로그래밍되었다는 점은 같습니다. 지금 제가 무엇을 하고 있다고 생각하나요? 여러분을 프로그래밍하고 있습니다! 물론 여러분은 주어진 프로그래밍을 넘어설 수 있습니다. 하지만 해리도 그럴 수 있습니다. 이것이 라이컨의 요점입니다.

⏱ 05:08우리 같은 인격체와 해리를 가르는 또 다른 차이로, 우리에게는 영혼이 있지만 해리에게는 없다고 말할 수도 있습니다. 지금까지 크래시 코스 철학을 충분히 보셨다면 이 주장이 얼마나 문제적인지 아실 겁니다. 그래도 신이 존재하며, 신이 우리 각자에게 영혼을 주었다고 가정해 봅시다. 물론 “영혼을 부여하는 과정”이 어떤 모습인지는 전혀 모릅니다. 하지만 신이 수정란이나 갓 태어난 아기에게 영혼을 불어넣을 수 있다면, 해리에게도 그렇게 할 수 없다고 생각할 만한 이유는 없다는 정도는 말할 수 있겠죠.

⏱ 05:35해리는 생식할 수 없지만, 생식할 수 없는 인간도 많습니다. 그렇다고 우리는 그들을 인격체가 아니라고 하지 않습니다. 해리에게 피가 없긴 합니다. 하지만 정말 피가 여러분을 여러분이게 하는 요소라고 생각하나요? 라이컨은 해리가 인격체라고 말합니다. 해리의 기원과 물질적 구성은 여러분이나 저와 다르지만, 그게 무슨 상관인가요? 결국 피부색이나 성기가 다르다는 이유로 누군가를 “인격체가 아닌 존재”로 분류하던 시대와 장소도 있었습니다. 하지만 우리는 그런 사고방식이 면밀한 검토를 견디지 못한다는 것을 압니다.

⏱ 06:011950년에 튜링은 어떤 기계도 자신의 검사를 통과할 수 없다는 것을 알고 있었습니다. 하지만 2000년까지는 그런 일이 일어날 것이라고 생각했죠. 그런데 컴퓨터 프로그램은 할 수 없는 방식으로 우리가 주어진 프로그래밍을 벗어나 생각할 수 있기 때문에, 튜링 테스트를 통과할 프로그램을 설계하기는 매우 어려웠습니다. 하지만 어떤 것이 실제로 통과할 수 있게 되면 어떻게 될까요? 많은 사람은 기계가 튜링 테스트를 통과하더라도 그것이 실제로 강한 인공지능을 갖췄다는 뜻은 아니라고 주장합니다. 이 반론자들은 “우리처럼 생각한다”는 데는 단순히 우리를 속이는 것 이상의 무언가가 있다고 말합니다. 짧은 철학 탐구를 위해 생각 풍선 코너로 가 봅시다.

⏱ 06:29현대 미국 철학자 존 설은 “중국어 방”이라는 유명한 사고실험을 만들었습니다. 인간처럼 보이는 것만으로는 강한 인공지능의 자격을 갖추기에 충분하지 않다는 것을 보여 주려는 실험입니다. 여러분이 중국어를 전혀 하지 못하는 사람이라고 상상해 보세요. 여러분은 한자가 가득 든 상자들과 함께 방 안에 갇혀 있습니다. 방에는 어떤 입력에 어떤 문자로 응답해야 하는지 알려 주는 영어로 된 규칙 설명서도 있습니다.

⏱ 06:50중국어 원어민들이 중국어로 적은 메시지를 방 안으로 전달합니다. 여러분은 규칙 설명서를 이용해 받은 문자에 어떻게 응답할지 알아내고, 그에 맞는 문자를 답으로 내보냅니다. 무슨 뜻인지는 전혀 모르지만 규칙은 제대로 따르는 겁니다. 실제로 이 일을 너무 잘해서 중국어 원어민들은 여러분이 중국어를 안다고 믿게 됩니다. 중국어로 진행하는 튜링 테스트를 통과한 것이죠. 하지만 여러분은 중국어를 아나요? 당연히 모릅니다. 여러분은 기호의 의미를 전혀 이해하지 못한 채 기호를 조작하는 방법만 알 뿐입니다. 그러면서 실제로는 모르는 것을 안다고 사람들이 믿도록 속이고 있는 것이죠.

⏱ 07:20마찬가지로 설에 따르면, 기계가 사람으로 하여금 자신을 인격체라고 생각하게 만들 수 있다는 사실이 그 기계에 강한 인공지능이 있다는 뜻은 아닙니다. 설은 강한 인공지능이라면 기계가 실제로 이해할 수 있어야 한다고 주장합니다. 그런데 그는 컴퓨터가 그런 이해에 도달하는 일은 결코 가능하지 않다고 생각합니다. 생각 풍선 코너, 고맙습니다! 마치기 전에 한 가지만 더 짚어 봅시다.

⏱ 07:36중국어 방 사고실험에 대해 어떤 사람들은 이렇게 반박했습니다. 물론 방 안의 여러분은 중국어를 모릅니다. 하지만 여러분 뇌의 특정한 어느 부위도 그 자체로 영어를 아는 것은 아닙니다. 뇌라는 전체 시스템이 영어를 아는 것이죠. 마찬가지로 중국어 방이라는 전체 시스템, 곧 여러분과 규칙 설명서와 기호들을 합한 전체는 중국어를 압니다. 그 시스템의 특정한 구성 요소인 여러분이 중국어를 모르더라도 말입니다.

⏱ 07:57그래서 저는 계속 생각해 봤습니다. 여전히 존이 로봇이 아니라고 확신할 수는 없습니다. 사실 해리의 사례는 우리 가운데 누구의 내부에서 실제로 어떤 일이 벌어지는지 우리는 모른다는 점을 제게 분명히 깨닫게 해 주었습니다. 하지만 존, 제가 평생 알고 지낸 바로 그 존의 몸속에 피 대신 모터 오일이 들어 있다는 사실이 밝혀지더라도, 그래도 그는 여전히 제 형일 겁니다.

⏱ 08:13오늘은 인공지능에 관해 배웠습니다. 약한 인공지능과 강한 인공지능, 그리고 여러 사상가가 강한 인공지능을 정의하려고 시도한 다양한 방식을 살펴봤습니다. 튜링 테스트와 이에 대한 존 설의 응답인 중국어 방도 검토했습니다. 윌리엄 라이컨과 해리, 그리고 아직 안드로이드일 가능성은 있지만 아마 그렇지는 않을 제 형에 대해서도 이야기했습니다. 다음 시간에는 인공지능에 관한 이번 논의의 뒤편에 줄곧 자리 잡고 있던 문제를 살펴보겠습니다. 우리 가운데 누구에게든 자유의지가 있을까요?

⏱ 08:37이번 영상은 스퀘어스페이스의 후원으로 제작되었습니다. 스퀘어스페이스는 여러분과 여러분의 아이디어를 위한 웹사이트, 블로그, 온라인 상점을 만드는 데 도움을 줍니다. 실력과 관계없이 전문가가 디자인한 것처럼 보이는 웹사이트를 만들 수 있고, 코딩도 필요 없습니다. 특별 혜택을 받으려면 squarespace.com/crashcourse에서 이용해 보세요. 스퀘어스페이스, 여러분의 열정을 세상과 나누세요. 크래시 코스 철학은 PBS 디지털 스튜디오와 협력해 제작합니다. 해당 채널에서 PBS 오프북, 디 아트 어사인먼트, 블랭크 온 블랭크 같은 프로그램의 최신 회차 재생목록을 확인할 수 있습니다. 이번 크래시 코스 영상은 닥터 셰릴 C. 키니 크래시 코스 스튜디오에서 이 멋진 모든 분의 도움을 받아 촬영했습니다. 그에 못지않게 훌륭한 그래픽 제작팀은 소트 카페입니다.