- 모방 유희와 튜링 테스트 - 17세기의 철학자 데카르트는 언어는 인간만이 가진 능력이며, 어떠한 기계장치도 인간의 물음에 합당한 답을 내놓을 수 없다고 생각했다. 그로부터 4세기가 흐른 지금, 손바닥 안에 스마트폰이라는 기기를 쥐고 음성명령으로 기기와 대화를 나누는 사람들을 보고 있으면 데카르트의 판단은 틀린 것 같다. 사실 이 모든 발전은 영국의 수학자이자 ‘인공지능의 아버지’인 앨런 튜링의 공이다. 튜링은 기계의 ‘지능’을 판별하는 데 중요한 기준을 제시한 바 있다. 이른바 ‘튜링 테스트’다. 튜링 테스트는 ‘기계가 독자적으로 사고할 수 있는가’를 판단하기 위해 제시되었다. 1950년 튜링은 ‘계산기계와 지능’이라는 논문에서 한 가지 사고실험을 제안한다. 여기에는 한 남자, 한 여자, 그리고 질문자가 등장한다. 질문자가 있는 방은 남자, 여자가 있는 방과 격리돼 있다. 질문자의 임무는 두 사람 중 누가 남자이고 여자인지 판단하는 것이다. 단, 질문자는 상대방의 목소리로 성별을 판단하면 안 되기 때문에 질문자와 남자, 여자와의 대화는 전신 타자기로만 진행된다.튜링은 이 사고실험에서, 우리가 현재 컴퓨터라고 부르는 기계로 남자 혹은 여자 역할을 대신했을 때 질문자가 상대방의 성별을 구별하지 못하고, 심지어 상대가 사람인지 기계인지조차 구분하지 못한다면 이것은 기계가 질문자를 속인것이냐고 물었다. 그는 기계가 사람을 대신한다는 것은 그만큼 어려운 일이라고 생각했다. 그런데 튜링은 1952년 BBC와의 인터뷰에서 기준을 조금 낮추어 만약 30% 이상의 사람들이 자신과 대화한 상대가 컴퓨터가 아닌 사람이라고 판단한다면 , 그 기계는 튜링 테스트를 통과한 것이라고 말했다. 이후 많은 소프트웨어 개발자들이 바로 이 튜링 테스트를 통과하고자 시도했다. 그러다 2014년 6월 7일, ‘유진 구스트만’이라는 대화 프로그램이 튜링 테스트를 통과했다. 그렇다면, 이 대화 프로그램은 사람과 동일한 지능을 갖춘 것d라고 할 수 있을까? - 중국어 방 사고실험 - 존 설은 1980년에 한 편의 논문을 발표한다. 논문의 제목은 <마음, 두뇌, 프로그램>으로 이 논문에서 그는 유명한 사고실험이자 인공지능에 관한 흥미로운 질문이기도 ‘중국어 방 논증’을 제시한다. 존 설은 논문의 서두에서 인공지능을 두 종류로 구분한다. 첫 번째 유형은 ‘약한 인공지능’이다. 약한 인공지능은 인간의 마음 혹은 정신에 관한 연구에서 정확하고 엄밀한 방식으로 일련의 가설들을 체계적으로 진술하고 검증할 수 있도록 돕는 도구가 될 수 있다. 두 번째 유형은 ‘강한 인공지능’이다 ‘강한인공지능’을 지지하는 학자들은 잘 프로그래밍된 컴퓨터는 이해력과 기타 인지능력을 지니고 있다고 여기므로 이런 컴퓨터는 사실상 마음이라고 주장한다. 그 당시 미국의 인공지능 연구자 사이에서는 이런 관점이 주류를 이루고 있었다. 그러나 존 설은 중국어 방 논증을 통해 강한 인공지능이라는 관점을 반박한다. 존 설은 그 자신이 방 안에 갇혀 있고, 방 안에는 몇 가지 중국어 텍스트가 있다고 가정한다. 여기서 중국어는 실제로 존 설 자신이 전혀 모르는 언어이기 때문에 택한 설정이라고 한다. 이어지는 가정에서는, 방 바깥에 있던 사람들이 그에게 두 번째 중국어 텍스트와 영어로 써 있는 규칙 문서를 전달한다. 이 규칙 문서는 존 설 자신이 첫 번째 중국어 텍스트와 두 번재 중국어 텍스트의 연관 관계를 이해할 수 있게 해주는 문건이다. 간단히 말하면, 중영사전과 영중사전, 그리고 둘의 사용법에 관한 설명서를 준 것이라고 할 수 있다. 이어, 방 바깥에 있는 사람들이 다시 그에게 세 번째 중국어 부호와 영어로 된 규칙 문서를 준다. 이것은 세 번째 중국어 부호와 앞의 두 텍스트 사이의 관계를 이해할 수 있게 해주는 문건이다.다들 눈치챘겠지만, 이 가운데 존설이 이해할 수 있는 것은 영어로 된 문건뿐이다. 그는 영어로 된 규칙 문서를 보면서 유려한 중국어 문장을 조합할 수 있지만, 그 문장이 무슨 뜻이지는 하나도 모른다.예를 들어, 존 설은 영어 설명서에 써 있는 규칙대로 ‘새해 복 많이 받으세요’라는 문장 옆에 ‘세뱃돈 주세요’라는 말을 골라 조합할 수 있지만, 그는 여전히 그 말이 무슨 뜻인지 모를뿐더러 그 두 문장이 왜 어울리는 연결인지도 알지 못한다. 그러나 방 밖에 있는 사람들은 번번히 적절한 대답이 나오는 것을 보면서 방 안에 있는 그가 중국어를 잘 안다고 잘못 생각할 수 있다. 존 설이 중국어 방 논증을 통해 하려는 말은, 제아무리 잘 프로그래밍된 컴퓨터가 정해진 명령대로 올바른 작업을 수행했다 해도 그것은 컴퓨터가 언어를 이해한 것이라고 말할 수는 없으며, 나아가 컴퓨터가 마음 혹은 의식을 갖추었다고 말할 수는 없다는 것이었다. 존 설의 이 논문은 즉각 각계에 엄청난 반향을 불러일으켰다. 어떤 학자는 “지난 25년간 나온 논문 가운데 인지과학과 인공지능 분야에 가장 큰 영향력을 미친 논문”이라고 평했다. 물론 반박도 존재했다. - 존 설의 중국어 방 논증에 대한 반박 - 미래학자 레이 커즈와일의 ‘시스템 논변’은 존 설의 중국어 방 논증에 대한 가장 강력한 반박에 속한다. 방 안에 있는 존 설은 중국어를 모르지만, 존 설과 방 안의 도구들은 하나의 시스템을 이루고 있으며, 존 설은 다만 그 시스템의 일부라는 것이 커즈와일의 대답이었다. 존 설 자신은 중국어를 몰랐지 몰라도 전체 시스템은 중국어를 ‘알고’‘이해했으므로, 정확한 대답을 한 것은 사실 존 설이 아니라 전체 시스템이라는 것이다. 인공지능 철학 연구자인 마거릿 보든 역시 자신의 논문 <중국어 방에서 탈출하기>를 통해 존 설의 논증을 반박한다. 그는 존설이 “두뇌의 판단 능력과 신경단백질의 특성은 서로 연관돼 있지만, 금속과 실리콘 사이에는 그러한 연관이 없다’라고 하면서 두뇌의 사고 능력을 사실상 두뇌의 생물학적 특성으로 환원시키고 있다고 말한다. 그는 존 설이 범주의 오류를 범하고 있다고도 지적한다. 보든은 ”두뇌가 인과 판단의 토대이긴 하지만, 그 인과 판단을 두뇌의 세포와 신경 조직이 직접 하지는 않는다“라고 하면서 ”인간이 사고 활동을 할 때 두뇌에서 사고와 판단이 이루어지는 메카니즘을 잘 연구할 수 있다면 우리는 금속으로도 인간의 두뇌와 똑같은 기능의 또 다른 두뇌를 만들어낼 수 있을 것“이라고 말했다. 이렇듯 존 설의 중국어 방 논증은 인공지능 분야에서 엄청난 논쟁을 불러일으켰다. 비록 그 논쟁의 대부분은 인공지능 분야 종사자들의 반박이었지만 말이다. 튜링 테스트마저 뚫은 인공지능 엔지니어들은 이제 더 높은 목표를 향해 도전하고 있다. - 지향성이라는 난제 - 인공지능 분야에서 더 높은 목표란 무엇일까? 존 설은 인간만이 지닌 특성으로 지향성을 든 바 있다. 아마 이것이 인공지능의 더 높은 목표일 것이다. 지향성intentionality라는 게 뭘까? 우리가 어떤 단어를 말할 때 우리의 의식은 어떤 대상을 지시하고 있다. 그러나 기계가 똑같은 단어를 음성으로 내놓을 때는 ‘달’이라는 소리를 모방할 뿐 ‘달’이라는 대상을 지시하고 있지 않다. 우리가 컴퓨터 운영체제에서 특정 문건의 제목만 바꾸고 내용은 하나도 바꾸지 않았을 때, 컴퓨터는 그 둘을 서로 다른 문건으로 간주한다. 인간은 지향성이 있기 때문에 대상의 동일성 여부를 판단할 수 있다. 지향성은 중세 유럽의 스콜라 철학에서 처음 제시된 개념이다. 인간의 의식은 지향성 내지 의도성을 지니고 있으며, 이것은 인간의 의식과 정신의 근본 특성이다. 그런데 이러한 지향성은 반드시 생물만의 특성이라고 할 수 있을까? 지폐 계수기와 돈 세는 사람 사이에는 무슨 차이가 있을까? 미국의 철학자 대니얼 데닛은 지폐 계수기는 진정한 의미의 계산을 하는 것이 아니라 단지 기어가 돌아가는 것일 뿐이라고 말한다. 아니, 지폐 계수기는 사실 기어가 돌아간다기 보다 물리적 규칙을 따르는 것에 더 가깝다. 그렇다면 인간에게도 그런 관점을 적용해볼 수 있다. 인간 역시 진정으로 계산한다기보다 심리적 부호를 조작하는 것일 뿐이라거나, 심리적 부호를 조작한다기보다 뇌 안의 뉴런을 자극하는것일 뿐이라거나, 아니, 인간 스스로 뉴런을 자극한다기보다 물리학 법칙에 따라 뉴런이 자극되는 것이라고 말이다. 대닛의 이러한 입장은 전형적인 자연주의라는 관점에서 존 설의 입장과 완전히 다르다. 대닛의 이론에서 인간의 의식, 지능, 정신은 많은 부분에서 기계와 본질적으로 차이가 없다. 인간의 의식과 기계 사이에 엄청난 차이가 존재하든 그렇지 않든, 인공지능은 이미 우리 생활 속에 깊이 파고들어 있다.번역기를 통한 번역이라든가 자율주행, 안면인식, 증시에서의 극초단타매매 등이 모두 인공지능 기술을 활용한 것이다. 우리는 인공지능의 발달이 더 나은 미래를 가져다주리라고 기대하고 있지만, 인공지능의 발달 속도는 인간의 윤리적, 법적 검토의 속도를 뛰어넘고 있다. 2016년 1월, 중국허베이성에서는 전 세계에서 처음으로 테슬라의 자율주행 차량인 모델S에 의한 교통사고 사망 사건이 발생했다. 모델S의 자율줗ㅇ 소프트웨어는 자차의 전방에 있던 공사 차량을 제때 피하게 만들 수 없었다. 이런 사건에 대해서는 누구에게 책임이 있을까? 아직까지 이에 대한 법률적 규정이 없다. 그래서인지 법원에서도 사건을 심리하고는 있지만 판결은 계속해서 늦어지고 있다. 우리는 이 지점에서 ‘트롤리 딜레마Trolley Dilemma’가 떠오르지 않을 수 없다. 인공지능 차량이 도로에서 달리고 있는데 갑자기 아이들 다섯 명이 도로에 뛰어들었다고 가정해보자. 이때 차량은 갑자기 속도를 제어하기 힘들 만큼 빠르게 달리고 있고, 차 안에는 엄마와 갓난아기가 타고 있다. 이때 지율주행 소프트웨어가 가장 우선으로 보호해야 할 대상은 차량 안에 있는 탑승자일까, 차량 바깥에 있는 사람들일까? 인공지능을 둘러싼 토론은 결코 기술적 문제 하나에만 국한되지 않는다. 인공지능에 관한 문제는 우리의 생활 전반에 걸쳐져 있고, 심지어 인류의 미래와도 연관돼 있다. 그러므로 인공지능에 관한 토론장에는 기술적 전문가와 과학자만이 아니라 사회학자, 법률가도 자리해야 한다. 아, 물론 철학자도 빠질수 없다.

236. 존설 ---------- 마음, 두뇌, 프로그램