바로가기 메뉴
본문 바로가기
대메뉴 바로가기

TECH M

알파고 대국의 의미과 남겨진 과제들

2016-03-28한상기 소셜컴퓨팅연구소 소장
알파고와 이세돌 9단의 대국을 계기로 우리 사회에 매우 의미 있는 사회적 담론이 제기됐다. 이 이벤트는 우리에게 인간 존재의 의미와 의식, 지능형 기계와의 공존, 기계와 인간의 새로운 상호 작용, 그리고 지능의 본질적 문제 등에 대해 생각하게 만들었고 많은 토론이 이뤄졌다. 대국 기간 중 가장 흥미로운 반응은 우리가 매우 자연스럽게 인간 외의 존재에 대해 의인화와 감정 이입을 한다는 점이다. 1944년 오스트리아의 심리학자인 프리츠 하이더(Fritz Heider)는 흥미로운 실험을 했다. 두 개의 삼각형과 하나의 원이 움직이는 것을 보여주는 것이었다. 사람들은 단지 큰 삼각형과 작은 삼각형이 원을 따라 움직이는 모습에서도 질투, 두려움, 경쟁 등을 표현하면서 감정 이입했다. 프리츠 하이더의 실험
(프리츠 하이더의 실험)
이후 많은 연구에서도 이러한 인간의 특성이 확인됐다. 우리는 의도를 갖고 있지 않은 물체에 대해서도 마음을 투영하고 그의 마음을 읽으려는 경향을 갖고 있다. 이를 기반으로 남의 마음을 이해하고 이를 몇 단계까지 추론하는 능력이 우리 인간이 갖는 독특한 특성이라는 마음 이론(TOM: Theory of Mind)이 정립됐다. 많은 해설가들은 알파고가 ‘고민을 한다.’, ‘장고를 한다.’, ‘다음 수가 기대된다.’, ‘아 왜 저런 수를 두었을까요?’ 등등의 표현을 하면서 알파고 프로그램의 생각과 마음을 읽으려는 노력을 보였다. 이는 일반 대중의 경우도 마찬가지이며, 많은 패러디를 통해 알파고가 인간과 비슷한 마음을 가진 존재인 것처럼 인식했다. 이같은 사례는 앞으로 우리가 사용할 다양한 종류의 로봇이나 인공 지능 프로그램에 대해 사람들이 아주 쉽게 마음 읽기와 의인화, 감정 이입을 할 것임을 보여준다. 이미 비슷한 사례가 여럿 있다. 구글의 로봇회사인 보스턴다이나믹스가 로봇을 테스트하는 영상을 올리자 여기에 부하를 괴롭히는 상사의 모습을 투영, 항의하는 글이 쇄도했다. 또 소프트뱅크의 페퍼 파손 사건에서도 사람들은 ‘페퍼가 불쌍하다.’, ‘폭행을 당했다’ 라고 표현하며 로봇을 의인화하고 하나의 물건이 아닌 것처럼 대응했다. 이는 이미 여러 장난감이나 애완동물 등에서 우리가 보여준 모습과 비슷하다. 보스턴 다이나믹스, Atlas
(보스턴 다이나믹스, Atlas)
이런 인간의 특성은 앞으로 우리에게 많은 사회적 규범의 변화와 법 해석의 변화를 가져올 수 있다. 제리 카플란(인터뷰 "인간이 필요없을 미래에 대비하라")이 그의 책, 인간은 필요 없다(<알짜책 즐겨찾기> 인간은 필요 없다)에서 로봇에게 에이전트 지위를 부여할 것이라고 예측한 이유가 여기 있다. 이제 우리 사회는 이런 지능형 시스템을 인간의 감성으로 이해하려는 사회 변화에 어떻게 대응할 것인지 고민해야 한다. 또 ‘과연 알파고는 바둑을 둔 것인가’란 질문을 할 수 있다. 이는 지능형 시스템이나 소프트웨어가 사람과 같은 방식으로 문제를 풀기 위해 ‘문제를 이해하고, 사유하는 것인가?’에 대한 질문이다. 1980년 미국의 철학자, 존 설(John Searle)은 흥미로운 사고 실험을 제안했다. 중국어를 전혀 모르는 그는 컴퓨터와 함께 격리된 방에 들어가고 밖에서 중국어에 능통한 사람이 중국어 문장을 작성, 방에 넣어준다. 컴퓨터는 이 문장에 대한 답을 만들어 출력하고 방에 있던 그는 이를 다시 밖의 사람에게 전달해 준다. 그렇다면 존 설은 중국어를 이해한 것인가? ‘중국어 방 논증’이라고 부르는 이 토론은 인공 지능이 갖는 이해의 개념, 또는 마음에 대한 철학적 논의를 불러 일으켰다. 존 설은 이를 통해 ‘튜링 테스트’가 지능에 대한 증명이 될 수 없다고 주장했고 최근 많이 언급하는 ‘강한 인공 지능’과 ‘약한 인공 지능’에 대한 논의가 여기에서 비롯했다. 알파고는 기존의 몬테카를로 게임 트리 검색과 강화 학습 그리고 뉴럴 네트워크를 기반으로 하는 딥러닝 기술을 조합해 바둑의 문제를 매우 효과적으로 풀어냈다. 그리고 바둑의 문제를 해결하는데 인간보다 더 뛰어날 수 있음을 보여줬다. 그 방식을 인간이 하는 방식이라고 할 수 있을까? 바둑이라는 게임의 문제를 시뮬레이션 한 것은 본질적으로 인간이 바둑에 대해 사유하고, 상대방과 경쟁하고, 마음을 읽고, 직관을 이용해 문제를 해결하는 방식과 매우 비슷하면서도 다르다. 이는 바둑이라는 게임의 사회 문화적 의미와 바둑을 통한 자기 수양과는 전혀 관계가 없다. 알파고는 바둑 문제를 풀어가는 아주 효과적인 방식으로 승리했지만 그 프로그램이 바둑을 이해했다고 볼 수 없다. 사람들은 우리가 가진 의인화와 마음 읽기를 통해 ‘수를 두었다’라고 표현했지만 알파고는 수를 둔 적이 없다. 그 프로그램은 계산을 했고, 결과를 출력했을 뿐이다. 수를 둔 것은 이세돌 9단 앞에 앉아 있는 아자 황이라는 대만 출신의 뛰어난 소프트웨어 엔지니어이다. 알파고 대국, 이세돌 9단과 아자 황
(알파고 대국, 이세돌 9단과 아자 황)
이에 대한 반론도 가능하다. 사회의 문제를 인간과 같은 방식으로 해결할 필요는 없다. 그래서 우리는 자동차와 비행기를 만들 수 있었다. 그러나 바둑은 역사와 전통, 사람 사이의 관계, 바둑을 두는 동호인들의 문화가 존재하는 영역이다. 알파고는 바둑을 두려고 한 것이 아니라 바둑과 같은 유형의 문제를 풀어내는 효과적인 소프트웨어 모델이고 이를 바둑에 적용했다. 하지만, 바둑 자체를 이해하거나 게임을 했다고 생각하기 어렵다. 물론 바둑 문제를 인간 보다 더 뛰어나게 풀기 위해 바둑을 ‘이해’해야 할 필요는 없다. 인공 지능은 앞으로도 여러 영역에서 매우 복잡한 철학적 논쟁을 불러 올 것이다. 그림을 그린 것인지, 작곡을 한 것인지, 소설을 쓴 것인지 등등의 논쟁이 일어날 것이다. 시작은 저작권의 유무에서 비롯하겠지만 결국은 예술성과 가치의 문제가 될 것이다. 한 가지 이번에 밝혀진 것은 우리 인간이 그동안 ‘창의적이다’ 또는 ‘직관이 뛰어나다’는 평가가 생각보다 그렇게 데이터 기반이거나 문제 해결에 가장 효과적이지 않을 수 있다는 사실이다. 마지막으로 제기하고 싶은 주제는 인공지능 시스템과 인간의 공존 문제이다. 물론 여러 철학자나 사상가들이 ‘초지능’이 가져올 위험한 미래에 대해 경고를 하고 있는 상황이다. 특히 옥스포드대학의 철학자, 닉 보스트롬이 ‘수퍼인텔리전스’에서 언급한 초지능이 가져올 부정적 결과에 동의하는 여러 사람들의 발언과 인간 살상 로봇에 대한 반대 운동 등의 분위기에 힘입은 바 크다. 보스트롬은 그의 책에서 초지능으로 가는 길이 기존의 인공 지능 뿐만 아니라 생물학적 뇌의 에뮬레이션이나 우리 두뇌 기능의 향상, 브레인 컴퓨터 결합, 네트워크와 기관 등 여러 방법이 존재할 수 있다고 주장했다. 이번에 보여 준 모습에서는 우리보다 뛰어난 계산 능력을 가진 시스템과 인간이 어떻게 상호 작용해야 하는 것인가를 고민하게 했다. 상당한 수준의 엔지니어가 단지 출력 결과를 바둑판에 놓고 상대방 돌을 클릭하는 모습은 이런 고도의 기계를 어떤 방식으로 활용하거나 정보를 교환할 것인 가를 고민하게 해 주는 상징적인 모습이다. 의사, 변호사, 회계사의 일부 역할이 넘겨졌을 때, 남은 전문가는 어떻게 존엄을 잃지 않고 시스템과 대화하거나 의견을 교환하고 결과에 대한 책임을 질 것인가. 이세돌-알파고 제 4국이 끝나고, 기자회견에서 일본 NHK의 한 기자가 물었다. "그동안의 대국에서 알파고의 실수라고 생각했던 것이 경기가 끝나고 나면 묘수였다는 것이 밝혀지곤 했다. 전문가들의 판단에 실수였던 것이, 실제로는 최선의 방책이었던 것이다. 이런 관점이 건강이나 보건 분야에 적용된다면, 큰 혼란을 초래할 수 있을 것 같다. 어떻게 생각하느냐?“ 이런 질문은 인간과 인공 지능이 공존하는 사회에서 우리가 선택할 최선의 해결책을 누가 제시하고 결정할 지, 그 책임은 누구에게 주어지는 것인지, 인간의 전문성이 점차 배제되는 것을 어디까지 묵인할 지 등에 대한 매우 어려운 사회적 합의를 요구할 것이다. 더 나아가 우리 사회에 점차 늘어갈 지능형 시스템과 인간이 어떻게 사회를 같이 구성하고 사회 시스템을 진화할게 할 것인가를 논의해야 한다. 과거 노예 사회를 거쳐 기계 노예를 만든 이후, 처음으로 상호 작용과 의사소통을 하는 또 다른 존재가 우리 사회에 등장하는 것이다. 이들이 가져올 사회적 변화와 충돌은 앞으로 몇십 년 동안 우리 사회에 큰 변화를 가져올 것이기 때문이다. 공동기획