바로가기 메뉴
본문 바로가기
대메뉴 바로가기

TECH M

모두의 외면 극복한 딥러닝의 아버지 제프리 힌튼

2018-01-02독점제휴=MIT테크놀로지리뷰

30년전 기술에 의존하는 인공지능... 새 돌파구는(1)

[테크M 독점제휴=MIT테크놀로지리뷰]

자율주행 자동차, 바둑 세계챔피언을 이긴 알파고, 그 외에 당신이 들어본 최신 인공지능 기술들은 모두 30년 전 개발된 하나의 기술에 의존하고 있다.

지금의 혁신 속도를 유지하려면 현재 인공지능 기술이 가진 심각한 한계를 극복해야 한다.

나는 지금 이제 곧 세상의 중심이 될 장소에 서 있다. 토론토 중심가의 새 건물 7층이다.

안내를 맡은 조단 제이콥스는 이 연구소의 공동창업자이고 이 건물은 전 세계 인공지능 연구의 중심지가 된다는 목표 아래 지난해 가을 문을 연 벡터연구소다.

이 연구소가 캐나다에 세워진 것은 제프리 힌튼이 여기에 살기 때문. 제프리 힌튼은 현재 인공지능 붐을 만들어낸 ‘딥러닝’ 기술의 아버지다.

제이콥스는 “30년 후 우리는 과거를 회상하며 그가 딥러닝 그리고 지금 우리가 인공지능이라 부르는 것들의 아인슈타인이라 말할 것”이라고 말했다.

딥러닝 분야 연구자를 인용 횟수 순으로 줄 세운다면, 힌튼은 자신의 뒤를 잇는 세 명의 인용 횟수를 더 한 것보다 더 많은 횟수를 기록하고 있다.

그의 학생과 박사후 과정 연구원들은 애플, 페이스북, 오픈AI의 인공지능 연구실을 이끌고 있으며 힌튼도 구글 브레인 인공지능팀의 수석 과학자를 맡고 있다. 사실 지난 10년 동안 인공지능이 해낸 일들(번역, 음성 인식, 이미지 인식, 게임 등)은 모두 힌튼의 연구에 어떤 식으로든 빚지고 있다.

힌튼의 인기를 입증하는 기념비와 같은 벡터연구소는 구글, 우버, 엔비디아 등이 인공지능 기술의 상용화를 위해 투자했다.

제이콥스는 이 연구소 설립을 위해 투자금을 요청하러 다닐 필요가 없었다. 다른 두 명의 공동창업자가 토론토 내 기업을 대상으로 조사한 바에 따르면 현재 캐나다에서는 인공지능 전공 졸업자의 열 배에 달하는 전문가가 필요하다.

벡터연구소는 딥러닝 기술을 상용화하고 가르치고 가다듬어 응용함으로써 전 세계 딥러닝 기술 활용의 출발점 역할을 할 것이다. 데이터센터를 건설하고 스타트업을 유치하며 수많은 학생들이 이 분야를 배우게 된다.

아직 빈 공간이 많아 소리가 울리는 벡터연구소 내에서 느낄 수 있는 것은 뭔가 지금 시작되고 있다는 것.

하지만 딥러닝 기술의 개념은 매우 오래된 것이다. 힌튼이 동료인 데이비드 루멜하트, 로널드 윌리엄스와 함께 기념비적인 논문을 출판한 것은 1986년.

이 논문은 백프롭이라고 줄여 말하는 역전파 기술에 관한 것이다. 프린스턴대학 존 코헨 교수(계산심리학)는 백프롭이야말로 “말 그대로 모든 딥러닝 기술의 기반”이라고 말한다.

즉, 현재 인공지능의 핵심은 딥러닝이고 그 딥러닝의 핵심은 백프롭인 것이다. 백프롭이 30년 이상 된 기술이라는 점에서 이는 놀라운 일이다. 어떻게 하나의 기술이 그렇게 오랜 시간 잠들어 있다가 마침내 빛을 발하게 됐는지 알아보는 것은 충분히 가치 있는 일이다.

이를 통해 우리는 인공지능 연구의 현 상황을 이해할 수 있다. 또 어쩌면 우리가 어떤 혁명의 시작점이 아니라 그저 종점에 서 있는 것일 수도 있음을 이해할 수 있다.

 

다양성의 나라 캐나다에서 인공지능 꽃피다

벡터연구소에서부터 힌튼이 대부분의 시간을 보내는 구글의 연구실로 가는 길은 (그는 지금 토론토 대학의 명예교수다) 살아있는 도시 홍보물 같은 느낌을 준다.

이 길을 걸어 보면 영국 출신으로 미국 카네기멜론대에서 일하던 그가 80년대 왜 토론토로 옮겨 왔는지 이해할 수 있다.

이 동네는 금융가 근처의 시내임에도 불구하고 자연을 그대로 느낄 수 있다. 아마 젖은 흙 냄새 때문인 것 같다.

토론토는 계곡 가운데 울창한 숲에 지어진 도시로 ‘공원 내의 도시’라 불린다. 도시화가 진행되고는 있지만 숲을 유지하기 위해 주정부는 엄격한 개발제한 정책을 시행하고 있다.

비행기로 토론토를 방문하면 도시 외곽이 마치 그림같은 푸른색으로 둘러싸인 것을 볼 수 있다.

캐나다 토론토는 북미에서 멕시코시티, 뉴욕, LA 다음으로 큰 도시이자 가장 다양한 사람들이 모여있는 도시다. 이 도시 주민 중 절반 이상이 캐나다 이외의 나라에서 태어났다.

도시를 걷다 보면 그 사실을 쉽게 확인할 수 있다. 기술 기업이 몰려있는 지역에서는 샌프란시스코(후드를 쓴 젊은 백인들이 있는)보다 더 다양한 나라의 사람들을 볼 수 있다.

캐나다는 무상의료 서비스를 제공하며 공립학교가 잘 갖추어져 있을 뿐 아니라 사람들은 친절하고 정치적으로는 적당히 진보적이면서 안정돼 있다.

이란-콘트라게이트를 계기로 미국을 떠나기로 했다는 힌튼 같은 사람들은 바로 이런 이유 때문에 캐나다를 찾는다. 이는 우리가 처음 만나 나눈 이야기 중의 하나로, 점심을 먹기 직전이었다.

“카네기멜론대학에서 일하는 대부분의 사람들이 미국의 니카라과 침공이 정당하다고 생각했습니다. 그게 미국의 권리라 믿고 있었죠.”

그는 “아주 뛰어난 신입 연구원 한 명을 구했다”며 최근 한 프로젝트에서 큰 진전을 이뤘다고 설명했다. 그녀의 이름은 사라 사보르. 미국 비자를 거절당한 이란인인 그녀를 채용한 곳은 토론토의 구글이었다.

올해 69세인 힌튼은 가는 입술과 큰 귀, 우뚝 솟은 코를 가진, ‘마이 리틀 자이언트’에 나오는 거인이 영국인이 된 듯한 마른 얼굴을 갖고 있다.

영국 윔블던 출신의 그의 목소리에서는 아이들에게 과학책을 읽어주는 사람 같은 호기심과 뭔가를 설명하려는 열정이 느껴진다. 유머가 있고 약간의 쇼맨십도 있다. 그는 허리가 아프다며 인터뷰 내내 서서 이야기했다.

“2005년 6월 한 번 앉았는데, 실수였죠.”

그가 자신의 디스크에 문제가 있다고 말하기 전에는 이 말이 무척 이상하게 들렸다. 이는 그가 비행기를 타지 못한다는 것을 의미한다.

마침 그는 그날 아침 치과에서 신경치료를 누워서 받기 위해 서핑보드 비슷한 도구를 가져갔던 터였다.

1980년대 힌튼은 지금처럼 우리 뇌의 신경과 시냅스를 단순화 한 신경망 연구의 전문가였다. 그러나 당시에는 신경망이 인공지능 연구에 적절한 방법이 아니라고 결론 내린 상태였다.

1950년대 개발된 초기 신경망인 퍼셉트론이 인간 수준의 인공지능을 향한 첫 시도로 인기를 끌었지만 MIT의 마빈 민스키와 세이무어 파퍼트는 1969년 ‘퍼셉트론’이란 책을 통해 이런 신경망은 매우 단순한 일만을 할 수 있음을 수학적으로 증명했다.

당시의 신경망은 입력과 출력, 단 두 개의 계층만 갖고 있었다. 입력과 출력 사이에 더 많은 층을 집어넣은 신경망은 이론적으로 훨씬 다양한 문제를 풀 수 있다.

하지만 아무도 그런 신경망을 훈련시킬 방법을 알지 못했기 때문에 현실적으로 이는 아무 의미가 없었다. ‘퍼셉트론’은 힌튼 같은 소수의 고집쟁이들을 제외한 대부분의 연구자들이 신경망을 완전히 포기하는 계기가 됐다.

1986년 힌튼은 역전파 기술이 둘이나 셋 이상의 계층을 가진 심층 신경망을 훈련시킬 수 있다는 혁신적인 연구를 발표했다.

하지만 그의 연구가 현실에서 증명되려면 다시 26년이 흘러야 했다. 2012년, 힌튼은 토론토대학의 제자 두 명과 함께 역전파를 이용한 심층 신경망이 당시 가장 뛰어난 알고리즘을 이미지 인식 부문에서 크게 앞선다는 내용의 논문을 발표했다.

‘딥러닝’의 시대가 마침내 시작됐다. 사람들에게는 인공지능이 마침내 긴 잠에서 깨어난 것처럼 보였다. 힌튼의 오랜 노력이 결국 보상으로 돌아온 셈이다.

<본 기사는 테크M 제56호(2017년 12월) 기사입니다>