바로가기 메뉴
본문 바로가기
대메뉴 바로가기

TECH M

데이터가 있는데 민주주의가 필요한가?

중국이 데이터와 AI,인터넷 감시를 사용해 규칙을 정하는 방식은 다음과 같다

2018-10-29독점제휴=MIT테크놀로지리뷰

[독점제휴=MIT테크놀로지리뷰] 1955년 공상과학 소설가 아이작 아시모프는 ‘전자 민주주의’라는 명목으로 진행한 실험에 관한 소설을 출판했다. 소설에서 한 시민이 전체 인구를 대표하는 인물로 선정되고, 멀티백이라는 컴퓨터가 만들어낸 질문에 대답한다. 컴퓨터는 한 시민이 대답한 이 데이터만으로 선거 결과를 미리 예측한다. 따라서 이곳에서는 실제 선거를 진행할 필요가 없다. 소설 배경은 미국 인디애나 블루밍턴이지만 실제 오늘날 중국에서 이 멀티백과 비슷한 상황이 일어나고 있다.

정치과학자이자 필라델피아주 빌라노바대에서 중국 전문가로 활동하는 데보라 셀손은 “모든 권위주의적인 정권은 하위 계층과 사회 전반에서 무슨 일이 일어나고 있는지 제대로 파악하지 못 한다”고 말했다. 세계 인구 5분의 1일이 거주하고 있는 나라에서 공청회나 시민 행동주의, 그리고 선거 관련 피드백을 허락하지 않는다면 어떻게 나라를 효과적으로 다스릴 수 있을까? 심지어 매우 복잡한 사회와 경제구조를 가졌다면 말이다. 중요한 결정을 내려야 할 때 시민들로부터 충분한 정보를 수집할 수는 있을까?

세상에 어떤 정부가 시민들을 참여시키지 않고서도 신뢰를 얻을 수 있으며, 모든 시민의 문 앞에 경찰을 배치하지 않고도 공공의 행동을 통제할 수 있을까?

2002년부터 2012년까지 중국의 지도자였던 후진타오는 이러한 문제를 해결하려고 시도했다. 그는 서민들의 불만이 지배계층에 도달할 수 있는 길을 열어주었다. 그러나 그의 후임자 시진핑은 반대로 행동했다. 그는 감시 시스템에 AI와 빅테이터를 도입해 14억명 인구에게 무슨 일이 일어나고 있는지를 일분 단위로 모니터하고 있다.

이러한 정책은 세계적으로 민주주의 격동이 있었던 몇 년 동안 중국 정치 엘리트들이 유권자들의 권리를 차단해왔던 것에 대해 정당성을 느끼게 하도록 돕는다. 트럼프 미국 대선 선거, 유럽 전역에서 일어나는 극우파 움직임, 브렉시트, 그리고 필리핀 대통령 로드리고 두테르테의 공포정치는 민주주의에 내제하는 대중주의, 불안정함, 개인색이 강한 리더십 같은 문제를 드러내는 사례로 볼 수 있다.

2012년 중국 공산당 서기가 된 시진핑은 기술과 관련된 야심찬 계획을 발표했다. 여기에는 2030년에 중국이 세계 AI 시장을 선도하게 될 것이라는 계획도 포함된다. 시진핑은 검열을 강화하고, 중국 내 인터넷에 대한 완벽한 통제권을 주장하며 ‘사이버 통치권’이라는 단어를 사용했다. 5월 중국 과학 아카데미에서 가진 미팅에서 그는 기술이 ‘사회주의자를 길러내고 나라를 현대화하는 것’이 핵심이라고 언급했다. 지난 1월 출연했던 TV연설에서 그의 양쪽에 놓여있던 책꽂이에는 자본론 책이 있었고, AI 관련 책인 페드로 도밍고의 ‘알고리즘 마스터’와 브렛의 ‘증강:스마트 레인에서의 삶’이 있었다.

워싱턴DC에 있는 국제경제연구소의 마틴 초젬파는 “통치 방법을 바꾸려고 데이터의 힘에 협조하는 것에 대해, 중국만큼 야망 있고 큰 계획을 가진 나라는 없다”고 말했다. 심지어 멀리서 중국을 지켜보는 외국인들도, 데이터에 기반한 이런 중국 통치방법이 점점 더 기능적으로 바뀌는 선거 모델에 대한 대안이 될 수 있을지 궁금해 한다. 그러나 기술과 데이터 힘을 지나치게 맹신하면 큰 위험에 처할 수 있다.

 

상하이 스타트업이 만든 얼굴인식 시스템의 데모버전

대화 대신 데이터
오랫동안 중국 리더들은 시민들에게 토론의 장을 열어주거나 권력에 대해서 시민들로부터 비판을 듣고 싶지 않아 했다. 그러면서도 대중 정서를 건드릴 수 있길 원했다. 중국에서는 정부에 불만을 품은 사람들이 외각 지역에서 베이징으로 넘어와 ‘청원자’로서 공개적으로 시위를 벌이는 전통이 이어지고 있다. 만약 각 지역의 통치자들이 이들의 불만을 이해하거나 신경 쓰지 않는다고 하면황제는 더 나은 판단을 보여줘야 한다.

후진타오 밑에서 일하던 중국의 몇몇 공산당원들은 시민들이 문제를 제기할 수 있도록 제한적으로라도 길을 열어주려는 노력을 보였다. 후진타오 임기가 후반부에 접어들었을 때 블로거, 부정부패 고발 담당 기자, 인권 변호사, 지역 부패를 고발하는 온라인 비평가 등이 공청회를 이끌어냈다. 부임 초기 시진핑은 SNS에서 수집된 정보들을 바탕으로 매일 어떤 사회 문제가 발생하고 있는지 보고 받았다. 최근 몇 년 사이에는 청원자들이 수도까지 진입해 지역 권력자들의 불법 토지 점령, 오염된 분유 문제 같은 각종 사회적 스캔들에 대해 많은 사람들이 관심을 갖도록 유도하고 있다.

그러나 경찰들은 이런 청원자들이 베이징에 진입하지 못하게 막고 있다. 중국 인권 연구원 마야 왕은 “요즘은 기차 티켓을 사려면 신분증이 필요하다. 이는 권력자들이 과거 정부에게 반항했던 이력이 있는 잠재적 ‘트러블 메이커’를 걸러내기 위해서다”며 “몇몇의 청원자들이 우리에게 찾아와 실제 기차역에서 제지를 당한 경험이 있었다고 말했다”고 덧붙였다. 그동안 중국의 블로거들, 운동가들, 그리고 변호사들은 침묵과 감금을 강요받았다. 그리고 똑같은 정보라도 이것이 정부에 전달될 때는 ‘자유’와 관련된 사회문제들에 대한 내용을 제외하고 전달했다.

중국에서 네트워크 기술을 통치 수단으로 사용하려는 생각은 1980년대 중반으로 거슬러 올라간다. 하버드대 정치과학자 줄리안 지워츠는 “정보 기술이 점차 일상화되는 것을 본 중국 정부가 이를 정보를 수집하고 문화를 지배하는데 강력한 수단이 될 수 있다고 생각했다. 이를 통해 중국인을 더 ‘현대적’이고 ‘다스리기 쉬운’ 사람들로 만들 수 있다고 생각했고, 이는 중국 리더들이 오랫동안 집착해왔던 것이다”고 말했다. AI와 빠른 프로세서 발달은 중국이 품고 있는 이러한 목표에 한 걸음 더 다가서게 했다.

지금까지 우리가 아는 한 중국에서 기술과 통치를 연관 지은 청사진은 하나도 없었다. 그러나 정부가 인센티브와 처벌 시스템을 마련하려고 사람과 기업에 대한 데이터를 수집했던 사례는 있다. 이 중 하나가 2014년 국무회의에서 나왔던 ‘사회 신용 시스템’이다. 또 2016년에 나왔던 ‘보안 안전법’과 사회 신용과 관련해 여러 지역과 민간 기업이 주도했던 실험들, ‘스마트시티’ 계획, 신장 서북 지역에서의 감시 기술이 사례에 포함된다. 이때 중국 정부는 여러 기술 기업들과 파트너십을 맺기도 했다.

이 중 가장 큰 영향을 끼쳤던 정책은 ‘사회 신용 시스템’이다. 영어로 표현하면 ‘신용’과 ‘평판’ 시스템이라고 해석할 수 있다. 시민과 기업 모두를 대상으로 하는 이 계획에는 ‘정직한 정부 업무 구축, 상업적 정직, 사법적 신용’을 포함한다. 자문 전문회사 ‘유라시아 그룹’의 자문자 폴 트리올로는 “중국인 대부분은 사기 경험이 있는 이모나 고모 한 명을 두고 있을 것이다. 무너진 국민 신뢰를 되돌릴 수 있는 법안이 필요하다”라고 말했다. 실제 중국은 이러한 법안을 만들려고 노력하고 있다. 현재 여러 가지 파일럿을 내놓고, 이것이 2022년에 완전히 실행하면 어떠한 결과를 내놓을지 시험하고 있다.

첫 번째로 블랙리스트 제도가 있다. 지난 5년 동안 중국 사법부는 벌금을 내지 않거나 판결을 따르지 않은 사람들 목록을 만들어왔다. 새로운 사회 신용 시스템을 실행하자 이 목록이 다양한 기업과 정부기관에 공유됐다. 목록에 올라간 사람들은 대출을 받을 수 없고, 비행기 표도 예매할 수 없으며, 심지어 럭셔리 호텔숙박도 금지된다. 나아가 중국 대중교통 관련 회사들은 기차 문을 막거나 기내에서 난동을 피운 사람들을 블랙리스트로 추가했다. 이런 범죄를 저지른 사람들은 6~12개월 동안 대중교통 티켓구매를 제한받는다. 올해 초 베이징은 이러한 블랙리스트를 공개하면서 앞으로 ‘정직하지 않은’ 기업들을 미래에 있을 정부와의 계약이나 토지 증여 같이 중요한 정책에서 배제시킬 것이라고 발표했다.

몇몇 지역 정부들은 ‘점수’ 체계를 도입한 사회 신용 제도를 따로 실행하기도 했다. 이것이 범국가적인 계획으로 자리 잡을 수 있을지는 불확실하다. 한 예로 룽청 북쪽에 있는 한 도시는 그곳에 거주하는 74만명 사람들에게 각각 점수를 부여했다고 미국 외교전문지 포린폴리시는 말했다. 도시는 모든 사람에게 1000점을 기본 점수로 부여했다. 만약 기부를 하거나 정부가 주관하는 이벤트에서 상을 받으면 보너스 점수를 받을 수 있다. 반면 음주운전을 하거나 무단 횡단 같은 행위로 교통 법규를 위반하면 점수를 잃는다. 높은 점수를 받은 사람들은 겨울 난방비를 할인 받을 수 있고, 대출도 좋은 조건으로 받을 수 있다. 나쁜 점수를 받은 사람은 은행권 대출이나 정부 관련 사업에서 프로모션 혜택을 받을 수 없다. 해당 시청은 선행을 많이 했거나 높은 점수를 획득한사람들의 포스터를 전시하기도 한다.

베를린에 있는 ‘중국 연구를 위한 메르카르토 연구소’의 사만다 호프만은 “사회 신용 제도의 기본 취지는 사람과 기업의 행동을 모니터하고 관리하는 것”이라며 “만약 누군가 저지른 위법 행동이 시스템 한 부분에 기록되면, 이는 시스템에서 다른 부분에도 영향을 미친다. 이 시스템은 경제 성장과 사회 관리를 위해 디자인했고, 기본적으로 중국의 정치적 성향이 밑바탕이다”라고 말했다. 이미 미국에서도 이와 비슷한 제도가 시행되고 있다. 미국에서 낮은 사회 신용 점수를 받은 사람은 집을 살 때 주택 융자 혜택을 받을 수 없다. 또 중범죄로 유죄 판결을 받은 사람은 투표권이 정지되거나 무효화될 수 있다. “하지만 모두 다 같은 방법으로 이뤄지는 것은 아니다. 아직 이렇다 할만한 중요 계획이 나오지 않은 상태”라고 호프만은 지적했다.

우려되는 것은 중국에 독립 법관이 부족하다는 점이다. 이에 시민들이 거짓이거나 부정확한 혐의에 대해 반박할 권리를 제대로 누리지 못하고 있다. 몇몇 사람들은 법원에서 사전 통보도 받지 못한 채 자신이 여행 블랙리스트 명단에 올랐다는 사실을 뒤늦게 알기도 한다. 나아가 중국 정부는 청원자나 사회 고발 성향을 가진 기자들을 따로 모아 별도 시스템으로 모니터링 한다. 약물중독을 치료 중인 사람들도 마찬가지다.

국제인권위원회의 왕은 “이론적으로 약물 중독자 데이터는 5~7년 뒤에 삭제해야 하지만 실제는 그렇지 않은 경우를 많이 봤다”며 “이 리스트에 한 번 들어가면 완벽하게 이름을 지우는 게 매우 어렵다고 보면 된다”고 말했다.

가끔 온라인에서 시작된 분노가 전체 대중의 분노로 이어지는 경우가 있다. 한 소녀가, 아빠가 신용 관련 블랙리스트에 올랐다는 이유로 대학 입학에서 떨어졌다는 뉴스는 네티즌들의 분노를 샀다. 대학의 이러한 결정은 정부가 관여한 게 아니다. 정부의 새 정책을 지지하는 학교 입학처에서 결정한 일이었다.

이러한 시스템의 불투명성은 룽청 실험이 얼마나 효과적인지 판단하는 것을 어렵게 만든다. 이로 인해 중국 당원들은 2012년 부터 꾸준히 대중 비판을 듣고 있다. 대중들이 약한 방식으로라도 시스템에 도전할 가능성도 커졌다. 정부가 제공하는 것 중 대중이 이용할 수 있는 정보에 심각한 결함들이 존재한다. GDP에서 수력 발전에 이르기까지 정부의 모든 데이터에 체계적으로 위조된 정보가 만연하고 있다.

이론으로는 데이터가 기반이 되는 정치가 이러한 문제점들을 해결할 수 있어야 한다. 정보 왜곡을 피하려고 중앙정부가 직접 데이터를 수집해야 한다고 주장할 수 있기 때문이다. 예를 들어 공기 오염의 주범인 회사들이 모여 있는 지역 정부로부터 데이터를 받는 것이 아니라, 중앙 정부가 직접 대기오염 수치를 측정하는 기계를 구입해 데이터를 얻는 것이다. 그러나 이 과정은 너무 복잡해서 중앙정부는 보통 지역 사무관들로부터 수집한 데이터를 사용한다.

한편 아주 가끔이지만 중국 정부는 외부 사람들이 이러한 시스템을 더 발전시킬 수 있도록 정부 내부의 정보를 공개한다. 일부 도시들은 카메라를 사용해 무단횡단 하는 사람들을 구분하고, 그들이 잘못된 행동에 대한 수치심을 느끼게 하려고 얼굴을 공개하기도 한다. 그러나 이 시스템이 얼마나 정확한지는 아직도 의문이다. 한족들의 얼굴을 인식시킨 소프트웨어가 소수 유라시아 민족의 얼굴을 인식할 수 있겠는가?

나아가 만약 이렇게 수집된 데이터가 정확하다고 해도 정부는 어떻게 이 정보만으로 미래에 일어날 사람들의 행동을 방지할 수 있는 것인가? 중국은 경찰이 범죄자가 될 가능성이 있는 사람을 예측하는데 사용하는 알고리즘을, 공개수사를 할 때나 중국 범죄율 증감을 판단할 때는 사용할 수 없도록 하고 있다. (예를 들어 중국 신장의 서쪽 지역에서 대중들이 열람할 수 있는 정보는 경찰서에 구류된 적이 있는 사람들 숫자뿐이고, 이는 2016년과 2017년도 사이에 731%나 증가했다.)

로이 연구소의 교수이자 ‘당: 공산주의 통치자 비밀 세계’의 저자 리차드 맥그리거는 “정책을 만드는 것은 기술이 아니다. 그러나 기술은 중국 정부가 대중 개개인에 관해 수집할 수 있는 정보의 종류를 훨씬 광범위하게 만든다”라며 “현재 중국에서 인터넷은 은밀하게 실시간으로 활동하는 디지털 국가 정보원 역할을 하고 있다”라고 말했다.


신양시에서 얼굴인식기술을 적용한 카메라가 무단횡단자의 사진을 이름, 신분증과 함께 광고판에 싣는다.

감시의 알고리즘
샤오창 버클리대 커뮤니케이션학과 교수는 올해 초 워싱턴 포스트에 기고한 글에서, 데이터에 힘입어 강화된 중국 통치를 ‘디지털 전체주의’라고 표현했다. 이러한 디스토피아적 관점은 중국 서부에서 가장 잘 드러나고 있다.

신장은 위그르라고 알려진 중국 소수 이슬람 집단이 오랜 거주한 지역이다. 이곳에 대규모로 한족 이주자가 정착하면서(일부는 이를 식민지화라고 보기도 한다), 위그르족이 살던 지역과 일자리, 그리고 종교 기회까지 모두 빼앗아갔다. 이 결과 한족과 위그르 사이에 갈등이 깊어졌고, 2009년 우루무치 수도에서 200명 사망자가 발생한 폭동 사건이 일어나기도 했다. 정부는 이러한 두 집단 사이에서 발생하는 갈등을 해결하려고 공개포럼을 열어 정책적으로 조언하는 식의 대응을 하지 않았다. 대신 알고리즘을 사용해 이 지역 데이터를 수집하고, 훗날 폭력을 행사하거나 반란을 일으킬만한 사람이 누구인지 ‘예측’하도록 했다.

신장 정부는 다양한 데이터에 접근 가능한 ‘예측 알고리즘’을 디자인하려고 사기업을 고용했다. 알고리즘에 사용하는 규칙을 어떻게 만들었는지 알 수 있는 공식 기록은 없다. 로욜라대 인류학자 리안 텀은 “사람들은 어떤 규칙으로 돌아가는지도 모르는 시스템 속에서 살고 있다”
고 말했다. 그는 신장 지역을 연구했고, 신장이 해당 시스템을 구축하는 과정을 쭉 지켜본 사람이다.

카슈가르 서쪽 도시에서 메인 도로에 있는 주거지와 상점들이 모두 문을 닫았고, 공원 또한 비어있다. 2013년 방문했을 당시 카슈가르는 이미 분리된 도시였다. 한족 이주자들과 위그르족은 서로 다른 마을 구역에서 일하며 살아가고 있었다. 그러나 저녁이 되자 베란다에 나와 수다 떠는 노인들, 지역 클럽에서 나오는 음악 소리와 기도 소리가 한데 어우러져 시끌벅적하고 생기 있는 공간으로 변하기도 했다. 반면 현재 카슈가르 저녁은 무섭도록 조용하다. 이웃과 함께하는 생활은 사실상 사라졌다. 파이낸스타임즈 기자 에밀리 팡은 지난 6월 카슈가르를 방
문했을 때 찍은 텅 빈 거리 사진을 포스팅하기도 했다.

카슈가르가 이토록 조용해진 이유는 위그르족과 카슈가르 성인 10명 중 1명 이상이 철조망으로 둘러싼 ‘재교육 캠프’라는 곳에 보내졌기 때문이다. 남아있는 사람들은 두려움에 떨고 있다.

지난 2년간 카슈가르에 수천 개 검문소가 새로 생겼다. 통행하는 사람들은 얼굴정보와 더불어 주민등록증까지 제출해야 고속도로를 통과할 수 있고, 지역 사원과 쇼핑몰에 입장할 수 있다. 위그르족은 의무적으로 정부가 만든 추적 애플리케이션(이하 앱)을 깔아야 한다. 이 앱은 그들이 온라인 접속을 했는지 여부와 어떤 웹사이트에 접속했는지를 알려 준다. 경찰들은 정기적으로 지역 가정을 방문하고 가족 구성원 수, 이웃과의 관계, 날마다 기도하는 사람은 몇 명인지, 외국여행 여부, 가지고 있는 책 종류 같은 모든 개인 생활을 조사한다.

정부는 이렇게 수집한 데이터에 개인의 은행 거래 내역과 가족계획 같은 정보를 더해 신장 공공 안보 시스템에 학습시킨다. “이런 컴퓨터 프로그램은 다양한 소스로부터 데이터를 끌어 모으고, 이를 기반으로 정부에 위협이 될 만한 사람들을 선정해 주시할 수 있도록 한다”고 왕이 말했다. 정확한 알고리즘이 알려진 것은 아니지만 어느 특정 사원을 방문하거나, 많은 책을 소유하고 있거나, 방대한 양의 석유를 구입하거나, 외국에서 이메일이나 전화를 받는 것 같은 행위는 정부로 하여금 당신을 주시하게 만들 수 있다. 보통 경찰에게 주의를 받는 사람들은 양육권을 박탈당하고 감옥에 가거나 예고도 없이 ‘재교육 캠프’에 끌려간다.

독일 코른탈에 있는 유럽문화와 신학대학원의 아드렌 젠이 계산한 것에 따르면 신장의 소수민족 중 캠프에 유치된 사람 비율은 전체 성인 인구에서 약 11.5%나 차지한다. 이 캠프는 그들의 애국심을 키우고 종교적인 믿음을 없애는 것을 목적으로 한다(정부는 화장 제도에 대한 가이드를 새로 내려 지역에서 실행되고 있는 이슬람 전통 장례 절차를 없애려고 하고 있다).

신장 지역을 넘어 다른 지역 시민들도 중국 정부의 이런 억압에 저항하기 시작했다. 폐쇄 회로 TV를 온라인으로 스트리밍 하던 한 인터넷 회사는 항의 여론를 받은 뒤 방송을 중단했다. 최근 상하이는 사회 신용 정보에 잘못된 부분이 있으면 이를 수정할 수 있는 법안을 발표했다. 뉴욕 CSIS 기술 규정 프로그램 수장 샘 세이크는 “최근 중국에서 네티즌들이 인터넷 프라이버시를 요구하는 목소리가 많아지고 있다”며 “하지만 이것이 모든 사람에게 동등하게 적용되지는 못하고 있다”고 말했다.

 

<이 기사는 테크M 제66호(2018년 10월)에 게재됐습니다.>

 

뉴스