송원섭의 스핑크스 2호점

이세돌 9단은 첫 대국이 끝나고 습관적으로 복기를 시도했다. 하지만 복기에 응해줄 사람은 없었다. 아자황씨는 그냥 돌을 놓아 주는 사람일 뿐, 알파고가 왜 그 자리에 돌을 놓았는지 설명해줄수 있는 사람은 아니었다. 이세돌 역시 그런 복기 시도가 부질없다는 것을 금세 알아차린 듯 했다. 그런데 이세돌이 이해할 수 없다면, 인간 중에 그런 수를 예측하거나 의도를 충분히 이해할 수 있는 사람은 없다고 봐도 좋을 것이다. 이 장면을 보면서 전율을 느꼈다.

알파고의 1승은 단순한 경기의 승패가 아니라 판단의 문제, 그리고 그 판단을 이해할 수 있는 가능성의 문제다. 인공지능이 인류 최고의 전문가를 꺾었다. 인공지능이 인류 최고 전문가보다 합리적인 판단, 더 최적화된 판단을 한다고 인정받은 순간이다.

본래 나보다 나은 전문가의 판단은 즉시 이해할수 없는 경우가 꽤 있다. 바둑에서도 조훈현9단이나 이세돌9단의 실전을 중계하는 해설가는 "이런 수는 감히 제가 좋다 나쁘다 말할수가 없네요. 저보다 훨씬 고수가 두신 거라서..." 하는 경우가 적지 않았다. 바로 이 부분이 겁난다.  

인류는 이제 앞으로 인공지능에게 많은 판단을 의지하게 될 것이다. 금융, 군사, 행정, 의료... 수많은 분야에서. 거기에 환호하면서 인간은 인공지능이 준 답을 충실히 수행하게 될 것이다. 컴퓨터가 찍어 준 장소에 신도시를 건설하고, 아무 미련 없이 노후된 주택단지를 철거하고 거기에 녹지대를 건설하게 될 것이다. 대학 입시 정원을 늘리고, 금리를 올리고 내리고, 변호사 시험 합격자 수를 내놓고, 커피값을 올려야 할지 말아야 할지도 결정해 줄 것이다.

게다가 인공지능은 부패하지 않는다. 학연이나 지연에 따라, 당리 당략에 따라, 지지율이나 득표에 연연하지도 않는다. 자식의 노후를 챙겨줄 이유도 없다. 정말 사리사욕 없이, 공명정대하게, 주어진 자원과 상황에서 가장 효율이 높은 해결책을 내놓을 것이다.

그러다 어느 순간, 인공지능이 뭔가 이상한 판단(혹은 명령), 인간이 즉각적으로 이해할 수 없는 수준의 솔루션을 내놓을 수 있다. 인간의 통념에 어긋나거나, 뭔가 상당히 큰 희생을 요구하거나, 지나치게 여파가 클 것으로 보이는 판단이라 즉시 따르기를 주저하게 되는 상황이다. 뜬금없는 명령으로 느껴질 수도 있다. 

다만 이 시점에서 인공지능은 이미 수차례에 걸쳐 '당장은 인간이 이해하지 못하지만 지나고 나서 보면 훌륭한 판단이었음이 입증된', 감히 인간의 작은 뇌로는 가질 수 없는 통찰력을 인정받은 뒤다. 거기에 이론을 제기하는 인간은 사사로운 이익을 추구하는 것이 아닌가하는 의도를 의심받을 가능성이 높다.

그런데 만약 인공지능의 그런 판단이 그릇된 데이터에 기인한 것이라면 어떻게 될까. 데이터상의 작은 차이가 최종 판단에서 심각한 차이를 만들어 낼 가능성은 늘 있다. 물론 뛰어난 인공지능은 데이터 입력 오류 내지는 잘못 측정된 데이터에 대한 의심을 제기하는 기능(예를 들어 숙련된 분석자가 입력된 데이터만 훑어보다가도 '여기서 왜 이런 엉뚱한 숫자가 나와?'라고 의혹을 제기할 수 있듯)을 보유했을 가능성은 충분하지만, 어느 정도 개연성 있는 오류는 적발하기 쉽지 않을 것이다. 게다가 우리가 이미 알고 있듯, 현장에서 오는 데이터라고 모두 진실을 반영하고 있는 것은 아니다. 때론 악의적으로 조작된 데이터도 충분히 있을 수 있다.

문제는 인공지능의 그 '이상한 판단'을 의심하는 것이 과연 가능할 것인가 하는 점이다(뭐 아주 멀리 가면 스카이넷 수준의 자의식을 가진 인공지능이 사리사욕에 따라 이상한 판단을 내릴 수도 있겠지만 거기까지는 차마 상상하지 못하겠다). 그 시점이 되면, 그런 의심을 하는 것이 오히려 비정상이 되어 버려 있을 것이다. "감히 네녀석 따위가 인공지능님의 답을 의심해?"  

이미 2016년에 이세돌도 이해할 수 없는 수를 두어 승리를 이끌어 낸 인공지능이다. 물론 능력이 떨어지는 인간들도 충분한 시간을 가지고 인공지능이 내린 판단을 한 단계 한 단계 분석해 보면 그것이 합리적인 판단인지, 혹은 오류인지 분별해 낼 수 있을 것이다. 하지만 그때마다 이런 분석을 시도한다면 인공지능을 활용할 이유가 없다. 충분한 시간이 없는, 시급한 결단을 요구하는 사안이라면, 인간은 어느새 인공지능의 권유대로 미사일 발사 버튼을 누르고 있을지도 모른다. 

'그가 둔 판단을 이해할수 없었다. 하지만 그는 나보다, 누구보다 똑똑하다. 직관적으로 그의 판단을 따르는 것이 옳다. 인간은 거기에 따라 행동할 뿐이다.' 이런 순간이 머지 않아 올 것이다. 진정 두렵다. '프로그램을 짠 인간과 바둑 공부를 한 인간의 대결에서 프로그래머가 이겼으니 결국 인간의 승리'라고 말할수 있는 낙관적인 사람이 부럽다.

한문장 요약: 일각에서 자의식을 가진 스카이넷을 걱정하지만 그건 진짜 다음 얘기다. 정말 무서운 것은 인공지능이 '인간의 통제하에' 활성화됐을 때, 인공지능이 준 답이라는 이유로 그 답을 아무도 의심할 수 없는 시대, 최소한 '니들 인간들이 내놓은 답보다는 이 답이 훨씬 나을 수밖에 없어'가 상식이 되는 시대가 오는 것이다.

P.S. 구글과 알파고의 정체, 그들이 추구하는 방향에 대한 전문가의 글 한편을 소개합니다. 아래 글을 쓴 사람은 슈퍼컴퓨팅 전문기업 클루닉스의 대표이자 베스트셀러 '빅데이터 혁명'의 저자인 권대석 박사입니다. 일찌기 왕년에 장학퀴즈 기장원을 하신 분이기도 하지요.^^

"예상대로 알파고가 이겼습니다" http://blog.naver.com/hyntel/220650239826