'알파고'에 해당되는 글 1건

  1. 2016.03.10 이세돌은 왜 알파고와 복기를 하려 했을까 (9)

 

 

 

 

이세돌 9단은 첫 대국이 끝나고 습관적으로 복기를 시도했다. 하지만 복기에 응해줄 사람은 없었다. 아자황씨는 그냥 돌을 놓아 주는 사람일 뿐, 알파고가 왜 그 자리에 돌을 놓았는지 설명해줄수 있는 사람은 아니었다. 이세돌 역시 그런 복기 시도가 부질없다는 것을 금세 알아차린 듯 했다. 그런데 이세돌이 이해할 수 없다면, 인간 중에 그런 수를 예측하거나 의도를 충분히 이해할 수 있는 사람은 없다고 봐도 좋을 것이다. 이 장면을 보면서 전율을 느꼈다.

 

알파고의 1승은 단순한 경기의 승패가 아니라 판단의 문제, 그리고 그 판단을 이해할 수 있는 가능성의 문제다. 인공지능이 인류 최고의 전문가를 꺾었다. 인공지능이 인류 최고 전문가보다 합리적인 판단, 더 최적화된 판단을 한다고 인정받은 순간이다.

 

본래 나보다 나은 전문가의 판단은 즉시 이해할수 없는 경우가 꽤 있다. 바둑에서도 조훈현9단이나 이세돌9단의 실전을 중계하는 해설가는 "이런 수는 감히 제가 좋다 나쁘다 말할수가 없네요. 저보다 훨씬 고수가 두신 거라서..." 하는 경우가 적지 않았다. 바로 이 부분이 겁난다.  

 

 

 

인류는 이제 앞으로 인공지능에게 많은 판단을 의지하게 될 것이다. 금융, 군사, 행정, 의료... 수많은 분야에서. 거기에 환호하면서 인간은 인공지능이 준 답을 충실히 수행하게 될 것이다. 컴퓨터가 찍어 준 장소에 신도시를 건설하고, 아무 미련 없이 노후된 주택단지를 철거하고 거기에 녹지대를 건설하게 될 것이다. 대학 입시 정원을 늘리고, 금리를 올리고 내리고, 변호사 시험 합격자 수를 내놓고, 커피값을 올려야 할지 말아야 할지도 결정해 줄 것이다.

 

게다가 인공지능은 부패하지 않는다. 학연이나 지연에 따라, 당리 당략에 따라, 지지율이나 득표에 연연하지도 않는다. 자식의 노후를 챙겨줄 이유도 없다. 정말 사리사욕 없이, 공명정대하게, 주어진 자원과 상황에서 가장 효율이 높은 해결책을 내놓을 것이다.

 

그러다 어느 순간, 인공지능이 뭔가 이상한 판단(혹은 명령), 인간이 즉각적으로 이해할 수 없는 수준의 솔루션을 내놓을 수 있다. 인간의 통념에 어긋나거나, 뭔가 상당히 큰 희생을 요구하거나, 지나치게 여파가 클 것으로 보이는 판단이라 즉시 따르기를 주저하게 되는 상황이다. 뜬금없는 명령으로 느껴질 수도 있다. 

 

다만 이 시점에서 인공지능은 이미 수차례에 걸쳐 '당장은 인간이 이해하지 못하지만 지나고 나서 보면 훌륭한 판단이었음이 입증된', 감히 인간의 작은 뇌로는 가질 수 없는 통찰력을 인정받은 뒤다. 거기에 이론을 제기하는 인간은 사사로운 이익을 추구하는 것이 아닌가하는 의도를 의심받을 가능성이 높다.

 

 

 

 

그런데 만약 인공지능의 그런 판단이 그릇된 데이터에 기인한 것이라면 어떻게 될까. 데이터상의 작은 차이가 최종 판단에서 심각한 차이를 만들어 낼 가능성은 늘 있다. 물론 뛰어난 인공지능은 데이터 입력 오류 내지는 잘못 측정된 데이터에 대한 의심을 제기하는 기능(예를 들어 숙련된 분석자가 입력된 데이터만 훑어보다가도 '여기서 왜 이런 엉뚱한 숫자가 나와?'라고 의혹을 제기할 수 있듯)을 보유했을 가능성은 충분하지만, 어느 정도 개연성 있는 오류는 적발하기 쉽지 않을 것이다. 게다가 우리가 이미 알고 있듯, 현장에서 오는 데이터라고 모두 진실을 반영하고 있는 것은 아니다. 때론 악의적으로 조작된 데이터도 충분히 있을 수 있다.

 

문제는 인공지능의 그 '이상한 판단'을 의심하는 것이 과연 가능할 것인가 하는 점이다(뭐 아주 멀리 가면 스카이넷 수준의 자의식을 가진 인공지능이 사리사욕에 따라 이상한 판단을 내릴 수도 있겠지만 거기까지는 차마 상상하지 못하겠다). 그 시점이 되면, 그런 의심을 하는 것이 오히려 비정상이 되어 버려 있을 것이다. "감히 네녀석 따위가 인공지능님의 답을 의심해?"  

 

이미 2016년에 이세돌도 이해할 수 없는 수를 두어 승리를 이끌어 낸 인공지능이다. 물론 능력이 떨어지는 인간들도 충분한 시간을 가지고 인공지능이 내린 판단을 한 단계 한 단계 분석해 보면 그것이 합리적인 판단인지, 혹은 오류인지 분별해 낼 수 있을 것이다. 하지만 그때마다 이런 분석을 시도한다면 인공지능을 활용할 이유가 없다. 충분한 시간이 없는, 시급한 결단을 요구하는 사안이라면, 인간은 어느새 인공지능의 권유대로 미사일 발사 버튼을 누르고 있을지도 모른다. 

 

'그가 둔 판단을 이해할수 없었다. 하지만 그는 나보다, 누구보다 똑똑하다. 직관적으로 그의 판단을 따르는 것이 옳다. 인간은 거기에 따라 행동할 뿐이다.' 이런 순간이 머지 않아 올 것이다. 진정 두렵다. '프로그램을 짠 인간과 바둑 공부를 한 인간의 대결에서 프로그래머가 이겼으니 결국 인간의 승리'라고 말할수 있는 낙관적인 사람이 부럽다.

 

 

 

한문장 요약: 일각에서 자의식을 가진 스카이넷을 걱정하지만 그건 진짜 다음 얘기다. 정말 무서운 것은 인공지능이 '인간의 통제하에' 활성화됐을 때, 인공지능이 준 답이라는 이유로 그 답을 아무도 의심할 수 없는 시대, 최소한 '니들 인간들이 내놓은 답보다는 이 답이 훨씬 나을 수밖에 없어'가 상식이 되는 시대가 오는 것이다.

 

 

P.S. 구글과 알파고의 정체, 그들이 추구하는 방향에 대한 전문가의 글 한편을 소개합니다. 아래 글을 쓴 사람은 슈퍼컴퓨팅 전문기업 클루닉스의 대표이자 베스트셀러 '빅데이터 혁명'의 저자인 권대석 박사입니다. 일찌기 왕년에 장학퀴즈 기장원을 하신 분이기도 하지요.^^

 

"예상대로 알파고가 이겼습니다" http://blog.naver.com/hyntel/220650239826

 

 

저작자 표시
신고
Posted by 송원섭

댓글을 달아 주세요

  1. 베짱이 2016.03.10 22:44 신고 Address Modify/Delete Reply

    무서운 글이네요. 인공지능이라..
    과거 수세기동안 인간이 동물을 사육한 이유가
    생각하는 힘때무인데. 기계와 인간간에 이러한 상황이 올 수도 있을것같은 생각이 드네요.

  2. 최용봉 2016.03.11 02:14 신고 Address Modify/Delete Reply

    전자계산기가 처음나왔을때도
    아마도 이런반응 이었을것같아요

  3. 노노 2016.03.11 07:58 신고 Address Modify/Delete Reply

    다 읽지는 않았지만 인공지능은 다행히 왜 그런 판단을 했는지도 명확히 알려주지요. 위에 작성하신 내용은 크게 걱정안하셔도 될것같네요.

  4. 게르니카 2016.03.11 10:38 신고 Address Modify/Delete Reply

    제가 공포를 느끼는 부분은 알파고의 답을 의심하지 않게 되는 것에 그치지 않습니다. 알파고는 부패하지 않지만 부패에 이용될 수 있지요. 법안 통과를 강행하려는 상황에서, 지지율을 유지하기 위해서는 어떤 이슈를 어떻게 다뤄야 하는가, 관심을 다른 곳으로 돌리기 위해 부각시킬 이슈가 뭐가 있을지 결정하게 하고, 법조계에서 수많은 법적 구멍을 찾아내어 기업들과 정치인들이 편법적으로 이득을 취하는 데에 조력할 겁니다. 더 커질 문제는 이 알파고의 능력이 모든 사람들에게 동등하게 제공되지 않는다는 점에 있습니다. 개인이 소유할 수 없는 차원의 이 하드웨어는, 지금도 이미 대형 영화관을 가봐도 매표원보다 매표기가 많은 현실처럼 점차 고차원적 판단을 요구하는 법조계, 회계, 프로그래밍...심지어 작곡이나 예술 같은 인간이 '감각'이라고 하는 영역까지도 침범해 인간의 자리를 밀어내고, 기업과 기득권자들을 위해 사용될 거라는 겁니다. 그리고 알파고의 수 자체를 이해하지 못하는 벌써 간의 차이로 볼때, 알파고를 통제할 수 있는 구글의 하드웨어/소프트웨어 적인 테두리가 언제까지 유효할거냐도 두려움에 포함됩니다.

  5. 개미 2016.03.11 11:15 신고 Address Modify/Delete Reply

    인간이 잘못된 상황으로 사용하려고 잘못된 방식으로 인공지능을 사용할때.
    정말...결론은 사람이 무섭네요ㅠ_ㅜ

  6. 허허 2016.03.11 17:01 신고 Address Modify/Delete Reply

    정사각형 프레임 안에서 게임하는 바둑과 인간 세계는 다릅니다. 다양한 변수들이 존재하죠. 예를들어 사람의 심리 같은건 데이터화 하기 힘든 일이지요. 그래서 기계는 정답일수 없고 결국 기계가 내놓는 결과값은 인간이 원하는 방향으로 흘러갈 가능성이 많다고 봅니다.

  7. 1234 2016.03.12 11:32 신고 Address Modify/Delete Reply

    오류가 있지 않을까? 하는 측면에서는 anomaly detection 이라는 기술이 있습니다.

  8. 라일락향기 2016.03.16 18:20 신고 Address Modify/Delete Reply

    오랜만에 만나는 포스팅 반갑습니다. ^^ 바둑에 대해 문외한인데도 몇 시간 생방송으로 시청하면서 이렇게 집중하면서 흥미진진했던 경험은 처음이었던 것 같습니다. 이세돌9단이 컴퓨터 매니아라지만 이런 중요한 대국을 5분만에 수락했다는 것에 놀랐습니다. 이 대국을 통해 이세돌9단도 더 성장할 것 같네요. 반가운 포스팅 잘 봤습니다. ^

  9. Débouchage Bruxelles 2016.05.08 05:35 신고 Address Modify/Delete Reply

    다 읽지는 않았지만 인공지능은 다행히 왜 그런 판단을 했는지도 명확히 알려주지요. 위에 작성하신 내용은 크게 걱정안하셔도 될것같네요.