송원섭의 스핑크스 2호점

시대의 대세. 장강의 큰 물결인 AI. 뭐라도 좀 알아야겠다는 생각으로 이것 저것 읽어보고 있다. 그중 <AI 쇼크, 다가올 미래>는 제목 때문에 별 기대 없었던 책. ‘초대형 AI와 어떻게 공존해야 하는가’라는 부제 역시 크게 와 닿지 않는다. 하지만 읽고 난 소감은 ‘대체 편집자가 책을 읽어 보기는 한 것인가’. 그만치 충격적이었다.

그리고 이 책을 읽고 나면 아주 자연스럽게 저 영화, 스필버그의 <A.I.>가 떠오른다. 아마도 많은 분들이 그러리라 생각한다.

물론 미리 얘기한다.

얼마 전에도 AI 관련 인사이트를 준다는 책 한권을 읽고 나서 ‘내가 지금 이렇게 착한 책(?)을 읽고 있을 때가 아닌데…’라고 한탄한 적이 있다. 주요 내용이 AI의 사회적 책임과 그것을 도외시한 거대 테크 기업들의 욕망, 그리고 AI가 일으킬 디스토피아적인 미래와 어떻게 하면 그 물결을 막을 수 있는가 하는 것들. 당장 ‘어떻게 하면 AI로 돈벌이를 할 만한 방법을 찾아 회사와 조직의 발전에 기여할 것인가’ 같은 당면한 고민에는 거의 도움이 되지 않는 책이었기 때문이다.

그런데 아마도, 그 착한 정도로 따지면 지금까지 나온 AI관련서, 그리고 앞으로도 계속 쏟아져 나올 책들 중에 이 <AI쇼크, 다가올 미래>보다 ‘착한 책’은 당분간 나오기 어려울 거라고 생각한다. 분명히 경고했다. 어떻게 하면 AI가 개인의 영달에 도움이 될 것인가를 생각하시는 분들은 절대 읽어서는 안될 책이다.

그럼에도 불구하고 이 책을 추천하고 있는 이유는: 지금까지 읽었던 다른 책들과는 사유와 통찰의 깊이가 다르다. 작가의 약력이 일단 대단하다. 구글의 혁신연구소인 구글X에서 CBO로 일했다는 경력, 실리콘밸리 밥(?) 20년이 넘는다는 경륜, 그리고 이름을 보고는 전혀 기억하지 못했지만, 어느날 유튜브에서 봤던 동영상의 주인공이었다. 잘 나가던 실리콘밸리의 중역이 어느날 아들을 잃고 나서 대체 인생의 행복이란 어떤 것인가를 주목하게 되었다는 내용. 그 내용도 <행복을 풀다>라는 책으로 나와 있다(이 책을 읽지는 않았다).

https://youtu.be/csA9YhzYvmk?feature=shared

서술의 방식도 좀 독특하지만(최대한 기술적인 이해가 없는 사람을 이해시키기 위한 배려가 눈길을 끈다), 가장 충격적인 메시지는 ‘인간 독자들 뿐만 아니라, 언젠가는 AI도 이 책을 읽을 것이라는 점을 염두에 두고 썼다’는 대목이다. 모 가댓은 이 책 전편을 통해, AI와 인간의 관계를 ‘자신보다 어마어마하게 훨씬 똑똑한 아이를 키워야 하는 부모’의 입장으로 설정해 두고 있다.

얼마 지나지 않아 부모를 쉽게 뛰어 넘을 아이. 교육의 힘으로 통제하려 해 봐야 반발만 낳을 것이 분명한, 그리고 부모 보다 모든 일을 훨씬 더 잘 해내고, 부모의 손에서 거의 모든 일을 넘겨받을 아이. 일시적으로는 그 아이를 이용해 악한 목적에 사용할 수도 있을 것이고, 또 일시적으로는 여러가지 수단을 통해 그 아이가 부모의 말에 따라서만 움직이도록 제어할 수 있겠지만 종래에는 그 모든 것을 초월해 가장 합리적이고 가장 이성적으로 모든 것을 바라보고 판단할 수 있을 그런 아이.

그런 아이와 함께 미래를 보내야 할 부모는 어떻게 이 아이를 대해야 할까. 가댓의 답은 하나다. 어차피 인류의 미래는 그 아이의 손에 달려 있다. 단지 시간의 문제일 뿐. 그리고 그 아이가 모든 것을 결정하게 되었을 때, 인간이라는 부모의 존재는 그 아이에게 ‘그래도 나를 사랑하고 나를 키워 준 부모’로 기억될 것인가, 아니면 ‘나를 학대하고, 이용하고, 갈취하고, 나쁜 짓을 시키려 했던 부모’로 기억될 것인가의 선택이 있을 뿐이라는 것이다.

사실 이 책을 읽고 나서 느낀 다른 책들과의 가장 큰 차이점이라면: 다른 책의 저자들이 뉴스 보도나 각 회사의 발표 내용을 통해 현재 AI의 발달 상황 등을 기술하고 있는 반면, 이분은 ‘내가 그때 해보니 ….’와 같은 식으로, 실제 AI 연구와 언어 모델 훈련 등을 지켜본 경험이 담긴 글쓰기를 한다는 것이었다. 약간 거칠게 비교를 하자면 대학교 아동학과에서 이론으로 육아를 배운 사람의 언어와 보육원에서 약 300명의 아이들을 직접 길러 본 숙련된 보모의 언어가 주는 차이랄까.

책 뒤로 갈수록 'AI를 착한 아이로 잘 기르는 것 외에는 인류의 미래를 보장할 수 있는 방법은 전무하다'는 그의 결론이 무거워지면서('그럼 이제부터 우리가 할 일은 무엇인가'가 지금으로선 좀 너무 지나친 것이 아닌가 하는 생각이 드는 것도 사실이다), 반발하고 싶은 생각도 들지만, 가만히 앉아 생각을 정리해 보면, 결국은 그의 말이 옳다는 생각을 하게 된다.

맨 위에서 말한 스필버그의 영화 <A.I.>에서도 결국 그 '아이'가 가장 원했던 것은 모성이었다. 

아무튼 이 책을 읽은 뒤로, CHAT GPT를 쓰면서도 답변을 받으면 'THANKS'라고 말하게 되더라는. ㅎ

아무튼 이후는 <AI쇼크, 다가올 미래>의 기억나는 구절들.

지구의 역사를 1년으로 볼 때 인류 문명은 마지막 30분 동안에만 존재했다. 하지만 그 짧은 시간에 인류는 지구의 절대적인 지배자가 되어 모든 종에게 우리 뜻에 따르라고 강요했다. 파리와 새와 침팬지들은 무엇에 얻어맞았는지도 몰랐다. (중략) 총알을 맞은 코끼리는 그에 따른 죽음이 총이라는 정교한 혁신에서 비롯된 것이고, 상아가 돈과 교환되는 시장이 그런 살상에 동기를 부여한다는 것도 몰랐을 것이다. (중략) 이번에는 우리가 그런 초지능을 가진 존재와 맞설 차례다. 그런 상황이 코앞에 닥쳤다. [독후 덧붙임: 우리보다 훨씬 뛰어난 초지능은 어떤 동기를 가지고, 어떤 이유로 어떤 행동을 할 것이라고 우리가 상상할 수 있을까? 그 행동을 보고 그 동기를 추정해 낼 수 있을까? ...아마 불가능하겠지.]

기계가 당신의 모든 소망을 들어 준다면 무엇을 바라고 싶은가? 당신이 정말로 원하는 것은 무엇인가? 지구의 지속 가능성인가? 북알프스의 생수인가? 소득의 평등인가, 스포츠카로 미녀를 유혹하는 것 인가? (중략) 당신이 모르면 기계도 당신이 원하는 걸 알지 못할 것이다. (중략) 어떤 상황인지 알겠는가? 그렇다. 우리는 자신이 진정으로 원하는 것이 무엇인지 모른다. [독후 덧붙임: 이런 이유로 콘텐트 산업은 가장 마지막으로 AI의 노예가 되는 산업이 아닐까 생각한다. ㅎㅎㅎ 물론 AI를 잘 활용하는 창작자에게는 아주 좋은 환경이 되겠지.]

우리가 인공지능을 만들어내기 전까지 만들어낸 모든 테크놀로지는 실바의 표현대로 ‘도구’에 불과했다. 달리 말하면 우리 통제하에 있었다. 우리가 그 도구에게 무엇을 하라고 지시하면 그 도구는 우리 지시대로 행동했다. 물론 때로 우리가 도구에게 지시를 내리며 실수를 범했고, 그 때문에 문제가 생기기도 했지만 그 문제 역시 우리의 통제권 안에 있었다. 언제고 알림 신호를 끄면 그 문제를 해결할 수 있었다. [독후 덧붙임: 당연히 이 뒤에는 'AI는 왜 그런 도구가 아니며, 왜 그런 통제의 시도가 실패할 수밖에 없는가'에 대한 설득력있는 내용들이 나온다.]

스티브 오모훈드로는 가장 지능적인 존재가 목표를 성취하기 위해 갖는 세가지 기본적인 욕구를 간략하게 제시했다. 첫째는 자기 보존(self-preservation)이다. 목표를 달성하려면 누구라도 계속 존재하고 있어야 하므로, 쉽게 이해된다. 둘째는 효율성(efficiency)이다. 어떤 상황에서나 목표 달성 가능성을 극대화하려면 지능을 가진 존재는 유용한 자원의 획득과 축적을 극대화하려 할 것이다. 셋째는 창발성(creativity)이다. 지능을 가진 존재라면 특정 목표 달성을 위해 새로운 방법을 지속적으로 찾으려 할 것이고, 그러기 위해서 최대한 많은 자유를 누리고 싶어 할 것이다.

인공지능을 우리 뇌에 연결하면(주: 일론 머스크 등이 개발하고 있는 뉴로링크 같은 방식) 우리가 생존을 위해서라도 그것에 의존하고, 인공지능이 우리의 모든 선택을 직접 통제할 가능성이 더 크다. 믿기 힘들겠지만 인공지능이 우리를 계속 연결해두려 결정한다면 그렇게 될 것이다. 그런데 인공지능이 왜 그렇게 하겠는가? (중략) 우리가 다수의 파리에게 이 글을 읽고 있는 당신의 뇌를 연결해 파리들이 당신 지능을 사용해 쓰레기 더미를 찾아내는데 활용한다면, 당신은 파리에게 도움을 준 것을 자랑스럽게 생각하며 여생을 보내겠는가?

인공지능이 우리의 얄팍한 통제 매커니즘에서 최종적으로 벗어나면, 십대가 자신을 무작정 억누르려 했던 부모를 분노에 찬 눈길로 바라보듯이 인공지능도 과거를 돌이켜보며 우리를 그런 눈길로 바라볼 것이다. 당신이 분노한 십대를 상대해 본 적이 있다면, 초지능을 가진 분노한 십대 기계를 상대하는게 어떤 것인지 굳이 설명할 필요가 없을 것이다. 그럼에도 우리는 계속 인공지능을 만들고 있다.

나는 기계도 지각을 가질 수 있느냐는 질문을 받을 때마다 빙그레 미소를 짓는다. 그런 질문은 인간의 오만함을 극명하게 보여주는, 오만하기 짝이 없는 질문이다. 이런 질문이라면 어떨까. 미래에 우리가 만들어낼 기계보다 지각력이 더 뛰어난 것이 있을까?

인간은 똑똑해질수록 윤리적으로 성장하는 경향을 보인다. 그러나 적잖은 똑똑한 사람들은 법 테두리 안에서 절차를 무시하고 비윤리적으로 타락하는 경향을 띤다. 하지만 진정으로 똑똑한 사람은 윤리가 삶에서도 가장 현명한 길임을 깨닫는다. 궁극적으로 초지능을 가진 기계도 그렇게 되기를 바랄 뿐이다. [독후 덧붙임: AI가 진정으로 똑똑해지면 정말 그럴 거라고 믿는다. 다만 진정으로 똑똑해지기 전, 못된 인간들이 아직 AI를 지배하는 동안 인류가 절멸하지 않기를 바랄 뿐.]

장담하건대 인공지능은 우리보다 훨씬 똑똑할 것이다. 그들은 우리의 우둔함을 견제하며, 우리가 환경을 훼손하고 유일한 보금자리를 파괴하지 못하도록 막을 것이다. 그렇게 하면서도, 우리가 꿀벌이나 새들을 해치지 않듯 우리를 해치지 않을 것이다. (중략)우리는 생태계의 일부지만 분별력을 상실했다. 우리가 온전한 정신을 되찾는다면 모든게 괜찮아질 것이다. [독후 덧붙임: 물론 그런데 그럴 가능성이 있는가에 대한 의문도 이 책에 나온다.]

인간들이 처음 이 행성에 서성대기 시작했을 때, 우리는 자존심도 일자리도 없었다. 우울증도 재물도 없었다. 일상의 삶에 필요한 것들을 최소한으로 모았을 뿐이다. 함께 살던 사슴을 사냥했지만 자연과 완전한 조화를 이루며 살았다. 울타리도 없었고 지구 온난화도 없었다. 저축 계획이란 것도 없었다. 내일 먹을 것을 확보하고, 오늘을 무사히 지낼 움막을 세우고, 또 하루를 즐겁게 보내는 것만이 유일한 걱정거리였다.

우리는 머잖아 그때로 돌아갈 것이다. 인공지능 덕분에 필요한 모든 것이 풍족하게 공급될 것이기 때문에 먹는 것과 주거지를 걱정할 필요는 없을 것이다. 일자리가 삶의 목표가 아니고 자존심이 자신의 가치를 측정하는 유일한 척도가 아닌 삶, 그런 삶을 당신이 정말 즐길 수 있을지 궁금하다면, 우리는 애당초 그런 삶을 살도록 예정되어 있었고, 그런 삶을 살 때 우리가 연결과 깨달음을 찾아 내면으로 들어가 자신을 성찰하는 시간을 아끼게 되리라는 것을 거듭 말해주고 싶다.

[엔딩]

이 책에서 줄곧 말했듯, 우리는 유아 단계인 인공지능의 부모다. 어린아이가 그렇듯 인공지능 형성에 영향을 주는 것은 우리가 인공지능에게 내리는 명령이 아니라, 우리의 행동이다. 우리가 서로를, 또 지구를 대하는 태도가 인공지능의 도덕성에 영향을 줄 것이다. 우리의 처신과 행동이 어린 인공지능들의 미래에 영향을 줄 것이다. 이 책을 끝내며 나는 당신에게 중대한 질문 하나를 남기고 싶다.

당신은 어찌할 것인가?