테드 창이 본 AI, "지금 우리가 가진 기계에겐 의식이 없다"
존경하는 작가 테드 창이 파이낸셜 타임스( FT)의 AI 에디터인 마두미타 무르지아( Madhumita Murgia, 어느 쪽 이름인지 짐작이 안 가는...)와 나눈 인터뷰. 아마도 Lunch with FT 라는 고정란이 있는 듯 합니다. 저명 인사들과 데스크 급 기자들이 점심 식사를 함께 하며 대화를 나눈다는 형식인 듯. 음식 이야기가 꽤 상세히 나옵니다.
더듬더듬 내용을 읽어보다가 그냥 번역을 해 버리기로 했습니다. 물론 번역기의 도움을 받았고, 받았는데... 어느 정도는 괜찮았지만 중간 중간 어이없는 오역이 꽤 있어서 그걸 다듬어서 읽기 편하게 한 정도입니다.
혹시 필요하신 분들에게 도움이 되길. 원제는 아래 있는대로 Sci-fi writer Ted Chiang: "The machines we have now are not conscious" 입니다. 기자가 먹는데 너무 정신이 팔려 질문을 제대로 안 한건 아닌가 하는 생각도.
아무튼 기계가 쓴 글에서 아무런 영혼을 느낄 수 없었던 저는 창의 주장에 매우 동의합니다. 물론 모든 글이 영혼을 필요로 하는 것은 아니고, 어쨌든 인간은 일시적으로든 영구적으로든 아주 사소한 위안이라도 기계가 줄 수 있으면 그걸 원할 것이라는 말을 포함해서, 전적으로 동의합니다.
AI가 하는 대답들이 사실은 통계학적 정밀성을 지향하고 있다는 사실 때문에, AI라는 이름 대신에 응용통계(Applied Statistics)라고 불러야 한다는 창의 주장을 지지하지만, 기존의 응용통계를 가르치고 배우던 사람들은 어떻게 생각할지 궁금합니다. 한번 슉 읽어보시길.
참고로 원문은 여기.
Sci-fi writer Ted Chiang: ‘The machines we have now are not conscious’ | Financial Times (ft.com)
내가 테드 창에게 점심 식사를 같이 할 수 있겠느냐고 물었을 때, 그의 대답은 – 그가 쓴 이야기들처럼 – 간결하고 정확했다. "나는 AI의 현재와, SF가 그것과 어떻게 관련되어 있는지에 대해 이야기하게 되어 기쁩니다."라고 그는 답장했다. "하지만 저는 제 사생활에 대해서는 말하지 않겠습니다. 괜찮으시다면 점심 식사를 할 수 있습니다."
내가 관심을 가지고 있는 것은 창의 개인적인 삶이 아니라 그의 머릿속에 있는 세계들이다. 이 중국계 미국인 작가는 그가 30여 년 동안 쓴 18편의 단편 소설로 여러 개의 주요 상을 수상한, 그의 세대에서 가장 칭송받는 SF 작가 중 하나다. 외계종 생물과 의사소통하는 법을 배우는 언어학자에 관한 그의 소설 '당신 인생의 이야기'는 할리우드 영화 '컨택트(원제: Arrival)'로 만들어졌다.
창의 여러 작품들은 그의 독특한 스타일을 보여준다. : 단순함, 과학적 엄격함, 그리고 무엇보다도, 놀라운 독창성.그의 단편 중 하나인 '우리가 해야 할 일'에서, 프레딕터라고 불리는 장치는 인류를 미치게 만든다.이 장치는 버튼과 녹색 LED 조명으로 구성된 자동차 리모컨과 같다. 인간이 버튼을 누르기 1초 전에 항상 불이 깜박인다. 사람들이 그것을 능가하려고 할 때, 그들은 그것이 불가능하다는 것을 알게 된다.이 개념은 이 상상의 세계에서 자유 의지의 결핍과 인간이 생존하기 위해 그것을 믿어야 하는 이유를 보여준다. 모두 2페이지 반으로 되어 있다.
(해석자 주: 프레딕터는 인간이 무슨 행동을 하려고 하든 그것은 충분히 예상할 수 있고, 인간은 어떻게 해서도 그 결과를 바꿀 수 없다는 의미를 던져주는 가상의 기계. 만약 '불이 켜진 뒤에 안 누르면 되잖아'라고 생각하고 있으면 그 불은 영원히 켜지지 않는다. 이 기계의 등장 이후 인간 사회는 자유의지란 없었음을 깨닫고 좌절에 빠지는 사람들로 인해 대파란에 빠진다.)
우리는 창이 수년간 아내와 함께 살았던 시애틀에서 강 건너편에 위치한 워싱턴 주의 잎이 무성한 벨뷰에 위치한, 그리 격식을 따지지 않는 지중해식 레스토랑에서 만나기로 했다. 창은 55세의 날씬하고 여윈 몸집에 주름없는 얼굴과 긴 포니테일로 묶은 회색 머리를 하고 자신감 있게 걸어왔다. 그는 흰색 티셔츠와 크림색 바지를 입었다. 그는 공손하지만 대개의 질문에 즉시 대답하지 않았다.
"사람들은 제가 동부 해안지역에서 자랐다는 것을 알고 종종 놀랍니다,"라고 그는 말했다. "제가 항상 생각하는 만화가 존 캘러핸의 만화가 있습니다. 뉴욕과 LA의 차이점을 보여주는 작은 기준 같은 것입니다. 뉴욕에서는, 그 사람이 '퍽 유!'라고 말하지만, 생각풍선(말풍선 대신 속마음을 보여주는)에 쓰여 있는 내용은 '안녕하세요!'입니다. 그리고 LA에서는 사람들이 '안녕하세요'라고 말하지만, 실제 속뜻은 '퍽 유!'입니다." 그는 지금도 이렇게 생각하고 있는 것은 아니라고 확인했다. "하지만 저는 조용한 편인 것 같아요."
나는 샌프란시스코에서 세계 최고의 인공지능 회사들을 방문하고 바로 돌아오는 길이었다. 요즘 모든 사람의 머릿속은 대화와 질문에 응답하며 인간과 같은 문장과 이미지를 생성할 수 있는, 새로운 유형의 소프트웨어인 '생성형 AI'로 가득 차 있다. 이러한 새로운 도구를 발명한 실리콘 밸리의 발명가들은 인간의 언어를 사용할 수 있는 기술과 함께 온, 전례 없는 철학적 도전에 맞서고 있다.
이것들은 창의 작품 독자들과는 매우 친숙할 주제들이다. 언어와 인지의 관계, 초인적 지능의 의미, 그리고 궁극적으로 세계 속에서 우리의 위치의 변화하는 본질과 같은 것들 말이다.
우리가 주문하기도 전에, 웨이터를 겸하고 있는 주인이 매운 붉은 렌틸 수프 두 그릇을 들고 나타났다. 그 맛은 즉시 내 미각을 깨웠다. 짜고 자극적이었다. 우리가 깊이 파고들면서, 치앙은 그의 사색적인 방식으로, 그의 허구적인 세계와 우리가 살고 있는 세계가 불편하게 가까워지고 있다는 저의 관측에 대해 짚었다.
"우리가 지금 가지고 있는 기계들은 의식을 가진게 아닙니다."라고 그는 말한다. "한 사람이 다른 사람을 가르칠 때, 그것은 의식 사이의 상호작용입니다." 반면 AI 모델은 원하는 결과물이 나올 때까지 모델의 다른 변수 간 연결 강도, 또는 소위 "가중치"를 변환하는 과정을 통해 훈련된다. "아이를 가르칠 때 네트워크에서 가중치를 조정하는 것이 전부라고 생각하는 것은 큰 실수일 것입니다."
작가로서, 창의 비판의 핵심은 이 모든 것을 묘사하기 위해 우리가 선택한 단어들에 대한 불만이다. AI 엔지니어나 언론이 챗봇(ChatGPT) 등에 투영하는 '학습', '이해', '알다' 등의 의인화된 단어들이나 '나' 같은 인칭 대명사가 (마치 그것이 의식을 가진 존재인 것으로 보이게 하는)환각을 일으킨다는 것이다. 이 성급한 받아쓰기 때문에 우리 모두, 심지어 이러한 시스템이 어떻게 작동하는지 잘 알고 있는 사람들까지도 AI 도구에게서 마치 그것이 감각을 갖고 있는 것 같은 착각을 느끼게 된다고 그는 말한다. 사실은 텅 비어 있는데 말이다.
"얼마 전 트위터에서 누군가와 '인공지능이 무엇인가요?'에 대해 얘기한 적이 있었습니다. 그리고 또 다른 사람은 이에 대해 '1954년에 형편 없는 단어를 선택한 결과'라고 말했습니다. 그리고, 알다시피, 그 말이 옳습니다. 50년대에 우리가 (AI라는 이름 대신에) 다른 이름을 선택했다면, 우리는 지금 우리가 겪고 있는 혼란을 많이 피할 수 있었을 것이라고 생각합니다."
그래서 만약 그가 적절한 이름을 다시 짓는다면 그것은 무엇일까. 그는 즉시 대답했다. 응용통계( Applied Statistics).
"이런 종류의 것(AI와의 대화 같은 것)들이 대량의 텍스트를 통계적으로 분석한 결과에서 추출될 수 있다는 것은 정말 놀라운 일입니다."라고 그는 말한다. 하지만, 그의 관점에서, 그것이 도구에 지능을 부여하지는 않는다. 응용 통계가 훨씬 더 정확한 용어일 수 있다. "하지만 아무도 그 용어를 사용하고 싶어하지 않습니다. 왜냐하면 그것은 그렇게 섹시하지 않기 때문입니다."
창의 2010년 소설인 '소프트웨어 객체의 생애주기'에서 전 사육사 아나는 '가상 애완동물'이라는 이름으로 팔리는 감각적인 디지털 존재("디지언트"로 알려진)를 개발하는 AI 회사에 취직한다. 이 기계들은 오늘날의 인공지능과 달리 의식이 있지만 미숙하다. 이 소설은 발간된 뒤 수년간에 걸쳐 기술 창작자들과 그들의 발명품들 사이의 관계, 그리고 새로운 유형의 지능의 창조로 인해 발생하는 철학적 질문들을 검토하면서 수많은 질문들을 이끌어냈다. 그들은 어떤 종류의 도덕을 가지고 있습니까? 누가 그들을 책임질까요? 그들이 스스로 결정하도록 내버려 둘 수 있습니까? 창은 또한 이 이야기를 통해 부모가 된다는 것과 자유롭게 놓아 보낸다는 것, 두 가지 상반된 면을 자세히 그려내고 있다.
나는 항상 두 가지 수준에서 동시에 작동하는 것처럼 보이는 그의 이야기의 기원이 궁금했다: 그의 작품들은 양자역학, 인공지능 또는 이론 수학과 같은 광범위한 과학적 개념들을 다루는 동시에 일과 사랑, 가족이라는 평범한 인간 삶의 뉘앙스까지 담고 있다.
음식이 너무 빨리 서빙돼 대화에 방해를 받았다. 짙은 바바 가누쉬, 향신료를 넣은 콜리플라워, 민트 잎으로 장식된 크림 라브네, 올리브와 토마토와 오이의 크루디테, 따뜻한 피타빵이 함께 접시에 담겨 나눠먹을 수 있게 나왔다.
"저는 아이디어가 떠오르면 그 즉시 사라져버리는 경우도 꽤 있습니다. 하지만 때때로 몇 달 또는 몇 년에 걸쳐 같은 아이디어가 계속해서 떠오릅니다."라고 창은 바삭바삭한 콜리플라워를 먹으며 말했다. "그리고 나면 저는 이걸로 소설을 써야 하는 건 아닌가 의심하기 시작합니다. 왜냐하면 어떤 이유에서든 이 생각은 그 뒤로도 저를 가만히 두지 않을 것이기 때문입니다."
그리고 다양한 지중해식 요리들이 상을 가득 채웠다. (음식 이름 생략)
창이 자주 반복해서 다루는 주제들이 있다. 즉, 언어가 어떻게 우리가 누구인지를 구성하는가, 그리고 자유 의지의 존재 등이다.
그의 2019년 단편 "불안은 자유의 현기증"에서, 등장인물들은 일상적으로 공상 과학 소설의 흔한 단계인 평행 우주의 포털을 열고 그들의 대체 자아(alternate selves)와 대화한다. 그의 초기 아이디어는 그러한 장치가 어떻게 생겼는지, 양자 컴퓨터를 사용하여 어떻게 작동하는지에 대해 쓰는 것이었다.
하지만 이 이야기는 또한 사람들의 자신의 행위( agency)에 대한 변화하는 감각을 탐구했다. 그의 등장인물들이 뭔가 결정을 내릴 때 느꼈던 중량감은, 그들의 다른 자아(alter-ego)가 다르게 행동할 때면 어디론가 사라지곤 했다. "저는 그것에 대해 점점 더 생각하기 시작했고, 그 후 그것은 일종의 자유 의지에 관한 이야기로 바뀌었습니다."
(해석자 주: '불안은 자유의 현기증'에서 등장인물들은 자신이 어떤 결정을 했을 때, 다른 차원에 있는 또 다른 자신들은 그것과 다른 결정을 내렸는지를 궁금해하며, 그것을 통해 자신의 판단이 옳았다는 확신을 얻으려 한다. 하지만 다른 자아들은 자신과 다른 판단을 내린 경우, 자신의 판단이 잘못된 것이었다는 후회로 괴로움을 겪는다. 그렇게 해서 이 이야기는 '어떤 상황에서든 나에게 다른 선택은 있을 수 없었다'는 식의, 자유의지에 대한 생각을 흔들어놓는다.)
.
비록 그의 이야기들이 복잡한 개념들을 포함하고 있지만, 창은 SF 장르의 오랜 전통의 일부인 단편 소설 형식을 고수해왔다.그는 아서 C 클라크와 아이작 아시모프와 같은 사람들로부터 영감을 받아 15살 때 한 잡지에 그의 첫 번째 단편 소설을 싣는데 성공한다. 그리고 그가 마가렛 앳우드나 가즈오 이시구로와 같은 문학적이거나 사색적인 소설가가 아닌, 이 SF 장르의 전문 작가로 확실히 자리를 잡는 동안, 그의 작품은 장르의 한계를 넘어 완전히 새로운 관객들에게 도달한다. 모든 길은 할리우드로 통한다.
"저는 제 작품이 SF 마니아가 아닌 일반 독자들에게 도달했다는 사실에 매우 놀랐습니다.그럴 거라고 상상하지 못했거든요." 라고 창은 말한다. 몇몇 문학 에이전트들은 전부터 그에게 그의 작품이 일반 독자층에게는 받아들여지지 않을 것이라고 장담한 바 있다.
그가 글을 쓰는 이유를 그는 '써야만 하기 때문'이라고 말한다. 그는 다음과 같이 말한 작가 애니 딜라드의 말을 인용한다. "당신이 만약 흥미로운 것을 발견했다고 칩시다. 그런데 설명하기는 어렵습니다. 당신이 어디서도 그런 내용을 읽어본 적이 없기 때문입니다. 그래서 당신이 시작합니다. 그때부터 당신은 이 경이로운 이야기에 목소리를 붙여 주기 위해 존재하는 것입니다."
창은 말한다. "아직 아무도 그것에 대해 쓰지 않았기 때문에 흥미롭고, 그래서 당신은 그것을 표현하고 싶어합니다. 이제 그것이 바로 당신이 하는 일이 됩니다."
창은 점심 뒤 가까운 벨뷰 다운타운 공원에서 걷자고 제안했다. 나는 그에게 조금만 더 머무르라고 설득하고, 바클라바를 디저트로 나눠먹자고 했다. .그는 식당 안으로 사라졌고, 하얀 접시에 그들을 직접 담아 왔다.
언어와 지능 사이의 관계에 대한 그의 천착 때문에, 나는 특히 채팅 GPT와 같은 AI를 이용한 글쓰기에 대한 그의 견해가 궁금했다. 나는 기계가 생생해낸 글들이 그와 내가 쓰는 것과 같은 글쓰기를 어떻게 바꿀 것인가 하는지에 대한 그의 생각을 물었다. 우리의 대화에서 처음으로, 나는 그에게서 짜증의 섬광을 느꼈다. "그들이 뭔가 사람에게 말을 건네는 글을 쓰나요? 제 말은, 챗 GPT가 만든 에세이 중에 실제로 사람에게 뭔가를 말해주는 글이 있었습니까?" 그는 말했다.
(원문은 "Do they write things that speak to people? I mean, has there been any ChatGPT-generated essay that actually spoke to people?" 인간에게 어떤 식으로든 들을만한 가치가 있는 자신만의 메시지가 담긴 글을 쓰는 AI를 본 적이 있느냐는 의미인 듯.)
창의 견해는 ChatGPT 및 Google의 Bard와 같은 챗봇의 기반이 되는 대형 언어 모델(또는 LLM)이 인류학자 David Graeber가 "거지같은 직업"이라고 불렀던 작업인, 아무도 읽거나 쓰고 싶어하지 않는 필러 텍스트(filler text: 빈자리를 메꿔 주는 텍스트. 전형적인 회사 안내, 길 안내 등 그냥 기능적으로 존재하는 텍스트)를 생산하는 데 주로 유용하다는 것이다. 인공지능이 만든 텍스트는 즐겁지 않지만, 특정 영역에서 유용할 수 있다고 그는 인정했다.
"하지만 LLM이 그 중 일부를 수행할 수 있다는 사실은 그들의 능력에 대한 확실한 칭찬은 아닙니다."라고 그는 말합니다. "반대로 그것은 우리가 일상 생활에서 얼마나 많은 헛소리를 만들고 다루어야 하는지를 보여준다고 해야 할 것 같네요."
창은 2월에 출간된 The New Yorker지에 "ChatGPT는 웹의 흐릿한 JPEG"라는 에세이를 기고했다. 그는 '언어 모델'을 '그들이 훈련받은 텍스트의 흐릿한 모방, 문법 규칙을 따르는 단어 순서의 재배열'로 설명한다.그 기술은 기존의 것과는 약간 다른 재료를 재구성하고 있기 때문에, 뭔가를 이해하고 있다는 느낌을 준다는 것이다.
그가 이것을 언어를 배우는 아이들과 비교하기에, 나는 내 다섯 살짜리 아이가 어떻게 작은 한 줄짜리 농담을 발명했는지에 대해 이야기했다. 대부분은 말장난(pun)인데, 그걸 들은 창은 매우 반색했다.
"당신의 딸은 농담을 듣고 재미있다고 생각했습니다. 하지만 ChatGPT는 재미있는 것을 발견하지도 못했고 웃기려고 노력하지도 않습니다. 당신의 딸이 하는 일에는 큰 사회적 요소가 있습니다."
ChatGPT는 "다음 번에 함께 놀 때 당신을 또 웃게 할 수 있는지 확인하기 위해 정신적으로 리허설을 하지" 않는다. 창은 인간의 의도, 감정, 목적이 실리지 않은 언어는 무의미하다고 믿는다. "언어는 다른 존재들과의 상호작용을 촉진하는 방법입니다. 이는 현재 [AI 툴을 통해] 하고 있는 미래 예측과는 완전히 다릅니다."
공원을 산책하기에 좋은 날씨. 특히 밝은 분홍색 수국 덤불과 넓은 물가에 녹음이 우거진 공간이었다. 우리는 왜 공상 과학 소설이 중요한지에 대해 논의하면서 빠른 속도로 걷기 시작했다. 비록 그는 선동하기 위해 글을 쓰지는 않지만, 그는 공상 과학이 어떻게 급진적인 힘이 될 수 있는지 느끼고 있다. "과학 소설은 변화에 관한 것이고, 사람들이 세상이 지금과는 다른 세계를 상상하도록 도와줍니다."라고 그는 말한다.
영국의 문화 비평가이자 정치 이론가인 마크 피셔도 비슷한 말을 했다. 창은 다음 내용을 인용한다: '해방 정치의 역할은 우리가 필연적이라고 들은 것이 사실은 우리 자신이 어떻게 할지에 달려 있다는 것을 널리 드러내는 것이다. 그리고 우리가 불가능하다고 들은 것들은 실제로 달성할 수 있는 것들이다.' "저는 SF 소설에 대해서도 같은 말을 할 수 있다고 생각합니다."
창은 정치와 그의 소설을 혼동하지 않지만, AI가 자본주의를 강화하는 장치(force multiplier)라고 걱정한다. 2017년 버즈피드의 에세이에서 그는 기술주의자들을 "부정적인 결과의 가능성을 외면하고, 편집광적인 초점으로 오직 목표만을 추구하는" 그들의 초지능 인공지능 창조물에 비교했다.
그의 두려움은 연구자들이 예측하는 것처럼 인공지능이 세계를 지배하는 최후의 날 시나리오에 관한 것이 아니다. 그는 AI 같은 기술이 소수의 손에 권력을 집중시키고, 불평등 문제를 가속화하는 데 대해 훨씬 더 걱정하고 있다.
우리는 공원을 몇 바퀴 돌았고, 나는 슬슬 다른 산책객들을 알아보기 시작했다. 나는 창에게 사람들이 일상적으로 기계와 소통할 때 세상이 어떻게 바뀔 것인지를 물었다.
우리는 몇 분 동안 말없이 걸었고, 그는 갑자기 톰 행크스의 영화 '캐스트 어웨이'를 기억하느냐고 물었다. 행크스의 섬에는 그가 사랑하는, 유일한 동반자인 윌슨이라는 배구공이 있었다. "저는 윌슨에 대한 비유가 이러한 시스템에 대해 생각하는 유용한 방법이라고 생각합니다." 그가 말했다. "배구공 윌슨이 톰 행크스의 캐릭터에게 진정한 위안을 제공했기 때문에, 윌슨에 대해 그가 느끼는 감정은 줄어들지 않습니다. 하지만 중요한 것은 그가 배구를 목표로 하고 있다는 것입니다.하지만 건너편 코트에는 아무도 없습니다."
그는 왜 사람들이 서로 말하는 것보다 인공지능 시스템에 말하는 것을 더 선호하기 시작하는지 인정한다. "사람들과 소통하는 것이 어렵다는 것을 이해합니다. 힘들어요. 그것은 많은 것을 요구하며 종종 보상을 받지 못합니다"라고 그는 말한다. 그는 현대 생활이 사람들을 그들만의 무인도에 발이 묶이게 하고, 그들로 하여금 우정을 갈망하게 했다고 느낀다. "그래서 지금은 이것 때문에 배구공의 기회(!)가 있습니다"라고 그는 말한다. "소셜 챗봇은 윌슨이 제공하는 것과 같은 방식으로 사람들에게 편안함과 진정한 위안을 제공할 수 있습니다."
하지만 궁극적으로, 우리의 삶을 의미 있게 만드는 것은 인간 사이의 상호작용, 즉 서로에게 반응하는 사람들로부터 얻는 공감과 의도다. 인공지능에 대해 창은 이렇게 말한다. "그것들은 건너편 쪽에 누군가가 있는 것처럼 느끼게 합니다. 하지만 거기엔 아무도 없습니다." (끝)