Open AI 사태를 보다가 생각난 프로메테우스

질문을 잘 하란 말이야

 

똥오줌 못 가리는 문과출신의 OPEN AI 사태에 대한 관전기. 회사 이사회가 창업자이며 회사의 리더인 샘 알트만을 해고시킨 것까지 좋았는데, 알고 보니 이 회사의 이사회는 주주들이 아니라 사회 공익단체 간부 같은 사람들이 다수를 차지하고 있다고 해서 놀랐다. 결국 잽싸게 나선 마이크로소프트가 알트만을 채용하겠다고 하고, 직원들이 줄줄이 따라 나선다고 하고, 결국 알트만이 OPEN AI 대표로 복귀하는 드라마같은 이야기를 지켜봤다.

1. 샘 알트만(올트먼?)은 대단한 사람이구나. 한 사람이 관둔다고 500명이 따라서 관두겠다고 하는 일은 엄청난 일. 여기까지만 봐도 정말 한폭의 드라마. 대체 평소에 어떻게 해줬길래?

2. 일리야... (이름이 길어서 못 외움. 수츠케버)는 연구는 잘 하는지 모르겠지만 진짜 인간에 대해서는 정말 몰랐구나. 반란의 수괴가 하루만에 "내가 미쳤었나봐. 잘못했어. 나를 버리지 마"라고 하는 모습은 정말 보기 흉하다.

3. 이게 결국은 AGI로 이행하는 속도가 너무 빠르기 때문에 견제하기 위해 일어난 일이라는데, 세상에 인공지능 연구하는 회사가 OPEN AI 하나만 있는 것도 아니고 보면, 그 회사의 CEO를 날린다고 해결될 수 있는 문제일까?

4. 사회에 경종을 울리는게 목표였다면 일단 크게 울린 셈. 하지만 무슨 수로 저 열차를 세울수 있을까. 스스로 좋은 사람들이라고 생각한다면, 좋은 AGI를 나쁜(놈들이 키운) AGI보다 빨리 개발하는게 그나마 괜찮은 방법이 아닐까.

 

샘 알트먼과 일리야 수츠케버

문득 또 생각. 저 일리야...님이 "인간이 평생 만나는 정보량을 단어 수로 계산하면 약 10억개, 아주 넉넉잡아 20억개라고 쳐도(20억개라면 약 62년 동안 잠도 안 자고 1초에 한 단어씩 보는 셈), 이건 AI가 학습하는 정보량에 비하면 정말 미미한 양"이라고 하셨다는 이야기를 어디서 읽었습니다.

물론 그렇게 많은 정보를 접한다고 해도, 최소한 초기에는 오염된 정보/ 가짜 정보/ 틀린 정보를 걷어내기 위해서는 결국 인간이 옆에서 '편견(일부러 이 표현을 썼습니다)'을 넣어 줘야겠지만, 그 과정도 다 지나 그것도 결국 일부의 의견이라는 걸 다 아신, 통계학적으로 다음 어순에 들어갈 단어 찾기를 지나, 논리적 추론도 지나, 예측과 분석을 다 하게 되고, 진짜 자기 생각이란 걸 할 수 있게 되신, 정말 최고의 현자가 되신 AI님에게는 이 말을 물어봐야겠다는 생각이 드네요.

 

 

"댁이 보기에 '진정 인류를 위하는 길'이란 어떤 길인가요?"

이 질문을 빨리 하기 위해서라도 연구자들이 더 분발해 주셨으면 좋겠습니다.

 

P.S. 그런데 문득 영화 <프로메테우스>의 한 장면('어디서 분수도 모르고 질문을 하고 XX이야?')이 갑자기 떠오르네요. 질문은 다른 분이 해 주세요. ^^