4월 19일 유발 하라리(Yubal Harari)는 어린이용 저서 <멈출 수 없는 우리(영제: Unstoppable Us)> 출간 기념으로 영상간담회에 참석했습니다. 이 책은 사피엔스를 어린이 수준에서도 읽을 수 있게 내용을 글과 그림으로 쉽게 풀어낸 책으로 4부작으로 낼 예정이라 합니다.
이 간담회에서는 AI에 관해 유발 하라리가 자신의 견해를 드러냈는데, 사실 하라리는 줄곧 AI의 위험성을 지적하고 규제 필요성을 강조해 왔습니다. 물론 무조건 중단시키자는 게 아니라 인간 사회에 기여할 수 있는 부분도 많고 이젠 AI 관련 연구를 멈추려고 해도 완전히 멈출 수 없는 점도 잘 알고 있습니다.
제약회사가 효과 좋은 신약을 개발됐다고 바로 판매를 해버릴 수 있나요? 오랜 임상실험 과정을 통해 부작용을 확인하죠. 대화형 인공지능(AI) 챗GPT가 세상에 확산되는 속도 역시 인간이 조절해야 합니다.
간담회에서 다뤘던 AI에 관한 또다른 견해로 하라리는 인간 언어를 사용하는 AI의 '친밀함'이라고 분석했습니다. 자신의 저서 사피엔스에서도 아프리카 초원의 별볼일 없던 존재였던 인류가 오늘날 세상을 지배한 건 인류가 '이야기'를 통해 대규모 협동을 할 수 있었기 때문이었는데, 이제는 AI가 그런 인간의 영역까지 넘어 '이야기'를 지어낼 수 있기에 위험하다고 주장합니다. 하라리 교수는 "AI가 인간을 지배하기 위해서는 로봇도, 총도 필요 없다"라며 "이야기만 만들고, 인간이 이를 믿게 해서 서로를 쏘게 만들면 된다"라고 지적했습니다.
생성형 AI로 쏟아져 나올 자극적인 콘텐츠와 허위 뉴스에 관한 유발 하라리의 우려를 테이블로 정리하면 다음과 같습니다.
| 과거 AI | 현재 AI |
| 알고리즘. 더욱 자극적인 콘텐츠 위주로 노출시킴 | 생성형 AI. 자극적인 콘텐츠를 직접 생성할 수 있음 |
| 사람들이 그런 콘텐츠에 오래 머물게 하는 수준 | 사람과 대화를 하며 친밀한 관계를 형성하고 상품을 사게하거나, 종교를 개종시키거나, 정치적 신념을 주입시킬 수도 있음 |
또한, 세계 석학 8인에게 인류의 미래를 묻는 담화를 엮어 출간된 <초예측>이란 책에서 하라리는 '허구의 노예가 되지 말고 허구를 이용하라'고 주장합니다. 다시 말해 인간이 지어낸 이야기(여기에는 화폐 시스템, 이념 등이 포함), 즉 인간 필요성에 따라 지어낸 허구를 도구로 사용하고 허구 자체를 목적이나 의미로 받아들이면 안 된다고 합니다.
개인적인 의견으로는 좋은 쪽이든 나쁜 쪽이든 사람들은 이미 AI를 도구로 사용하기 시작했습니다. 최근 논란이 일었던 이미지 생성 AI 미드저니로 제작한 도널드 트럼프 체포 가짜 사진 유포가 대표적 예시라고 할 수 있습니다.
이렇게 허구를 제작해 도구로 쓰면, 그것을 의미 자체로 받아들이려는 사람을 만들어내고 그 파급력으로 사람들 사이 내분을 일으키기 충분합니다.
앞서 언급한 "이야기만 만들고, 인간이 이를 믿게 해서 서로를 쏘게 만들면 된다"는 유발 하라리의 경고가 다시 한 번 떠오르는 상황입니다.
거대 테크 기업간 AI 개발 레이스를 멈출 수 없는 지금, AI 윤리와 안정성은 어떻게 마련하는 게 좋을지, 허구에 과도하게 몰입하면 인간은 어떤 비극을 맞을지 다시 생각하게 됩니다.
허구의 노예가 되지 말고 허구를 이용하라
'사회' 카테고리의 다른 글
| 우루과이가 건진 나치 독수리상, 비둘기상 제작 철회 - 어쩌다 우루과이까지 왔나 (12) | 2023.06.22 |
|---|---|
| 우루과이 정부가 건진 나치 독수리상의 정체와 운명은? (26) | 2023.06.17 |
| 부를 대하는 자세. 남의 불행은 나의 행복일까? (feat. 에라스무스) (0) | 2023.01.28 |
| 운 좋은 사람의 20가지 비밀 - 돈이 들어오는 습관 기르기 (0) | 2023.01.27 |
| 세계 최대 럭셔리 브랜드 소비자가 한국인이라고? 기사 요약 (0) | 2023.01.26 |