<AI 이후의 세계> 요약/후기

2023년 가장 큰 화두인 AI에 관해 인류가 나아가야 할 방향성은 어떻게 되어야 하는지, 급격히 발전하는 인공지능은 앞으로 어떻게 다루면 좋을지 안내하는 책이라 할 수 있다.

 

헨리 키신저(미국 전 국무장관), 에릭 슈미트(구글 전 CEO), 허튼 로커(MIT 학장) 세 명의 저명한 사람들이 썼는데 세 저자는 AI를 찬양하지도 규탄하지도 않으며, 인공지능의 과거, 현재, 미래, 그리고 다가올 미래의 바람직한 형태를 독자가 모색할 기틀을 제공하고, AI가 확산되면서 발생하는 위험은 AI 발전과 병행해 잘 관리되어야 함을 강조하는 게 이 책의 목적이다.

 

책표지

---

책 1장의 시작을 장식하는 아래 빌 게이츠의 말은 현재 진행형으로 와닿아서 여기에 남기고자 한다.

명심하라, 지금 일어나는 혁신은 인공지능이 이룰 성취의 첫걸음에 불과하다. AI는 우리가 미처 알아차리기도 전에 오늘날 문제가 되는 모든 한계를 돌파해버릴 것이다.

원문: Finally, we should keep in mind that we’re only at the beginning of what AI can accomplish. Whatever limitations it has today will be gone before we know it.  (gatesnotes.com 출처)

 

공상과학 영화에서는 유선형 미래자동차와 인간형 로봇을 AI 미래로 그렸지만, 현대 사회에서는 아직 거기까진 구현하지 않은 모양이다. 그렇지만 인간을 체스에서 이기는 것부터 시작해 알고리듬을 통한 상품 추천, 그리고 이젠 생성형 AI까지 접한 오늘날, AI는 이미 우리 사회에 광범위하게 뻗어있다. 그리고 앞으로도 AI와 인간이 매 순간 공존하는 서비스는 더욱 늘어날 것이다.

 

AI는 과거 체스에서 인간을 이기는 수준에서 이제는 학습한 결과를 토대로 스스로 무언가를 생성해내기 시작했다

안보에도 막대한 영향을 주는 것 역시 부인할 수 없는데 추적이 어렵고 쉽게 복제되고 배치 가능한 AI는 분명 구미가 당길 수밖에 없다. 그렇지만 AI를 통해 무기를 다루는 수많은 행위가 새롭게 가능해지고, 인간 의사결정자보다 빠르게 작동하는 AI가 돌이킬 수 없는 행동으로 막대한 피해를 유발하지 못하게 막아야 한다. 책에서는 각 국가들이 주기적으로 대화할 준비되고 독트린과 한계선을 확립하며 군사용 AI의 지속적 확산을 막는 방법을 대국적으로 논의해야 한다고 주장한다. 이것만으로 각국의 우위 경쟁을 막을 수 없지만, 그 중심에는 인류의 생존을 고려한 윤리적 판단이 있어야 한다.

---

그 중심은 네트워크 플랫폼

오늘날 AI 서비스 중심에는 '네트워크 플랫폼'이 있는데 막대한 이용자를 유치해 이용자에게 편익을 제공하는 디지털 서비스로 사업 영역은 대개 전 세계에 걸쳐 있다. 구글, 페이스북, 바이두, 위챗, 디디추싱을 손꼽을 수 있다. 일상생활, 정치, 상거래, 정부 행정 등 광범위에 퍼져 있고 지정학적 한계 따윈 없이 급확장되는 것으로 보이는 가운데 AI가 사회적, 정치적 결과에 영향을 미칠 가능성도 그만큼 커진다. 

네트워크 플랫폼 운영자는 지금까지는 편익과 상업적 성공만 추구했을지 몰라도 국가적 윤리나 서비스 윤리를 정의하라는 더 큰 과제도 반드시 해결해야만 한다. 이런 AI 감독 권한이 현재는 일부 거대 기업이 독립적 판단권을 가지고 있는데, 사용자 개인정보를 위시해 강력한 통제권을 보유한 보습이 곱게 보이진 않겠으나, 그렇다고 정부에 그 권한을 넘길 수도 없는 게, 과거 방식으로 정책을 수립하기 어려울 정도로 발전이 빠르며 특정 콘텐츠를 규제하기 시작하면 그런 결정 또한 전에 없이 광범위하고 강력한 권력 행사의 원인이 될 수도 있다.

 

 

정보에 맥락이 더해질 때 지식이 된다

그리고 지식에 소신이 더해지면 지혜가 된다. 역사적으로 소신이 생기려면 홀로 성찰하는 시간이 필요했으나, 인터넷은 정보의 홍수와 타인의 의견을 쏟아내며 그런 시간을 허락하지 않고 소신을 기를 용기를 허용하지 않는다. 인간은 새로운 소신과 지혜를 갖출 때만 새로운 지평선을 탐색할 수 있다. 디지털 세상에는 지혜가 생길 여유가 없어지고 타인의 인정과 연결이 중시되고 있는 것만 같다. AI가 주는 편의성도 결코 무시할 수 없으나 인간의 영역이라 할 수 있는 자아성찰의 영역이 점점 축소되는 건 아닐까 싶다.

AI 출력물이 정확하더라도 언제나 의문을 제기하는 능력을 길러야 한다. 

 

AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다.

---

인쇄기 발명으로 각종 개념과 믿음에 대한 해석을 유일신 종교에 의존할 필요 없어지고 새로운 사상이 널리 전파되었고, 16~17세기 사회는 다양한 분야에서 빠르게 발전했다. 인간이 이해하고 사유하고 판단하는 능력, '이성'이 중요시되었다. 그리고 지금 디지털혁명 시대에 전과 비교할 수 없을 정도로 많은 사상과 정보가 쏟아져 나오면서 인간의 이성만으로 해결할 수 없는 문제도 떠오르고 있다.

 

급격히 발전하는 AI 기술, '인간은 만물의 영장'이라는 표현이 무색하게 인간 고유의 영역이라 할 수 있는 부분도 AI가 흉내내기 시작했다. 과열된 AI 개발을 막기 위해 6개월간 중단하자는 목소리도 있었지만, 구글은 마이크로소프트 빙 AI의 대항마로 자체 AI 챗봇 '바드'를 내놨고, 중국은 AI 굴기에 박차를 가하고 있다.

AI로 인류가 누릴 혜택은 지금도 상당히 많고 앞으로도 많을 것이다. 이제 AI는 인류의 파트너로 자리 잡는 만큼, 어떤 부분을 AI에게, 어떤 부분을 인간과 AI 협업에 맡길지 결정해야 한다.

전반적으로 이 책을 읽은 느낌을 평가하자면 급격한 AI 발전 속도에 브레이크를, 광활하게 이뤄지는 AI 개발 레이스에 쉼표를 찍어주는 책 같다. 인간의 위치와 방향성은 어떻게 되어야 하는지 알고 싶다면 읽어봐도 좋은 책이라 하고 싶다.