<호모 데우스 3부 - 호모 사피엔스 지배력을 잃다> 요약/후기 - 인간에게 주어질 미래는?

유발 하라리의 저서 <호모 데우스> 3부에서는 21세기 초로 돌아와 인류와 인본주의에 대한 더 깊은 이해를 바탕으로 오늘날 인간이 처한 곤경과 인간에게 가능한 미래를 설명한다.

---

자유주의자들이 자유시장과 민주적 선거를 지지하는 이유는 개인마다 특별한 가치를 가지고 있고 자유의지에 의한 선택이 권력의 궁극적 원천이라고 믿기 때문이다. 하지만 3부에서는 아래와 같은 세 가지 상황이 이런 믿음을 무용지물로 만든다고 주장한다.

 

1. 인간은 경제적, 군사적 쓸모를 잃을 것이고, 따라서 경제적/정치적 시스템은 그들에게 큰 가치를 부여하지 않을 것이다.

2. 시스템은 인간에게서 집단으로서 가치는 여전히 발견할 테지만, 개인으로서의 가치는 발견하지 못할 것이다.

3. 시스템은 일부 특별한 개인들에게서 가치를 발견할 테지만, 그런 개인들은 일반 대중이 아니라 업그레이드된 초인간들로 이루어진 새로운 엘리트 집단일 것이다.

 

유기체의 시간 척도에서 치러진 과거 전쟁과 달리 오늘날에는 무인 드론과 사이버 바이러스를 갖춘 첨단부대가 20세기 대규모 군대를 대체하고 있다. 수년을 끄는 과거 전쟁과는 다르게 사이버 전쟁은 단 몇 분이면 끝난다. 역설적으로 24시간 내내 전쟁이 이뤄질 수도 있다.

 

경제도 마찬가지로, 인간만 할 수 있는 일이 점점 로봇과 컴퓨터로 대체되고 있다. 그렇다고 컴퓨터가 조만간 사람처럼 될 것 같지는 않지만, 지능과 의식을 늘 짝짓던 과거에서 인간보다 특정 일을 훨씬 잘하는 새로운 유형의 비의식적 지능을 인간이 개발하면서 지능을 의식에서 분리하고 있는데, 이러면서 인간은 경제적 가치를 잃을 위험에 놓여 있다. 

→ 어떤 시스템에서 필요로 하는 일만 잘 해내면 된다는 극도의 효율성을 추구하는 과정이라고 해석된다.

이러한 시스템, 알고리즘의 표적은 예외가 없다. 의사, 변호사, 증권사 직원, 운전사, 야구단 단장(오크랜드 애슬레틱스 단장 빌리 빈 사례), 심지어 예술 분야까지... 이렇게 대체되면서 생겨나는 잉여 인간은 무엇을 해야 하는가가 가장 중요한 질문이 될 것이다. 인간을 컴퓨터 알고리즘으로 대체하기 점점 쉬워지는 이유는 고대 수렵채집인과 달리 좁은 분야에서 전문화가 되기 때문이다.

---

19~20세기 개인주의에 대한 믿음이 통했던 이유는 나를 효과적으로 관리 감독할 이부 알고리즘이 없었기 때문이다. 자유주의는 이야기하는 자아를 신성시하고 온갖 허구를 믿어도 나를 잘 아는 시스템은 오직 나 자신이었다. 하지만 나를 더 잘 아는 시스템이 생겨난다면?

방대한 개인정보 데이터를 수집하는 거대 기업과 기관이 우리의 모든 데이터를 토대로 성향을 분석해 우리가 누리는 자유주의적 관행을 대신 정해줄지도 모른다. 힘든 결정을 내릴 때 결정을 대신 내려줄 이런 알고리즘을 이용하는 대가로 포기하는 건 인간의 자유의지이다. 귀한 데이터를 우리는 이메일 서비스와 웃긴 동영상 제공받는 대가로 첨단 기술기업에 무료로 넘기고 있다.

이처럼 방대한 데이터를 앞세운 알고리즘이 모든 것을 아는 신탁(oracle)이 되면 그다음에는 대리인으로, 마침내는 주권자로 진화한다고 책에서는 주장한다. 내비게이션을 예로 들면, 각종 교통정보를 알려주는 건 신탁 단계, 목적지까지 자율주행 시키는 건 대리인 단계, 마지막으로 어느 도로가 막히는지 분석하고 같은 알고리즘을 사용하는 운전자 절반에게는 특정 도로가 안 막힘을, 나머지 운전자에게는 이 정보를 비밀로 하며 정보를 통제하고 사람들이 특정 행동을 취하게 하는 게 주권자 단계.
→ 챗 GPT를 비롯해 생성형 AI들의 위치는 현재 어디까지 와있나 문득 생각해 본다. 

 

위에서 말한 엘리트 집단은 어떻게 생겨나는 것일까? 어쩌면 의학과 관련 있을지도 모른다. 20세기 의학의 목표는 병든 이를 치료해 다른 건강한 사람과 똑같은 컨디션을 유지하는 표준을 보장하는 거라면, 21세기 의학은 건강한 사람의 성능을 높이는 쪽으로 가고 있다. 비록 인류 전체를 위한 의의라 해도 21세기 의학 프로젝트 목표는 표준을 지키는 게 아니라 능가하는 거라서 새로운 초인간 계급을 탄생시킬 가능성이 높다. 이건 신체만이 아니라 마음에도 해당되어서 어쩌면 전쟁터에서 재빠르고 확실한 결정을 내리는 일처럼 극한의 효율만 추구하다 보면 인간이 감정을 잃은 동물이 되게 할 위험도 크다. 

몸과 뇌는 업그레이드해도 그 과정에서 마음을 잃는다는 건 시스템이 그렇게 다운그레이드된 인간이 시스템을 방해할 성질(혼란, 의심, 모순을 보는 능력)을 가지고 있지 않기에 오히려 선호할지도 모른다. 

---

인간의 욕망과 경험으로 돌아가지 않는 세계에서는 무엇이 의미있고 무엇이 권위를 쥐게 해 줄까?

데이터. 정치가 기술보다 더 빠르게 움직인 시대에는 발전하는 기술에 맞춰 제도를 내고 규제할 수 있었지만, 지금은 정부와 제도들이 밀려드는 데이터를 따라잡기 어려운 것처럼 보인다. 그 결과 정부는 장대한 비전과 방향성을 잃고 근시안적 행정만 할 뿐이다. 그렇다면 이를 누가, 무엇이 잡아둘 것인가? 새롭고 효율적인 구조들이 진화해 이런 공백을 채우겠지만, 여기서 또 질문해야 할 건 누가 이 구조를 만들고 제어하느냐는 것이다. 인류가 이 일을 맡지 못한다면 누가 할 것인가?

 

이 막대한 양의 데이터를 처리하는 건 인간의 뇌 용량 밖이라 결국 알고리즘이 대신 처리할 것이다. 그렇게되면 인간 중심적 세계관에서 데이터 중심적 세계관으로 넘어갈 텐데, 그 과정에서 그동안 가치있다 여기던 것들이 보잘 것 없어 보일지도 모른다. 인간은 이 거대 시스템 안의 작은 칩으로 전락해 그저 데이터를 기록하고, 업로드하고, 공유하면서 뒷받침한다. 지구적 네트워크를 형성해 스스로 창조의 정점으로 본 인간이 이제는 그보다 더 '전지전능'한 네트워크의 일부가 되어 인간이 수행하는 기능이 중요하지 않은 상태가 되면, 우주적 규모의 데이터 흐름 속 잔물결에 불과하게 된다. 

 

책 마지막에 적힌 세 가지 중요한 질문에서 "의식은 없지만 지능이 매우 높은 알고리즘이 우리보다 우리 자신을 더 잘 알게 되면 사회, 정치, 일상에 어떤 일이 일어날까?"라는 질문이 있다. 이 책의 목적은 미래를 예측하라는 게 아니라 현 이데올로기에 얽매이지 않고 미래에 대해 더 창의적으로 생각하고 지평을 넓혀 우리가 선택할 수 있는 가능성이 생각보다 폭넓다는 걸 깨닫게 해주는 것이다.