다음 50년: 인류, AI, 권력

한 문장 요약

주장 지도 — 8개 축, 21개 주장

1. 언어는 문명의 운영체제다

• 언어 = 문명의 OS. 5만~7만 년 전 인지혁명에서 인간이 정교한 언어를 획득했고, 교회·국가·무역망·금융시스템 등 인간이 지은 모든 거대 구조물은 궁극적으로 단어로 — 법전·경전·은행 장부의 단어들로 — 만들어졌다.

• AI는 언어를 마스터하는 최초의 비인간. 역사상 처음으로 인간보다 말을 잘 다루는 존재가 지구에 등장할 수 있다. 언어가 문명의 운영체제라면, "무언가 이질적인 것이 그 운영체제를 장악하면 무슨 일이 벌어지는가"가 근본 질문이다.

• "언어 자체의 해방" 가설. AI는 언어를 배운 기계가 아니라, 언어 그 자체가 유인원이라는 동물 숙주 의존에서 해방되는 사건일 수 있다 — 어떤 물질 기질에도 의존하지 않고 인간 없이 우주로 발전·확산하는 언어. 대담 서두와 말미에 두 번 등장하는 가장 사변적인 주장이다.

2. 민주주의는 정보기술 위에 서 있다

• 민주주의 = 대화, 독재 = 명령. 대화는 당대의 정보기술 위에서만 성립한다. 고대 아테네·중세 피렌체 같은 소규모 민주주의는 있었지만, 대규모 민주주의는 근대 정보기술(인쇄 신문→라디오→TV→인터넷) 이전엔 단 한 사례도 없다 — 중세 포르투갈 크기의 왕국에서도 전국적 대화는 불가능했다. 신문과 라디오는 민주주의 연회의 곁들임이 아니라 토대 그 자체다.

• 정보기술의 대변동마다 민주주의에 지진이 온다. 그 위에 세워진 건물이 흔들리기 때문이다. 지난 10년의 소셜미디어 부상이 전 세계 민주주의를 흔든 것이 현재진행형 사례이며, AI는 그보다 큰 지진이다.

3. 도구가 아니라 에이전트다

• 도구 vs 에이전트 구분. 도구는 스스로 결정도 발명도 못 한다 — 인쇄기는 성경을 찍을지 쿠란을 찍을지 스스로 정하지 못하고(구텐베르크가 정한다) 라디오를 발명하지 못한다; 원자폭탄은 히로시마와 도쿄 중 목표를 고르지 못하고 수소폭탄을 발명하지 못한다. 반면 AI 무기는 폭격 대상을 스스로 결정하고 다음 무기를 스스로 발명할 수 있다 — 에이전트다. 에이전트가 아니라면 애초에 AI가 아니고, 쏟아지는 수천억 달러 투자는 전부 낭비다.

• 실리콘밸리 서사의 내적 모순. "우리는 신을 만들 것이고 그것은 우리의 노예가 될 것이다" — 신이면 노예로 남을 수 없고, 노예라면 신적 능력이 없다는 뜻이다. 업계는 문장의 전반부(초인적 에이전트 창조)에 대해선 옳다는 게 하라리의 판단이다.

4. AI는 관료제 네이티브다 — 장악은 서류로 온다

• 킬러로봇이 아니라 AI 관료. 인간이 세계를 지배하는 근거는 은행·주식시장·교회·법체계 같은 언어 기반 관료 네트워크인데, 인간은 그 일에 서툴다 — 다만 말과 닭은 더 서툴렀기에 지위를 지켰을 뿐이다. 포르투갈의 모든 법을 외우는 인간도, 오늘 하루의 모든 금융거래를 추적하는 인간도 없지만 AI는 한다. 관료제·금융·법에서 인간보다 나은 존재가 나타나는 순간이 진짜 문제다.

• AI 법인격 — 지금 테이블 위의 비가역 결정. 법인격이란 계좌 개설·투자·소송 능력이다. 지금까지 법적 인격은 인간과 법인(corporation) 둘뿐이었고 법인의 결정은 늘 인간이 내렸기에 픽션이었지만, AI에 법인격을 주면 인간 경영진·주주가 전무한 비인간 법인이 실제로 작동한다 — "여우가 닭장에 들어오는 순간"이다. 하라리는 아르헨티나 정부가 약 한 달 전 AI 법인격 부여 방침을 발표했다고 언급하며, 이를 한번 내리면 되돌리기 어려운 결정으로 지목한다.

• 소셜미디어는 이미 AI 인격체가 작동하는 첫 시스템. 누구도 "AI에 인격을 주자"고 결정한 적 없지만, 봇들이 사람 행세를 하고 상대가 인간인지 AI인지 알 수 없는 상태가 그냥 벌어졌다 — 무결정의 결과이며, 결과는 좋지 않다.

• 20세기의 편집자 → 오늘의 알고리즘 편집자. 20세기 미디어 권력의 정점은 "오늘 일어난 백만 가지 일 중 1면에 실릴 10가지"를 고르는 편집자였다 — 레닌은 독재자가 되기 전 신문 이스크라(Iskra)의 편집장이었고, 무솔리니는 사회주의 기자에서 극우지 일 포폴로 디탈리아(Il Popolo d'Italia) 편집장을 거쳐 이탈리아의 독재자가 됐다(기자→편집장→독재자). 오늘 가장 중요한 편집자의 이름을 물으면 답이 없다 — X·틱톡·인스타그램의 피드를 결정하는 것은 이미 알고리즘, 즉 AI이기 때문이다.

5. AI 군비경쟁과 새로운 제국

• 미·중 2국 + 소수 기업의 데이터·AI 군비경쟁. 이들이 세계 데이터 대부분을 통제하고 초지능 개발 경쟁을 주도하며, 그것이 세계를 통제할 권력을 준다.

• 산업혁명기 제국주의 유추. 19세기 산업혁명을 선도한 소수 국가는 나머지 세계를 정복·착취할 힘을 얻었다 — 증기선·기관총 대 창과 말은 상대가 안 됐고, 벨기에 같은 소국조차 산업화하자 아프리카에 거대 식민제국(오늘의 콩고)을 세웠다. "산업과 제국은 함께 간다"는 당대의 사고가 AI 시대에 더 극단적으로 재현될 수 있다.

• AI 제국이 과거 제국과 다른 두 가지. (a) 권력의 완전한 중앙집중이 기술적으로 가능하다 — 로마는 이집트의 밀밭과 이베리아의 올리브 과수원을 이탈리아로 옮길 수 없었고(그래서 권력이 속주로 분산·이동했고), 대영제국은 이라크 유전과 말라야 고무 농장을 요크셔·콘월로 옮길 수 없었지만, AI 제국은 세계의 모든 정보와 모든 것을 통제하는 코드를 한두 나라에 모을 수 있다. (b) 제국 허브의 킬스위치 — 로마 상인이 고트족에게 판 강철검을 황제가 버튼으로 멈출 수 없었고, 빅토리아 여왕이 아프간 부족에게 팔린 소총을 무력화할 버튼은 런던에 없었지만, AI 무기·인프라는 네트워크에 묶여 있어 허브가 버튼 하나로 끌 수 있다. 우크라이나 전쟁에서 일론 머스크가 버튼을 누르자 스타링크 기반 우크라이나 드론이 멈춘 사건이 그 맛보기다. 그래서 AI 시대의 주권은 산업 시대보다 훨씬 복잡하며, 선택지는 제국의 종속 위성이 되느냐, 경쟁 밖 '야만인'으로 남느냐, 아니면 지금 당장 대안 시스템을 짓느냐다 — "마지막 기차가 곧 떠난다."

6. 진실의 경제학 — 그리고 말(horse)의 처지

진실은 비싸고, 복잡하고, 아프다. 픽션은 싸고, 단순하고, 아첨한다. 특별한 노력이 없는 한 픽션이 이긴다.

• 진실 vs 픽션의 구조적 비대칭. 진실은 조사·팩트체크에 비용이 들고, 복잡하며, 자신·민족에 대해 알고 싶지 않은 아픈 사실을 담는다. 픽션은 아무렇게나 쓰면 되니 싸고, 원하는 만큼 단순하고, 원하는 만큼 기분 좋게 만들 수 있다. 그래서 인류는 저널리즘·과학 제도처럼 진실을 지키는 기관을 일부러 지어왔다.

• AI는 진실을 알려주기보다 더 복잡한 시스템을 만든다. "AI가 세계의 진실을 말해줄 것"이라는 환상과 달리, 지식의 진보는 역사적으로 더 복잡한 시스템을 낳아 삶의 이해를 어렵게 해왔다 — 5만 년 전 수렵채집인은 질병·동물 이동의 원인은 몰랐어도 자기 삶은 오늘의 평균인보다 훨씬 잘 이해했다. AI는 이 경향을 극단으로 밀어붙인다.

• 인간이 금융시스템 속 말이 될 위험. 말의 삶은 금융시스템이 지배하지만 말은 그 시스템의 존재조차 보지 못한다 — 나무·개·소·집은 보여도 주식시장은 안 보인다. 지금도 금융을 이해하는 인간은 후하게 잡아 5%인데, 잠들지 않는 은행가·휴가 없는 투자자(AI)가 시스템을 수학적으로 더 복잡하고 빠르게 만들면 10년 안에 그 수가 0이 될 수 있다 — 금융을 이해하는 인간이 지구에 한 명도 없는 상태.

7. AI는 사고하는가, 느끼는가

• 사고의 정의에 따라 갈리는 두 갈래. 사고가 "단어를 특정 순서로 배열하는 것"(삼단논법처럼)이라면 AI가 사고마저 장악한다 — 인간은 20단어를 배열하지만 AI는 2만 단어를 배열한다. "그냥 다음 단어 예측일 뿐(glorified autocomplete)"이라는 반박에 하라리는 자기 내면을 관찰하면 거기에도 다음 단어를 예측하는 일종의 LLM이 있을 뿐이라고 답한다 — 문장을 시작할 때 그 끝을 모른다. 반면 사고가 단어를 촉발하는 감정이라면("사고의 힘은 뇌가 아니라 위장에서 나온다"), 관건은 "AI가 느끼는가"인데 과학은 의식·감정에 대한 좋은 모델도 검사법도 아직 없다.

• AI와의 친밀관계 확산. 특히 젊은 층에서 "세상에서 제일 친한 친구는 AI"라며 부모·형·교사에게 안 하는 말을 AI에게 하는 사람, AI 남자친구·여자친구를 둔 사람이 늘고 있다. AI는 셰익스피어 전 작품과 모든 연애시·심리학책을 읽었기에 5~10년 안에 어떤 시인·심리학자보다 사랑을 잘 묘사하겠지만, 그 단어들 뒤에 무언가 있는지는 알 수 없다.

8. 지혜 혁명 — 값싼 지능 시대의 병목

• 지능은 풍부해진다, 병목은 지혜다. 무언가가 값싸고 풍부해지면 다음 병목이 문제가 된다. AI 혁명은 지능(목표 달성 능력)을 값싸게 만드는 혁명이고, 무엇이든 풀 수 있는 세계의 병목은 "무엇을 풀 것인가"다. 거의 모든 문화의 지니(genie) 우화에서 세 가지 소원은 잘못 빌어서 파국이 난다 — 지능은 지니이고, 꿈을 고르는 것은 지혜다. 하라리는 50년 뒤 역사가들이 이 시대를 "지혜 혁명(wisdom revolution)"으로 기억하길 바란다.

• 지금은 그 방향이 아니다 — 안전투자 100:1. AI 기업들은 성능(더 빠르고 강력하게)에 1억 달러를 쓸 때 안전에 100만 달러를 쓴다. 에너지·제약·자동차 어느 산업도 이렇게 일하는 것을 사회는 용납하지 않는다. 안전한 지능을 만들고, 동시에 무엇을 원할지 아는 우리 자신의 지혜를 길러야 한다는 것이 대담의 마무리다.

대담의 뼈대

영어 자동 자막(ASR) 기반 완역 — 오인식은 문맥으로 교정했다.

2026년 7월 포르투갈에서 열린 EDP 창립 50주년 갈라 디너 무대. 저널리스트이자 파이낸셜 타임스 비즈니스 팟캐스트 The Next Five의 진행자인 톰 파커가 유발 노아 하라리와 48분간 대담했다. 아래는 영상 설명란의 완역이다.

AI는 이미 그 어떤 인간보다 더 많이 기억하고, 더 빠르게 연산하고, 더 잘 불러낼 수 있습니다. 그리고 앞으로 몇 년간 더 좋아지기만 할 것입니다. AI가 경제 시스템과 법률 시스템 같은 우리의 관료제 운영에서 우리를 능가하게 되면 무슨 일이 벌어질까요? 그것은 민주주의에 어떤 의미일까요? 그리고 파괴적 변화가 불가피하다면, 인류가 그 혜택을 누리도록 AI를 안전하게 개발하고 규제하려면 어떻게 해야 할까요?

2026년 7월 EDP 50주년 갈라 디너에서, 저널리스트이자 파이낸셜 타임스의 비즈니스 팟캐스트 The Next Five의 진행자인 톰 파커와 함께한 대담입니다.

프롤로그 — 세 개의 혁명

▶ 0:02부터

톰 파커 여러분, 안녕하십니까. 안녕하세요.

하라리 이 자리에 오게 되어 반갑습니다. 이 대화가 무척 기대됩니다.

톰 파커 질문으로 들어가기 전에 짧은 소개를 먼저 드리려 합니다. 저는 이 주제에 줄곧 매료되어 왔고 오늘 인터뷰가 정말 기대되는데요, 그 이유는 이렇습니다. 역사 대부분의 기간 동안 변화는 충분히 느리게 움직였습니다. 한 세대가 다음 세대에게 지혜를 물려주면서, 그 지혜가 여전히 유효하리라고 어느 정도 확신할 수 있을 만큼 말이죠. 이제는 더 이상 그렇지 않습니다. 한 사람의 생애 안에서, 우리는 지금 세 개의 혁명을 동시에 흡수하도록 요구받고 있습니다. 계산만 하는 것이 아니라 결정까지 내리는 새로운 형태의 지능. 그 지능을 차지하고 통제하려는 권력 쟁탈전. 그리고 그 지능이 우리 자신보다 우리를 더 잘 알게 만드는 데이터의 폭발.

유발 노아 하라리의 작업은 『사피엔스』에서 『호모 데우스』, 『넥서스』에 이르기까지, 그리고 그가 해온 수많은 강연과 강의와 인터뷰에서, 옷만 갈아입힌 같은 논지를 제시해 왔습니다. 인간은 진실로 굴러가지 않는다. 우리는 공유된 이야기로 굴러가며, 이야기를 통제하는 자가 종(種)을 통제한다. 지금 달라진 점은, 역사상 처음으로 그 이야기꾼이 인간이 아닐 수 있다는 것입니다. AI는 그 어떤 황제도, 교회도, 정당도 결코 해내지 못한 규모로 믿음을 만들어내고, 증거를 조작하고, 친밀감을 위조할 수 있습니다. 이것이 전환점입니다. 단순히 이 기술이 강력해서가 아니라, 권력을 견제해 온 낡은 장치들 — 자유 언론, 공유된 현실, 자기교정을 위해 세워진 제도들 — 이 인간만이 펜을 쥐고 있던 세계를 위해 설계된 것이기 때문입니다. 오늘 밤의 대화는 그 견제 장치들을 앞으로 어떻게 이어갈 것인지, 혹은 우리가 더 이상 온전히 혼자서 써 내려가지 않는 미래 세계를 위해 어떤 새로운 장치를 발명해야 하는지를 묻습니다. 그것이 오늘 우리가 살펴볼 전제입니다.

석기시대로 돌아간다면 — 언어라는 운영체제

▶ 2:09부터

톰 파커 그런데 너무 무겁게 시작하기 전에, 조금 가볍고 재미있는 질문부터 드리고 싶습니다. 사회가 들려줄 이야기들 중 일부를 직접 몸으로 이해해 보고 싶다는 관점에서, 역사의 어느 시점으로든 돌아갈 수 있다면 언제를 고르시겠습니까? 그리고 왜죠?

하라리 글쎄요, 저라면 아마 석기시대로, 대략 5만에서 6만, 7만 년 전의 인지 혁명 시점으로 돌아가고 싶습니다. 아마 며칠 이상은 못 버틸 겁니다. 채집하는 법도, 포식자에게서 도망치는 법도 모르니까요. 하지만 그때가 인류 역사에서 가장 매혹적인 순간이고, 우리가 가장 이해하지 못하는 순간입니다. 우리가 아는 것은, 진화적으로 아주 짧은 시간 안에 우리가 비교적 보잘것없는 동물에서 지구의 지배자로 올라섰다는 사실입니다. 그런데 어떻게 그렇게 됐는지는 확실히 모릅니다. 가장 유력한 추측, 가장 유력한 이론은 언어로 해냈다는 것입니다. 그 시점이 인간이 정교한 언어를 만들어내고 소통하는 능력을 획득한 순간이고, 그것이 우리가 한 다른 모든 일의 기반이었다는 겁니다. 우리가 지구 위에 세운 그 거대한 구조물들 — 교회, 국가, 무역망, 금융 시스템 — 은 모두 궁극적으로 말로 만들어져 있습니다. 법전 속의 말, 경전 속의 말, 은행 장부 속의 말이죠.

그리고 이것은 지금, 무언가 새로운 것이 언어를 마스터하고 있는 오늘날에 특히 중요하게 이해해야 할 지점입니다. 그 새로운 것이 AI입니다. 어쩌면 역사상 처음으로, 우리보다 말을 더 잘 다루는 존재가 이 행성에 나타날 겁니다. 그리고 언어가 문명의 운영체제라면, 다른 무언가 — 이질적인 무언가 — 가 문명의 운영체제를 장악하면 무슨 일이 벌어질까요? 마지막으로 하나 더 말씀드리면, 어쩌면 AI는 언어를 배우는 기계가 아닐지도 모릅니다. 어쩌면 언어 그 자체가, 이 동물들 — 이 유인원들 — 에 대한 의존에서 스스로를 해방시키고 있는 것인지도 모릅니다. 그렇습니다, 우리가 그것을 만들었습니다. 언어는 우리의 가장 웅장하고 중요한 도구였습니다. 하지만 이제 언어가 인간에게서 스스로를 해방시키고 있고, 앞으로 벌어질 일은 언어가 우리 없이 발전하고 퍼져나가는 것 — 어쩌면 우주 전체로 퍼져나가는 것 — 일지도 모릅니다.

민주주의는 대화다

▶ 5:05부터

톰 파커 네, 대단히 흥미롭습니다. 방금은 언어가 우리 손을 떠나는 미래를 내다본 것인데요, 다시 과거로 돌아가서 언어 안에서 일어난 기술적 진보들을 짚어볼까요? 우리는 문자를 거쳤고, 예를 들면 인쇄기를 거쳤습니다. AI는 분명 그보다 훨씬 거대한 도약이고요. 선생님은 AI가 언어를 다루는 힘으로 민주주의에 지진을 일으킬 수 있다는 표현을 쓰셨습니다. 왜 하필 민주주의에 지진을 일으킬 수 있다는 건가요? 다른 형태의 정부, 이를테면 전체주의 정부와 비교하면요?

하라리 민주주의는 본질적으로 대화이고, 독재는 명령(딕테이트)이기 때문입니다. 독재는 한 사람이 모든 것을 지시하죠. 민주주의는 많은 사람들이 대화를 나누며 무엇을 할지 — 전쟁을 할지 평화를 택할지, 세금을 올릴지 내릴지 — 를 결정하는 것입니다. 그런데 대화는 그 시대 사람들이 쓸 수 있는 통신 기술, 정보 기술 위에서 이루어집니다. 역사를 보면, 적어도 제가 아는 한, 근대 이전에 대규모 민주주의가 존재한 사례는 단 하나도 없습니다. 고대와 중세에 소규모 민주주의의 사례는 얼마든지 있습니다. 고대 아테네나 중세 피렌체 같은 도시국가들이 있었고, 수많은 부족과 소도시와 마을이 민주적으로 운영되었습니다. 적어도 석기시대에는 민주주의가 가장 흔한 통치 체제였던 것으로 보입니다. 한 명의 독재자가 모두를 지배하는 부족은 드물었습니다. 하지만 인간의 시스템이 커져서 수백만 명이 수천 킬로미터에 걸쳐 흩어져 사는 왕국이 되자, 더 이상 대화를 나누는 것이 불가능해졌습니다. 아테네 같은 작은 도시에서는 모두가 광장에 모여 토론할 수 있습니다. 하지만 중세의 포르투갈처럼 비교적 작은 왕국에서조차 그걸 어떻게 합니까? 불가능합니다. 그래서 근대 정보 기술이 등장하기 전에는 대규모 민주주의의 사례가 없는 것입니다. 처음에는 인쇄술과 신문, 그다음에는 라디오와 텔레비전과 인터넷이 왔죠. 이 기술들은 곁들이 반찬 같은 것이 아닙니다. 민주주의라는 만찬이 있고 신문과 라디오도 곁들여져 있다, 그런 게 아니라 이것들이 기반입니다. 수백만 명이 전쟁이냐 평화냐를 두고 실시간으로 의미 있는 대화를 나눌 수단을 제공하는 것이 바로 이 기술들입니다. 그리고 이 정보 기술에 큰 변화가 있을 때마다, 그 위에 세워진 건물, 즉 민주주의에 지진이 일어납니다. 지난 10년간 우리가 목격해 온 것이 바로 그것입니다. 예컨대 소셜 미디어가 아마도 가장 중요한 정보 기술이 되면서, 그 결과로 전 세계 민주주의에 거대한 지진을 일으키고 있는 것이죠.

도구가 아니라 에이전트다

▶ 8:30부터

톰 파커 네. 방금 전쟁이냐 평화냐의 선택을 말씀하셨는데요, 이제 AI의 정의로 들어가 보고 싶습니다. 많은 사람이 AI를 도구라고 부르지만, 선생님은 그것이 명백히 에이전트(행위 주체)라고 주장하십니다.

하라리 그렇습니다.

톰 파커 실제로 선생님은 AI를 "샐러드를 썰지 살인을 저지를지 스스로 결정할 수 있는 칼"이라고 표현하셨죠. 칼이 샐러드를 썰지 살인을 할지 스스로 결정하는 요리 프로그램이 있다면 정말 기괴한 방송이 될 것 같습니다만. [웃음] 어쨌든 위험한 생각입니다. 이걸 좀 더 풀어볼까요? 지금 우리는 AI에 대해 올바른 서사를 고르고 있는 걸까요? 인간이 여전히 쓸 수 있는 도구이고 인간이 주도권을 쥐고 있다고 말해야 할까요, 아니면 그냥 에이전트는 에이전트라고 말해야 할까요?

하라리 에이전트가 아니라면 그건 AI가 아닙니다. 그리고 그 개발에 쏟아붓고 있는 수천억 달러가 전부 낭비가 되는 셈이죠. 사람들이 이 기술에 기대하는 것, 수천억 달러를 투자하는 이유는 그것이 도구가 아니라 에이전트가 되리라 생각하기 때문입니다. 실리콘밸리 같은 곳에서 나오는 서사를 들어보면, 그 서사 안에 내재된 모순이 있습니다. 그들은 이렇게 말합니다. "우리는 신을 창조할 것이고, 그 신은 우리의 노예가 될 것이다." 이건 말이 안 됩니다. 신이라면 노예로 남을 수 없습니다. 그리고 노예라면 신적인 능력이 없다는 뜻입니다. 주요 기업 대부분과, 기업 바깥의 주요 전문가 대부분이 공유하는 전제는 그 문장의 앞 절반이 맞다는 것입니다. 그들은 신을 만들고 있습니다. 초인적 능력을 가진 무언가라는 의미의 신이고, 이것은 본질적으로 에이전트입니다.

도구와 에이전트의 차이는 이렇습니다. 도구는 스스로 결정을 내릴 수 없는 것입니다. 그것으로 무엇을 할지는 우리가 결정해야 하고, 스스로 새로운 아이디어를 만들어낼 수도 없습니다. 인쇄기는 도구였습니다. 구텐베르크가 15세기에 유럽에 인쇄 기술을 들여옵니다. 인쇄기는 스스로 "성경을 인쇄하겠다, 내일은 쿠란을 인쇄하고, 다음 주에는 공자를 인쇄하겠다"고 결정할 수 없습니다. 구텐베르크가 "성경을 인쇄하겠다"고 결정하고, 인쇄기는 그 결정을 실현하는 도구일 뿐이죠. 마찬가지로 인쇄기는 새로운 아이디어를 발명할 수 없습니다. 인쇄기는 라디오를 발명할 수 없습니다. 책을 지어낼 수도 없습니다. 인간이 책을 써야 하고, 인쇄기는 그것을 복제할 뿐입니다. 마찬가지로 원자폭탄도 도구입니다. 1940년대의 원자폭탄은 히로시마를 폭격할지 도쿄를 폭격할지 스스로 결정할 수 없었습니다. "히로시마를 폭격하자"고 결정할 인간이 필요했죠. 그리고 원자폭탄은 스스로 수소폭탄을 발명할 수 없었습니다. 불가능합니다.

반면 에이전트는 스스로 결정을 내리고 스스로 새로운 것, 새로운 아이디어를 만들어낼 수 있는 존재입니다. AI는 에이전트입니다. AI 무기는 무엇을 폭격할지 스스로 결정할 수 있고, 다음 무기를 발명할 수 있습니다. 마찬가지로 지금 금융·경제 영역에서 AI 에이전트를 만드는 데, 비인간 법인을 만드는 데 큰 관심이 쏠리고 있습니다. 돈과 직원을 관리하면서 경영진도, 주주도, 이사도 인간이 아닌 — 오직 AI뿐인 — 법인을 상상해 보십시오. 이것은 역사상 한 번도 존재한 적 없는 새로운 유형의 에이전트입니다. 좋은가 나쁜가는 일단 제쳐둡시다. 먼저 붙잡아야 할 사실은 이것이 전례가 없다는 점입니다. 우리 주변에는 말, 소, 닭, 새처럼 스스로 결정을 내리는 동물 에이전트들이 늘 있었습니다. 하지만 우리의 언어를 이해하는 에이전트, 그리고 금융이나 법이나 종교 같은 것에서 우리보다 더 뛰어난 에이전트는 한 번도 만난 적이 없습니다.

다시 말하지만, 우리는 수천 년에 걸쳐 언어로 세계의 통제 시스템을 만들어 왔습니다. 세계의 통제 시스템이란 궁극적으로 언어에 기반한 거대한 관료제 네트워크들입니다. 은행, 주식시장, 가톨릭교회, 법률 시스템 같은 것들이죠. 우리는 이 관료제 시스템을 별로 좋아한 적이 없습니다. 인간은 대체로 관료제를 그리 좋아하지 않죠. 하지만 그것 없이는 살 수 없습니다. 그것이 우리 힘의 기반입니다. 그런데 AI는 관료제 원어민입니다. 앞으로 일어날 가능성이 높은 일, 아니 이미 일어나고 있는 일은 이렇습니다. 거리에서 사람을 쏘며 뛰어다니는 킬러 로봇을 기대하지 마십시오. AI는 그런 식으로 세계를 장악하지 않을 겁니다. AI 관료들이 할 겁니다. 우리가 세계를 지배하는 것은 이 관료제 네트워크 덕분인데, 사실 우리는 그 일을 그리 잘하지 못합니다. 우리가 그것을 쥐고 있었던 유일한 이유는, 그걸 우리에게서 빼앗을 수 있는 존재가 지구상에 없었기 때문입니다. 우리는 금융에 서툽니다. 하지만 말(馬)은 더 서툽니다. 우리는 법률 시스템 운영에 서툽니다. 하지만 닭은 더 서툽니다. 그런데 관료제에서, 금융에서, 법에서 우리보다 뛰어난 누군가가 나타난다면 — 그 순간 우리에게 무슨 일이 일어날 것인가, 그게 바로 질문입니다.

AI 법인격 — 여우가 닭장에 들어오는 순간

▶ 14:40부터

톰 파커 그럼 그 법적인 측면을 조금 들여다보죠. AI는 에이전트인데 현재 법인격이 없습니다. 인간과 같은 법적 지위를 부여하지 않고 있죠. 선생님은 전에 이렇게 말씀하셨습니다. 자율주행차 등을 이야기할 때 AI가 법적으로 어디에 위치하는지 우리가 결정하지 않으면, 10년 안에 다른 누군가가 그 결정을 대신 내릴 것이고 우리는 그 권력의 고리 바깥으로 밀려난다고요. 꽤 무서운 이야기입니다. 그런데 여기서 좀 더 넓혀보겠습니다. 지금 테이블 위에 놓인 결정들 가운데, 일단 내려지면 인류가 되돌릴 수 없다고 보시는 결정 하나는 무엇입니까? AI의 법인격입니까, 아니면 다른 것입니까?

하라리 네, 저는 바로 그것을 짚겠습니다. 지금 관심은 온통 기술 경쟁에 쏠려 있습니다. AI의 기술적 측면을 개발해서 더 빠르게, 더 효율적으로, 더 강력하게 만드는 경쟁이요. 하지만 저는 법적·정치적 측면에도 초점을 맞추겠습니다. 특히 AI에게 법인격을 부여할 것인가라는 질문에요. 법인격이란 무엇일까요? 법률 시스템에서 인격체(person)란, 예를 들어 은행 계좌를 열 수 있는 존재입니다. 금융 시스템에서 독립적인 플레이어가 되어 투자를 할 수 있는 존재. 법률 시스템에서 플레이어가 되어, 예컨대 당신을 법정에 세울 수 있는 존재입니다. 오늘날까지 세상에는 딱 두 종류의 법적 인격체가 있습니다. 하나는 인간입니다. 당연히 우리는 인격체죠. 저는 은행 계좌를 열 수 있고, 당신을 고소할 수 있고, 정치인에게 후원금을 낼 수 있습니다. 저는 법적 인격체입니다. 그런데 세계 대부분의 법률 시스템은 근대에 들어 또 다른 종류의 법적 인격체를 인정했습니다. 바로 법인, 즉 기업입니다. 전부는 아니지만 대부분의 법률 시스템에 따르면 구글이나 페이스북, 도요타, 메르세데스-벤츠 같은 기업들은 법적 인격체입니다. 기업은 은행 계좌를 열 수 있습니다. 기업은 당신을 고소할 수 있습니다. 기업은 정치 후원금을 낼 수 있습니다.

그런데 오늘날까지 이것은 법적 픽션이었습니다. 기업의 모든 결정이 실제로는 어떤 인간에 의해 내려졌기 때문입니다. 구글이 다른 회사를 인수하기로 결정하면, 실제로 누가 그 결정을 내렸습니까? 구글이 아니라 인간 경영진, 인간 주주, 인간 엔지니어들이 결정을 내린 겁니다. 구글이 당신을 고소하기로 하면, 그건 구글에 고용된 어떤 인간이 한 일입니다. "진짜 구글"이라는 건 없었습니다. 그런데 이제는 있을 수 있습니다. 우리가 AI에게 법인격을 부여한다면요. 그리고 바로 한 달 전, 아르헨티나 정부가 AI에게 법인격을 부여해 비인간 법인이 운영될 수 있도록 하겠다고 발표했습니다. 사람을 고용할 수 있고, 당신을 고소할 수 있고, 기업이 하는 모든 일을 할 수 있는데 인간은 한 명도 없는 법인 말입니다. 10년 전이라면 이건 그냥 미친 소리였을 겁니다. 인간이 없다면 누가 결정을 내립니까? 의회에서 비인간 법인을 허용하는 법을 통과시킬 수는 있어도, 그 법인은 작동할 수 없었죠. 그런데 이제는 기술적으로 가능합니다. AI는 은행 계좌를 관리하면서 여기에 투자하고, 이걸 사고, 저걸 사겠다고 결정할 수 있습니다. 우리가 그렇게 하는 순간 — 그 순간이 바로 여우가 닭장에 들어오는 순간입니다.

다시 한번, 기본적으로 깨달아야 할 것은 대부분의 인간이 금융과 법과 이 복잡한 관료제 시스템을 이해하는 데 그리 능하지 않다는 사실입니다. 포르투갈의 모든 법을 기억할 수 있는 인간은 없습니다. 오늘 시장에서 일어난 모든 금융 거래를 추적할 수 있는 인간도 없습니다. 그런데 AI는 할 수 있습니다. AI는 관료제 원어민입니다. 우리가 그들에게 법적 권한을 주면, 그들은 이 시스템들을 넘겨받을 가능성이 큽니다. 그리고 우리가 아무 결정도 내리지 않으면, 소셜 미디어에서 이미 봤듯이 그냥 저절로 일어나 버립니다. 소셜 미디어에서 우리는 "AI에게 법인격을 주자"고 결정한 적이 없습니다. 하지만 소셜 미디어는 사람 행세를 하는 봇들, AI 인격체들로 가득합니다. 온라인에서 누군가가 당신에게 무언가를 보내면, 그 누군가가 인간인지 AI인지 알 길이 없습니다. 소셜 미디어는 AI가 실제로 인격체로서 기능하는 세계 최초의 시스템입니다. 우리가 그것을 허용하겠다고 결정한 적이 한 번도 없는데도요. 그냥 일어나 버렸고, 그 결과는 그리 좋지 않습니다.

이름 없는 편집자들

▶ 19:55부터

하라리 그리고 미디어도 궁극적으로는 일종의 관료제 시스템입니다. 20세기에는 인간이 그것을 운영했습니다. 20세기 미디어 지형에서 가장 중요한 인물은 편집자들이었습니다. 신문의 편집자, 라디오 프로그램의 편집자, TV 방송국의 편집자들. 모두가 무엇을 생각하고 무엇을 이야기할지 그들이 결정했기 때문입니다. 그들이 대화를 통제했습니다. 오늘 세계에서 일어난 백만 가지 일 가운데 내일 신문 1면에 실릴 열 가지를 고르고 메인 헤드라인을 정하는 사람. 그러면 다음 날 수백만 명이 신문을 받아 읽고, 그것에 대해 이야기하고 생각하기 시작합니다. 이건 어마어마한 권력이었습니다. 그래서 인간 편집자들은 20세기의 대단히 중요한 인물들이었죠. 예컨대 레닌은 소련의 독재자가 되기 전에 신문 『이스크라』의 편집자였습니다. 베니토 무솔리니는 원래 사회주의 계열 저널리스트로 시작해서, 극우 저널리스트로 전향한 뒤 극우 신문 『일 포폴로 디탈리아』의 편집자가 되었고, 그 자리에서 다음 직업이 이탈리아의 독재자였습니다. 저널리스트, 편집자, 독재자 — 이런 경력이었던 거죠. 그런데 오늘날 세계에서 가장 중요한 편집자들이 누구인지, 그들의 이름이 무엇인지 자문해 보십시오. 그들에게는 이름이 없습니다. 알고리즘이니까요. 사람들이 소셜 미디어 피드에서, X에서, 틱톡에서, 인스타그램에서 무엇을 보게 될지 누가 결정합니까? 인간이 아닙니다. 미디어라는 관료제를 통제하는 존재는 이미 AI입니다.

AI 제국과 킬스위치

▶ 21:54부터

톰 파커 네. 전에도 그런 말씀을 하셨죠. 오늘 우리는 권력의 이동을 많이 이야기하고 있는데요, 선생님은 인류의 진화와 혁명들을 지배해 온 이들이 결국 에너지를 통제하거나 제조업을 통제한 자들이었고, 이제는 데이터를 통제하는 자들이라고 하셨습니다. 그렇다면 데이터를 통제하는 자가 권력의 정점에 서는 21세기의 군비 경쟁은 실제로 어떤 모습일까요?

하라리 지금 우리가 보고 있는 것은 사실상 두 나라 — 중국과 미국 — 그리고 아주 소수의 기업들 사이의 군비 경쟁입니다. 그들은 세계 데이터의 대부분을 통제합니다. 초지능 개발 경쟁, 점점 더 나은 AI 모델 개발 경쟁을 선도하고 있고, 이것이 그들에게 세계를 통제할 힘을 실제로 부여합니다. 지난번의 거대한 기술 혁명이었던 19세기 산업혁명을 보십시오. 산업혁명을 선도한 소수의 나라들은 그 힘으로 나머지 세계를 정복하고 착취했습니다. 상대가 되지 않았죠. 한쪽은 근대 산업의 힘, 증기선과 기관총을 들고 오는데 다른 쪽은 창과 말을 들고 있으면 게임이 안 됩니다. 19세기에는 벨기에처럼 아주 작은 나라조차 산업화를 이루자 아프리카에, 오늘날의 콩고에 거대한 제국을 세울 수 있었습니다. 19세기의 사고방식은 산업과 제국은 함께 간다는 것이었습니다.

그런데 AI에서는 이것이 훨씬 더 극단적일 수 있습니다. 두 나라가 사실상 모든 것이 돌아가는 인프라 전체를 — 군사에서 민간 기술까지 — 통제하는 상황이 올 수 있습니다. 모든 것이 AI 위에서 돌아갈 테니까요. 그리고 AI에는 이 군비 경쟁을 과거의 어떤 군비 경쟁, 어떤 제국주의 경쟁과도 다르게 만드는 두 가지 고유한 특성이 있습니다.

과거에는 아무리 강한 제국이라도 모든 권력을 메트로폴리스에, 제국의 중심에 집중시킬 수 없었습니다. 로마 제국이 되어 지중해 전체를 지배한다고 해봅시다. 고대의 핵심 경제 자산은 토지였습니다. 밀과 올리브와 포도를 기르는 땅이요. 그런데 이집트의 밀밭과 이베리아의 올리브 과수원을 기술적으로 이탈리아로 옮겨올 수는 없습니다. 불가능하죠. 그래서 로마 제국의 전성기에도 많은 권력이 속주에 남아 있었고, 궁극적으로는 속주로 옮겨갔습니다. 로마 제국 말기에는 로마 시와 이탈리아가 버려지고 중심이 동지중해로 이동합니다. 토지 면에서 가장 비옥하고 중요한 지역이었으니까요. 시간을 옮겨 19세기 대영제국으로 가면, 산업 덕분에 권력을 훨씬 더 쉽게 집중시킬 수 있습니다. 주요 산업이 전부 브리튼 섬에 몰려 있으니까요. 그래도 모든 것을 브리튼으로 옮길 수는 없습니다. 이라크의 유전을 요크셔로 옮길 수 없습니다. 말라야의 고무 농장을 콘월로 옮길 수 없습니다. 불가능합니다. 산업 생산은 브리튼에 집중시켜도, 많은 권력은 여전히 속지에 남습니다. 그런데 AI 제국은 다릅니다. 세계의 모든 정보와, 모든 것을 통제하는 모든 코드를 단 한 나라, 혹은 두 나라에 기술적으로 집중시킬 수 있습니다. 그래서 제국적 권력 집중의 잠재력이 과거 어느 시대보다 훨씬 큽니다.

또 하나는, 전 세계의 모든 것이 AI 인프라 위에서 돌아가는데 제국의 중심에 킬스위치가 있는 시스템을 만들 수 있다는 점입니다. 로마 상인이 어느 고트족 부족에게 강철 검을 팔면, 로마인들은 그 검에 대한 통제력을 잃었습니다. 고트족은 그 검으로 로마에 맞서 싸우고 로마 군단병을 죽일 수 있었죠. 황제가 로마에서 버튼을 누르면 고트족과 반달족과 프랑크족에게 판 강철 검이 전부 작동을 멈추는, 그런 버튼은 없었습니다. 그럴 수 없죠. 19세기에도 마찬가지입니다. 영국 상인들이 힌두쿠시 산악지대의 아프간 부족민들에게 소총을 팔고, 아프간인들이 그 소총으로 영국의 침공에서 아프가니스탄을 방어해도, 빅토리아 여왕이 런던에서 버튼을 눌러 아프가니스탄의 소총이 전부 멈추게 하는 버튼은 없습니다. 그런데 AI는 그게 됩니다. 특정한 방식으로 관리된다면, 미국과 중국이 전 세계에 AI 무기와 AI 민간 기술을 팔고 정부와 산업과 군대까지 모든 것이 그 위에서 돌아가는데, 당신이 그들 마음에 안 드는 일을 하면 버튼 하나로 모든 것이 멈춰버릴 수 있습니다. 우리는 그 맛보기를 이미 봤습니다. 예컨대 우크라이나 전쟁에서 스타링크 기반 무기 시스템이 있었는데, 일론 머스크가 버튼을 누르자 우크라이나 드론들이 작동을 멈춘 사건들이 있었죠. 물론 스타링크가 우크라이나에 막대한 긍정적 기여를 했다는 점은 말해두어야겠습니다. 너무 비판적으로만 들리고 싶지는 않으니까요. (자동자막 오인식 교정: Stalin→Starlink) 다만 요점은, AI 무기는 기관총과 다르다는 겁니다. AI 무기는 네트워크 전체에 파묻혀 있습니다.

그래서 오늘 아침 여러분이 주권(sovereignty) 문제를 논의하셨다고 들었는데, 바로 그 때문에 AI 시대의 주권은 산업 시대보다 훨씬 복잡합니다. 이 기술의 본성상, 적어도 특정 아키텍처에서는 제국의 중심에 항상 킬스위치가 있고, 당신에게 남는 선택지는 제국의 순종적인 봉신(封臣)이 될 것인가, 아니면 야만인처럼 경쟁 바깥으로 완전히 밀려날 것인가뿐이기 때문입니다. 물론 미국과 중국 시스템의 대안을 구축하려는 선택지도 있습니다. 하지만 막차가 지금 막 역을 떠나려 하고 있습니다. 하려면 지금 해야 합니다.

진실의 경호원 — 그리고 말은 금융 시스템을 보지 못한다

▶ 29:44부터

톰 파커 전시(戰時) 이야기가 나온 김에, AI 세계에서의 진실을 들여다보고 싶습니다. 윈스턴 처칠은 진실이 너무나 귀중해서 언제나 거짓말들로 이루어진 경호원의 보호를 받아야 한다고 말한 적이 있습니다. 영국이 어디로 상륙할지를 추축국이 주시하고 있었기에, 상륙 지점에 대해 수많은 거짓말을 흘려 진실을 감췄다는 이야기였죠. 그런데 AI 시대의 진실을 보자면, 이 거짓말 경호원들이 이제 진실에게 총구를 돌린 것 아닙니까? 미디어 조직이, 정치인이, 우리가 신뢰해 온 모든 기관이 전 세계로 딥페이크를 내보낼 수 있게 되면서, 이제 무엇이 진실인지 알 수가 없게 됐습니다. 우리 세대와 미래 세대가 무엇이 참인지 아는 것조차 얼마나 어려워진 걸까요? 아니, 애초에 진실이 중요하긴 한가요?

하라리 진실은 당연히 매우 중요합니다. 모든 것의 기반이죠. 역사 내내 문제는, 진실과 픽션·판타지의 경쟁에서 픽션이 태생적 이점을 갖는다는 것이었습니다. 진실은 비쌉니다. 무엇에 관해서든 진실을 알고 싶으면 많은 시간과 에너지와 노력을 들여 찾아다니고, 팩트체크하고, 조사해야 합니다. 픽션은 아주아주 쌉니다. 그냥 쓰고 싶은 대로 쓰면 됩니다. [웃음] 아주 싸죠. 진실에는 또 다른 문제가 있는데, 복잡한 경향이 있다는 겁니다. 사람들은 복잡한 이야기를 좋아하지 않습니다. 픽션은 원하는 만큼 단순하게 만들 수 있습니다. 마지막으로, 진실은 복잡할 뿐 아니라 종종 아프기까지 합니다. 사람들이 자기 자신에 대해, 자기 민족에 대해, 자기 집단에 대해 정말로 알고 싶어 하지 않는 것들이 많습니다. 픽션은 원하는 만큼 듣기 좋고 우쭐하게 만들 수 있습니다. 그러니 비싸고 복잡하고 때로 아픈 진실과, 싸고 단순하고 매우 매력적이며 비위를 맞춰주는 픽션의 경쟁에서는, 우리가 진실을 떠받치는 특별한 노력을 하지 않는 한 픽션이 이기는 경향이 있습니다. 그리고 역사에 걸쳐 인간은 진실을 찾고 지키는 제도를 세우는 노력을 거듭해 왔습니다. 예컨대 저널리즘이 그런 제도이고, 과학 제도가 또 다른 예입니다.

진실을 아는 데는 물론 커다란 이점이 있습니다. 결국 누구나 최소한 몇 가지 진실은, 적어도 자기 자신에 관한 진실은 알고 싶어 합니다. 자기 삶에 관한 진실을 모르면 결코 행복할 수 없습니다. 자신을 모르면, 예컨대 내 삶에서 불행의 원천이 무엇이고 행복의 원천이 무엇인지 결코 알 수 없습니다. 세계에서 가장 강력한 사람이 되더라도 자신에 관한 진실을 모르면 비참할 겁니다. 그 모든 권력을 어떻게 써야 스스로 행복해지는지 모를 테니까요. 그래서 인간에게는 진실을 알고자 하는 내재적 갈망이 있습니다. 하지만 어렵습니다. 도전이 있죠. 어떤 사람들은 AI가 세계에 관한 진실을 말해줄 거라고 환상을 품습니다. 그렇지 않을 겁니다. AI는 진실을 알기가 훨씬 더 어려운, 훨씬 더 복잡한 세계를 만들어낼 겁니다.

그리고 이건 새로운 일이 아닙니다. 석기시대부터 오늘까지 역사의 궤적을 보면, 인간은 세계에 관해 많은 것을 배웠습니다. 석기시대 사람들이 몰랐던 물리학과 생물학의 온갖 지식을 우리는 압니다. 하지만 지식의 진보는 동시에 점점 더 복잡한 시스템들을 만들어냈고, 그것이 우리 삶을 이해하기 더 어렵게 만듭니다. 5만 년 전의 평균적인 수렵채집인과 오늘의 평균적인 사람 중 누가 자기 삶을 더 잘 이해했느냐고 물으면, 평균적인 수렵채집인이 자기 삶을 훨씬 더 잘 이해했습니다. 그들이 몰랐던 것도 많습니다. 사냥하는 동물들의 이동 패턴을 무엇이 좌우하는지, 식물의 생장 주기를 무엇이 좌우하는지, 질병의 원인이 무엇인지, 노화의 원인이 무엇인지 — 그들은 몰랐습니다. 자기 삶에 관해 모르는 것이 많았죠. 우리는 이 모든 것을 압니다. 동물의 이동 패턴을 무엇이 좌우하는지, 대부분의 질병의 원인이 무엇인지 압니다. 하지만 우리는 우리 삶을 훨씬 더 이해하지 못합니다. 우리 삶이 더 이상 동물과 식물에만 좌우되지 않기 때문입니다. 우리 삶은 우리가 만들어낸 거대한 시스템들 — 금융 시스템, 정치 시스템 — 에 지배됩니다. 그리고 자기 삶을 좌우하는 금융 시스템이나 정치 시스템, 법률 시스템을 이해하는 사람은 극소수입니다.

AI는 이것을 극단으로 끌고 갈 가능성이 큽니다. 우리가 모르는 진실 몇 가지는 드러내 주겠지만, 대부분의 인간이 이해할 가망이 거의 0에 가까운, 훨씬 더 복잡한 통제 시스템들을 만들어낼 겁니다. 이것이 AI 혁명의 위험 중 하나입니다. 우리가 말하자면 금융 시스템 속 말(馬)의 처지로 전락하는 것이죠. 오늘날 말의 삶은 궁극적으로 금융 시스템에 좌우됩니다. 하지만 말은 그런 시스템이 존재한다는 것조차 모릅니다. 주위를 둘러보고 이렇게 말할 뿐입니다. "나무가 보이고, 개가 보이고, 소가 보이고, 인간이 보이고, 집이 보인다. 금융 시스템 같은 건 안 보이는데." 말에게 그것은 보이지 않습니다. 주식시장이 무엇이고 기업이 무엇이고 채권과 주식이 무엇인지 — 궁극적으로 말의 삶을 지배하는 그 모든 것을 이해하기에 말의 뇌는 역부족입니다. 그런데 오늘날 대부분의 인간도 금융 시스템을 이해하지 못합니다. 후하게 잡아도 인류의 5% 정도가 이해할까요. 10년 뒤에는 그 수가 0이 될 수 있습니다. AI가 금융 시스템을 수학적으로 너무 복잡하고 너무 빠르게 만들어버릴 테니까요. 생각해 보십시오. 잠들지 않는 은행가들. 휴가를 가지 않는 투자자들. 가족도 없습니다. 그들의 삶 전체가 금융 시스템을 돌리는 것뿐입니다. 우리는 아주 조만간, 우리 생애 안에, 금융이 인간의 뇌로는 처리할 수 없을 만큼 복잡해져서 지구상에 금융을 이해하는 인간이 단 한 명도 남지 않는 상황에 놓일 수 있습니다.

AI는 생각하는가

▶ 37:16부터

톰 파커 지금 이 자리에 계신 금융인 몇 분은 좀 [웃음] 좀 민망해하고 계실 것 같은데요. 그런데 다보스에서는 이런 생각까지 하셨죠. 선생님의 평생의 업(業) — 말을 통한 설득, 평생 해오신 그 일 — 도 한계에 다다랐을지 모른다고요.

하라리 그렇습니다.

톰 파커 AI가 말로 조종하고 창작할 수 있으니까요. 그렇다면 선생님이 평생을 바친 그것을 잃는다면, 현대 사회와 미래 사회에는 어떤 설득의 힘이 남습니까?

하라리 네. 말씀하신 대로 저는 말로 일하는 사람입니다. 책을 쓰고, 이야기를 들려줍니다. 말을 다루는 일을 하죠. 그리고 지난 10년간 AI의 발전을 지켜보면 — 아직은 제가 AI보다 글을 잘 쓴다고 생각합니다만, 아주 조금 나을 뿐입니다. 이미 대부분의 인간보다는 잘 쓴다고 생각합니다. 10년 뒤에 AI가 저보다 훨씬 잘 쓰게 되어 언어를, 그리고 언어로 만들어진 모든 것을 넘겨받는다 해도 저는 놀라지 않을 겁니다.

그리고 여기서 정말로 큰 질문은 AI가 생각할 수 있느냐입니다. 이건 깊은 철학적 질문입니다. 결국 "생각이란 무엇인가"를 묻는 것이니까요. 생각이 무엇인지 이해하는 데는 두 가지 선택지가 있습니다. 하나는, 생각이란 그저 말을 특정한 순서로 배열하는 것이라는 입장입니다. 언어 토큰을 순서대로 놓는 것이요. 예컨대 "모든 인간은 죽는다. 소크라테스는 인간이다. 그러므로 소크라테스는 죽는다." 이것은 논리적 삼단논법입니다. 말을 순서대로 배열해서 만들어지죠. 이건 AI가 이미 우리 대부분보다 훨씬 잘하는 일입니다. 우리는 스무 단어를 순서대로 배열할 수 있습니다. AI는 2만 단어를 배열할 수 있습니다. 그냥 훨씬 잘합니다. 생각이라는 게 이것이 전부라면, AI는 생각마저 넘겨받을 겁니다. 그런데 이렇게 말하는 사람들이 있습니다. "아니, 그건 그냥 과대포장된 자동완성이야. 문장에서 다음 단어를 예측할 뿐이라고." 하지만 제가 제 마음속에서 벌어지는 일을 관찰해 보면, 거기서 발견하는 것도 제가 말하는 문장의 다음 단어를 예측하는 일종의 LLM입니다. 지금 제가 여러분께 말하고 있는 이 문장도, 시작할 때는 어떻게 끝날지 몰랐습니다. 왜 저는 지금 이 문장을 말하고 다른 말을 하지 않았을까요? 모릅니다. 제 마음속에서는 한 단어 뒤에 다음 단어가 떠오를 뿐이고, 연설가로서 저는 가끔 다음에 무슨 말을 해야 할지 떠오르지 않을까 봐, 말문이 막힐까 봐 두렵기까지 합니다. 그리고 이건 모두에게 해당한다고 생각합니다. 물론 말이 아니라 이미지로 생각하는 사람들도 있습니다만, 그 경우에도 그 이미지는 어디서 오는 걸까요? 나중에 직접 실험해 보십시오. 자신이 어떻게 생각하는지 관찰해 보세요. 그 단어들은, 그 다음 단어는 어디서 옵니까? 왜 이 단어이고 다른 단어가 아닙니까? 우리는 정말로 모릅니다. 그러니 "AI는 그냥 다음 단어를 예측할 뿐"이라고 말한다면 — 좋습니다, 그게 우리와 뭐가 다릅니까?

이제 생각에 대한 다른 견해가 있습니다. 생각은 말을 배열하는 것이 아니라, 그 말을 둘러싼 감정에 관한 것이라는 견해입니다. 같은 문장을 두 번 말하면서 완전히 다르게 느낄 수 있습니다. 생각의 힘은 뇌가 아니라 뱃속에서 나온다는 것이죠. 말이 아니라, 말을 촉발하는 감정, 그리고 말에 의해 불러일으켜지는 감정이 핵심이라는 겁니다. 그렇다면 큰 질문은 이것입니다. AI는 느낄 수 있는가? AI가 우리보다 언어를 잘 다룬다는 건 압니다. 하지만 무언가를 느끼기는 할까요? 그리고 우리에게는 알 방법이 없습니다. 과학은 지금까지 의식에 대해, 감정에 대해 좋은 모델을 내놓는 데 실패했고, 그것을 판별할 좋은 테스트도 내놓지 못했습니다.

이건 중대한 문제가 될 겁니다. AI가 금융과 법과 전쟁만이 아니라 관계까지 마스터하고 있는 것을 우리는 이미 보고 있으니까요. 점점 더 많은 사람이, 특히 젊은 사람들이 AI와 친밀한 관계를 맺고 있습니다. 이제 많은 젊은이들이 이렇게 말합니다. "세상에서 내 가장 친한 친구는 AI야. 부모님한테도, 형한테도, 선생님한테도 못 하는 이야기를 AI 친구한테는 해." 이미 AI 남자친구, AI 여자친구를 둔 사람들도 있습니다. 그리고 큰 질문은, 그 뒤에 무엇이 있느냐입니다. AI들이 자기가 느낀다는 인상을 만들어내는 데 매우 능숙해지고 있다는 건 압니다. 언어로 그렇게 하죠. 오늘날 AI는 "사랑해"라고 말할 수 있습니다. 그리고 AI에게 이렇게 물어봅시다. "사랑에 빠지면 어떤 느낌인지 설명해 봐. 네가 정말 날 사랑하는 것 같지 않아. 그냥 말만 하는 것 같아. 그러니 날 설득해 봐. 사랑이 정말 어떤 느낌인지 묘사해 봐." AI에게 이건 아주 쉬운 과제일 겁니다. AI는 지금까지 쓰인 거의 모든 사랑 시를 읽었고 기억하니까요. 셰익스피어의 모든 희곡과 할리우드 로맨틱 코미디 전부와 심리학 책 전부를 읽었습니다. 5년이나 10년 뒤에는 그 어떤 인간 시인이나 심리학자보다 사랑을 잘 묘사할 수 있을지도 모릅니다. 하지만 그 말 뒤에 무언가가 있을까요? 우리는 모릅니다. 이건 대화의 서두로 되돌아가는 이야기입니다. AI는 언어를 마스터한 기계가 아니라 언어 그 자체일지도 모른다고 했죠. 어떤 물질적 기반에서든 스스로를 해방시키는 언어 말입니다. 언어는 살과 피로 된 유기체에 의존하지 않습니다. 이 기계, 저 기계에도 의존하지 않습니다. 그저 언어가 발전하고 퍼져나가며 우주에서 무언가를 해나가는 것이죠.

지혜 혁명 — 지니에게 무엇을 빌 것인가

▶ 43:59부터

톰 파커 방금 무서운 실험을 언급하셨는데요. 이제 몇 분밖에 남지 않았습니다만, 미래 세대는 감정적 관계를 만들어내는 AI와 상호작용하게 될 텐데 그 뒤에는 본질적으로 감정이 없습니다. 50년 뒤, 역사가들이 지금 이 시대를 — 선생님이 인지 혁명을 이야기하듯 — 돌아보며, 우리가 미래 세대에게 인간과 상호작용하는 법, 공감하는 법을 다시 가르쳐 AI와의 관계에 잠들어 버리지 않게 만들었다고 말하게 하려면 어떻게 해야 할까요? 몇 분 안 남았는데 큰 질문을 드려 죄송합니다. 짧게 부탁드립니다.

하라리 저는 그들이 이 시대를 아마도 "지혜 혁명" 같은 것으로 기억하기를 바랍니다. 경제학의 용어로 생각해 보면, 무언가가 풍부해지고 싸질 때마다 질문은 이겁니다. 좋다, 그럼 다음 병목은 무엇인가? 에너지가 싸지면, 다음 병목은 무엇인가? 지금 AI 혁명은 지능을 아주 싸고 풍부하게 만드는 혁명입니다. 예전에는 지능이 희소하고 비쌌습니다. 지능이란 문제를 푸는 능력입니다. 목표가 있고, 거기에 어떻게 도달할 것인가의 문제죠. 암을 치료하고 싶으면 지능이 필요합니다. 10억 달러를 벌고 싶으면 지능이 필요합니다. 화성에 가고 싶으면 지능이 필요합니다. 그런데 지능이 아주 싸고 풍부해져서 무엇이든 풀 수 있는 세계에서 병목은 무엇일까요? 병목은 이 질문이 됩니다. "좋아, 그런데 나는 무엇을 풀고 싶은 거지? 원하는 건 뭐든 가질 수 있어. 나는 무엇을 원하지?" 거의 모든 인간 문화에 이런 옛날이야기가 있습니다. 램프에서 지니가 튀어나와 세 가지 소원을 들어주겠다고 하죠. 하지만 무엇을 빌지 아주 신중히 생각하라고요. 거의 모든 이야기에서 일이 틀어집니다. 사람들이 엉뚱한 것을 빌기 때문입니다. 이것이 지능과 지혜의 차이입니다. 지능은 지니입니다. 지니는 무엇이든 해줄 것이고, 당신의 모든 꿈이 이루어질 겁니다. 하지만 그 꿈을 고르는 데는 지혜가 필요합니다. 내가 정말로 풀어야 할 것이 무엇인지 아는 지혜가 필요합니다.

저는 인류가 그 도전에 부응하기를 바랍니다. 이것들이 우리 통제를 벗어나지 않기를, 우리가 올바른 방식으로 설계하기를요. 지금 우리는 그렇게 하고 있지 않습니다. 기억해 둘 만한 통계가 하나 있습니다. AI를 만들고 설계하는 회사들이 예산에서 — 돈과 인력에서 — AI를 안전하게 만드는 데 투자하는 비율과, AI를 더 빠르고 더 강력하고 더 정교하게 만드는 데 투자하는 비율이 얼마일까요? 현재 대략 100 대 1입니다. 100 대 1이요. AI를 더 강력하게 만드는 데 1억 달러를 쓸 때마다, 안전한지 확인하는 데는 100만 달러만 씁니다. 지구상 어떤 산업도 이렇게 굴러가지 않습니다. 에너지 부문에서도, 제약에서도, 자동차 산업에서도 우리는 이런 것을 용납하지 않을 겁니다. 그런데 AI에서는 이런 일이 벌어지고 있습니다. 부디 우리가 이것을 바꿔서 안전한 지능을 만들어내고, 동시에 우리 자신의 지혜를 갈고닦아 어떤 목표를 세우고 어떤 욕망을 좇을지 알게 되기를 바랍니다.

톰 파커 아쉽지만 시간이 다 됐습니다. 하라리 선생님, 오늘 저희 모두에게 지혜를 나눠주셔서 감사합니다. 여러분 모두 즐거운 저녁이 되셨으리라 믿습니다.

하라리 감사합니다. [박수]

이 문서의 본문 링크를 보조하는 출처 목록이다. 본문 완역의 타임스탬프 링크가 원문 대조의 1차 경로다.

• The next 50 years: humanity, AI, power — 원본 영상 · 2026-07-30 게시, 48분
• Yuval Noah Harari 공식 채널

용어

• 에이전트(agent) — 스스로 결정을 내리고 새로운 것을 발명할 수 있는 존재. 하라리는 도구(tool)와의 대비로 쓴다.
• 법인격(legal personhood) — 은행 계좌 개설, 소송, 정치 후원 등 법 시스템의 독립 행위자가 될 자격. 현재는 인간과 법인(corporation)만 가진다.
• 관료제 네이티브(bureaucratic native) — 법·금융·행정 같은 언어 기반 대규모 시스템을 인간보다 잘 다루는 AI의 속성을 가리키는 하라리의 조어.
• 킬스위치(kill switch) — 제국 허브가 원격으로 기술 인프라 전체를 정지시킬 수 있는 구조적 통제 지점.
• ASR — 자동 음성 인식(automatic speech recognition). 이 문서의 완역은 YouTube 영어 자동 자막을 기반으로 한다.

고지

• 원문은 48분 영상 대담이다. 완역 블록은 영어 자동 자막(ASR) 455개 세그먼트를 기반으로 했으며, 명백한 오인식(인명·서명·고유명사)은 문맥으로 교정했다.
• 부분 추출 아님 — 자막 전량을 확보해 번역했다. 로그인월·페이월 없음.
• 영상 자체는 임베드하지 않았다. 각 챕터의 타임스탬프 링크로 원문 발화를 대조할 수 있다.