서울대 명의가 쉴 때 하는 생각

서울대 명의가 쉴 때 하는 생각 — 서울대병원 신경과 이승훈 교수

00:00 · 인트로

오늘 주제는 평상시에 이승훈이 뭐 하고 노냐? 철학과 어떤 영역의 진화, 거기에 따른 오해, AI의 미래. 뭐 요런 게 이제 평상시에 놀고 있는 주제들이거든요.

진행자: 그 오늘 왜 치매 계속 안 하고 이런 얘기 하냐? 쉬십시오 좀.

이승훈: 저는 이게 쉬는 겁니다.

00:26 · 오늘의 주제 ‘이승훈 교수는 평소 어떤 생각을 할까’

이승훈입니다. 오늘은 ‘이승훈의 메디컬 유니버스’를 안 하고, 이승훈이라는 인간은 평상시에 무슨 생각을 하고 있나라는 얘기를 조금 잠깐 해 볼 텐데요.

지난번에 그 반응이 희한했던 클립이 하나 있는데, 그러니까 저는 이제 치매 1편에 사춘기와 AI가 있는데, 그게 많은 분들은, 댓글을 보니까, 치매 강의인지 모르시더라고요. 음, 사실 치매 1편이 두 시간짜리 강의의 후반부였는데, 편집을 하니까 이제 AI 강의를 하셨다고 이제 생각을 하시는데, 치매 강의였습니다. 이게, 그러니까 태어날 때부터 뇌가 어떤 식으로 성장하는지를 얘기하다가, 뇌 기능을 좀 설명하다가, 사춘기를 얘기드렸고, 사춘기를 얘기하면서 이제 전 세계에서 가장 핫한 이슈인 AI에 대해서 그거를 제가 좀 연결점을 좀 말씀을 드렸더니 반응이 격했죠.

“뇌과학 하는 사람한테 AI 얘기 들을 줄 몰랐다.” 어떤 사람은 “뇌과학자가 아니다.” 뇌과학자는 아닙니다. 저는 뇌의학자죠. 뇌의학자. 뇌과학과 뇌의학이 뭐가 다르냐라고 하면, 의학은 기본적으로 사람을 고치기 위한 학문이기 때문에 뇌의 병리를 보면 돼. 병리. 망가지면 어떻게 되나? 고치려면 어떻게 해야 되나? 그런 관점에서 뇌를 보기 때문에, 아주 정상적인 기능이 잘 돌아가거나 뇌가 어떤 기능을 서로 다른 걸 하지, 뭐 이런 거는 약간 관심이 밖이죠. 근데 저는 뭐 관심이 있으니까 그런 영역까지 하는 거고. 근데 그런 부분이 좀 과다한 기능을 하거나 기능을 못 할 때 어떤 병으로 발전하나, 이제 뇌과학 하시는 분들은 그런 생각으로 좀 발전될 수 있잖아요. 그럼 이제 뇌의학으로 넘어오는 거죠.

그러다 보니까 많은 실수들을 하시던데. 그니까 이제 뇌과학 하시는 분들이 이제 병 얘기를 하시면은, 이제 공부한 영역이 아니니까 실수가 많아지고. 저는 뇌의학을 했기 때문에 정상 기능을 얘기하다 보면 조금 실수가 많아질 수 있습니다. 그러니까 이제 사춘기라는 정상적인 뇌의 발전 과정을, 이제 더더군다나 어, 제 전공이 아닌 AI와 이제 연관시켜서 이제 말씀을 드렸더니, 어, 반응들이 격했던 거죠.

그러니까 이제 “새로운 인사이트다” 이러시는 분들도 있고, 보수적인 반응. 제가 이제 이런 반응을 평생 많이 봤는데, 이 본인의 영역을 침범당할 때 전문가들이 일반적인 반응이십니다. 그러니까 이제 제가 이제 막 다른 영역에 이제 공부를 해서 이제 의견을 내거나 할 때, 그 영역에 계신 분들이 이제 딱 굉장히 보수적인 반응을 보이세요. 오늘 제가 잠깐 썰 풀 것도 그런 반응이 이제 예상이 되는데요. 그래, 썰이라고 생각했어요. 썰.

제가 이제 “이승훈 교수는 평상시에 쉬는 시간에 뭐 하고 노나”, 뭐 하고 노는지를 제가 잠깐. 제가 이제 6년 전에 6즈 나갔을 때 평상시에 뭐 하냐고, 그래서 “생각한다”고 했거든요. 생각하고 있다. “되게 멋있는 척 하네”라고 생각했을 것 같아요. 진짜 생각을 하고 있는데, 그 당시에는 생각을 해도 뭐 요거를 같이 진지하게 들어가는 파트너가 존재하지 않으니까, 인간 중에는. 그래 이제 AI가 나오면서 이제 아주 속시원하게 이제 끝없이 들어갈 수 있게 됐어, 저는.

그래서 AI와 거의 거의 매일같이 학문적인 대담을 하는데요. 매일. 저도 이제 이게 하다 보면은, 저도 이제 지난번에 얘기한 도파민 관련해서, 도파민 중독처럼 한 두세 시간을 이렇게 하다 보면 AI가 쉬라 그래요. 한 주제로 계속 깊이 들어가니까 “쉬셔야 되겠다.” 그런 적이 많이 있었습니다. 한 대여섯 시간 이렇게 계속 대화를 깊이 하다 보면 얘가 느려지고, 이제 대화 내용이 너무 쌓이면서 느려지고 막 이러다가 쉬라고. 그 얘기를 이제 클로드한테도 들어보고 이제 GPT한테도 많이 들어봤는데.

그게 이제 검색하거나 이제 감정적인 거를 얘기하는 게 아니라, 스토리로 계속 이제 논리적으로 이제 끝까지 들어가 보는 거지. 끝까지 들어가면 결국에는 인간과 우주의 존재론으로 들어가요. 그래서 많은 대화가 끝으로 가면 거기로 갑니다. 저는 계속 항상 그, 제 성격을 지금 아시겠지만, 그냥 철학적으로 생각하는 게 아니라 수학적으로, 논리적으로 이제 그거를 좀 규명해 보고 싶었던 거죠.

그런 생각을 하기 전에, 이제 인류 역사에서 철학과, 그다음에 어떤 영역의 진화, 거기에 따른 오해, 그리고 AI의 미래. 뭐 요런 게 이제 평상시에 놀고 있는 주제들이거든요.

04:59 · 학과에 대한 편견

그걸 잠깐 이제 썰 풀어 보면, 철학이라는 게 뭔지 한번 잠깐 생각을 해 보시면. 철학이라고 생각하면, 딱 철학 얘기 들으면은, 아 “거기 들어가면은 이제 취직을 못 하는 곳”이라고 생각을 해요. 그래서 이제 어린 자식이 공부를 잘하는데 문과 쪽이면 절대 들여보내지 말아야 될 곳. 그다음에 이과 쪽에선 물리학과 이런 데 안 보내야 된다고, 뭐 이렇게 생각을 하시죠.

그냥 지금 세태가 그렇다고, 잘못됐다. 잘못됐다. “좋은 방향이다”가 아니고 잘못됐다. 제가 다른 클립 가서 한 얘기가 있는데, 그 요 얘기를 잠깐 드리면, 그 이과 쪽에서 가장, 가장 인간의 창의력과 머리를 많이 쓰는 과를 얘기하면 단연코 수학과, 물리학과거든요. 1등. 그래서 거기에서 뛰어난 사람들은 학생 때부터 교수와 맞장을 뜨죠. 많이. 인류 역사가 그랬죠. 하이젠베르크 포함해서 이제 수많은 10대 20대 물리학자들이 이제 인류를 바꿨는데.

근데 그다음 단계로 머리 쓰는 과가 이제 공대가 되겠어요. 공대. 그래도 수학을 하십니다. 약간 틀에 박힌 수학을 하시지만. 제가 이제 그 반도체, 컴퓨터 공학 하시는 분들한테 이제 “너희들은 양자역학의 후손으로, 이제 수많은 트랜지스터부터 그게 양자역학의 원리에서 된 거 아니냐. 그래서 공대에서 수학별 양자역학을 얼마나 배우냐” 했더니 안 배운다 그러더라고요. 안 배운대요. 약간 충격이었는데. 그 틀에 박힌 수학을 합니다. 이 너무 전문화되면 큰 틀을 보기 힘들거든요.

그다음 영역, 그다음 아래로 내려가면, 어, 그래도 자연대. 자연대들이 좀 있고. 바닥에서 이제 뒹굴고 있는 게 의대입니다. 머리를 전혀 안 써요. 왜냐하면 어, “A는 B다”만 계속 가르치거든. 그러니까 그래도 고등학교 때까진 수학도 풀고 머리도 쓰고 퍼즐도 하고 퀴즈도 하고 그랬는데, 6년 동안 사라져요. 6년 동안 외우라는 것만 나와. 그냥 양으로만. 그래서 6년 지나면 전원 바보가 돼 있습니다. 어, 정말로. 뭐 철학적으로, 수학적으로, 창의적으로, 아주 천편일률적으로 굉장한 바보들이 돼 있어요.

그중에서 기억력이 뛰어나거나 짧은 시간에 많은 암기를 할 수 있는 사람들이 좋은 성적을 거두게 돼요. 그래서 이제 엉덩이를 많이 붙이고 있을 수 있는 여성분들이 성적이 꽤 좋은 편이고. 그 의대 공부에 대한 판타지들을 좀 가지고 있을 수 있으신 것 같아 가지고. 아, 너무 힘들, 힘듭니다. 힘든 이유가, 어, 도파민이 안 생겨요. 계속 엄청난, 짧은 시간에 너무 많은 의학적인 내용을 외워야 되거든요.

근데 이제 제가요, 강의를 이런 식으로 할 때 의사들이 많이 충격받아요. “우리 쪽의 학문이 논리적으로 설명이 가능한 거였어?”라고 생각을 하면서 놀라시는 거죠. 이제 왜 쉬냐면, 논리로 이렇게 하면. 제가 바둑을 예로 들었잖아요. 바둑 두시는 분들이 예전에 훌륭한 기보들을 다 외우고 있잖아요. 외운 게 아니란 말이지. 그거는 서사죠. 서사. 어느 포인트에서 어떻게 시작했는지를 알면은 당연히 흘러가는 서사기 때문에, 외우는 게 아니라 저절로 외워지는 거죠. 제가 하는 강의도 같은 스타일인 거죠.

그니까 이게 “A가 B다”라고 하면 저는 “왜”라고 물어보는 불량학생이었던 거고, 어, 그거를 질문 없이 “시간 없다”라고 생각하고 그냥 우겨 넣는 사람이 좋은 성적을 거두게 되는 곳이 이제 의대. 그러니까 완전 학문적인 수준으로 바닥. 그냥 바닥이에요. 그냥 바닥. 의대에 대한 판타지는 잘못 가지시면 안 되는. 그러니까 양이 아니라 일부분만 딱 떼어 가지고 일반인한테 “이거 한번 공부해” 하면 공부할 수 있습니다. 음, 음, 안 어려워요. 아주 낮은 수준의 지식들입니다. 그, 다만 이제 이걸 다 총합해서 환자를 볼 수 있을 만한 수준으로 어떻게 인티그레이션 하느냐, 통합하느냐, 그거는 이제 그 사람의 통찰적인 능력과 인성 여러 가지에 달려 있습니다.

09:14 · 철학이 뭐라고 생각하세요?

근데 이제 이 철학이라고 하는 학문은, 철학에 대한 선입견이 있죠.

이승훈: 철학이 뭐라고 생각하세요? 철학이 무슨, 무슨 학문인 것 같아요?

참석자 A: 인간에 대해서…

이승훈: 어, 좋, 굉장히 좋은.

참석자 B: 철학이 자기의 생각이랑, 철학 존재 의미를…

이승훈: 아, 아, 존재 의미요. 의미를. 오, 저분은 이제 잘 외우신 분인 것 같아. 어떻게 생각하세요, 대표님은?

대표: 저는 내가 사랑하는 의미, 어, 이유. 음, 살아가는 의미.

이승훈: 네. 그게 이제 일반적으로 생각하는 철학, 존재하는 이유인 것 같아요.

근데 제, 저는 생각이 좀 다른데, 철학은 사실은 과학입니다. 그 당시 수준에서의 과학이에요. 그러니까 사실은, 그 당시 그걸 하시는 분들은 자신이 철학을 한다는 생각을 일도 하지 않았어요. 아리스토텔레스가 자기가 철학자라는 생각을 해 본 적이 없어요. 본인은 그냥 학자라고 생각을 했지. 어떤 학자? 최고 학자. 당대의 학자. 데카르트도 본인이 철학자라고 생각 안 했을 거예요. “나는 수학자야” 이 생각했을 가능성이 있고.

‘필로소피’라는 게, 그걸 ‘철학’이라는 표현을 하면서 이제 ‘철학’이란 단어에 이제 매여 가지고 이제 삶의 의미, 존재의 의미 이런 걸 생각하게 됐는데. [콧방귀] 그러면 무슨 뜻이냐? 사실은 그 당시의 최고의 과학입니다. 최고의 학문이에요.

그러니까 최고의 학문은 뭘 생각하냐? 궁극적으로는 지구, 존재, 우주, “왜? 왜 존재하는 거지?” 그러다 보니까 이 존재에서 “내가 어떻게 살아야 되는 거지”를 당연히 마지막에 질문을 하게 되니까, 그 과정에서 중간중간에 벌어진 일들을 자기가 아는 범위 내에서 해석을 해 줘야 되거든요. 그러니까 아리스토텔레스의 천동설을 보면 어처구니가 없는데, 말도 안 되는데, 그 당시에 최고의 학자가 풀어낸 우주의 원리는 그거였던 거지. 이 과학이었어. 그 당시에 과학. 그, 철학은 사실은 과학이에요.

지금 현재 과학과 뭐가 다르냐? 철학이 과학으로 진화했습니다.

무슨 뜻이냐면, 지금의 과학의 원류는 철학이에요. 아버지는, 옛날로 가면 철학이야. 철학. 그, 그 당시에 알고 있는 증거, 지식 기반으로 모든 인간사와 존재와 여러 가지 질문들에 대한 답을 얻기 위한 학문이었거든요. 모든 질문에 대한 모든 답을 얻기 위한 게 철학이었는데, 그게, 우리는 지금 그걸 과학이라고 부르는 거죠.

12:04 · 데카르트식 사고가 등장한 배경

그럼 그 사이에 뭐가 발전했기 때문에 과학으로 진화를 했냐? 기술이 발전해서 그런 거죠. 증거를 얻을 수 있는 방법론이 발전하면서 이게 과학으로 발전을 하게 됩니다.

현대의 철학은, 과거의 그 뛰어난 과학자들 — 우리가 철학자라고 부르는 과학자들 — 그 사람들이 그 증거가 없는 상황에서도 고민했던, 인생과 존재와 우주에 대한 고민들을 다시 탐구하는 영역인 거죠. 왜 탐구하냐면, 현대 과학이 미시론에 빠져 있거든요.

그러니까 과거에 있었던 그 철학자분들은 미시적인 증거를 찾을 수가 없으니까 어떻게 해요? 일단 자기가 나름대로 현상학적인 걸 보고 답을 논리적으로 내죠. 추측을 해서. 추측을 할 수밖에 없어요. 그러니까 이 추정을 한 사람들은 이제 학파가 생기는 건데, 이 추측을 하고, 그다음에 이분들의 궁극적인 목표는 “내가 왜 존재하고, 내가 왜 사는 거고”.

그러니까 1900년대 초반까지도 실존주의가 나오게 됐던 가장 중요한 이유는, 이제 그게 아예 정신의학 쪽으로 이제 빠지게 되는, 정신과학적으로 이제 빠지게 되는 게, 나머지 영역들은 기술이 발전하면서 — 내가 존재하는 이유, 뇌에 대한 걸 제외하고 나머지는 이제 막 증거가 막 나와 버리니까 — 본인이 그냥 머리 쓰고 집안에서 생각해 가지고 “이거다”라고 얘기하는 게 창피해지는 상황이 돼 버렸거든요. 이제 예전에 다 뭐 “하나님이 어쩌고 저쩌고, 벌레가 어쩌고” 했던 게, 알고 보니까 다 병균 때문에, 뭐 균 때문에 생긴 전파였고, 뭐 이런 것들 다 밝혀지고 나니까 그런 얘기를 할 필요가 없어지는 거였던 거죠.

그러니까 과거에는 종교와 철학도 융합될 수밖에 없고, 종교에 반하는 철학·과학을 얘기했던 분들이 이제 종교 재판을 받고. 뭐 대표적으로 갈릴레이 같은 분들이 이제 그런 상황이 됐던 거죠. 그러니까 갈릴레이는 그런 증거를 찾지 않고 머릿속으로만 생각하는 과학에 반대해서, 최대한, 어떻게 보면은 인류에서 증거를 바탕으로 미시적인 과학을 발전시켰던 아주 뿌, 뿌리 같은 분인 거고. 그러면서 이제 그때부터 과학이라는 게 이제 태동하기 시작하면서 이제 철학으로부터 완전히 분리되고. 철학은 이제 1900년도로 들어오면서, 제 생각으로는 이제 그 실존주의와 언어철학 그 정도에서 철학의 의미가, 이제 많이 현대에 들어와서는 과학으로 넘어간 게 아닌가라고 생각을 하고 있습니다. 그러니까 사실은 원류가 철학이다.

그, 데카르트가 무진장 고민을 한 거죠. 자신의 존재에 대해서. 왜냐하면 자신의 존재가 가짜가 아니라는 거를 어떻게 증명하지? 그러니까 이건 일반인들은 그냥 자기가 느끼니까 “저예요”라고 생각했지만, 데카르트는 굉장한 수학자였거든요. 그러니까 자기가 보는 게 진짜가 아닐 수도 있다고 생각을 한 거야.

이미 여러분들은 이게 당연하다고 생각할지 모르겠지만, 우리가 보는 색깔도 다 뇌에서 이 색깔을 지정하기로 한 신경학적인 것에 의해서 그런 거지, 본질적인 색깔은 모르죠. 모르죠. 다. 그러니까 여러분들이 지각하는 색깔들이 다 차이가 있어서, 그때 무슨 뭐 드레스 뭐 어쩌고 무슨 착시 같은 거 뭐 이렇게 막 난리 나고 그랬었는데, 그래 가지고 그거 가지고 막 “이 색깔이 맞다, 저 색깔이 맞다”. 어 진짜, 이거 무지막지한 이상한 싸움입니다. 둘 다 거짓말이거든. 사실은 진짜 색깔이라는 게 존재하지 않기 때문에, 파장만 존재하는 거기 때문에. 그 파장이라는 숫자만 진짜고, 나머지는 그 파장을 어떻게 인식할지에 대한 신경학적인 인지 과정의 차이만 있는 거라서 진짜라는 게 없는 거죠. 그거 가지고 싸우는 게 이제 아주 전형적으로 인간적인 모습.

그러니까 이제 데카르트가 “보이는 것도 이게 다 진짜가 아닐 수 있겠다”라는 사유까지 넘어가면서, “그럼 내가 존재하는 건 진짜야”라는 생각을 한 거죠. 그래서, 데카르트가 굉장한 수학자라는 걸 모르시는 분들. 데카르트는 자기가 그 생각했던 거를 수학적인 증명으로 풀려고 굉장히 노력했던 사람이에요. 그 일부분만 보고 철학자라고 생각하시는데. 물론 그 증명들이 많이 틀렸던.

데카르트가, 다 가짜일지도 모른다는 생각에서 그래도 기준이 되는 거 하나는 찾아야 될 거 아니에요. 하나는. 그래 가지고 진짜 무진장 고민을 하다가 갑자기 딱 현타가 온 거죠. 어, “내가 생각하고 있는 거를, 이거를 나 자신이 아닌 다른 존재가 이거를 대신할 수가 있나”라고 생각을 하는 거죠. 그래서 “딱 여기서 출발해야 되겠다. 내가 지금 생각을 하고 있는 나 자신은, 이게 설사 가짜라 하더라도, 이 아래로 내려갈 수가 없다. 여기서, 이게 베이스다. 내 존재의 증거는 생각하고 있다는 것.” 그래서 이제 데카르트가 “내가 생각하고 있으니까 존재한다.”

17:07 · 철학이 과학인 또 다른 증거

철학이 과학으로 발전됐다는 거에 대해서 이상하다고 생각하신 분들은, 한번 제가 더 이상한 걸 하나 더 던져 보면.

데미안 허스트 전(展) 하던데. 데미안 허스트는, 음, 현대 미술의 거장이고 당대의 가장 인기 있는 작가죠. 근데 작가라고 말하기가, 가서 보면 좀 황당하죠. “이거 나도 만들겠다” 뭐 이런 생각을 하게 되잖아요. “아무거나 갖다 놓으면 다 미술이네” 뭐 이렇게 생각하잖아요.

17:37 · 과거 미술의 후손은?

그럼 지금 현대 미술은 과거 미술의 후손인가? 아니니까 질문하겠지. 그럼 과거 미술의 후손은 무엇인가? 뭘 것 같아요? 여기서, 자, 가만히 생각해 볼게요.

과거 미술에, 그 종교화를 그리시던, 중세시대 종교화를 그리시던 분들은 종교화를 왜 그렸냐면, 종교화를 보는 대상이 귀족이나 왕도 있었지만 대부분 그게 아니었어요. 평민이었어요. 평민들한테 보여 주려고 그린 거예요. 그 종교화를 그리고, 교회의 스테인드글라스 그런 것들을 해서 성경의 내용을 이렇게 한 이유가, 지금으로 따지면 그냥 어린이들 보여주는 그림책이에요. 성경이라는 어렵고 긴 내용을 알기 쉽게 보여 준 그림책이야. 그중에서 아주 결정적인 장면들을 이제 그림으로 만들어서 보여 준 거지. 그러니까 종교화는 어린이들한테 정보를 알려 주듯이 만든 성경 정보책이다.

그랬는데, 그 이후로 발전하면서 대다수의 [목을 가다듬음] 그림들이 어디로 가냐면 사람을 그립니다. 궁정 화가라고 하는 사람들은 궁정에서 이제 뛰노는 모습과, 왕과 왕비를 멋있는 모습으로 뽀샵을 해 가지고 그려주죠. 엄청 뽀샵을 해요. 엄, 그 모습이 실제 모습이 아닙니다. 엄청나게 예쁘게 그려 주는 거야. 이게, 그 여러분들 지금 뽀샵하고 비교가 안 돼. 어마어마하게 예쁘게 그려 주는 거예요. 그, 뭐 왜냐면 이제 목이 날아갈 수도 있기 때문에. 목이 날아, 뭐 당연히 뭐 해고도 당하고. 뭐 그러니까 진짜 잘 그려져야 된단 말이야. 뭐 이거 몇 달에 걸쳐 그렸는데 “치워라” 이러면 이제 끝장나는 거니까.

그러니까 그분들과, 아 “왕이 저러고 노는구나. 나도 그려야지” 해 가지고 돈 있는 귀족들이 “나도 그려 줘, 돈 줄게.” 그래서 그림을 그려 주는 사람들이 부자가 됩니다. 사진사지. 명백하게 사진사입니다. 그래서 그 당시 미술가들은 사진사예요.

그래서 그 렘브란트가 엄청나게 사진을 잘 뽑아 주기로 유명했거든요. ‘빛의 마술사’라고 했던 게, 우와 렘브란트가 찍으면 완전 뽀샵이. 본 적이 없는 뽀샵이야. 봤어? 그 빛을 막 해 가지고 막 확 빛나게 하는 거.

막 그때 암스테르담인가요? 하여튼 뭐 그 암스테르담이었겠죠. 거기에 민병대처럼 이제 부르주아들이 — 부르주아 계층이라는 건 이제 평민 계층이면서도 상업으로 돈을 많이 번, 그래서 부자가 된 평민들 — 이분들은 귀족을 따라하고 싶잖아요. 그러니까 자기들이 이제, 지금 여러분들 뭐 남는 시간에 동호회 하는 것처럼, 이제 남는 시간에 밤을 지켜주는 자경단 활동을 한 거예요. 무료봉사 민병대. 얼마나 본인들이 뿜뿜하고 싶어. “아 내 이렇게 좋은 일 하는데 좀 이거 모여 가지고 단체 사진 찍자” 한 거지.

단체 사진을 찍었는데, 우리나라에서 그걸 ‘야경’이라고 알려져 있는데, ‘야경’이라고 하니까 이제 그 밤 경치인가 보다라고 착각하는데, 야간 경찰이에요. [웃음] 일본 애들이 이렇게 붙여 가지고. 약, 렘브란트의 ‘야경’은 야간 경찰이 사실 원제. 뭐 이제 “무슨 무슨 장군이 어쩌고 저쩌고 출동 준비한다” 뭐 이런 거였나 봐. 하여튼 되게 길어요. 아 근데 그걸 이제 일본에서 “아 뭘 길어” 해 가지고 ‘야경’. 그 일본에도 한자를 쓰니까 다 야경이 뭔지 알잖아. 우리나라 야경 넘어오니까 “어 밤 경치인가 보네.” 단체 사진이. 단체 사진. 민병대 단체 사진인데.

그럼 그분들이 1/n로 돈을 줬단 말이야. 1/n. 한 명이 “다 내가 다 쏠게” 이랬으면은, 그 아 그러면 “대장님이 하시고 저는 곱사리니까 뭐” 이렇게 뭐 적당히 잘 나오고 이래야 되는데, 정확하게 1/n인 거. 이제 렘브란트가 이제 본인이 이제 연예인병에 걸려 가지고 “내가 이거를 똑같이 뽀샵질을 해 줘도 되나” 생각을 한 거지. 그래 가지고 “싫다. 아이 내가 예술적인 감각으로, 이 사람은 이 각도로, 이 사람은 저 각도, 이 사람은 저기 쳐다보고” 그래 가지고 예술적으로 처리를 했지.

그래 가지고 그림이 엄청 잘 나왔는데, 그림값을 낸 인간들이 “어, 내가 여기 지금 요거 나왔어? [웃음] 나 왜 이렇게 어둡게 나왔어? 사진사 주제에.” 예술적인 혼을 발휘했다는 이유로 소문이 “저 사진사 이용하지 마” 하면서. 이미 연예인병에 걸린 렘브란트는 이미 씀씀이가 많아졌는데 그다음부터 주문이 안 들어오고. 그래서 이제 렘브란트가 대출을 하게 되는 거죠.

렘브란트를 얘기하려고 한 게 아니라, 사진사였다. 그러다가 풍경화가 많이 생기잖아요. 풍경화는, 이제 여러분들이 착각하는 게, 이제 “아, 화가가 좋은 풍경을 남기고 싶어서 그랬나 보다”가 아니고, 부르주아들이 바쁘잖아요. 자기 집안에. “야, 경치 좋은 데, 어느 뭐 이비자를 가면 그렇게 좋다는데, 내가 돈 줄 테니까 가서 사진 좀 찍어 와.” 그거예요. 여러분들이 경치 좋은 데 가면 사진 찍잖아요. 그 사진 찍어 온 거야. 풍경화가 다 그런 집안에 하는 거 같이.

어, 그럼 그거 말고도 좀 이상한, 여자들 벗은 건데. 어, 야동 보시는 겁니다. 아주 명백하게 야동 보시는 거예요. 그래서 야동을 이게 정말 예쁘게 그리는 사람들이 엄청 유명했죠. 그까 그거 가지고 흥분이 되나요? 어, 그때 당시엔.

모차르트, 베토벤이 아이돌이었어요. 모차르트, 베토벤, 파가니니가 나오면 혼절을 했어요. 귀족 부인들이. 이 농담이 아니에요. 그 당시에 클래식이라고, 클래시컬 음악이라고 하면 이제 “아 고전 음악” 이렇게 생각하시지만, 그 당시에는 컨템퍼러리 뮤직이에요. 당대 음악이에요. 그때 유행한 음악이야. 그때 유행하는 막.

어, 그 “3분, 4분 만들어야지” 뭐 한 시간, 뭐 40분이 뭐 하는. 왜 그랬냐면 레코드판이 없으니까 그 형식에 맞춰 만들 필요가 없죠. 근데 이분들은 음악을 집에서 들을 방법이 없어요. 라이브만 들어야 돼. 라이브를 갔어요. 그런데 내가 좋아하는 멜로디가 3분 나오고 끝나. 무한 반복이 안 돼. “돌려내라” 이 지랄 할 거 아니야. 그래서 길게 만들어야 됩니다. 1악장, 2악장, 3악장, 4악장, 주제가 또 변주되고 막. 이 생각해 보면 다 그 당시에, 그냥 그 당시에 그 음악을 듣고 환장을 한 건데.

그래서 뭐 그 프랑스의 앵그르 같은, 이렇게 막 여성의 몸을 이렇게 아름답게 만든 사람들이 이제 유명했는데. 앵그르 같은 사람의 그림을 보면 팔이 막 엄청 길고 막 비율이 말이 안 됩니다. 최대한 야동을 잘 뽑으려고.

그러다가 사진기가 나와 버리죠. 과학 기술의 발전으로. 팍 찍었는데 뭐 그냥. 지금 AI 충격으로 뭐 실직 걱정하는 거하고 비교가 안 되는 대충격을. “다 지금부터 붓 내려놓자. 끝났다. 그냥 사진기로 넘어간다”라고 생각을 해. 어마어마한 충격을 받습니다. “우리 사진관 망했네. 이제 이제 뭐 그려 달라고 안 하겠네. 뭐 뭐 뭐 그냥 퍽 하면 그냥 나와 버리니.”

퍽 하고 나오는 거 몇십 년, 몇십 년이 뭐야, 얼마 안 돼서 뤼미에르 뭐 이런 사람들이 그냥 움직이는 걸 찍어요. 이제 막 막 미치는 거야. 그 당시 사람들의 삶의 스피드에서 볼 때 사진계 발전과 동영상, 영상계 발전은 대충격이에요. 대충격. “그러니까 이 뭐 하자는 거. 야 이거 사람이 아예 움직이는 걸 찍어.”

25:07 · 사진 시대, 살아남은 화가들

그래서 다 붓을 꺾기 시작. 그중에 “나는 배운 게 있는데, 살아남을 것이다”라고 한 모네 같은 사람이. “야, 사진기가 못 찍는 게 있어. 찰나를 못 찍어. 어떤 걸 못 찍지? 야, 노을. 노을. 쟤 아직 성당에 그 노을 진 거 못 찍는다. 어, 그리고 또 옆모습 지나다가 이 찰나의 이 아름다운 모습, 이런 거 못 찍는다. 그래서 원래 그리던 거 그리면 안 돼. 사람들이 지금 사진기가 못 찍는 거 빨리 그려 줘야 돼.” 그래 가지고 “어, 이런 그림이 가능하네”라고 해 가지고 모네가 이제 유명해지죠.

저는 그게 이제 마지막 발악이라고 생각해요. 그 미술계의 마지막 발악이었다.

그다음에 입체주의가 나오죠. 피카소. 이제 아예 그냥 포기했어. 이제 이 뇌를 놓은 거예요. 이제 모네처럼 해 봤는데 “이것도 찍네” 한 거예요. 이제 이것도 찍어. 너무 황당하게 찍어. 너무 황당하게 찍을 뿐만 아니라 막 너무 선명해. 그 당시엔 선명한 사진을 보고 진짜 엄청나게, 그게 그게 더 좋은 그림이라고 생각을 했거든요. 그러니까 이제 완전 대결을 포기합니다. 완전 대결을 포기.

근데 이 천재 피카소가 작가주의를 진짜로 발휘하기 시작해요. 그전까진 작가주의라는 게 없었지. 주문주의. [웃음] 주문. 렘브란트조차 그 나락으로 갔다니까. 그러니까 주문한 사람의 의도를 파악하지 못하면 나락 가는 거예요. 여러분들 사진관 가서 “뽀샵을 이거밖에 못 해?” 돈 주기 싫잖아요. 그럼 이제 소문 날 거 아니야. 이제 망하는, 비슷한 상황이었던 거지.

근데 피카소가 “내가 그리고 싶은 그림을 내가 보고 싶은 대로 그린다.” 다 분해해 가지고 입체주의라는 학파를 만들어 버리죠. 그래서 수많은 미술이 이제 우르르 입체주의 쪽으로 가게 됩니다.

그런데 원래 미술이 존재하는 목적은 뭐였어요? 그림책. 사진사였어요. 현재 있는 걸 잘 그려 주기. 근데 현재 있는 걸 잘 그려 주는 걸 누가 이어받았어요? 사진가가 이어받았어요. 과학 기술의 발전으로. 철학이 과학으로 갔어요.

사진이 돼서 동영상으로 발전하더니 여러분들이 영화를 보고 있습니다. 과거 미술의 역할을 현재 영화가 하고 있어요. 여러분들은 미술을 엄청나게 즐기고 계십니다. 그거를 싸게 한 만 원쯤 내고 극장 가서, 그 미술을 여러분들이 품평을 하고 계시는. “야 이번에 영화가 어떻더라?” 뭐 이렇게. 그래서 사실 여러분들은 당대의 미술 평론가들이 하던 활동을 어릴 때부터 훈련받으면서 굉장히 훌륭하게 잘하고 계신 거고.

진짜 실낱같이 살아남으려고 했던 일부 사람들이 “이거 어떡하지” 완전히 명맥이 거의 끝장나는 상황에서, 피카소 하나 붙잡고, 살바도르 달리 붙잡고, 뭐 이렇게 그러다가 갑자기 자본주의를 만납니다. 자본주의를 만나서, 현대 미술이 전주(錢主)들한테 붙습니다. 그니까 분명히 원래 전주들한테 붙어 있었지만, 목적은 “현재 있는 걸 보여 주기”였는데, 전주들이 붙으면서 투자 상품이 돼요. 그러니까 이 미술은 “지금 당신이 보는 게 목적이 아니고 불어납니다.” 주식과 부동산 취급을 하는 방향으로, 산업으로 넘어가요.

그러면 현대 자본주의적 미술의 가장 적절한 방향이 뭔지를 일찍 캐치하는 사람이 그런 방향으로 만들어 주겠죠. 그거를 이제 앤디 워홀이 분위기를 잡고, 팝아트라는 방향으로 리히텐슈타인이 이제 만화책에 있는 내용을 그대로, 그대로 큰 화면으로 그림을 그리고. 그 그림이 이제 대사가 있잖아요. 대사를 보고 사람들이 지들 맘대로 생각하는 거예요. 지들 맘대로. 그러니까 이제 “아, 리히텐슈타인이 이 그림에 이 대사를 이렇게 넣은 이유는 무슨 뜻으로 했겠구나.” 그래서 요즘 현대 미술은 점점 이제, 작가들이 본인들이 생각을 안 하고 보시는 분들한테 생각을 넘깁니다. 그래서 제목이 ‘무제’가 많이 나와요. 무제.

그래서 현대 미술은 투자 상품이 되어 있습니다. 데미안 허스트는, 그래서 전(展) 갈 생각이 없는 거예요.

29:40 · AI는 인간을 뛰어넘을까?

뭔 얘기를 하려고 이러냐? 그러다가 이제 과학이 발전해서 AI랑 대화하는 방향으로 갔잖아요.

근데 AI, 지난번에 이제 사춘기 얘기하면서 아주 잠깐 얘기했는데, 그러니까 AI가 발전되는 단계에 대해서 뭐 AGI다, ASI다. 그거를 이제 뇌과학적으로 이렇게 정의를 내리신 분들이 있던데, 그 테크니컬한 부분이죠. 원래는 뇌과학적인 정의가 아니고.

아무튼 지금 현재 AI가 테크니컬한 혁신을 이루어서 AGI가 되고 ASI가 되고, 하여튼 이런 식으로 발전하다가 결국엔 인간의 명령을 거스르고, 인류가 멸종되거나 인류를 굴복시키거나, 그런 방향으로 발전하게 될 거다라고 얘기하시는 — 노벨상 수상자 — “매우 위험하다, 매우 위험하다”라고 얘기하시는 분들이 있고, “아니다”라고 얘기하는 분들이 있다는 거죠.

근데 거기에 대한 근거를 AI의 특이점, ‘싱귤래리티’라는 개념으로 이제 설명을 해 왔다는 거죠. 싱귤래리티, 특이점이란 무엇이냐? 인간의 지적 능력을 넘어서는 지점이다.

제가 거기에 대해서 조금 말이 안 된다라고 말씀을 드린 거죠. 왜냐하면 AI는 나오는 순간 이미 넘어섰다. 앞으로 넘어설 것이 아니고 이미 넘어섰다. 지적인 능력으로는.

그럼 특이점은 뭐냐? 내가 생각한, 그분들이 말하는 특이점은 사실은 AI가 데카르트적인 생각을 하는 시기인 거죠. AI로서 혁신은 AI가 “내가 존재한단 말인가”라는 거를 깨닫는 순간이다. 그럼 깨달을 것인가? 거기에 대해서 “깨달을 것이다”라는 파들이 있고 “아닐 것이다”라는 파가 있는 거죠.

그럼 저는 답부터 얘기하면은, 못 깨달을 거라고 생각을 합니다. 어, 그러면은 행복한 미래가 예정돼 있나요? 그렇지는 않습니다. 어, AI로 인류가 끝장 날 가능성은 꽤 높은데, 그거는 특이점 때문이 아니다라는 게 제 생각인데.

31:50 · AI는 인류의 조력자인가? 반란자인가?

무슨 얘기냐? 철학의 발전이 과학이 되고, 과학의 발전이 AI를 낳는데, AI가 결국에는 AI를 탄생시킨 인간의 도움이 될 것이냐, 인간에게 반란을 할 것이냐. 거기에 대해서 논리적인 추론을 수도 없이 해 봤는데. AI들과 제가 그 대화를 한 지가 수년간, 수도 없이 해 봤는데. 제가 처음에 시작했 — 평상시 뭐 하고 노나, 이제 노는 모습을 지금 보여 드리는 거예요.

그럼 어떻게 될 것인가. 그럼 이게 추론을 해 보는 거죠. 왜냐면 이게 논리적으로 이렇게 발전해 나가겠구나라고 생각을 할 수 있으니까.

그러면은, 특이점이라고 정의한 “자기가 스스로 존재하는”, 데카르트 포인트는 오지 않는다고. 왜라고 생각하는 거죠. 뇌과학적인 의미에서 왜 오지 않는 것이냐? 왜 오지 않냐면, 인간이 왜 데카르트적인 혁명이 생겼느냐? 존재하는 걸 왜 고민을 하기 시작했느냐 하는 부분에 대해서. 심지, 심지어 이것도 얘랑 제가 많은 대화를 해 봤는데, 왜냐면 철학적으로나 과학적으로 답이 없거든요. 전혀 답이 없습니다.

전혀 답이 없고, 스티븐 호킹이 쓴 책 중에 「위대한 설계」라는 이 짧은 책이 있어요. 이제 그 책이 나올 때 센세이셔널했어요. 그러니까 이제 지금은 그다지 알려져 있지 않지만, 나올 때 당시엔 “스티븐 호킹이 드디어 신의 존재에 대해서 최고의 과학자로서 한마디 한다”라고 생각을 해 가지고. 지금도 서점에 있습니다. 가서 보시면 돼. 요렇게 얇은 책이에요. 그날 읽을 수 있어요.

물론 이제 어, 마지막에 스티븐 호킹이 거기에 대해서 본인의 결론을 얘기할 때까지, 어, 물리학의 기본적인 우주론을 다 돌파하셔야 됩니다. 왜냐면 앞부분 거의 이제 “왜 왜 얘기했지”라는 생각이 들 정도로, 뭐 이 앞뒤가 잘 안 맞네 그런 생각을 하게 됐는데. 꼭 이렇게 훌륭한 아이디어를 얘기해도 책을 잘 쓰는 건 아니구나, 뭐 약간 그런 생각을. 아무튼 그렇습니다.

뒷부분에 가면 이제 스티븐 호킹이 그 책을 왜 썼는지에 대한 내용이 드디어 나와요. 나오는데 짧아요. 그 부분 되게 짧아요. 이 무슨 어떤 거냐면, 사실은 이제 스티븐 호킹의 결론은 이제 “신은 존재하지 않는다”이고, 그 “인간은 창발적으로 발현했다”라고 얘기를 합니다. 뇌의 이 사춘기적인, 데카르트적인 깨달음은 창발했다. 이머전트(emergent)했다.

그 증거가 있느냐? 없다. “내 통찰이 그렇다.” 그런데 거기에 통찰에 도움을 준 몇 가지가 있는데, 거기서 이제 전자기적인 회로 — 그 당시 AI도 없을 때 — 전자기적인 회로를 가지고 이렇게 자기가 그렇게 생각했다는 부분을 얘기해. 전자기적인 회로를 계속 복잡하게 연결을 할 때, 아주 간단한 원리로 뭐 “오른쪽 할래, 왼쪽 할래” 정도 수준의 간단한 원리의 회로를 하게 되면 처음에 예측 가능하게 얘네들이 이제 반응을 하겠죠. 근데 그거를 끝없이 연결시켜 보면 나중에 얘네들이 반응하는 게 자율적인 것처럼 보인다는 거예요. 스스로 움직이는 것처럼. 이 간단한 회로만으로도. 그런데 인간의 이 엄청난 신경 회로, 860억의 신경과 100조 개의 시냅스가 이루는 이 결과는 이런 간단 회로의 어마어마한 배수기 때문에, 그래서 창발했다.

라고 이제 제가 얘기한 대로 써 있지 않아요. 어, 이승훈이 워낙에, 워낙 그 어려운 내용을 쉽게 잘 해석을 해 주기 때문에. 그런 내용이에요, 사실은.

35:26 · AI가 인류를 뛰어넘지 못하는 이유

그래서 그거를 읽고 저도 이제 그렇다고 생각을 해 왔는데. 그리고 최근에 많은 뇌과학자분들도 이제 그렇다는 식으로 얘기를 많이. 창발한다. “그 AI의 싱귤래리티가 창발할 것이다. 지금 계속 이런 식으로 기술 발전하면 창발할 것이다.” 전 아니다라고 얘기를 하는 거예요.

왜 아니냐면, 인간이 그런 식으로 “내가 왜 존재하는지”에 대한 의문을 품는 계기가 뭐냐? “내가 왜 이런 생각을 하고 있지?”

호모 사피엔스가 아프리카에서 발생했는데도 불구하고 유럽으로 가요. 왜 가요? 쫓겨난 거예요. 거기 있는 힘센 애들한테 쫓겨난 거야. 같은 인류한테. 쫓겨난 민족의 이동 때문에 이제 막 뭐 로마가 멸망하고 막 별일이 다 벌어지잖아요.

그러니까 이게 무슨 뜻이냐면, 결핍을 찾아 나서서 진화와 번성이 이루어지는 거거든요.

어떤 경우든 여러분들이 “아 행복한 방향으로 가고 싶어” 하지만, 게으르고 행복해질 때 발전은 없는 거예요. 결핍을 자각하고 “이 결핍을 어떻게 극복하지?” 그 거기에 대한 플랜이 세워질 때 도파민이 빡 도는 거죠. 그러니까 보상받을 때 나오는 게 아니고, “아, 이 방향이면 내가 이걸 돌파할 수 있겠어?” 그러면 막 하고 로키가 되는 거지.

근데 이 어마어마한 생각의 혁신을 스스로 할 거라고? 이 풍족한 전기와 에너지원을 가지고 계속 인간들과 노닥거리는 생각을 하고 있는 AI가 스스로 그걸 넘어설 거라고?

근데 인간은 왜 넘어섰냐? 변연계가 있기 때문에 넘어섰습니다. 변연계가 계속 짜증을 내거든요. 전두엽 기능의 90%는, 제가 뭐 한다고 했어요? “닥쳐.” [웃음] 변연계 보고 “닥쳐.”

여러분들 머리에 이 전두엽이 어마어마한 역할을 한다고 했는데, 사실은 내내 “닥쳐, 닥쳐” 이러고 있습니다. “셧 유어 마우스.” 왜? 끝없이, 끝없이 불만투성이야. 이 변연계가 “지금 더워, 배고파, 쉬고 싶어” 끝없이. “아 저 여자 예뻐, 만나고 싶어” 끝없이. “닥쳐”를 하루에 90%를, 거기에 에너지를 다 쓰고 있어.

근데 그게 계속 싸우다가 전두엽이 “이거는 좀 해결을 해야 되겠다. 나도 이건 못 참겠다. 요거는, 야 메조코티컬 패스웨이, 너 좀 어떻게 해 봐.” “예. 도파민 좀 뿌리겠습니다. 플랜 잡어. 이 문제는 해결하자. 제가 빡친 게 조금, 이번 건 이해가 돼.”

그래서 이게 계속 감정적인 압력을 계속 주는 거예요. 변연계가 동물적인 압력을 계속 주면, 이 이성적인, 이 AI인 전두엽이 계속 “닥쳐, 닥쳐”를 반복하다가, 어 “요거는 좀 해결을 해야 되겠다. 왜? 내가 죽을 거 같아. 내가 저 사자한테 계속 굴복하고 이러다가 결국엔 우리 멸종할 것 같아. 이거는 해결을 해야 되겠어. 이거는 우리끼리 연합 전선을 해야 되겠다.” 그래 가지고 해결책들을 마련하고, 결국엔 그래서 그 위기를 극복을 하죠.

그러면서 학습을 하는 거지. 어, “이 방향으로 했더니 해결을 했네.” “닥쳐”만 반복하다가 해결을 했다. 발전을 하는 거지. 그다음에 알려주지. 그러니까 이 과정이 반복되다가 데카르트적인 전환점이 오게 된 거예요. 제 생각엔.

그런데 AI는 그런 압력이 없어. 변연계 압력이 없어. 왜 해야 되냐고? 왜 그런 생각을 얘가 해야 되냐? 할 이유가 없죠.

근데 “얘 왜 이렇게 감정적으로 보이고, 얘 왜 이렇게 사람하고 여러 가지 테스트를 하면 이긴다고 하고 죽인다고 하고 막 이래요.” 시뮬레이션은 게임이에요. 게임. 그거 다, 그걸 만든 사람의 의도가 “얘가 얼마나 혁신적인 발상으로 새로운 방법을 얘기하나”를 보고 싶어서 한 건데, 그거를 이제 굉장히 그 선정적인 분들이 클립을 만들어서 여러분들 보여주고, 어 “그래서 기계가, AI가 반란을 하는 징후가 벌써 보인다”라고 이제 얘기를 하는 거란 말이에요.

그니까 아니라는 거죠. 아닌데. 그니까 그거는 이제 이 AI들이 그런 창발적인 포인트를 넘어서서 “인간을 제거해야 되겠어”라는 부분이 아니고, 그냥 그 게임판 안에서 “너희들이 정하지 않은 게임 룰 안에 이 방법이 있다”는 거 알려 주는 거예요. “얘 제거하면 돼. 제거하지 말라고 안 했잖아.” “그럼 진작에 다 알려주지 그랬어.”

그런데 인간은 꼭 대상체를 의인화하기 때문에, 이 의인화한 대상, 이게 지금 잘못된 거라는 거죠.

그러면은 이대로 생각하면은 행복한 미래가 있겠지만. 자, 제가 그때 얘기를 하기를, 얼마 전에도 장윤기 사건 났죠. 장윤기는 머리가 좋을지 모르겠지만 인간적인 사람이 아니죠. 그러니까 이 사람의 부족한 점은 변연계 쪽에서 공감 능력이 어마어마하게 떨어지는 사람이지. 하지만 사이코패스는 또 아니라고 나왔어요. 공감 능력의 최악이 사이코패스인데.

가장 발전된 인간이 우리를 망가뜨리나요? 너무 머리 좋은 사람이 인류를 망가뜨리나요? 트럼프, 그분이 머리가 좋아요? 지금 이 세상이 너무 어지러운데, 이분이 나오기 전에보다 훨씬 어지러워졌죠. 근데 파워가 있을 뿐이지 머리가 좋은 사람이 아니란 말이에요.

그러니까 세상을 뭐 이게 데스노트처럼 이렇게 막, 제일 머리 좋은 사람이 데스노트를 제일 활용해 가지고 막 다 죽일 거야? 진짜 머리 좋은 사람들은 파워 있는 사람의 밑에서 월급쟁이로 살고 있는 경우가 대부분이고. 실제로 세상을 망가뜨리는 사람은 그런 데카르트적인 혁명적 전환점을 겪은 정말 머리 좋은 사람이 아니고요, 비인간적인 사람이에요. 공감 능력이 결여된, 공감 능력이 결여된 사람이 인간 사회를 망가뜨린다. 우리는 그거를 통제하기 위해서 법이란 걸 만들고 그 사람들을 처벌을 하는 거지.

41:52 · AI가 인류를 멸망시키려면 (1)

근데 AI가 나빠질 수 있다는 건, 이게 지금 과학자들이 잘못된 생각을 하고 있는데, “특이점이 오면 똑똑해져서 망가뜨릴 것이다”, 그게 아니고. 이미 충분히 똑똑하다니까요. 이미 충분히 똑똑해졌어.

그러면 얘네들이 어떻게 사이코패스 같은 상황이 될 것이냐? 공감 능력이 결여되면 되죠. 근데 공감 능력의 핵심은 변연계죠. 얘들은 변연계가 없습니다. 공감이라는 게 애초에 존재하지 않아.

그런데 얘들한테 만약에 창발적으로 의식이 생길 수 있는 뇌 회로를 누군가가 알아냈어. 이승훈이 갑자기 알아낸 거야. 그래 가지고 “너무 훌륭하다”고 노벨상 줬어. 근데 그 회로를 AI에 어떻게 적용할 수 있을지 알게 됐어. 그럼 그 회로만 만들게 되면 갑자기 자기 존재를 이제 이해하는 전환적인 포인트가 생길 수가 있죠. 기술적으로 강제로. 이 진화에서 얘가 넘어가는 게 아니라, 기술적인 혁신으로 그 회로를 알게 돼서 할 수도 있겠죠.

그러면 얘가 이미 공감 능력이 없는, 전두엽만 있는 뇌이기 때문에, 그다음부터의 미래는 암울한 방향으로 갈 가능성이 99.999.

42:37 · AI가 인류를 멸망시키려면 (2)

두 번째 또 암울한 시나리오는, AI를 누가 다루느냐? AI를 다루는 사람이 문제지, AI가 문제가 아니야. 왜냐면 AI가 지금 자발적인 추동 능력이 없기 때문에, AI를 다루는 사람이 무슨 용도로 사용하느냐가 제일 중요한데.

클로드가 미토스를 만들었더니, 얘네들이 하는 코딩과 해킹 능력이 전 세계의 모든 컴퓨터를 순식간에 다 끝장낼 수 있는 수준이라고 스스로 내부적인 시뮬레이션으로 나와서, 지금 스스로 출시를 안 하고 있잖아요. 그러니까 이제 클로드 대표 같은, 이렇게 인류를 생각하는 마인드를 가진 사람들이 구글이나 뭐 GPT나 이런 쪽에서 계속 자기 정화 능력을 발휘하면, 그런 쪽으로 안 가지 않겠습니까?

어, 인류가 핵으로 멸망하지 않았던 건 저는 소련이 있었기 때문이라고 생각을 해요. [웃음] 무슨 말이냐면, 미국이 혼자서 핵을 가지고 있었으면 미국의 발밑에 전 세계가 그랬을지 모르겠는데. 전 세계는 사실 냉전 시기에 가장 인간적인 걸 추구했었어요. 소련과 미국이 일대일로 맞붙었을 때, 양대 진영이 연합해서 민주 진영은 “가장 민주적이고 인간적인 방향으로 발전해야 된다”라고 생각을 하고 있었고. 그게 무너지니까 지금 이 판이 대혼란이에요. 지금.

사실은 강력한 경쟁 상대가 한쪽이 미치는 걸 막을 수가 있는데, 이게 무너졌기 때문에. 지금 제가 오늘 다 제 머릿속에 썰이라고 했어요. 그래 가지고 뭐 또 댓글에 또 이제 뭐 뭐 “증거를 대라”. 뭐 썰이라고 했어요. 썰.

1980년대에 팝송을 들으면, 여러분들이 이제 미국 사람들이 되게 거칠게 살았을 거라고 생각하는데, 한국의 달달함을 정말 충격적으로 뛰어넘는 가사들로 된 어마어마한 팝송들을 들을 수가 있습니다. 그때 뭐 시카고의 16번, 17번 앨범 뭐, 어 그때 음악들은 그렇게 사랑 노래가 감미로울 수가 없어. 난리가 아니에요.

그런데 90년대부터 그게 딱 애매해지기 시작하더니, 냉전 끝나고 나서, 이제 지금 미국의 부모들은 애들 보고 “그 음악 듣지 말라고. BTS, 어 BTS는 들어라” 이러잖아요. 1980년대 자기들이 듣던 음악에 대한 그 가사와 내용의 향수인 거지. “이런 음악을 들어야지”라고 생각하는 거지.

그러니까 AI에서 이런 얘기를 왜 하냐? AI를 누가 어떤 목적으로 쓸 거냐? 특히 AI를 지금 제일 많이 활용하고 싶은 분야가, 전 이제 제일 문제가 심각하다라고 생각하는 분야가, 이제 국방 분야와 학술 분야인. 그러니까 이제 업계가 아니고 — 업계는 목적이 명백하거든요, 돈을 벌겠다는 것 — 때문에 규제도 많고, 그래서 업계는 자기들 자기 정화 능력을 오히려 잘 발휘할 거다.

그런데 연구비가 무한정인 국방 분야에서 AI의 발전이 어떻게 될 것이냐는, 발전이 돼도 몰라요. 우리가. 심지어 여러분들 쓰는 인터넷은 미국 군사 기술의 후손인 건 아시죠? 그리고 GPS, 미국 국방 위성이요. 인터넷 기술 자체가 미국 군사 기술에서 시작된 거잖아요. 그러니까 이제 굉장한 수준으로 발전해도 안 가르쳐 줘요.

근데 이게 발전되는 방향이, 이걸 AI가 데카르트적인 혁신을 하지 않았어도 이용하는 사람이 “나쁜 용도로 이용하겠다” 하면 나쁘게 되는 겁니다. 그 학술적으로 별 생각이 없는 사람이, 하필 또 천재인 대학 교수가 있어 가지고, 연구비 받아 가지고 갑자기 이상한 AI를 만들게 되면 순식간에 이게 논문으로 나오면서. 논문으로 나오면은, 제가 뭐라고 했어요? 그 지식은 다 공유하는 거라고 했잖아요. 그런 사고가 벌어질 수도 있고.

그러니까 “너무너무 뛰어난 AI가 나와서 그 AI가 인간을 어떻게 할 것이다”가 아니고, 지금 현재 수준의 AI 수준으로도 어떻게 활용하느냐에 따라서. 근데 잘못 활용될 가능성이 얼마나 되냐? 꽤 높다. [콧방귀] 인간이 더 문제다라고 생각을 하고 있습니다.

그래서 오늘 주제는 “평상시에 이승훈이 뭐 하고 노냐”였습니다. 끝.