샘 올트먼이 단 하나의 초지능에 반대하는 이유

원본 (완역)

발행사 전문 전사의 전체 대화다. 화자와 발언 순서를 유지했다. 시각 표시는 발행사가 제시한 장의 시작점이다.

00:00 · 도입

존 콜리슨 대본에서 벗어나 보죠. 그냥 맥주나 한잔하면서요.

존 콜리슨 Guinness가 아닌 맥주가 처음은 아니지만, IPA는 처음이네요. 뭐든 처음은 있는 법이죠.

존 콜리슨 건배.

샘 올트먼 건배.

00:12 · PHP 주간

존 콜리슨 PHP 주간에 관해 묻고 싶어요.

샘 올트먼 네.

존 콜리슨 우선, 어떻게… 왜 이 버그들을 찾는 데 이렇게 오래 걸렸나요? 이야기를 들어 보니—

샘 올트먼 왜 20년이나 걸렸느냐는 건가요, 아니면 왜 지난 몇 달이나 걸렸느냐는 건가요?

존 콜리슨 아니, 왜 그렇게… 맞아요. 왜 1년이나 걸렸나요? 먼저 그 버그가 뭔지 설명해 주시면 좋겠네요. 아니면 문제부터요.

샘 올트먼 문제는 이렇습니다. 이런 모델이 실제 환경의 취약점을 잘 찾아낸다는 사실은 한동안 알고 있었어요. 첫째, 그 능력이 상당히 빠르게 계속 좋아지고 있습니다. 둘째, 사람들이 아직 이 모델로 세상의 모든 것을 살펴보지는 않았어요. 인터넷에는 살펴봐야 할 영역도, 코드도 엄청나게 많습니다. 사람들이 그 일을 시작하면서, 우리가 예상하는 것보다 훨씬 심각한 취약점이 많은 세상에 살고 있다는 걸 알게 될 것 같아요. 이 문제를 오래 지켜본 사람들은 이미 아주 많을 거라고 예상하는데도요.

존 콜리슨 네. 논의가 소프트웨어를 고쳐야 한다는 쪽으로만 흘러가는 것 같아요. 물론 고쳐야죠. 하지만 아키텍처도 바꿔야 할 수 있어요. 그쪽이 더 어렵지만, 훨씬 오래가는 해결책이죠.

샘 올트먼 저도 그 일이 필요하다고 봅니다.

존 콜리슨 네.

샘 올트먼 원래라면 정말 어려워 보이겠지만, 이제 그 일을 해낼 굉장한 새 도구가 생겼잖아요. 그래서 실제로 그렇게 될 것 같습니다. 모델이 점점 더 똑똑해진다는 걸 전제로 삼는 세상에 맞춰, 새로운 인터넷이나 새로운 애플리케이션 아키텍처를 만들겠다는 차세대 스타트업이 벌써 나오고 있어요.

존 콜리슨 전 세계 소프트웨어를 업그레이드한다면 어떤 모습일까요? 예를 들어 PHP 코드베이스 자체가 나쁜 생각이라 Rust로 깔끔하게 다시 써야 하나요? 아니면 PHP를 개선하나요? 그러니까… 손으로 한 땀 한 땀 만든 소프트웨어를 전부 업그레이드해야 한다는 데는 다들 동의하죠. 실제로는 어떤 형태가 될까요? Infosys 같은 회사들에는 엄청난 기회일까요? 소프트웨어 컨설팅 프로젝트가 훨씬 많아질 테니까요.

샘 올트먼 사람들이 점점 더 이런 이야기를 합니다. “라우터란 무엇인지, 운영체제란 무엇인지, 애플리케이션이란 무엇인지부터 다시 설계하자.” 아예 완전히 새로운 스택을 만들겠다는 스타트업도 봤어요. 2년 전이었다면 미친 소리처럼 들렸겠죠. “말도 안 돼. 범위가 너무 넓어. 그걸 전부 쓸 수는 없어”라고 했을 겁니다. 이제는 머지않아 가능할지도 몰라요. 시스템과 네트워크를 만드는 방식에 완전히 새로운 모델이 생길 거라고 봅니다.

02:37 · 인터넷 초창기

존 콜리슨 또 어떤 점이 인터넷 초창기를 떠올리게 하나요?

샘 올트먼 인터넷 초창기를 가장 떠올리게 한 건… 이 도구를 쓰는 사람들이 상상하기 어려울 만큼 창의력을 마음껏 펼치는 분위기예요. 특히 아이들에게서 보입니다.

존 콜리슨 그렇죠.

샘 올트먼 제가 처음 인터넷에 연결된 컴퓨터를 가졌을 때를 기억해서 그런지도 몰라요. 어른들은 요청할 생각조차 못 하던 온갖 일을 할 수 있었죠. 여덟 살이나 열 살짜리 아이가 어른이라면 떠올리지 못할 기상천외한 아이디어로 게임 한 편을 완성하는 걸 보면요.

존 콜리슨 네.

샘 올트먼 아이들은 평생 기술이 당연히 그렇게 작동할 거라고 생각합니다. 사실 계속 더 좋아질 거라고 생각하죠. 끊임없이 “나에게 유용한 걸 만들어서 친구들에게 보여 줘야지”라고 해요.

존 콜리슨 네.

샘 올트먼 제가 어릴 때는 소프트웨어 하나 만들려면 고생을 해야 했어요.

존 콜리슨 네.

샘 올트먼 그렇게 만들어도 하는 일은 별것 없었죠. 이제는 완전한 3D 게임을 만들 수 있어요. 믿기 어려울 만큼, 생각하는 건 뭐든 10분이면 만들죠. 그 점이 인터넷 초창기를 떠올리게 해요. 이런 사람들은 거기에 결코 크게 놀라지 않을 거라는 점까지요. 세상이 원래 그렇게 돌아가리라고 늘 기대하니까요.

샘 올트먼 떠올릴 수 있는 어떤 아이디어든, 만들고 싶은 것이든, 유용할 것 같은 것이든, 삶을 더 낫게 하는 데 필요한 것이든 컴퓨터가 만들어 주는 게 당연한 거예요. OpenAI에서도 황당한 순간이 있었어요. 심각한 서비스 장애가 나서… Codex가 멈췄죠.

존 콜리슨 모두가 코딩하는 법을 잊어버렸군요.

샘 올트먼 완전히 잊은 건 아니에요. 그래도 “와, 이걸 못 쓰면 어쩌지?” 하는 느낌이었죠.

존 콜리슨 네.

샘 올트먼 학생 때 아주 나이 많은 분들을 만나던 기억이 나요. 가끔 거대한 Xerox Alto 디스크를 꺼내 보이거나, 한 줄 한 줄 손으로 쓴 어셈블리 코드를 꺼내거나, 천공 카드를 꺼내곤 했죠. 그걸 보면서… 여러분이 이렇게 해서 우리를 여기까지 올려놓았다는 게 믿기 어려웠어요.

존 콜리슨 네.

샘 올트먼 이런 방식으로요.

존 콜리슨 네, 동의해요. 프로그램을 머릿속에 담아 놓기도 했죠. 수백 줄에서 수천 줄을 써 놓고 처음 실행했는데 돌아가는 거예요. 그렇게 사라진 기술이 몇 가지 있죠.

존 콜리슨 사이버보안 이야기로 돌아가죠. 돌이켜 보면 사이버 분야 강화학습은 실수였나요? 아니면 갈 수밖에 없는 길이었나요? SNL에서 하던 말 같아요. “우리에게 그만하라고 촉구해 주시길 촉구합니다.” 모델의 사이버 역량이 굉장히 좋아지고 있잖아요. 정말 좋아지고 있어요. 그렇다고 전적으로 저절로 생겨난 능력도 아니고요.

샘 올트먼 그 SNL 장면이 그렇게 웃겼던 건 너무 사실이었기 때문이에요. 사회나 누군가의 터무니없지만 진짜인 모습을 분명히 짚어 주는 구석이 없으면 그런 유머가 먹히지 않죠. 사이버 문제도 어느 지점에서는 이렇게 됩니다. “좋아요. 모델이 사이버 분야를 정말 잘하네요. 그런데 누가 이걸 원했나요? 왜 이걸 하는 거죠?”

샘 올트먼 제가 우리 분야에 크게 실망한 점이자 비판하는 점 하나는, 사이버 모델이 사이버 분야를 잘하게 되는 일도 그 사례라고 생각하는데요. 이 기술의 잠재적 불이익을 전부 감수할 가치가 있다고 왜 생각하는지 사람들에게 잘 설명하지 못했다는 겁니다. 사람들이 우리를 보는 모습을 과장해 그리면 이래요. “알겠어요. 언젠가 모델이 암을 치료할 거라고요. 그럴지도 모르죠. 그러면 좋은 일이겠네요. 물건이 더 싸질 거라고도 하네요. 그건 벌써 좋은 점이 보이는 것 같고, 의료나 법률 조언도 받을 수 있겠죠. 그런데 당신들이 그리는 미래는 새로운 산업혁명이잖아요. 지난번 산업혁명도 그리 좋지 않았을 수 있는데, 이번 것은 더 나빠 보여요. 저는 일자리도 없고, 제 미래를 통제하거나 선택할 능력도, 자유도 없게 되겠죠.”

샘 올트먼 “게다가 AI가 너무 위험해서 모두 죽지 않으려면 엄청난 감시 국가까지 필요하다고요.” 이건 정말 끔찍한—

존 콜리슨 여기까지는 공감해요.

샘 올트먼 정말 끔찍한 판매 설명이죠.

존 콜리슨 네.

샘 올트먼 OpenAI에서 제가 가장 자랑스럽게 생각하는 일 하나는, 반복적으로 배포하고 이 도구들을 사람들 손에 쥐여 주자고 밀어붙이는 것이 AI 안전 커뮤니티에서 엄청나게 인기 없을 때도 그 원칙을 지켰다는 겁니다. 제 생각에는 이게 유일하게 괜찮은 길이에요. 사람들에게 “모델이 여러분을 위해 멋진 일을 해 줄 겁니다”라고 말하는 것만으로는 부족합니다.

샘 올트먼 이렇게 말해야 해요. “스스로 정의하는 더 나은 삶을 살고, 유용한 일을 할 수 있도록 도와드리겠습니다. 여러분은 그냥 앉아서 기본소득만 받고, 샌프란시스코 몇 제곱마일 안에 모여 앉은 사람들이 미래의 모든 결정을 내리게 되지는 않을 겁니다.”

존 콜리슨 반복적 배포라는 건 발전한 기술을 바깥에 내놓아야 하고, 정부 안에 병마개를 닫듯 가둬 놓을 수는 없다는 생각이죠—

샘 올트먼 모든 걸 내놓는다는 뜻은 아니에요. 내놓기 전에는 여전히 안전하게 만들어야 합니다. 세상에 혼란을 일으켜서는 안 되죠. 다만 배포되지 않은 역량이 쌓이는 현상은 막아야 해요. 큰 방향에서는 맞습니다. 세상에 내놓고, 사람들의 손에 쥐여 주고 싶어요. 사람들이 기술로 온갖 멋진 일을 찾아내게 하고 싶습니다.

07:33 · 사이버 방어

존 콜리슨 공격에 성공한 사례는 헤드라인을 장식하지만, 막아 낸 공격은 그렇지 않죠. 사이버 방어 쪽은 얼마나 빠르게 진전하고 있나요?

샘 올트먼 PHP 문제에서 승리했다고 선언하고 싶지는 않아요. 아직 무슨 일이 일어날지 모른다고 생각하고, 나쁜 일도 생기리라고 봅니다. 다만 열흘 전으로 돌아가 최악의 우려를 떠올려 보면, 첫날은 제가 예상했던 것보다 훨씬 잘 지나갔어요.

샘 올트먼 우리 모델로 패치를 만들고 사이버 방어를 구축한 사람들 이야기를 많이 들었습니다. 개별 회사들도 “빨리 검사하고 배포해야겠어요. 한 시간 동안 서비스를 내리고, 이 도구를 쓴 뒤 다시 올릴 겁니다. 애플리케이션이 지금 멈춰 있으니까요”라고 했어요.

샘 올트먼 이렇게 말해서 괜히 부정 탄 것 같고, 말하지 말았어야 했다는 생각도 드네요. 그래도 첫날은 예상보다 훨씬 좋았습니다. 사람들이 그 능력을 활용한 것 같아요. 사이버 전문가들이 많이 하는 말은, 위협 모델에 올바른 가정이 들어 있다는 확신이 더는 없다는 겁니다. 이렇게 말하죠. “모든 게 우리가 생각하는 대로이고, 하드웨어 취약점을 악용하는 일이 예상만큼 어렵다면, 네, 어떻게 대응할지 알겠어요.”

샘 올트먼 하지만 AI가 우리가 이해하지 못하던 물리학이 있어야 찾을 수 있는 아주 깊고 새로운 하드웨어 버그를 발견해서, 갑자기 어떤 가정이 성립하지 않게 된다면요. 그때 무슨 일이 일어날지는 사람들이 확신하지 못하는 것 같습니다.

08:54 · 샌드박싱

존 콜리슨 늘 인상적인 점이 하나 있어요. OpenAI나 비슷한 회사에서 아주 잘 아는 사람들과 이야기하면, 근본적으로 샌드박싱이 가능하다는 데 비관적이더군요. 제가 처음 생각했던 그림과는 달라요. 아주 빈틈없는 샌드박스를 만들어야 하고, 지금 모델의 역량에 비해 과거에 충분히 단단하게 만들지 않았다고 생각했을 겁니다. 그래도 결국 모델을 가둬 일하게 할 최고 보안 교도소는 만들 수 있다고 봤겠죠. 여러분은 모델을 샌드박스에 가두는 일이 가능하다는 데 비관적인 것 같아요.

샘 올트먼 제 직감으로는… 우선 지금보다 훨씬 잘할 수 있다고 생각해요. 그래야 하고요. 더 나은 보안 모델이 지금 집중해야 할 가장 중요한 일입니다. 이론적으로 가장 똑똑한 보안 연구자보다 백만 배 똑똑한 AI를 상상해 보세요. 그 샌드박스를 정말 믿을 수 있겠어요? 특히 모델이 사람들이 아직 이해하지 못하는 새로운 과학을 발견할 수 있다면요—

존 콜리슨 모델로 샌드박스를 만들 수도 있죠.

샘 올트먼 그럴 수는 있다고 봅니다… 이건 좀… 잠깐 뒤에 다시 이야기하죠. 샌드박싱은 어느 지점까지는 통한다고 생각해요. 감시는 그보다 더 먼 지점까지 통한다고 봅니다. 모델이 하는 일을 사고 과정만이 아니라 활성값 감시로도 살펴보면서, 모델이 우리를 속이지 않는다는 데 안심할 수 있는지 실제로 이해하려는 거죠. 그러다가 결국에는 모델이 진정으로 정렬되어 있다는 사실을 엄청난 확신으로 믿어야 한다고 생각합니다. 모델을 운영하는 사람들의 실제… 의도를 소중히 여기고 충실히 따르려 한다는 것, 사람이 영원히 미래의 통제권을 갖는 걸 소중히 여긴다는 것을요. 정렬을 완전히 믿을 수 있는 모델, 정렬되어 있다는 사실을 절대적으로 확신할 수 있는 모델이 있다면, 네, 그 모델의 도움으로 더 나은 샌드박스를 계속 만들 수 있다고 생각합니다. 하지만 “우리보다 백만 배 똑똑한 존재가 있다는 건 무슨 뜻일까?”라는 데까지 정말로 상상을 밀어붙이면… 모르겠어요. 그냥… 이상해지는 것 같습니다.

존 콜리슨 정렬이 어려워지기 때문인가요?

샘 올트먼 샌드박스가 역량보다 계속 앞서 있다고 믿으려면, 정렬을 정말, 정말 믿어야 하기 때문이에요.

존 콜리슨 모델들에게 서로 경쟁하는 유인을 주고, 다른 모델을 배신하도록 유인을 줄 수는 없나요?

샘 올트먼 유망한 방향이라고 생각해요. 제 생각에는 이 아이디어가… 저는 ‘에이전트 군집’이라는 말이 싫어요. ‘에이전트 팀’이라고 부르죠.

존 콜리슨 그래도 그 말이 대세가 되는 것 같아요.

샘 올트먼 에이전트 팀에는 아주 흥미로운 스케일링 법칙 특성이 있을 것 같아요. 정렬 특성에도 편차가 있을 수 있고요. 역량뿐 아니라 안전의 관점에서도 더 밀어붙여야 할 방향이라고 생각합니다.

존 콜리슨 에이전트 ‘군집’이 아니라 ‘팀’이라고 말씀하시는데—

샘 올트먼 군집이라는 말은 너무—

존 콜리슨 알아요. 메뚜기 떼잖아요. 네, 안 좋아요. 좋은 브랜딩은 아니죠. AI 업계의 여러 역사적 전통을 따르는 셈이네요.

샘 올트먼 우리는 이런 걸 참 잘해요.

존 콜리슨 브랜딩 얘기는 다시 하죠. 그런데 군집을 활용하는 방식에서는 선도적인 AI 사용자와 보통 기업의 활용 사이에 큰 격차가 보여요. 고급 수학은 모두 에이전트 팀을 쓰고… 죄송해요, ‘팀’이죠. 고급 수학도, 고급 해킹도 전부 에이전트 팀을 씁니다. 그런데 평범한 기업 업무는 큰 군집을 쓰지 않아요. 왜 아직 그렇게 되지 않았을까요? 몇 달째 이런 기술이 있었잖아요.

샘 올트먼 같은 수준으로 있었던 건 아닙니다. 이 문제나 질문을 보는 한 가지 방법은 “하나의 문제에 얼마나 많은 연산을 쏟아부어 생산적으로 쓸 수 있나?”예요. 불과 몇 년 전에는, 모든 게 얼마나 빠르게 변했는지 잊곤 하지만, 몇 년 전만 해도 한 문제에 1달러가 넘는 연산을 넣어서 도움이 되게 하는 건 불가능했어요.

존 콜리슨 왜죠?

샘 올트먼 GPT-4에게 10만 토큰쯤 열심히 뽑게 할 수는 있었겠죠. 그러면 질문에 답했을 겁니다. 하지만 생산적으로, 예를 들어 소프트웨어 한 편을 써 주지는 못했을 거예요. 우리는 그냥… 많은 추론 시 연산을 써서 더 나은 결과를 얻는 방법을 알아내지 못했어요.

존 콜리슨 그렇군요.

샘 올트먼 그러다 사고의 사슬을 알아냈고, 모델이 문제를 깊이 생각할 수 있게 됐죠. 이제는… 사람들이 정말 많은 연산을 쓰기 시작했습니다. 이제는 문제 하나에 팀 전체를 투입할 수 있고, 그걸 1만 번 병렬로 할 수도 있어요.

존 콜리슨 군집으로 가려면 사고의 사슬과 추론 시 연산이 먼저 필요하군요. GPT-3 여러 개만 모아서는 유용한 군집을 만들 수 없으니까요.

샘 올트먼 네.

샘 올트먼 그래서 나타나는 효과가 있는데, 세상이 이걸 제대로 따라가거나… 주목하지 않는 것 같습니다. 한 문제에 쏟아부어 더 나은 결과를 얻을 수 있는 연산량이 믿기 어려운 지수적 속도로 늘어난다는 게 하나예요. 대부분의 사람이 AI로 하는 일과, AI를 가장 생산적으로 쓰는 사람들이 하는 일 사이의 격차도 계속해서, 계속해서 벌어지고 있습니다.

15:47 · 수학

존 콜리슨 지금은 연산 예산을 어떻게 배분하나요? 연구자 급여가 높아도 연산 비용에 비하면 작을 테니까요. OpenAI에서 자본 배분은 일종의 연산 배분인 셈이죠. 무엇을 하는 데 얼마가 들지 미리 알기도 어렵고요.

샘 올트먼 네.

존 콜리슨 그걸 통제하기도 어렵죠… 에이전트에게 “이 일을 아주 잘해 줘. 1만 달러는 넘게 쓰지 말고”라고 프롬프트를 주기도 쉽지 않잖아요.

샘 올트먼 할 수 있어요.

존 콜리슨 아, 그래요? 그렇게 해도 잘하나요?

샘 올트먼 네. 1만 달러어치 연산으로 할 수 있는 최선을 다하라고 말하면, 네, 그걸 이해합니다.

존 콜리슨 그렇군요.

샘 올트먼 사회에는 또 다른 어려운 질문도 있어요. 두 회사가 경쟁하는데, 같은 문제에 한 회사는 1만 달러를 써도 된다고 하고 다른 회사는 10만 달러를 써도 된다고 하면 어떤 뜻일까요? 무슨 일이 벌어질지는 분명하죠. 사회가 연산의 배분과 부 같은 것을 어떻게 볼지라는 질문이 있습니다. OpenAI 안에서도 우리 나름의 같은 문제가 있어요. 내부 생산성에 많은 연산을 배정합니다. 심하게 남용하지만 않으면 사람들이 스스로 결정할 수 있는 재량을 아주 넓게 줍니다.

존 콜리슨 유용한 일을 하라고 격려하고, 그 과정에서 연산에 1천만 달러를 쓰면 “오, 흥미롭네” 하는 건가요?

샘 올트먼 맞아요. 연산을 많이 썼다는 이유로는 절대 보상하지 않으려 합니다. 토큰 순위표 같은 건 없어요. 토큰 사용 순위가 높으면 오히려 조금 안 좋습니다. 특히 승진 때는요. 기본적으로는 의심하는 쪽에서 시작하지만, 중요한 일을 하고 있다는 걸 보여 주면 감사만 받을 겁니다.

존 콜리슨 그래도 어느 시점에는 바뀌어야 하겠죠. 말씀하시는 건 자릿수가 계속 커진다는 거니까요. 지금은 연구자가 1천만 달러를 들여 아주 흥미로운 수학을 하면 “조금 비싸지만, 멋진 수학이네”라고 하죠. 다음에는 1억 달러예요. 10억 달러짜리 수학을 하기 시작하면 “수학에서 그렇게 진전하는 건 정말 기쁜데, 수학은 좀 진정했으면 좋겠어”라고 하게 되겠죠.

샘 올트먼 수학에서는 한 주 동안 통제를 벗어나게 놔두긴 했어요. 일부러 그랬죠. 해 봐야 하니까—

존 콜리슨 그리고 통했잖아요!

샘 올트먼 해 보기 전에는 어디까지 갈지… 어디까지 갈지 알 수 없으니까요.

존 콜리슨 네.

샘 올트먼 갖춰야 할 게 있다고 생각해요… 새로운 패러다임이 나타나면 사람들이 꽤 제약 없이 일하게 하는 게 중요합니다. Navier–Stokes 증명을 했을 때는 에이전트 팀의 스케일링 법칙을 전혀 이해하지 못했어요. 그러니까 어떻게 해야 하는지—

존 콜리슨 아주 최근의 Navier–Stokes 증명 말씀이죠?

샘 올트먼 네.

샘 올트먼 가장 똑똑한 모델을 줘야 할까요? 복사본을 많이 줘야 할까요, 적게 줘야 할까요? 실행 경로는 길어야 할까요, 짧아야 할까요? 전혀 이해하지 못했어요. 지금은 조금 이해합니다. 아직 훨씬 더 잘 이해할 수 있다고 생각해요. 하지만 우리가 발견한 다른 모든 새 패러다임에서 그랬듯이, 달러든 컴퓨터 FLOP이든 어떤 단위로 재든, 그걸 유용한 일에 배분하는 방법을 해마다 10배씩 개선할 수 있을 거라고 확신합니다.

샘 올트먼 이건 우리 회사가 특히 잘하는 일이기도 하지만, 이 분야의 중요한 특성과도 맞습니다. 가능한 것의 한계에서 사람들이 탐색하게 하고, 그다음에는 엄청난 최적화 압력이 효율적으로 하는 방법을 찾아낼 거라고 믿는 거죠. 큰 방향에서는 사람들이 터무니없이 많은 연산을 쓰게 하고, 사용자에게 극단적으로 고급인 요금제를 제공해서 가능한 것의 끝을 알아보는 쪽에 더 적극적이고 싶어요. 그다음에 어떻게 효율화해서 대규모로 제공할지 알아내고요.

존 콜리슨 그럼 최적화 함수는 언제 들어오나요?

샘 올트먼 이미 하고 있다고 생각해요. Navier–Stokes를 해낸 시점에서 1년 뒤라면 비용을 100분의 1만 쓰고 다시 해낼 수 있을 거라고 봅니다. 우리가 했던 때가—

존 콜리슨 증명이 어떻게 되는지 이미 알아서가 아니라, 더 나은 접근법만으로요?

샘 올트먼 네. 더 똑똑한 모델과 더 나은 접근법으로요.

존 콜리슨 그 수학에는 비용이 얼마나 들었나요?

샘 올트먼 대략 1천만 달러씩… Navier–Stokes에는 그 정도였던 것 같아요.

존 콜리슨 그렇군요.

샘 올트먼 조금 더 들었을 수도 있어요.

존 콜리슨 1천만 달러 안팎. 그 정도 규모군요. 네, 네. 증명 하나에요. 그러면—

샘 올트먼 아니, 아니에요. 그 뒤에는 너무 빠르게 나아졌거든요. 더 많이 이해하게 됐어요.

존 콜리슨 알겠어요.

샘 올트먼 그 증명들 하나당 평균으로는 그보다 훨씬 적게 썼습니다.

존 콜리슨 그래도 수학에 수억 달러를 쓴 거군요.

샘 올트먼 네. 네, 네. 그런 종류의 작업에요.

존 콜리슨 그렇군요. 흥미롭네요.

샘 올트먼 하지만 그 안에는 우리가 발표한 것 말고도 훨씬 많은 발견이 포함됩니다.

존 콜리슨 네.

샘 올트먼 그러니까 “그만큼 썼을지는 몰라도—”라는 거죠.

존 콜리슨 700개 증명보다 더 많이 갖고 있나요?

샘 올트먼 있죠. 물론이에요.

존 콜리슨 그건 언제 얻었나요?

샘 올트먼 우리는 어떻게 해야 할지 배우려 하고 있어요… 실제로 긴장이 존재합니다. 한편으로는 아주 분명하고, 저는 이 점에 전혀 망설임이 없어요. 인류는 근본적인 지식을 누릴 자격이 있습니다. 우리가 중요한 기초과학 발견을 움켜쥐고 있어서는 안 돼요. 세상은 그 지식을 누릴 자격이 있고, 알 수 있어야 하죠. 그게 또 다른 아주 중요한 가치를 앞선다고 생각합니다. 과학자라면 과학을 발견하는 일이 경력의 바탕이고, 삶의 즐거움과 보람에서도 상당한 몫을 차지한다는 가치요.

존 콜리슨 네.

샘 올트먼 그러니 수학에서 계속 이 일을 하거나 다른 분야에서도 시작한다면, 세상이 지식의 혜택을 누리면서 그 분야에서 일하는 사람들도 가능한 한 가장 좋은 미래를 얻을 수 있는 해법의 범위를 찾아야 한다고 생각해요. 그분들에게 그 정도 이상은 빚지고 있습니다. 지금 그 문제를 풀어 가는 중이에요.

존 콜리슨 저는… 모르겠어요. 너무 미안해하시는 것 같아요. 저는 그 순간이 AI에 특별히 나쁜 일이었다고 보지 않았어요. 다들 수학자 조합이 들고일어나는 모습을 봤죠. 나머지 사람들은 “2026년에 무슨 일이 일어나는지 보기는 한 건가요?”라고 생각한 것 같아요.

샘 올트먼 말씀드렸듯 AI에 나빴다고 생각하지는 않아요. 전체적으로 세상은 우주가 어떻게 작동하는지 알 자격이 있다고 생각합니다. 하지만 그 과정에 대해서는 공감하는 마음이 있어요. 이 일을 해야 한다고 생각합니다. 그래야 해요. 물리학 전체의 이론이나 여러 질병을 치료하는 법을 알아낼 수 있다면, 분명 세상이 가져야 할 지식이죠. 그래도 수백 년 동안 그 분야를 발전시킨 공동체를 가능한 한 세심하게 배려하면서 해낼 방법을 찾고 싶습니다. 그냥… 어려운 일이에요.

존 콜리슨 저는 수학에 관해서는 별로 걱정하지 않았어요. 훌륭한 일이라고 생각했죠.

샘 올트먼 그래도 수학자들이 그리 기뻐하지 않았다는 데는 동의하시죠?

존 콜리슨 네. 그래도 괜찮아요. 항만 노동자 조합도 항만 자동화를 반기지 않았잖아요. 그 사람 기억하세요?

샘 올트먼 아니, 아니, 아니, 아니, 아니요. 기억해요. 그런데 왜 이건 다르게 느껴질까요? 어느 주말에 새 모델을 받았어요. 그리고… 사실 이 이야기는 하면 안 될지도 모르지만, 술도 마시고 있으니까 하죠—

존 콜리슨 그렇죠. 벌써 반 파인트나 마셨으니까요.

샘 올트먼 맥주를요.

존 콜리슨 네. 이럴 때가 딱이죠—

샘 올트먼 그 채널 이름이 “모델 이름-Hold My Beer”였어요. 사람들은 자기가 던질 수 있는 가장 어려운 문제를 모델에게 마구 던지고 있었습니다. 모델이 그런 일을 해낼 거라고는 생각하지 않았어요. 그런데 사람들이 학계에서 경력을 쌓으며 붙잡았던 가장 어려운 연구 문제들을 모델이 하나씩 하나씩 해결하는 경험을 함께 했죠. 여러 다른 분야에서요. 지켜보는 게 믿기 어려웠습니다. 너무 신나서 잠자리에 들 수가 없어 이틀 연속 밤 대부분을 깨어 있었어요. 그때… 우리가 발표한 많은 문제들, 그리고 다른 많은 것들이 나왔죠. 저는 엄청나게 흥분했고 기뻤습니다. 하지만 예상했던 것보다 훨씬 큰 슬픔과 쓸쓸함, 무언가가 끝나고 있다는 느낌도 있었어요. 그러니 다시 말하지만 동의해요. 세상을 위해서 옳은 일입니다. 이게 현실의 모습이고, 누구도 막을 수 없고 막아서도 안 된다는 데도 동의해요. 하지만 제게는 실제로—

존 콜리슨 아련함과 향수 같은 걸 느낄 수 있다고 생각해요.

샘 올트먼 향수 이상이에요.

존 콜리슨 아련함이요.

샘 올트먼 네.

존 콜리슨 아버지가 1950년대 아일랜드에서 자라면서 주변 사람들이 여전히 산업 현장에서 말을 생산적으로 사용하는 모습을 봤다고 말씀하세요. 그리고—

샘 올트먼 1950년대에요?

존 콜리슨 네. 물론 트랙터도 있었고, 말은 점차 사라지고 있었죠. 그래도 분명 쓰고는 있었어요. 사람이 수천 년 동안 써 온 기술의 맨 마지막 끝자락을 보고 계셨던 거예요. 네, 한 시대가 막을 내리는 모습을 보면 늘 그런 아련함이 생기는 것 같아요. 그래도 괜찮죠.

샘 올트먼 사람들의 삶이에요. 그들에게 큰 기쁨을 주었던 일이죠. 그리고 대부분… 분명 대부분의 수학자는 밀레니엄상 문제를 풀지 못합니다. 그래도 어쩌면 풀 수도 있다는 생각, 아직 우리가 이해하지 못하는 무언가가 세상에 있고, 큰 노력을 기울이고… 삶의 다른 것들을 제쳐 두고 헌신하면 “아직 풀고 이해할 수 있다”는 생각이요. 거기에는 아름다운 무언가가 있습니다.

23:12 · 에이전트 군집

존 콜리슨 안전의 관점에서는 또 무엇에 기대를 걸고 있나요?

샘 올트먼 조금 전에 잠깐 이야기했지만 다시 강조하고 싶어요. 지금 통하는 용어가 그거 같으니 그냥 군집이라고 부를게요. 군집의 특성이 사회의 회복력이나 견고함의 여러 특성과 잘 맞는다고 생각합니다. 한 번의 실행 경로, 하나의 두뇌로만 보는 세계관에서 빠져 있던 것들이죠. 사회에는 깊은 결함이 많지만, 믿기 어려울 만큼 견고합니다. 많은 사람이 서로를 견제하고 협력하지 않으면, 다원주의와 민주주의라는 가치가 없으면 이런 일은 일어나지 않아요. AI에서는 그런 방향에서 멀어질 것 같아 좀 슬펐는데, 이제는 이 방향에 기대가 생겼습니다.

존 콜리슨 기본적으로 중앙집중화 쪽으로 가서는 안 된다는 말씀이군요. 에이전트가 많고, 서로 밀고 당기며 동적 균형을 이룰 테니까요. 공격과 방어가 좋은 사례겠네요.

샘 올트먼 직감적으로는 IQ가 1조인 AI 하나가 사회에 들어오는 것보다, 사람보다 조금 똑똑한 AI 1조 개가 사회에 들어오는 쪽이 훨씬 낫겠습니다.

존 콜리슨 네. 여러 AI가 있는 방향으로 가고 있다고 보시나요?

샘 올트먼 이런 건 전부 우리가 힘써 추진해야 할 일들입니다. 전부… 우리에게는 믿기 어려운 기술이 있고, 여러 방향으로 겨누고 배치할 수 있어요. 이걸 어떻게 써야 하는지, 어떤 세상이 가장 좋은 세상인지에 대해 다른 생각을 가진 사람도 많다고 생각합니다. 하지만 저는 이 방향이 옳다고 봅니다.

24:48 · Stripe Atlas

존 콜리슨 창업 이야기를 해 보죠. 코딩 모델 덕분에 주말 부업이 금세 본격적인 사업이 될 수 있습니다. Stripe에서는 그 과정을 최대한 간단하게 만들려고 바쁘게 일해 왔습니다. Stripe Atlas는 법인 설립, 세금 식별번호, 창업자 지분, 보통 정장 입은 누군가가 필요했던 여러 절차처럼 사업을 시작하는 데 필요한 모든 것을 도와줍니다. 창업을 준비하고 있다면 stripe.com/atlas를 살펴보세요.

25:17 · 연산 자원

존 콜리슨 연산 자원 부족은 좀 어떤가요?

샘 올트먼 이런저런 면에서… 곡선을 따라가는 여러 시점에 상황이 어느 정도 통제를 벗어날 것 같습니다.

존 콜리슨 네.

샘 올트먼 이렇게 중요한 새 기술이라면 으레 그렇듯, 그런 순간이 있을 겁니다. 비이성적으로 들뜨는 때도, 붕괴하는 때도 있겠죠. 부족도, 과잉도, 상승도, 하락도 있을 겁니다. 하지만 추세는… 우리는 언제나 더 많은 연산을 원한다는 쪽이라고 생각해요.

샘 올트먼 충분히 유능한 모델을 충분히 싼 가격에 쓰려는 수요의 추세는 한 방향으로만 간다고 봅니다. 거기에 대비하려고 여러 일을 하고 있어요. 지능 단위당 성능, 와트당 지능 단위 성능이 굉장한 칩을 만들었습니다. 직접 데이터센터를 짓는 법도 배우고 있어요. 데이터센터를 많이 만드는 데 투입할 로봇 프로그램도 있습니다. 사람들이 많이 이야기하는 건—

존 콜리슨 진짜 재귀적 자기개선이군요.

샘 올트먼 네. 사람들은 AI가 AI 연구를 하는 재귀적 자기개선을 많이 말하죠. 스스로 복제하는 데이터센터에 관한 이야기는 상대적으로 아주 적어요. AI로 로봇을 제어하고, 반도체 공장을 운영하고, 터빈이나 태양광 패널을 만들고, 데이터센터를 짓는다는 생각이죠. 하지만 우리는… 이제 손이 닿는 범위에 들어왔다고 생각해요.

존 콜리슨 하지만—

샘 올트먼 그래서 아주 싼 연산을 많이 만들어 보려고 합니다.

존 콜리슨 데이터센터는 이미 노동력이 병목인 게 아니지 않나요? 인허가와 부품이 병목이잖아요.

샘 올트먼 로봇으로 부품을 더 만들 수 있죠. 그리고—

존 콜리슨 언젠가는요.

샘 올트먼 네, 네, 네. 이건 전부 오랜 시간에 걸쳐 해결해 나갈 방법이에요.

존 콜리슨 연산 자원 문제를 보면서 드는 생각은, “높은 가격의 해법은 높은 가격”이라는 말이에요. 좋아요. 1단계로 메모리와 GPU, 모든 것의 가격이 높아졌죠. 그럼 해법이 금방이라도 나와야 하잖아요. 해법 쪽은 얼마나 잘되고 있나요?

샘 올트먼 안 좋아요.

존 콜리슨 이게 OpenAI의 일이라는 뜻은 아니에요. 보이지 않는 손이 할 일 같거든요. 메모리가 정말 비싸졌잖아요. 그러니 새 메모리 제조사들이 언제라도 시장에 쏟아져 들어와야 하는 거죠.

샘 올트먼 지금은 보이지 않는 손이 제 역할을 못 하고 있다고 생각해요. 보이지 않는 손의 성적표는 좋게 봐줘도 들쭉날쭉했죠. 그런데 여기서는 제대로 작동하지 않는 것 같아요.

존 콜리슨 왜 그럴까요? 그냥 이력 현상 때문인가요, 아니면?

샘 올트먼 분야마다 구체적인 사정이 중요하다고 생각해요. 그런데… 메모리 업체 이야기로 시작하셨으니 말하자면, 아주 오랫동안 DRAM 생산업체는 190억 달러를 벌려고 설비에 200억 달러를 투자했어요. 호황과 불황을 거듭했고요. 어떤 해에는 210억 달러를 벌고, 어떤 해에는 180억 달러를 벌었겠죠. 하지만 바로 지금까지는 메모리 생산이 장기적으로 아주 좋은 사업이었던 적은 없었던 것 같아요. 그러다가 갑자기 이 업체들이 각각 1년에 잉여현금흐름을 1,000억 달러쯤 벌게 된 거예요. 엄청나죠. 하지만 모두 과거를 기억한다고 생각해요. 공장을 너무 많이 지어서 파산 직전까지 갔던 게 몇 번인데요. 그때마다 이번에는 다르다는 말을 들었고요.

존 콜리슨 그래서 설비투자를 보수적으로 하게 되는 거군요.

샘 올트먼 분명히 그렇죠.

존 콜리슨 공급망의 모든 부분에서 이런 일이 일어나는 게 당연할 것 같거든요. 새로운 스타트업도 등장하겠지만, 어쩌면 더 중요한 건 관련 경험이 있는 사람들이 뛰어드는 거죠… 그러니까 Intel은 칩을 만들잖아요. 아마 만들 수 있을… 늘 그랬듯이 메모리 사업에 다시 들어갈 수도 있겠죠.

샘 올트먼 늘 그랬듯이요.

존 콜리슨 다시 돌아가는 거죠.

샘 올트먼 공급망에는 이런 식으로 직관과 전혀 다른 부분이 아주 많다고 생각해요. 예를 들면 사람들이… 많은 사람이 로컬 추론을 원하죠. 그리고 어쩐지 이제 문제가 해결됐다고 생각해요. 오픈소스 모델이 생길 테고, 자기 컴퓨터에서 돌릴 수 있을 테니까요. 그러면 데이터센터의 온갖 설비는 필요 없을 거라고요. 하지만 전 세계 자원을 배분하는 관점에서 보면, 한정된 세계 DRAM 공급량의 상당 부분을 모든 사람이 각자 컴퓨터에 넣어두는 건 사실 꽤 나쁜 일이에요. 그리고 그걸 쓰는 시간이—

존 콜리슨 그렇죠.

샘 올트먼 전체 시간의 5%인 거예요. 공급이 이렇게 심하게 제한된 상황에 대응하려면 클라우드에서 가동률을 최대한 높이고 싶겠죠. 그런데 어쩐지 다들… 많은 사람의 직관은 그 반대예요.

존 콜리슨 또 어디에서 시장이 높은 가격에 반응하는 걸 볼 수 있나요? 메모리뿐 아니라 공급망 전반에서요.

샘 올트먼 터빈. 배터리. 콘크리트요.

존 콜리슨 잠깐만요, 시장이—

샘 올트먼 철강도요—

존 콜리슨 거기서는 높은 가격으로 반응하고 있죠. 제가 묻는 건… 높은 가격이 혁신을 끌어내는 식의 흥미로운 시장 반응이 보이냐는 거예요.

샘 올트먼 부품이요. 로봇에 들어가는 일부 부품이요. 가짜 시연을 하는 휴머노이드가 아니라, 물건을 더 빨리 만들 수 있는 산업용 로봇 말이에요.

존 콜리슨 그렇군요. 새로운 액추에이터 제조업체 같은 곳이 생기는 거네요.

샘 올트먼 네, 솔직히… 어쩌면 이렇게 말할 수도 있겠네요. “OpenAI가 우리 칩을 판매한다면.” 그것도 한 사례가 될 수 있겠죠.

존 콜리슨 좋아요. 네. 그 칩 이야기를 하고 싶어요. 저도 그걸 사례로 들려고 했거든요. 높은 가격과 부족하고 제한된 수요… 아, 제한된 공급이죠. 실례했어요. 그 해결책은 자기 칩을 만드는 거라고 생각해요. 칩을 만드는 데도 AI를 많이 쓰고 계시겠죠. 저는 그게 어려울 거라고 생각했을 것 같아요. 칩 설계는 공개된 토큰을 얼마나 얻을 수 있느냐에 제약받는 분야 중 하나라고 생각했을 테니까요. 최첨단 2나노미터 칩을 만드는 방법에 관한 블로그 글이 공개 인터넷에 그렇게 많지는 않잖아요.

샘 올트먼 글쎄요. 노광 공정을 어떻게 하느냐는 점에서는 지구상에서 그 방법을 아는 회사가 하나인 것 같아요. 칩을 어떻게 설계하느냐, 그러니까 최종적으로 테이프아웃을 위해 보낼 파일을 만드는 방법은 잘 알려져 있어요. AI가 풀기에 아주 좋은 문제죠. 세계의 실리콘 생산능력이 제한될 테니, 우리 모두에게 공통의 이해관계가 있어요. OpenAI에 대해 제가 자랑스럽게 여기는 것 중 하나는… 당연한 이야기처럼 들릴 수도 있어요. 하지만 당시에는 그렇게 당연하지 않았어요. 우리에게는 이런 문화가 있어요. 사람들이 어떤 일을 오랫동안 예전 방식으로 해왔더라도, AI를 써서 더 잘해보는 데 아주 적극적이라는 거예요.

존 콜리슨 다른 사례로는 뭐가 있나요?

샘 올트먼 AI 연구요. 소프트웨어 엔지니어링도요. 조달에서도 점점 더 그렇고요. 대부분의 사람이 AI를 쓰는 영역과는 한참 거리가 있다고 여기는 일들에서도요.

존 콜리슨 AI를 이용한 AI 연구는 실제로 어떻게 돌아가나요? 수학 증명에서 하듯이 말하는 건가요? 아니면 PHP 취약점을 찾을 때처럼, “AI를 발전시킬 방법을 찾아주세요”라고 하는 건가요?

샘 올트먼 그러니까, 진짜로 어떤 식으로 돌아가게 될지는 아직 모르는 것 같아요. 지금은 “연산 효율을 5% 높일 방법을 찾아줘”라고 하는 방법은 알고 있어요.

존 콜리슨 그래도 그렇게 높은 수준에서 지시하는 거군요. 이제 저도 엄청나게 성공한 AI 연구자가 될 수 있겠는데요.

샘 올트먼 엄청날지는 모르겠네요. 하지만 네, 새 직장을 찾고 계신다면 오셔서 해도 돼요. 아직 아무도 방법을 모르는 건 이런 지시라고 생각해요. “Transformer만큼 한 번에 큰 도약을 가져올 새로운 구조를 발견해줘.” 앞으로는 그쪽으로 갈 거라고 생각해요.

존 콜리슨 거기에는 무엇이 부족한가요?

샘 올트먼 더 똑똑한 모델이요… 이 방면에서 더 똑똑한 모델이요.

존 콜리슨 높은 수준의 계획과 개념적 추론이군요.

샘 올트먼 모델이 수학을 이렇게 잘하게 만드는 데 적용했던 것과 같은 파이프라인을 AI 연구에 적용하면 아마 통할 거라고 생각해요. 다만 아까 대화에서 말한 것처럼, 적어도 한동안은… 어쩌면 꽤 오랫동안은 개별 모델을 얼마나 똑똑하게 만들지에 관해 어느 정도 제한에 합의해야 할 것 같아요. 하지만 그때 발전이 더뎌진다면 그 결정 때문일 거예요. AI가 좋은 연구를 할 능력이 없어서가 아니라요.

존 콜리슨 구체적으로, 제가 더 나은 AI를 개발하는 데 AI를 쓴다면요… 이제 GPT-7이 정말 좋을 거라고 기대해야 하잖아요. GPT-6와 그중 아직 공개하지 않은 버전을 써서 개발하실 테니까요. 그래서 제 기대가 아주 높아요. 그런데 제가 배낭을 메고 출근한다고 해보죠. 샌프란시스코의 OpenAI 사무실에 들어가서 책상 앞에 앉아요. 그러면 “이 모델에서 더 많은 지능을 찾아줘”라고 하나요? 실제 연구 방향을 제시하나요? 어느 정도까지 방향을 잡아주나요? 반복하는 과정은 어떤 모습인가요? 그러니까 RSI는 대체… RSI를 맨 앞자리에서 보고 계시잖아요. 어떤 모습인지 궁금해요.

샘 올트먼 OpenAI에서 사람들이 많이 이야기하는 흥미로운 것 중 하나가… 아주 당연한 얘기로 들리죠. “그러면… RSI를 만들어달라고 하면 되잖아”라고 답할 수 있을 것처럼 들리지만요. 바로 “GPT-7에 어떤 질문을 해야 하는가?”예요. 그냥 “RSI를 만들어줘”라고 하는 것으로는 아마 부족할 거예요. “연산 효율 5% 개선을 사다 줘”라고 하는 것만으로도 아마 부족하고요.

샘 올트먼 지금 벌어지는 논쟁 중 가장 흥미로운 것 중 하나라고 생각해요. 답은 어떤 질문을 하느냐에만 있지 않아요. 에이전트 군집 같은 것에도 있죠. 모델에서 얻어낼 수 있는 것을 정말 극대화하려면 어떻게 써야 할까요? 앞으로 석 달 동안 그 부분을 많이 배우게 될 거라고 생각해요.

존 콜리슨 그렇군요. 그런데 말씀을 들으면, AI를 활용해 AI를 개발하는 OpenAI의 표준 방식이 정식으로 정리돼 있지는 않은 것 같네요. 아직 직접 여러 실험을 하는 단계라는—

샘 올트먼 여러 실험을 하는 단계예요.

존 콜리슨 네. 토큰 예산 이야기를 하다 보니, 이게 기업 전반의 AI 사용에서 풀리지 않은 큰 질문 중 하나라는 생각이 들어요. 어떻게… 우리는 엔지니어 개개인에게 엄격한 예산을 두지 않잖아요. 어느 선에서 사용을 끊지도 않고요. “미안해요, 오락실 토큰을 다 썼네요” 같은 식으로요. 그래야 할지도 모르겠지만, 지금은 안 그러죠. 다시 말해 우리 모두 AI가 규모를 키워갈 거라고 믿는다고 생각해요. 그런데 그걸 진지하게 받아들이면 1인당 연산 비용이나 AI 지출은 늘어난다는 뜻이잖아요. 그러니 조직 안에서 개인에게 얼마만큼의 지출 권한을 줄지 실제로 결정해야 하는 질문에 아주 머지않아 부딪힐 것 같아요.

샘 올트먼 예전에 많은 회사가 Google Calendar에 회의마다 대략 얼마가 드는지 보여주는 기능을 붙여뒀던 때가 있었어요.

존 콜리슨 음.

샘 올트먼 참석해야 하는 사람 전원의 보수로 계산한 금액이요. 저는 그것조차 늘 과소평가였다고 생각해요. 이런 관찰이 있었죠… 폴 그레이엄도 언젠가 말했고, 다른 많은 사람도 했던 이야기예요. 회사에는… 매주 사무실 간식 예산에서 17달러를 아끼는 데는 엄청난 권한을 가진 사람들이 있어요. 그런데 아무 가치도 더하지 않으면서 어마어마한 돈이 드는 회의는 열 수 있죠. 그걸 멈출 수 있는 동등한 권한은 없어요. 저는 대부분의 사용이… 좋아요. 제 사업에 유리한 얘기를 하고 있고, 제 편향도 아주 크지만, 진심으로 믿어요. 회사에서 벌어지는 다른 일들과 비교하면 AI 사용이 가장 큰 지출 문제는 아니라는 거예요. 어느 정도 비효율적이더라도, 제가 집중할 곳은 거기가 아니에요.

존 콜리슨 잠깐만요. 그건 스케일링 법칙을 충분히 받아들인 답이 아닌데요. 그러니까 저는… 좋아요. 2년 뒤를 생각해보죠.

샘 올트먼 Stripe의 매출 전부, 이익 전부를 OpenAI 서비스에 쓰신 다음 이 문제를 불평하시겠다고요? 그런 대화라면 기쁘게 하죠.

존 콜리슨 그런데 그쪽으로 가고 있잖아요. 그러니까 우리는—

샘 올트먼 좋네요.

존 콜리슨 네, 네. 지금은 Stripe 운영비의 대략 1% 정도를 토큰에 쓰고 있어요. 그건 분명히—

샘 올트먼 너무 낮은 것 같은데요.

존 콜리슨 네. 그래서 바로잡으려고 하고 있어요. 5%, 10%, 20%로 올라가겠죠. 그러면 진짜 질문이 생겨요.

샘 올트먼 적정한 수치가 얼마라는 직감은 있나요? 지금 어느 정도여야 하는지요?

존 콜리슨 지금 얼마여야 하는지는 좀 까다롭겠죠. 하지만 안정된 상태에서는… 회사 종류에 따라 다르겠지만, 운영비의 수십 퍼센트가 되지 않을까요?

샘 올트먼 많은 회사에서는 답이 분명히 ‘그렇다’일 거라고 생각해요. 그리고 그 비용을 본격적으로 최적화하는 게 옳은 때도 올 거라고 생각해요. 제가 OpenAI에 대해 자랑스러워하는 또 하나는 지능 한 단위의 비용을 계속, 계속 낮추려고 노력해왔다는 거예요. 이 문제를 잘 알리고 적극적으로 밀어붙였다고 생각해요. 그래도 저는, 지금 비용에서도 문제는… AI를 너무 많이 써서 문제인 회사보다 충분히 쓰지 않아서 문제인 회사가 더 많다고 생각해요.

37:53 · 기가와트당 비용과 가치

존 콜리슨 최첨단 AI의 기가와트당 달러 금액은 올라가나요, 내려가나요?

샘 올트먼 내려가야죠.

존 콜리슨 내려간다고요?

샘 올트먼 내려가야죠.

존 콜리슨 왜요?

샘 올트먼 음.

존 콜리슨 지금까지는 올라왔잖아요?

샘 올트먼 올라갈 수 있는 이유는, AI가 1와트당 할 수 있는 일의 가치가 너무 빨리 커지고 공급이 너무 부족해서 사람들이 훨씬 더 많은 돈을 낼 의향이 있는 경우겠죠.

존 콜리슨 아. 하지만 그건 연산 공급이 따라가지 못하는 상황으로 보시겠네요.

샘 올트먼 네, 저는 연산 공급이 따라가지 못하는 상황으로 보겠죠. 모래를 지능으로 바꾸는 근본적인 비용을 보면, 그건 내려가야 해요. 에너지 비용도 내려가야 하고요. 칩 비용도 내려가야 해요. 공급망의 나머지 비용도 내려가야 하고요. 내려가지 않는다면 아주 슬플 거예요. 하지만 여기에 가치가 이렇게 큰 만큼, 그 비용이 내려가려면 공급을 훨씬 늘려야 해요.

존 콜리슨 그렇군요. 그러니까 메모리도 훨씬 더 많이 만들고, 데이터센터도 훨씬 더 많이 만들고, 모든 투입 요소를 훨씬 더 많이 생산해서 연산 공급이 넘치는 상황을 보고 싶다는 거네요. 그 결과 어떤 이유로든 컴퓨터를 원하는 사람은 누구나 가질 수 있게요.

샘 올트먼 지금 기가와트당 비용을 5년 총소유비용으로 계산하면 사람마다 숫자를 다르게 말해요. 하지만 일단 700억 달러라는 숫자를 골라보죠. 그 숫자가 만약—

존 콜리슨 그건 설치하는 비용—

샘 올트먼 그리고 5년 동안 운영하는 비용이에요.

존 콜리슨 네. 알겠어요.

샘 올트먼 그 숫자가 700억 달러 대신 200억 달러라면 훨씬 더 기뻐해야 한다고 생각해요. 그러면서도 더 똑똑한 모델로 매년 성능을 10배 높이라고 계속 요구해야 하고요.

존 콜리슨 그래도 20억 달러가 좋은 숫자라고 생각하지는 않으시겠죠. 20억 달러가 보이면 뭔가 잘못된 거잖아요. 그 정도가 된다면 의외일 테니까—

샘 올트먼 음…

존 콜리슨 아니면 20억 달러가 200억 달러보다 나은 건가요?

샘 올트먼 왜 아니겠어요? 그런 일이 일어날 것 같지는 않아요. 하지만 왜 그 숫자가 최대한 낮기를 바라지 않을 이유가 있죠?

존 콜리슨 모르겠네요. 이건 샘의 이론이잖아요. 대체로 가격을 낮추는 기술은 좋다는 관점을 갖고 계시고요.

샘 올트먼 그렇게 믿어요. 네, 어떤 의미에서는 디플레이션에 찬성해요… 가격을 낮추는 기술에 찬성하는 거죠.

존 콜리슨 그러면 어떻게 거기까지 가나요? 지금부터 그 사이에 무슨 일이—

샘 올트먼 글쎄요, 기가와트당 2달러라니. 상상이 안 되네요.

존 콜리슨 좋아요. 그러면 지금부터 기가와트당 20달러가 될 때까지 무슨 일이 일어나나요?

샘 올트먼 200억 달러요. 기가와트당 20달러면 정말 좋겠네요.

존 콜리슨 아, 네, 네. 기가와트당 200억 달러요.

샘 올트먼 200억 달러까지 내리기만 해도 에너지가 더 싸져야 하는 영역에 들어가요. 하지만 분명히 모래를 녹이는 데서부터… 아니면 모래를 녹이는 것에 해당하는 단계에서 토큰을 돌려받기까지, 그 사이에 겹겹이 쌓이는 매출총이익률은 상당 부분 줄어들어야 해요.

존 콜리슨 이익을 없애기만 해도 거기까지 갈 수 있나요? 아니면 에너지도 더 싸게 만들어야 하나요? 머릿속으로 바로 계산이 되지는 않네요.

샘 올트먼 모든 자재가 공짜이고 아무도 이익을 남기지 않는다고 가정하면, 현재 에너지 비용 범위 안에서도 거기까지 갈 수는 있을 거예요. 하지만 간신히요.

존 콜리슨 그렇군요. 개인 에이전트는 지금 AI에서 가장 흥미로운 일이에요. 그중 하나죠. AI에서 흥미로운 일이 많이 일어나고 있지만, 가장 흥미로운 일 중 하나예요. 지금 시점으로 몇 주 전에 Dots를 출시하셨잖아요. 이 분야에 제품을 내놓는 다른 사람들도 많고요. 성공하는 개인 에이전트는 어떤 특징이 있을까요?

샘 올트먼 지능, 맥락, 도구 같은 거죠. 필요한 건 몇 가지로 한정돼 있어요. 누군가… 아직 아무도 사람들이… 사람들은 이런 제품을 좋아해요. 하지만 코딩 에이전트나 ChatGPT를 두고는 “이것 없이는 내 삶을 상상할 수 없다”고 말하잖아요. 개인 에이전트는 아직 그런 건 아닌 것 같아요.

존 콜리슨 그렇죠.

샘 올트먼 누군가는… 조만간 누군가 그게 어떤 모습인지 알아낼 거라고 생각해요. 아직 제대로 작동하지 않는 이유 중 하나를 말씀하셨죠. 하지만 몇 가지 아이디어만 더 있으면 아주 대중적인 제품이 될 것 같아요.

존 콜리슨 아, 흥미롭네요. 개인 에이전트에는 아직 Macintosh 같은 순간이 오지 않았다고 보시는군요?

샘 올트먼 아직 안 왔다고 생각해요.

존 콜리슨 어떤 모습일지 감이 있나요?

샘 올트먼 지금의 Dots나 Muse, Grokbot 같은 제품과 아주 비슷한 모습일 것 같아요. 다만 그냥 작동하는 거죠. 그냥 제대로 작동할 거예요. 믿을 수 있을 거고요. 그런 일이 없을… 점점 더 복잡한 일을 맡기면, 그 일을 전부 해내는 거죠.

존 콜리슨 저는 컴퓨터 사용을 둘러싼 역학이 아주 흥미로워요. 모두가 새로운 에이전트의 미래를 두 팔 벌려 환영하는 건 아니잖아요. 그렇다고 그들이 완전히 통제할 수 있는 것도 아니에요. 에이전트가 컴퓨터를 쓰게 하면 되니까요. 이 쫓고 쫓기는 관계가 어디로 갈 거라고 보시나요?

샘 올트먼 대략적인 직감은 세계가… 양쪽에서 서로 싸우겠지만, 결국에는 이런 쪽으로 모일 것 같아요. “자기 대신 소프트웨어를 포함해 자기 컴퓨터를 사용하라고 AI에 지시할 수 있다.”

존 콜리슨 사람들은 늘 그 얘기를 하지만, 조금은 시맨틱 웹 같은 것 아닐까요? 개념으로는 아주 좋은 생각이죠.

샘 올트먼 네, 저도 그 말을 하려고 했어요. 그렇게 흑백으로 나뉘는 문제는 아닌 것 같아요. 앞으로 어떻게 전개될지 크게 확신하지는 않아요. 소비자로서는, 제가 할 수 없으면 좀 짜증이 나요—

존 콜리슨 그렇죠.

샘 올트먼 제 컴퓨터에서 하는 일을 AI가 자동화하게 할 수 없다면요. 제 에이전트가 제가 시킨 일을 하는 것처럼 느껴지길 원해요. 그런데 그러다 보면, 저는… 제가 다른 일을 하러 갈 필요가 없어지는 거죠. 네.

존 콜리슨 네. 지금 아주 흥미로운 흐름이 보여요. 모든 회사가 자기 제품에 AI를 추가하려고 아주 열심인데, 방식이 굉장히 특정해요. 탭이나 팝업 위젯 같은 데 메시지 형태의 사용자 인터페이스를 넣는 거예요. 능력이 의외로 괜찮을 때도 많고요. 그래서 이렇게 말할 수 있죠. “저기, 가장 최근에 주문한 걸 반품하고 싶어요.”

샘 올트먼 네.

존 콜리슨 그러면 실제로 가장 최근 주문을 찾아내는 걸 보고 의외로 감탄해요. 좀 어설프긴 해도 그런 일을 다 할 수 있죠. 하지만 소비자 중에 정말 이런 인터페이스를 원하는 사람은 없어요. 소비자에게는 이미 주로 쓰는 채팅 앱에 대한 강한 선호가 있거든요. 절대 바뀌지 않는 건 아니지만, 강한 선호요. 뭔가 하려고 할 때 맨 먼저 여는 앱 말이에요. 사람들이 원하는 건 거기서 “저 업체의 최근 주문을 찾아서 환불해줘” 같은 말을 하는 거예요. 그런데 제가 보니 기업들은 다른 AI 앱 안에서 자기 서비스를 이용하게 해주는 걸 아주 꺼려해요. “그러면 통제권도 잃고 우리 해자도 잃잖아”라면서요. 저는 그래도 괜찮다고 생각해요. 아마 그 회사의 방어력이 HTML을 조립하는 능력에서 나오지는 않았을 테니까요.

존 콜리슨 방어력은 브랜드에 대한 충성도와 상품 구색에서 나왔죠. 그리고 새로운 인터페이스는 ChatGPT든 Gemini든 그 안에서 에이전트와 상호작용하는 거예요. 하지만 이 부분에서는 모든 기업이 저와 의견이 다르더군요.

샘 올트먼 저는—

존 콜리슨 그런데 그분들은 사업을 아주 잘하니까, 어쩌면 그분들이 맞겠죠.

샘 올트먼 네. 그러니까 저도 이 문제에 편향이 있죠. 하지만 큰 방향에서는 아주 동의해요. 저는 반품이 가능한지도 모르고, 빨리 배송할 거라고 믿을 수 있는지도 모르는 임의의 전자상거래 업체보다 Amazon에서 사는 걸 훨씬 더 선호해요. ChatGPT에 뭔가 사달라고 했는데 Amazon과 다른 곳 중에 고를 수 있다면… 열 번 중 열 번 Amazon을 누르죠. 더 비싸도요. 저는 그만큼 강한—

존 콜리슨 그렇죠.

샘 올트먼 그리고 그건 amazon.com을 이리저리 클릭하는 경험과는 아무 상관이 없어요.

존 콜리슨 정확해요.

샘 올트먼 지금 파트너들이 이런 일이 일어나길 원하지 않는다면, 우리가 ChatGPT 안에서 파트너에게 충분히 좋은 플랫폼을 제공하지 못했다고 말할 수도 있겠죠. 하지만… 다시 말하지만 제 편향이 아주 클 수도 있어요. 저는 Amazon이 아주 좋은… 상거래가 에이전트 중심으로 훨씬 더 많이 옮겨가면 Amazon은 아주 좋은 위치에 있다고 생각해요.

존 콜리슨 특히 Amazon은 물류망을 통한 방어력이 엄청나죠. 그래서 사실상 어디에서든 Amazon을 이용할 수 있고요.

샘 올트먼 저는 그걸 아주 신뢰해요.

존 콜리슨 네. 저는 이 흐름이 정말 인상적이에요. 에이전트 상거래, 사실은 뭐든 마찬가지지만, 특히 이 문제에 대한 제 새로운 생각은 이거예요. 사람이 직접 채우고 있는 웹 양식 입력칸이 있다면, 요즘에는 그건 그 사람의 시간을 쓰기에는 너무 하찮은 일이라는 거예요. 그 정보를 처음 만들어내는 게 아닐 가능성이 크니까요. 우리 모두 의료 양식을 작성해봤잖아요. 가족력 같은 걸 적는 양식이요.

샘 올트먼 네.

존 콜리슨 정말 답답해요. 아버지와 어머니의 병력 같은 걸 대체 몇 번이나 적었나요? 너무 낭비 같아요. 이런 일은 수없이 많고요. 웹 양식을 채우면서 새로운 정보를 만들어내는 일은 없잖아요.

샘 올트먼 컴퓨터 앞에서 하는 가짜 일을 다시는 하지 않아도 된다면 정말 기쁠 것 같아요.

존 콜리슨 네. 제 주장은 웹 양식이란 건 사실 전부 가짜 일이라는 거예요.

샘 올트먼 동의해요. 그런데… 저는 이름과 주소를 아주 서툴게 채워 넣어주던 플러그인을, 제가 아는 사람 중에서는 가장 일찍 쓰기 시작한 편이었어요. 그냥 “이건… 다시는 못 하겠다” 싶었거든요.

샘 올트먼 그런데 이제는 웹의 대부분을 이용하면서 그런 느낌이 들어요.

존 콜리슨 네. 지금 기업들이 HTML과 모바일 앱을 사업 방어력의 원천으로 여기면서 강하게 집착하는 현상이 정말 흥미로워요. 그런데 그게 참… 기업들이 틀렸고 방어력의 원천이 아니거나, 원천이라고 해도 일시적이니 그냥 받아들이고 넘어가야 할 것 같아요.

샘 올트먼 우리가 마지막으로 정말 목격한 비슷한 사례는 앱스토어였던 것 같아요. 구체적으로 iPhone App Store요. 모든 스타트업이, 아니 많은 스타트업이… YC 동기 기업의 대부분이 이랬던 게 기억나요. “iPhone 앱을 만들 거야. 새로운 유통 경로잖아. 굉장해. 전에는 못 하던 새로운 걸 할 수 있어.” 새로운 스타트업이 많이 생겼죠. 대기업들은 모두 하나씩 만들어야 한다고 느끼면서도 별로 원하지는 않았어요. “소비자와의 관계를 Apple에 넘기게 되잖아”라고 생각했으니까요. 그런데 모바일에는 좋은 일이었어요.

존 콜리슨 그저 새로운 인터페이스였죠.

샘 올트먼 네.

존 콜리슨 좋아요. 이제 좀 더 빠르게 질문할게요. 사람들이 benchmaxxing을 불평하잖아요. 실제로 우려할 문제인가요? OpenAI 모델은 벤치마크 점수에만 맞춰져 있나요? 아니면 실제로 릭 루빈처럼 하시나요? 이 모델은 느낌이 맞다고 판단하고 SWE-bench 점수는 신경 쓰지 않는 식으로요?

샘 올트먼 모델이 잘해야 하는 것 중 우리가 정말 신경 써야 할 건 두 가지일지도 몰라요. 하나는 과학적 발견, 그리고 사람이 할 수 없는 일을 하는 거예요. 다른 하나는 함께 일하기 즐거운 거고요. 그런데 함께 일하기 즐거운지를 재는 좋은 벤치마크는 없는 것 같아요. 사실 가장 똑똑한 과학자 같은 능력을 재는 좋은 벤치마크가 있는지도 잘 모르겠어요. 하지만 우리는 benchmaxxing을 하지 않으려고 노력해요. 저는 benchmaxxing이라는 현상이 이제 끝났다고 계속 생각하는데, 사람들은 계속하더군요.

존 콜리슨 그러면 benchmaxxing의 유혹에 빨려 들어가지 않는 데 다른 연구소보다 더 잘한다고 보시나요?

샘 올트먼 우리가 그 점에서는 더 잘한다고 믿어요.

존 콜리슨 제 느낌에는—

샘 올트먼 지금까지 늘 더 잘했다고 생각하지는 않아요. 지금은 더 잘한다고 믿어요.

존 콜리슨 업계가 ‘함께 일하기 좋은 모델’이 뭔지 아직 알아가는 중이라는 느낌이에요. 아첨하던 시대가 있었잖아요. 더 최근에는 퉁명스럽고 심술궂은 모델의 시대가 있었고요. 아첨을 피하려다가 사소한 것마다 반대하고 꼬투리를 잡으려는 거죠. 지금 모델은 사실 꽤 좋아요.

샘 올트먼 나아졌죠… 최신 모델은 오랜만에 나온, 이전보다 훨씬 나은 모델이라고 생각해요.

존 콜리슨 하지만 더 높은 봉우리로 올라갈 여지도 있을 것 같아요.

샘 올트먼 에밋 시어가 몇 년 전에 제게, 자신이 원하는 건 사려 깊게 생각하고 이의를 제기하면서도 여전히 존중하는 선임 동료라고 말했어요. 그보다 더 짧고 잘 요약한 표현은 아직 들어보지 못했어요.

존 콜리슨 그렇죠. 여러 해 함께 일해보신 입장에서, 그레그 브록먼에 대한 샘의 대통일 이론은 뭔가요?

샘 올트먼 그레그 브록먼은 가장 좋은 의미에서 유일무이한 사람이라고 생각해요.

존 콜리슨 그레그 브록먼 척도에서 독보적인 사람이죠. 그게 뭔지는 직접 함께 있어봐야 이해해요.

샘 올트먼 강렬함과 엄청난 생산성, 극도의 헌신, 임무를 성공시키는 데 대한 집중이 합쳐진 거예요. 아주 멋져요.

49:27 · 토큰 가격은 가짜다

존 콜리슨 샘은 토큰을 무언가의 지표로 쓰는 걸 사실 거의 다 싫어하잖아요. 가격이든, 아니면… AI의 표준 단위는 아니죠. 그런데 우리는 결국 그걸 쓰게 됐어요.

샘 올트먼 아시겠지만, 우리도 이야기했어요—

샘 올트먼 성과라고 말할 수도 있겠죠. 하지만 성과는 안 될 것 같아요. 쓰임새마다 성과가 너무 다르니까요. 올바른 표준 단위는 뭘까요?

샘 올트먼 우리는 자칫 아주… 잘못된 결정이 됐을 선택을 할 뻔했어요. 다음 모델은 아예 토큰으로 가격을 매기지 않겠다고 할 뻔했죠. 프롬프트를 주면 우리가 가격을 알려주는 거예요. 그리고 실행하는 거죠. 고객 입장에서는 AWS처럼요. 그냥 뭔가를 하면 우리가 청구서를 보내는 거예요. 그런데 고객 반응이 너무 나빴어요. “무엇에 돈을 내는 건지는 어떻게든 알아야 한다”고 했죠.

존 콜리슨 그렇죠.

샘 올트먼 그래서 몇 사람에게 물었어요. “똑같은 결과에 돈을 더 내더라도 일정한 토큰 수 같은 걸 기준으로 가격을 매기는 쪽이 좋겠어요?” 토큰 수를 부풀리더라도요. 그랬더니 “아, 차라리 토큰 수를 부풀리고 돈을 더 낼래요. 실제로 뭔가가 있다는 걸 아니까요”라고 하더군요. 그래서 말씀이 맞는 것 같아요. 사람들은 우리가 가격만 제시하는 걸 원하지 않아요. 장기적으로 어떻게든 손해를 보게 될 것 같다고 느끼니까요. 일을 그냥 끝내주는 게 더 싸더라도, 사람들은 CPU 시간에 돈을 내는 쪽을 더 좋아할 수 있는 것과 마찬가지죠.

존 콜리슨 나노미터가 어떻게 됐는지 아시죠… 칩의 게이트 길이요?

샘 올트먼 완전히 가짜죠.

존 콜리슨 네. 요즘 나노미터는 실제와 거의 관계가 없잖아요. 토큰에서도 비슷한 게 생길까요? “이건 지능 환산 토큰입니다”라고 말하기 시작해야 하는 식으로요. I Can’t Believe It’s Not Butter 같은 거죠.

샘 올트먼 가장 작은 구조의 크기 말인가요?

존 콜리슨 네.

샘 올트먼 저는… 그건 그냥 지어낸 거잖아요. 그러지 않기를 바라요.

샘 올트먼 그러니까 나노미터와 아무 상관없는 것에 나노미터라는 말을 쓰는 게 저는 거슬려요.

존 콜리슨 알아요. 참 우스운 일이죠. 네.

샘 올트먼 그래서…

존 콜리슨 그런 건 마음에 안 드시겠네요.

샘 올트먼 가짜 단위를 만들어내고 싶지는 않아요. 토큰도 일종의 가짜 단위죠. 어떤 의미에서는 실재하지만, 좋은 단위는 아니에요.

존 콜리슨 사업 가치의 관점에서는 가짜죠.

존 콜리슨 하지만 유일한… 좋아요. 토큰을 옹호할 수 있는 유일한 근거는, 토큰을 낭비하고 있다면 그건 꽤 빨리 고쳐야 한다는 것 아닐까요? 우리가 계속 흘려보내면 안 되는 건… 신호 대신 잡음을 계속 흘려보내는 걸 클로드 섀넌은 좋아하지 않았을 거예요. 그래서 양쪽 모두 정보이론상 가장 유용한 토큰 수의 하한이 있을 거예요. 결국에는 어느 정도 그쪽으로 돌아가겠죠.

샘 올트먼 네. 그러니까 지금은 작은 모델에서 나오는 100만 토큰당 10센트짜리 토큰을 원하는지, 큰 모델에서 나오는 토큰당 10달러짜리 토큰을 원하는지 생각해야 해요. 그리고 또… 사고 과정이 얼마나 길어질지도 생각해야 하죠. 그건 실제로 아무 가치도 더하지 않는 인지적 부담이라고 생각해요.

존 콜리슨 사고 과정도 포함되나요? 가격에—

샘 올트먼 우리가 청구하는 금액에요? 대부분 그렇게 해요.

존 콜리슨 알겠어요.

샘 올트먼 그나저나 Guinness가 생각했던 것만큼 나쁘지는 않았어요. IPA만큼 좋지는 않지만, 그렇게 나쁘지도 않네요.

존 콜리슨 맛있죠.

샘 올트먼 네. IPA야 훌륭하지만, 이것도 꽤 괜찮네요.

존 콜리슨 우리는 Guinness를 좋아해요.

샘 올트먼 네.

존 콜리슨 적어도 이 팟캐스트에서는요. 감사합니다.