당신은 컴퓨터 시뮬레이션 속에 살고 있는가?

Nick Bostrom · Faculty of Philosophy, Oxford University · Philosophical Quarterly (2003) Vol. 53, No. 211, pp. 243–255 · [초판: 2001년 5월] · [simulation-argument.com] · pdf-version: [PDF]

초록

이 논문은 다음 명제들 가운데 적어도 하나가 참임을 논증한다. (1) 인류라는 종은 “포스트휴먼(posthuman)” 단계에 도달하기 전에 멸종할 가능성이 매우 높다. (2) 어떤 포스트휴먼 문명이든 자신들의 진화사(또는 그 변형들)를 다룬 시뮬레이션을 유의미한 수만큼 돌릴 가능성은 극히 낮다. (3) 우리는 거의 확실히 컴퓨터 시뮬레이션 안에서 살고 있다. 여기에서 따라 나오는 귀결은, 우리가 언젠가 조상 시뮬레이션(ancestor-simulation)을 돌리는 포스트휴먼이 될 상당한 가능성이 있다는 믿음이 거짓이라는 것이다 — 우리가 지금 시뮬레이션 안에 살고 있는 것이 아니라면 말이다. 이 결과에서 따라 나오는 여러 다른 귀결들도 함께 논의한다.

I. 서론

수많은 공상과학 작품들, 그리고 진지한 기술자·미래학자들의 일부 예측은 미래에 엄청난 양의 연산 능력이 가용해지리라고 내다본다. 잠시 이 예측들이 옳다고 가정해 보자. 후대 세대가 그 초강력 컴퓨터로 할 수 있는 일 가운데 하나는 자기 선조들, 혹은 자기 선조들과 비슷한 사람들에 대한 상세한 시뮬레이션을 돌리는 것이다. 그들의 컴퓨터는 매우 강력할 터이므로, 그런 시뮬레이션을 아주 많이 돌릴 수 있을 것이다. 이 시뮬레이션된 사람들이 의식을 가진다고 가정하자 (시뮬레이션이 충분히 미세한 입도로 이루어지고, 심리철학에서 꽤 널리 받아들여지는 어떤 입장이 옳다면 실제로 그럴 것이다). 그렇다면 우리와 같은 부류의 마음들 가운데 압도적 다수가 원본 종족에 속하는 것이 아니라 그 원본 종족의 진보한 후손들이 시뮬레이션한 사람들에 속하는 경우가 성립할 수 있다. 그리고 만약 사정이 그렇다면, 우리는 자신이 원본 생물학적 마음들 가운데 하나이기보다는 시뮬레이션된 마음들 가운데 하나일 가능성이 크다고 생각하는 편이 합리적이라고 논증할 수 있다. 따라서 우리가 지금 컴퓨터 시뮬레이션 안에 살고 있다고 생각하지 않는다면, 우리는 자기 선조들에 대한 그런 시뮬레이션을 대량으로 돌릴 후손들을 갖게 되리라고 믿을 자격이 없다. 이것이 기본 착상이다. 이 논문의 나머지는 이를 더 조심스럽게 풀어낸다.

미래에 대한 사변에 종사하는 이들에게 이 논제가 갖는 흥미와는 별개로, 좀 더 순수하게 이론적인 보상도 있다. 이 논증은 몇 가지 방법론적·형이상학적 물음을 정식화하도록 자극하며, 또한 어떤 전통적 종교 관념들에 대한 자연주의적 유비를 시사한다 — 누군가는 이를 재미있다고, 혹은 생각을 자극한다고 느낄 수도 있다.

이 논문의 구성은 다음과 같다. 먼저, 논증을 출발시키기 위해 심리철학에서 끌어와야 하는 가정 하나를 정식화한다. 둘째로, 인간 마음의 시뮬레이션을 어마어마하게 많이 돌리는 일이 — 이미 알려진 물리 법칙 및 공학적 제약과 양립 가능함을 지금도 보일 수 있는 여러 기술을 발전시킨 미래 문명의 능력 범위 안에 있으리라고 볼 만한 몇 가지 경험적 근거를 검토한다. 이 부분은 철학적으로 필수적이지는 않지만, 나머지 부분에 주의를 기울일 유인을 제공한다. 그다음으로 논증의 핵심이 이어지는데, 여기서는 간단한 확률론이 사용되며, 그 논증이 채용하는 약한 무차별 원리를 뒷받침하는 절이 따라붙는다. 마지막으로, 초록에서 언급한 선언지(選言肢) — 시뮬레이션 논증의 결론을 이루는 — 에 대한 몇 가지 해석을 논의한다.

II. 기질 독립성 가정

심리철학에서 흔히 받아들여지는 가정 하나가 기질 독립성(substrate-independence)이다. 그 착상은 심적 상태가 폭넓은 부류의 물리적 기질 어느 것에나 수반(supervene)할 수 있다는 것이다. 어떤 시스템이 적절한 종류의 계산 구조와 과정을 구현하기만 한다면, 그 시스템은 의식적 경험과 연합될 수 있다. 의식이 두개골 안의 탄소 기반 생물학적 신경망 위에서 구현된다는 것은 의식의 본질적 속성이 아니다. 컴퓨터 안의 실리콘 기반 프로세서도 원리적으로는 같은 일을 해낼 수 있다.

이 논제를 옹호하는 논증들은 문헌에 제시되어 있고, 전적으로 논란의 여지가 없는 것은 아니지만, 여기서는 그것을 주어진 것으로 받아들이겠다.

다만 우리가 제시할 논증은 기능주의(functionalism)나 계산주의(computationalism)의 아주 강한 판본에 의존하지는 않는다. 예를 들어 우리는 기질 독립성 논제가 (분석적으로든 형이상학적으로든) 필연적으로 참이라고 가정할 필요가 없다. 그저 사실상 적합한 프로그램을 돌리는 컴퓨터가 의식을 가질 것이라는 정도면 된다. 또한 컴퓨터에 마음을 만들어 내기 위해서는 튜링 테스트 통과를 포함해 모든 상황에서 인간처럼 행동하도록 프로그래밍하는 것으로 충분하다고 가정할 필요도 없다. 우리에게 필요한 것은 더 약한 가정, 즉 인간 뇌의 계산 과정이 개별 시냅스 수준처럼 적절히 미세한 입도로 구조적으로 복제된다면 주관적 경험의 발생에 충분하리라는 가정뿐이다. 이렇게 약화된 판본의 기질 독립성은 꽤 널리 받아들여진다.

신경전달물질, 신경성장인자, 그 밖에 시냅스보다 작은 화학물질들이 인간의 인지와 학습에서 어떤 역할을 한다는 것은 분명하다. 기질 독립성 논제는 이 화학물질들의 효과가 작다거나 무관하다는 주장이 아니라, 그것들이 주관적 경험에 영향을 미치는 통로는 오직 계산적 활동에 대한 직접적·간접적 영향뿐이라는 주장이다. 예컨대 시냅스 발화의 차이 없이는 주관적 경험의 차이도 있을 수 없다면, 시뮬레이션에 요구되는 상세함의 수준은 시냅스 수준(또는 그 이상)이다.

III. 연산의 기술적 한계

현재 우리의 기술 발전 단계에서는 컴퓨터 안에 의식적 마음을 만들어 낼 만큼 강력한 하드웨어도, 그에 필요한 소프트웨어도 갖고 있지 않다. 그러나 기술 진보가 꺾이지 않고 계속된다면 이 결핍들은 결국 극복되리라는 설득력 있는 논증들이 제시되어 왔다. 어떤 저자들은 그 단계가 불과 수십 년 앞일 수도 있다고 주장한다.^[1] 하지만 지금의 목적에는 시간 규모에 관한 가정이 전혀 필요하지 않다. 시뮬레이션 논증은 인류가 — 물리 법칙 및 물질·에너지 제약과 양립 가능함을 현재 보일 수 있는 기술적 역량 대부분을 획득한 — “포스트휴먼” 문명 단계에 도달하기까지 수십만 년이 걸리리라고 생각하는 이들에게도 똑같이 잘 작동한다.

그런 성숙한 기술 발전 단계에 이르면 행성이나 그 밖의 천문학적 자원을 어마어마하게 강력한 컴퓨터로 전환하는 일이 가능해질 것이다. 포스트휴먼 문명에 가용한 연산 능력의 상한을 지금 자신 있게 말하기는 어렵다. 우리는 여전히 “만물의 이론”을 갖고 있지 않으므로, 현재 물리 이론이 허용하지 않는 새로운 물리 현상이 활용되어, 우리의 현재 이해 안에서 주어진 물질 덩어리로 달성할 수 있는 정보 처리량에 이론적 한계를 부과하는 그 제약들^[2]을 넘어서게 될 가능성을 배제할 수 없다. 반면 포스트휴먼 연산 능력의 하한은 훨씬 더 높은 확신을 갖고 세울 수 있다. 이미 이해된 메커니즘만을 가정하면 되기 때문이다. 예를 들어 에릭 드렉슬러(Eric Drexler)는 (냉각 장치와 전원을 제외하고) 각설탕 크기이면서 초당 10²¹회의 명령을 수행하는 시스템 설계를 개략적으로 제시했다.^[3] 또 다른 저자는 거대 행성 정도의 질량을 가진 컴퓨터에 대해 초당 10⁴²회 연산이라는 대략적 추정치를 내놓는다.^[4] (양자 컴퓨터를 만들 수 있게 되거나 핵물질 또는 플라스마로 컴퓨터를 짓는 법을 배운다면 이론적 한계에 더 가까이 밀고 갈 수 있다. 세스 로이드(Seth Lloyd)는 1kg짜리 컴퓨터의 상한을 ~10³¹비트 위에서 수행되는 초당 5×10⁵⁰회의 논리 연산으로 계산한다.^[5] 그러나 우리의 목적에는 현재 알려진 설계 원리만을 전제하는 더 보수적인 추정치를 쓰는 것으로 충분하다.)

인간의 마음 하나를 에뮬레이션하는 데 필요한 연산 능력도 마찬가지로 대략 추정할 수 있다. 한 추정치는, 우리가 이미 이해하고 있고 그 기능이 실리콘 상에서 복제된 신경 조직 한 조각 — 망막의 대비 강화 — 의 기능을 재현하는 데 드는 연산 비용에 근거하여, 인간 뇌 전체에 대해 초당 ~10¹⁴회 연산이라는 수치를 내놓는다.^[6] 뇌의 시냅스 수와 그 발화 빈도에 근거한 대안적 추정치는 초당 ~10¹⁶–10¹⁷회 연산이라는 수치를 준다.^[7] 시냅스와 수상돌기 나무의 내부 작동까지 상세히 시뮬레이션하려 한다면 그보다 더 많은 양이 요구될 수도 있음직하다. 그러나 인간 중추신경계는 뉴런 구성 요소들의 불안정성과 잡음을 보상하기 위해 미시적 규모에서 높은 정도의 중복성을 갖고 있을 가능성이 크다. 따라서 더 신뢰할 만하고 다재다능한 비생물학적 프로세서를 쓴다면 상당한 효율 이득을 기대할 수 있을 것이다.

기억 용량은 처리 능력보다 더 빡빡한 제약으로 보이지 않는다.^[8] 게다가 인간 감각의 최대 대역폭이 초당 ~10⁸비트이므로, 모든 감각 사건을 시뮬레이션하는 비용은 피질 활동을 시뮬레이션하는 비용에 견주면 무시할 만하다. 따라서 중추신경계를 시뮬레이션하는 데 필요한 처리 능력을, 인간의 마음 하나를 시뮬레이션하는 총 연산 비용의 추정치로 사용할 수 있다.

환경까지 시뮬레이션에 포함시킨다면 추가 연산 능력이 필요해진다 — 얼마나 더 필요한지는 시뮬레이션의 범위와 입도에 달려 있다. 우주 전체를 양자 수준까지 시뮬레이션하는 것은, 근본적으로 새로운 물리학이 발견되지 않는 한 명백히 실행 불가능하다. 그러나 인간 경험의 사실적인 시뮬레이션을 얻는 데에는 그보다 훨씬 적은 것으로 족하다 — 시뮬레이션된 인간들이 시뮬레이션된 환경과 평범한 인간적 방식으로 상호작용하면서 어떤 불규칙성도 알아채지 못하도록 보장하는 데 필요한 것이면 된다. 지구 내부의 미시 구조는 안전하게 생략할 수 있다. 멀리 있는 천체들은 고도로 압축된 표상을 가질 수 있다. 핍진성은 우리가 우리 행성이나 태양계 탐사선에서 관측할 수 있는 좁은 대역의 속성들에만 미치면 된다. 지구 표면에서는 사람이 사는 지역의 거시적 대상들을 연속적으로 시뮬레이션해야 할 수도 있지만, 미시적 현상은 임기응변으로 채워 넣어도 될 것이다. 전자현미경으로 보이는 것은 수상쩍어 보이지 않아야 하지만, 관측되지 않은 미시 세계의 나머지 부분과 그것이 정합적인지를 확인할 방법은 보통 없다. 예외는 우리가 독립적으로 검증할 수 있는 결과를 얻기 위해, 알려진 원리에 따라 작동하는 관측되지 않은 미시 현상을 활용하도록 시스템을 의도적으로 설계할 때 생긴다. 이 경우의 전형적인 사례가 컴퓨터다. 따라서 시뮬레이션은 개별 논리 소자 수준까지 컴퓨터를 연속적으로 표상해야 할 수도 있다. 이는 문제가 되지 않는데, 포스트휴먼의 기준에서 우리의 현재 연산 능력은 무시할 만하기 때문이다.

더 나아가, 포스트휴먼 시뮬레이터는 모든 인간 뇌의 상세한 믿음 상태를 항상 추적할 만큼의 연산 능력을 가질 것이다. 따라서 어떤 인간이 미시 세계를 관측하려는 참임을 포착하면, 해당 영역에서 필요에 따라 시뮬레이션에 충분한 상세를 채워 넣을 수 있다. 혹시 오류가 발생하더라도, 감독은 이상을 알아챈 뇌들의 상태를 그것이 시뮬레이션을 망치기 전에 손쉽게 편집할 수 있다. 또는 감독이 몇 초 뒤로 되감아 문제를 피하는 방식으로 시뮬레이션을 다시 돌릴 수도 있다.

그러므로 시뮬레이션 안의 인간 마음에게 물리적 실재와 구별 불가능한 시뮬레이션을 만드는 데 드는 주된 연산 비용은 유기체의 뇌를 뉴런 또는 뉴런 하위 수준까지 시뮬레이션하는 데 있다고 보는 것이 그럴듯해 보인다.^[9] 인류 역사를 사실적으로 시뮬레이션하는 비용을 아주 정확히 추정하기는 불가능하지만, 대략적 추정치로 ~10³³–10³⁶회 연산을 쓸 수 있다.^[10] 가상현실에 대한 경험이 쌓일수록, 그런 세계가 방문자에게 사실적으로 보이게 만드는 데 필요한 연산 요구량을 더 잘 파악하게 될 것이다. 그러나 어쨌든 우리 추정치가 몇 자릿수쯤 빗나간다 해도 논증에는 별 문제가 되지 않는다. 우리는 행성 질량 컴퓨터의 연산 능력을 대략 초당 10⁴²회 연산으로 어림했고, 이는 이미 알려진 나노기술 설계만을 가정한 것이며 그 설계들은 아마도 최적과는 거리가 멀다. 그런 컴퓨터 한 대만 있어도 인류의 정신사 전체(이를 조상 시뮬레이션이라 부르자)를 자기 처리 능력의 100만분의 1도 안 되는 몫으로 1초 동안 시뮬레이션할 수 있다. 포스트휴먼 문명은 결국 그런 컴퓨터를 천문학적 수로 지을 수도 있다. 따라서 포스트휴먼 문명에 가용한 연산 능력은, 그 목적에 자기 자원의 아주 미미한 일부만 배정하더라도 조상 시뮬레이션을 엄청난 수로 돌리기에 충분하다고 결론지을 수 있다. 우리의 모든 추정치에 상당한 오차 여유를 남겨 두고도 이 결론을 끌어낼 수 있다.

포스트휴먼 문명은 자기 자원의 아주 작은 일부만 그 목적에 쓰면서도 조상 시뮬레이션을 엄청나게 많이 돌릴 만한 연산 능력을 가질 것이다.

IV. 시뮬레이션 논증의 핵심

이 논문의 기본 착상은 대략 이렇게 표현할 수 있다. 우리 문명이 언젠가 포스트휴먼 단계에 도달해 조상 시뮬레이션을 많이 돌릴 상당한 가능성이 있다면, 어째서 당신은 그런 시뮬레이션 안에 살고 있지 않은가?

이 착상을 엄밀한 논증으로 발전시켜 보자. 다음 표기를 도입한다.

f_P : 인간 수준 기술 문명 전체 가운데 살아남아 포스트휴먼 단계에 도달하는 것들의 비율

N : 한 포스트휴먼 문명이 돌리는 조상 시뮬레이션의 평균 개수

H : 한 문명이 포스트휴먼 단계에 도달하기 전까지 그 안에서 살았던 개체들의 평균 수

그러면 인간형 경험을 가진 관찰자 전체 가운데 시뮬레이션 안에 사는 이들의 실제 비율은 다음과 같다.

포스트휴먼 문명 가운데 조상 시뮬레이션을 돌리는 데 관심이 있는 문명(또는 그런 관심을 가지고 그런 시뮬레이션을 유의미한 수만큼 돌릴 충분한 자원을 보유한 개체를 적어도 일부 포함하는 문명)의 비율을 f_I라 쓰고, 그렇게 관심을 가진 문명들이 돌리는 조상 시뮬레이션의 평균 개수를 N_I라 쓰면, 다음이 성립한다.

따라서:

포스트휴먼 문명의 연산 능력이 막대하기 때문에, 앞 절에서 보았듯 N_I는 극도로 크다. 그러면 (*)를 들여다봄으로써, 다음 세 명제 가운데 적어도 하나가 반드시 참임을 알 수 있다.

1. f_P ≈ 0
2. f_I ≈ 0
3. f_sim ≈ 1

V. 무미건조한 무차별 원리

우리는 한 걸음 더 나아가, (3)이 참이라는 조건 아래에서 자신이 시뮬레이션 안에 있다는 가설에 대한 신용도(credence)가 1에 가까워야 한다고 결론지을 수 있다. 더 일반적으로, 인간형 경험을 가진 관찰자 전체 가운데 비율 x가 시뮬레이션 안에 산다는 것을 우리가 알고 있고, 또 우리 자신의 특정한 경험들이 다른 인간형 경험들에 비해 체내에서(in vivo)가 아니라 기계 안에서(in machina) 구현되었을 가능성이 더 높거나 낮다고 시사하는 어떤 정보도 갖고 있지 않다면, 우리가 시뮬레이션 안에 있다는 데 대한 신용도는 x와 같아야 한다.

이 단계는 매우 약한 무차별 원리에 의해 정당화된다. 두 경우를 구분하자. 첫 번째 경우는 가장 쉬운 쪽으로, 문제의 모든 마음이 당신 자신의 것과 정확히 질적으로 동일하다는 의미에서 당신의 마음과 같은 경우다. 즉 그 마음들은 당신이 가진 것과 정확히 같은 정보와 같은 경험을 갖는다. 두 번째 경우는 그 마음들이 인간이라는 피조물에게 전형적인 종류의 마음이라는 느슨한 의미에서만 서로 “같고”, 질적으로는 서로 구별되며 각각 별개의 경험 집합을 갖는 경우다. 나는 후자의 경우, 즉 마음들이 질적으로 다른 경우에도 시뮬레이션 논증이 여전히 작동한다고 주장한다 — 여러 마음들 가운데 어느 것이 시뮬레이션되었고 어느 것이 생물학적으로 구현되었는지의 물음에 관련된 어떤 정보도 당신이 갖고 있지 않다면 말이다.

위 입장을 두 경우 모두에 대해 자명한 특수 사례로 함축하는 더 강한 원리에 대한 상세한 옹호는 문헌에 제시되어 있다.^[11] 지면상 그 옹호를 여기서 되풀이할 수는 없지만, 좀 더 익숙한 종류의 유사한 상황에 주의를 돌림으로써 그 밑바탕에 깔린 직관 하나를 끄집어낼 수 있다. 인구의 x%가, 흔히 “쓰레기 DNA(junk DNA)”라 불리는 DNA 부위 안에 어떤 유전 서열 S를 갖고 있다고 하자. 나아가 S가 (유전자 검사에서 드러나는 것 말고는) 아무런 발현도 갖지 않고, S를 갖는 것과 어떤 관측 가능한 특성 사이에 알려진 상관관계도 없다고 하자. 그렇다면 당신이 자신의 DNA를 시퀀싱해 보지 않은 한, 자신이 S를 갖고 있다는 가설에 x%의 신용도를 부여하는 것이 합리적임은 아주 분명하다. 그리고 이는 S를 가진 사람들이 S를 갖지 않은 사람들과 질적으로 다른 마음과 경험을 갖는다는 사실과는 전혀 무관하게 성립한다. (그들이 다른 것은 단지 모든 인간이 서로 다른 경험을 갖기 때문이지, S와 어떤 종류의 경험을 하는지 사이에 알려진 연결이 있어서가 아니다.)

S가 어떤 유전 서열을 가졌다는 속성이 아니라 시뮬레이션 안에 있다는 속성이더라도 동일한 추론이 성립한다 — 시뮬레이션된 마음들의 경험과 원본 생물학적 마음들의 경험 사이의 어떤 차이도 예측할 수 있게 해 주는 정보를 우리가 갖고 있지 않다는 것만 가정한다면 말이다.

강조해 둘 점은, (#)로 표현되는 무미건조한 무차별 원리(bland indifference principle)가 무차별을 처방하는 것은 오직 당신이 자신이 어느 관찰자인지에 대한 정보를 갖고 있지 않을 때, 자신이 어느 관찰자인가에 관한 가설들 사이에서뿐이라는 것이다. 이 원리는 가설들 가운데 어느 것이 참인지에 관한 구체적 정보가 결여되어 있다고 해서 일반적으로 가설들 사이의 무차별을 처방하지는 않는다. 라플라스식 무차별 원리나 그보다 더 야심 찬 다른 원리들과 대조적으로, 따라서 이 원리는 베르트랑의 역설(Bertrand’s paradox)이나 무제한적 범위의 무차별 원리들을 곧잘 괴롭히는 유사한 곤경에 면역되어 있다.

종말 논증(Doomsday argument)^[12]에 익숙한 독자라면, 여기서 끌어들인 무미건조한 무차별 원리가 바로 종말 논증을 출발시키는 그 가정과 동일한 것이 아닌지, 그리고 종말 논증의 몇몇 귀결이 직관에 반한다는 점이 이 원리를 오염시키거나 그 타당성에 의심을 던지는 것은 아닌지 걱정할 수 있다. 그렇지 않다. 종말 논증은 훨씬 더 강하고 논쟁적인 전제에 기대고 있다. 즉 우리가 먼 과거나 미래의 어느 시점이 아니라 21세기 초에 살고 있음을 알고 있음에도, 마치 자신이 앞으로 존재했고 존재하며 존재하게 될 모든 사람(과거·현재·미래)의 집합에서 무작위로 뽑힌 표본인 것처럼 추론해야 한다는 전제다. 반면 무미건조한 무차별 원리는 우리가 자신이 어느 집단에 속하는지에 관한 정보를 갖고 있지 않은 경우에만 적용된다.

내기 배당률이 합리적 믿음에 어떤 지침을 준다면, 이런 점도 숙고해 볼 만하다. 모두가 자신이 시뮬레이션 안에 있는지 아닌지에 돈을 건다고 하자. 사람들이 무미건조한 무차별 원리를 사용하고, 그 결과 거의 모든 사람이 시뮬레이션 안에 있다는 것을 알 때 자신이 시뮬레이션 안에 있다는 쪽에 돈을 건다면, 거의 모두가 내기에서 이길 것이다. 시뮬레이션 안에 있지 않다는 쪽에 건다면 거의 모두가 잃을 것이다. 무미건조한 무차별 원리를 따르는 편이 더 나아 보인다.

더 나아가, 모든 사람 가운데 시뮬레이션 안에 사는 이들의 비율이 점점 커지는 일련의 가능한 상황들을 생각해 볼 수 있다. 98%, 99%, 99.9%, 99.9999%, 그런 식으로 말이다. 모두가 시뮬레이션 안에 있는 극한의 경우(여기서는 자신이 시뮬레이션 안에 있다는 것을 연역적으로 추론할 수 있다)에 다가갈수록, 자신이 시뮬레이션 안에 있다는 데 부여하는 신용도 역시 그에 맞춰 완전한 확실성이라는 극한의 경우로 점진적으로 접근하도록 요구하는 것이 그럴듯하다.

VI. 해석

명제 (1)이 나타내는 가능성은 꽤 단순명료하다. (1)이 참이라면 인류는 거의 확실히 포스트휴먼 수준에 도달하는 데 실패할 것이다. 우리 정도의 발전 단계에 있는 종은 사실상 어느 것도 포스트휴먼이 되지 못하며, 우리 종만은 특별히 특권을 누리거나 미래의 재난으로부터 보호받으리라고 생각할 근거를 찾기는 어렵기 때문이다. 그러므로 (1)을 조건으로 하면, 우리는 DOOM — 인류가 포스트휴먼 수준에 도달하기 전에 멸종하리라는 가설 — 에 높은 신용도를 부여해야 한다.

f_P에 대한 지식을 압도하는 증거를 우리가 갖게 되는 가상적 상황들을 상상할 수는 있다. 예를 들어 거대 운석이 곧 우리를 덮치리라는 사실을 발견한다면, 이는 우리가 유별나게 운이 나빴음을 시사할 수 있다. 그럴 경우 우리는 인간 수준 문명 가운데 포스트휴먼에 도달하지 못하는 것들의 비율에 대한 기댓값보다 더 큰 신용도를 DOOM에 부여할 수 있을 것이다. 그러나 실제 상황에서 우리는 이 점에서 좋은 쪽으로든 나쁜 쪽으로든 자신이 특별하다고 생각할 증거를 갖고 있지 않아 보인다.

명제 (1)은 그 자체로 우리가 머지않아 멸종할 가능성이 크다는 것을 함축하지 않으며, 다만 우리가 포스트휴먼 단계에 도달할 가능성이 낮다는 것만을 함축한다. 이 가능성은 우리가 멸종하기 전 오랫동안 현재의 기술 발전 수준에, 또는 그보다 다소 위의 수준에 머무르는 것과 양립 가능하다. (1)이 참이 되는 또 다른 길은 기술 문명이 붕괴할 가능성이 큰 경우다. 그렇다면 원시적인 인간 사회들이 지구에 무기한 남아 있을 수도 있다.

인류가 포스트휴먼에 도달하기 전에 멸종할 수 있는 길은 많다. (1)에 대한 아마도 가장 자연스러운 해석은, 강력하지만 위험한 어떤 기술의 발전 결과로 우리가 멸종할 가능성이 크다는 것이다.^[13] 한 후보는 분자 나노기술인데, 그 성숙 단계에서는 흙과 유기물을 먹고 자라는 자기복제 나노봇 — 일종의 기계 박테리아 — 의 제작이 가능해질 것이다. 악의적 목적으로 설계된 그런 나노봇은 우리 행성의 모든 생명을 멸종시킬 수 있다.^[14]

시뮬레이션 논증 결론의 두 번째 선택지는, 포스트휴먼 문명 가운데 조상 시뮬레이션을 돌리는 데 관심이 있는 것들의 비율이 무시할 만큼 작다는 것이다. (2)가 참이 되려면 진보한 문명들의 행로 사이에 강한 수렴이 있어야 한다. 관심 있는 문명들이 만들어 내는 조상 시뮬레이션의 수가 극도로 크다면, 그런 문명의 희소성 또한 그에 상응해 극단적이어야 한다. 사실상 어떤 포스트휴먼 문명도 자기 자원을 조상 시뮬레이션을 대량으로 돌리는 데 쓰기로 결정하지 않는다. 더욱이 사실상 모든 포스트휴먼 문명에는 조상 시뮬레이션을 돌릴 충분한 자원과 관심을 동시에 가진 개체가 없거나, 그렇지 않다면 그런 개체들이 자신의 욕구대로 행동하지 못하도록 막는 법이 확실하게 집행되고 있다.

어떤 힘이 그런 수렴을 불러올 수 있을까? 진보한 문명들이 모두, 시뮬레이션 거주자들에게 가해지는 고통 때문에 조상 시뮬레이션을 돌리는 것에 대한 윤리적 금지를 인정하게 되는 궤적을 따라 발전한다고 사변해 볼 수는 있다. 그러나 현재 우리의 관점에서 볼 때 인류를 창조하는 것이 부도덕하다는 것은 분명하지 않다. 오히려 우리는 우리 종의 존재를 큰 윤리적 가치를 구성하는 것으로 보는 경향이 있다. 게다가 조상 시뮬레이션을 돌리는 것이 부도덕하다는 윤리적 견해로의 수렴만으로는 충분하지 않다. 그것은 부도덕하다고 여겨지는 활동을 효과적으로 금지할 수 있게 하는 문명 전체 규모의 사회 구조로의 수렴과 결합되어야 한다.

또 하나의 가능한 수렴점은, 사실상 모든 포스트휴먼 문명의 거의 모든 개별 포스트휴먼이 조상 시뮬레이션을 돌리려는 욕구를 상실하는 방향으로 발전한다는 것이다. 이는 그들의 인간 선행자들을 움직이던 동기에 상당한 변화를 요구할 것이다. 여유가 된다면 조상 시뮬레이션을 돌리고 싶어 할 인간은 분명 많기 때문이다. 그러나 어쩌면 우리 인간적 욕구의 상당수는 포스트휴먼이 된 자라면 누구든 어리석다고 여길지 모른다. 어쩌면 조상 시뮬레이션이 포스트휴먼 문명에 갖는 과학적 가치는 무시할 만할 수도 있고(그 헤아릴 수 없는 지적 우월성을 감안하면 그리 있음직하지 않은 일은 아니다), 어쩌면 포스트휴먼들은 오락 활동을 쾌락을 얻는 매우 비효율적인 방법에 지나지 않는다고 볼 수도 있다 — 쾌락은 뇌의 보상 중추를 직접 자극함으로써 훨씬 싸게 얻을 수 있으니 말이다. (2)에서 따라 나오는 한 가지 결론은 포스트휴먼 사회가 인간 사회와 매우 다르리라는 것이다. 그런 사회에는 인간과 같은 욕구의 전 범위를 가지면서 그에 따라 자유롭게 행동할 수 있는, 비교적 부유한 독립적 행위자들이 존재하지 않을 것이다.

선택지 (3)이 표현하는 가능성은 개념적으로 가장 흥미로운 것이다. 우리가 시뮬레이션 안에 살고 있다면, 우리가 관측하는 우주는 물리적 존재 전체 가운데 아주 작은 한 조각에 불과하다. 시뮬레이션을 돌리는 컴퓨터가 놓인 우주의 물리학은 우리가 관측하는 세계의 물리학과 닮았을 수도 있고 닮지 않았을 수도 있다. 우리가 보는 세계는 어떤 의미에서 “실재”이지만, 그것은 실재의 근본 층위에 위치해 있지는 않다.

시뮬레이션된 문명이 포스트휴먼이 되는 일도 가능할 수 있다. 그러면 그들은 자신의 시뮬레이션된 우주 안에서 지은 강력한 컴퓨터 위에 자기 나름의 조상 시뮬레이션을 돌릴 수도 있다. 그런 컴퓨터는 “가상 기계(virtual machine)”일 텐데, 이는 컴퓨터과학에서 익숙한 개념이다. (예컨대 자바 스크립트 웹 애플릿은 당신의 데스크톱 안에서 가상 기계 — 시뮬레이션된 컴퓨터 — 위에서 돌아간다.) 가상 기계는 층층이 쌓을 수 있다. 어떤 기계가 또 다른 기계를 시뮬레이션하는 것을 시뮬레이션하고, 또 그런 식으로 임의로 여러 단계의 반복이 가능하다. 우리가 정말로 나아가 우리 자신의 조상 시뮬레이션을 만들어 낸다면, 이는 (1)과 (2)에 대한 강력한 반증이 될 것이고, 따라서 우리는 우리가 시뮬레이션 안에 산다고 결론 내려야 할 것이다. 더 나아가 우리의 시뮬레이션을 돌리는 포스트휴먼들 자신이 시뮬레이션된 존재이리라고 의심해야 할 것이고, 또 그들의 창조자들 역시 시뮬레이션된 존재일 수 있다.

따라서 실재는 여러 층을 포함할 수 있다. 설령 그 위계가 어느 단계에서 바닥에 닿아야 한다 해도 — 이 주장의 형이상학적 지위는 다소 불분명하지만(somewhat obscure) — 다수의 실재 층위가 들어설 여지가 있을 수 있고, 그 수는 시간이 지나며 늘어날 수도 있다. (다층 가설에 불리하게 작용하는 한 가지 고려사항은, 지하실 층(basement-level) 시뮬레이터들에게 드는 연산 비용이 매우 클 것이라는 점이다. 단 하나의 포스트휴먼 문명을 시뮬레이션하는 것조차 감당하기 어려울 만큼 비쌀 수 있다. 그렇다면 우리는 우리가 포스트휴먼이 되려는 참에 우리 시뮬레이션이 종료되리라고 예상해야 한다.)

그런 체계의 모든 요소가 자연주의적일 수 있고 심지어 물리적일 수 있음에도, 세계에 대한 종교적 관념들과 느슨한 유비를 몇 가지 끌어낼 수 있다. 어떤 면에서 시뮬레이션을 돌리는 포스트휴먼들은 그 시뮬레이션에 거주하는 사람들과의 관계에서 신과 같다. 포스트휴먼들은 우리가 보는 세계를 창조했다. 그들은 우월한 지성을 지닌다. 그들은 우리 세계의 작동에, 심지어 그 물리 법칙을 위반하는 방식으로도 개입할 수 있다는 의미에서 “전능”하다. 그리고 그들은 일어나는 모든 일을 감시할 수 있다는 의미에서 “전지”하다. 그러나 실재의 근본 층위에 있는 자들을 제외한 모든 반신(demigod)들은 더 낮은 층위에 사는 더 강력한 신들의 제재를 받는다.

이 주제들에 대한 숙고를 더 밀고 가면, 이 위계의 구조와, 자기 층위에서의 행동이 더 깊은 층위 거주자들로부터 받는 대우에 영향을 미칠 수 있다는 가능성이 그 거주자들에게 부과하는 제약을 연구하는 자연주의적 신통기(theogony)에서 정점에 이를 수도 있다. 예를 들어 자신이 지하실 층에 있다고 아무도 확신할 수 없다면, 모두가 자신의 행동이 — 어쩌면 도덕적 기준에 근거해 — 자기 시뮬레이터들에 의해 보상받거나 처벌받을 가능성을 고려해야 할 것이다. 사후세계가 실재적 가능성이 될 것이다. 이 근본적 불확실성 때문에 지하실 문명조차도 윤리적으로 행동할 이유를 가질 수 있다. 그 문명이 도덕적 행동의 그런 이유를 갖는다는 사실은 물론 다른 모두가 도덕적으로 행동할 이유에 보태질 것이고, 그런 식으로 진정한 선순환이 이어진다. 이로부터 일종의 보편적 윤리 명령 같은 것을 얻을 수 있을 텐데, 그것은 말하자면 “아무 데서도 오지 않은” 채로 모두가 자기 이익에 비추어 따르는 편이 나은 명령일 것이다.

조상 시뮬레이션 외에도, 소수의 인간 집단이나 단 한 개인만을 포함하는 더 선별적인 시뮬레이션의 가능성도 생각해 볼 수 있다. 그 경우 나머지 인류는 좀비이거나 “그림자 인간(shadow-people)”일 것이다 — 완전히 시뮬레이션된 사람들이 수상한 점을 전혀 알아채지 못할 정도의 수준으로만 시뮬레이션된 인간들 말이다. 그림자 인간을 시뮬레이션하는 것이 진짜 사람을 시뮬레이션하는 것보다 얼마나 더 쌀지는 분명하지 않다. 어떤 존재가 실제 인간과 구별 불가능하게 행동하면서도 의식적 경험을 결여하는 일이 가능한지조차 자명하지 않다. 설령 그런 선별적 시뮬레이션이 존재한다 해도, 그것이 완전한 시뮬레이션보다 훨씬 더 많다고 생각하지 않는 한 자신이 그중 하나에 있다고 생각해서는 안 된다. 시뮬레이션된 사람들 대부분이 나-시뮬레이션 안에 있으려면, “나-시뮬레이션”(오직 단 하나의 마음의 삶만을 다루는 시뮬레이션)이 조상 시뮬레이션보다 약 1000억 배는 많아야 할 것이다.

시뮬레이터가 시뮬레이션된 존재들의 정신적 삶의 어떤 부분을 축약해 버리고, 생략된 구간 동안 그들이 전형적으로 겪었을 법한 종류의 경험에 대한 거짓 기억을 심어 주는 가능성도 있다. 그렇다면 악의 문제에 대한 다음과 같은 (황당무계한farfetched) 해법을 생각해 볼 수 있다. 세계에는 고통이 없고 고통에 대한 모든 기억은 환상이라는 것이다. 물론 이 가설은 당신이 현재 고통받고 있지 않은 때에만 진지하게 품어 볼 수 있다.

우리가 시뮬레이션 안에 산다고 가정할 때, 그것이 우리 인간에게 갖는 함의는 무엇인가? 앞서의 언급들에도 불구하고, 그 함의는 그리 급진적이지 않다. 우리의 포스트휴먼 창조자들이 우리 세계를 어떻게 설정하기로 했는지에 대한 최선의 길잡이는 우리가 보는 우주에 대한 표준적인 경험적 연구다. 우리 믿음망 대부분에 가해질 수정은 오히려 사소하고 미묘할 것이다 — 포스트휴먼의 방식을 이해할 우리 능력에 대한 우리의 확신 부족에 비례해서 말이다. 따라서 적절히 이해한다면, (3)의 참이 우리를 “미치게” 만들거나 우리가 일상을 영위하고 내일을 위한 계획과 예측을 세우지 못하게 만드는 경향을 가져서는 안 된다. 현시점에서 (3)의 주된 경험적 중요성은 위에서 확립한 세 갈래 결론 안에서 그것이 맡는 역할에 있는 것으로 보인다.^[15] (3)이 참이기를 바랄 수는 있다. 그것이 (1)의 확률을 낮출 것이기 때문이다. 다만 연산상의 제약 때문에 시뮬레이터들이 시뮬레이션을 포스트휴먼 수준에 도달하기 전에 종료할 가능성이 크다면, 우리의 최선의 희망은 (2)가 참인 것이 될 것이다.

포스트휴먼의 동기와 자원 제약에 대해 우리가 더 많이 알게 된다면 — 어쩌면 우리 자신이 포스트휴먼이 되는 방향으로 발전한 결과로 — 우리가 시뮬레이션되고 있다는 가설은 훨씬 더 풍부한 경험적 함의들을 갖게 될 것이다.

VII. 결론

기술적으로 성숙한 “포스트휴먼” 문명은 막대한 연산 능력을 가질 것이다. 이 경험적 사실에 근거하여, 시뮬레이션 논증은 다음 명제들 가운데 적어도 하나가 참임을 보인다. (1) 인간 수준 문명 가운데 포스트휴먼 단계에 도달하는 것들의 비율은 0에 매우 가깝다. (2) 포스트휴먼 문명 가운데 조상 시뮬레이션을 돌리는 데 관심이 있는 것들의 비율은 0에 매우 가깝다. (3) 우리와 같은 종류의 경험을 가진 모든 사람 가운데 시뮬레이션 안에 살고 있는 이들의 비율은 1에 매우 가깝다.

(1)이 참이라면 우리는 포스트휴먼에 도달하기 전에 거의 확실히 멸종할 것이다. (2)가 참이라면 진보한 문명들의 행로 사이에는 강한 수렴이 있어서, 조상 시뮬레이션을 돌리기를 원하고 또 그렇게 할 자유를 가진 비교적 부유한 개인을 사실상 어느 문명도 포함하지 않아야 한다. (3)이 참이라면 우리는 거의 확실히 시뮬레이션 안에 살고 있다. 현재 우리 무지의 어두운 숲 속에서는, 자신의 신용도를 (1), (2), (3)에 대략 고르게 배분하는 것이 분별 있어 보인다.

우리가 지금 시뮬레이션 안에 살고 있는 것이 아니라면, 우리 후손들은 거의 확실히 조상 시뮬레이션을 결코 돌리지 않을 것이다.

감사의 말

여러 분들의 논평에 감사드리며, 특히 Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky, 그리고 몇몇 익명 심사자들께 감사드린다.

Nick Bostrom의 학술 홈페이지: nickbostrom.com

시뮬레이션 논증에 대해 더 읽을 곳: simulation-argument.com

각주

[1] 예컨대 다음을 보라. K. E. Drexler, Engines of Creation: The Coming Era of Nanotechnology(창조의 엔진: 다가오는 나노기술의 시대), London, Fourth Estate, 1985; N. Bostrom, “How Long Before Superintelligence?”(초지능까지 얼마나 남았나?), International Journal of Futures Studies, vol. 2 (1998); R. Kurzweil, The Age of Spiritual Machines: When computers exceed human intelligence(영적 기계의 시대: 컴퓨터가 인간 지능을 넘어설 때), New York, Viking Press, 1999; H. Moravec, Robot: Mere Machine to Transcendent Mind(로봇: 단순한 기계에서 초월적 마음으로), Oxford University Press, 1999.

[2] 예컨대 브레머만–베켄슈타인 한계(Bremermann-Bekenstein bound)와 블랙홀 한계 같은 것들 (H. J. Bremermann, “Minimum energy requirements of information transfer and computing.”(정보 전달과 연산의 최소 에너지 요구량), International Journal of Theoretical Physics 21: 203-217 (1982); J. D. Bekenstein, “Entropy content and information flow in systems with limited energy.”(에너지가 제한된 시스템에서의 엔트로피 함량과 정보 흐름), Physical Review D 30: 1669-1679 (1984); A. Sandberg, “The Physics of Information Processing Superobjects: The Daily Life among the Jupiter Brains.”(정보 처리 초객체의 물리학: 목성 두뇌들 사이의 일상), Journal of Evolution and Technology, vol. 5 (1999)).

[3] K. E. Drexler, Nanosystems: Molecular Machinery, Manufacturing, and Computation(나노시스템: 분자 기계장치, 제조, 그리고 연산), New York, John Wiley & Sons, Inc., 1992.

[4] R. J. Bradbury, “Matrioshka Brains.”(마트료시카 두뇌) 작업 중 원고 (1999), http://www.aeiveos.com:8080/~bradbury/MatrioshkaBrains/MatrioshkaBrainsPaper.html.

[5] S. Lloyd, “Ultimate physical limits to computation.”(연산의 궁극적 물리적 한계), Nature 406 (8월 31일): 1047-1054 (2000).

[6] H. Moravec, Mind Children(마음의 아이들), Harvard University Press (1989).

[7] Bostrom (1998), 앞의 책.

[8] 앞의 각주들에 있는 참고문헌을 보라.

[9] 우리가 더 많고 더 빠른 컴퓨터를 지을수록, 우리 기계들을 시뮬레이션하는 비용이 결국 신경계를 시뮬레이션하는 비용을 압도하게 될 수도 있다.

[10] 1000억 명 × 50년/명 × 3천만 초/년 × [10¹⁴, 10¹⁷] 회 연산/뇌·초 ≈ [10³³, 10³⁶] 회 연산.

[11] 예컨대 N. Bostrom, “The Doomsday argument, Adam & Eve, UN++, and Quantum Joe.”(종말 논증, 아담과 이브, UN++, 그리고 퀀텀 조), Synthese 127(3): 359-387 (2001); 그리고 가장 완전하게는 나의 책 Anthropic Bias: Observation Selection Effects in Science and Philosophy(인간중심적 편향: 과학과 철학에서의 관찰자 선택 효과), Routledge, New York, 2002.

[12] 예컨대 J. Leslie, “Is the End of the World Nigh?”(세계의 종말이 가까운가?), Philosophical Quarterly 40, 158: 65-72 (1990)를 보라.

[13] 인류 생존에 대한 현재 및 예견되는 미래의 위협에 관한 개관과 분석은 나의 논문 “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.”(실존적 위험: 인류 멸종 시나리오와 관련 위해의 분석), Journal of Evolution and Technology, vol. 9 (2001)를 보라.

[14] 예컨대 Drexler (1985) 앞의 책, 그리고 R. A. Freitas Jr., “Some Limits to Global Ecophagy by Biovorous Nanoreplicators, with Public Policy Recommendations.”(생물포식 나노복제자에 의한 지구 생물권 섭식의 몇 가지 한계, 공공정책 권고 포함), Zyvex 프리프린트 4월 (2000), http://www.foresight.org/NanoRev/Ecophagy.html을 보라.

[15] 이 논문의 사적으로 회람된 초기 판본에서 촉발된, (3)의 귀결에 대한 다른 저자의 성찰로는 R. Hanson, “How to Live in a Simulation.”(시뮬레이션 안에서 사는 법), Journal of Evolution and Technology, vol. 7 (2001)을 보라.