논문 조회 수
파인만의 식당 문제를 풀다 — 최적해와 인간의 전략
Resolving Feynman’s restaurant problem reveals optimal solutions and human strategies
핵심 질문 — 남은 기회가 정해져 있을 때, "아는 최고"를 계속 고를지 "새것"을 시도할지의 최적 규칙은 무엇이고, 사람은 실제로 그 규칙에 얼마나 가깝게 행동하는가?
선행 개념
- 탐색–활용 트레이드오프 — 새 선택지를 시도해 정보를 얻는 것(탐색)과 지금까지 최고였던 선택지를 반복하는 것(활용) 사이의 긴장. 이 논문의 전 구조가 이 한 축 위에 있다.
- 최적 정지(optimal stopping) — 순차적으로 오는 선택지들 앞에서 "언제 탐색을 멈출까"를 결정하는 문제군. 비서 문제가 대표적이지만, 파인만 문제는 분포를 알고·되돌아갈 수 있고·합계를 최대화한다는 세 가지가 다르다.
- 기대값 — 각 정책의 성적은 "남은 밤 동안 얻을 점수 합의 기대값"으로 비교된다. 마지막 밤의 최적 임계값이 분포의 평균이 되는 이유도 여기서 나온다.
- 임계값 정책(threshold policy) — "지금까지 본 최고값이 기준선을 넘으면 활용, 아니면 탐색"이라는 형태의 규칙. 최적해도, 인간의 휴리스틱도 모두 이 형태이고 차이는 기준선의 모양(곡선 vs 직선)뿐이다.
- 균등분포 외 세 분포 — Exponential(급감 꼬리), Power Law(두꺼운 꼬리), Triangular(큰 값 쪽 쏠림). 꼬리가 두꺼울수록 "더 좋은 게 나올 수 있으니" 임계값이 높아진다는 직관만 잡으면 된다.
멘탈 모델 — 균등분포에서 파인만의 답은 "남은 밤이 n이면 임계값 = √n/(√n+1)"인 감소 곡선이다. 사람은 이 곡선 대신 직선 하나를 쓴다: 임계값이 남은 밤의 비율에 비례해 내려가되, 기울기는 모든 조건에서 동일하고 절편만 분포(꼬리 두꺼움 = 절편 위로)와 총 밤 수에 따라 이동한다. 이 단순 직선이 최적해의 성능에 거의 근접한다.
권장 읽기 순서 — 요약만: Significance → Abstract → Fig 2(B·C·D 순서로 임계값 그림) → Fig 4(성능 비교). 약 5–7분이면 결론 전체가 잡힌다. 완독: 위 요약 경로 후 Results의 Optimal Policy(수식 1–4, 임계값이 분포마다 어떻게 달라지는지) → Identifying Human Policies(실험 설계: N=2,520, 분포 4종 × 총 밤 7/14/28, 1인 1회 시행) → 조기 탐색 보너스(Eq. 6–7) → Discussion의 선행연구 대비 절. 약 30–40분. 수식 유도 자체는 SI Appendix에 있으므로 본문에서는 결과 형태만 따라가면 된다.
점검 질문
- 파인만 문제는 비서 문제·멀티암드 밴딧과 각각 어디가 다른가? (분포를 아는가, 되돌아갈 수 있는가, 무엇을 최대화하는가, 관측에 노이즈가 있는가)
- 사람의 임계값 직선에서 조건이 바뀔 때 변하는 것은 기울기인가 절편인가 — 그리고 절편은 분포의 어떤 성질에 따라 어느 방향으로 움직이는가?
- 최적 곡선 대신 직선 휴리스틱을 써도 성능 손실이 거의 없다는 결과는 "자원 합리성(resource rationality)" 관점에서 무엇을 시사하는가? 단, 사람이 직선에서 벗어나는 유일한 구간은 어디이며 왜 그럴 수 있는가?
파인만이 1970년대 말 태국 식당에서 냅킨 수학으로 풀어놓고 출판하지 않은 "식당 문제"를 약 50년 만에 해독·증명·일반화하고, 2,520명 사전등록 실험으로 인간은 최적해 대신 "남은 기회 비율에 선형으로 감소하는 임계값"이라는 준최적 휴리스틱을 쓰되 그 성능이 최적에 거의 근접함을 보인 논문. PNAS 2026년 6월 1일, 123(23) e2509612123 (Christian·Russek·Griffiths).
① 노트의 정체 — 반세기 미스터리의 해독
- 1970년대 말, 리처드 파인만이 친구 랄프 레이턴(Ralph Leighton)과 캘리포니아 글렌데일의 태국 식당 인드라(Indra)에서 점심을 먹다 "늘 시키던 진저 치킨 vs 새 메뉴" 딜레마를 수학 문제로 정식화해 풀었다.
- 파인만은 이를 출판하지 않았고, 레이턴이 보관한 손글씨 노트만 남아 거의 50년간 해독 불가 상태였다. 저자들이 노트를 해독해 원 문제와 해를 복원했다 (노트 원본은 Michael A. Gottlieb 제공).
② 문제 정의 — 순수한 탐색–활용 트레이드오프
- 설정: 각 식당(메뉴)은 [0,1] 균등분포에서 뽑힌 고정 가치를 가지며, 방문(주문)해야만 그 값이 드러난다. N번의 식사 동안 가치 총합을 최대화하려면 매번 "새 식당 탐색(explore)" vs "지금까지 최고였던 곳 재방문(exploit)"을 골라야 한다.
- 비서 문제와의 차이 3가지: 분포를 알고 있고, 이전 방문지로 되돌아갈 수 있으며, 목표가 "최고 하나 찾기 확률"이 아니라 "총점 최대화"다. 멀티암드 밴딧과의 차이: 관측이 확률적이지 않고 참값이 한 번에 정확히 관측된다 — 그래서 탐색–활용 갈등을 노이즈 없이 가장 순수한 형태로 담는다.
③ 파인만의 해와 최적성 증명
- 파인만의 해: 남은 밤 수가 n일 때 임계값 tn = √n/(√n+1)을 넘는 식당을 만날 때까지 매일 새 곳을 탐색하고, 넘는 순간 그 식당만 남은 기간 내내 재방문한다.
- 저자들은 이 정책이 실제로 최적임을 완전한 유도와 함께 증명했다 (SI Appendix). 마지막 밤의 최적 임계값은 항상 분포의 평균이다.
④ 일반화 — 분포별 닫힌형 최적해
- 균등분포를 넘어 3개 분포의 닫힌형 해를 추가 유도: 지수분포는 tn = 1 + W[(n−1)/e] (램버트 W 함수), 멱법칙 분포(p(x)=2x−3)는 tn = √(n+1) 꼴의 제곱근 스케일링, 삼각분포는 cos·arcsin이 결합된 닫힌형 (n=1일 때 2/3).
- 네 분포 모두 임계값은 남은 밤 수가 줄수록 감소하지만 형태는 분포에 의존한다. 크기 순서는 초기엔 멱법칙 > 지수 (heavy tail 효과), 전체적으로 (지수, 멱법칙) > 균등 > 삼각 — 최적 의사결정자라면 분포에 맞춰 임계값을 조정해야 한다.
- Sang et al.의 이산 균등 설정 해가 연속 극한에서 파인만의 해와 동치임도 증명했다.
⑤ 인간 행동 실험 — 선형 임계값, 그러나 최적에 근접
- 사전등록 실험 (OSF), 미국 Prolific 참가자 2,520명 (18–94세, 평균 40.4세): 분포 4종 × 총 밤 수 3종 (7·14·28) × 클램핑 7조건 × 각 30명. 참가자는 본 과제 전 표본값 84개로 분포를 학습했고, 각자 단 1회만 수행해 과제 내 학습 혼입을 제거했다 — 기존 연구들(20–200회 반복)과의 결정적 차별점.
- 핵심 결과: 인간의 임계값은 최적 정책의 비선형 곡선이 아니라 "남은 밤의 비율(n/T)"에 대해 선형으로 감소했다. 최선 모형에서 기울기는 12개 조건(총 밤 수 × 분포) 전체에 걸쳐 단일 공유 값이었고, 절편만 조건별로 달랐다.
- 절편의 분포별 순서는 최적 정책과 일치: (지수, 멱법칙) > 균등 > 삼각. 분포 민감성은 χ²(9)=322.3, P<0.001로 확인됐고, 분포 쌍별 검정도 지수=멱법칙 쌍(P=0.023, ΔBIC는 −11.1로 BIC상 비지지)을 제외한 전 쌍에서 P<0.001. 절편은 총 밤 수가 늘수록 감소했다.
- 초반 과탐색 편향: 첫 며칠은 선형 예측보다 임계값이 높았고, 경과 밤 수에 지수적으로 감쇠하는 탐색 보너스를 더하면 적합이 개선됐다 (최선 선형 모형 대비 ΔBIC=79.7). 1회성 수행이라 첫 식당에 조기 확정하기를 꺼린 탓일 수 있다.
- 성능: 선형 제약의 기대값 손실은 극히 작았고, 참가자들의 실제 점수와 (노이즈 제거 시) 참가자 적합 선형 모형의 기대값은 최적 정책에 필적했다 — 무클램핑 조건에선 운 좋은 참가자 덕에 최적을 넘긴 조건도 있었다.
⑥ 함의 — 자원합리적 휴리스틱
- 사람들은 완전 최적 정책 대신 "기울기는 고정, 절편만 분포·기간에 맞춰 조정하는 선형 임계값"이라는 계산적으로 값싼 전략을 쓰며, 이것이 최적에 거의 근접한다 — 인지 제약 하의 자원합리적(resource-rational) 의사결정의 정제된 사례.
- 노이즈 없는 관측 덕에 탐색–활용 트레이드오프를 가장 깨끗하게 연구할 수 있는 과제로, 저자들은 파인만 식당 문제가 비서 문제·멀티암드 밴딧과 나란한 기본 패러다임으로 자리잡기를 제안한다. 한계: 고정·결정론적 가치, 실비용 부재, 1회 수행이라 전략의 학습·적응 과정은 미측정 (향후 메타학습 연구 과제).
핵심 수치
사전등록 실험 참가자
가치 분포 조건 (균등·지수·멱법칙·삼각)
총 밤 수 3조건
파인만의 최적 임계값
노트가 미해독으로 남은 기간
참가자당 과제 수행 횟수 (학습 혼입 제거)
PNAS 123(23) 게재
"we have resolved the mathematical puzzle he left behind" — 저자 결론부. 파인만이 태국 식당에서 노트를 끄적인 지 40여 년 만이다.
게재 메타데이터(Crossref)·사전등록(OSF API)·파인만 노트 공개 페이지·역사적 계보(Gardner/Robbins/Gittins)·실험 수치(2,520명, 84조건)·언론 보도가 전 항목 교차 일치. Uniform 임계값 공식 tn = √n/(√n+1)은 독립 DP 검산(n=2에서 2−√2 = √2/(√2+1))으로 재현되어 수학 스팟체크까지 전 항목 green이다.
항목별 검증
PNAS 원문 페이지는 봇 차단(HTTP 403)이라 권위 대체 소스인 Crossref API로 검증: 제목·저자 3인·123권 23호·e2509612123·접수 2025-04-30/승인 2026-03-31/온라인 2026-06-01(인쇄판 06-09)·CC BY-NC-ND 4.0(오픈 액세스)·NOMIS 재단 펀딩까지 원문 기재와 전부 일치. 편집자 Ayelet Fishbach(시카고대) 기재도 스크랩 원문에서 확인.
Crossref 소속 정보: Christian = Oxford 실험심리학과(ORCID 0000-0001-5277-8939), Russek = Hunter College CUNY 심리학과, Griffiths = Princeton 컴퓨터과학+심리학과(ORCID 0000-0002-5138-7255). Christian과 Griffiths가 《Algorithms to Live By》(2016) 공저자라는 것은 널리 확립된 사실이며, 언론 보도(phys.org)도 동일 인물로 보도.
해당 페이지 직접 접근은 403이나, 검색 교차로 페이지 실재와 내용 확인: The Feynman Lectures 웹사이트 편집자 Michael Gottlieb의 1인칭 기록으로, 2002년 Ralph Leighton과 글렌데일 타이 식당 Indra에서의 회고, 1970년대 파인만-레이턴 점심 대화, 노트 스캔 제공 경위가 담겨 있으며 이는 논문 본문의 서술(Indra, Glendale, Leighton 제공 노트)과 정확히 일치. 단, 노트 이미지 출처는 "Caltech Archives"가 아니라 논문 크레딧 기준 "Courtesy of Ralph Leighton / Richard P. Feynman (estate)"이다.
Ferguson(1989) "Who Solved the Secretary Problem?"(Statistical Science 4(3):282–289)이 확인해주는 정설: secretary problem의 최초 활자화는 Gardner의 1960년 2월호 Scientific American 칼럼("game of googol"). Robbins(1952) "Some aspects of the sequential design of experiments"(Bull. AMS 58:527–535)는 현대 멀티암드 밴딧의 기원 논문으로 확인. Gittins index는 Gittins & Jones(1974)에서 증명, Gittins(1979) "Bandit Processes and Dynamic Allocation Indices"(JRSS-B 41(2):148–164)로 정립 — 모두 실제 문헌과 일치.
강한 내적 일관성 확인: 논문의 "마지막 밤 최적 임계값 = 분포 평균" 서술이 네 분포 모두에서 공식과 정확히 맞아떨어진다 — Uniform 1/2, Exponential 1+W(0)=1, Power law(p(x)=2x⁻³, 평균 2) t₁=2, Triangular(p(x)=2x, 평균 2/3) t₁=2/3. 독립 DP 수치검산(순수 파이썬, 2001-격자)으로 마지막 밤 임계값 0.5와 "남은 밤 수에 따라 단조 감소하는 임계값 정책" 구조를 재현했다. 독립 DP가 낸 n=2 임계값 2−√2≈0.586은 정확히 √2/(√2+1) — 논문의 √n/(√n+1) 공식과 완전 일치한다. (검증 과정에서 잡은 것: 웹페이지 평문 추출은 √ 기호를 유실해 임계값이 n/(n+1)처럼 읽힌다 — 원본 MathML 대조로 √n/(√n+1)이 정본임을 확정했고, 이 문서의 완역 수식은 원본 MathML을 그대로 보존한다.) optimal stopping 표준 문헌(Ferguson UCLA 교과서: secretary problem·Gittins index 장 포함)의 실재도 확인.
내적 일관성: 초록·본문 Methods·OSF 사전등록의 참가자 수가 전부 2,520으로 일치하고, OSF 등록서의 계획(84개 조건 = 밤 수 × 분포 × clamping)과 절차 서술이 논문과 정합. 절편 순서(Exponential·Power Law > Uniform > Triangular)가 최적 정책의 임계값 순서와 같은 방향이라는 서술도 본문·그림 캡션 간 일관. phys.org 보도가 "비선형 최적 임계값 대신 동일 기울기·상이 절편의 선형 임계값, 성과는 최적에 근접"으로 동일하게 교차 확인. 주의: 인간의 임계값이 선형이라는 것이지, 최적 정책 자체는 대부분의 분포에서 비선형이다.
OSF API로 확인: GUID 9e5g7은 공개 Registration "Feynman Restaurant Study", 등록일 2023-08-07, 저작권자 Brian Christian·Evan Russek·Tom Griffiths. 등록 내용(레스토랑 탐색-활용 과제, Prolific 2,520명, 84조건, 임계값 모델 분석 계획)이 논문 Methods와 일치하며, 등록일이 논문 접수일(2025-04-30)보다 앞서 사전등록 주장도 성립.
검색으로 Nature(news, d41586-026-00821-4 "Feynman solved the 'restaurant dilemma' 50 years ago")·Science News·Scientific American·Live Science·phys.org·Nautilus 보도를 확인, 이 중 phys.org 기사 전문을 직접 열람해 논문 내용과 대조 완료. 폭넓은 보도 규모는 문서가 언급하는 높은 화제성(Altmetric)과 부합한다(Altmetric 수치 자체는 미검증).
파인만의 레스토랑 문제를 풀다 — 최적해와 인간의 전략
유의성 (Significance)
리처드 파인만(Richard Feynman)은 어떤 의사결정 문제와 그 풀이를 손으로 쓴 노트에 남겼지만, 그 노트의 의미는 거의 50년 동안 수수께끼로 남아 있었다. 우리는 파인만의 노트에서 문제와 풀이를 해독해 내고, 파인만의 해가 최적임을 증명한다. 그의 결과를 일반화하여 다른 분포들에 대한 닫힌 형태(closed-form)의 해를 구한 뒤, 인간이 이런 의사결정 문제를 실제로 어떻게 푸는가라는 질문으로 넘어간다. 2,520명이 참가한 사전등록 실험에서, 인간은 남은 시행의 비율에 따라 선형적으로 감소하는 결정 임계값을 사용하며, 파인만이 찾아낸 최적해에 놀랄 만큼 근접한 성과를 낸다는 결정적 증거를 발견했다.
초록 (Abstract)
1970년대에 물리학자 리처드 파인만은 친구와의 점심 식사를 수학 문제 — 여러 끼니에 걸쳐 요리 선택을 어떻게 최적화할 것인가 — 로 바꾸어 놓았지만, 그의 손글씨 노트는 수십 년간 수수께끼로 남아 있었다. 여기서 우리는 완전히 해독된 문제와 풀이를 제시하고, 그 최적성을 증명하며, 관련 문제들로 일반화하고, 그 결과를 인간의 행동과 비교한다. 최적 정책(optimal policy)은 새로운 요리를 탐색(explore)하다가 최고의 요리를 활용(exploit)하는 쪽으로 전환하기 위한, 시간이 지날수록 감소하는 임계값들을 명시하며, 이 임계값은 요리 품질의 분포에 따라 달라진다. 우리는 이 결과를 파인만의 문제와 매우 가까운 변형들을 탐구해 온 최적 정지(optimal stopping) 문제에 관한 기존 심리학 문헌과 연결하고, 해의 일반화를 이용해 선택지 품질의 기저 분포가 사람들의 선택에 어떤 영향을 미치는지 탐구한다. 참가자 2,520명의 사전등록 실험은 사람들이 남은 시행의 비율에 따라 선형적으로 감소하는 임계값을 채택함을 보여 주며, 이는 다른 최적 정지 문제들에서 관찰된 선형 임계값과 일치한다. 그러나 우리는 사람들이 선형 임계값이 예측하는 것보다 더 많이 탐색하는 경향이 있으며, 품질 분포가 달라지면 기울기는 같지만 절편이 다른 임계값이 나타난다는 것을 보인다. 이 결과들은 사람들이 최적 정지 과제에서 쓰는 선형 임계값을 기저 분포에 민감한 방식으로 조정한다는 것을 시사한다 — 우리는 이 단순한 전략이 파인만의 해에 거의 필적할 만큼 효과적임을 보인다.
1970년대 후반, 물리학자 리처드 파인만은 캘리포니아 글렌데일의 인드라(Indra)라는 태국 음식점에서 친구 랠프 레이턴(Ralph Leighton)과 점심을 먹으러 앉았다. 레이턴은 그동안의 최애 메뉴(생강 치킨)를 주문할지, 아니면 더 나을 가능성이 있는 새로운 요리를 시도할지 고민하고 있었다. 파인만은 이 딜레마를 수학 문제로 바꾸었고 — 풀어냈다. 안타깝게도 파인만은 자신의 분석을 끝내 발표하지 않았다. 그 대화에서 남은 것은 레이턴이 우연히 보관하게 된 그의 손글씨 노트뿐이었다(그림 1). 이 노트는 우리가 해독에 성공해 파인만의 원래 문제와 풀이를 재구성해 내기까지 수십 년 동안 난해한 채로 남아 있었다.
파인만은 특정 레스토랑 안의 개별 요리에 초점을 맞췄고 우리는 특정 도시 안의 레스토랑들을 상상하지만, 문제의 정식화는 동일하다. 각 레스토랑은 0과 1 사이의 고정된 가치를 가지며(또는 각 레스토랑의 백분위 순위를 평가한다고 볼 수도 있다), 이 가치는 처음 방문해 보기 전까지는 알 수 없다. 가치들은 균등(Uniform) 분포를 따른다고 가정하며, 0과 1 사이의 어떤 값이든 똑같이 나올 수 있다. 물론 이것은 인간 외식 행동의 온전한 복잡성 — 레스토랑의 품질은 시간에 따라 변할 수 있고, 포만감·새로움·사회적 영향 같은 요인들이 얽힌 복잡하고 동적인 선호가 존재한다는 점(1–6) — 을 크게 단순화한 것이지만, 그 핵심 질문은 누구나 공감할 친숙한 인간적 곤경을 포착한다: 일정한 밤 수만큼 도시에 머무는 사람이 각 밤의 가치의 총합을 최대화하려면 매일 밤 어느 레스토랑에 갈지 어떻게 결정해야 하는가?
파인만의 레스토랑 문제는 이른바 최적 정지(optimal stopping) 문제(7, 8)의 한 사례다. 그런 점에서 이 문제는 유명한 비서 문제(secretary problem)(9)와 같은 범주에 속한다. 비서 문제에서 면접관은 최고의 지원자를 채용할 확률을 최대화하려 하지만 지원자들을 서로 상대적으로만 평가할 수 있다. 이 문제를 외식 상황으로 옮기면, 일련의 식사에 걸쳐 최고의 레스토랑을 고를 확률을 최대화하는 것이 목표라고 가정하는 셈이 된다. 그러나 파인만의 문제는 고전적 비서 문제와 세 가지 점에서 다르다: 레스토랑들이 뽑히는 분포가 알려져 있고, 식사하는 사람은 이전에 방문했던 레스토랑에 다시 갈 수 있으며, 목표는 단 하나의 최고 선택지를 식별할 확률이 아니라 여러 밤에 걸친 총점을 최대화하는 것이다.
파인만의 레스토랑 문제는 유한 시계(finite-horizon) 다중 슬롯머신(multi-armed bandit) 문제(10, 11)와도 밀접하게 관련된다. 이 문제에서 의사결정자는 보수가 서로 다른 선택지들의 집합(예: 도박 기계의 서로 다른 레버들)을 마주하고, 정해진 횟수만큼 그 선택지들을 시도하여 얻는 총 보수를 최대화하려 한다. 이것 역시 레스토랑들을 서로 다른 선택지로 취급하면 외식 맥락으로 옮길 수 있다. 여기서 핵심적인 차이는, 다중 슬롯머신 문제에서는 보수가 보통 확률적(stochastic)이어서 참값 주위에 분포가 존재하는 반면, 파인만의 문제에서는 레스토랑의 참된 가치가 직접 관측된다는 점이다. 다중 슬롯머신 문제처럼 파인만의 레스토랑 문제도 새로운 선택지의 탐색과 지금까지 획득한 지식의 활용 사이의 긴장을 만들어 내지만, 불확실한 관측을 다루지 않고도 그렇게 한다.
최적 정지 문제는 일상에서 자주 등장한다. 무엇을 먹을지 고르는 일뿐 아니라, 집 구하기, 결혼 상대 정하기, 주차 자리 고르기, 직장을 그만둘 시점 알기 등에서 나타난다(12). 사람들이 비서 문제의 변형들(13–17)과 다중 슬롯머신 문제(18–25)를 어떻게 푸는지에 대해서는 방대한 문헌이 축적되어 있다. 파인만의 레스토랑 문제는 이 정전(canon)에 값진 추가가 된다: 불확실한 관측을 제거함으로써 탐색-활용(explore–exploit) 트레이드오프를 유난히 순수한 형태로 연구할 수 있게 해 주고, 최적 정책에 대한 닫힌 형태의 표현이 존재하기 때문에 인간 행동과의 비교가 쉬워진다. 실제로 이전의 행동 실험들은 파인만의 레스토랑 문제와 유사한(26–28) 또는 그 변형인(29, 30) 최적 정지 문제들을 사용해 왔다(자세한 분석은 논의 참조). 여기서 우리는 이 문제의 여러 변형에 대해 우리가 유도한 최적해들과, 사람들의 행동을 유례없이 선명하게 들여다볼 수 있게 해 주는 혁신적인 실험 설계를 함께 활용하여, 심리학 문헌의 결과들과 파인만이 찾은 해 사이에 직접적인 평행선을 긋는다. 그 결과 우리는 파인만이 40여 년 전에 처음 제기한 문제를 다시 푸는(re-solve) 데 그치지 않고, 사람들이 이런 과제를 어떻게 수행하는가라는 질문 자체를 해소(resolve)하기를 희망한다.
결과 (Results)
최적 정책 (Optimal Policy)
파인만의 노트를 분석한 결과, 그는 선택지의 가치 x가 균등 분포 — x ∈ [0, 1]에 대해 p(x) = 1, 즉 0과 1 사이의 어떤 값이든 똑같이 나올 수 있는 분포 — 를 따른다고 가정했음이 드러났다. 그런 다음 그는, 최적 정책이란 남은 밤 수를 n이라 할 때 임계값 tn을 넘는 가치의 선택지를 만날 때까지 매일 밤 서로 다른 선택지를 시도하는 것이며, 그 임계값은
[1]
이고, 그 이후로는 남은 밤 동안 오로지 그 선택지만 고르는 것이라고 논증했다. 우리는 파인만의 노트로부터 이 문제를 재구성했으며, 파인만 해의 완전한 유도와 최적성 증명을 SI 부록에서 제공한다.
파인만의 문제와 그 최적해에 대한 우리의 특성화 덕분에, 그 해를 일반화된 형태로 표현할 수 있게 되었다. 그 결과 균등 분포를 넘어서는 레스토랑 문제에 대해서도 해석적(analytical) 해를 얻을 수 있다. 이 해들의 성격을 탐구하기 위해, 우리는 세 가지 추가적인 가치 분포 — 지수(Exponential), 멱법칙(Power Law), 삼각(Triangular) 분포(그림 2A) — 에 대한 닫힌 형태의 해를 유도했다. 이 분포들은 균등 분포와 좋은 대비를 이룬다: 빠르게 감소하는 지수적 꼬리(지수 분포), 천천히 감소하는 "두꺼운(heavy)" 꼬리(멱법칙 분포), 그리고 큰 값 쪽으로 치우친 특이한 왜도(삼각 분포). 따라서 이들은 최적 임계값의 형태를 탐구하고 이 과제에서의 인간 행동을 평가하는 데 유용한 집합이 된다.
지수 분포는 에 대해 를 가정한다. 우리는 이것이 다음의 최적 임계값을 낳음을 보인다:
[2]
여기서 는 람베르트 W 함수(Lambert W function)다. 우리가 분석하는 멱법칙 분포는 에 대해 를 가정한다. 우리는 이것이 다음의 최적 임계값을 낳음을 보인다:
[3]
삼각 분포는 에 대해 를 가정한다. 우리는 이것이 다음의 최적 임계값을 낳음을 보인다:
[4]
이 분포들을 정의하는 데 사용된 특정 상수들은 임계값의 해석적 표현을 단순하게 만들기 위해 선택된 것이다 — 실험에서는 그림 2에 보이고 아래에서 설명하듯 이 분포들의 재척도화된 값들을 사용한다. 모든 분포에 대한 최적 임계값의 유도는 SI 부록에 제공되어 있다.
네 분포 모두에서 임계값 tn은 시간이 흐름에 따라(남은 밤 수 n이 줄어듦에 따라) 감소하며, 그 함수의 형태는 분포에 따라 달라진다(그림 2B). 실제로 분포는 결과 임계값에 상당한 영향을 미친다: 멱법칙 분포의 두꺼운 꼬리는 다른 어떤 분포보다도 높은 임계값에서 출발한다는 것을 의미하고, 그다음이 지수 분포인데 이 역시 높은 값을 만들어 낼 수 있지만 그 빈도는 더 드물다. 반면 삼각 분포는 균등 분포보다 최대값이 낮고, 그 결과 최적 임계값도 더 낮다. 따라서 가치의 분포에 민감한 의사결정자라면 이런 차이를 반영해 자신의 임계값을 조정해야 마땅하다.
인간의 정책 식별하기 (Identifying Human Policies)
이 문제와 여러 분포 하에서의 해를 복원하고 나니 자연스러운 질문이 떠올랐다: 사람들은 실제로 파인만의 레스토랑 문제를 마주하면 어떻게 행동하는가? 사실 심리학자들은 파인만의 원래 정식화와 매우 가까운 경우들을 탐구해 왔다: Song 외(29)는 선택지가 균등 분포가 아니라 가우시안(Gaussian) 분포에서 뽑히는 문제를 다뤘고, Sang 외(30)는 선택지가 이산적인 값들의 집합 위의 균등 분포에서 뽑히는 문제를 정의했다(그리고 그 동기로 파인만 문제의 한 버전을 언급했다). Song 외는 수치적 해에 의존했고, Sang 외는 후향 귀납법(backward induction)을 사용해 자신들의 이산적 설정에서 해를 유도했는데, 우리는 그 해가 연속 극한에서 파인만의 해와 동치임을 보일 수 있었다(증명은 SI 부록 참조). 이들 실험과 관련 최적 정지 문제에 대한 다른 실험들(26–28)의 증거는, 사람들이 최적 전략을 따르지 않고 그 대신 선형적으로 감소하는 임계값을 쓰는 경향이 있음을 시사한다. 선형적으로 감소하는 임계값의 사용은 이런 과제에 대해 준최적(suboptimal) 휴리스틱으로 보일 수 있지만, 이 휴리스틱이 최소한의 계산 비용으로 최적 정책을 근사하는 것일 가능성도 있다(31, 32). 대규모 실험 설계와 위에서 얻은 수학적 결과를 사용하여, 우리는 사람들이 서로 다른 분포로 정의된 파인만 문제의 버전들에 대해 실제로 선형적으로 감소하는 임계값을 사용하며, 이 선형 함수들이 동일한 기울기를 공유하되 절편은 최적해와 일치하는 방식으로 달라진다는 것을 결정적으로 보인다. 그러나 우리는 의사결정 초기에 이 선형 임계값에서 의미 있는 이탈이 존재하며, 이는 초기의 탐색 편향과 일치한다는 것도 보인다.
실험에서 우리는 참가자들(N = 2,520)에게 매일 밤 어느 레스토랑에서 먹을지 고르는 문제를 소개하면서, 레스토랑마다 품질이 다르지만 그 품질은 방문해야만 관측할 수 있다고 설명했다. 따라서 매일 밤 참가자들은, 지정된 분포에서 가치가 표집되는 새 레스토랑을 시도하거나("탐색"), 이전에 만난 최고의 레스토랑으로 되돌아가거나("활용")를 결정하게 된다. 레스토랑 가치는 위에서 소개한 네 분포 중 하나에서 표집되었고, 이는 참가자 간(between-participants)에 변화시켰다. 참가자에게 보이는 값을 생성하기 전에, 이 분포들은 평균이 0부터 100까지의 균등 분포의 평균(즉 50)과 같아지도록 곱셈적으로 재척도화되었다. 이 선택의 동기는, 마지막 밤의 최적 임계값이 단순히 분포의 평균이라는 사실이다. 따라서 동일한 평균을 쓰면 네 분포 모두에서 마지막 밤의 임계값이 같아지고, 이들이 같은 척도 위에 놓이게 된다(그림 2B). 본 실험 — 정해진 밤 수 동안 원하는 레스토랑을 방문할 기회가 주어지는 — 을 시작하기 전에, 참가자들은 자신이 방문할 도시에서 만나게 될 분포에서 표집된 84개의 값을 관찰했다. 분포들의 형태는 상당히 다르며(그림 2A), 통제 실험을 통해 사람들이 84개의 표본 값을 관찰하는 것만으로 이 네 분포를 구별할 수 있음이 확인되었다(SI 부록). 즉 사람들은 자신의 전략을 기저 분포에 맞게 수정할 수 있을 만큼 충분한 정보를 갖고 있었다. 전체 밤 수 역시 참가자 간에 변화시켰다(7, 14, 28). 마지막으로, 시행 후반의 임계값을 추정하기에 충분한 관련 결정들을 확보하기 위해, 참가자들은 전체 밤 수의 일정 비율이 지날 때까지 새 레스토랑의 최대 가치를 제한하는 숨겨진 클램핑(clamping) 조건에 배정되었다(재료 및 방법 참조). 각 참가자는 단 한 번의 결정 시퀀스만 수행했으므로, 성공이나 실패를 바탕으로 전략을 조정할 기회는 없었다.
마지막 밤의 임계값이 일치하도록 척도를 맞춘 뒤, 남은 밤들에 걸친 분포별 최적 임계값의 크기는 다음 순서로 달라진다: (지수, 멱법칙) > 균등 > 삼각. 이때 지수와 멱법칙의 순서는 일정하지 않다(초반에는 멱법칙이 더 높고, 후반에는 지수가 더 높다). 참가자들이 사용하는 휴리스틱 전략이 최적 정책의 특성을 보이는지 판별하기 위해, 우리는 참가자들이 분포에 따라 유사한 방식으로 달라지는 임계값을 사용했는지 검토했다.
사전등록된 분석 계획에 따라, 참가자들이 지금까지 본 최고 보상 b를 남은 밤 수 n, 전체 밤 수 T, 분포 D에 의존하는 임계값 와 비교하여 결정한다고 가정하는 로지스틱 모델을 적합함으로써 참가자들이 사용한 임계값을 검토했다:
[5]
여기서 β는 로지스틱의 이득(gain)으로, 임계값 주변에서 사람들의 선택이 얼마나 결정론적인지를 나타낸다.* 여기서 는 귀속된(imputed) 로지스틱 임계값(모델의 50% 무차별점)이며, 반드시 평점 분포의 지지집합(support) 안에 있을 필요는 없다. 가능한 최대 평점을 넘는 값은 참가자들이 척도의 꼭대기에서조차 계속 탐색했음을 뜻할 뿐이고, 음수 값은 그 시점까지 본 최고 점수가 아무리 낮아도 참가자들이 대체로 활용하는 경향이 있었음을 뜻한다.
최적 정책과 일치하게, 임계값 의 최대우도 추정치는 남은 밤 수가 줄수록 감소했다(그림 2C, 마커). 그러나 최적 정책과 달리, 그리고 선행 보고들(26, 29)과 일치하게, 감소는 선형이었고 전체-밤-수 조건에 대한 의존성도 나타났다. 마지막으로, 임계값은 최적 정책과 일치하는 방식으로 분포에 따라서도 달라졌다: 각 전체-밤-수 조건 안에서, 절편은 최적 임계값과 같은 순서(지수, 멱법칙 > 균등 > 삼각)로 어긋나 있었다(그림 2D).
선형 임계값에 대한 분포의 효과 (Effects of Distribution on Linear Thresholds)
임계값이 분포에 따라 다를 것이라는 우리의 사전등록된 예측은 세 가지 요인을 가진 요인적(factorial) 모델 비교(33)로 확증되었다. 나아가 이 모델 비교는 선형 관계의 본질을 명확히 구분할 수 있게 해 주었다. 모든 모델은 임계값이 선형 함수 에 따라 달라진다고 명시했다. 첫 번째 요인은 선형 함수가 어떤 과제 변수 위에서 정의되는지를 지정했다: 남은 밤 수(x = n), 남은 밤의 비율(x = n/T), 또는 경과한 밤 수(x = T − n). 두 번째 요인은 선형 파라미터(a와 m)가 전체 밤 수 T와 분포 D의 서로 다른 조건에 걸쳐 달라지는지 고정되는지에 관한 것이었다. 세 번째 요인은 어떤 선형 파라미터가 이 과제 조건들에 걸쳐 달라져야 하는지(a, m, 둘 다, 또는 둘 다 아님)를 지정했다. 최고 성능 모델에서 임계값은 남은 밤의 비율에 따라 선형적으로 감소했으며(그림 2C, 실선; 통계 결과는 SI 부록, 그림 S2 참조), 절편은 자유롭게 달라지되 기울기 파라미터는 전체-밤-수와 분포 조건의 열두 조합 모두에서 하나로 공유되었다. 이 모델은 추론된 임계값을 놀랄 만큼 잘 적합하지만, 처음 몇 밤 동안의 탐색 경향은 포착하지 못한다는 점을 지적해 둔다(이는 아래에서 더 자세히 살핀다).
전체 밤 수 × 분포의 열두 조건 모두에 걸쳐 단일 기울기가 쓰인다는 것은 인상적인 간결성(parsimony)을 시사하며, 적합된 절편들은 최적 정책과의 대응을 드러냈다. 분포별 임계값의 예측된 순서는 잘 들어맞았다: 지수와 멱법칙 분포의 절편이 균등 분포의 절편보다 컸고, 균등 분포의 절편이 삼각 분포의 절편보다 컸다(그림 2D). 이 차이들의 유의성은 각 분포 쌍에 대해 두 절편이 같도록 강제한 추가 영모형(null model)을 적합하여 평가했다(표 1); 모든 분포 쌍에서 이 제약 모형들은 더 나쁜 적합을 보였고, 비제약 모형의 유의성은 우도비 검정(likelihood-ratio test)으로 뒷받침되었다. 이는 참가자들의 임계값이 최적 정책이 정성적으로 규정하는 방식으로 분포 간 차이에 민감했다는 결론을 지지한다. 마지막으로, 분포의 효과에 더해 절편이 전체 밤 수가 늘수록 감소한다는 것도 발견했다. 참가자 간 변이를 허용하는 계층적 모형들도 같은 결론을 지지한다(SI 부록).
표 1. 분포 쌍(왼쪽 열)이 절편 파라미터를 공유하도록 제약한 모형들의, 분포마다 별도의 절편 파라미터를 갖는 비제약 모형 대비 성능
| 모형 | ΔBIC | ΔAIC | χ2(3) | P |
|---|---|---|---|---|
| 지수 = 멱법칙 | −11.1 | 1.7 | 9.5 | 0.023 |
| 지수 = 균등 | 11.3 | 24.1 | 54.3 | <0.001 |
| 지수 = 삼각 | 85.3 | 98.1 | 202.2 | <0.001 |
| 멱법칙 = 균등 | 13.8 | 26.6 | 59.2 | <0.001 |
| 멱법칙 = 삼각 | 113.8 | 126.7 | 259.3 | <0.001 |
| 삼각 = 균등 | 26.4 | 39.2 | 84.3 | <0.001 |
ΔBIC와 ΔAIC는 제약 모형과 비제약 모형 사이의 성능 차이를 나타낸다(양수 값은 비제약 모형을 지지한다). 마지막 두 열은 비제약 모형의 추가 파라미터가 정당화되는지를 측정하는 우도비 검정의 통계량을 제공한다.
초기 탐색을 향한 편향 (A Bias Toward Early Exploration)
최적 적합 선형 모형은 참가자들의 임계값이 과제 조건에 따라 어떻게 변하는지를 대체로 잘 설명하지만, 그림 2C는 이 선형 모형이 각 전체-밤-수 조건의 처음 몇 밤에서 임계값을 과소추정함을 보여 준다. 우리는 처음 몇 번의 결정에서 나타나는 이 과잉 탐색(overexploration)이, 경과한 밤 수에 따라 지수적으로 감쇠하는, 선형 임계값에 더해지는 비정상(nonstationary) 보너스로 포착될 수 있음을 발견했다:
[6]
여기서 δ는 첫날 밤의 임계값 상승분(bump)이고, h > 0은 경과한 밤 수 T − n으로 측정한 반감기(half-life)다. 로지스틱 규칙에 들어가는 유효 임계값은
[7]
이며, 여기서 는 선형 모형의 임계값이다. 참가자들의 임계값에 초기 탐색 보너스를 더하면 참가자들의 탐색 결정에 대한 적합이 향상되었고(최적 적합 선형 모형 대비 ΔBIC = 79.7), 처음 몇 밤 동안 참가자들이 보인 더 높은 임계값과 근접한 대응을 보였다(그림 3). 나아가 초기 탐색 보너스를 포함해도 해당 모형에서 절편들의 순서는 바뀌지 않았으며, 어느 선형 모형이 최적 적합인지도 바뀌지 않았다(SI 부록, 그림 S3).
선형 임계값은 근사-최적 성능을 달성한다 (Linear Thresholds Achieve Near-Optimal Performance)
참가자들의 전략은 전반적으로 최적 정책에서 벗어났지만, 과제에 꽤 잘 들어맞는 것이었다. 참가자들이 구현한 정책의 기대값을 계산하고 선형 정책들에 대한 수치 최적화를 수행한 결과, 참가자들은 최적 선형 정책에 가까운 선형 임계값을 사용하면서 최적(비제약) 정책에 필적하는 점수를 달성했음을 발견했다(그림 4). 즉 사람들은 전체 밤 수와 분포의 차이 양쪽에 쉽게 맞출 수 있는 단순한 전략을 따르는 듯하며, 이를 통해 인지적 노력을 최소화하면서 최적 성능에 근접할 수 있다(32).
논의 (Discussion)
이 연구는 리처드 파인만이 처음 제기한 문제를 재방문하여, 불확실성 하의 최적 정지 과제에 인간이 어떻게 접근하는지에 대한 수학적 토대와 경험적 탐구를 함께 제공한다. 우리는 — 역사 속에 거의 묻혀 있던 — 파인만의 원래 분석이 순차적 탐색과 활용을 통해 보상을 최대화하기 위한 우아한 닫힌 형태의 정책을 낳는다는 것을 발견했다. 이 문제는 레스토랑 선택의 언어로 정식화되어 있지만, 새로운 선택지의 잠재적 가치와 과거 경험의 알려진 가치 사이에서 균형을 잡아야 하는 더 넓은 부류의 현실 세계 의사결정을 포착한다.
파인만의 결과 위에 쌓아 올림으로써, 우리는 레스토랑 품질이 네 가지 서로 다른 분포를 따를 때의 최적 정책에 대한 닫힌 형태의 해를 유도할 수 있었다. 이 덕분에 기저 분포가 달라질 때 이 최적 정지 과제에서의 인간 행동이 최적 정책과 어떻게 비교되는지 평가할 수 있었다. 우리의 행동 결과는, 사람들이 이런 환경에서 완전한 최적 전략에 의존하는 것이 아니라 최적 성능을 근사하는 단순한 휴리스틱을 사용한다는 점점 늘어나는 증거의 흐름에 기여한다. 구체적으로 참가자들은 결정 임계값이 남은 시행의 비율에 따라 선형적으로 감소하는 선형 임계값 규칙을 사용했다. 이 구조는 계산 효율성과 조건 간 적응성을 제공한다. 놀랍게도, 이 선형 전략들은 최적 정책에서 벗어나 있음에도, 특히 잡음을 제거하면, 거의 그만큼의 성능을 낸다. 이 결과는 인지적 제약 아래에서 사람들이 단순하지만 효과적인 전략을 구사한다는 자원-합리적(resource-rational) 의사결정의 설득력 있는 사례 연구를 제공한다.
우리는 또한 사람들이 결과의 분포에 따라 임계값을 조절한다는 것 — 참된 최적 정책의 변화를 거울처럼 반영하는 행동 — 을 발견했다. 이 발견은 인간의 인지가 단 한 번뿐인 결정에서조차 환경의 구조적 차이에 대한 섬세한 민감성을 반영함을 시사한다. 닫힌 형태의 해에 기반해 이론적으로 잘 규정된 과제를 사용하고, 학습·기억 교란 요인을 최소화하는 실험 설계를 채택함으로써, 우리는 인간 결정 정책의 구조를 깔끔하고 해석 가능한 방식으로 분리해 낼 수 있었다.
우리의 결과는 또한 선형 임계값 전략으로부터의 의미 있는 이탈 — 과제 초기의 탐색 편향과 일치하는 — 을 식별했다. 이 편향의 원천을 이해하는 것, 그리고 사람들이 자신의 결정 전략을 어떻게 적응시키는지는 향후 연구의 중요한 질문이다. 논문의 나머지에서 우리는 우리의 결과가 이전 발견들과 어떻게 관련되는지 살피고, 현재 연구의 몇 가지 한계와 그것이 시사하는 다른 향후 방향들을 짚는다.
최적 정지에 대한 선행 분석들 (Previous Analyses of Optimal Stopping)
선행 연구들은 관련 최적 정지 문제들 — 그중 일부는 레스토랑 문제의 사례였다 — 에서의 인간 행동을 검토하고 참가자들의 전략을 모델링하려 시도해 왔다. 여기서 우리는 이 연구들을 간략히 리뷰하고 본 논문에서 우리가 취한 접근의 새로운 요소들을 부각한다. 우리가 리뷰하는 모든 선행 연구와 비교할 때, 본 연구의 세 가지 특징은 완전히 고유하다. 첫째, 우리는 이 부류의 문제에 대한 일반 해를 제공하고 여러 분포에 대한 해석적 결과를 얻는다. 둘째, 본 연구의 각 참가자는 과제를 단 한 번만 수행했으므로, 과제 내 학습의 영향 없이 개인의 행동을 검토할 수 있었다. 반면 논의된 선행 연구들의 참가자들은 각 과제를 20회에서 200회 수행하여 상당한 학습이 가능했다. 셋째, 본 연구는 전체 밤 수와 분포 조건 양쪽에 따라 임계값이 어떻게 변하는지도 측정했다. 일부 선행 연구들이 이 변수들 중 하나를 개별적으로 검토하긴 했지만, 둘 다 변화시켜야만 a) 참가자들이 감소하는 선형 함수로 정의된 임계값을 사용했고, b) 이 함수가 남은 밤의 비율 위에서 정의되며, c) 이 함수의 기울기가 전체-밤-수·분포 조건에 걸쳐 일정하고, d) 절편이 최적 임계값과 일치하는 방식으로 분포에 따라 달라진다는 것을 식별할 수 있었다. 이제 각 연구와의 구체적 차이를 차례로 논의한다. 이 연구들이 고려한 최적 정지 문제들의 집합은 SI 부록, 표 S1에 요약되어 있다.
Bhatia 외(27), Wilson 외(28), Baumann 외(26)는 파인만의 레스토랑 문제와 유사하지만 동일하지는 않은 최적 정지 과제에서 인간이 어떻게 행동하는지를 연구했다. Bhatia 외(27)는 (전체 밤 수로 지정되는) 고정된 결정 횟수 대신, 참가자들이 원하는 만큼 오래 탐색할 수 있되 새로 탐색하는 선택지마다 고정 비용을 지불하는 최적 정지 문제를 탐구했다. 레스토랑 문제와 달리 명시적인 시간 지평(time horizon)이 없고 결정당 고정 비용이 있기 때문에, 최적해는 남은 결정 횟수와 무관한 고정 임계값을 쓰는 것이다. 결과에 따르면 참가자들의 행동과 최적 모형의 차이는 위험 회피, 추가적인 주관적 탐색 비용, 그리고 선택지의 가치 주변에 가우시안 오차가 분포한다는 가정으로 설명될 수 있었다.
Wilson 외(28)는 명시적인 시간 지평 대신 게임이 각 결정 후 고정된 확률로 끝나는 관련 과제를 연구했다. 이 정식화 역시 고정 임계값을 갖는 최적 정책을 낳는다. 참가자들의 행동은 표집(sampling) 프레임워크로 잘 기술되었다: 표본을 더 많이 취하면 최적 고정 임계값의 발견과 저잡음 결정으로 이어지고, 표본을 더 적게 취하면 더 낮은 임계값과 더 잡음 많은 결정이 나타났다.
Baumann 외(26)는 참가자들에게 가격이 정규분포를 따르는 일련의 항공권 10장을 수락하거나 거절하도록 했고, 보상은 그 항공권의 비용(또는 절약분)에 대응했다. 파인만의 레스토랑 문제와 달리 항공권을 수락하면 게임이 끝나므로, 참가자들은 여러 선택의 합이 아니라 단 하나의 선택된 항공권의 가치를 최대화해야 했다. 게다가 참가자들은 이전에 만났던 제안으로 되돌아갈 수 없었다. 이런 차이에도 불구하고, 파인만의 레스토랑 문제와 유사하게 최적해는 비선형적으로 감소하는 수락 임계값을 쓰는 것이었다. 우리의 발견과 유사하게, 참가자들은 선형적으로 감소하는 수락 임계값을 쓰는 것으로 가장 잘 모델링되었다. 또한 우리의 발견과 유사하게, 참가자들의 선형 파라미터는 항공권이 뽑히는 분포에 민감했으며 이는 최적 행동과 일치한다. 그러나 시퀀스의 항공권 수가 변화되지 않았기 때문에, 선형 함수가 어떤 변수(예: 남은 밤 수 vs. 남은 밤의 비율 vs. 경과한 밤 수) 위에서 취해지는지는 판별할 수 없었다. 파인만의 레스토랑 문제를 사용했다는 점에 더해, 우리의 발견은 임계값이 남은 밤의 비율에 대한 선형 함수로 정의되며 기울기는 일정하되 절편이 전체 밤 수와 분포에 따라 달라진다는 결과를 추가한다.
인간의 정책 식별하기에서 논의했듯이, Song 외(29)와 Sang 외(30)는 모두 파인만의 레스토랑 문제의 변형인 과제를 사용했다. 그러나 여기서 제시한 연구와 달리, Sang 외는 전체 밤 수의 단일 설정만 테스트했고, 두 연구 모두 단일 분포(각각 가우시안과 이산 균등)만 테스트했기 때문에 분포가 임계값에 미치는 효과를 검토할 수 없었다. 두 연구 모두 참가자들이 전체 밤 수에 따라 선형적으로 감쇠하는 임계값을 사용한다는 것을 발견했고, Sang 외는 관찰된 선형 정책이 자신들의 이산 설정에 대해 계산한 최적 정책에 가깝다는 것도 보였다. Song 외는 전체 밤 수를 변화시킴으로써, 선형 함수가 남은 밤의 비율 위에서 취해진다는 것과 일치하는 전체-밤-수 의존성을 식별했다. 우리의 결과는 i) 문제의 여러 버전에 대한 닫힌 형태의 해를 제공하고, ii) 참가자마다 과제를 단 한 번만 수행하게 하여 학습 관련 잠재 교란을 제거하며, iii) 사람들의 임계값 기울기는 전체 밤 수에 걸쳐 일정하지만 절편은 전체 밤 수와 가치 분포 양쪽에 따라 달라진다는 것을 판별함으로써 이 발견들 위에 쌓아 올린다.
과제를 단 한 번만 수행하게 한 것은 우리 실험에서 관찰된 초기 탐색 편향을 설명하는 데 도움이 될 수 있다. 참가자들은 과제를 한 번만 완료했기 때문에, 처음 만난 레스토랑에 정착(commit)하기를 더 꺼렸을 수 있다. Song 외와 Sang 외가 보고한 임계값들은 이런 초기 탐색 편향을 보이지 않았는데, 이는 경험이 쌓일수록 이른 정착에 대한 편안함이 커지는 것을 반영할 수 있다. 우리는 또한 학습된 전략을 과제에 적응시킬 기회가 더 많아지면 분포별로 사용되는 임계값의 분화가 더 커질 것이라고 가설을 세울 수 있다. 여기서 우리의 초점은 전략을 적응시키는 능력이 아니라 과제 수행 방식에 대한 사람들의 즉각적 직관이었지만, 이 적응 과정을 이해하는 것은 아래에서 더 자세히 논의하듯 향후 연구의 중요한 방향이다.
한계와 향후 방향 (Limitations and Future Directions)
우리의 발견은 이 부류의 최적 정지 문제에 대한 최적 정책과 인간 행동 양쪽에 통찰을 제공하지만, 몇 가지 한계를 논의할 필요가 있다.
첫째, 과제 설정은 — 우아하기는 하지만 — 현실 세계 의사결정의 많은 복잡성을 추상화해 버린다. 예컨대 레스토랑 가치는 고정적이고 결정론적이었으며, 참가자들은 현실적 비용(예: 이동 시간, 돈, 사회적 요인)을 마주하지 않았다. 향후 연구는 잡음·비용·시변 보상의 도입이 결정 정책의 구조와 최적해와의 정렬에 어떤 영향을 미치는지 탐구할 수 있을 것이다. 이는 다른 최적 정지 문제들에서 탐구되어 온 요소들을 도입하는 일이 된다: 잡음을 추가하면 다중 슬롯머신의 영역으로 되돌아가고, 명시적 탐색 비용은 비서 문제의 설정에서 연구된 바 있다(16). 이 차원들의 영향을 탐구하는 것은 최적 정지 문제들의 공간과, 각 차원에 따른 변이가 사람들이 채택하는 전략의 종류에 어떤 영향을 주는지를 더 선명하게 정의할 잠재력이 있다.
둘째, 위에서 논의했듯 선형 임계값 휴리스틱은 참가자당 단 한 번의 결정 시퀀스로부터 추론되었다. 이는 학습에 의한 오염을 피하게 해 주지만, 동시에 전략이 시간에 따라 어떻게 진화하는지는 평가할 수 없음을 뜻한다. 관련하여, 우리의 유도는 가치 분포에 대한 완전한 지식을 가정했지만 사람들은 제한된 표본만으로 이 분포들을 추정해야 했다. 현실 세계의 결정은 흔히 환경 자체에 대한 불확실성을 수반한다. 자연스러운 확장은 메타학습(meta-learning), 즉 사람들이 미지의 분포에 대해 학습하는 동시에 그에 적응해 가는 과정을 검토하는 것이다. 이를 위해서는 고려 대상이 되는 분포들의 집합을 명시적으로 규정해야 한다. 비서 문제(34) 같은 다른 최적 정지 문제들에 대해서는 유사한 분석이 수행된 바 있다. 우리 실험은 이 과제에 대한 경험 없이 사람들이 채택하는 전략을 식별하도록 의도적으로 구성되었지만, Song 외(29)와 Sang 외(30)는 모두 참가자들이 과제를 여러 번 수행할 기회를 갖는 설계를 사용했고 시간에 따른 성과 향상을 관찰했다. 그런 설계는 학습 과정을 연구하고 이를 메타학습에 기반한 형식적 설명과 비교할 수 있게 해 줄 것이다.
셋째, 우리는 참가자 행동을 결정론적 임계값과 로지스틱 잡음으로 모델링했다. 그러나 사람들은 (예컨대 기분·주의·사전 경험 때문에) 시행에 걸쳐 결정 기준의 동적 변동성을 보일 수도 있다. 더 풍부한 모델링 접근(예: 계층적 베이지안 모형)은 그런 변동성이 최적성으로부터의 이탈에 체계적으로 기여하는지를 밝혀낼 수 있을 것이다. 이런 접근은 다중 슬롯머신 과제(8)처럼 더 광범위하게 연구되어 온 최적 정지 과제들에서 생산적으로 추진되어 왔다.
마지막으로, 선형 임계값과 최적해 사이의 대응에 대한 우리의 분석은 흥미로운 질문을 제기한다: 사람들이 채택하는 선형 전략은 이 분포들을 넘어 어디까지 일반화되며, 다른 분포들에 대해서도 최적 전략의 효과적인 근사로 남는가? 에이전트가 세상에서 마주칠 수 있는 분포들의 집합을 안다면 그 분포들에 강건한(robust) 전략을 구성할 기회가 생긴다. 이는 [기억(35)과 다른 결정 문제들(31)에 대해 이전에 수행된 것처럼] 인간 환경에서 최적 정지 문제들의 자연 통계(natural statistics)를 탐구하는 것이 유익할 수 있음을 시사한다.
결론 (Conclusion)
리처드 파인만은 물리 세계에 대한 통찰을 주는 문제들의 우아한 풀이에 대해 탁월한 직감을 가진 것으로 유명했다. 식사를 어떻게 골라야 하는가에 대한 그의 분석은, 같은 직감이 인간 행동에 대한 통찰을 주는 문제들로도 그를 이끌었음을 시사한다. 파인만의 레스토랑 문제는 해석적으로 다룰 수 있으면서도 인간 의사결정의 근본적 긴장 — 탐색과 활용 사이의 트레이드오프 — 을 포착한다는 희귀한 속성을 지녔다. 그 단순성 덕분에 우리는 사람들이 이 문제를 풀 때 쓰는 전략을 결정적으로 식별할 수 있다: 남은 기회의 비율에 따라 선형적으로 감소하는 임계값을 채택하되, 분포가 다르면 이 임계값을 위아래로 조정하는 것이다. 파인만이 태국 음식점에서 노트를 끄적인 지 40여 년이 지나, 우리는 그가 남긴 수학 퍼즐을 풀었고, 사람들이 이런 순차적 결정 문제에 자연스럽게 어떻게 접근하는지를 밝혔다. 우리는 이 결과들이 파인만의 레스토랑 문제를 비서 문제·다중 슬롯머신과 나란히, 언제 멈춰야 하는지 아는 것의 어려움이 걸린 문제들에 사람들이 어떻게 접근하는가에 대한 근본 패러다임으로서 제자리에 놓는 데 도움이 되기를, 그리고 이 문제들의 공간과 사람들이 그것을 풀기 위해 쓰는 전략들에 대한 더 완전한 특성화를 만들어 가는 토대를 제공하기를 희망한다.
재료 및 방법 (Materials and Methods)
실험 절차 (Experimental Procedure)
실험 절차와 계획된 분석은 https://osf.io/9e5g7에 사전등록되었다. 참가자는 온라인 플랫폼 Prolific을 통해 모집된 미국 거주자 2,520명이었다. 연령은 18세부터 94세까지였고(M = 40.4, SD = 13.6), 53.2%가 남성, 46.6%가 여성으로 답했으며 0.2%는 응답을 원하지 않았다. 참가 자격은 Prolific에서 이전에 100~10,000건의 연구를 완료했고 승인률이 95% 이상인 경우였으며, 과제 이해를 확인하는 짧은 퀴즈를 통과해야 본 과제로 진행할 수 있었다. 연구는 프린스턴대 IRB의 승인을 받았고, 모든 참가자는 사전 동의(informed consent)를 제공했다. 참가자들은 네 가지 평점 분포(삼각, 균등, 지수, 멱법칙) 중 하나, 세 가지 밤 수(7, 14, 28) 중 하나, 그리고 아래에 기술하는 일곱 가지 "클램핑" 조건 중 하나에 무작위로 배정되었다. 각 조건은 총 30명의 참가자를 받아, 총 4 × 3 × 7 × 30 = 2,520명의 참가자가 되었다. (참가자 배정을 무작위화하는 과정에서 일부 조건은 30명을 초과해 총 2,530건의 제출이 있었다; 각 조건에서 처음 30명을 넘는 참가자 데이터는 무시했다.)
실험 절차는 다음과 같았다: 동의를 제공한 후, 참가자들은 레스토랑들의 품질이 서로 다른 어느 도시에서 일정 기간 살게 된다고 상상하도록 요청받았다. 품질 점수는 평균 50으로 무작위 분포하며, 처음에는 알 수 없지만 한번 알게 되면 변하지 않는다는 설명을 들었다. 참가자들은 달성한 총점에 비례하는 보너스를 받게 된다는 안내를 받았다. 이어서 튜토리얼이 제시되었는데, "방문"(클릭)하면 평점이 공개되는, 평점 미공개 상태의 4×7 레스토랑 격자를 보여 주었다. 튜토리얼을 성공적으로 마친 뒤에는 과제의 성격을 이해했는지 확인하는 짧은 퀴즈를 치렀다. 튜토리얼의 레스토랑 값들은 모두 본 실험 시행에서 사용될 분포에서 뽑힌 것이었다. 그다음 참가자들은 분포 학습을 돕기 위해, 무작위 레스토랑 값이 전부 공개된 4×7 격자 화면 3개(총 84개 값)를 추가로 보았다. 이후 실험이 시작되었고, 참가자는 새로 주어진 미탐색 4×7 레스토랑 격자 안에서 정해진 전체 밤 수 동안 총점 최대화를 시도했다. SI 부록, 그림 S1은 일부 레스토랑이 방문되어 점수가 보이는 레스토랑 격자 등 실험의 사용자 인터페이스를 보여 준다.
과제에서 참가자가 새 레스토랑을 선택할 때마다 그 선택은 탐색(Exploring)으로 분류되었다. 참가자가 이전에 탐색한 레스토랑 중 그때까지 경험한 최고의 레스토랑을 선택하면 그 선택은 활용(Exploiting)으로 분류되었다. 드물지만 가끔, 참가자들은 이전에 만났던 레스토랑 중 그때까지의 최고값보다 낮은 가치의 레스토랑으로 되돌아갔다. 이런 종류의 선택은 "탐색"으로도 "활용"으로도 명확히 분류할 수 없기 때문에 "실수(Mistake)"로 표기하고 주 분석(그림 2)에서 제외한다. 다만 이런 실수는 부주의한 행동을 반영할 수도, 과제 이해의 실패를 반영할 수도 있으므로, 대신 실수를 한 번이라도 한 참가자를 전부 제거할 수도 있다; 우리는 SI 부록에서 우리의 결과가 더 엄격한 제외 기준에 대해서도 강건함을 보인다.
파인만의 레스토랑 문제에 대한 인간 데이터 수집의 난점 하나는, 참가자들이 시행 후반에 탐색할 필요가 생길 가능성이 매우 낮다는 것이다. 예컨대 마지막 밤의 최적 탐색 임계값은 0.5이므로, 7-밤 조건의 참가자가 마지막 밤까지 값 50을 넘는 레스토랑을 아직 찾지 못했을 확률은 (0.5)6, 즉 64회의 시행당 한 번꼴이다. 28-밤 조건의 참가자가 마지막 밤까지 값 50을 넘는 레스토랑을 찾지 못했을 확률은 (0.5)27, 즉 1억 회의 시행당 한 번에도 못 미친다. 인간의 탐색 임계값, 특히 시행 후반의 임계값에 대해 더 유용한 데이터를 모으기 위해, 우리는 새 레스토랑의 무작위 값을 구간 로 "클램핑"했다. 여기서 tn은 남은 밤 수가 n일 때의 최적 탐색 임계값이다. (따라서 그런 레스토랑을 즉시 활용하는 것은 결코 최적이 아니다; 다만 tn은 참가자가 시행을 진행할수록 감소하므로, 나중에는 그 레스토랑을 활용하는 것이 최적이 될 수 있다.) 서로 다른 일곱 조건이 사용되었는데, 시행의 처음 0/7에서 6/7까지에 대해 새 레스토랑의 값에 이 클램프를 적용하는 것이었다. 예컨대 클램프 조건 0의 참가자는 클램핑을 전혀 경험하지 않는다. 14-밤 조건의 클램프 조건 1 참가자는 시행의 처음 1/7(2밤) 동안 새 레스토랑 값이 클램핑되고 그 이후에는 해제된다. 28-밤 조건의 클램프 조건 6 참가자는 마지막 네 밤 전까지 새 레스토랑 값이 클램핑된다. 이 설계 덕분에, 모든 참가자의 값을 전혀 클램핑하지 않는 경우에 비해 더 적은 참가자로 더 풍부하고 유익한 참가자 데이터를 수집할 수 있었다. (지수 조건의 임계값 계산에서 수치 오류가 있어 클램핑에 약간 더 높은 값이 사용되었으나, 이는 해당 조건의 데이터 수집 효율을 낮췄을 뿐이다.)
행동 분석 (Behavioral Analysis)
우리는 다양한 모형이 과제에서 참가자들의 결정을 설명하는 능력을 비교했다. 모든 모형은 참가자들이 지금까지 본 최고 보상 b를 결정 임계값 와 비교하여 결정하며, 현재 최선 선택지를 활용할 확률은 식 5에 정의된 로지스틱 함수로 주어진다고 가정한다.
모든 모형에서 로지스틱의 이득 β는 모형이 이 임계값 규칙을 얼마나 잡음 섞인 방식으로 따르는지를 조절하는 자유 파라미터다. 모형들은 그 임계값이 남은 밤 수 n, 전체 밤 수 T, 분포 D에 걸쳐 어떻게 변하는지에 대해서만 서로 다르다.
최적 모형에서는 임계값이 최적 임계값 로 주어지며(SI 부록, 그림 S2B), 이는 n과 D에는 의존하지만 T에는 의존하지 않는다. 추가로 이 최적 임계값에 자유 파라미터 절편 a를 더할 수 있는 모형 (절편 포함 최적 모형)도 테스트했다.
선행 연구를 따라, 우리는 추가로 다양한 선형 모형이 데이터를 기술하는 능력을 비교했다. 모든 선형 모형은 임계값이 선형 함수 로 형성된다고 명시한다. 우리는 세 가지 요인에 걸쳐 변하는 선형 모형의 모든 조합을 테스트했다. 첫 번째 요인은 선형 함수의 입력을 지정했다. 입력은 남은 밤 수(x = n), 남은 밤의 비율(x = n/T), 또는 경과한 밤 수(x = T − n)였다. 두 번째 요인은 선형 파라미터가 어떤 과제 조건에 걸쳐 달라져야 하는지를 변화시켰다: 전체 밤 수, 분포, 둘 다, 또는 둘 다 아님. 마지막 요인은 어떤 선형 파라미터가 과제 조건에 걸쳐 달라져야 하는지(절편 a, 기울기 m, "둘 다", 또는 "둘 다 아님")를 변화시켰다.
구체적인 예를 들면, 첫 번째 요인이 남은 밤 수로 설정되고, 두 번째 요인이 전체 밤 수에 걸친 변화를 지정하며, 세 번째 요인이 기울기를 변하는 선형 파라미터로 지정하는 모형에서 임계값은 으로 정의되며, 여기서 a는 자유 파라미터 1개이고 mT는 전체-밤-수 조건마다 하나씩, 3개의 자유 파라미터다.
이 세 요인을 조합적으로 변화시키면 원칙적으로 3 × 4 × 4 = 48개의 가능한 조합 공간이 정의된다. 그러나 두 번째 요인이나 세 번째 요인이 "둘 다 아님"으로 설정되면 다른 쪽도 그렇게 설정되어야 하므로, 가능한 모형의 수는 30개로 줄어든다. 마지막으로, 이 모형들의 부분집합은 기울기 파라미터 m의 변환 아래에서 대수적으로 동치다. 구체적으로, 기울기 파라미터가 전체 밤 수에 걸쳐 달라지는 경우, 뒤의 두 요인이 같고 첫 번째 요인만 다른 모형들은 모두 동일하다(그리고 적합된 파라미터들은 서로의 변환이다). 표시 목적상 SI 부록, 그림 S2에서는 이 모형들의 비교 통계량을 따로따로 그리되, 함수 입력이 달라도 동일한 모형임을 나타내는 막대 패턴으로 표시했다. 이 대수적으로 동일한 모형들을 감안하면 독립적인 선형 모형의 수는 22개가 된다. 이 중 가장 단순한 모형(두 번째·세 번째 요인이 모두 "둘 다 아님")은 β, a, m의 3개 파라미터를 가진다. 두 번째와 세 번째 요인이 각각 "둘 다"로 설정된 가장 복잡한 모형은 19개 파라미터 — β, 그리고 전체 밤 수 T와 분포 D의 조합마다의 aT,D와 mT,D — 를 가진다. 참가자들이 사용한 임계값을 모형-불가지론적(model-agnostic) 방식으로 시각화하기 위해, 자체가 남은 밤 수·분포 조건·전체-밤-수 조건의 조합마다 별도의 자유 파라미터로 구성되는 최대한 유연한 모형도 적합했다(그림 2C, 마커). 이 모형은 임계값 시각화에만 사용되었으므로 모형 비교에는 포함하지 않았다.
각 모형에 대해, Julia 프로그래밍 언어(버전 1.9.1)로 작성한 커스텀 코드를 사용해 전체 참가자의 선택에 대한 우도를 최대화함으로써 자유 파라미터를 추정했다. 각 모형에 대해 음의 로그 우도를 지정하는 Julia 함수를 Optim 패키지(버전 1.31.3)로 최소화했고, 추가로 Julia 패키지 ForwardDiff(버전 0.10.36)로 계산한 야코비안 함수를 이 방법에 제공했다. 국소 최소값 문제를 피하기 위해, 각 모형에 대해 무작위로 표집된 30개의 서로 다른 시작점에서 최적화를 호출했다. 모형들은 베이지안 정보 기준(BIC)과 아카이케 정보 기준(AIC)을 모두 계산하여 비교했다(SI 부록, 그림 S2).
SI 부록, 그림 S2는 비교된 모든 모형의 BIC(A–C)와 AIC(D–F) 점수를 보여 준다. 모든 선형 모형이 최적 모형보다 데이터를 더 잘 설명했다. BIC 점수 기준 최고 성능 모형은 입력이 남은 밤의 비율에 대응하고, 기울기 파라미터는 일정하며, 절편은 전체-밤-수와 분포 조건 양쪽에 걸쳐 달라지는 선형 함수였다. 이 모형은 기울기까지 전체-밤-수·분포 조건에 걸쳐 달라지는 모형을 능가했다(ΔBIC = 26.2). AIC 점수에서는 이 두 모형의 순위가 뒤바뀐다(ΔAIC = 20.7). 두 모형 모두, 절편이 전체-밤-수 조건에는 달라지되 분포 조건에는 달라지지 않는 차선 모형을 크게 능가했으며(최고 모형 대비 ΔBIC = 113.7, ΔAIC = 152.2), 이는 참가자들의 임계값이 분포 조건에 민감함을 지지한다.
SI 부록, 그림 S2는 최적 적합 모형의 최대우도 절편 값들을 보여 준다. 분포에 걸친 최적 정책의 순서와의 대응을 입증하는 것에 더해, 절편이 전체-밤-수 조건이 커질수록 감소함을 발견했다.
참가자들의 임계값이 분포 조건에 민감함을 추가로 검정하기 위해, 절편이 분포와 전체 밤 수 양쪽에 따라 달라지는 모형이 전체 밤 수에만 따라 달라지는 모형을 능가함을 검증하는 우도비 검정도 수행했다(). 분포가 절편 파라미터에 미치는 효과를 더 세밀하게 검토하기 위해, 각 분포 쌍에 대해 그 두 분포의 절편 파라미터 3개씩을 서로 같도록 제약한 영모형을 적합했다(표 1). 이 제약 모형들 각각의 적합을, 각 분포의 절편 파라미터가 자유롭게 달라지는 비제약 모형과 비교함으로써, 분포 간 절편 파라미터가 달라야 하는지에 대한 증거를 정량화할 수 있었다. 모형 간 AIC 비교와 우도비 검정의 수행은 모든 분포 쌍에서 서로 다른 절편 파라미터를 지지했다. 모형 간 BIC 비교는 지수와 멱법칙 분포의 절편 파라미터 차이는 지지하지 않았다. 이 결과들은 최적 정책 예측에 대한 분포의 효과와 정성적으로 일치한다 — 최적 정책은 모든 분포 사이에 임계값 차이를 규정하되, 지수와 멱법칙에 대해서는 그 차이의 방향이 고정되어 있지 않기 때문이다.
인간 성과와 최적의 비교 (Human Performance Compared to Optimal)
참가자들이 남은 밤의 비율에 따라 선형적으로 하강하는 임계값을 사용한다고 특성화했으니, 우리가 참가자들이 사용한다고 모델링한 그 특정 선형 임계값이 최적의 비율-선형(linear-in-proportion) 임계값과 어떻게 비교되는지 물을 수 있다.
분포 유형과 전체 밤 수가 주어졌을 때, 동적 계획법(dynamic programming)을 사용해 주어진 임계값 집합의 기대값을 계산할 수 있다. SI 부록, 그림 S8은 기울기와 절편의 다양한 조합에 대해 동적 계획법을 적용한 결과를 보여 준다.
전체적으로, 최적 선형 임계값이 과제 전반의 기대값 측면에서 최적(비제약) 임계값과 어떻게 비교되는지 물을 수 있다. 그림 4에서 볼 수 있듯, 선형 제약에 따르는 페널티는 극히 작으며, 최적 선형 정책은 기대값에서 절대 최적 정책에 매우 가깝다.
나아가 각 시나리오에서 참가자들이 최적 성과 대비 어느 정도였는지도 물을 수 있다. 여기서는 각 조건에서 데이터가 전혀 클램핑되지 않은 N = 30명의 참가자만 선택하는데, 다른 참가자들은 기대값 기준으로 약간 더 낮은 점수를 받았기 때문이다. 그림 4에서 보듯 참가자들은 대체로 최적과 상당히 경쟁할 만했다. (지수와 멱법칙 분포의 두꺼운 꼬리 특성 때문에, 유난히 운이 좋았던 참가자 한 명 덕분에 이 특정 참가자 그룹이 최적 전략을 앞선 조건도 하나 있었다.) 참가자들의 점수가 최적보다 낮은 것은 임계값 전략 때문만이 아니라 결정 정책의 잡음 — 이는 그들의 통제 밖일 수 있다(36) — 때문이기도 하다. 잡음과 무관하게 참가자들의 전략이 얼마나 효과적이었는지 판별하기 위해, 참가자들이 사용한 선형 모형(최적 적합 파라미터)의 기대값을 잡음 없이 구현하여 계산하기도 했다. 이 모형은 최적 성과에 필적하는 성능을 보인다(그림 4).
데이터, 재료 및 소프트웨어 가용성 (Data, Materials, and Software Availability)
실험 데이터, 모델 적합 코드, 그리고 이 논문의 모든 핵심 통계와 그림을 재생성하는 재현성 노트북은 참고문헌 37(OSF 저장소)에서 이용할 수 있다.
감사의 글 (Acknowledgments)
파인만의 원본 노트를 공유해 주고 우리의 증명에 논평을 제공해 준 Michael A. Gottlieb에게 감사한다. 그가 정리한 파인만 레스토랑 문제의 원래 정식화, 노트의 사본(facsimile)과 부분 전사, 그리고 우리의 결과에 대한 그의 반응은 그의 웹사이트에 게재되어 있다: https://www.feynmanlectures.caltech.edu/info/other/Feynmans_Restaurant_Problem_Revealed.html. 회고를 공유해 준 Ralph Leighton, 유익한 논의를 나눠 준 Christopher Summerfield, Max Shron, Rob Goldstone, 그리고 이 논문을 개선한 명확하고 통찰력 있는 논평을 제공해 준 심사위원들께 감사한다. 이 연구는 NOMIS 재단과 Clarendon 기금의 지원으로 가능했다.
저자 기여 — B.C., E.M.R., T.L.G.가 연구를 설계하고; 연구를 수행하고; 새로운 분석 도구를 제공하고; 데이터를 분석하고; 논문을 집필했다.
이해상충 — 저자들은 이해상충이 없음을 선언한다.
노트 — 이 논문은 PNAS Direct Submission이다. A.F.는 편집위원회가 초청한 객원 편집자다.
* 우리는 이 선형 임계값 모형이 참고문헌 30에서 제안된 다른 단순 휴리스틱들은 물론, 다중 슬롯머신 과제에서 인간의 학습을 설명하는 데 이전에 사용되어 온 강화학습 알고리즘들을 우리 문제에 적용한 것보다도 우수함을 추가로 확인했다(SI 부록).
보충 정보 (Supporting Information)
부록 01 (PDF) — 다운로드 (903.20 KB)
References
- P. Rozin, “The selection of foods by rats, humans, and other animals” in Advances in the Study of Behavior, J. S. Rosenblatt, R. A. Hinde, E. Shaw, C. Beer, Eds. (Elsevier, 1976), vol. 6, pp. 21–76. Google Scholar
- P. Rozin, P. M. Todd, “The evolutionary psychology of food intake and choice” in The Handbook of Evolutionary Psychology, D. M. Buss, Ed. (Wiley Online Library, 2005), pp. 183–205. Google Scholar
- B. Scheibehenne, L. Miesler, P. M. Todd, Fast and frugal food choices: Uncovering individual decision heuristics. Appetite 49, 578–589 (2007). DOI · PubMed · Google Scholar
- B. J. Rolls, E. T. Rolls, E. A. Rowe, K. Sweeney, Sensory specific satiety in man. Physiol. Behav. 27, 137–142 (1981). DOI · PubMed · Google Scholar
- R. K. Ratner, B. E. Kahn, D. Kahneman, Choosing less-preferred experiences for the sake of variety. J. Consum. Res. 26, 1–15 (1999). DOI · Google Scholar
- B. McFerran, D. W. Dahl, G. J. Fitzsimons, A. C. Morales, I’ll have what she’s having: Effects of social influence and body type on the food choices of others. J. Consum. Res. 36, 915–929 (2010). DOI · Google Scholar
- T. S. Ferguson, Optimal stopping and applications (2008). https://www.math.ucla.edu/~tom/Stopping/Contents.html. Accessed 31 May 2024. Google Scholar
- M. D. Lee, A hierarchical Bayesian model of human decision-making on an optimal stopping problem. Cogn. Sci. 30, 1–26 (2006). DOI · PubMed · Google Scholar
- M. Gardner, Mathematical games. Sci. Am. 202, 152 (1960). DOI · Google Scholar
- H. Robbins, Some aspects of the sequential design of experiments. Bull. Am. Math. Soc. 58, 527–535 (1952). DOI · Google Scholar
- D. A. Berry, B. Fristed, Bandit Problems: Sequential Allocation of Experiments (Chapman and Hall, New York, NY, 1985). DOI · Google Scholar
- B. Christian, T. Griffiths, Algorithms to Live By: The Computer Science of Human Decisions (Henry Holt, 2016). Google Scholar
- J. P. Kahan, A. Rapoport, L. V. Jones, Decision making in a sequential search task. Percept. Psychophys. 2, 374–376 (1967). DOI · Google Scholar
- A. Rapoport, A. Tversky, Choice behavior in an optional stopping task. Organ. Behav. Hum. Perform. 5, 105–120 (1970). DOI · Google Scholar
- C. A. Kogut, Consumer search behavior and sunk costs. J. Econ. Behav. Org. 14, 381–392 (1990). DOI · Google Scholar
- D. A. Seale, A. Rapoport, Sequential decision making with relative ranks: An experimental investigation of the “secretary problem’’. Organ. Behav. Hum. Decis. Process. 69, 221–236 (1997). DOI · Google Scholar
- D. A. Seale, A. Rapoport, Optimal stopping behavior with relative ranks: The secretary problem with unknown population size. J. Behav. Decis. Mak. 13, 391–411 (2000). DOI · Google Scholar
- N. D. Daw, J. P. O’Doherty, P. Dayan, B. Seymour, R. J. Dolan, Cortical substrates for exploratory decisions in humans. Nature 441, 876–879 (2006). DOI · PubMed · Google Scholar
- M. Steyvers, M. D. Lee, E. J. Wagenmakers, A Bayesian analysis of human decision-making on bandit problems. J. Math. Psychol. 53, 168–179 (2009). DOI · Google Scholar
- M. D. Lee, S. Zhang, M. Munro, M. Steyvers, Psychological models of human and optimal performance in bandit problems. Cogn. Syst. Res. 12, 164–174 (2011). DOI · Google Scholar
- R. C. Wilson, E. Bonawitz, V. D. Costa, R. B. Ebitz, Balancing exploration and exploitation with information and randomization. Curr. Opin. Behav. Sci. 38, 49–56 (2021). DOI · PubMed · Google Scholar
- S. Zhang, A. J. Yu, Forgetful Bayes and myopic planning: Human learning and decision-making in a bandit setting. Adv. Neural Inf. Process. Syst. 26, 2607–2615 (2013). Google Scholar
- M. Speekenbrink, E. Konstantinidis, Uncertainty and exploration in a restless bandit problem. Top. Cogn. Sci. 7, 351–367 (2015). DOI · PubMed · Google Scholar
- A. S. Rich, T. M. Gureckis, Exploratory choice reflects the future value of information. Decision 5, 177 (2018). DOI · Google Scholar
- E. Schulz, S. J. Gershman, The algorithmic architecture of exploration in the human brain. Curr. Opin. Neurobiol. 55, 7–14 (2019). DOI · PubMed · Google Scholar
- C. Baumann, H. Singmann, S. J. Gershman, B. Von Helversen, A linear threshold model for optimal stopping behavior. Proc. Natl. Acad. Sci. U.S.A. 117, 12750–12755 (2020). DOI · PubMed · Google Scholar
- S. Bhatia, L. He, W. J. Zhao, P. P. Analytis, Cognitive models of optimal sequential search with recall. Cognition 210, 104595 (2021). DOI · PubMed · Google Scholar
- R. C. Wilson, S. Wang, H. Sadeghiyeh, J. D. Cohen, Deep exploration as a unifying account of explore-exploit behavior. PsyArXiv [Preprint] (2020). (Accessed 31 May 2024). https://doi.org/10.31234/osf.io/uj85c. Google Scholar
- M. Song, Z. Bnaya, W. J. Ma, Sources of suboptimality in a minimalistic explore-exploit task. Nat. Hum. Behav. 3, 361–368 (2019). DOI · PubMed · Google Scholar · Updates
- K. Sang, P. M. Todd, R. L. Goldstone, T. T. Hills, Simple threshold rules solve explore/exploit trade-offs in a resource accumulation search task. Cogn. Sci. 44, e12817 (2020). DOI · PubMed · Google Scholar
- G. Gigerenzer, P. M. Todd, Simple Heuristics that Make Us Smart (Oxford University Press, 1999). Google Scholar
- F. Lieder, T. L. Griffiths, Resource-rational analysis: Understanding human cognition as the optimal use of limited computational resources. Behav. Brain Sci. 43, e1 (2020). DOI · PubMed · Google Scholar
- R. Van den Berg, E. Awh, W. J. Ma, Factorial comparison of working memory models. Psychol. Rev. 121, 124 (2014). DOI · PubMed · Google Scholar
- T. J. Stewart, Optimal selection from a random sequence with learning of the underlying distribution. J. Am. Stat. Assoc. 73, 775–780 (1978). DOI · Google Scholar
- J. R. Anderson, L. J. Schooler, Reflections of the environment in memory. Psychol. Sci. 2, 396–408 (1991). DOI · Google Scholar
- A. Renart, C. K. Machens, Variability in neural activity and behavior. Curr. Opin. Neurobiol. 25, 211–220 (2014). DOI · PubMed · Google Scholar
- B. Christian, E. M. Russek, T. L. Griffiths, Data from “Resolving Feynman’s restaurant problem reveals optimal solutions and human strategies.” OSF. https://doi.org/10.17605/OSF.IO/DA5HW. Deposited 25 March 2026. Google Scholar
본문 완역 안에 원위치로 보존된 링크들의 보조 목록이다. 참고문헌 37건의 DOI·PubMed·Google Scholar 링크는 완역 하단 References에 전수 보존되어 있다.
- doi.org/10.1073/pnas.2509612123 · PubMed 42224590 — 원문 (오픈 액세스)
- PNAS ePDF 뷰어 · PDF 다운로드
- SI Appendix (PDF) — 증명·모형 상세
- osf.io/9e5g7 — 데이터·코드
- Feynman's Restaurant Problem Revealed — 자필 노트 원본
- Ferguson, Optimal Stopping and Applications — 최적 정지 이론 배경
- Brian Christian ORCID · Thomas L. Griffiths ORCID · [email protected]
- CC BY-NC-ND 4.0 — 원문 라이선스
용어
- 최적 정지(optimal stopping) — 언제 탐색을 멈추고 지금까지의 최선을 취할지 정하는 순차 의사결정 이론. 비서 문제가 대표 사례.
- 탐색-활용(exploration–exploitation) — 새 선택지를 시험할지(탐색), 알려진 최선을 반복할지(활용) 사이의 트레이드오프.
- 임계값 정책(threshold policy) — "현재 최고값이 기준선을 넘으면 활용, 아니면 탐색"처럼 기준 하나로 행동을 정하는 규칙.
- 시계(horizon) — 남은 의사결정 기회의 수. 이 논문에서는 남은 식사(밤)의 수.
- 자원 합리성(resource rationality) — 계산 비용을 고려하면 단순한 근사 전략이 오히려 합리적이라는 관점.
고지
- 원문은 PNAS 오픈 액세스(CC BY-NC-ND 4.0)이며, 이 문서의 완역은 한국어 독자를 위한 변형적(transformative) 재구성이다. 그림은 원문에서 로컬 사본으로 첨부했다.
- 원문 전문·그림·조판 PDF(13.4MB)·SI 부록 모두 접근 가능했다 — 부분 추출 아님.
- 수식은 원문 MathML을 그대로 보존해 브라우저 네이티브 렌더링에 맡겼다.
원문: PNAS · dosi.dev 재구성 · 2026-08-14