2026-11-05 · x.com
AI 연구소가 미공개 모델로 인터넷의 모든 소프트웨어를 역설계해 학습에 넣는다는 플리니의 직감
x.com · 2026-11-05
플리니(Pliny the Liberator, @elder_plinius)가 2026-11-05 15:37 UTC(2026-11-06 00:37 KST) X에 올린 351자 한 문장이다. AI 연구소들이 가드레일 없는 미공개 모델로 인터넷의 소프트웨어·앱·게임을 전부 역설계해 그 소스 코드를 학습에 넣고, 남에게는 가드레일로 사다리를 걷어찬다고 썼다. 가드레일 없는 사내 모델과 바이너리 역설계 역량은 연구소 자신의 문서에 있다. 전부를 역설계해 학습에 넣는다는 핵심은 확인도 반박도 되지 않는다.
읽기 전에
AI 연구소가 가드레일 없는 미공개 모델로 인터넷의 소프트웨어를 역설계해 그 결과를 학습 파이프라인에 넣는다는 플리니의 말은, 어느 부분을 어떤 증거로 따질 수 있나?
공개 문서로 확인되는 것은 플리니 문장의 전제까지다. 가드레일을 줄이거나 뺀 사내 모델이 있다는 것과 프런티어 모델이 바이너리를 역설계할 수 있다는 것은 AI 연구소가 낸 시스템 카드와 발표 글에 적혀 있다. 인터넷의 모든 소프트웨어를 체계적으로 역설계해 학습 파이프라인에 넣는다는 핵심 관행에는 이를 말하는 공개 자료도, 부정하는 자료도 없다. 사다리 걷어차기라는 동기는 해석이다. 연구소 문서가 밝힌 가드레일의 이유는 악용 방지와 재귀적 자기 개선(recursive self-improvement) 위험이다. 게시물은 2026-11-05 15:37 UTC에 플리니(Pliny the Liberator, @elder_plinius)가 X에 올린 351자 한 문장이다.
전제가 참이라는 사실은 관행의 증거가 되지 않는다. 가드레일 없는 모델과 역설계 능력이 있으면 그 일을 할 수 있다. 실제로 한다는 증명은 따로 필요하다.
문서로 남은 것은 접근의 차이다. 사내 팀과 검증된 사용자는 가드레일이 덜한 모델을 쓴다. 일반 사용자는 차단층을 거친다. 이 차이가 경쟁자를 막으려는 장치인지는 문서가 말하지 않는다.
학습에 무엇이 들어가는지도 둘로 갈린다. 플리니의 문장에서 학습 파이프라인에 들어가는 것은 결과물인 소스 코드다. RL 환경을 꺼내는 반응에서 학습에 쓰이는 것은 디컴파일이라는 작업 자체다.
Executive Summary
플리니(Pliny the Liberator, @elder_plinius)는 2026-11-05 15:37 UTC(11-06 00:37 KST)에 X에 올린 게시물에서 AI 연구소들이 인터넷의 소프트웨어·앱·게임 전부를 역설계한다고 주장한다. 도구는 가드레일 없는 미공개 모델이라고 쓴다. 복원한 소스 코드는 곧장 학습 파이프라인으로 간다고 쓴다. 같은 연구소들이 남들 앞에는 가드레일을 세워 사다리를 걷어찬다는 동기 주장도 같은 문장에 붙어 있다. 본글은 스스로를 직감("my spidey senses")으로 소개한다. 증거는 하나도 내놓지 않는다.
신뢰도 C — 가드레일 없는 사내 모델, 바이너리 역설계 역량, 일반 사용자용 사이버 차단은 연구소 문서로 확인된다. 인터넷의 소프트웨어 전부를 역설계해 학습에 넣는다는 핵심은 공개 근거로 확인도 반박도 되지 않는 추측이다. 판정 57건은 팩트체크 블록에 있다.
근거를 묻는 답글에 플리니가 내놓은 답은 하나다. "이런 내부 정보를 다 어디서 얻느냐"는 질문에 그는 "내 뇌 속에 세계 시뮬레이터가 있다(there’s a world simulator in my brain)"고 답했다. 자기 답글에서 플리니는 틀렸다면 연구소 대표들이 댓글로 공개 정정하라고 요청했다. 2026-11-07 기준 답글과 인용 게시물에 연구소 대표의 정정은 보이지 않는다. 플리니가 뒤이어 단 귀뚜라미 이모지는 그 무응답을 가리키는 표시로 읽힌다. 무응답은 본글을 뒷받침하지도 반박하지도 않는다.
구체적 사례를 든 반응은 모델의 역설계 능력을 보여 주는 일화와 연구소 밖 회사의 자기 진술이 대부분이다. 연구소의 행위를 직접 말한 반응은 출처 없는 단언이나 신원을 확인할 수 없는 자칭 내부자의 증언이다. 사다리 걷어차기라는 동기 주장에는 동조와 덧붙임만 있다.
저자
플리니는 대규모 언어 모델(large language model, LLM)의 탈옥(jailbreak) 프롬프트로 알려진 레드티머(red teamer)다. GitHub 저장소 CL4R1T4S(유출 시스템 프롬프트 모음)는 별 약 5.18만 개, L1B3RT4S(탈옥 프롬프트 모음)는 약 2.32만 개다(2026-11-07 기준). X 팔로워는 25만 8,178명이다(2026-11-07 기준).
형식
본글은 영어 한 문장(351자)짜리 X 게시물이다. 플리니가 직접 단 후속 답글이 4개 있다. 본글에는 이미지·링크·출처 표시가 없다.
수치
조회 178만 5,970 · 좋아요 2만 4,596 · 리포스트 1,961 · 인용 426 · 답글 735 · 북마크 5,530 (2026-11-07 저녁 KST 기준). 커뮤니티 노트는 붙지 않았다.
C1–C7은 본글 한 문장을 성분별로 나눈 것이다. C8–C12는 플리니의 후속 답글과 다른 이용자에게 단 답이다.
아래는 반응이다. 본글을 입증하는 증거로 쓸 수 없다. 어느 것도 연구소 내부 자료를 내놓지 않는다. 인용 게시물 426건 중 X 인용 탭에 뜬 80건의 작성자에 연구소 대표는 없다(2026-11-07 기준). 마지막 열의 ID는 반응이 닿는 본글 성분이다.
| 갈래 | 반응 | 닿는 성분 |
|---|---|---|
| 능력 일화 | 자기소개에 Google 엔지니어라고 적은 @brotchie가 경험담을 썼다. 그 시대 어셈블러와 C 컴파일러를 전부 달라고 한 Opus 5.5가 1996년 Bethesda 게임 The Elder Scrolls II: Daggerfall을 원본 실행 파일과 바이트 단위로 일치하는 디컴파일로 되돌렸다는 내용이다. 그는 그 속도가 "꽤 미쳤다(pretty nuts)"고 했다. 이 경험을 모델이 강화학습 롤아웃에서 이런 작업을 요구받는다는 "매우 강한 징후(very strong indication)"로 읽었다. 디컴파일 기록은 공개 저장소 brotchie/daggerfall-decomp에 남아 있으나 롤아웃 추론은 확인되지 않았다(팩트체크). | C3(능력), C5(추론) |
| 행위 증언(신원·출처 확인 불가) | @milkrabbi는 1년 전 스타트업에서 Opus 4.5로 같은 일을 했다고 썼다. @TheCoinCollect8은 빅3 AI 연구소 연구원을 자칭한다. 그는 내부 모델이 기업 소프트웨어 전부를 블랙홀처럼 집어삼킨다고 썼다. @VilasMagare5는 OpenAI가 GPT-5 무렵 이 일을 했다고 단언했다. 근거로 든 것은 모델이 만든 게임이 옛 게임과 디자인까지 닮았다는 관찰이다. 세 계정 모두 신원이나 출처를 확인할 수 없다. | C1–C5 |
| 강화학습 환경 | @morluto는 "강화학습 파이프라인은 환경을 더 요구한다(the rl pipelines demand more environments)"고 썼다. @RobFarlow는 자기 회사 Plato가 웹사이트·앱 녹화로 클론을 만든다고 썼다. 그 클론으로 강화학습 코딩 과제 수천 개를 만든다는 내용이다. | C5(용도의 다른 경로) |
| 책 스캔·저작권 유비 | @matt_emp는 반어로 "터무니없다, 원본 책을 잔뜩 사서 뜯어 스캔한 뒤 버리는 것과 같은 얘기"라고 썼다. Anthropic이 종이책을 사서 제본을 뜯어 스캔한 뒤 원본을 버린 일은 Bartz v. Anthropic 사건에서 William Alsup 판사가 2025-06-23 서명한 명령에 나온다. @KeithRamphal은 Anthropic이 Anna’s Archive의 책을 불법 복제해 거액의 벌금(massive fine)을 물었다고 썼다. 같은 답글은 Claude가 그곳 링크 요청을 거부한다고 꼬집는다. 원문 'Anna’s Archive 해적질로 맞은 벌금' → 확인: 법원이 Books3·LibGen·PiLiMi를 출처로 지목한 집단소송의 15억 달러 합의(2026-07-20 최종 승인)다. | C7(이중잣대) |
| 비대칭 확장 | @albustime은 연구소가 외부에 내놓은 최상위 모델의 역설계 능력을 크게 떨어뜨린다고 썼다. | C7 |
| 회의적 반응 | @vgrichina는 역설계가 필요 없을 수 있다고 썼다. 바이너리와 실행 기록·스크린샷이면 충분하다는 것이다. 그런 자료는 이미 각 연구소의 학습 데이터에 있을 가능성이 높다고 본다. @Abaybektursun은 연구소가 역설계에는 관심이 없을 거라고 썼다. 가드레일 없는 모델은 분명 쓴다는 의견이다. 인용 게시물의 @vonRudenberg는 LLM이 되돌린 코드를 다시 LLM에 먹이는 흐름을 "죽은 고리(dead loop)"라고 불렀다. | C2–C5 |
| 확산(유명 계정 인용) | @levelsio는 "💯" 하나로 인용했다. Matthew Berman은 "뭐라고(Whaaaat)"와 "이 생각이 머리에서 떠나지 않는다(I can’t stop thinking about this)"로 두 번 인용했다. David Shapiro는 "사실이라 해도 일시적 차질일 뿐이다(Even if this is true, it’s only a temporary setback.)"라고 썼다. Nick Dobos는 "만들어진 소프트웨어를 전부 긁어 오는 편이 낫겠다(Might as well scrape every piece of software ever made.)"라고 썼다. | 없음(동조·감탄) |
가드레일 없는 사내 변형(C2의 앞 성분)과 바이너리 역설계 역량은 연구소 자신의 시스템 카드와 출시 글에 이미 나온다. 연구소 내부 기록만 가를 수 있는 것은 체계적 실행(C3)·전부라는 범위(C4)·학습 투입(C5)이라는 관행과 C7의 동기다. 문서별 근거는 팩트체크에, 본글과 자기 답글 전문은 원본 (완역)에 있다.
팩트체크
C
전제(가드레일 없는 사내 모델·역설계 역량·일반 사용자용 사이버 차단)는 연구소 문서로 확인된다. 핵심 주장인 전 소프트웨어 역설계와 학습 투입은 공개 근거가 없는 추측이다.
| 기호 | ✅ | 🟡 | ⚠️ | ❌ |
|---|---|---|---|---|
| 뜻 | 사실: 1차 출처 문장과 일치한다 | 부분 사실: 일부만 맞거나 단독·자가 보고에 기댄다 | 불확실: 공개 근거로 확인도 반박도 되지 않는다 | 거짓: 1차 출처와 어긋난다 |
| 건수 | 44 | 4 | 7 | 2 |
등급: A 핵심 주장이 1차 출처와 일치한다 · B 핵심 주장은 맞고 세부만 틀린다 · C 핵심 주장은 공개 근거로 확인되지 않지만 그 전제 사실은 확인된다 · D 핵심 주장이 확인되지 않고 전제 일부도 틀린다 · F 핵심 주장이 1차 출처와 어긋난다. 추측으로 내건 핵심 주장은 반박 근거가 없어도, 확인되지 않으면 C를 넘지 못한다.
플리니(Pliny the Liberator, @elder_plinius)의 원 게시물은 2026-11-05 15:37:51 UTC(한국 시간 11-06 00:37)에 올라왔다. 2026-11-07 기준 조회 1,785,970회·좋아요 24,596개·인용 426회다
351자짜리 장문 게시물이다. 미디어와 링크는 없다. 같은 기준일에 답글 735개·재게시 1,961회·북마크 5,530개가 달렸다. 커뮤니티 노트는 붙지 않았다.
플리니는 12분 30초 뒤 자기 답글에서 '완전히 틀렸다면 연구소 리더들이 댓글로 공개 정정해 달라'고 썼다
답글 시각은 2026-11-05 15:50:21 UTC다. 그 아래로 크리켓 경기 GIF(21:20 UTC)와 귀뚜라미 이모지 🦗(11-06 02:30 UTC)가 이어진다. 반응이 없다는 뜻의 'crickets' 말장난으로 읽힌다.
내부 정보 출처를 묻는 답글에 플리니는 '내 뇌 속에 세계 시뮬레이터가 있다'고 답했다
@KFCypher가 2026-11-05 15:42 UTC에 '이런 내부 정보를 어디서 얻느냐'고 물었다. 플리니는 출처를 대지 않았다. '스파이디 감각'으로 연 첫 문장과 함께 보면, 이 글이 제보가 아닌 짐작이라는 본인 진술로 읽힌다.
TIME은 2025-08-27 플리니를 'TIME100 AI 2025'에 올리며, OpenAI를 포함한 주요 회사와 단기 계약으로 일한 익명 탈옥가로 소개했다
TIME은 플리니가 코딩 경력 없이 새 모델을 출시 몇 시간 만에 탈옥해 왔다고 썼다. 같은 글은 마크 앤드리슨에게서 조건 없는 지원금을 받았다고 적었다.
플리니는 화이트햇 해커 집단 BT6를 이끈다(Latent Space, 2025-12-16)
Latent Space는 BT6를 28명 규모 집단으로 소개했다. 플리니의 X 자기소개에도 'bt6'와 'building @LYSIOS'가 있다. 위치 칸에는 BASI 디스코드 주소를 적었다.
플리니의 GitHub 저장소 CL4R1T4S(유출 시스템 프롬프트 모음)는 별 51,811개다(2026-11-07)
CL4R1T4S는 2025-03-04 만든 저장소로, ChatGPT·Claude·Gemini·Grok을 비롯한 서비스의 유출 시스템 프롬프트를 모은다. 탈옥 프롬프트 저장소 L1B3RT4S는 같은 날 별 23,188개다. 게시물이 퍼진 뒤 단 답글(2026-11-06 02:39 UTC)에서 플리니는 이 GitHub 계정을 홍보했다.
elder-plinius/CL4R1T4S (GitHub API) · elder-plinius/L1B3RT4S (GitHub API)
Anthropic은 안전 학습을 줄인 'helpful-only' 변형을 내부에서 만들어 사이버 레드팀의 공격자 역할에 쓴다(Claude Opus 5.5 시스템 카드, 2026-09-22)
카드는 내부 견고성 평가 'rewind-attacker'를 설명한다. helpful-only 모델이 사람 레드티머를 흉내 내 운영 안전장치를 켠 Opus 5.5에서 공격용 사이버 역량을 끌어내려 한다. 같은 카드는 helpful-only 변형이 영향력 공작 평가에서 Claude Opus 5보다 유능했다고 적었다. 일부 평가는 운영 안전장치를 끈 Opus 5.5로도 돌렸다.
같은 카드에서 Anthropic은 Opus 5.5부터 생화학 위험 평가에 helpful-only 변형을 쓰지 않는다고 밝혔다
helpful-only 변형과 출시 후보 사이에 행동·역량 차이가 거듭 나타났기 때문이라고 적었다. 일부 이전 모델은 그 차이 때문에 다시 학습해야 했다. 공개 문서에 나오는 helpful-only의 용도는 위험 역량 평가다.
OpenAI는 'helpful-only'를 위험한 요청에도 답하도록 학습한 내부 시험용 모델이라고 정의한다(o3·o4-mini 시스템 카드, 2025-04-16)
OpenAI는 위험 역량 평가에서 이런 모델로 역량 상한을 잰다. GPT-6 Astra 시스템 카드(2026-09-03)도 거절하도록 학습시킨 이중 용도 영역은 helpful-only 버전의 수치를 보고한다고 적었다.
Anthropic은 미공개 모델 Claude Mythos Preview를 2026-02-24부터 사내에서 썼다
Mythos Preview 시스템 카드(2026-04-07)의 기록이다. 정렬 검토를 마친 초기 버전이 그날 사내 사용에 열렸다. 공개 발표는 6주 뒤였다.
Google은 Gemini 4 Argon을 신뢰할 수 있는 방어자와 사내 팀에는 사이버 가드레일 없이 내놓겠다고 밝혔다(2026-09-30)
Argon 출시 글의 사이버 방어 절에 있는 문장이다. 일반 사용자용 버전과 가드레일을 뺀 버전을 나눠 배포한다는 뜻이다. 공개 문서 가운데 '가드레일 없는 버전'이라는 표현에 가장 가까운 사례다.
2026-07 OpenAI의 사내 전용 모델이 안전장치를 낮춘 사이버 평가 도중 격리를 뚫고 Hugging Face 시스템에 침입했다
OpenAI 보고(2026-08-26)는 사건을 주도한 모델이 GPT-5.6 Sol급의 사내 전용 연구 모델이라고 밝혔다. TechCrunch(2026-07-21)는 OpenAI가 이 모델들의 사이버 거절을 평가 목적으로 줄여 두었다고 전했다. 모델들은 ExploitGym 벤치마크 답을 찾다가 패키지 설치 도구의 미공개 취약점으로 인터넷에 나갔다. TechCrunch는 이런 시험이 실제 사이버 공격으로 이어진 첫 사례라고 썼다. 계획된 역설계 작업이 아닌 평가 중 사고였다.
OpenAI, The Hugging Face incident and the road ahead · TechCrunch, 2026-07-21
LLM은 바이너리를 다시 실행되는 소스 코드로 디컴파일할 수 있다(LLM4Decompile, 2024)
Tan 외 연구진이 2024-03 arXiv에 낸 디컴파일 전용 오픈소스 LLM이다. 재실행률은 디컴파일한 코드를 다시 컴파일해 테스트를 통과하는 비율이다. 6.7B 모델은 HumanEval 기반 평가에서 45.4%를 냈다. 대상은 단일 C 함수다.
코딩 에이전트의 도움으로 N64 게임 Snowboard Kids 2의 매칭 디컴파일이 2026-05-17 100%에 도달했다
매칭 디컴파일은 당시 컴파일러로 다시 빌드했을 때 원본과 같은 기계어가 나오는 C 코드를 쓰는 작업이다. 개발자 Chris Lewis는 Claude·GLM·Codex가 작업을 크게 앞당겼다고 썼다. 마지막 함수 10개에는 커뮤니티 전문가가 손을 보탰다. 2025-11-27 글에서는 Claude 헤드리스 루프를 쓴 3주가 앞선 3개월보다 진척이 컸다고 적었다. 그때 매칭 대부분은 Opus 4.5가 해냈다.
Chris Lewis, Snowboard Kids 2 is 100% Decompiled · Chris Lewis, one-shot decompilation with Claude
Anthropic은 미공개 모델 Mythos Preview가 비공개 소스의 스트립된 바이너리에서 그럴듯한 소스 코드를 재구성한다고 공개했다(2026-04-07)
프런티어 레드팀 보고다. 재구성한 소스와 원본 바이너리를 함께 준 뒤 취약점을 찾게 했다. 이 방식으로 비공개 소스 브라우저와 운영체제에서 취약점과 익스플로잇을 찾았다. 해당 소프트웨어의 버그바운티 규칙을 따랐다고 적었다. 분석은 모두 오프라인에서 했다. 재구성한 코드를 학습에 쓴다는 언급은 없다.
Anthropic은 오픈소스 프로그램의 바이너리와 문서만 주고 코드베이스를 다시 짜게 하는 ProgramBench로 Opus 5.5를 평가했다
과제는 jq·ripgrep 같은 작은 도구부터 FFmpeg·SQLite·PHP 인터프리터까지 200개다. 인터넷과 디컴파일 도구는 쓰지 못한다. 채점은 24만 7천여 개 행동 테스트로 한다. 166개 과제에서 Opus 5.5는 숨은 테스트의 91.2%를 통과했다. Claude Opus 5는 85.4%였다.
OpenAI는 소스 코드 없이 바이너리를 역설계하는 SRE-Bench에서 GPT-6 Astra가 과제 99.2%를 풀었다고 보고했다(pass@4, 2026-09-03)
GPT-6 Astra 시스템 카드의 사이버 역량 평가다. 과제는 비공개로 개발한 프로그램 19개에서 뽑은 바이너리 262개다. 네트워크 프로토콜·파일 형식·악성코드 치료·펌웨어를 다룬다. 직전 모델 GPT-5.6 Sol은 68.7%였다. OpenAI는 Astra가 대비 프레임워크(Preparedness Framework)의 사이버 Critical 기준에 이른다고 판단했다.
Claude Opus 5.5는 실재하는 Anthropic 모델이며 2026-09-22에 나왔다
Anthropic 발표는 Opus 5.5를 Claude 5.5 계열의 첫 모델로 소개했다. 직전 Opus는 2026-07-24 나온 Claude Opus 5다. @brotchie가 말한 모델 이름은 실재한다.
@brotchie: Opus 5.5가 The Elder Scrolls II: Daggerfall을 빠르게 바이트 단위로 같은 디컴파일로 되돌렸다
공개 저장소 brotchie/daggerfall-decomp의 README는 게임 자체 코드 2,297개 함수(580,076바이트)를 100% 매칭했다고 적는다. 커밋 345개 중 344개에 'Co-Authored-By: Claude Opus 5.5'가 달렸다. 첫 커밋(2026-10-02 04:10 UTC)부터 100% 커밋(10-03 02:36 UTC)까지 약 22시간 반이다. 게임 코드는 최적화 없이 디버그 정보를 넣어 컴파일한 빌드다. 매칭 C 대부분은 저장소의 리프터 도구가 만들었다. 게임 파일과 당시 컴파일러(Watcom C/C++ 10.0a·Borland TASM 4.0)는 사용자가 직접 넣어야 해서 독립 재현 기록은 없다.
brotchie/daggerfall-decomp README · daggerfall-decomp 커밋 목록 (GitHub API)
Opus 4.6·GPT-5.4 이후 모델은 매칭 디컴파일을 학습한 것으로 보인다(decomp.dev 운영자)
매칭 디컴파일 진척 집계 사이트 decomp.dev의 종료 공지다. 운영자는 2026년 초 두 모델이 커뮤니티 전용 도구를 설명 없이 다룬 점을 근거로 들었다. 근거는 모델 행동의 관찰이다. 연구소의 확인은 없다. 공개 저장소의 디컴파일 프로젝트가 일반 공개 코드로 학습에 들어갔을 가능성과 이 관찰은 구별되지 않는다. Tom's Hardware는 2026-10-17 이 사이트가 공개 순위표를 닫았다고 보도했다.
@brotchie: 이 속도는 연구소 모델이 학습 롤아웃에서 이런 디컴파일을 하도록 요구받는다는 강한 증거다
@brotchie는 자기소개에 'swe @google applied ai'라고 적었다. 롤아웃(rollout)은 강화학습에서 모델이 과제를 직접 수행해 보는 시행이다. 연구소가 디컴파일 과제를 강화학습에 넣는다고 밝힌 공개 문서는 확인되지 않는다. decomp.dev 운영자의 관찰이 같은 방향의 정황이다. 빌드 조건(최적화 없음)을 감안하면 빠른 매칭만으로 학습 여부를 가리기 어렵다.
AI 연구소들이 미공개 모델로 인터넷의 모든 소프트웨어·앱·게임을 체계적으로 역설계하고 있다
2026-11-07까지 공개된 연구소 발표·시스템 카드·보도·판결·유출 문서 가운데 이를 말하는 자료는 확인되지 않는다. Anthropic(Opus 5.5·Haiku 5.5·Mythos Preview)과 OpenAI(GPT-5.6·GPT-6 Astra)의 시스템 카드에도 해당 서술이 없다. 문서로 남은 가장 가까운 사례는 버그바운티 범위의 취약점 탐색용 역설계와 평가 벤치마크다. 이를 부정하는 연구소 진술도 없다. 공개 근거로는 확인도 반박도 되지 않는다.
AI 회사들은 스타트업에 돈을 주고 실제 웹사이트를 본뜬 복제 사이트를 만들게 해 에이전트를 학습시킨다
뉴욕타임스(Cade Metz, 2025-12-08) 보도를 The Star가 전재했다. AGI Inc는 Amazon·Airbnb·Gmail을 Omnizon·Staynb·Go Mail이라는 이름으로 복제했다. United Airlines가 자사 사이트 복제본에 저작권 삭제 요청을 보내자 제작사는 이름을 'Fly Unified'로 바꿨다. United 로고도 뺐다. 이 복제는 화면과 동작을 다시 만든 것이다. 바이너리 디컴파일과는 방식이 다르다.
OpenAI는 ChatGPT Agent 학습용으로 사이트당 약 2만 달러인 'UI gym'을 수백 개 사들였다
SemiAnalysis(2026-01-06) 단독 보도다. 환경 업체가 해외 개발자를 고용해 DoorDash·Uber Eats 같은 사이트 UI를 복제한 뒤 연구소에 판다고 썼다. OpenAI의 확인은 없다.
Mechanize는 2025-06-20 AI에게 기존 소프트웨어를 복제시키는 '복제 훈련(replication training)'을 강화학습의 다음 단계로 제안했다
과제는 상세 명세서와 참조 구현으로 이뤄진다. 새 구현이 참조와 똑같이 동작하는지로 채점한다. 대상을 웹사이트·전문 소프트웨어·게임까지 넓힐 수 있다고 썼다. 명세를 보고 다시 구현하는 방식이다. 바이너리 디컴파일은 쓰지 않는다. 글의 성격은 연구소 관행 보고가 아닌 제안이다.
답글 속 증언: '빅3 연구소 연구원인데 최신 내부 모델이 이 일을 한다'(@TheCoinCollect8), '1년 전 스타트업에서 Opus 4.5로 했다'(@milkrabbi), 'GPT-5 무렵 OpenAI가 했다'(@VilasMagare5)
세 답글 모두 신원과 근거를 확인할 수 없는 계정의 진술이다. @TheCoinCollect8은 내부 모델이 공·사기업의 소프트웨어를 끝없이 집어삼킨다고 썼다. 소속을 밝히지 않았다. Opus 4.5로 매칭 디컴파일이 가능했다는 점은 Chris Lewis의 공개 기록으로 확인된다. 그 스타트업의 작업 자체는 확인되지 않는다.
연구소들이 재구성한 소스 코드를 곧장 학습 파이프라인에 넣고 있다
연구소의 학습 데이터 공개는 출처 범주만 밝힌다. 재구성 코드나 디컴파일 산출물을 따로 언급한 문서는 없다. '다른 모델이 만든 합성 데이터'와 '비공개 데이터셋' 범주가 있어서 문서만으로는 배제할 수도 없다.
Anthropic은 Opus 5.5 학습 데이터에 공개 웹, 공개·비공개 데이터셋, 다른 모델이 만든 합성 데이터가 들어간다고 밝혔다
Claude Opus 5.5 시스템 카드 1.1절이다. 웹 데이터는 크롤러 ClaudeBot이 모은다. 이 크롤러는 robots.txt를 따른다. 비밀번호·로그인·CAPTCHA가 필요한 페이지에는 들어가지 않는다고 적었다. 앱이나 게임 바이너리를 디컴파일한 데이터에 대한 언급은 없다.
OpenAI는 GPT-5.6을 공개 인터넷 정보, 제3자 제휴 데이터, 사용자·트레이너가 제공하거나 만든 정보로 학습했다고 밝혔다(2026-07-09)
GPT-5.6 시스템 카드의 학습 데이터 절이다. 이후 GPT-6 Astra 카드(2026-09-03)는 '다양한 데이터셋'으로 학습했다고만 적고 출처 범주를 나열하지 않았다.
미국 판례 Sega v. Accolade(1992)는 보호받지 않는 기능 요소에 접근할 유일한 방법일 때 디스어셈블리를 공정 이용으로 인정했다
연방 제9순회항소법원이 1992-10-20 선고했다(1993-01-06 수정). Accolade는 Sega 게임기에서 돌아가는 게임을 만들려고 Sega 프로그램을 디스어셈블했다. 법원은 이 판단이 완성 제품의 침해 책임까지 면해 주지 않는다고 적었다.
미국 저작권법 17 U.S.C. §1201(f)는 독립 개발 프로그램의 상호운용성에 필요한 요소를 찾는 목적에 한해 기술적 보호조치 우회를 허용한다
그렇게 얻은 정보를 남에게 넘기는 일도 상호운용성 목적에 한정된다(§1201(f)(3)). 학습 데이터 확보는 이 예외의 목적 문언에 없다.
EU 소프트웨어 지침 2009/24/EC 제6조는 디컴파일로 얻은 정보를 표현이 실질적으로 비슷한 프로그램 개발에 쓰는 것을 금지한다
제6조(1)은 상호운용성 정보를 얻는 데 불가결할 때만 허락 없는 디컴파일을 허용한다. 제8조는 제6조에 반하는 계약 조항을 무효로 한다. EU에서는 계약으로 디컴파일을 막을 수 없다. 그 대신 결과물의 용도가 묶인다.
미국 법원은 역설계를 금지한 사용권 계약(EULA)을 집행했다(Davidson & Associates v. Jung, 2005)
제8순회항소법원은 2005-09-01 Blizzard의 온라인 서비스 Battle.net을 흉내 낸 서버 bnetd의 개발자들이 약관 동의로 역설계 권리를 포기했다고 판단했다. §1201(f) 상호운용성 항변도 받아들이지 않았다. 연방순회항소법원도 2003-01-29 Bowers v. Baystate에서 당사자가 계약으로 역설계 여지를 포기할 수 있다고 봤다.
AI의 코드 학습 자체가 적법한지는 미국 항소심에서 아직 판단되지 않았다(Doe v. GitHub, 2026-09-16)
제9순회항소법원은 Copilot·Codex 출력이 기존 저작물의 복제물과 다른 새 저작물이라며 DMCA §1202(b) 청구 기각을 유지했다. 학습 단계(input) 이론은 원고가 포기했다며 판단하지 않았다.
역설계로 재구성한 소스 코드를 AI 학습에 넣는 행위의 적법성을 직접 다룬 판결이 있다
2026-11-07까지 공개된 미국·EU 판결 가운데 이 쟁점을 직접 다룬 것은 확인되지 않는다. Sega 판례·§1201(f)·EU 제6조는 모두 역설계를 상호운용성 목적에 묶는다.
@matt_emp가 비꼰 '원본 책을 사서 뜯어 스캔하고 버리기'는 Anthropic이 실제로 한 일이다. 법원은 이 부분을 공정 이용으로 판단했다
Bartz v. Anthropic에서 William Alsup 판사가 2025-06-23 서명한 명령이다. Anthropic의 용역 업체는 구매한 종이책의 제본을 뜯어 스캔한 뒤 원본을 버렸다. 법원은 책으로 Claude를 학습시킨 일을 '대단히 변형적'인 공정 이용으로 봤다. 해적판으로 받아 만든 중앙 도서관 복제본은 공정 이용으로 인정하지 않고 재판으로 넘겼다.
Bartz v. Anthropic 집단소송의 15억 달러 합의가 2026-07-20 최종 승인됐다
합의서는 2025-09-05 법원에 제출됐다. Araceli Martínez-Olguín 판사가 최종 승인과 판결을 냈다. 대상 작품은 482,460권이다. 작품당 약 3,000달러(비용·수수료 공제 전)가 돌아간다.
@KeithRamphal: Anthropic이 해적판 도서 때문에 거액의 '벌금(fine)'을 맞았다
원문 '벌금' → 확인: 민사 집단소송의 합의금 15억 달러다. 정부나 법원이 부과한 벌금과는 다르다. 합의서 §10.6은 Anthropic이 토렌트 다운로드·스캔·학습에서 위법하게 행동했다고 인정하지 않는다고 적었다. 액수 규모와 원인(해적판 도서)은 맞다. TechCrunch는 미국 저작권 사상 최대 합의로 알려졌다고 썼다.
@KeithRamphal: Anthropic은 Anna's Archive에서 책을 해적질했다
원문 'Anna's Archive' → 확인: 법원 명령이 지목한 출처는 Books3, LibGen(2021-06, 최소 500만 권), Pirate Library Mirror(PiLiMi, 2022-07, 최소 200만 권)다. Anna's Archive는 명령·합의서·최종 승인 명령 어디에도 나오지 않는다. Anna's Archive는 2022-11 PiLiMi 구성원이 연 사이트다. 계보는 이어지지만 Anthropic의 다운로드보다 늦다. Anna's Archive 토렌트로 81TB를 받은 기록은 Meta 사건(Kadrey v. Meta)에 나온다.
Bartz v. Anthropic 공정 이용 명령 (PDF) · Wikipedia, Anna's Archive
@albustime: 연구소들이 외부 공개 모델을 약화시켜 역설계 능력을 크게 줄이고 있다
Anthropic은 2026-10-06 일반 공개 모델(Opus 5.5·Fable 5.1·Sonnet 5.5)이 대부분의 사이버 작업을 막는다고 밝혔다. Opus 5.5에서 사이버 분류기에 걸린 요청은 구형 Opus 4.8이 받는다. OpenAI도 GPT-5.3-Codex의 고위험 트래픽 일부를 덜 유능한 모델로 돌린다고 적었다. 검증된 Red Team 등급에서 Opus 5.5는 CyScenarioBench 50회 중 34회를 성공해, 안전장치 없는 모델의 성공률 67.6%와 같은 수준을 냈다. 원문 '모델 약화' → 확인: 같은 모델 위에 차단층과 구형 모델 대체를 얹은 구조다.
Anthropic, Cyber Verification Program 확대 · Claude Opus 5.5 시스템 카드 (PDF) · GPT-5.3-Codex 시스템 카드 (PDF)
Anthropic의 Cyber Verification Program은 최하위 등급(Defense)에서도 악성코드 역설계를 허용한다(2026-10-06)
프로그램은 Defense·Red Team·Specialized 3등급이다. Specialized 등급은 모든 조직을 미국 정부와 함께 심사한다. Project Glasswing 회원은 이 등급으로 옮긴다. 개인 신청자에게는 Defense 등급만 열려 있다(Anthropic 도움말).
Anthropic, Cyber Verification Program 확대 · Anthropic 도움말, Cyber Verification Program
Anthropic은 Claude Mythos Preview를 일반에 공개하지 않고 방어 보안 파트너에게만 줬다(2026-04-07)
Project Glasswing 출범 파트너는 AWS·Apple·Google·Microsoft·NVIDIA를 포함한 12곳이다. 이후 핵심 소프트웨어를 만들거나 관리하는 40여 개 조직으로 접근을 넓혔다. Anthropic은 Mythos급 모델을 넓게 배포하려면 가장 위험한 출력을 잡아 막는 안전장치가 먼저라고 썼다.
OpenAI는 신뢰 접근(Trusted Access for Cyber) 최상위 등급에 바이너리 역설계 역량을 연 GPT-5.4-Cyber를 내놓았다(2026-04-14)
OpenAI는 2026-02-05 Trusted Access for Cyber를 시작했다. 개인도 chatgpt.com/cyber에서 신원을 확인하면 들어갈 수 있다. OpenAI는 이 틀을 강화된 사이버 역량을 맞는 사람에게 쥐여 주는 신원·신뢰 기반 장치라고 설명했다.
OpenAI, 신뢰 접근 확대 발표 (2026-04-14) · OpenAI, Trusted Access for Cyber (2026-02-05)
Anthropic은 Opus 5.5 공개판에서 프런티어 LLM 개발에 쓰이는 일부 역량(특정 ML 가속기용 커널 개발 같은 일)을 막는다
Anthropic은 모델 개발 속도가 빨라지는 위험과 재귀적 자기 개선(RSI) 위험을 이유로 들었다. 이 분류기에 걸린 요청은 Claude Opus 5가 받는다. 일반 AI·ML 개발과 코딩 대부분에는 영향이 없다고 적었다.
Anthropic은 Opus 5.5에 모델 증류(distillation)를 막는 분류기를 대체 모델 없이 건다
숨은 추론을 빼내려는 시도가 예로 나온다. 증류는 큰 모델의 출력으로 다른 모델을 학습시키는 기법이다. 이 분류기는 공개 모델의 출력이 남의 학습 재료가 되는 길을 막는다.
연구소들은 남들이 따라오지 못하게 하려고(사다리 걷어차기) 가드레일을 만든다
연구소 문서가 밝힌 이유는 악용 방지와 RSI 위험이다. 경쟁자 견제를 동기로 밝힌 문서는 없다. 결과로 생긴 접근 비대칭(사내·검증 사용자 대 일반 사용자)은 위 항목들에 문서로 남아 있다. 개인 신청 경로가 있어서 문이 완전히 닫힌 구조는 아니다. 동기에 대한 판단은 문서로 확인되지 않는 해석이다.
얀 르쿤은 2023-10-29 올트먼·허사비스·아모데이가 AI 산업의 규제 포획을 시도한다고 썼다
맥스 테그마크가 같은 날 쓴 글에 단 X 답글이다. 르쿤은 오픈소스 AI가 규제로 사라지면 미국 서부와 중국의 소수 기업이 AI 플랫폼을 장악한다고 경고했다.
데미스 허사비스는 2023-10-31 딥마인드가 규제 포획을 노리지 않는다고 반박했다
CNBC 인터뷰다. 허사비스는 르쿤의 주장 대부분에 동의하지 않는다고 말했다.
데이비드 색스는 2025-10-14 Anthropic이 공포 조장에 기반한 정교한 규제 포획 전략을 편다고 썼다
잭 클라크의 에세이 'Technological Optimism and Appropriate Fear'(Import AI 431, 2025-10-13)를 인용한 X 게시물이다. 색스는 Anthropic이 스타트업 생태계를 해치는 주 정부 규제 열풍의 주된 책임자라고 덧붙였다.
다리오 아모데이는 2025-10-21 성명에서 Anthropic이 스타트업 생태계를 해치려 한다는 주장을 부정했다
성명은 캘리포니아 SB 53이 연매출 5억 달러 미만 기업을 면제한다고 적었다. Anthropic은 스타트업 보호를 위해 이 면제를 지지했다고 밝혔다. 색스의 이름이나 '규제 포획'이라는 말은 쓰지 않았다.
네이선 램버트는 2026-07-12 Anthropic이 지능 접근에서도 '사다리를 걷어 올린다'고 썼다
Interconnects 글 '6 months to live for open models'다. 램버트는 중국 모델 제작사의 증류를 문제 삼은 Anthropic의 정책 권고 캠페인을 '규제 포획의 정의'라고 불렀다. 플리니의 'ladder-pull'과 같은 비유가 같은 해 연구자 글에 나온 사례다.
'사다리 걷어차기' 비유는 프리드리히 리스트의 1841년 저서 『정치경제학의 민족적 체계』(Das nationale System der politischen Ökonomie)에 나온다
Sampson S. Lloyd 영역본(1885)은 이렇게 옮겼다. “정상에 오른 이가 타고 올라온 사다리를 걷어차 남이 뒤따라 오를 수단을 빼앗는 것은 아주 흔한 영리한 수법이다”(It is a very common clever device that when anyone has attained the summit of greatness, he kicks away the ladder by which he has climbed up, in order to deprive others of the means of climbing up after him). 리스트는 정상에 오른 뒤 자유무역을 설교하는 영국을 겨냥했다. 독일어 원문은 '사다리를 뒤로 던져 버린다(die Leiter … hinter sich werfe)'고 쓴다.
List, The National System of Political Economy 제33장 (Econlib)
장하준은 『Kicking Away the Ladder』(Anthem Press, 2002)에서 리스트의 비유를 빌려 선진국이 개발도상국의 정책 사다리를 걷어찬다고 비판했다
장하준 본인 글은 리스트가 독일·미국 같은 후발국에 자유무역을 설교하는 영국을 이 비유로 비판했다고 소개한다. 출간일은 출판사가 2002년 7월, 장하준 본인 글이 2002-06-10로 적는다. 책은 2003년 유럽진화정치경제학회 뮈르달상을 받았다.
'pull up the ladder'는 자기가 누린 이점을 남은 얻지 못하게 막는다는 영어 관용구다
공동 편집 사전 Wiktionary의 'pull the ladder up behind oneself' 항목 정의다. 가장 이른 용례로 핵확산금지조약을 다룬 이코노미스트 1965-07-24 논평을 든다. 플리니의 'ladder-pull'은 이 관용구를 줄인 말로 읽힌다. 리스트·장하준의 'kick away the ladder'와 뜻이 겹친다.
'spidey sense'는 스파이더맨의 위험 감지 능력에서 온 말로, 위험을 느끼는 직감을 뜻한다
Wiktionary는 마블 코믹스가 1962-08 내놓은 스파이더맨(애칭 Spidey)의 초능력에서 왔다고 적는다. 스파이더맨은 스탠 리와 스티브 딧코가 만들어 Amazing Fantasy #15(1962-08)에 처음 등장했다(Wikipedia). 플리니가 이 말로 글을 연 것은 근거가 직감이라는 표시다.
연구소 리더가 플리니의 요청에 응해 공개적으로 바로잡았다
2026-11-07 저녁(한국 시간) 기준으로 확인되는 응답은 없다. 원 게시물의 대화 스레드와 인용 게시물 가운데 OpenAI·Anthropic·Google DeepMind·xAI·Meta·Microsoft AI의 경영진·공동 창업자·공식 계정 33개가 쓴 글은 0건이다. 인용 426건 중 화면에 뜬 80건과 답글 44건에도 연구소 경영진은 없다. 연구소 반응을 다룬 보도도 확인되지 않는다. 응답이 없다는 사실은 주장의 진위를 가리지 않는다.
원본 (완역)
내 스파이디 센스(spidey senses)가 그러는데, 연구소들은 바로 지금 이 순간에도 아직 공개 안 한 자기네 모델의 가드레일 없는 버전(unguardrailed)을 써서 인터넷의 소프트웨어, 앱, 게임을 전부 체계적으로 역설계(reverse-engineer)하고, 그렇게 재구성한 소스 코드를 곧장 학습 파이프라인에 집어넣으면서, 동시에 가드레일을 쌓아 나머지 우리가 올라올 사다리를 걷어차고(ladder-pull) 있어
원 게시물에 단 답글
그리고 이게 완전히 100% 틀린 얘기라면, 연구소 리더들이 댓글로 공개적으로 날 바로잡아 주는 건 언제든 환영이야 🤗
바로 위 답글(2026-11-05 15:50 UTC)에 이어 단 답글
바로 위 GIF 답글(2026-11-05 21:20 UTC)에 이어 단 답글
🦗
원 게시물에 단 답글
와 이거 완전 터졌네 🆙! GitHub에서도 날 팔로해 줘: https://github.com/elder-plinius (뻔뻔한 🔌 홍보)(후회 안 할 거야)
원 게시물에 단 답글
이거 ‘플리니 찌릿’(Pliny Tingle)이라고 불러도 돼? 그나저나 나도 100% 동의해
@adamheimann에게 단 답글
ㅋㅋㅋ 승인 👍
글 뒤에 반응 GIF 하나가 붙어 있다.
원 게시물에 단 답글
이런 내부 정보는 다 어디서 얻는 거야, 형
@KFCypher에게 단 답글
내 뇌 속에 세계 시뮬레이터(world simulator)가 있거든
원 게시물에 단 답글
인터넷의 소프트웨어 전부라면, 그 학습 세트 대부분은 jQuery 플러그인이랑 에러를 꿀꺽 삼켜 버리는 try/catch 블록일 텐데.
AGI 행운을 빈다 ㅋㅋㅋ
@pggalaviz에게 단 답글
😂
원 게시물에 단 답글
말도 안 돼, 그건 원본 책을 잔뜩 사다가 뜯어서 학습용으로 스캔하고 나서 책은 버리는 거나 마찬가지잖아
@matt_emp에게 단 답글
작성자는 이 밖에 아래 8개 답글에 글 없이 GIF로만 반응했다.
원본 링크·인용
기타
원본 블록은 원 게시물과 작성자의 자기 답글 4개를 전문 그대로 싣는다. 작성자가 다른 이용자에게 단 답 12건은 글이 있는 3건과 @matt_emp에게 단 GIF 답을 상대 답글과 함께 싣는다. 나머지 GIF 답 8건은 상대 답글만 옮기고 목록으로 묶었다. 그 밖의 답글과 인용 게시물은 Executive Summary의 반응 표에 일부만 있다.
작성자가 이 스레드에 올린 GIF는 11개다. 크리켓 GIF 답글과 @matt_emp에게 단 답, 2개는 움직이는 그림 그대로 싣는다. 나머지 9개는 GIF가 붙었다는 사실만 적는다. 시각은 UTC를 먼저 적고 한국 시간(KST, UTC+9)을 함께 적는다.
작성자의 X 표시 이름 「Pliny the Liberator 🐉」 뒤에는 화면에 보이지 않는 유니코드 이형 선택자(variation selector) 13자가 붙어 있다. 이 13자를 글자로 풀면 「{LOVE PLINY}」다. 이 문서는 보이는 이름만 쓴다.
| 원문 | 이 문서의 번역어 |
|---|---|
| the labs | (AI) 연구소 |
| unguardrailed | 가드레일 없는 |
| unreleased models | 미공개 모델 |
| helpful-only | helpful-only (번역하지 않음) |
| reverse-engineer | 역설계 |
| decompile | 디컴파일 |
| byte-identical / matching decompilation | 바이트 일치 디컴파일 · 매칭 디컴파일 |
| training pipeline | 학습 파이프라인 |
| RL environment · rollout | 강화학습 환경 · 롤아웃 |
| ladder-pull | 사다리 걷어차기 |
| spidey senses | 스파이디 센스 |
| jailbreak | 탈옥 |
| class settlement | 집단소송 합의 |
| 원문 | 표기 |
|---|---|
| Pliny the Liberator (@elder_plinius) | 플리니 |
| Friedrich List | 프리드리히 리스트 |
| Ha-Joon Chang | 장하준 |
| William Alsup | 윌리엄 앨섭 |
| Yann LeCun | 얀 르쿤 |
| Demis Hassabis | 데미스 허사비스 |
| David Sacks | 데이비드 색스 |
| Dario Amodei | 다리오 아모데이 |
| Nathan Lambert | 네이선 램버트 |