Mythos 가 출시 3일 만에 셧다운됐다 — 진짜 이유는?
트럼프가 존 코너인가..?
어제 아침인가 뉴스를 보다가, 트럼프가 엔트로픽의 새 모델인 Mythos 5 / Fable 5를 해외에서 (심지어는 자국 내의 외국인까지) 는 아예 접근을 못하도록 block 했다는 내용을 봤다. 그리고 오늘, 내 메일함에 온 TLDR 레터에도 같은 내용의 아티클이 보였다. 분명 스카이넷 어쩌구 하면서 블로그에 글을 쓴게 엊그제 같은데… 이렇게 빠르다고? 라는 생각을 했다.
Fable 5 가 잠깐 활성화 됐을 떄, 난 뭘했나? 생각해봤는데, 상표권 관련해서 몇 개 물어본게 전부였던 거 같다..(ㅋㅋㅋ아 더 써볼껄.. 존코너는 지금 어딨냐고)
일단 무슨 일이 났냐면
12일에 출시. 13일에 block. 통째로 내림.
3일이다.
내가 상표권 얘기 했던 게, 그 3일 안에 있던 일이라는 게 좀 묘하다.
근데 출시한 회사 본인 입장에서도 좀 어이없을 거다. 어제 신상품 매대 차렸는데 오늘 와서 “치워” 라고 한 거니까.
왜 막은 건데
들리는 얘기는 두 개다.
하나는 — 중국 어딘가에서 Mythos 에 접근한 정황이 있었다더라. 디테일은 정부가 공개 안 함. “그런 게 있었음” 만.
또 하나는 — Amazon 쪽에서 정부에 먼저 알람을 친 거 같다. Amazon 이 Anthropic 최대 투자자 중 하나인데 거기서 “이거 jailbreak 가능함, 위험함” 이라고 콕 집어줬다고.
근데 좀 묘한 게 — 자기가 투자한 회사 모델을 자기가 멈춰달라고 한 거잖아? 그만큼 위험하다고 본 건지, 아니면 다른 정치적 이유가 있는 건지 — 거기까진 모르겠다.
Anthropic 본인은 “그 jailbreak 좁은 거였다. 모든 안전장치 뚫는 거 아니다” 라고 항의한 거 같은데, 정부는 그냥 “위험” 만.
결국 핵심은 제로데이
표면 이야기들 다 걷어내고 보면 — 진짜 무서운 건 Mythos 가 취약점을 너무 잘 찾는다 인 거 같다.
지난번 글 에 잠깐 적었던 그 사례 — Mythos 가 FreeBSD 의 17년 묵은 RCE 취약점 찾아낸 거. 17년 동안 사람들이 못 본 걸 LLM 이 딸깍 하고 찾아냈다.
이게 양날의 검이라.
우리 편 코드 패치하는데 쓰면 — 천사다. 적국이 우리 코드 뒤지는데 쓰면 — 핵무기다.
미국 입장에선 — 이게 중국 어딘가로 흘러가면 그 나라 사이버 공격 능력이 한 단계 점프하는 거다. 그러니 막을 만하긴 하다.
근데 또 막는다고 안 흘러갈까? 그건 모르겠다.
미토스가 스카이넷인가?
지난주 RSI 글 에서
AI 가 너무 세지면 멈출 수 있어야 한다. 다른 lab 들이 같이 멈추면 우리도 멈출 거다.
글을 쓰면서도 적어도 1년일거라 생각했는데, 바로 무슨 일주일만에 일어났다.
큰 그림 한 줄
이번 사건 의미를 한 줄로 정리하면 — AI 모델이 군용 기술이랑 같은 카테고리로 분류되기 시작했다 는 거 같다.
다음 프론티어 모델은 출시 전에 정부 한 번씩 거쳐야 하는 흐름으로 갈 듯.
마치며
아 존 코너 뭐하냐고, 일자리 다 없어진다고!!!
마침.