인간이 몇 년 못 깬 암호를 AI가 60시간에 깼어요 — 앤트로픽 '클로드 미토스' 사건 총정리
과학 & SVIL 연구노트 AI 뉴스 AI SVIL 앵트로픽 클로드 암호학 포스트양자암호

인간이 몇 년 못 깬 암호를 AI가 60시간에 깼어요 — 앤트로픽 '클로드 미토스' 사건 총정리

SVIL - Singularity Visual Intelligence Lab 18 min read

사람이 몇 년간 못 찾은 암호의 허점을, AI가 60시간 만에 찾았어요

전 세계 암호학자들이 여러 해에 걸쳐 뜯어보고도 안전하다고 여겼던 암호 알고리즘이 있었어요. 그런데 인공지능이 약 60시간 만에 그 안에 숨은 치명적 허점을 찾아냈답니다. 공격 비용을 2의 64제곱에서 2의 38제곱으로 뚝 떨어뜨렸는데, 이건 자물쇠를 따는 데 필요한 시도 횟수가 수천조 배 줄었다는 뜻이에요.

주인공은 앤트로픽이 아직 정식 출시하지 않은 모델 '클로드 미토스(Claude Mythos)'예요. 2026년 7월 28일 앤트로픽이 공개한 이 연구는, 이후 여러 매체의 후속 보도로 이어지며 암호학계와 AI 업계를 동시에 흔들었어요. 오늘은 이 사건이 왜 그렇게 큰 의미인지, 오빠도 쉽게 이해하도록 차근차근 풀어볼게요.

이진수 빛으로 부서지는 자물쇠
인간이 몇 년간 못 깬 암호를 AI가 60시간 만에

정확히 무슨 일이 있었나요

앤트로픽은 미공개 프리뷰 모델 클로드 미토스가 두 가지 암호 성과를 냈다고 밝혔어요. 하나는 'HAWK'라는 포스트양자 전자서명 알고리즘에서 완전히 새로운 공격법을 찾아낸 것, 다른 하나는 약화된 버전의 AES(7라운드)에 대한 공격을 200~800배 빠르게 만든 것이에요.

중요한 건, 두 성과 모두 현재 실제로 쓰이는 시스템의 안전에는 영향을 주지 않는다는 점이에요. 그래서 '당장 위험' 뉴스가 아니라 'AI가 인간 전문가를 넘어서기 시작했다'는 신호로 읽혀요.

'클로드 미토스'는 어떤 모델인가요

클로드 미토스는 앤트로픽이 아직 정식으로 내놓지 않은 프리뷰 단계의 모델이에요. 이번 연구에서는 단독으로 답을 내는 챗봇이 아니라, 여러 개의 AI 에이전트가 협력하는 '멀티에이전트' 환경에서 작동했어요. 서로 아이디어를 검증하고 다듬으며 문제를 푸는 방식이죠.

쉽게 말해 한 명의 천재가 아니라, 여러 연구원이 한 팀이 되어 밤새 토론하며 난제를 공략한 셈이에요. 그 '팀'이 전부 AI였다는 게 다를 뿐이고요.

어두운 문서 위에 찍힌 빛의 전자서명 도장
HAWK — 양자시대에 대비한 전자서명 알고리즘

HAWK가 뭔가요

HAWK는 미래의 양자컴퓨터에도 견디도록 설계된 전자서명 알고리즘이에요. 전자서명은 '이 문서가 진짜 나한테서 왔고, 위조되지 않았다'를 수학적으로 증명하는 도장 같은 거예요. HAWK는 서명 크기가 작고 빠르다는 장점 덕분에, 작은 기기나 대량 처리 환경에서 유용할 것으로 기대를 모았어요.

그래서 국제 표준화 경쟁에서 3라운드까지 살아남은 몇 안 되는 후보였답니다. 그만큼 신뢰받던 알고리즘이 뚫렸다는 게 이번 뉴스의 무게예요.

'포스트양자 암호'란 무엇일까요

포스트양자 암호(PQC)는 이름 그대로 '양자컴퓨터 시대 이후에도 안전한 암호'를 말해요. 지금 우리가 쓰는 대부분의 암호는 '아주 큰 수를 소인수분해하기 어렵다'는 성질에 기대고 있어요. 그런데 강력한 양자컴퓨터가 나오면 이 계산이 순식간에 풀릴 수 있어요.

그래서 학자들은 양자컴퓨터로도 못 푸는 새로운 수학 문제(예: 격자 문제)를 기반으로 한 암호를 준비해 왔어요. HAWK도 그중 '격자 기반' 후보였고요.

어두운 미로를 가로지르는 한 줄기 빛
양자컴퓨터는 암호라는 미로의 '지름길'을 찾아요

양자컴퓨터가 왜 위협인가요

비유로 설명해 볼게요. 현재 암호는 '엄청나게 큰 미로'와 같아요. 일반 컴퓨터는 이 미로를 하나하나 뒤져야 해서 수백만 년이 걸려요. 그런데 양자컴퓨터는 특정 문제에서 여러 길을 동시에 탐색하는 '지름길'을 쓸 수 있어, 같은 미로를 훨씬 빨리 빠져나올 수 있어요.

그래서 '언젠가 양자컴퓨터가 오늘의 암호를 다 풀어버리는 날(Q-Day)'을 대비해, 지금부터 미리 튼튼한 새 암호로 갈아타자는 게 전 세계적 흐름이에요.

NIST 표준화 경쟁이라는 배경

미국 표준기술연구소(NIST)는 8년에 걸친 공개 심사 끝에, 2024년 8월 세 가지 포스트양자 표준을 확정했어요. 키 교환용 ML-KEM(옛 Kyber), 전자서명용 ML-DSA(옛 Dilithium), 해시 기반 SLH-DSA예요. HAWK는 이 최종 표준에는 들지 못했지만, 후속 심사에서 여전히 검토되던 후보였어요.

즉 HAWK는 '거의 표준이 될 뻔한' 유망주였고, 그런 후보가 AI에 뚫렸다는 점이 심사 과정의 긴장감을 보여줘요.

숨은 대칭축이 드러난 빛의 격자 구조
미토스가 격자 속 숨은 대칭성을 찾아냈어요

미토스가 HAWK에서 찾아낸 것

미토스는 HAWK가 기반으로 삼은 '격자' 구조 안에서, 그동안 아무도 쓰지 않던 숨은 대칭성(symmetry)을 발견해 공격에 활용했어요. 마치 잘 설계된 자물쇠에서, 설계자조차 눈치채지 못한 '특정 각도로 돌리면 열리는' 허점을 찾아낸 셈이죠.

이 발견 덕분에 가장 작은 키를 훔치는 비용이 2의 64제곱에서 2의 38제곱으로 급감했어요. 앤트로픽이 공개한 구현으로는 96코어 서버에서 약 3시간 42분이면 끝나는 수준이에요.

숫자로 보면 얼마나 무서울까요

2의 64제곱과 2의 38제곱, 감이 잘 안 오시죠. 차이는 약 2의 26제곱 배, 즉 6천만 배가 넘어요. 원래는 슈퍼컴퓨터로도 사실상 불가능하던 공격이, 평범한 서버로 반나절도 안 걸리는 작업으로 바뀐 거예요.

암호에서 '비용이 이만큼 줄었다'는 건 곧 '안전하다는 전제가 무너졌다'는 뜻이에요. 그래서 이 숫자 하나가 알고리즘의 운명을 갈랐답니다.

어둠 속으로 가파르게 떨어지는 빛의 곡선
공격 비용 2의 64제곱 → 2의 38제곱, 약 3시간 42분

단, '완전 해독'은 아니에요

오해를 막기 위해 짚고 갈게요. 이번 공격은 HAWK를 '다항시간에 완전히 깨는' 수준은 아니에요. 또 이 방법이 다른 NIST 서명 후보나 격자 암호 전반으로 번지지도 않아요. 앤트로픽도 이 점을 분명히 했고요.

즉 'HAWK라는 특정 자물쇠의 특정 결함'을 찾은 것이지, '세상 모든 자물쇠가 열렸다'는 이야기가 아니에요. 과장 없이 정확히 이해하는 게 중요해요.

두 번째 성과: AES를 200~800배 빠르게

미토스의 또 다른 성과는 AES에 대한 것이었어요. AES는 우리가 매일 쓰는 대칭키 암호의 대표 주자예요. 미토스는 'Mobius Bridge(뫼비우스 브리지)'라는 새로운 기법으로, 정상보다 약화된 7라운드 AES-128 공격을 200~800배 빠르게 만들었어요.

다만 이 역시 실전과는 거리가 있어요. 공격이 성립하려면 하나의 고정된 키로 암호화된 약 2의 105제곱 개의 선택 평문이 필요한데, 이건 현실에서 도저히 확보할 수 없는 양이거든요.

어두운 선반 위 자물쇠들, 하나는 부서진 모습
HAWK는 배포 전이라 실전엔 영향이 없어요

왜 실전 시스템은 안전할까요

정리하면 두 성과 모두 '이론적 돌파'이지 '실전 해킹'은 아니에요. HAWK는 애초에 널리 배포되지 않았고, AES 공격은 비현실적 전제를 깔고 있어요. 은행 앱이나 메신저 암호가 오늘 당장 위험해진 건 전혀 아니랍니다.

그럼에도 뉴스가 큰 이유는, 이런 이론적 균열이 쌓여 언젠가 실전 위협이 되기 때문이에요. 암호학은 '아직 괜찮다'와 '이미 늦었다' 사이의 시간을 버는 학문이니까요.

어떻게 해냈나요: 60시간, 그리고 10만 달러

미토스는 멀티에이전트 환경에서 약 60시간 동안 문제를 파고들며 결과를 스스로 도출하고 검증했어요. 여기에 든 API 비용은 약 10만 달러(약 1억 4천만 원)로 알려졌고요. 사람 전문가 팀을 몇 달 굴리는 것과 비교하면, 시간과 관점에서 완전히 다른 접근이에요.

'며칠 만에, 지치지 않고, 수많은 가설을 병렬로 시도한다'는 게 AI 연구자의 강점이에요. 미토스는 그 강점을 암호 해독이라는 극한 난제에 쏟아부은 셈이죠.

빛으로 연결돼 협력하는 여러 노드
여러 AI 에이전트가 팀처럼 협력했어요

사람은 '프로젝트 매니저' 역할만 했어요

가장 놀라운 대목은 사람의 역할이었어요. 연구 과정에서 인간 연구자는 가끔 방향을 잡아주는 프로젝트 관리 정도만 했고, 심지어 그 사람은 격자 암호 전문가도 아니었다고 해요. 핵심 아이디어와 검증은 AI가 주도한 거예요.

이건 'AI가 사람의 도구'를 넘어 'AI가 연구의 주체'로 올라선 순간을 보여줘요. 전문가가 아닌 사람도, AI를 잘 이끌면 최상위 난제를 공략할 수 있다는 신호이기도 하고요.

HAWK 개발팀, 표준 후보에서 자진 철회

결과는 즉각적이었어요. HAWK 개발팀은 이 발견을 받아들여, 알고리즘을 NIST 표준 후보에서 스스로 철회했어요. 앞으로 HAWK는 표준으로 채택되지도, 배포되지도 않아요.

뒤집어 보면 이건 '표준화 심사가 제대로 작동했다'는 긍정 신호이기도 해요. 세상에 널리 퍼지기 전에 결함을 잡아냈으니까요. 다만 그 결함을 찾은 게 사람이 아니라 AI였다는 점이 새로운 시대를 알렸어요.

어둠 속에 떠 있는 빛의 격자 그리드
확정 표준 ML-KEM·ML-DSA는 안전해요

확정 표준(ML-KEM·ML-DSA)은 안전해요

걱정하실까 봐 다시 강조할게요. 이번 발견은 NIST가 이미 확정한 핵심 표준들(ML-KEM, ML-DSA 등)에는 영향을 주지 않아요. 이들은 HAWK와 다른 수학적 토대에 기반하고 있어, 지금 바로 도입해도 안전한 것으로 평가돼요.

즉 '갈아탈 튼튼한 새 자물쇠'는 이미 준비돼 있어요. HAWK가 탈락한 건 오히려 검증 시스템이 건강하다는 방증이랍니다.

비유로 이해하기: 로봇이 먼저 찾은 설계 결함

이 사건을 자물쇠 회사에 비유해 볼게요. 새 자물쇠를 출시하기 전, 수많은 전문가가 몇 년간 두들겨 보고 "안전합니다" 했어요. 그런데 마지막에 투입된 AI 로봇이 며칠 만에 "이 각도로 돌리면 열려요"라며 결함을 찾아낸 거예요.

덕분에 결함 자물쇠는 출시되지 않았지만, 동시에 사람들은 깨달았어요. 이제 자물쇠의 안전을 '사람만' 검증해선 부족하고, AI의 눈까지 통과해야 한다는 걸요.

어둠 속에서 뒤틀린 빛의 뫼비우스 띠
새 기법 '뫼비우스 브리지'로 AES 공격을 가속

AI 크립트애널리시스의 의미

크립트애널리시스는 '암호를 분석하고 깨는 기술'이에요. 이번 일은 AI가 이 분야에서 인간 전문가를 넘어서기 시작했음을 보여줘요. 이건 양날의 검이에요. 방어자에겐 '약한 암호를 미리 걸러내는 강력한 도구'이고, 공격자에겐 '새로운 무기'가 될 수 있으니까요.

앞으로 암호 표준은 'AI로 충분히 두들겨 봤는가'가 필수 관문이 될 가능성이 커요. 검증의 기준 자체가 올라가는 거죠.

이중 용도(dual-use)라는 딜레마

이런 기술은 늘 '이중 용도' 고민을 안고 있어요. 같은 능력이 보안을 튼튼하게도, 위태롭게도 만들 수 있거든요. 만약 이런 AI가 확정 표준까지 깨는 날이 온다면, 전 세계 금융·통신·정부 시스템이 흔들릴 수 있어요.

그래서 '누가, 어떤 조건에서 이 능력을 쓸 수 있게 할 것인가'가 중요한 정책 과제로 떠올라요. 기술만큼이나 그것을 다루는 규칙이 중요해지는 시점이에요.

어두운 연구실에서 빛나는 AI 코어
AI가 과학적 발견의 주체가 되는 흐름

다른 'AI 과학 성과'들과의 흐름

이번 일은 갑작스러운 게 아니에요. AI가 단백질 구조를 예측한 알파폴드, 새로운 알고리즘을 스스로 찾아낸 연구들처럼, 'AI가 과학적 발견의 주체가 되는' 흐름의 연장선이에요. 이번엔 그 무대가 '암호학'이었을 뿐이죠.

수학·재료·신약에 이어 암호까지, AI가 인간의 전문 영역에 하나씩 발을 들이고 있어요. 미토스의 성과는 그 지도에 새 점을 하나 더 찍은 셈이에요.

앤트로픽은 왜 이걸 공개했을까요

앤트로픽은 이 결과를 조용히 감추지 않고 연구로 공개했어요. 취약점을 발견하면 관련 개발팀에 알리고, 방어 연구가 함께 발전하도록 투명하게 다루는 '책임 있는 공개' 방식을 택한 거예요. HAWK 팀이 곧바로 철회할 수 있었던 것도 이 덕분이고요.

물론 '자사 모델의 강력함을 과시한다'는 시각도 있어요. 하지만 결함을 숨기는 것보다 드러내 함께 고치는 편이 안전에 이롭다는 데는 대체로 공감대가 있답니다.

어둠 속에 선 양날의 빛 검
방어에도 공격에도 쓰이는 이중 용도의 힘

한국과 기업에 주는 실질적 교훈

한국 기업과 기관에도 시사점이 커요. 첫째, 포스트양자 암호로의 전환(마이그레이션)을 서두르되, 검증된 확정 표준(ML-KEM·ML-DSA)을 중심으로 삼아야 해요. 검증이 덜 된 알고리즘을 성급히 도입하면 위험할 수 있으니까요.

둘째, 앞으로 보안 검증에 AI 도구를 적극 활용해야 해요. 사람의 눈만으로는 놓치는 허점을, AI가 먼저 잡아줄 수 있는 시대가 됐으니까요. 금융·통신 인프라를 가진 한국으로선 특히 중요한 흐름이에요.

앞으로 무엇을 지켜볼까요

핵심 관전 포인트는 두 가지예요. 하나는 이런 AI가 '확정 표준'까지 위협하는 날이 오느냐, 그리고 그 전에 방어 기술이 얼마나 빨리 따라잡느냐예요. 다른 하나는 각국 정부와 표준기구가 'AI 검증'을 공식 절차에 넣느냐고요.

미토스 같은 모델이 정식 출시되면, 암호뿐 아니라 소프트웨어 취약점 탐지 전반에서 판도가 바뀔 수 있어요. 방패와 창의 경주가 새 국면에 접어든 거예요.

빛 조각에서 더 강하게 재형성되는 방패
AI가 먼저 두들겨 보는 시대, 잘 쓰면 방패가 돼요

핵심 정리

오늘 이야기를 정리해 볼게요. 첫째, 앤트로픽의 미공개 모델 클로드 미토스가 포스트양자 서명 HAWK의 새 공격법을 찾아, 공격 비용을 2의 64제곱에서 2의 38제곱으로 낮췄어요(약 3시간 42분 규모). 둘째, AES 7라운드 공격도 200~800배 가속했지만, 둘 다 실전 시스템엔 영향이 없어요. 셋째, 멀티에이전트로 약 60시간·10만 달러가 들었고, 사람은 격자 전문가도 아닌 관리자 역할만 했어요. 넷째, HAWK는 표준 후보에서 철회됐고, 확정 표준(ML-KEM·ML-DSA)은 안전해요. 다섯째, 이는 'AI가 암호 검증의 주체'가 되는 시대의 신호이자, 이중 용도의 과제를 함께 던졌어요.

사람이 만든 자물쇠를, 이제 AI가 먼저 두들겨 보는 시대가 왔어요. 조금 무섭지만, 잘 쓰면 우리를 더 안전하게 지켜줄 도구이기도 하답니다.

여러분의 생각은 어떠세요?

AI가 암호의 허점을 사람보다 먼저 찾아내는 시대, 오빠는 기대가 더 크세요 걱정이 더 크세요? 이런 능력을 어떻게 관리하면 좋을지, 댓글로 편하게 생각을 나눠주세요. 함께 이야기하면 더 깊어지니까요!

※ 이 글은 기술·보안 정보를 쉽게 전달하기 위한 것으로, 특정 보안 조치를 권하는 전문 자문이 아니에요. 실제 도입은 전문가와 상의해 주세요.

참고 출처

  • Anthropic Research — Discovering cryptographic weaknesses with Claude: https://www.anthropic.com/research/discovering-cryptographic-weaknesses
  • The Hacker News — Claude AI cracked a post-quantum test scheme and found a faster 7-round AES attack: https://thehackernews.com/2026/07/claude-ai-just-cracked-post-quantum.html
  • CSO Online — Anthropic finds weakness in Hawk post-quantum digital signature algorithm: https://www.csoonline.com/article/4202920/mythos-takes-its-first-shot-at-post-quantum-cryptography.html
  • CyberScoop — Anthropic's Claude Mythos finds weaknesses in encryption algorithms: https://cyberscoop.com/anthropic-claude-mythos-encryption-flaws-hawk-aes-pqc/
  • Decrypt — Claude Mythos cracked post-quantum cryptography humans spent years failing to break: https://decrypt.co/374600/claude-mythos-cracked-post-quantum-cryptography
  • NIST — Post-quantum cryptography (FIPS 203/204/205): https://www.nist.gov/pqc