AI한테 뭔가 물어봤다가 “그건 어렵습니다”, “더 이상은 안 됩니다” 같은 답을 한 번쯤 받아보셨을 거예요. 이럴 때 보통은 거기서 멈추거나 다른 방법을 찾아보게 되죠.
그런데 Anthropic이 최근 공개한 사례를 보면, 이 “안 된다”는 답 뒤에 아직 안 가본 길이 남아있을 수도 있다는 생각이 들어요.
Anthropic에 따르면 자사의 최신 모델 클로드 미토스 프리뷰 (Claude Mythos Preview)가 양자내성 디지털 서명 후보 방식과 AES 축소판, 이렇게 두 암호 기술에서 새로운 약점을 찾아냈다고 해요. 그중 하나는 전문가들이 2년 넘게 들여다본 문제에서 60시간 만에 더 나은 공격법을 찾아낸 사례였고요.
전문가들이 2년간 검토한 문제, 60시간 만에 약점을 찾았어요
Anthropic에 따르면 HAWK는 미국 NIST가 진행 중인 양자내성 서명 방식 표준화의 3라운드 후보 중 하나로, 전문가들이 2년 넘게 검토해온 방식이라고 해요. Mythos는 이 방식이 기대는 격자 구조에서 그동안 발견되지 않았던 대칭성을 찾아내 개선된 공격법을 만들어냈고요.
HAWK가 처음 제안됐을 때 예상한 것보다 보안 강도가 훨씬 낮을 수 있다는 뜻이라, 아직 표준으로 확정되기 전에 이런 약점을 미리 찾아낸 셈이라고 해요.
여러 에이전트가 함께 작업하는 구조였는데, 한 에이전트는 처음에 이 방법이 불가능하다고 판단해 접었지만 다른 에이전트가 이어받아 실제로 성립시켰다고 해요.
프로젝트를 이끈 연구자는 격자 기반 암호학 전문가가 아니라 이론전산학 배경을 가진 사람이었고, 역할도 프로젝트 관리와 프롬프트 제공 정도에 그쳤다고 해요. 이 작업에 든 API 비용은 약 10만 달러였어요. AI 벤치마크에서도 비슷한 얘기가 나온 적 있는데, 같은 AI라도 주어지는 시간과 예산에 따라 실제 능력 차이가 크게 벌어진다고 해요.
재탐색 과정에서 200배 더 강한 공격법이 나왔어요
Anthropic에 따르면 Mythos는 축소판 AES-128(전체 10라운드 중 7라운드만 쓰는 버전) 공격을 시도하다가, 처음엔 더 이상의 개선은 어렵다는 취지로 답했다고 해요. 그런데 연구자가 진짜 새로운 아이디어를 찾아보라고 요청했고, 이어진 재탐색 과정에서 사흘 동안 수억 개의 토큰을 썼다고 해요. 그 사이 연구자가 추가로 보낸 실질적인 프롬프트는 세 번뿐이었다고 해요.
그 결과가 Anthropic이 “뫼비우스 브릿지”라 부르는 새 공격법이었고, 기존에 알려진 최고 성능 공격보다 200배에서 800배 개선된 결과였다고 해요.
AI한테 뭔가 물어봤다가 더 진행하기 어렵다는 답을 받으면, 많은 경우 거기서 그만두게 되죠. 이 사례는 같은 질문을 반복하기보다 막힌 이유를 다시 살피고 탐색 방향 자체를 바꿔보는 과정을 떠올리게 해요. 질문을 다르게 던지는 것만으로 결과가 달라질 수 있다는 건 이미 여러 번 확인된 적 있어요.
다만 이건 여러 에이전트가 사흘간 수억 토큰을 쓰고 API 비용만 약 10만 달러가 든 특수한 실험이에요. 일상적인 프롬프트 하나에 그대로 적용하기는 어려워요.
두 발견 모두 지금 실제로 쓰이는 시스템에는 당장 영향이 없다고 Anthropic은 밝혔어요. HAWK는 아직 표준으로 확정되지 않은 후보 방식이고, AES 공격도 축소판에서만 성립하니까요. Anthropic은 결과를 미국 정부와 산업 파트너에 미리 공유했고, 암호학 비전문가인 연구자들이 결과를 검증하는 데만 몇백 시간이 걸렸다고 해요.
AI한테 “안 된다”는 답을 들었을 때, 여러분은 같은 질문을 반복하시나요, 아니면 다른 방식으로 다시 물어보시나요?