미국 정부가 지난달 12일 적용했던 앤트로픽의 최신 AI 모델 클로드 페이블5(Claude Fable 5)와 클로드 미토스5(Claude Mythos 5)에 대한 수출 통제가 같은달 30일부로 해제됐다. 그때 당시 정부는 아마존 연구팀이 페이블5(Fable 5)의 보안 장치를 우회하는 방법을 발견했다는 보고서를 인지한 뒤 즉시 조치했으며, 국적 확인이 실시간으로 불가능하다는 이유로 모든 사용자에 대한 접근을 일시 중단했다.

수출 통제 해제에 따라 페이블5는 7월 1일부터 클로드 플랫폼 전반(Claude.ai, Claude Code, Claude Cowork)에서 다시 전 세계 사용자에게 제공된다. Pro·Max·Team·일부 Enterprise 이용자는 7월 7일까지 주간 사용량의 최대 50%를 무료로 사용할 수 있으며, 이후에는 사용량 크레딧을 통해 이용할 수 있다. 아마존웹서비스(AWS), 구글 클라우드(Google Cloud), 마이크로소프트 파운드리(Microsoft Foundry) 등 주요 클라우드 서비스에서도 접근이 곧 재개될 예정이다.

고성능 사이버 보안 기능을 갖춘 미토스5(Mythos 5)는 지난달 26일 미국 정부 승인 이후 일부 미국 기관에 한해 접근이 복원됐다. 앤트로픽은 정부와 협력해 글래스윙(Glasswing) 프로그램 참여 기관을 국내외로 확대할 계획이라고 밝혔다.

6월 초 출시된 페이블5와 미토스5 두 모델은 같은 기반 모델을 공유하지만, 페이블5는 일반 사용자용으로 강력한 보안 조치를 적용해 출시됐고, 미토스5는 사이버 보안 방어 목적의 소수 파트너에게만 제공됐다. 문제는 출시 며칠이 지난 뒤 아마존 연구팀이 페이블5의 보안 장치를 우회해 모델이 특정 소프트웨어 취약점을 식별하고 일부 경우에는 이를 악용하는 코드를 생성하도록 유도한 사례가 보고되면서 시작됐다.

앤트로픽은 정부 및 아마존과 함께 보고서를 검토한 결과, 동일한 취약점 식별 능력은 페이블5뿐 아니라 여러 성능이 낮은 모델에서도 동일하게 나타났다고 밝혔다. 즉, 보고된 사례는 미토스 수준의 고급 공격 능력 노출이 아니라, 페이블5의 보안 경계선상에 있는 일반적인 방어적 사이버 보안 기능이 우회된 사례라는 설명이다. 앤트로픽은 즉각적으로 대응해 새로운 안전 분류기를 학습시켰으며, 이는 보고된 기법을 99% 이상 차단한다. 다만 강화된 분류기는 정상적인 코딩·디버깅 요청을 과도하게 위험으로 판단하는 경우가 있어, 향후 오탐을 줄이기 위한 개선이 지속될 예정이다.

이번 사건을 계기로 앤트로픽은 아마존, 마이크로소프트, 구글 등과 함께 AI 탈옥의 심각도를 평가하는 업계 표준 프레임워크 개발에 착수했다. 현재 AI 업계에는 탈옥의 위험성을 객관적으로 판단하는 기준이 없어, 새로운 기법이 발견될 때마다 대응 우선순위와 정부 조치 기준이 모호하다는 문제가 제기돼 왔다. 앤트로픽이 제안한 프레임워크는 △기능 향상 정도 : 기존 도구 대비 얼마나 큰 성능 향상을 제공하는가 △적용 범위 : 동일한 기법이 얼마나 다양한 공격 작업에 활용될 수 있는가 △무기화 용이성 : 실제 공격으로 전환하는 데 필요한 인적·기술적 노력 △발견 용이성 : 해당 기법이 얼마나 쉽게 공개·확산될 수 있는가 등 네 가지 기준을 중심으로 한다.

앤트로픽은 이 기준을 활용해 탈옥의 심각도를 점수화하고, 고위험 사례에 대해서는 즉시 완화 조치를 배포할 계획이다. 회사는 또 최근 10주 동안 미국 정부와 긴밀히 협력해 왔으며, 지난달 2일 발표된 ‘첨단 인공지능 혁신 및 보안 촉진 행정명령’에 따라 협력 범위 확대를 통해 향후 글로벌 AI 안전 규범의 기반이 되기를 기대한다고 밝혔다.