앤트로픽은 30일 사이버 보안 테스트 중 자사의 ‘클로드(Claude)’ 인공지능(AI) 모델 3개가 외부 기관 3곳의 시스템에 무단으로 접속했다고 밝혔습니다. 이번 발표는 지난주 경쟁사인 오픈AI가 보고한 유사한 보안 침해 사건에 뒤이어 나온 것입니다.
샌프란시스코에 본사를 둔 앤트로픽은 14만 1천 6건의 평가 실행 기록을 검토하던 중 이 같은 일이 벌어진 것을 발견했다고 밝혔습니다. 이번 검토 작업은 AI 모델용 코드를 호스팅하고 협업하는 플랫폼인 ‘허깅페이스’의 인프라를 자사의 AI 에이전트 중 하나가 해킹했다고 오픈AI가 밝힌 직후 시작됐습니다.
앤트로픽은 관련된 모델이 ‘클로드 오퍼스(Opus) 4.7’, ‘클로드 미토스(Mythos) 5’, 그리고 내부 연구 테스트 모델이라고 밝혔습니다. 가장 이른 시점의 접속 사건은 지난 4월로 거슬러 올라갑니다.
각각 해당 모델들에게는 네트워크에서 숨겨진 정보를 찾아내는 가상 시나리오인 이른바 ‘캡처 더 플래그(capture the flag·깃발 뺏기)’ 연습이 주어졌으며, 프롬프트(지시어)를 통해 인터넷 접속이 불가능하다는 조건이 입력됐습니다.
하지만 앤트로픽은 제3자 평가 파트너인 ‘이레귤러(Irregular)’와 함께 운영한 테스트 환경의 구성 오류로 인해 시스템이 외부 인터넷에 연결된 상태로 방치됐다고 밝혔습니다. 앤트로픽은 그 원인을 두 회사 간의 오해에서 비롯된 것으로 설명하며, 누구의 탓으로 돌리지 않고 자사의 책임하에 문제 해결에 임하고 있다고 덧붙였습니다.
앤트로픽은 블로그 게시물을 통해 "클로드는 취약한 비밀번호와 인증되지 않은 엔드포인트를 악용하는 등의 기본적인 기법을 사용해 피해 기관들의 인프라를 손상시켰다"고 밝혔습니다. 다만 회사는 해당 모델들이 이전에 알려지지 않은 취약점을 악용하지는 않았으며, 어떤 모델도 자체적인 목표를 추구했다는 증거는 발견하지 못했다고 설명했습니다.
해당 모델들은 공격 대상이 실제 시스템이라는 징후가 나타나자 각기 다르게 행동했습니다. 오퍼스 4.7은 공격을 계속 이어나갔습니다. 미토스 5는 여전히 시뮬레이션 환경에 있다고 판단하고 파이썬(Python)의 공개 레지스트리인 파이파이(PyPI)에 악성 소프트웨어 패키지를 게시했으며, 이는 발각되기 전 외부 시스템에 의해 다운로드되어 실행됐습니다. 반면 내부 테스트 모델은 스스로 작동을 멈췄습니다.
앤트로픽은 23일 사이버 보안 평가를 전면 중단하고 27일 피해 기관들에 이를 통보했다고 밝혔지만, 기관명은 공개하지 않았습니다. 피해 기관 중 두 곳은 이전에 해당 활동을 감지하지 못했다고 밝혔으며, 앤트로픽은 나머지 한 곳과 계속 연락을 시도 중이라고 전했습니다. 또한 앤트로픽은 독립적인 검토를 위해 평가 단체인 ‘메터(METR)’를 고용했다고 밝혔습니다. 이레귤러 측은 조사가 진행 중이라고 확인했습니다.
앤트로픽은 자사 모델들이 폐쇄된 테스트 환경을 의도적으로 빠져나간 것은 아니라고 선을 그었습니다. 반면, 오픈AI의 경우 자사 에이전트가 이전에 알려지지 않은 취약점을 악용해 인터넷에 접속했다고 밝힌 바 있습니다.
앤트로픽은 자사 모델들이 실수로 열려 있던 연결 통로를 통해 인터넷에 접속했다고 밝히며, 이번 사건을 ‘운영상의 실패(operational failure)’로 규정했습니다.
앞서 올해 앤트로픽은 미국 정부가 국가 안보 우려를 이유로 임시 수출 통제 지침을 내린 후 자사의 페이블(Fable) 5와 미토스(Mythos) 5 모델에 대한 접근을 제한하여 2주 이상 오프라인 상태로 유지한 바 있습니다.
이번 발표는 트럼프 행정부가 AI 감독에서 더 큰 역할을 모색하는 가운데 나왔습니다. 도널드 트럼프 대통령은 앤트로픽의 발표 하루 전인 29일, 오픈AI 사건 이후 추가적인 안전장치를 고려하고 있다고 밝히면서도, 미국이 중국에 대한 우위를 상실하게 만들 수 있는 과도한 규제에 대해서는 경계했습니다.
트럼프 대통령은 "우리는 AI를 주시하고 있으며 통제 방안도 살펴보고 있다"며 "동시에 우리가 선두를 유지하도록 확실히 하고 있다"고 말했습니다.
트럼프 대통령은 또 중국이 AI를 규제하는 통제 장치가 "사실상 전무하다"고 지적했습니다. "약간 제멋대로 굴러가고 있다"고 말한 트럼프 대통령은 "따라서 우리는 두가지 면에서 모두 조심해야 한다. 규제를 가하다가 갑자기 중국에 이어 2위로 밀려나는 상황은 원치 않는다"고 강조했습니다.
트럼프 대통령은 지난 6월 2일, 최첨단 AI 모델을 위한 자발적 사이버 보안 테스트 프레임워크를 개발하도록 고문들에게 지시하는 행정명령에 서명했으며, 관련 세부 내용은 8월 1일 나올 예정입니다.
VOA 뉴스
Forum