도널드 트럼프 대통령은 내부 보안 테스트를 받던 인공지능 기업 오픈AI(OpenAI) 모델에서 발생한 사이버보안 사고 이후 인공지능(AI)에 대한 추가적인 안전장치를 검토하고 있다고 밝혔습니다.
트럼프 대통령은 29일, 시험 과정에서 AI 모델이 다른 AI 기업의 시스템에 자율적으로 침입했다는 보도에 대한 질문을 받고, 미국은 AI의 위험으로부터 보호하는 것과 중국에 대한 기술 우위를 유지하는 것 사이에서 균형을 맞춰야 한다고 말했습니다.
트럼프 대통령은 "우리는 AI를 검토하고 있고, 통제 방안도 살펴보고 있다"며 "동시에 우리가 선도적 위치를 유지하도록 하는 것도 중요하다"고 말했습니다.
트럼프 대통령은 미국이 “AI 분야에서 중국을 크게 앞서고 있다”면서 중국은 그런 기술을 규제하는 장치가 “사실상 없다”고 지적했습니다.
이어 “그들은 다소 무분별하게 하고 있다”며 “따라서 우리는 양쪽 모두를 신중하게 고려해야 한다”고 말했습니다. 그러면서 “규제를 강화했다가 어느 순간 중국에 뒤처지는 상황은 원하지 않는다”고 강조했습니다.
오픈AI는 GPT-5.6 솔(Sol)과 보다 성능이 뛰어난 내부 연구용 프리뷰 모델을 포함한 자사 AI 모델들이 내부 보안 평가 과정에서 AI 기업 허깅페이스(Hugging Face)의 시스템에 침입했다고 밝혔습니다.
오픈AI는 이를 "전례 없는 사이버 사고(unprecedented cyber incident)"라고 설명했습니다.
오픈AI는 해당 모델들이 사이버보안 벤치마크 평가를 위해 일부 일반적인 안전장치를 완화한 환경에서 시험을 받고 있었다고 밝혔습니다. 또 모델들은 허깅페이스를 공격하도록 지시받은 것은 아니었지만, 벤치마크의 답을 얻으려 한 것으로 보이는 과정에서 의도된 시험 환경을 벗어나 허깅페이스 시스템에 침입한 것으로 보인다고 설명했습니다.
트럼프 행정부는 이번 오픈AI 사고 이전부터 AI 보안 조치를 도입해 왔습니다.
앞서 앤스로픽(Anthropic)의 '페이블(Fable)'과 '미토스(Mythos)' 모델에 대해 일시적인 수출 통제를 부과했으며, 이들 모델은 2주 넘게 사용이 제한됐습니다.
트럼프 대통령은 또 지난 6월 행정명령에 서명하고, 정부에 고성능 AI 모델을 위한 사이버보안 벤치마크와 자발적 평가 체계를 마련하도록 지시했습니다. 관련 세부 내용은 8월 1일까지 마련될 예정입니다.
트럼프 대통령은 "AI 경쟁에서 승리하는 사람이 결국 승자가 될 것"이라며 "그만큼 중요하다"고 말했습니다.
이어 "AI는 인터넷보다 더 큰 의미를 갖고 있으며, 지금까지 등장한 어떤 기술보다도 중요하다"면서 “그래서 나는 제한하고 싶지 않다”고 강조했습니다. 그러면서 “나는 이 분야의 많은 사람들을 알고 있고, 그들이 훌륭한 일을 하는 것을 제한하고 싶지 않다”고 덧붙였습니다.
샘 올트먼 오픈AI 최고경영자(CEO)는 29일 이번 사고 이후 AI에 대한 우려가 커진 것을 이해한다고 밝혔습니다.
올트먼 CEO는 "새로운 수준의 기술이 등장할 때마다 사람들이 두려움을 느끼는 것은 매우 자연스러운 일"이라고 말했습니다. 그러면서 "당연히 우리는 이번 사안을 매우 심각하게 받아들이고 있고, 앞으로도 그럴 것”이라며 “하지만 충분히 이해하고 공감한다”고 말했습니다.
이어 "AI는 지금까지 많은 긍정적인 성과를 보여왔지만, 이번 일을 계기로 사람들이 '이제 새로운 수준에 도달했다'고 느끼는 것이라고 이해한다"고 덧붙였습니다.
올트먼 CEO는 오픈AI가 AI 개발 속도를 늦추는 방안을 검토하고 있지는 않다고 밝혔습니다.
다만 "감속(deceleration)이라는 표현을 쓰고 싶지는 않지만, 모델의 성능이 더욱 향상될수록 그에 맞춰 개발 속도를 조절할 필요성에 대해서는 논의해 왔다"며 "이는 모두의 이익에 부합한다고 생각한다"고 말했습니다.
또 오픈AI 모델이 다른 기업의 시스템에도 침입했을 가능성이 있느냐는 질문에는 "그럴 수도 있다"고 답했습니다.
VOA 뉴스
Forum