북한 해커들이 인공지능(AI)을 사이버 공격에 활용하고 있다는 보고가 잇따르고 있습니다. 이런 가운데 미국 하원에서 AI 모델을 겨냥한 '증류 공격(distillation attacks)'에 대응하는 초당파 법안이 나왔습니다. 이 법안은 북한을 '우려국'으로 명시했습니다. 이조은 기자가 보도합니다.
공화당 팻 해리건 하원의원과 민주당 조지 화이트사이즈 하원의원은 22일 ‘AI 사이버 방어법’ 법안을 공동 발의했습니다. 법안은 하원 과학우주기술위원회에 회부됐습니다.
NIST에 '증류 공격' 정의·표준 마련 지시
해당 법안은 미 국립표준기술연구소(NIST)가 법 제정 후 180일 안에 민간 AI 업계와 함께 ‘AI 증류 공격'의 정의를 마련하도록 했습니다. 이런 공격을 탐지하고 막기 위한 자발적 표준도 만들도록 했습니다.
증류는 성능이 뛰어난 AI 모델에 대량의 질문을 던져 답변을 모은 뒤, 이를 바탕으로 더 값싼 모델을 학습시키는 기법을 말합니다.
법안은 또 ‘AI 사이버보안 원탁회의'를 설치해 AI를 사이버 방어에 활용하는 표준을 개발하도록 했습니다.
법안은 북한을 중국, 러시아, 이란, 쿠바와 함께 우려국 목록에 올렸습니다. 우려국에 본사를 두거나 그 지시·통제를 받는 외국 기업은 NIST와 협력하는 민간 AI 업계 참여 대상에서 제외됩니다.
화이트사이즈 의원은 성명에서 “AI는 엄청난 속도로 발전하고 있으며, 중국과 다른 적대국들이 우리의 성과를 훔치지 못하게 막는 한 달 한 달은 이 기술에 필요한 안전장치를 구축할 한 달을 버는 것”이라고 말했습니다.
북한, AI 활용 사이버 공격 확대
한국 사이버보안 업체 지니언스는 지난 8월 보고서에서 북한 정찰총국 산하 해킹 조직 '김수키'가 AI 모델을 자체 구동하는 도구를 갖춘 정황을 확인했다고 밝혔습니다. 지니언스는 김수키가 AI를 악성코드 개발과 공격 자동화에 접목하는 역량을 키우고 있다고 분석했습니다.
VOA 뉴스