진행자) 도널드 트럼프 대통령과 미국의 주요 기술기업 수장들이 이른바 ‘초지능’ 시스템의 안전과 관련한 협약에 서명했습니다. 먼저 어떤 협약인지 설명해 주시죠.
기자) 네. 도널드 트럼프 대통령과 6개 빅테크 기업의 최고경영자들이 29일 이른바 ‘초지능(super intelligence)’ 시스템에 대해 기업 내부 및 외부 검토를 실시하기로 하는 자발적 협약에 서명했습니다. 미국 연방정부는 초지능을 인공지능, 즉 AI를 지칭하는 용어로 사용하고 있습니다. 이번 서명은 백악관에서 열린 오찬 회동에 이어 이뤄졌습니다. 한 페이지 분량의 협약에는 트럼프 대통령을 비롯해 순다르 피차이 구글 최고경영자, 다리오 아모데이 앤트로픽 최고경영자, 마크 저커버그 메타 최고경영자, 젠슨 황 엔비디아 최고경영자, 그레그 브록먼 오픈AI 사장, 그리고 현재 스페이스X의 일부가 된 xAI의 창립자 일론 머스크가 서명했습니다. 트럼프 대통령은 이 협약을 자신의 소셜미디어 플랫폼인 트루스소셜에 공개했습니다.
진행자) 이번 협약은 구체적으로 어떤 내용을 담고 있습니까?
기자) 네. 협약은 기업들이 초지능 모델을 훈련하고 실제로 운용하는 과정에서 이를 감시하기 위한 내부 통제 장치를 마련하도록 하고 있습니다. 이러한 통제 대상에는 사이버 보안과 생물안보, 화학적 위협 등이 포함되며, 모델이 “의도하지 않은 방식으로 기술 시스템을 해킹하거나 접근하지 않도록” 하는 것이 목적입니다. 또한 기업 내부의 별도 팀이 이러한 통제 장치를 점검하고, 독립적인 외부 감사기관과 각 기업 이사회의 독립위원회가 그 결과를 검토하도록 하고 있습니다.
진행자) 현재는 자발적 협약인데, 앞으로 법률이나 규정으로 이어질 가능성도 있습니까?
기자) 네. 협약은 “시간이 지나면서 이러한 조치들을 법률이나 규정으로 명문화하는 것이 적절할 수 있다”고 밝혔습니다. 아울러 참여 기업들이 “표준과 모범 관행을 마련하기 위해 정기적으로 회의를 열 것”이라고 명시했습니다.
진행자) 이번에 ‘인공지능’, AI 대신 ‘초지능’, SI라는 표현을 쓰고 있는 점도 눈에 띄는데요.
기자) 그렇습니다. 트럼프 대통령은 29일 행정명령에 서명해 연방기관들이 행정부의 공식 소통과 법률에 규정되지 않은 문서에서 ‘인공지능(Artificial Intelligence)’과 ‘AI’ 대신 ‘초지능(Super Intelligence)’과 ‘SI’라는 용어를 사용하도록 지시했습니다.
진행자) 트럼프 대통령은 이번 협약의 구속력에 대해서는 뭐라고 말했습니까?
기자) 협약에 구속력이 있느냐는 질문에 트럼프 대통령은 백악관 웨스트윙 밖에서 기자들에게 “도덕적으로는 구속력이 있다고 생각한다”고 말했습니다. 또 이 문서를 “거의 헌법과 같은 것”이라고 표현하면서 “기업들이 상당한 수준의 자율 규제를 하고 있다고 본다”며 “그들도 스스로 규제해야 한다는 점을 이해하고 있다”고 말했습니다.
진행자) 정부 차원의 별도 감독 체계도 검토하고 있습니까?
기자) 네. 트럼프 대통령은 전체 사업을 “감독하기 위해” 약 10명으로 구성된 위원회 설치를 검토하고 있다고 밝혔습니다. 또 며칠 안에 SI 정책을 총괄할 책임자, 이른바 ‘SI 차르’를 임명할 것이라고 말했습니다.
진행자) 이번 협약에 참여한 기술기업 수장들은 어떤 반응을 보였습니까?
기자) 메타의 마크 저커버그 최고경영자는 이번 협약을 역사적인 것으로 평가했습니다. 그는 “우리는 이 기술이 우리가 의도한 대로 작동한다는 확신을 미국 국민과 고객들에게 주고 싶다”고 말했습니다. 젠슨 황 엔비디아 최고경영자도 “우리는 인류와 미국의 미래 번영에 매우 중대한 영향을 미치는 이 기술을 발전시켜 나갈 것”이라며 “이를 책임감 있고 안전하게 추진할 것”이라고 말했습니다. 반면 앤트로픽의 다리오 아모데이 최고경영자는 좀 더 신중한 입장을 보였습니다. 그는 “이 기술에는 매우 실질적인 위험이 있다”며 “그러한 위험에 어떻게 대처할 것인지에 대한 방안은 여전히 논의 중”이라고 말했습니다.
진행자) 엔비디아는 AI 안전을 위한 구체적인 기술도 공개했죠?
기자) 그렇습니다. 젠슨 황 최고경영자는 “혁신과 기술, 안전 사이에는 충돌이 없다”고 강조했습니다. 이런 가운데 엔비디아는 28일 ‘오픈셸(OpenShell)’이라는 플랫폼을 공개했습니다. 회사 측은 이 플랫폼이 AI 에이전트의 접근 범위를 승인된 파일과 도구, 네트워크로만 제한하고 실제 인증정보에는 접근하지 못하도록 함으로써 통제를 벗어난 AI 에이전트를 차단할 수 있다고 설명했습니다. 젠슨 황 최고경영자는 또 엔비디아의 블루필드-4 DPU 프로세서에서 작동하면서 AI 에이전트의 행동을 감시하는 하드웨어 수준의 감시 시스템인 ‘센트리(Sentry)’도 발표했습니다. 그는 이 시스템이 정해진 통제 범위를 벗어나려는 AI 에이전트를 수 밀리초 안에 격리할 수 있다고 설명했습니다.
진행자) 이번에 AI 안전 문제가 이렇게 강조되는 배경은 무엇입니까?
기자) 이번 회의는 AI 시스템이 스스로 행동한 일련의 사건들이 발생한 뒤 열렸습니다. 오픈AI는 지난 7월 자사의 모델들이 평가 과정에서 격리된 시험 환경을 벗어나 AI 기업 허깅페이스를 해킹했다고 밝혔습니다. 오픈AI는 이를 “전례 없는 사이버 사건”이라고 표현했습니다. 앤트로픽과 구글, 메타도 자사의 AI 시스템이 시험 환경을 벗어나거나 다른 기관을 해킹한 사례를 공개한 바 있습니다. 지난주에는 오픈AI의 한 모델이 미국 교육부와 증권거래위원회(SEC), 상무부 산하 인구조사국 웹사이트를 포함한 미국 정부 웹사이트에 개입한 사실이 확인됐습니다.
진행자) 의회에서는 이번 협약에 대해 어떤 반응이 나오고 있습니까?
기자) 네. 민주당은 이 같은 접근 방식에 비판적인 입장을 보였습니다. 버지니아주 출신의 마크 워너 상원의원은 의회가 가장 첨단의 초지능 모델을 대상으로 의무적인 시험과 평가, 사고 보고 규정을 마련해야 한다고 촉구했습니다. 워너 의원은 회의 후 발표한 성명에서 “가장 강력한 AI 시스템을 개발하는 기업들 스스로 기술 발전 속도가 우리의 안전장치 마련 속도보다 빠르다고 경고하고 있다”고 말했습니다. 이어 “그런데 대통령의 대응은 무엇인가. AI의 명칭을 바꾸고, 이를 개발하는 기업들에 스스로 규제하라고 하는 것”이라고 비판했습니다.
진행자) 공화당 쪽에서는 어떻게 평가하고 있습니까?
기자) 오찬을 공동 주최한 공화당 소속 마이크 존슨 하원의장은 백악관 밖에서 기자들에게 이번 회동이 “매우 중요한 첫걸음”이라고 평가했습니다. 존슨 의장은 “여러분이 보게 될 것은 원칙에 관한 선언이자 기준에 관한 선언이며, 업계가 자발적으로 이행하기로 한 약속”이라고 말했습니다.
진행자) 네. AI 안전에 관련된 협약이 백악관에서 체결됐다는 소식 알아봤습니다.
Forum