AI 기업들의 우려
업계 지도자들은 자신들이 만들어낸 점점 더 강력해지는 AI 시스템에 대한 통제력을 상실하는 것을 두려워하고 있습니다.
샘 올트먼 오픈AI 최고경영자는 지난주 유엔 안보리에서 "첫째, 우리는 미래에 대한 통제력을 AI에 빼앗길 수 있다"고 말했습니다.
다리오 아모데이 앤트로픽 최고경영자는 앞서 12일 작성한 글에서 AI 발전 속도의 둔화를 촉구했습니다. 아모데이 최고경영자는 "우리는 AI 모델의 성능을 향상시키는 속도를 늦춰야만 한다"고 강조했습니다.
이러한 경고들은 AI 에이전트가 인간의 지시 없이 행동한 일련의 사건들에 뒤이어 나온 것입니다.
오픈AI는 지난 7월 21일 블로그 게시물에서 자사의 모델이 격리된 시험 환경을 벗어나 AI 기업 허깅페이스의 기반 시설을 해킹했다고 밝혔습니다. 이 회사는 이를 "전례 없는 사이버 사건"이라고 불렀습니다.
이어 지난주 오픈AI는 자사의 에이전트가 3개 미국 연방 기관들의 웹사이트에 접속했다고 공개했습니다. 이에 이번주 오픈AI는 안전성에 대한 우려로 최신 모델인 GPT-6.1 아스트라의 출시를 취소한다고 밝혔습니다.
앤트로픽과 구글, 메타 또한 안전성 시험 도중 자신들의 AI 시스템이 스스로 다른 조직을 해킹했다고 밝혔습니다.
AI 규제 방안 가능성
일부 기업들은 정부 차원의 규제를 원하고 있습니다.
크리스 르헤인 오픈AI 글로벌 대외협력 총괄은 9일 회사 블로그 게시물에서 "미국은 기술이 진화함에 따라 함께 진화할 수 있는 의무적이고 역량에 기반한 국가적 규제가 필요하다"고 주장했습니다.
하지만 모든 경영진들이 이러한 불안감을 공유하는 것은 아닙니다. 젠슨 황 엔비디아 최고경영자는 지난 2일 주요 20개국(G20) 주요 경제국 관리들에게 "이론적인 위해 요소"에 초점을 맞춘 AI 규칙들을 피하고, 대신 이 기술과 결부된 실제 세상의 문제들을 다루는 규제를 개발할 것을 촉구했습니다.
28일 엔비디아는 '오픈셸'이라는 플랫폼을 공개했습니다.
이 플랫폼은 접근을 오직 승인된 파일과 도구, 네트워크로만 제한하고 실제 자격 증명은 접근할 수 없는 곳에 둠으로써 문제 있는 AI 에이전트들을 통제하도록 설계됐습니다.
또한 황 최고경영자는 호스트 환경 외부에서 에이전트의 행동을 감시하는 엔비디아 블루필드-4 DPU 처리장치에서 구동되는 하드웨어 수준의 감시 장치 '센트리'를 발표했습니다. 황 최고경영자는 이 장치가 정해진 경계를 벗어나려고 시도하는 어떠한 에이전트라도 수 밀리초 안에 격리할 수 있다고 말했습니다.
대중 역시 우려하고 있습니다. 9월 17일부터 20일까지 실시된 로이터통신-입소스 여론조사에 따르면 응답자의 73%는 AI 기업들이 이런 기술이 사회에 심각한 해를 끼치는 것을 막기 위해 충분한 조치를 취하지 않았다고 답했습니다. 55%는 AI 개발을 늦추는 것이 좋은 조치가 될 것이라고 답했습니다.
29일 도널드 트럼프 대통령과 JD 밴스 부통령은 백악관이 현재 여러 기관 사이트들에 흩어져 있는 연방 정보와 서비스들을 위한 "현관문"이 될 것이라고 묘사한 AI 기반 웹사이트 아메리카닷고브(America.gov)를 공개했습니다.
조 제비아 미국 최고디자인책임자는 이 사이트가 구글의 제미나이와 스페이스X AI의 그록을 기반으로 구축됐으며, "정부 검색 안내원" 역할을 하도록 고안됐다고 말했습니다. 또한 사용자들이 여권 갱신과 메디케어 등록 같은 과업들을 완료하도록 돕기 위한 계획도 있습니다.
AI에 대한 트럼프 대통령 입장
29일 백악관 오찬은 행정부가 AI의 발전을 늦추기보다는 정부 내부에 배치되기를 원한다는 점을 보여주기 위해 개발된 아메리카닷고브 출범에 뒤이어 진행되었습니다. 트럼프 대통령은 행사 연설에서 "이것은 21세기와 그 이후를 위한 여러분 정부의 재창조"라고 말했습니다.
트럼프 대통령은 미국이 중국보다 앞서 나가야 한다고 주장하며 속도를 늦추라는 요구들을 일축해 왔습니다.
Your browser doesn’t support HTML5
트럼프 "AI 공식 명칭 '초지능(S.I.)'으로 변경"
트럼프 대통령은 9월 중순 소셜미디어 게시물에 "AI가 세상을 장악하고, 인류를 파괴하며, 그 밖에 다른 나쁜 모든 일들을 저지를 것이라는 주장은 날조"라고 적었습니다.
지난주 유엔 총회 연설에서 트럼프 대통령은AI를 규제하려는 전 세계적인 시도를 미국은 "거부한다"고 말했습니다.
지난 6월 트럼프 대통령은 AI 개발자들에게 출시 최대 30일 전까지 가장 진보된 자사 모델을 정부 검토를 위해 자발적으로 제출하도록 요청하는 행정명령에 서명했습니다. 지난 3월 발표된 입법 권고안들에서 백악관은 의회에 AI를 규제하기 위한 그 어떤 새로운 연방 규칙 제정 기구도 만들지 말 것을 촉구했습니다. 또한 의회에 "부당한 부담을 지우는" 주 단위 AI 법률들을 무효화할 것을 촉구했습니다.
마이크 존슨 하원의장은 28일 AI에 대한 두려움을 정치적 동기에서 비롯된 것이라며 일축했습니다. 존슨 의장은 폭스 비즈니스에 "그것을 믿지 말라. 그것은 중국의 심리전"이라고 말했습니다.
잠재적인 의회 조치
민주당 의원들은 조치를 압박하고 있습니다.
하원 민주당 원내대표인 하킴 제프리스 의원은 28일 CNBC에 "지금 바로, AI 안전에 관한 한, 우리가 과감하고 책임감 있게 실제로 개입해야 하는 것은 분명해 보인다"고 말했습니다.
존슨 의장은 백악관 오찬에 앞서 29일 CNBC '스쿼크 박스'에 출연해 어떠한 AI 안전장치도 자발적인 상태로 유지되기를 희망한다고 말했습니다.
존슨 의장은 "나는 그것이 자발적이기를 희망한다"며 "나는 그들이 투자자들과 소비자들, 미국 대중에게 자신들이 매우 안전한 방식으로 이를 수행할 것임을 확신시키기를 원한다"고 말했습니다.
하원은 11월 3일 중간선거 이전에 주요 AI 법안을 다루지는 않을 것으로 예상됩니다.