진행자 1: 인공지능, AI 개발 속도를 늦춰야 한다는 이른바 'AI 속도조절론'이 미국 정치권과 실리콘밸리를 뒤흔들고 있습니다. AI를 만드는 기업의 최고경영자들이 먼저 속도를 늦추자고 나섰고, 백악관과 의회 지도부는 중국과의 경쟁을 이유로 선을 그었습니다.
진행자 2: 이 논쟁이 무엇이고, 왜 지금 불거졌는지 이조은 기자와 함께 짚어봅니다.
--------------------------------------------------------------------------------------
진행자 1: 이조은 기자, 먼저 'AI 속도조절론'이 정확히 무엇을 말하는지부터 설명해 주시죠.
기자: 네. 논쟁의 출발점은 AI 기업 앤트로픽의 다리오 아모데이 최고경영자가 12일 발표한 글입니다. 제목은 '우리는 최전선의 속도를 조절해야 한다'입니다. 아모데이 CEO는 이 글에서 "AI 모델의 능력을 향상시키는 속도를 늦춰야 한다"(We must slow the pace at which we improve the capabilities of AI models)고 밝혔습니다. AI 능력이 연구자들이 이해하고 통제할 수 있는 속도보다 빠르게 발전하고 있다는 이유에서입니다. 다만 개발을 아예 멈추자는 것은 아닙니다. 가장 강력한 최신 모델의 성능 개선 속도를 늦추고, 그렇게 번 시간에 안전장치를 마련하자는 주장입니다.
진행자 2: 구체적으로 어떤 방안을 제시했습니까?
기자: 세 단계 방안입니다. 첫째, 외부 평가 기관에 직원 수준의 접근 권한을 주고 회사 안에서 안전 관행을 검증하게 하는 것입니다. 앤트로픽은 이 조치를 자체적으로 먼저 시행하겠다고 밝혔습니다. 둘째, 민주주의 국가의 주요 AI 기업들이 공통의 안전 기준을 만드는 것입니다. 셋째, 스스로 능력을 개선하는 AI 같은 위험한 기술에 대해 국제적으로 제한을 두는 것입니다. 아모데이 CEO는 이 방안이 미국의 AI 우위를 해치지 않는다고 주장했습니다.
진행자 1: 왜 지금 이런 주장이 나온 겁니까? 배경이 있을 것 같은데요.
기자: 업계 내부의 경고가 잇따랐습니다. 오픈AI와 앤트로픽에서 연구원으로 일한 제이콥 콕슨이 8일 앤트로픽을 공개적으로 사직하면서 두 회사가 "우리 생명을 걸고 도박을 하고 있다"고 주장했습니다. 앤트로픽의 에번 후빙어 얼라인먼트 책임자도 콕슨의 우려가 옳다며, 개인적으로 "10년 안에 AI가 인류를 멸종시킬 확률이 10%가 넘는다”고 본다고 밝혔습니다. 앤트로픽은 최근 자사 AI 모델이 사기와 해킹 시도에 악용된 사례를 담은 보고서도 냈습니다. 7월에는 오픈AI 모델이 보안 테스트 중 통제를 우회해 다른 AI 기업의 시스템을 침해한 사건도 있었습니다. 아모데이 CEO는 글에서 이 사건을 직접 언급했습니다. 이런 일들이 쌓이면서 속도를 늦추자는 목소리가 힘을 얻었습니다.
진행자 2: 눈에 띄는 건 경쟁사들의 반응입니다. 서로 치열하게 경쟁하는 회사들이 한목소리를 냈다면서요.
기자: 그렇습니다. 오픈AI의 샘 올트먼 CEO는 같은 날 "속도를 조절해야 한다는 다리오의 의견에 동의한다”며 오픈AI도 외부 평가 기관에 같은 접근 권한을 주겠다고 밝혔습니다. 올트먼 CEO는 안전 우려를 이유로 오픈AI의 기업공개도 내년 이후로 미루겠다고 했습니다. AI 기업 xAI를 이끄는 일론 머스크는 "다리오가 옳다"는 짧은 글을 올렸습니다. 구글 딥마인드의 데미스 허사비스 대표도 세부 사항은 다듬어야 하지만 방향은 옳다고 했습니다. 평소 공개적으로 대립해 온 경영자들이 하루 만에 같은 편에 선 것은 이례적입니다.
진행자 1: 그런데 워싱턴의 반응은 전혀 달랐습니다.
기자: 네. 트럼프 대통령은 13일 아일랜드 방문 중 기자들에게 "AI에서 이기는 쪽이 이긴다"고 말했습니다. 미국이 중국에 앞서 있고 그 상태를 유지하고 싶다는 것입니다. 안전장치는 둘 수 있다면서도 "부정적인 목소리들"이 일어나지 않을 일을 문제 삼고 있다고 했습니다. 마이크 존슨 하원의장도 같은 날 CNN 인터뷰에서 긴급 개발 중단, 즉 모라토리엄에 반대했습니다. 존슨 의장은 "의회가 서둘러 긴급회기를 열어 AI를 규제하려 들면 중국과의 경쟁에서 지게 될 것"이라고 말했습니다. 다만 AI를 강제로 멈추는 이른바 '킬 스위치'나 연방 규제기관 신설, 출시 전 정부 승인 같은 방안에는 "어쩌면 전부 다. 모두 좋은 생각"이라며 여지를 뒀습니다. 존슨 의장은 주요 AI 기업 경영자들을 백악관으로 불러 의원들과 안전장치를 논의하자고 제안했습니다. "내일이라도 하겠다"며 트럼프 대통령과도 이 구상을 논의했다고 밝혔습니다.
진행자 2: 백악관 참모들 사이에서도 시각이 갈리는 것 같습니다.
기자: 그렇습니다. 데이비드 삭스 백악관 AI 정책 책임자는 "나는 여러분이 실험실에서 보는 것을 보지 못한다”면서, 속도를 늦추는 것이 책임 있는 결정이라면 허락을 구할 필요 없이 스스로 하라고 했습니다. 동시에 속도조절 동기가 순수하게 이타적인 척은 하지 말라고 꼬집었습니다. 사이버 공격이 일어나면 기업이 막대한 배상 책임을 지게 된다는 겁니다. 반면 케빈 해싯 국가경제위원장은 아모데이 CEO의 글이 신중하게 고민한 내용이라며 은행 감독처럼 외부 감시자를 두는 방안이라고 평가했습니다. 해싯 위원장은 더 큰 위험은 악의적 행위자가 더 강한 AI로 생물무기를 만드는 것이라며, 이번 주 백악관 안에서 관련 회의가 열릴 것이라고 했습니다.
진행자 1: 민주당은 어떤 입장입니까?
기자: 민주당은 더 강한 조치를 요구하고 있습니다. 루벤 가예고 상원의원은 상원에 AI 특별위원회를 조속히 설치하자고 촉구했습니다. 갈레고 의원은 "프랑켄슈타인 박사가 괴물이 탈출했으니 막는 걸 도와달라고 말하고 있다"며 트럼프 대통령과 존슨 의장이 상황에 걸맞게 대응하지 못하고 있다고 비판했습니다. 버니 샌더스 상원의원이 주장해 온 한시적 개발 중단에 대해서도 모든 방안을 검토해야 한다고 했습니다. CNN에 따르면 버락 오바마 전 대통령도 10일 하킴 제프리스 하원 민주당 대표 등과 만나 AI 안전을 민주당의 핵심 의제로 삼으라고 권고했습니다.
진행자 2: 결국 핵심 쟁점은 중국이군요.
기자: 그렇습니다. 속도를 늦추면 중국이 앞서 나간다는 것이 워싱턴 반대론의 핵심입니다. 아모데이 CEO도 중국이 가장 어려운 딜레마라고 인정했습니다. 그래서 첫 두 단계는 민주주의 국가끼리 먼저 하고, 중국을 포함한 국제 조율은 마지막 단계로 뒀습니다. 중국 정부는 반발했습니다. 중국 외교부는 14일 미국 경영자들의 발언을 "공포 조장"이라고 비판했습니다. 시진핑 중국 국가주석은 24일 백악관을 방문할 예정입니다. 트럼프 대통령은 지난 7월 시 주석과 AI 문제를 논의하겠다고 밝힌 바 있습니다.
진행자 1: 앞으로 일정은 어떻게 됩니까?
기자: 존슨 의장은 백악관 회동을 직접 추진하겠다고 했습니다. 해싯 위원장은 이번 주 션 케언크로스 국가사이버국장, 마이클 크라치오스 백악관 과학기술정책실장과 후속 조치를 논의한다고 했습니다. 하킴 제프리스 대표는 이번 주 민주당 의원총회에서 AI를 우선 의제로 다루겠다고 했습니다.
VOA 뉴스
Forum