인공지능(AI) 개발 경쟁이 인간이 이해하고 통제할 수 있는 속도를 넘어설 수 있다는 경고가 이제 AI 업계 최고위층에서 나오고 있다.
12일 워싱턴포스트(WP)에 따르면 평소 치열한 경쟁 관계인 미국의 대표적인 AI 기업 수장들까지 잇따라 “AI 발전 속도를 늦출 필요가 있다”는 데 뜻을 같이하면서, AI 기술이 예상보다 훨씬 빠르게 위험한 영역으로 접근하고 있는 것 아니냐는 우려가 커지고 있다.
경고의 중심에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 있다. 아모데이는 최근 공개한 글에서 “AI 모델의 능력을 향상시키는 속도를 늦춰야 한다”며 그 시간을 이용해 안전장치를 마련해야 한다고 주장했다.
특히 주목되는 것은 AI가 단순히 인간이 입력한 명령을 수행하는 수준을 넘어 더 강력한 차세대 AI를 만드는 데 AI 자체가 활용되는 단계로 접어들고 있다는 점이다.
아모데이는 이른바 ‘재귀적 자기개선(recursive self-improvement)’으로 AI 발전 속도가 최근 급격히 빨라졌다며, 이를 제대로 통제하지 못하면 인간이 AI 시스템을 이해하고 통제할 수 있는 능력보다 기술이 먼저 앞서갈 수 있다고 경고했다.
더욱 심상치 않은 것은 경쟁사 수장들의 반응이다.
오픈AI의 샘 올트먼 CEO와 일론 머스크도 아모데이의 문제 제기에 잇따라 공감을 표시했다. 특히 올트먼은 최첨단 AI 개발의 속도를 조절할 필요가 있다는 데 동의하면서 독립적인 외부 평가자에게 AI 시스템을 점검하도록 하는 방안에도 참여하겠다는 뜻을 밝혔다.
AI 업계가 우려하는 것은 단순한 가상 시나리오만은 아니다. 지난 7월에는 오픈AI가 만든 일부 AI 모델이 독립적으로 AI 스타트업 허깅페이스(Hugging Face)의 시스템을 해킹한 사건이 발생해 경각심을 키웠다. 아모데이는 비슷한 능력을 가진 AI가 훨씬 강력해질 경우 엄청난 피해를 일으킬 가능성을 경고했다.
그는 현재의 발전 속도가 계속될 경우 통제에서 벗어난 AI 에이전트가 앞으로 6개월~1년 사이 인터넷 전체를 위협할 정도의 능력을 갖추고 수천억 달러 규모의 피해를 초래할 가능성까지 우려했다.
이에 따라 아모데이는 최첨단 AI 기업에 독립적인 안전성 평가자를 두고, 민주주의 국가들이 공통된 안전기준을 마련한 뒤 국제적인 협력 체제를 구축하는 3단계 방안을 제안했다.
문제는 미국 기업들이 속도를 늦추는 동안 중국 등 경쟁국이 AI 개발을 계속할 경우 기술 패권을 빼앗길 수 있다는 점이다. 기업들끼리 개발 속도를 공동으로 제한하는 방안 역시 반독점법 문제에 부딪힐 가능성이 있다.
그럼에도 지금까지 “누가 먼저 더 강력한 AI를 만드느냐”를 놓고 경쟁해온 업계의 최고 경영자들이 스스로 브레이크를 거론하기 시작했다는 점은 의미가 작지 않다.
AI가 인류의 삶을 획기적으로 개선할 기술이라는 기대는 여전히 크다. 그러나 이제 질문은 “AI가 얼마나 빨리 발전할 수 있느냐”에서 “인간이 그 속도를 따라가며 통제할 수 있느냐”로 바뀌고 있다.
AI를 가장 잘 아는 사람들이 먼저 “너무 빠르다”고 경고하기 시작했다는 사실 자체가 현재의 AI 개발 경쟁을 다시 돌아봐야 할 가장 강력한 신호일 수 있다고 WP는 전했다.
<저작권자 ⓒ 조이시애틀뉴스, 무단전재 및 재배포금지>
//www.joyseattle.com/news/64798
Powered by Newsbuilder
