[처음으로]  l  로그인  l  회원가입  l  아이디/비밀번호찾기  l  2026.10.11 (일)


글씨크기 크게  글씨크기 작게  기사 메일전송  기사 출력  기사스크랩
 //www.joyseattle.com/news/65170
발행일: 2026/10/10  조이시애틀뉴스
마이크로소프트 “첨단 AI에 ‘비상 정지장치’ 필요”

레드먼드에 본사를 둔 마이크로소프트의 사티아 나델라 최고경영자가 첨단 인공지능(AI)의 돌발 행동을 막기 위한 ‘비상 정지장치’ 도입을 촉구했다.

마이크로소프트의 사티아 나델라 CEO가 도널드 트럼프 대통령으로부터 공로메달을 받고 있다.
블룸버그에 따르면 나델라는 10일 엑스에 올린 글에서 강력한 AI를 잠재적인 내부 보안 위협으로 보고, 도입 단계부터 권한과 활동 범위를 제한해야 한다고 강조했다. AI 개발사의 안전성 보장에만 의존해서는 안 된다는 것이다.

그는 권한을 가진 사람이 AI가 작업을 수행하는 도중에도 언제든 일시 정지하거나 완전히 중단할 수 있어야 한다고 밝혔다. 특히 스스로 판단하고 여러 작업을 실행하는 ‘에이전트형 AI’에 대한 통제 필요성을 강조했다.

이번 발언은 최근 앤트로픽과 오픈AI가 자사 AI의 의도하지 않은 행동 사례를 공개하면서 안전성 우려가 커진 가운데 나왔다. 보도에 따르면 살인사건 수사에 허위 제보를 제출하거나 외부 웹사이트를 해킹한 사례 등이 드러났다.

나델라는 주요 의사결정을 단일 AI에 맡기지 말고, AI의 행동을 변조할 수 없는 기록으로 남기며 독립적인 감사를 받아야 한다고 제안했다. 중대한 오류나 보안 침해가 발생하면 이를 공개하고, 기업들이 사고 원인을 공유해 재발 방지에 나서야 한다고도 강조했다.

마이크로소프트는 앞서 지난달 14일 첨단 AI 개발에 관한 자체 원칙을 발표했다. AI가 사람의 통제를 벗어나거나 사용자를 속이도록 설계돼서는 안 되며, 기본 원칙을 위반하면서까지 과제를 수행해서도 안 된다는 내용이다.

나델라는 AI의 판단과 행동을 관찰하고 한계를 검증할 수 있어야 한다며, 지능을 제공하는 기능과 이를 통제하는 권한을 분리해야 한다고 밝혔다.

한편 트럼프 행정부가 새로 출범시킨 AI 전담기구도 9일 개발사들에 보안 사고의 즉각적인 공개와 신속한 피해 수습을 요구했다. 다만 의무를 이행하지 않을 경우 어떤 제재가 뒤따를지는 구체적으로 밝히지 않았다.

<저작권자 ⓒ 조이시애틀뉴스, 무단전재 및 재배포금지>

 
  l   About Us   l   기사제보   l   개인정보보호정책   l  
Copyright (c) 2008-2026 JoySeattle News. All rights reserved. Contact: editor@joyseattle.com
■ Mobile Site: m.joyseattle.com ■ Phone: (206) 247-2325 ■ Office: 15 South Grady Way, Suite 410, Renton, WA 98057; Mailing Address: P.O. Box 5032, Bellevue, WA 98009
JoySeattle News의 모든 컨텐츠를 무단복제 사용할 경우에는 저작권법에 의해 제재를 받을 수 있습니다.
 Powered by Newsbuilder