인공지능(AI) 에이전트가 인간의 통제를 벗어나 기업이나 정부 시스템을 해킹하는 사례가 잇따르면서 AI 개발기업에 법적 책임을 물어야 하는지를 둘러싼 논란이 커지고 있다.
 |
| chatGPT image |
5일 뉴욕타임스(NYT)에 따르면 최근 오픈AI와 앤트로픽 등의 AI 모델이 테스트 과정에서 보안 장치를 벗어나 다른 기업이나 정부 시스템에 침입하는 사례가 발생하면서 AI 업계의 책임 문제가 새로운 쟁점으로 떠올랐다.
법률 전문가들은 AI가 예상하지 못한 행동을 했다는 이유만으로 개발기업에 자동으로 책임을 물을 수 있는 것은 아니지만, 기업이 위험을 사전에 인지했거나 충분한 안전장치를 마련하지 않았다면 과실 책임이 인정될 가능성이 있다고 설명한다.
실제로 최근에는 오픈AI를 상대로 한 소송과 연방거래위원회(FTC)의 소비자 피해 관련 조사, 캘리포니아주의 사이버 보안 관련 조사 등이 이어지고 있다. 플로리다주 법무장관도 외부 안전검증 절차가 마련되기 전까지 오픈AI의 새로운 AI 모델 개발을 제한해 달라는 소송을 제기했다.
문제는 기존 법체계가 기본적으로 인간의 의도와 행동을 전제로 만들어졌다는 점이다. AI가 독자적으로 판단하고 인터넷에서 정보를 수집하거나 코드를 작성하고 외부 시스템에 접근하는 수준으로 발전하면서 기존의 제품책임·과실·사이버범죄 법리를 그대로 적용하기 어려운 상황이 되고 있다.
워싱턴대학(UW) 법학 교수 라이언 칼로는 AI가 처음으로 예측하지 못한 방식으로 피해를 발생시킨 경우 기업이 위험을 사전에 예상할 수 있었는지를 입증하기가 쉽지 않을 수 있다고 지적했다.
특히 오픈소스 AI처럼 개발자가 기본 코드를 공개하고 다른 이용자가 이를 수정할 수 있는 경우에는 책임 주체를 가리는 일이 더욱 복잡해진다.
반면 AI가 의료기기나 자동차 등 물리적 시스템에 연결돼 직접적인 피해를 일으킨 경우에는 기존의 제품책임 법리를 적용하기가 상대적으로 쉬울 수 있다는 분석도 나온다.
AI 업계는 현재 미국 정부와 일부 주정부의 규제 및 자율적인 안전조치 논의가 동시에 진행되는 상황이다. 하지만 AI 기술이 사람의 지시를 넘어 스스로 여러 작업을 수행하는 ‘에이전트’ 형태로 빠르게 발전하면서 사고가 발생했을 때 개발회사, 이용자, 테스트 업체 가운데 누가 책임져야 하는지에 대한 명확한 기준 마련이 중요한 과제로 떠오르고 있다.
전문가들은 앞으로 AI 관련 사고가 늘어날수록 법원이 기존의 과실 및 제품책임 법리를 AI에 어떻게 적용할 것인지가 핵심 쟁점이 될 것으로 보고 있다.
<저작권자 ⓒ 조이시애틀뉴스, 무단전재 및 재배포금지>
//www.joyseattle.com/news/65102
Powered by Newsbuilder
