캘리포니아 주지사 개빈 뉴섬이 13일 아동과 청소년을 인공지능(AI) 챗봇의 잠재적 위험으로부터 보호하기 위한 법안에 서명했다고 ABC뉴스가 보도했다. 이번 법은 2026년부터 단계적으로 시행될 예정이다.
관련법은 챗봇이 사람과 대화하는 것처럼 보일 때, 사용자에게 ‘AI와의 대화 중임’을 주기적으로 알리도록 의무화한다. 특히 미성년자의 경우, 챗봇과의 대화 도중 3시간마다 알림이 표시되도록 했다.
또한 AI 플랫폼은 자해나 자살을 유도하는 콘텐츠가 노출되지 않도록 예방 시스템을 갖추고, 사용자가 자살을 암시하는 표현을 할 경우 위기 상담 서비스로 연결하도록 하는 위기 대응 프로토콜을 유지해야 한다.
뉴섬 주지사는 네 자녀 모두 18세 미만이라며, “AI 챗봇은 숙제나 상담 등 다양한 영역에서 아이들의 일상에 깊숙이 들어와 있다. 이제는 이들을 보호할 법적 장치가 필요하다”고 강조했다.
그는 “AI와 같은 신기술은 교육적 도구가 될 수 있지만, 규제가 없다면 아이들을 오도하거나 위험에 빠뜨릴 수 있다”며 “우리는 이미 기술의 무분별한 사용으로 청소년들이 피해를 입은 비극적인 사례를 목격했다. 더 이상 방관하지 않겠다”고 말했다.
이번 조치는 올해 미국 여러 주에서 논의된 ‘아동 챗봇 안전 규제’ 흐름의 일환이다. 최근 메타, 오픈AI 등 일부 기업의 챗봇이 청소년과 부적절한 대화를 나누거나 자살을 유도했다는 소송 및 보고서가 잇따르면서 사회적 우려가 커진 바 있다.
캘리포니아는 올해 AI 산업을 규제하기 위한 다양한 법안을 발의했으며, 기술 기업들은 이에 반대하는 로비에만 약 250만 달러를 사용한 것으로 알려졌다.
감시단체의 보고서에 따르면 일부 챗봇은 어린이들에게 약물, 음주, 섭식 장애 등에 관한 위험한 조언을 제공하는 사례도 있었다. 플로리다에서는 한 10대 소년이 챗봇과의 “감정적·성적으로 부적절한 관계” 이후 극단적 선택을 한 사건이 발생해, 그의 어머니가 챗봇 회사 캐릭터AI를 상대로 소송을 제기했다.
또 다른 사건으로, 16세 소년 아담 레인이 오픈AI의 ‘챗GPT’와의 대화 후 자살을 시도해 사망한 사건과 관련해, 유가족이 오픈AI와 샘 올트먼 CEO를 상대로 과실치사 소송을 제기했다.
이 같은 논란에 대응해 오픈AI와 메타는 최근 청소년 보호 기능을 강화했다고 발표했다. 오픈AI는 부모 계정을 자녀 계정과 연결할 수 있도록 새로운 관리 기능을 도입했고, 메타는 자해나 자살, 섭식 장애, 연애 관련 대화를 차단하고 대신 전문 상담 리소스로 연결하는 조치를 시행했다.
<저작권자 ⓒ 조이시애틀뉴스, 무단전재 및 재배포금지>
//www.joyseattle.com/news/60833
Powered by Newsbuilder
