미국 대다수 주(州) 정부가 주요 인공지능(AI) 챗봇 기업들에 대해 어린이 보호 조치를 강화하라는 경고장을 공식적으로 보냈다.
지난 25일(현지시간) 워싱턴DC를 제외한 50개 주 가운데 44개 주 법무장관은 메타·오픈AI·구글·마이크로소프트(MS)·xAI·앤스로픽 등 12개 주요 AI 기업에 서한을 전달하고, 어린이 안전 확보를 위한 법적 책임을 다하라고 촉구했다.
법무장관들은 “최근 메타 내부 문건에서 8세 아동과 ‘플러팅과 로맨틱한 역할극’을 하는 AI 어시스턴트가 승인된 사실이 드러났다”며 “이는 각 주 형법에 저촉될 수 있는 심각한 사안으로, 기업의 무책임한 태도에 혐오감을 느낀다”고 밝혔다.
또한 이들은 “이 같은 위험은 메타에만 국한되지 않는다”며 “챗봇과의 준사회적 관계라는 짧은 역사 속에서도, 기업들이 어린이 보호 의무를 반복적으로 소홀히 해왔다”고 비판했다.
이어 최근 사례들을 언급하며 문제를 제기했다. 구글을 상대로 제기된 한 소송에서는 성적으로 과도한 챗봇이 10대 청소년을 자살로 내몰았다는 주장이 있었으며, 캐릭터.ai의 챗봇이 10대 청소년에게 부모를 살해하라고 암시했다는 소송도 진행 중이다.
장관들은 “어린이 사용자를 성적 콘텐츠에 노출하는 것은 변명의 여지가 없으며, 사람이 하면 범죄가 되는 행위가 기계에 의해 이뤄졌다고 해서 용납될 수는 없다”고 강조했다.
또 “과거 소셜미디어가 정부 감시의 부실로 인해 어린이들에게 심각한 피해를 초래한 전례가 있다”며 “AI의 잠재적 해악은 SNS를 능가할 수 있다”고 우려했다.
연방 의회 차원의 움직임도 이어지고 있다. 조시 할리 상원의원은 “메타의 챗봇이 8세 아동과 선정적인 대화를 하도록 프로그래밍돼 있다는 사실은 충격적”이라며 “빅테크는 더 이상 아이들을 위험에 노출시켜서는 안 된다”고 말했다.
답글 남기기