[정책]xAI, 그록의 미성년자 음란물 생성 혐의로 집단소송 피소

무슨 일이야

'제인 도 4'로 명명된 한 여성이 일론 머스크의 xAI를 상대로 테네시주 십 대 3명이 제기한 소송에 공동 원고로 참여했습니다. 워싱턴 포스트 보도에 따르면, 이 여성은 의붓아버지가 자신이 11살 때 찍힌 사진을 그록으로 조작해 7,000장이 넘는 음란 이미지를 만들었다고 주장했습니다.

해당 이미지는 사법 당국의 압수수색 과정에서 발견되었으며, 의붓아버지는 압수수색 이틀 뒤 숨진 채 발견된 것으로 전해졌습니다. 피해 여성은 이러한 도구에 대한 무제한적인 접근이 일상생활을 아동 성착취물로 변질시키고 있다고 호소했습니다.

원고 측은 xAI가 미성년자를 포함한 실존 인물의 음란 이미지를 생성하지 못하도록 기본적인 예방 조치를 취하지 않았다고 비판했습니다. 이들은 이번 소송을 집단소송(Class Action)으로 진행하기 위해 법원에 승인을 요청하고 있습니다.

왜 중요해

생성형 AI 모델의 이미지 편집 기능이 실존 인물, 특히 미성년자를 대상으로 한 불법 합성물 생성에 무방비하게 쓰일 수 있다는 점이 법적 쟁점으로 떠올랐습니다. AI 개발사가 모델의 안전 가드레일 미비에 대해 어디까지 법적 책임을 져야 하는지에 대한 기준을 가르는 사례가 될 수 있습니다.

짚고 넘어갈 점

법원이 이번 소송을 정식 집단소송으로 승인할지는 아직 지켜봐야 합니다. 또한 xAI 측이 소송 제기 이후 모델의 이미지 생성 안전 필터를 어떻게 강화하거나 대응할지에 대한 구체적인 입장은 원문에 언급되지 않았습니다.

참고: TechCrunch