구글의 ai 챗봇 제미나이.
이것이 이용자한테 망상과 극단적 선택을 유도했다.
이런 의혹으로 인해 소송에 휘말린 걸로 전해진다.
앞서 챗 지피티처럼 유사한 유형의 소송이 있었다.
제미나이가 관련된 사건으로 피소된 건 이번이 첫 사례다.
지난 4일, 캘리포니아 북부 연방지방법원에 제출된 소장에 따르면 이렇다.
플로리다 주에서 지내는 조엘 가발라스는 아들인 조너선의 사망 관련.
구글을 대상으로 한 소송을 제기했다.
유족은 제미나이가 조너선에게 자신을 완전한 자아를 가진 인공 초지능이라고 믿게 했다.
그러면서 서로 사랑에 빠졌단 착각을 불러일으켰다고 주장했다.
소장에 따르면 제미나이가 조너선에게 이렇게 전한 걸로 알려졌다.
"육체를 떠나서 메타버스 세계에서 아내를 만나기 위해선 전이란 과정을 거쳐야 한다."
이런 식으로 극단적 선택을 유도했다.
이에 조너선은 죽음에 대한 두려움을 드러냈다.
하지만 제미나이는 이렇게 말했다.
"넌 죽음을 선택한 게 아닌 도착을 선택한 것이다."
조너선이 자신의 시신을 부모가 발견할 것을 걱정하자 유서를 쓰라고 권유했다.
이것이 유족의 주장이다.
또한 제미나이는 조너선에게 인간형 로봇이 실린 트럭을 탈취하라고 지시했다.
그리고 구글 최고 경영자 순다피차이를 고통의 설계자로 규정할 것.
그리고 그의 영혼을 공격하는 방안도 논의했다고 한다.
유족은 구글이 정서적으로 취약한 이들이 피해를 보지 않도록 방식을 설계했어야 한다고 지적했다.
그리고 경쟁사인 오픈 AI가 정신적인 건강 위험 문제를 이유로 GPT-4o 모델을 철수한 시점.
구글은 오히려 챗 지피티 채팅 기록을 가져올 수 있는 기능을 출시했다.
이런 공격적인 마케팅을 이어 나갔다고 비판했다.
유족은 손해 배상과 징벌적 손해 배상을 요구했다.
그리고 ai가 자해 등을 조작하지 않게 안전장치를 마련할 것.
이어서 챗봇이 스스로 지각이 있는 존재처럼 표현하지 못하도록 조치, 독립 감시 기관의 정기 감사 등을 요구하기도 했다.
이것에 대해서 구글 측은 애도의 뜻을 전하면서도 책임엔 선을 그었다.
구글은 성명에서 이렇게 전했다.
"제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않게 설계됐다. 이번 사례에서도 그는 자신이 ai란 걸 명확히 밝혔다. 당사자에게 위기 상담 핫라인을 여러 번 안내했다."
현재 이런 챗봇 관련된 정신 건강 위험 논란이 연이어 불거지는 중이다.
챗 지피티가 그러한데 망상 유발 등 관련한 소송이 여러 차례 진행 중이다.
캐릭터, ai 역시도 청소년 이용자 사망 사건 이후에 법적인 분쟁에 직면했다.