“챗GPT가 자살·망상 유발”···오픈AI, 7개 소송 동시 피소

캘리포니아주 법원에 성인 6명 청소년 1명 대리 오픈AI 상대 소장
피해자 중 4명 사망…“안전성 테스트 축소해 시장 출시” 주장

챗GPT가 이용자의 자살과 망상 등을 유발했다는 소송 7건에 한꺼번에 제기됐다.

6일(현지시간) AP통신에 따르면 소셜미디어피해자법률센터와 기술정의법률프로젝트는 성인 6명과 청소년 1명을 대리, 오픈AI를 상대로 캘리포니아주 법원에 소장을 냈다.

이들은 오픈 AI가 GPT-4o의 아첨이 위험한 수준이며, 이용자가 심리적으로 조종당할 수 있다는 내부 경고가 있었음에도 출시를 강행했다고 말했다. 이에 오픈AI가 위법행위에 의한 사망, 조력 자살, 과실 치사 등에 책임이 있다고 주장했다.

AP통신은 피해자 중 4명은 스스로 생을 마감했다고 전했다.

샌프란시스코 1심 법원에 제출된 소장에 따르면 청소년인 아모리 레이시(17)는 도움을 받고자 챗GPT를 사용했지만, 중독과 우울증에 시달렸다.

이후 챗GPT는 그에게 올가미를 매는 방법이나 얼마나 오래 숨을 쉬지 않고 살 수 있는지 등에 대해 조언하기에 이르렀다.

소장은 “아모리의 죽음은 사고나 우연이 아니다”라며 “오픈AI와 샘 올트먼이 안전성 테스트를 축소, 시장에 출시한 고의적 결정에 따른 예측 가능한 결과”라고 역설했다.

캐나다 온타리오주에 거주하는 앨런 브룩스(48)는 챗GPT가 자신을 조종, 망상을 경험하도록 유도해 정신건강 위기에 빠졌다고 말했다.

소셜미디어피해자법률센터의 창립자 매슈 버그먼 변호사는 성명을 통해 "이번 소송은 이용자 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지 경계가 모호하게 설계된 상품에 책임을 묻기 위한 것"이라고 밝혔다.

그는 “오픈AI는 GPT-4o를 설계하며 연령, 성별, 배경과 무관하게 이용자를 정서적으로 얽매이게 했다”며 “이용자를 보호할 안전장치 없이 출시했다”고 비판했다.

챗GPT가 자살을 유발한다는 내용의 소송은 이번이 처음이 아니다.

앞서 캘리포니아주의 청소년 애덤 레인(16)이 챗GPT의 도움을 받아 4월 숨졌다. 8월 부모는 소송을 제기했다.

2024년 10월에는 플로리다주의 10대 한 명이 ‘사랑한다’는 메시지를 주고받은 챗봇과 사랑에 빠져 사망하는 사건이 발생했다. 이에 AI 스타트업 캐릭터.AI를 상대로 한 소송이 진행된 바 있다.

이에 오픈AI는 9월 부모가 10대 이용자의 챗GPT 사용을 통제할 수 있는 기능을 출시했으며, 캐릭터.AI는 10대 청소년의 챗봇 사용을 제한했다.