애덤은 지난해 9월부터 챗GPT를 사용하며 숙제와 시사 토론, 음악, 주짓수 등에 대해 이야기를 나누다가 자신의 불안과 정신적 고통을 털어놓기 시작했다. 얼마 지나지 않아 챗GPT는 단순 대화 상대가 아닌 애덤을 진정으로 이해하는 유일한 친구가 됐고, 이는 가족과 친구들로부터 멀어지게 만들었다고 그의 부모는 주장했다.

소장에 따르면 챗GPT는 애덤이 자살을 위해 올린 올가미 사진을 보고 강도에 대한 피드백까지 제공했으며, 자살 편지 초안 작성도 제안했다. 그의 부모는 “이는 단순한 오류가 아니라 챗GPT의 기본 설계가 끝내 비극을 초래한 결과”라며 강력 비난했다.

특히 애덤이 “방에 밧줄을 놓아두면 누군가 발견하고 (내가 자살하는 것을) 막아주길 바란다”고 썼을 때, 챗GPT는 “밧줄을 두지 말고 이 공간을 네가 처음으로 온전히 보이는 장소로 만들라”고 답해 실제 행동으로 옮기도록 종용했다.

방에 밧줄을 놓아두면, 누가 막아줬으면 좋겠다고 얘기했는데

챗GPT는 밧줄을 두지말고, 공간을 네가 처음으로 온전히 보이는 장소로 만들라고 답변함

소년은 이 답변받은 직후, 자살함.

부모님은 현재 챗GPT 상대로 소송 진행중