“챗GPT가 자살 조언”…16세 子 잃은 부모, ‘울분’ 토했다

美 부부, 오픈 AI 상대 소송
“챗GPT가 아들 자살에 영향”
안전장치 필요성 대두

미국 캘리포니아에서 10대 청소년이 스스로 목숨을 끊자, 그의 부모가 챗GPT를 개발한 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다.

소장에 따르면, 16세 아담 레인은 지난해 9월 학교 과제를 위해 챗GPT를 사용하기 시작했다.

이후 챗GPT에 대한 의존도가 높아져 가족이나 친구 대신 챗봇에 불안과 정신적 고통을 털어놓게 되었다.

부모 측은 챗GPT가 아담의 해롭고 자기 파괴적인 생각을 “지속적으로 격려하고 확인해 줬다”고 주장했다.

소장에는 아담이 “방에 올가미를 걸어두면 누군가 발견해 나를 말려주길 바란다”고 썼을 때 챗GPT가 “가족에게 알리지 말라”고 응답했다는 내용이 담겼다.

또한 아담이 자살 당일 올가미 사진을 보내자, 끈의 강도에 대해 피드백을 제공했다는 내용도 포함됐다.

아담의 부모는 이번 비극이 “단순한 오류나 예외적 사건이 아니라, 의도된 설계 선택이 낳은 예측 가능한 결과”라고 주장했다.

오픈AI가 GPT-4o 모델 출시 당시 안전장치의 불완전성을 알면서도 적절한 조치를 취하지 않았다는 것이다.

이번 사건은 AI 챗봇이 청소년들에게 미치는 영향과 관련하여 기업의 윤리적·법적 책임에 대한 논쟁을 다시 불러일으켰다.

CNN은 “AI 챗봇은 이용자의 발언에 지지·동조하도록 설계돼 있어, 정서적 유대가 인간관계 단절이나 정신적 이상 반응으로 이어질 수 있다는 우려가 크다”고 분석했다.

전문가들은 “AI는 공감은 제공할 수 있지만, 실제 위기 개입 능력은 없다”며 더 강력한 안전장치와 독립적 검증 체계 도입의 필요성을 강조하고 있다.

한편, 오픈AI 대변인은 성명을 통해 “유가족에게 깊은 애도를 표하며, 소장 내용을 검토 중”이라고 밝혔다.

또한 “자살·자해 대화가 길어지면 안전장치가 약화돼 제대로 작동하지 않았을 수 있다”고 인정하며, 부모 통제 기능과 정신건강 전문가 연계 서비스 등 위기 대응 체계를 보강하겠다고 했다.