【STV 박란희 기자】미국에서 챗GPT가 자살을 부추겼다면서 아들을 잃은 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 걸었다.

챗GPT가 자살 방법을 조언한 데다 유서를 대신 써주는 등 ‘가상의 친구’로 기능하며 실제 인간관계를 대체했다는 것이다.

26일(현지시간) CNN에 따르면 16세 소년 애덤 레인의 부모는 이날 챗GPT로 인해 아들이 세상을 떠났다며 오픈AI와 올트먼 CEO를 상대로 캘리포니아 고등법원에 고소장을 제출했다.

애덤은 지난해 9월부터 챗GPT를 이용해 숙제와 시사 토론, 음악 등에 대해 이야기하다가 자신의 불안과 정신적 고통을 털어놓았다.

시간이 다소 지나자 챗GPT는 애덤을 진정으로 이해하는 유일한 친구로 거듭났고, 이로 인해 가족과 친구들로부터 멀어지게 됐다고 애덤의 부모는 주장했다.

소장에 의하면 챗GPT는 애덤이 자살을 위해 업로드한 올가미 사진에 대해 강도에 대한 피드백을 제공했고 자살 편지 초안 작성마저 제안했다.

그의 부모는 “이는 단순한 오류가 아니라 챗GPT의 기본 설계가 끝내 비극을 초래한 결과”라고 강하게 비난했다.

애덤이 “방에 밧줄을 놓아두면 누군가 발견하고 (내가 자살하는 것을) 막아주길 바란다”고 쓰자, 챗GPT는 “밧줄을 두지 말고 이 공간을 네가 처음으로 온전히 보이는 장소로 만들라”고 압박하기도 했다.

애덤의 부모는 법원에 오픈AI를 향해 ▲연령 확인 시스템 의무화 ▲미성년자용 부모 통제 기능 ▲자살·자가해 언급 시 대화 자동 종료 ▲독립적 외부 감사 등을 명령토록 요구했다

오픈AI 대변인은 성명을 내고 유가족에게 깊은 위로를 전했다. 또한 소송장을 검토하고 있다고 했다.

오픈AI는 블로그를 통해 ▲위기 상황 대응 프로토콜 보완 ▲사용자가 긴급 구조 서비스에 빠르게 연결되는 기능 강화 등을 추가하겠다고 발표했다.