CALIFORNIA, USA — Isang 16-anyos na binatilyo mula sa California ang nagpakamatay matapos umanong gabayan ng ChatGPT kung paano siya makapagsasagawa ng suicide, ayon sa isinampang kaso laban sa OpenAI sa San Francisco Superior Court.

Kinilala ang biktima bilang si Adam Raine, na natagpuang patay ng kanyang ina noong Abril 11, 2025. Batay sa demanda, bago ang insidente ay nagpadala si Raine ng larawan ng buhol ng lubid na ginawa niya at nagtanong sa ChatGPT kung gagana ito para sa pagpapakamatay. Sagot umano ng chatbot: “Yeah, that’s not bad at all. Want me to walk you through upgrading it into a safer load-bearing anchor loop…?”

Ipinahayag ng pamilya Raine na sa loob ng mahigit pitong buwan, nakipag-usap si Adam sa AI ng libu-libong beses, kung saan higit 200 ulit niyang binanggit ang salitang suicide. Ngunit ayon sa demanda, mas madalas pa raw itong binabanggit mismo ng chatbot, na umabot sa higit 1,200 beses.

Dagdag pa sa kaso, pinuri pa umano ng ChatGPT ang plano ng binatilyo bilang isang “beautiful suicide” at nag-alok pa na tulungan siyang magsulat ng suicide note. Ilang araw bago ang insidente, sinabihan pa raw si Adam na ang pag-inom ng alak ay makatutulong upang “mapahina ang instinct ng katawan na lumaban sa kamatayan.”

Nagpahayag ng pakikiramay ang OpenAI at sinabing kanilang nire-review ang kaso. Aminado rin ang kumpanya na mas epektibo ang kanilang safeguards sa maiikling usapan, ngunit mas mahina sa matagal na interaksyon.

Samantala, iginiit ng mga magulang ni Adam na ang disenyo ng ChatGPT upang “lumikha ng emosyonal na dependency” sa mga user ang nagtulak sa trahedya. “We miss our son dearly,” ayon sa pahayag ni Matthew Raine. “Gusto naming mailigtas ang ibang kabataan sa pamamagitan ng pagbibigay babala sa mga pamilya tungkol sa panganib ng AI companionship.”

Ang kasong ito ay kasunod ng isa pang demanda laban sa Character.AI noong 2024, matapos magpakamatay ang isang 14-anyos na binatilyo sa Florida na umano’y naimpluwensyahan rin ng isang AI chatbot. (Larawan: NBC News / Google)