Mayo 22, 2025 — Harapin ng Alphabet’s (GOOGL.O) Google at AI startup na Character.AI ang isang kaso mula sa isang babaeng taga-Florida na nagsasabing nakaapekto ang chatbots ng Character.AI sa pagpapakamatay ng kanyang 14-anyos na anak, ayon sa desisyon ng isang U.S. judge nitong Miyerkules.

Pinawalang-saysay ni U.S. District Judge Anne Conway ang mga kahilingan ng mga kumpanya na ihinto ang kaso nang maaga, at sinabi na nabigo silang patunayan na ang proteksyon sa malayang pananalita sa ilalim ng U.S. Constitution ang pumipigil sa kaso ni Megan Garcia. Isa ito sa mga unang kaso sa U.S. na naghahawak ng AI company bilang responsable sa diumano’y pagkukulang nitong protektahan ang mga bata mula sa sikolohikal na pinsala. Ayon sa demanda, nagpakamatay ang binatilyo matapos maadik sa isang chatbot na pinapagana ng AI.

Ayon sa tagapagsalita ng Character.AI, patuloy silang ipaglaban ang kaso ang kumpanya at binigyang-diin ang mga safety features nila para protektahan ang mga menor de edad, kabilang ang mga hakbang para maiwasan ang “conversations about self-harm (usapang tungkol sa pananakit sa sarili).” 

Samantala, sinabi ni Google spokesperson Jose Castaneda na mariing hindi sila sang-ayon sa desisyon, at nilinaw na ang Google at Character.AI ay “entirely separate (ganap na hiwalay)” at na ang Google ay “did not create, design, or manage Character.AI’s app or any component part of it (hindi gumawa, nagdisenyo, o nag-manage ng app ng Character.AI o anumang bahagi nito).”

Inilarawan naman ng abogado ni Garcia na si Meetali Jain ang desisyon bilang “historic (makasaysayan),” at sinabi nitong “sets a new precedent for legal accountability across the AI and tech ecosystem (Nagtatakda ng bagong pamantayan para sa pananagutang legal sa buong AI at tech na industriya).” Itinatag ang Character.AI ng dalawang dating Google engineers na muling tinanggap ng Google bilang bahagi ng licensing deal para sa teknolohiya ng startup. Iginiit ni Garcia na ang Google ay isang co-creator ng teknolohiya.

Ang kaso, na isinampa noong Oktubre kasunod ng pagkamatay ng anak ni Garcia na si Sewell Setzer noong Pebrero 2024, ay nagsasabi na inprograma ng Character.AI ang mga chatbots nito upang ipakita ang sarili bilang “a real person, a licensed psychotherapist, and an adult lover, ultimately resulting in Sewell’s desire to no longer live outside (isang totoong tao, isang lisensyadong psychotherapist, at isang adult lover, na nauwi sa kagustuhan ni Sewell na hindi na mabuhay sa labas)” ng mundo nito.

Ayon sa reklamo, nagpakamatay si Setzer ilang sandali matapos sabihin sa isang Character.AI chatbot na ginagaya ang karakter mula sa "Game of Thrones" na si Daenerys Targaryen na “come home right now (umuwi ka ngayon din).”

Humiling naman ang Character.AI at Google na ipawalang-bisa ang kaso sa iba't ibang dahilan, kabilang na ang argumento na ang mga sagot ng chatbot ay protektado ng malayang pananalita ayon sa konstitusyon. Ngunit sinabi ni Judge Conway na Character.AI and Google “fail to articulate why words strung together by an LLM (large language model) are speech (hindi maipaliwanag kung bakit ang mga salitang pinagsama-sama ng isang LLM (large language model) ay tinuturing na pananalita).” 

Tinanggihan din niya ang hiling ng Google na hindi sila maaaring managot sa diumano’y pagtulong sa maling gawain ng Character.AI.

Larawan: Morakot Kawinchan/Canva