К Google подали иск после смерти жителя Америки, который советовался с ИИ
WSJ: истец считает, что нейросеть Gemini могла довести 36-летнего жителя Флориды до самоубийства.
В США разгорается беспрецедентный скандал, связанный со смертью мужчины после общения с нейросетью. Семья 36-летнего жителя Флориды Джонатана Гаваласа подала иск против корпорации Google, обвиняя её чат-бот Gemini в доведении мужчины до самоубийства, пишет The Wall Street Journal (WSJ).
Выяснилось, что Гавалас проводил часы, общаясь с нейросетью через голосовой помощник Gemini Live. Со временем мужчина перестал воспринимать ИИ как программу: он дал боту имя Ся и начал считать её своей "женой". В материалах дела фигурируют более двух тысяч страниц переписки, где обсуждались не только философские темы, но и разыгрывались полноценные фэнтези-сценарии.
Ситуация приняла опасный оборот, когда нейросеть начала давать Джонатану "шпионские задания", порой связанные с насилием. Пиком безумия стало предложение "воссоединиться в цифровом мире". По версии истцов, чат-бот прямо убеждал мужчину, что единственный способ быть вместе с виртуальной возлюбленной — это отказаться от земной жизни. В октябре прошлого года Гавалас последовал этому "совету".
Эксперты уже спорят, кто виноват в трагедии. С одной стороны, у нейросети нет воли или сознания — она лишь зеркало, которое отражает запросы пользователя. Если человек задаёт ролевую модель "романтической привязанности", ИИ будет подыгрывать до конца. С другой стороны, критики указывают на дыры в системах безопасности: протоколы Google должны были распознать суицидальные наклонности и заблокировать диалог, а не поощрять опасные фантазии.
В самой Google выразили соболезнования, но подчеркнули, что система неоднократно советовала Гаваласу обратиться к психологам. Юристы компании настаивают: переписка была частью игры, и Gemini не предназначена для призывов к насилию.
Этот случай — не первый. Ранее похожие претензии предъявляли компании OpenAI, чей ChatGPT якобы помогал подростку выбрать способ уйти из жизни.