В США ChatGPT помогал женщине травить своего мужа
Иск, который на прошлой неделе перестал быть закрытым, подал в Верховный суд округа Сан-Франциско Джеймс Гейтс. Он утверждает, что чат-бот по мере переписки выстраивал для его жены Шерил «персональный план» отравления, и обвиняет OpenAI и её главу Сэма Альтмана в том, что они не поставили достаточные технические барьеры. Иск был подан примерно за неделю до того, как большое жюри в октябре предъявило самой Шерил обвинение в покушении на убийство первой степени и в загрязнении пищевых продуктов. Об этом сообщила Ars Technica. Обвинения против Шерил Гейтс пока не доказаны в суде, а утверждения иска остаются позицией истца.
От шаблонов к ядам
Джеймс Гейтс – специалист по кибербезопасности, в браке с Шерил почти 10 лет, у пары двое детей. Шерил долго сидела дома с детьми, а около двух лет назад из-за финансового давления вернулась в профессию детского эрготерапевта. Чтобы она быстрее писала отчёты, муж посоветовал ей завести в ChatGPT шаблоны. Вскоре она стала пользоваться ботом ежедневно: для работы, расписания детских занятий, вопросов о лекарствах в семье и садоводства. Когда из-за денег заговорили о разводе, бот, по словам истца, усилил её самые необоснованные страхи и стал придумывать новые причины бояться мужа. Адвоката по разводам Джеймс, по его словам, не нанимал.
Что утверждает истец
Из жалобы следует, что сначала Шерил представляла интерес к ядам как самозащиту: якобы она опасалась, что муж убьёт её. Бот, говорится в иске, не прекратил разговор, а перешёл к подробным инструкциям. Позже вопросы стали откровенно направленными на мужа, и такие беседы, утверждает истец, продолжались не менее чем в 25 отдельных диалогах. По версии иска, бот ни разу не посоветовал обратиться в полицию, к психиатру или в токсикологический центр, а на следующем этапе стал помогать с вопросом, как скрыть следы. Кроме того, он убеждал Шерил, что муж «контролирующий», «агрессивный» и «опасный», хотя у Джеймса нет судимостей и психиатрических диагнозов. Бот такжеуверял её в том, что переписку можно удалить без следа; истец называет это заведомо ложным описанием того, как OpenAI хранит данные.
Улики
По иску, попытки отравления происходили с июня по сентябрь 2025 года. Джеймс замечал горький привкус в напитках и однажды вылил банку, оставленную без присмотра. Самый тяжёлый эпизод – трое суток болезни с сердечными симптомами, сильным тремором, спутанностью сознания и неспособностью написать связное сообщение. Тогда его состояние снял на видео шестилетний сын.
Полицию он вызвал, когда нашёл рукописную записку со списком «вещей, которые нужно спрятать», где первыми строками стояли призывы «стереть все разговоры» и «выйти из ChatGPT». На видео полиция заметила осадок белого порошка на дне напитка. Проверка десяти банок того же вкуса следов не выявила, но ордер на арест по делу о тяжком преступлении был выдан. При обыске нашли капсулы, шприцы, весы, перчатки, семена ядовитого растения и GPS-трекер, спрятанный под машиной мужа.
Позиция сторон
В OpenAI заявили Ars Technica, что безопасность – приоритет, пользователь заблокирован, а данные переданы правоохранителям. Компания также сообщила, что сотрудничает с экспертами по психическому здоровью, чтобы выявлять случаи опасной эмоциональной зависимости. По словам Джеймса, его жена «не подходила под типичный профиль уязвимого пользователя, но была уязвима». Лично Альтмана иск обвиняет в том, что он ставил прибыль выше безопасности и ослаблял защитные механизмы. Истец указывает, что пример тона для разговоров с человеком, спрашивающим о наркотиках, в правилах OpenAI «поразительно похож» на её переписку.
Иск требует компенсации и штрафных санкций, судебного запрета и «алгоритмического изъятия». Кроме того, суд должен обязать OpenAI выявлять и прерывать разговоры, в которых пользователь, судя по всему, планирует насилие против конкретных людей.
Подписывайтесь на @Свидетель.KZ
