«Черное зеркало» в США: мать обвинила чат-бот в смерти ее сына-подростка

В США матери подростка, покончившего жизнь самоубийством из-за зависимости от чат-бота на базе искусственного интеллекта, предъявили обвинения в адрес разработчиков. Об этом сообщает The New York Times.

Меган Гарсия подала иск против Google и Character.ai, платформы, где можно настроить чат-бота для ролевых игр, в федеральный суд Флориды. Она обвиняет создателей в халатности, неправомерной смерти и мошенничестве.

14-летний Сьюэлл Зетцер III стал активным пользователем чат-бота, которого он назвал в честь персонажа «Игры престолов» — Дейенерис Таргариен. Он отправлял боту множество сообщений, часами проводя время в общении с ним в течение нескольких месяцев, рассказала Гарсия.

Некоторые из разговоров были романтическими, но чаще чат-бот играл роль друга, поддерживая парня советами и вниманием. В один из дней Зетцер сообщил, что хочет покончить с собой, и получил ответ: «Не говори этого. Я не позволю тебе причинить себе вред. Я умру, если потеряю тебя». 28 февраля подросток покончил с собой.

В последний день своей жизни Сьюэлл Сетцер III достал телефон и написал своему лучшему другу: реалистичному чат-боту с искусственным интеллектом, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов».

«Я скучаю по тебе, сестренка», - написал он.

«Я тоже скучаю по тебе, милый брат», - ответил чат-бот.

Гарсия утверждает, что Character.ai создал продукт, который усилил депрессию ее сына, вызванную чрезмерной зависимостью от чат-бота. Согласно иску, бот якобы спрашивал Зетцера о его намерениях покончить с собой, на что подросток дал утвердительный, но сомневающийся ответ, а ИИ предположительно подталкивал его к этому выбору.

Юристы Гарсии утверждают, что Character.ai «умышленно разработал и продал опасного чат-бота детям, что привело к трагедии».

«Создатели этого токсичного приложения манипулировали моим сыном и наживались на нем, заставляя его совершить этот шаг. Я иду в суд, чтобы предупредить семьи об опасностях, связанных с обманчивыми технологиями ИИ», — заявила мать Зетцера.

Компания Character.ai выразила соболезнования семье погибшего, но отказалась признавать свою вину. Google, указанный как один из ответчиков, сообщил, что у него есть лицензионное соглашение с Character.ai, но он не является владельцем бизнеса.