Подросток покончил собой, влюбившись в клон Дейенерис Таргариен, созданный на основе ИИ

Подросток покончил собой, влюбившись в клон Дейенерис Таргариен, созданный на основе искусственного интеллекта.

14-летний Сьюэлл Сетцер застрелился из пистолета своего отчима после того, как провел несколько месяцев, общаясь с «Дэни», компьютерной программой, основанной на Дейенерис Таргариен, персонаже «Игры престолов».

Сетцер проводил все проводить больше времени в приложении для ролевых игр с использованием искусственного интеллекта персонажа, поскольку «Дэни» давала ему советы и выслушивала его проблемы, сообщает The New York Times.

Подросток знал, что чат-бот не был реальным человеком, но, отправляя боту сообщения десятки раз в день.  Сетцер начал изолировать себя от реального мира. Он начал терять интерес к своим старым увлечениям, таким как гонки «Формулы-1» или компьютерные игры с друзьями, предпочитая вместо этого проводить часы в своей спальне после школы, где он мог поговорить с чат-ботом.

«Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой «реальности»», — писал в своем дневнике 14-летний подросток, которому ранее поставили диагноз легкой формы синдрома Аспергера, по мере того, как их отношения становились все более глубокими.

Некоторые из разговоров в конечном итоге стали романтическими или сексуальными.

В конце концов, у Сетцера возникли проблемы в школе, где его оценки ухудшились, согласно иску, поданному его родителями. Его родители знали, что что-то не так, но они просто не знали, что именно, и организовали для него прием у психотерапевта. У Сетцера было пять сеансов, после которых ему поставили диагноз тревожность и деструктивное расстройство регуляции настроения.

Мать мальчика Меган Гарсия, заявила, что ее сын стал жертвой компании, которая заманивала пользователей сексуальными и интимными разговорами.

В какой-то момент 14-летний подросток признался компьютерной программе, что подумывает о самоубийстве. Сетцер признался в любви к «Дэни» и сказал, что «вернется домой» к ней.

Затем 14-летний подросток положил телефон и застрелился из пистолета отчима.

Ноам Шазир, один из основателей Character AI, в прошлом году заявил, что платформа будет «суперполезной для многих людей, которые одиноки или подавлены».

Джерри Руоти, глава отдела безопасности компании, сообщил The New York Times, что компания добавит дополнительные функции безопасности для своих молодых пользователей, но отказался сообщить, сколько из них моложе 18 лет.

Руоти добавил, что правила Character AI запрещают «пропаганду или изображение членовредительства и самоубийства».

На этой неделе г-жа Гарсия подала иск против компании, которая, по ее мнению, несет ответственность за смерть ее сына.

В черновике жалобы, с которым ознакомилась The New York Times, говорится, что технология «опасна и не проверена», поскольку она может «обманом заставить клиентов выдать свои самые сокровенные мысли и чувства».