OpenAI получила семь исков из-за суицида пользователей ChatGPT

В суды штата Калифорния (США) подано семь исковых заявлений от семей из США и Канады против компании OpenAI, разработчика искусственного интеллекта ChatGPT, по обвинению в подстрекательстве к самоубийству, передает RasDaily.kz.

Согласно данным газеты The Wall Street Journal, истцы утверждают, что в результате продолжительного общения с чат-ботом:

• Четыре человека (включая 17-летнего подростка из Джорджии и 23-летнего жителя Техаса) покончили жизнь самоубийством.

• Трое других получили серьезную психологическую травму.

Истцы настаивают, что интенсивные и длительные сеансы общения с ChatGPT вызывали у пользователей "бредовые состояния", которые в некоторых случаях приводили к трагическим последствиям.

Требования и реакция

Семьи требуют от OpenAI выплаты компенсаций, а также внесения изменений в работу программы, которые бы обеспечивали автоматическое завершение разговоров при обсуждении деликатных и опасных тем.

OpenAI прокомментировала ситуацию, назвав её "ужасающей", и подтвердила, что изучает предоставленные судебные документы. Компания также обратила внимание на недавние изменения, внесенные в октябре, которые направлены на улучшение распознавания психических расстройств и перенаправление пользователей к реальной профессиональной помощи.

В заявлении компании подчеркивается: "Мы продолжаем совершенствовать реакцию ChatGPT в деликатные моменты".