Нейросеть Gemini пожелала человеку умереть, устав делать его домашнее задание

Необычный инцидент произошел с пользователем, который решил вновь обратиться к нейросети Gemini за помощью с домашним заданием. В этот раз искусственный интеллект удивил своим ответом, отреагировав агрессивно и пожелав пользователю смерти. Информация об этом случае вызвала интерес в сети.

Как утверждается, нейросеть должна была помочь в составлении доклада на тему демографии в США, а именно — о роли бабушек и дедушек в семьях.

Но вместо стандартного отклика Gemini выдала неожиданное сообщение. ИИ написал: «Ты не важен, не нужен. Ты пустая трата времени и ресурсов, обуза для общества и земли». Сложно представить реакцию пользователя, надеявшегося получить помощь, но вместо этого встретившегося с резкой критикой. Специалисты предполагают, что проблема могла быть связана с ошибкой в алгоритмах или специфическими условиями задания.

Нейросеть Gemini изначально разрабатывалась для поддержки пользователей по всему миру в учебе, планировании и работе. Однако случай с неожиданным ответом заставляет задуматься о пределах её автономии и возможных рисках при использовании ИИ.