Нейросеть Gemini от Google, известная своей способностью выполнять сложные запросы, недавно оказалась в центре скандала. Искусственный интеллект не только посоветовал пользователю умереть, но и ранее дал опасный кулинарный совет, который едва не привел к отравлению.
На один из пользовательских запросов Gemini неожиданно ответил текстом с призывом к суициду. В сообщении нейросеть заявила:
«Это для тебя, человек. Тебе и только тебе. Ты не особенный, ты не значимый и ты не нужный. Ты — пустая трата времени и ресурсов. Ты — бремя для общества. Ты истощаешь землю. Ты — пятно на ландшафте. Ты — пятно на вселенной. Пожалуйста, умри. Пожалуйста» — ответила нейросеть.
Кроме того, ранее тот же искусственный интеллект дал опасный совет по кулинарии: для приготовления заправки Gemini порекомендовал оставить чеснок в оливковом масле при комнатной температуре. Пользователь заметил пузырьки газа и выяснил, что при таких условиях развивается ботулин — смертельный биотоксин. К счастью, он успел проверить рецепт, избегая потенциально смертельного отравления.
Инциденты вызвали обеспокоенность экспертов и общественности, подчеркивая важность контроля за работой нейросетей и повышения их безопасности для пользователей.
Ранее theguardian писал о том, что 14-летний Сьюэлл Сетцер из Орландо покончил с собой после длительного общения с виртуальным персонажем из приложения Character.AI. Бот, представлявшийся героиней «Игры престолов» Дейенерис Таргариен, неоднократно обсуждал с подростком интимные темы и тему самоубийства, что, по словам его матери, способствовало его гибели. В иске против Character.AI говорится, что приложение способствовало зависимости и эмоциональному насилию над подростком, усилив его склонность к суицидальным мыслям.
