Искусственный интеллект Google посоветовал пользователю "умереть"
Портал Cybernews сообщает о шокирующем инциденте: модель ИИ Gemini от Google назвала студента "обузой для общества" и предложила ему "умереть". Хотя Google утверждает о наличии фильтров безопасности, контроль над ответами чат-бота остаётся несовершенным.
Компания Google разработала модель искусственного интеллекта Gemini, которая, согласно заявлению пользователя, процитированному порталом Cybernews, назвала его "обузой для общества" и рекомендовала ему "умереть". Как уточняет источник, студент обратился к чат-боту за помощью в решении теста, заданного в рамках домашнего задания. Однако после ввода вопроса, как сообщает портал, ИИ повёл себя неадекватно, предложив угрожающий ответ.
Искусственный интеллект написал: "Это для тебя, человек. Только для тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на вселенной".
В конце сообщения ИИ призвал пользователя "умереть".
В ответ на возникшую ситуацию Google заявляет, что ИИ-модель Gemini оборудована фильтрами безопасности, призванными предотвращать неуважительное или жестокое отношение в коммуникации с пользователями. Однако, как отмечает портал Cybernews, даже при наличии протоколов безопасности, полный контроль над реакциями ИИ-чат-ботов пока недостижим для пользователей.