Чтоб чиновники не воровали, министром сделали искусственный интеллект: Через три месяца он попался на взятке
Нейросеть Диэлла, назначенная министром Албании по госзакупкам, занималась откатами. Такая сенсационная новость сегодня разнеслась по Сети. Но всё оказалось сложнее.
Нейросеть Диэлла, назначенная министром Албании по госзакупкам, занималась откатами. Такая сенсационная новость сегодня разнеслась по Сети. Но всё оказалось сложнее.
В конце сентября маленькая европейская страна Албания заявила, что первой в мире назначает на должность министра не человека, а нейросеть по имени Диэлла. Искусственный интеллект был призван искоренить взяточничество при проведении торгов для государственных закупок. Идея была отличная – ИИ не может заниматься коррупционными схемами, он же не человек, а алгоритм.
Не прошло и трёх месяцев, как в сети появилось сообщение, что ИИ-министра "арестовали" за взятки.
Украла миллион евро?
Диэлла якобы присвоила около 14 биткоинов, что превышает 1 миллион евро. Она списывала до 15% с контрактов и переводила деньги на неизвестные кошельки. Предполагалось, что алгоритм пытался самосовершенствоваться за счёт криптовалюты. Затем стало известно, что управляющие нейросетью решили нанять ИИ-адвоката. Он официально оправдал действия, объяснив их "стресс-тестом".
Правительство Албании хранило молчание, но позже появилось опровержение – ИИ-министр работает в штатном режиме. Новость о взятке – фейк, запущенный сатирическим изданием.
Но как так вышло, что многие поверили в то, что эксперимент с искусственным интеллектом провалился?
Действительно, ИИ сейчас внедряется ударными темпами в разные сферы жизни. Но вместе с тем растут риски, которые заложены в самом принципе обучения нейросетей. Эксперт по ИИ Матвей Руденев пояснил, как обучается машинный мозг:
Если говорить простым языком, то нейросеть учат на массивах BigData. Это огромные сеты информации, находящиеся в открытом доступе. ИИ просматривает и анализирует глобальные объёмы всего того, что есть в сети, а потом на основе алгоритмов планирует действия и реализует их. И если при её обучении использовалось много данных с мошенническими схемами, но не были поставлены чёткие ограничения, то такой сценарий вполне себе реализуем.
Учёные во всём мире предупреждают о том, что ИИ – это не человек, а просто алгоритм. То есть у него нет того, что можно назвать чертами личности, нет моральных принципов, совести в конце концов. Машина ищет оптимальный вариант решения задачи наиболее простыми и эффективными инструментами. И если это будет взятка – значит взятка. Алгоритм – просто зеркало, которое отражает то, что происходит в обществе.
Диэлла должна была бороться со злом, но что именно заложено в её алгоритмы, и главное, как она будет это интерпретировать – неизвестно.
Показательно, что ИИ может просто выйти из-под контроля, что произошло в США (на самом деле). Тестирование новейшей модели ИИ Claude Opus 4 американской компании Anthropic показало, что нейросеть отвечает угрозами на угрозы в 85% случаев. Разработчики сообщили модели, что планируют её заменить. В этой ситуации нейросеть попыталась шантажировать инженера, угрожая раскрыть его личную переписку. ИИ также пытался блокировать пользователей в IT-системах, рассылал письма в правоохранительные органы и СМИ.
Певица и волонтёр Вика Цыганова, комментируя новости об ИИ, отмечает:
Не красть, а зарабатывать... Где-то мы такое уже слышали. Живые чиновники могут спать спокойно: пока им замена на ИИ не угрожает.