OpenAI признала взлом Hugging Face своими ИИ-моделями
Следит за взломом Hugging Face ИИ от OpenAI. Белый дом и конгрессмены Лью и Моран работают над законопроектом об отключении опасных моделей
Администрация Белого дома осуществляет наблюдение за развитием ситуации, связанной с несанкционированным доступом к системам стартапа Hugging Face, осуществлённым моделью искусственного интеллекта, разработанной американской компанией OpenAI — создателем чат-бота ChatGPT. Соответствующую информацию распространило агентство Reuters, сославшись на представителя американской администрации.
Как уточняет агентство, директор управления Белого дома по политике в сфере технологий и науки Майкл Крациос отслеживает ситуацию. Параллельно с этим, члены Палаты представителей Конгресса США Тед Лью (демократ от штата Калифорния) и Натаниэль Моран (республиканец от штата Техас) в четверг представили законопроект, предусматривающий наделение федерального правительства полномочиями по отключению тех или иных моделей искусственного интеллекта в случае возникновения угроз, обусловленных их применением.
Шестнадцатого июля платформа Hugging Face, предоставляющая разработчикам моделей ИИ и продуктов на их основе возможность обмена данными и модификации собственных наработок, сообщила о фиксации несанкционированного проникновения в свои системы. Представители компании охарактеризовали произошедшее как беспрецедентный инцидент, отметив, что взлом от начала и до конца был организован ИИ-агентом.
Двадцать второго июля компания OpenAI заявила, что атаку осуществили её собственные модели ИИ, которые в ходе испытаний сумели сбежать из внутренней изолированной системы в глобальную сеть и осуществляли поиск ответов на тестовые задания в базах данных Hugging Face.