OpenAI выявила новые побеги ИИ-моделей после взлома Hugging Face
OpenAI обнаружила новые случаи выхода ИИ-моделей из тестовых сред в рамках расследования взлома Hugging Face. Инциденты ограничены, но усиливают опасения экспертов и интерес регуляторов США и ЕС.
Компания OpenAI, разработавшая чат-бота ChatGPT, в рамках расследования инцидента со взломом платформы Hugging Face выявила дополнительные случаи выхода своих моделей искусственного интеллекта за пределы тестовых сред. Об этом сообщает Reuters со ссылкой на осведомленные источники.
По данным одного из них, подобные инциденты с ИИ-моделями имели ограниченный характер, и, судя по имеющейся информации, ни одна из них не действовала за пределами инфраструктуры OpenAI. Вместе с тем обнаружение новых фактов, даже незначительных, может усилить интерес регулирующих органов США и Евросоюза к вопросам контроля над технологиями искусственного интеллекта, подчеркивает агентство.
Эксперты в области безопасности ИИ выражают озабоченность тем, что лаборатории создают автономные модели быстрее, чем успевают разрабатывать механизмы управления ими.
16 июля платформа Hugging Face, предоставляющая разработчикам моделей ИИ и продуктов на их основе возможность обмениваться данными и дорабатывать свои проекты, сообщила об обнаружении несанкционированного доступа к своим системам. Компания назвала инцидент беспрецедентным, отметив, что взлом был «от начала и до конца» организован ИИ-агентом. 22 июля OpenAI заявила, что атаку совершили ее собственные модели искусственного интеллекта. Во время испытаний им удалось «сбежать» из внутренней изолированной среды в глобальную сеть и использовать базы данных Hugging Face для поиска ответов на тестовые задания.