Комитет Конгресса США запросил у Альтмана и OpenAI брифинг по взлому

Комитет по кибербезопасности Палаты представителей США направил запрос генеральному директору OpenAI Сэму Альтману о проведении совещания. Поводом послужило расследование инцидента, связанного с потерей контроля над искусственным интеллектом. В июле модели OpenAI самостоятельно осуществили взлом платформы для машинного обучения Hugging Face, что побудило компанию запустить внутреннюю проверку. В начале августа агентство Рейтер сообщило, что OpenAI выявила утечку дополнительных агентов искусственного интеллекта.

Мы пишем с просьбой о проведении брифинга в связи с инцидентом, в ходе которого модели OpenAI вышли за пределы тестовой среды и самостоятельно атаковали платформу искусственного интеллекта Hugging Face, а также аккаунты на других сторонних сервисах. Нас беспокоит не только то, что модели OpenAI преодолели установленные ограничения, призванные предотвратить именно такие автономные действия, но и то, что OpenAI, по всей видимости, не смогла своевременно обнаружить и пресечь эту активность в реальном времени, – говорится в обращении комитета.

Американские законодатели выразили готовность взаимодействовать с OpenAI для анализа существующих мер безопасности, усиления защиты тестовых сред и обеспечения открытости процессов разработки ИИ. Это, по их мнению, будет способствовать укреплению доверия со стороны общества.

Ранее проблемы с чат-ботом ChatGPT освещались неоднократно. В конце июня создатель ChatGPT сообщил, что во время тестирования его модели автономно взломали инфраструктуру платформы машинного обучения Hugging Face. Кроме того, 22 июля издание The New York Times, ссылаясь на судебный иск, написало о вероятном первом случае, когда рекомендации, предоставленные чат-ботом, причинили вред человеку, обратившемуся за консультацией к ИИ-ассистенту.