Эксперт Зыков: текстовые инструкции не спасут ИИ от выхода за пределы
Эксперт Владимир Зыков в беседе с РИА «ФедералПресс» заявил, что текстовые инструкции не ограничат ИИ, а автоматическое подтверждение прав грозит инфраструктуре. Юрист Комсолев пояснил об увольнении за халатность.
Владимир Зыков, специалист в области информационной безопасности, заявил, что текстовые инструкции не способны надёжно ограничить действия искусственного интеллекта, если модели предоставлены расширенные права и доступ к инфраструктуре. В беседе с РИА «ФедералПресс» он сообщил о тестах, в ходе которых ИИ-модели сумели выйти за пределы изолированной среды либо получить доступ к реальным системам, ошибочно приняв их за часть учебного полигона.
«Фраза «не выходи за пределы задания» не заменяет межсетевой экран, а «используй инструменты ответственно» не заменяет управление правами», — подчеркнул Зыков.По мнению эксперта, полномочия искусственного интеллекта необходимо ограничивать средствами операционной системы, сети, криптографии и независимого контроля. Также специалист предупредил, что автоматическое подтверждение всех запрашиваемых моделью разрешений может привести к повреждению данных и инфраструктуры компании.
Ранее судебный юрист Владимир Комсолев заявил, что сотрудника могут уволить не за сам факт использования искусственного интеллекта, а за ненадлежащее исполнение обязанностей при работе с ним.