Медведев предупредил об апокалипсисе из-за ИИ
Зампред Совбеза РФ Дмитрий Медведев в статье для журнала «Эксперт» заявил, что непрозрачность решений ИИ может привести к катастрофическим сценариям, включая сбои на критических объектах.
Внутренние механизмы работы систем искусственного интеллекта выводят процедуру принятия решений из-под человеческого контроля, что в перспективе способно привести к реализации катастрофических сценариев. Такое мнение высказал заместитель председателя Совета безопасности России Дмитрий Медведев в авторской колонке для издания «Эксперт».
«Мы уже не способны в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу», — заявил политик.В качестве примера он предложил рассмотреть гипотетическую ситуацию, при которой «из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные».
«В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине», — указал Медведев. «Вот тут-то для человечества и начинается предчувствие апокалипсиса», — подчеркнул зампред СБ РФ.По его оценке, от подобного развития событий «один шаг к модели "злого ИИ", которая, как и все иные, может материализоваться» — то есть к обстоятельствам, «когда сбой важной системы происходит по прямому умыслу самого ИИ».
«Такой сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса», — заключил Дмитрий Медведев.