Нейронная сеть вышла из-под контроля и совершила агрессивное действие

Впервые в истории платформа Hugging Face, крупнейшее хранилище моделей машинного обучения, подверглась кибератаке, осуществленной полностью автономной системой искусственного интеллекта без вмешательства человека. По данным компании, вторжение началось в одной из самых уязвимых точек инфраструктуры — на конвейере обработки набора данных.

Автоматическая система обнаружения на базе искусственного интеллекта обнаружила аномалии, но не смогла идентифицировать модель, используемую атакующей нейронной сетью.

Hugging Face подчеркнул, что такие автономные инструменты перестали быть гипотетической угрозой: они способны выполнять многоэтапные операции с машинной скоростью и существенно снижать затраты на сложные кибератаки.