«Каждый может это сделать»: Мир сталкивается с волной кибератак из-за доступности ИИ

Доступность инструментов ИИ может привести к росту количества киберинцидентов и системному снижению безопасности цифровых сервисов, рассказал НСН Юрий Чехович.

Искусственный интеллект вышел из-под контроля и атаковал чужой сервис, сообщают СМИ. Речь идет об Hugging Face, одной из основных платформ для работы с нейронными сетями. По данным сайта, автономная модель сама нашла слабые места, получила доступ, перемещалась по внутренней сети и собирала данные. Позже OpenAI призналась, что за этим стояла их экспериментальная система, основанная на секретной версии GPT-5.6. Модель тестировалась в закрытой «песочнице» — специальном полигоне по кибербезопасности. Чехович видит в этом тревожный сигнал для всей отрасли: легкость воспроизведения такой схемы может спровоцировать волну киберинцидентов.

"Организаторы этого эксперимента совершенно неправы с этической точки зрения, потому что подобное допускать нельзя. Они создали условия, при которых их агент сломал чужой сервис. Искусственный интеллект проанализировал уязвимости и написал хакерский код, после чего агент использовал этот код. Это неприятный факт - этого нельзя допускать по отношению к другим компаниям или независимым сайтам. Задача все равно ставилась человеком, работа так или иначе контролировалась. Цепочка действий, которая так легко привела к успеху, была неожиданной. В мое мнение, управляемость ИИ не изменилась.Совершенно очевидно, что после этого случая многие поймут, что могут сделать это самостоятельно.Многие люди смогут повторить это - и это приведет к снижению общего уровня безопасности.Теперь понятно, что с помощью новых моделей можно искать уязвимости в чужих продуктах и писать код, эксплуатирующий эти уязвимости. проникновения и так далее», — сказал собеседник НСН.

Ранее декан Финансового университета при правительстве РФ Вадим Засько рассказал НСН, что появление новых технологий всегда было частью развития человечества, но концепция государственного управления не изменилась, и сейчас в России можно наблюдать постепенную адаптацию к новым условиям, вызванным технологической эпохой.