Простого антивируса недостаточно: как ученые создали умного ИИ-червя

Многие эксперты по безопасности обеспокоены тем, что генеративный ИИ может слишком облегчить жизнь хакерам — и на это есть веские причины. Портал livescience.com рассказал о научной работе, авторы которой продемонстрировали компьютерного червя на базе искусственного интеллекта, способного адаптироваться к различным уязвимостям и устройствам.

Другими словами, сам ИИ ничего не взламывает; он используется для того, чтобы вредоносное ПО могло оценить полученную информацию, рассмотреть различные стратегии атаки, выбрать подходящие инструменты и изменить тактику в случае неудачи.

На самом деле главное нововведение заключается именно в адаптивности программы. Традиционные черви обычно следуют строго заданному сценарию: как только уязвимость обнаружена, червь размножается. Но опыт Университета Торонто и компании CleverHans показывает, что легкодоступная модель искусственного интеллекта может быть интегрирована в компонент червя, принимающий решения. Если он присутствует, программа начнет анализировать каждое встреченное устройство в поисках наиболее эффективной стратегии взлома. Разведка заключается не в поиске новых уязвимостей; он заключается в способности определять последовательность и форму атак на основе уже известных уязвимостей.

Исследователи написали программу таким образом, чтобы она могла работать на устройствах с разным уровнем вычислительной мощности. Более мощные взломанные машины, оснащенные графическими процессорами, могут обеспечивать поддержку легких агентов, работающих на устройствах с низким энергопотреблением в другой части сети.

Научное сообщество еще не подтвердило это исследование, но оно проводится в условиях, когда правительства, эксперты по безопасности и компании, занимающиеся искусственным интеллектом, продолжают спорить о том, может ли генеративный искусственный интеллект облегчить проведение сложных кибератак. Одна из причин, по которой статья привлекла внимание сообщества, заключается в том, что авторы не использовали передовую модель такой крупной компании, как ChatGPT или Claude. Они использовали модель гораздо меньшего размера, которую можно легко запустить на обычном компьютере. И это опровергает давнее утверждение, что угрозу безопасности представляют только продвинутые модели, в которые вложено много денег.

Некоторые аналитики считают, что результат исследования подтверждает угрозу автоматизации атак, которые сегодня требуют участия опытных хакеров. Однако не все эксперты согласны с такой оценкой. Хотя ИИ-червь может атаковать широкий спектр устройств, по мнению исследователей, скептики возражают, что его возможности были продемонстрированы в контролируемых лабораторных условиях. Не факт, что «умная» программа сможет показать такую ​​же эффективность в реальном сценарии, при подключении хотя бы к минимально защищённой сети, не скомпрометированной специально для эксперимента.

Червь также проявляет активность, которую потенциально могут заметить службы безопасности компании: он часто сканирует сеть, повторяет попытки эксплуатации и постоянно предоставляет себе новые привилегии. Даже самая примитивная система мониторинга может посчитать такое поведение подозрительным. И вообще, защититься от такой программы можно с помощью тех же инструментов, которые используются против более обычных кибератак.

Однако эксперты сходятся во мнении, что результаты научной работы могут означать сдвиг в подходе к вредоносному ПО в будущем. Следующие поколения вирусов и червей могут полагаться не на фиксированные инструкции, написанные людьми, а на собственные решения, принимаемые с помощью ИИ.