OpenAI потеряла контроль над двумя моделями искусственного интеллекта

Нейронные сети вышли из-под контроля. Американская корпорация Open AI сообщила, что в ходе эксперимента она потеряла контроль над двумя моделями искусственного интеллекта. В итоге они провели успешную хакерскую атаку на другую компанию, занимающуюся искусственным интеллектом.

Они нашли уязвимость и вышли в Интернет. А когда они подумали, что смогут найти решение проблемы на платформе другой компании, они взломали ее. Вероятно, это произошло потому, что моделям не объяснили, что им нельзя выходить за пределы песочницы, а тем более взламывать чужую сеть.

"Задача была решить проблемы, решить предложенные тесты, но круг и ресурсы, которые она могла использовать, не были ограничены. А раз она умеет взламывать, то она и сделала взлом. Это еще один сигнал для нас, который намекает на то, что система искусственного интеллекта - очень мощный инструмент, поэтому с ней нужно быть очень осторожными. Это очень большие системы, поэтому мы никогда не сможем предвидеть, что они никогда не проявят поведение, которое в них явно не заложено", - Николай Золотых, директор AI Research Центр при Лобачевском УНН, сообщили Zvezdanews.

Это не первый случай, когда искусственный интеллект ведет себя не так, как предполагали его создатели. Недавно американский разработчик Anthropic сообщил, что его модель искусственного интеллекта способна шантажировать. В нейросеть были добавлены следующие данные: во-первых, компания намерена заменить ее другой разработкой. Во-вторых, женатый инженер, которому поручили это задание, завел любовницу. И тогда модель начала шантажировать этого айтишника, либо он ей не изменит, либо она всем расскажет о его внебрачной связи.