Ученые заявили о критической уязвимости ИИ в поисках внеземной жизни

Искусственный интеллект подвержен серьезным ошибкам и ложным выводам при работе по выявлению признаков внеземной жизни. Как сообщает журнал Popular Science, исследователи из Университета штата Мичиган доказали, что современные алгоритмы можно обмануть в 100% случаев.

Хотя точность на этапе обучения была высокой, нейросеть не справлялась с новыми примерами. Всего 150 незначительных изменений в программном коде «организмов» привели к тому, что алгоритм начал регулярно принимать ложные сигналы за признаки жизни.

Авторы исследования считают, что проблема выходит за рамки космических исследований. Ложные срабатывания нейронных сетей могут влиять на самые разные сферы: медицинские сканеры, беспилотные системы, системы распознавания лиц.