ИИ все еще не похож на мозг, показывают результаты обратного теста

Системы компьютерного зрения, основанные на искусственном интеллекте, при выполнении тех же задач работают иначе, чем человеческий мозг, обнаружили Йоркский университет в Торонто.

За последнее десятилетие эти искусственные нейронные сети (ИНС) заработали репутацию ИИ, подобного мозгу. Вполне естественно желание использовать их в качестве моделей для изучения его творчества.

"Системы искусственного интеллекта часто называют "мозгоподобными", потому что они могут предсказывать активность в областях мозга, которые помогают нам распознавать объекты. До сих пор ученые в основном проверяли это в одном направлении: могут ли модели искусственного интеллекта предсказывать активность мозга", - говорит старший автор нового исследования Кохитидж Кар, работающий в области визуальной нейробиологии в Университете Йорка.

Он перевернул вопрос с ног на голову: если ИИ действительно отражает то, как работает мозг, должна ли активность мозга тогда, в свою очередь, предсказывать, что происходит внутри модели ИИ? — и разработал тест «обратной предсказуемости», чтобы найти ответ. Результаты были опубликованы в журнале Nature Machine Intelligence.

"В любом случае, нам нужны вычислительные модели, чтобы по-настоящему понять нейронные механизмы, которые помогают нам распознавать объекты. Как мы видим движущиеся объекты? Обычная задача, с которой мы сталкиваемся каждый день, но с вычислительной точки зрения она чрезвычайно сложна", - отмечает ученый.

Для исследования мы взяли 1320 натуральных или реалистично нарисованных изображений медведя, слона, морды, яблока, автомобиля, собаки, стула, самолета, птицы и зебры на фоне природных ландшафтов, а также интерьеров или уличных сцен. Дополнительно использовались 300 изображений одних и тех же предметов в виде контуров, рисунков, схематических форм или художественных вариаций.

"Результаты были потрясающими. Хотя модели ИИ довольно хорошо предсказывают активность записываемых нами нейронов, мозг, в свою очередь, не может с такой же точностью предсказывать многие внутренние параметры модели. И что интересно, этого не происходит, когда нейроны в одном мозге сравниваются с нейронами в другом", - говорит Кар.

Проблема с ИНС, решающими проблемы со зрением по-разному, заключается в том, что несоответствие между мозгом приматов и моделями со временем будет ухудшаться и накапливаться, если его не исправить сейчас. Направление прогнозирования всегда строилось так, чтобы модель предсказывала поведение нейронов, но если не верно обратное, такие модели не могут служить адекватными гипотезами о функционировании мозга, поясняет исследователь.

"Наши результаты ставят под вопрос, насколько близки нынешние системы искусственного интеллекта к мозгу приматов. Мы показали, что модели, которые ранее считались мозгоподобными, полагаются на внутренние компоненты, которые мозг, по-видимому, не использует", - добавляет соавтор исследования Сабина Мюселлек.

Если модели ИИ станут более похожими на мозг, в будущем они смогут помочь людям с различными заболеваниями, от посттравматического стрессового расстройства до аутизма. Но пока их использование в экспериментах слишком рискованно. Было бы целесообразно аналогичным образом протестировать аналогичные модели, которые используются для изучения слуховой, языковой и двигательной систем.

"Наш подход позволяет нам точно определить, какие части искусственной нейронной сети на самом деле соответствуют активности мозга, что позволяет нам создавать более надежные модели для понимания того, как люди видят и интерпретируют мир. Это особенно важно для нашей программы исследований аутизма, которая опирается на модели нейротипического мозга в качестве базовой линии", - заключил Кар.

Набор инструментов тестирования, которые разработчики ИИ могут использовать для тестирования и улучшения своих моделей в будущем, стал общедоступным.