Anthropic призвала сделать паузу в развитии нейросетей и моделей искусственного интеллекта

Anthropic опубликовала отчет и открытое письмо технологическому сообществу, в котором призвала сделать паузу в разработке нейронных сетей и моделей искусственного интеллекта, поскольку людям становится все сложнее контролировать новые технологии.

По мнению компании, модели ИИ находятся на грани «рекурсивного самосовершенствования», что может представлять риски для всего человечества в течение года или двух. Благодаря этому механизму алгоритмы смогут самостоятельно писать код и оптимизировать свою архитектуру, что, по мнению компании, может привести к неконтролируемому скачку интеллектуальных возможностей систем.

Anthropic в своем обращении предлагает глобальное соглашение, позволяющее избежать перебоев в разработке, и механизм, который будет это регулировать:

"Мы считаем, что миру было бы полезно замедлить или временно приостановить разработку новых моделей искусственного интеллекта, чтобы общество и исследователи в других областях могли идти в ногу с технологическими разработками. Антропический институт вместе с другими организациями начнет исследования и создаст механизмы, чтобы сделать такой перерыв справедливым. Они позволят разработчикам проверить, действительно ли остановились конкуренты по всему миру, и убедиться, что никто не использует общую паузу для тайного продвижения вперед. Если такие системы появятся, мы сами готовы замедлиться или остановиться - но только при условии, что другие ведущие лаборатории делают то же самое, и это можно проверить. Чтобы действительно затормозить всю технологическую индустрию, нам нужно, чтобы несколько крупных компаний из разных стран согласились договориться на одинаковых условиях и смогли подтвердить, что никто не жульничает, но с ИИ это сделать гораздо сложнее, чем с другими технологиями. Гораздо проще скрыть обучение новой модели ИИ, чем ракетную шахту, слишком велик соблазн спокойно продолжать работу, пока все остальные стоят на месте: тот, кто обманывает, должен взять на себя инициативу. Четко объясните, кто это заявил, кто может это отменить и кто принимает такие решения в первую очередь. Все это в принципе возможно. Человечество уже создало системы проверки для других сложных технологий - например, для ракет средней дальности. Но на создание таких систем и на то, чтобы люди им поверили, у нас нет десятилетий. Остановиться наедине можно уже завтра, но смысла в этом почти не будет: сменится лидер в гонке ИИ, но широкого обсуждения, которого так не хватает сейчас, не будет.

The Wall Street Journal отмечает, что Anthropic является лидером на этом рынке, уже догнав Open AI в гонке ИИ. Недавно компания была оценена почти в 1 триллион долларов, и ее доходы быстро растут. Компанию не раз критиковали за попытки замедлить конкурентов посредством регулирования, а некоторые эксперты называют предупреждения об опасности маркетингом. Другие аналитики полагают, что даже самые продвинутые модели никогда не смогут приблизиться к человеческому интеллекту.