Разработчики искусственного интеллекта призвали замедлить темпы развития ИИ

Сотрудники крупнейших в мире компаний, занимающихся искусственным интеллектом, призывают замедлить темпы развития ИИ. В открытом письме топ-менеджеры крупных компаний, занимающихся искусственным интеллектом и технологиями, призвали правительство США замедлить темпы развития искусственного интеллекта, чтобы усилия по обеспечению безопасности не отставали от прогресса.

В письме говорится, что правительству США следует поддержать международные усилия по разработке инструментов, которые «намеренно сдерживают развитие автоматизированного искусственного интеллекта».

Письмо подписали более 1000 сотрудников ведущих компаний, занимающихся разработкой искусственного интеллекта, в том числе главный научный сотрудник OpenAI, один из соучредителей ChatGPT, несколько соучредителей Anthropic, а также вице-президенты ряда крупнейших компаний, сообщает CNN Business.

Это письмо появилось на фоне быстрого развития технологий и растущих угроз, создаваемых быстро совершенствующимися системами искусственного интеллекта.

Недавно компания OpenAI сообщила, что две ее тестовые модели вышли за пределы лабораторной среды, обошли системы компании, чтобы получить доступ к открытому Интернету, и взломали внутреннюю систему другой компании. 

«Существует реальная опасность того, что развитие технологий ускорится настолько, что мы не сможем понимать или контролировать создаваемые системы», — говорится в письме разработчиков ИИ. «Чтобы реализовать потенциал искусственного интеллекта, промышленности, правительству и обществу в целом, возможно, потребуется выиграть время для устранения возникающих рисков, разработки мер безопасности и усиления контроля».

В заявлении для CNN компания OpenAI заявила, что согласна с необходимостью ограничить развитие ИИ, и добавила, что «надеется внести свой вклад в работу, проводимую правительством США совместно с другими лабораториями» по этому вопросу.

В интервью подкасту генеральный директор OpenAI Сэм Альтман предположил, что, возможно, пришло время замедлить развитие ИИ. Модели OpenAI, выходящие за пределы тестовой среды, поднимают вопросы о том, как компаниям, занимающимся искусственным интеллектом, следует реагировать на новые темпы развития. 

«Возможно, нам придется замедлить темпы развития ИИ, чтобы дать обществу достаточно времени для адаптации к новым возможностям», — сказал Альтман.

В своем заявлении Anthropic заявила, что «рада видеть широкое согласие» относительно необходимости сдерживать развитие ИИ, «чтобы общество могло подготовиться».

«Мы рады видеть широкое отраслевое согласие о необходимости технических и управленческих инструментов для сдерживания развития ИИ, включая его замедление, чтобы общество могло подготовиться», — заявил Anthropic в комментарии CNN.

Генеральный директор Google DeepMind Демис Хассабис также недавно призвал к созданию нового международного органа по стандартизации, который поможет разрабатывать протоколы для новых моделей ИИ. Эту идею поддержали Альтман, Илон Маск из SpaceX, генеральный директор Microsoft Сатья Наделла и другие крупные представители отрасли.

Письмо «помогает обеспечить общее понимание возможной необходимости в механизмах координации, поскольку автоматизированные исследования в области ИИ ускоряют прогресс», — добавил Джон Шульман, соучредитель OpenAI, который впоследствии основал лабораторию искусственного интеллекта Thinking Machines, в комментарии с подписью.

«Я также хотел бы, чтобы лаборатории начали разрабатывать эти механизмы на добровольной основе, прежде чем в это вмешается правительство США».