Более 150 ведущих математиков мира призвали не верить в «научные прорывы» ИИ

Более 150 ведущих математиков из разных стран опубликовали «Лейденскую декларацию», в которой призвали научное сообщество и власти не принимать громкие заявления разработчиков искусственного интеллекта за настоящие математические прорывы.

Авторы Лейденской декларации считают, что подобные заявления требуют гораздо более осторожной оценки. Дело в том, что современные системы искусственного интеллекта способны создавать правдоподобные рассуждения, но при тщательном тестировании они оказываются ошибочными. Проблема усугубляется тем, что неверные доказательства бывает трудно отличить от правильных, особенно до полной проверки экспертами.

Для математики опасность особенно серьезна. Новая работа часто опирается на предыдущие результаты, поэтому фундаментальная ошибка может разрушить целую цепочку дальнейших исследований. Если научные статьи начнут опираться на неподтвержденные данные ИИ, традиционная система проверки доказательств окажется перегружена, а прозрачность и воспроизводимость результатов окажутся под угрозой.

Математики подчеркнули, что технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Они хотят быстро продемонстрировать успех моделей, привлечь внимание инвесторов, укрепить свои позиции на рынке и повлиять на политиков. Авторы посоветовали политикам при принятии решений консультироваться с математиками и другими экспертами, а не полагаться на пресс-релизы или сообщения СМИ о математических достижениях.

Математики не призывают отказаться от исследований ИИ. Декларация призывает к другому подходу: меньше шумихи, больше открытых данных, независимая проверка и ответственность за крупные претензии. ИИ может помочь в поиске идей, тестировании вариантов и ускорении рутинной работы, но математическое доказательство все равно должно выдержать строгую экспертную оценку, а не просто выглядеть убедительно в пресс-релизе.

Декларация одобрена Международным математическим союзом и включена в программу Международного конгресса математиков, который пройдет в июле в Филадельфии. Документ открыт для подписания отдельными лицами и организациями, такими как национальные математические общества.