- 27,470
- 46
- 8 Ноя 2022
ИИ умеет звучать как гений. Доказывать — пока не очень.
Математики всё чаще сталкиваются с необычной проблемой: искусственный интеллект может написать доказательство, которое выглядит убедительно, но разваливается при строгой проверке. Более 150 специалистов из разных стран призвали научное сообщество и власти не принимать громкие заявления разработчиков ИИ за реальные математические прорывы.
Поводом стала волна сообщений о том, что большие языковые модели якобы решают сложные задачи, над которыми ученые работали десятилетиями. В начале года 23-летний энтузиаст математики без профильного образования заявил , что с помощью ChatGPT нашел решение одной из известных задач Пала Эрдеша. Позже OpenAI сообщила , что модель компании опровергла 80-летнюю гипотезу об единичных расстояниях, тоже связанную с Эрдешем, и назвала результат важным событием для математики и индустрии ИИ.
Авторы Лейденской декларации считают, что подобные заявления требуют куда более осторожной оценки. Современные автоматические методы способны создавать правдоподобные, но ненадежные или ошибочные рассуждения. Проблема усугубляется тем, что неправильное доказательство бывает трудно отличить от корректного, особенно до полноценной проверки экспертами.
Для математики опасность особенно серьезна. Новые работы часто опираются на предыдущие результаты, поэтому ошибка в основе может испортить целую цепочку дальнейших исследований. Если научные статьи начнут строиться на неподтвержденных выводах ИИ, привычная система проверки доказательств столкнется с перегрузкой, а прозрачность и воспроизводимость результатов окажутся под угрозой.
Подписанты также указывают на коммерческий интерес технологических компаний. Разработчики хотят быстрее показывать успехи моделей, привлекать внимание инвесторов, усиливать позиции на рынке и влиять на политиков. Из-за гонки отдельные математические задачи начинают использовать как показатель общего интеллекта нейросетей, хотя узкий успех в одной области не доказывает способность модели надежно рассуждать в целом.
Вице-президент Международного математического союза Ульрике Тилльман поддержала декларацию и заявила, что развитие ИИ в науке поднимает вопросы, которые нельзя оставлять без проверки. По ее словам, будущее математических исследований должно опираться на человеческую экспертизу, честные и прозрачные правила, а также общие нормы научного сообщества.
Математики не призывают отказаться от ИИ в исследованиях. Декларация требует другого подхода: меньше рекламного шума, больше открытых данных, независимой проверки и ответственности за громкие заявления. ИИ может помогать искать идеи, проверять варианты и ускорять рутинную работу, но математическое доказательство по-прежнему должно выдерживать строгую экспертную проверку, а не только выглядеть убедительно в пресс-релизе.
Математики всё чаще сталкиваются с необычной проблемой: искусственный интеллект может написать доказательство, которое выглядит убедительно, но разваливается при строгой проверке. Более 150 специалистов из разных стран призвали научное сообщество и власти не принимать громкие заявления разработчиков ИИ за реальные математические прорывы.
Поводом стала волна сообщений о том, что большие языковые модели якобы решают сложные задачи, над которыми ученые работали десятилетиями. В начале года 23-летний энтузиаст математики без профильного образования заявил , что с помощью ChatGPT нашел решение одной из известных задач Пала Эрдеша. Позже OpenAI сообщила , что модель компании опровергла 80-летнюю гипотезу об единичных расстояниях, тоже связанную с Эрдешем, и назвала результат важным событием для математики и индустрии ИИ.
Авторы Лейденской декларации считают, что подобные заявления требуют куда более осторожной оценки. Современные автоматические методы способны создавать правдоподобные, но ненадежные или ошибочные рассуждения. Проблема усугубляется тем, что неправильное доказательство бывает трудно отличить от корректного, особенно до полноценной проверки экспертами.
Для математики опасность особенно серьезна. Новые работы часто опираются на предыдущие результаты, поэтому ошибка в основе может испортить целую цепочку дальнейших исследований. Если научные статьи начнут строиться на неподтвержденных выводах ИИ, привычная система проверки доказательств столкнется с перегрузкой, а прозрачность и воспроизводимость результатов окажутся под угрозой.
Подписанты также указывают на коммерческий интерес технологических компаний. Разработчики хотят быстрее показывать успехи моделей, привлекать внимание инвесторов, усиливать позиции на рынке и влиять на политиков. Из-за гонки отдельные математические задачи начинают использовать как показатель общего интеллекта нейросетей, хотя узкий успех в одной области не доказывает способность модели надежно рассуждать в целом.
Вице-президент Международного математического союза Ульрике Тилльман поддержала декларацию и заявила, что развитие ИИ в науке поднимает вопросы, которые нельзя оставлять без проверки. По ее словам, будущее математических исследований должно опираться на человеческую экспертизу, честные и прозрачные правила, а также общие нормы научного сообщества.
Математики не призывают отказаться от ИИ в исследованиях. Декларация требует другого подхода: меньше рекламного шума, больше открытых данных, независимой проверки и ответственности за громкие заявления. ИИ может помогать искать идеи, проверять варианты и ускорять рутинную работу, но математическое доказательство по-прежнему должно выдерживать строгую экспертную проверку, а не только выглядеть убедительно в пресс-релизе.
- Источник новости
- www.securitylab.ru
