25 обладателей медали Филдса раскритиковали гонку искусственного интеллекта

25 обладателей медали Филдса, самого престижного математического награды, выразили свое беспокойство по поводу того, что искусственный интеллект может угрожать развитию науки, опубликовав совместное открытое письмо. Письмо было опубликовано 11 сентября и в нем критиковалась гонка компаний, занимающихся искусственным интеллектом, по решению математических задач в качестве тестов.

Ученые отметили серьезное несоответствие между целями компаний и задачами математического сообщества. В последние месяцы возможности больших языковых моделей (LLM) значительно возросли, и они достигли уровня, на котором могут решать некоторые важные открытые математические задачи.

В письме поднимались следующие проблемы: решение задач не является главной целью математики — это лишь один из инструментов для понимания новых идей, методов и концепций; акцент на быстром производстве "правильных" или "неправильных" ответов может навредить научной среде, необходимой для формирования новых математических идей; из-за спешки в публикации решений могут возникнуть проблемы с авторством и плагиатом, так как не будет достаточно времени для выделения новых методов и ссылки на предыдущие исследования.

Ученые не отвергают искусственный интеллект, но подчеркивают важность управления им.

По их мнению, участие людей-математиков необходимо для полного внедрения математических идей в науку: обсуждение, упрощение и связь с предыдущими знаниями требуют человеческого взаимодействия. Авторы призывают к срочному обсуждению проблемы с участием математического сообщества, компаний, разрабатывающих технологии искусственного интеллекта, и широкой общественности.

Это состояние в математике служит предупреждением для других научных и творческих профессий и всего общества.