Несмотря на повторяющиеся публичные заявления лидеров рынка о необходимости ограничить скорость развития искусственного интеллекта, новые модели выходят все чаще. Причина в том, что возможный общий ущерб от развития технологии отнесен в будущее и распределен между многими участниками. В то же время отставание от соперника, уже использующего ИИ, угрожает конкретному игроку сейчас. Гонка применения искусственного интеллекта будет продолжаться.
Недавнее исследование, проведенное учеными Массачусетского технологического института, показывает, что искусственный интеллект может в ближайшие годы существенно изменить сразу несколько теоретических научных дисциплин. Речь идет о вероятностях, статистике, экономической теории, физике высоких энергий, гравитации, космологии и квантовой физике.
Конкуренция создает стимул увеличивать автономность систем. Передача машине поиска информации, сопоставления вариантов и выбора действий сокращает время между получением данных и решением. Человеческая проверка становится задержкой, которую конкурентные стимулы предписывают уменьшать.
Для науки это давление проявляется в конкуренции с «быстрыми простыми ответами», которые легко генерирует и предлагает широкой общественности искусственный интеллект. В «Манифесте эпистемического кентавра», опубликованном в журнале «Высшее образование в России», мы с коллегами обращаем внимание на то, что скорость производства таких ответов опережает темпы получения обоснованного знания. Внешне убедительное объяснение становится доступно раньше, чем исследователи успевают проверить его основания. Система производства научного знания рискует уступить роль главного института объяснения реальности генеративному ИИ. Более того, под давлением скорости сами исследователи могут начать принимать готовую формулировку за завершенную работу.
Сходную проблему обозначили авторы сентябрьской декларации об ИИ в математике, среди которых Теренс Тао и другие лауреаты Филдсовской премии: научная ценность решения определяется также новыми методами, развитием понимания и передачей идей в сообществе исследователей. Получить ответ — значит выполнить лишь часть исследовательской работы. В коллективном труде «Провокации гуманитарных наук для исследований генеративного ИИ» (Provocations from the Humanities for Generative AI Research) Лорен Кляйн и ее соавторы проводят схожее различие между производством текста и созданием смысла. Гуманитарное исследование требует соотнести высказывание с историческим контекстом, источниками и другими интерпретациями. Гладкость машинного ответа не снимает этой задачи. Если готовая формулировка подменяет такую работу, возможность быстро получить текст оборачивается сокращением пространства исследования.
Ответ на этот вызов требует ускорения исследований без потери качества. Для этого мы предлагаем стратегию эпистемического кентавра — совместного производства знания человеком и ИИ. Она должна позволить науке использовать машинную скорость для выработки обоснованных объяснений с учетом темпа общественных изменений. В таком взаимодействии поиск материала, постановка вопросов и интерпретация результатов связаны: предложенное моделью объяснение помогает исследователю пересмотреть вопрос, а уточненный вопрос меняет дальнейший поиск. Кентавр нужен для развития самого исследования, включая его замысел и методы.
Такой способ работы должен сохранять научный этос: оценивать доводы независимо от авторитета их автора, делиться знанием, не подчинять выводы частной выгоде и подвергать их организованной критической проверке. Одновременно ему предстоит выдерживать конкуренцию с «простыми ответами» по скорости. Участие человека само по себе не обеспечивает этого преимущества. Его необходимо добиваться и проверять, сопоставляя время и качество всего исследовательского цикла, включая проверку результатов.
Мы предлагаем признавать за знанием, созданным кентавром, тот же научный статус, что и за знанием, полученным человеком. При этом должны соблюдаться три условия: характер взаимодействия с ИИ раскрыт, результаты проверены, исследователь принимает за них ответственность. Раскрытие взаимодействия должно позволять коллегам понять, как применение модели повлияло на постановку задачи, работу с материалом и выводы. Научные требования к обоснованности результата сохраняются в полном объеме.
Для развития такой практики недостаточно личного усердия и бдительности исследователей. Необходимо горизонтальное научное сообщество, участники которого обмениваются методами, обсуждают трудности и проверяют результаты друг друга. Вместе с результатом предметом обсуждения должен становиться способ его получения: какие операции поручались ИИ, где потребовалось изменить вопрос, что удалось и что не удалось проверить. Такой обмен позволяет использовать удачные приемы в новых исследованиях и не тратить время на повторение уже разобранных ошибок.
Мы приглашаем исследователей подписать манифест и присоединиться к разработке методологии кентавра. Предстоит создавать и сопоставлять конкретные способы работы, которые сокращают путь от исследовательского вопроса к проверяемому знанию. Раннее обсуждение результатов и методов в сообществе должно помогать науке отвечать на общественные изменения своевременно. Критерий успеха этой стратегии — способность быстрее получать обоснованное знание и развивать человеческое понимание.
Позиция редакции может не совпадать с мнением автора
