Применение ИИ и нейросетей

ИИ в математических доказательствах: как независимо проверить результат

Пошаговая процедура независимой проверки математического результата ИИ: точная формулировка, ручная подстановка контрпримера, формализация в Lean, журнал проверки.

Редакция DeepMe
· Обновлено · 6 мин чтения
Три бумажные карточки, керамический шар и деревянная линейка на столе, соединённые лентой в виде ступеней.

Если ИИ предлагает контрпример к гипотезе или набросок доказательства, ценность имеет не громкость заявления, а воспроизводимость проверки. Ниже — процедура, которую можно применить к конкретному результату: восстановить формулировку, вручную подставить контрпример, формализовать ключевой шаг, проверить устойчивость и зафиксировать происхождение. Это не обзор «ИИ в науке», а рабочий чек-лист для случая, когда нужно решить: доверять результату, проверять дальше или отклонить.

Зачем нужна отдельная процедура проверки

Новости о том, что ИИ опроверг гипотезу или помог формализовать доказательство, легко читаются как готовый вывод. Но между «модель выдала текст» и «результат подтверждён» лежит несколько независимых барьеров. Часть из них закрывает сам разработчик модели, часть — внешние математики, часть — формальные инструменты вроде Lean и библиотеки mathlib4.

Практическая проблема в том, что эти барьеры часто смешивают. Фраза «система проверила доказательство» может означать, что одна модель оценила вывод другой. Это полезный фильтр, но не то же самое, что внешняя формальная верификация или ручная проверка специалистом. Разделение уровней доверия — первый шаг к тому, чтобы не принять внутреннюю согласованность за истинность.

Три уровня доверия: препринт, ручная проверка, формальная верификация

Удобно различать три уровня, каждый из которых отвечает на свой вопрос.

  • Чтение препринта или описания. Отвечает на вопрос «что именно утверждается». Не подтверждает корректность шагов и не заменяет проверку.
  • Независимая ручная проверка. Отвечает на вопрос «воспроизводится ли ключевой шаг человеком». Хорошо ловит подмену задачи и скрытые допущения, но зависит от квалификации проверяющего.
  • Формальная верификация. Отвечает на вопрос «выполняется ли формализованное утверждение при явно заданных аксиомах и определениях». Не отвечает на вопрос, совпадает ли формализация с исходной гипотезой.

Ни один уровень не заменяет остальные. Формализация в Lean может быть безупречной и при этом доказывать не ту теорему, которую обсуждали в новости. Ручная проверка может быть верной, но не покрывать все граничные случаи. Поэтому процедура ниже идёт от формулировки к инструментам, а не наоборот.

Шаг 1. Восстановить точную формулировку гипотезы и её границы

До любых вычислений нужно зафиксировать исходное утверждение в том виде, в каком оно существовало до вмешательства ИИ. Для гипотезы о единичных расстояниях это означает явно выписать: о каких множествах точек идёт речь, на какой плоскости или в каком пространстве, что считается расстоянием, какая величина оценивается и в каком пределе.

Полезно записать формулировку в двух видах: словесном и полуформальном, с явными кванторами. Затем отдельно перечислить, что формулировка не утверждает. Например, контрпример к верхней оценке не доказывает противоположную гипотезу и не описывает все возможные конфигурации.

На этом шаге стоит сохранить версию формулировки с датой и источником. Если позже окажется, что обсуждение шло о другой редакции условия, это будет видно сразу, а не после недели проверок.

Шаг 2. Ручная подстановка контрпримера на малом случае

Самый дешёвый тест — попробовать воспроизвести конструкцию руками на маленьком масштабе. Цель не в том, чтобы получить исследовательский результат, а в том, чтобы понять механизм и найти места, где конструкция опирается на нетривиальные теоремы.

Ниже — учебный иллюстративный пример. Числа в нём выбраны для демонстрации логики проверки и не являются результатом исследования или пересказом чужого контрпримера.

Пусть есть простая гипотеза: «на сетке размера k × k число пар точек на расстоянии ровно 1 не превышает 2k». Проверяющий берёт k = 3, вручную перечисляет пары соседних по горизонтали и вертикали точек, считает их и сравнивает с границей. Если на малом случае граница выполняется, это ничего не доказывает, но показывает, что проверяющий правильно понимает определение расстояния и способ подсчёта.

Затем он пробует конструкцию, предложенную ИИ, на k = 4 или k = 5. Если конструкция требует бесконечного семейства или специальных числовых полей, малый случай может не воспроизвестись. Это важный сигнал: значит, проверка должна идти не перебором, а разбором аргумента, на который опирается конструкция.

Практическое правило: если ручная подстановка не воспроизводится, не спешите объявлять результат ошибочным. Сначала проверьте, не подменены ли определения и не пропущено ли условие, которое в исходной формулировке было неявным.

Шаг 3. Формализация в Lean и mathlib4: что проверяется, а что остаётся за кадром

Формальная верификация полезна там, где нужно исключить арифметические и логические проскоки. mathlib4 — поддерживаемая сообществом библиотека для доказателя теорем Lean 4; она содержит программную инфраструктуру, математику и тактики. Установка и сборка описаны в документации проекта, включая загрузку кэшированных файлов сборки.

Что формализация проверяет: что при заданных определениях и аксиомах утверждение выводится без пропусков. Что она не проверяет автоматически:

  • совпадение формализованного условия с исходной гипотезой;
  • корректность выбора аксиом и определений;
  • содержательную новизну результата;
  • отсутствие ошибки в постановке задачи, которую унаследовал и человек, и модель.

Поэтому формализация — не финальная инстанция, а сильный фильтр одного типа ошибок. Если ИИ предложил контрпример, формализовать стоит не только сам контрпример, но и отрицание гипотезы: это помогает поймать случай, когда конструкция опровергает не то утверждение, которое обсуждалось.

Шаг 4. Тесты устойчивости: меняем параметры и ищем скрытые допущения

Устойчивость результата проверяется серией вопросов, а не одним прогоном.

  1. Что произойдёт, если ослабить или усилить условие задачи? Сохраняется ли конструкция?
  2. Зависит ли результат от конкретного выбора параметров, который в тексте выглядит произвольным?
  3. Есть ли шаг, где используется теорема, которую проверяющий не может подтвердить по доступным источникам?
  4. Меняется ли вывод при другой, но эквивалентной формулировке исходной гипотезы?

Если ответы расходятся, это не обязательно ошибка. Но расхождение нужно записать как открытый вопрос, а не сглаживать в выводах.

Шаг 5. Происхождение и журнал проверки

Без фиксации происхождения проверка не воспроизводится. В журнал стоит вносить:

  • версию и дату формулировки гипотезы;
  • источник результата: описание от разработчика, препринт, сообщение сообщества;
  • кто и что проверял вручную;
  • инструмент формальной верификации, версию библиотеки и команду сборки;
  • что осталось непроверенным и почему;
  • итоговый статус: подтверждено, требует доработки, отклонено.

Такой журнал полезен и внутри команды, и при публичном обсуждении: он отделяет проверенные шаги от предположений.

Типичные ошибки и как их ловить

Подмена задачи

Формализовано одно утверждение, а в новости обсуждается другое. Ловится сверкой формулировок на шаге 1 и явной записью отрицания гипотезы.

Скрытые допущения

Конструкция работает только при дополнительном условии, которое не проговорено. Ловится тестами устойчивости и вопросами к границам применимости.

Самопроверка ИИ вместо внешней проверки

Одна модель оценивает вывод другой и это подаётся как подтверждение. Ловится различением уровней доверия: внутренняя оценка — фильтр, но не замена ручной и формальной проверки.

Перенос авторитета

Упоминание известного математика или крупной лаборатории воспринимается как доказательство. Метаданные и цитаты в новостях не подтверждают корректность шагов.

Что считать результатом проверки

Итог проверки — не бинарное «верно/неверно», а статус с областью действия. Корректно сформулированный вывод звучит примерно так: «контрпример воспроизведён вручную на малом случае, ключевой шаг формализован при таких-то определениях, часть аргумента опирается на теорему, которую мы не проверяли независимо».

Такой вывод полезнее громкого заголовка. Он показывает, что именно подтверждено, где границы доверия и что нужно проверить дальше. Для материалов об ИИ в математических доказательствах это и есть содержательный результат: не пересказ новости, а воспроизводимая процедура, которую можно применить к следующему заявлению.