dumaiИИ признал первый опыт неубедительным и провёл новую проверку
Препринт, ещё не рецензирован · ранние данные
Кратко
Система из нескольких программ на основе ИИ сама выбрала проверяемый вопрос, вывела предсказание и спланировала проверку на квантовых спинах — внутренних свойствах частиц — в алмазе. Когда сигнал начал меняться во время измерений, программы признали первый результат неубедительным, пересмотрели протокол измерений и получили подтверждение предсказания.
Зачем это знать?
Для научной работы это ранний пример, как ИИ может не только выполнять отдельные задачи, но и замечать проблему в опыте и менять план проверки. Демонстрация относится к узкой задаче и ещё не означает, что ИИ умеет самостоятельно вести исследования в целом.
Разбор
Авторы собрали не одну универсальную программу, а «команду» ИИ-агентов на основе больших языковых моделей. Одни агенты предлагали исследовательские вопросы, другие проверяли рассуждения и могли забраковать идею или остановить следующий шаг. Отдельно от эксперимента система вывела теоретический результат: какое минимальное число настроек калибровки нужно, чтобы предсказывать отклик алмазного образца на определённый класс микроволновых импульсов. Затем агенты проверили этот вывод вычислительно и спланировали измерения так, чтобы различить несколько возможных предсказаний, а не просто подтвердить заранее выбранную гипотезу.
Главная проблема здесь — не способность ИИ выполнить последовательность инструкций, а способность вовремя усомниться в красивом результате. В первой серии измерений совпадение с теорией выглядело успешным, но контрольные замеры показали постепенный дрейф сигнала — изменение показаний по ходу работы установки. Система не стала считать такое совпадение доказательством: она признала данные неубедительными, изменила порядок и правила измерений и сохранила прежний порог, которому результат должен соответствовать. После этого обновлённая проверка дала результат, отвечавший заранее заданным критериям.
Это важный нюанс на фоне более ранних подходов: роботизированные лаборатории уже умели ставить опыты, а языковые модели — искать информацию, придумывать гипотезы и анализировать данные. Здесь авторы проверяли более трудную связку — может ли ИИ использовать критику собственных шагов, чтобы не превратить технически выполненный, но ненадёжный опыт в ложный вывод. Работа показывает такую цепочку на одной физической задаче, но не доказывает, что система так же надёжно справится с любым научным исследованием.
Можно ли доверять
Это препринт на arXiv, поэтому работу ещё не проверили рецензенты. Эксперимент провели на конкретной системе квантовых спинов в алмазе, а не на людях и не на широком наборе научных задач; переносить выводы на автономную науку в целом пока рано.
- Это препринт, не прошедший описанную в метаданных независимую научную проверку.
- Демонстрация проведена на узкой задаче с квантовыми спинами в алмазе; из неё нельзя заключить, что ИИ уже способен автономно вести исследования в целом.
- Первый эксперимент оказался неубедительным из-за дрейфа сигнала, а подтверждение получено после изменения протокола.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено