ИИ может нарушить правило, не нарушив ни одного шага

Проблема здесь не в том, что отдельные проверки работают плохо. Авторы показывают более жёсткое ограничение: если правило относится ко всей цепочке, проверка одного шага просто не видит нужного контекста. Поэтому даже идеальный классификатор, который без ошибок оценивает каждый отдельный шаг, не найдёт нарушение, возникающее только после их объединения.

Авторы разбирают четыре механизма таких сбоев и связывают каждый с тем, где именно меняется контролируемый показатель. Это важно для исправления: нельзя поставить один и тот же фильтр в любую точку процесса и ожидать одинакового результата. Нужно восстановить смысл правила на уровне всей траектории работы системы — от исходных данных до финального решения.

Для этого предложена архитектура, которая хранит происхождение данных: она отслеживает, откуда взялся каждый показатель и какие действия на него повлияли. В конце система заново вычисляет контролируемые величины по исходным данным, а не доверяет числам, которые уже могли быть изменены или агрегированы внутри рабочего процесса. В абстракте не показаны испытания на реальных регулируемых процессах, поэтому это пока концептуальная основа для будущих систем контроля.