dumai
ИИarXiv cs.AI

С доступом к ИИ компании чаще сообщали об опасных ошибках в программах

Препринт, ещё не рецензирован · ранние данные

Кратко

Автор сравнил крупные американские технологические компании, получившие ранний доступ к ИИ для поиска ошибок в программах, с компаниями из Китая и России без такого доступа. Первые также раскрыли примерно на 150% больше ошибок, способных причинить серьёзный ущерб, и исправляли их не медленнее прежнего. Доля ошибок, которыми злоумышленники воспользовались в течение месяца после раскрытия, снизилась примерно на две трети, а число таких ошибок не выросло.

Зачем это знать?

ИИ может помочь компаниям находить опасные ошибки в программах раньше злоумышленников. Наблюдение за небольшой группой компаний не доказывает, что именно доступ к ИИ привёл к такому результату.

Разбор

Автор изучил все открытые сообщения об ошибках в программах и сравнил компании с ранним доступом к ИИ и без него. Компании с доступом стали чаще находить ошибки сами, а независимые исследователи сообщили примерно вдвое меньше ошибок в их программах и больше — в программах других компаний. При этом исследователи не перестали искать ошибки за вознаграждение.

Доля ошибок, которыми злоумышленники воспользовались в течение месяца после раскрытия, снизилась главным образом потому, что меньше ошибок уже использовали к моменту раскрытия.

Ключевые цифры

примерно вдвое меньшеНезависимые исследователи сообщили примерно вдвое меньше ошибок в программах компаний, получивших доступ к ИИ.
более чем вдвоеСообщения обо всех ошибках у компаний с доступом выросли более чем вдвое относительно компаний без доступа.

Можно ли доверять

Автор сравнил открытые сообщения об ошибках небольшой группы крупных американских компаний с сообщениями китайских и российских компаний без доступа к ИИ. Это наблюдение показывает различие между группами, но не доказывает, что именно доступ к ИИ вызвал его.

  • Это препринт, а не прошедшее рецензирование исследование.
  • Данные наблюдательные: доступ к модели связан с результатами компаний, но сам по себе не доказывает причинность.
  • Выводы основаны на публично раскрытых уязвимостях и ограниченной группе крупных технологических компаний, получивших ранний доступ.

Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено

Источник и детали
ЖурналarXiv (cs.AI)
Дата публикации у нас15 ноября 2026 г.
Дата источника4 ноября 2026 г.
ОригиналОткрыть
АвторыThomas Mosk