С доступом к ИИ компании чаще сообщали об опасных ошибках в программах
Препринт, ещё не рецензирован · ранние данные
Кратко
Автор сравнил крупные американские технологические компании, получившие ранний доступ к ИИ для поиска ошибок в программах, с компаниями из Китая и России без такого доступа. Первые также раскрыли примерно на 150% больше ошибок, способных причинить серьёзный ущерб, и исправляли их не медленнее прежнего. Доля ошибок, которыми злоумышленники воспользовались в течение месяца после раскрытия, снизилась примерно на две трети, а число таких ошибок не выросло.
Зачем это знать?
ИИ может помочь компаниям находить опасные ошибки в программах раньше злоумышленников. Наблюдение за небольшой группой компаний не доказывает, что именно доступ к ИИ привёл к такому результату.
Разбор
Автор изучил все открытые сообщения об ошибках в программах и сравнил компании с ранним доступом к ИИ и без него. Компании с доступом стали чаще находить ошибки сами, а независимые исследователи сообщили примерно вдвое меньше ошибок в их программах и больше — в программах других компаний. При этом исследователи не перестали искать ошибки за вознаграждение.
Доля ошибок, которыми злоумышленники воспользовались в течение месяца после раскрытия, снизилась главным образом потому, что меньше ошибок уже использовали к моменту раскрытия.
Ключевые цифры
Можно ли доверять
Автор сравнил открытые сообщения об ошибках небольшой группы крупных американских компаний с сообщениями китайских и российских компаний без доступа к ИИ. Это наблюдение показывает различие между группами, но не доказывает, что именно доступ к ИИ вызвал его.
- Это препринт, а не прошедшее рецензирование исследование.
- Данные наблюдательные: доступ к модели связан с результатами компаний, но сам по себе не доказывает причинность.
- Выводы основаны на публично раскрытых уязвимостях и ограниченной группе крупных технологических компаний, получивших ранний доступ.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено