dumaiПрепринт — материал ещё не прошёл рецензирование
Всплески нагрузки могут обрушить точность автономного конвейера
Кратко
В двухуровневом конвейере для автономного вождения быстрый путь отвечает сразу, а медленный облачный путь даёт более точный ответ, если успевает к дедлайну. В симуляции около 4000 коротких всплесков нагрузки сдвигали задержку добросовестных пользователей с 92 мс до 2 с и снижали качество слежения за объектами в среднем на 7,0 HOTA.
Зачем это знать
Это показывает новый способ портить качество работы распределённых систем без доступа к весам модели или данным жертвы. Защиту и проверку таких систем стоит строить не только вокруг самой модели, но и вокруг маршрутизации, ожидания в очереди и разделения ресурсов.
Разбор
Авторы смотрят не на саму модель, а на то, как устроена вся цепочка принятия решений: быстрый путь отвечает сразу, а медленный подключается только если успевает принести более точный ответ вовремя. Проблема в том, что в такой схеме есть ещё и «посредник» — он решает, дождаться ли медленного ответа или выбросить его, если тот опоздал. И именно это место оказалось уязвимым: если засыпать систему короткими, специально подобранными всплесками запросов, можно перегрузить общие ресурсы и сорвать работу медленного пути.
Ключевые цифры
Можно ли доверять
Это препринт на arXiv, то есть работу ещё не проверяли независимые рецензенты. При этом авторы не ограничились теорией: они показали эффект в симуляции автономного конвейера, так что результат выглядит серьёзно, но пока это не доказательство того, что тот же масштаб удара будет в каждой реальной системе. Особенно важно, что проверяли один класс сценариев — edge-cloud конвейер для слежения за объектами — поэтому в других приложениях сила атаки может отличаться.
Пересказано ИИ по научной статье. Как это устроено