ИИ иногда принимал детские голоса за голоса взрослых
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы проверили три модели на двух наборах записей детской речи. В зависимости от модели и условий дети младше 13 лет попадали в старшую возрастную группу в 2,5–42,5% ответов. Исследователи обнаружили сбои при обработке записей, замене модели и оценке возраста — без предупреждений об ошибках.
Зачем это знать?
Проверка возраста по голосу зависит не только от самой модели: сбои на других этапах могут остаться незамеченными обычными средствами контроля. Результаты касаются проверенной системы и не показывают, насколько безопасны реальные сервисы.
Разбор
Исследователи провели пять проверок на двух наборах записей речи детей младше 13 лет. Каждая модель, которая давала ответы, хотя бы некоторых детей от 5 до 11 лет принимала за взрослых старше 18 лет.
Ошибки появлялись на разных этапах проверки возраста. При обработке некоторые записи речи по ошибке преобразовали дважды, и одна из моделей решила, что детям от 5 до 10 лет уже за 30 или за 40, а затем придумала объяснения. Все модели иногда относили одну и ту же запись и к детям младше 13 лет, и к взрослым старше 18 лет; одна из них также давала ответы, которые противоречили её же численным оценкам возраста.
Ключевые цифры
Можно ли доверять
Авторы провели пять проверок на двух наборах записей речи детей младше 13 лет; сколько всего детей было в записях, не указано. Это проверка конкретной системы, поэтому по её результатам нельзя судить о безопасности реальных сервисов.
- Это препринт, не прошедший рецензирование.
- Проверены три модели, два речевых корпуса и дети младше 13 лет; масштабируемость результатов на другие системы и группы неясна.
- Исследование оценивает работу конкретного конвейера распознавания возраста, а не доказанную безопасность или небезопасность таких систем в реальных сервисах.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено