Люди хотят, чтобы робот заботился об окружающих больше, чем они сами
Препринт, ещё не рецензирован · ранние данные
Кратко
В опросе 22 человека хотели, чтобы роботы-помощники меньше думали о личных интересах и больше — об окружающих, чем они сами. Представления о добре и зле у роботов и людей должны были почти совпадать; обычная просьба слабо меняла ответы 15 моделей ИИ.
Зачем это знать?
Для будущих роботов-помощников может понадобиться особая настройка ценностей: одной просьбы к ИИ оказалось недостаточно. Авторы проверяли ответы программ, а не действия роботов.
Разбор
Участники отдельно описали свои ценности и желаемые ценности робота. Для этого 22 человека ответили на вопросы о себе и о своём будущем помощнике; в обоих случаях использовали три опросника.
Авторы также сравнили опросники как способы подобрать ценности робота под конкретного человека. Для этого они использовали отдельный опрос об удобстве их применения.
Ключевые цифры
Можно ли доверять
Авторы опросили 22 потенциальных пользователя и сравнили их ответы с ответами 15 моделей ИИ. Выборка небольшая, а исследователи проверяли ответы программ, а не действия роботов: по этим результатам нельзя судить о поведении реальных помощников.
- Это препринт, а не прошедшая рецензирование статья.
- В исследовании участвовали всего 22 потенциальных пользователя.
- Проверяли ответы LLM и анкеты, а не поведение роботов в реальной жизни.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено