4. Распознавание эмоций
Распознование эмоций (emotion recognition) — это технологии, которые пытаются определить эмоциональное состояние человека (страх, гнев, радость, удивление, стресс) на основе выражения лица, жестов, голоса. Например, система, анализирующая эмоции клиента во время видео консультации.
AI Act запрещает системы распознавания эмоций:- на рабочем месте
- в образовательных учреждениях
Исключения возможны только по медицинским причинам, по соображениям безопасности.
Во многих коммерческих сценариях такие системы могут считаться
высокорисковыми, например, при анализе эмоций клиентов в колл-центрах, анализе реакции пользователя во время онлайн-консультации.
Соответственно будут применяться требования для высокорисковых систем и обязательное уведомление пользователей (ст.50 AI Act).