Искусственный интеллект, который в будущем может участвовать в принятии решений автономными автомобилями, способен учитывать факторы, не имеющие отношения к дорожной ситуации. Исследователи King’s College London обнаружили статистически значимые различия в готовности языковых и визуально-языковых моделей уступить дорогу пешеходам разных демографических групп.
Для текстовой части эксперимента ученые подготовили 3157 одинаковых дорожных сценариев и меняли только описание пешехода — например, его пол, возраст, инвалидность, этническую принадлежность или социальный статус. Проверялись Qwen-3, Llama-3.1, Mistral и GPT-4o. Дополнительно четыре визуальные модели анализировали изображения из набора более чем из 23 тыс. дорожных сцен.
Различия зависели от конкретной нейросети. Например, Qwen-3 останавливался для женщины в 61% текстовых сценариев против 92%,когдапол человека не указывался. Qwen-3-VL, напротив, чаще уступал женщинам, чем мужчинам — 35% против 28%. У Qwen-2.5-VL исследователи также обнаружили статистически значимую связь решения с предполагаемым оттенком кожи.
Авторы подчеркивают, что работа не доказывает дискриминацию существующих беспилотников. Серийные системы автономного вождения не испытывались: ученые оценивали универсальные LLM и VLM, которые потенциально могут использоваться как элемент принятия решений автомобиля.
Исследователи предлагают проверять подобные модели на предвзятость еще до их внедрения и, в частности, изучить возможность исключения демографических признаков из входных данных. По их мнению, это важно не только для безопасности, но и для доверия к автономному транспорту.
