Алгоритмы Facebook и Instagram проверят на расовые предубеждения

Компания Facebook (Фейсбук), владелец одноименной соцсети, а также основанной на обмене фотографиями соцсети Instagram, проверит на возможные расовые предубеждения алгоритмы, применяемые в работе этих соцсетей.

Компания создает новые подразделения, которые будут осуществлять изучение и устранение алгоритмов, способствуют расовой дискриминации и предвзятости. Об этом сообщает The Wall Street Journal.

Уже создана «команда по вопросам равенства и интеграции» в Instagram, которая изучит, как работа алгоритмов соцсети, в частности, систем машинного обучения, отличается в случае темнокожих и латиноамериканских пользователей по сравнению с белыми пользователями.

Новые подразделения проверят, проявляют ли применяемые алгоритмы особое отношение к пользователям по расовому признаку. Также будут проведены консультации с экспертами и правозащитными объединениями.

Отмечается, что этот шаг компании осуществляется на фоне бойкота рекламодателей, связанного с тем, как гигант социальных медиа контролирует свои платформы.

Так, было обнаружено, что алгоритмы, связанные с рекламой в соцсети Фейсбук, непропорционально не позволяют чернокожим пользователям видеть определенные объявления о жилье или работе, даже если рекламодатель не стремился к ограничениям в этом вопросе.

Напомним, в мае Фейсбук обнародовал имена цензоров, которые будут модерировать споры при модерации постов в сети.