Алгоритми Facebook та Instagram перевірять на расові упередження

Компанія Facebook (Фейсбук), власник однойменної соцмережі, а також базованої на обміні фотографіями соцмережі Instagram, перевірить на можливі расові упередження алгоритми, які застосовуються в роботі цих соцмереж.

Компанія створює нові підрозділи, які здійснюватимуть вивчення та усунення алгоритмів, що сприяють расовій дискримінації та упередженості. Про це повідомляє The Wall Street Journal.

Вже створена «команда з питань рівності та інтеграції» в Instagram, яка вивчить, як робота алгоритмів соцмережі, зокрема, систем машинного навчання, відрізняється у випадку темношкірих та латиноамериканських користувачів у порівнянні з білими користувачами.

Нові підрозділи перевірять, чи виявляють застосовувані алгоритми особливе ставлення до користувачів за расовою ознакою. Також будуть проведені консультації з експертами та правозахисними об'єднаннями.

Зазначається, що цей крок компанії здійснюється на тлі бойкоту рекламодавців, пов’язаного з тим, як гігант соціальних медіа контролює свої платформи.

Так, було виявлено, що алгоритми, пов’язані з рекламою у соцмережі Фейсбук, непропорційно не дозволяють чорношкірим користувачам бачити певні оголошення щодо житла чи роботи, навіть якщо рекламодавець не прагнув до обмежень у цьому питанні.

Нагадаємо, у травні Фейсбук оприлюднив імена цензорів, які модеруватимуть суперечки під час модерації постів у мережі.