Алгоритмическая дискриминация

В начале следующего года Конгресс рассмотрит законопроект Stop Discrimination by Algorithms Act (SDAA). Билль должен поставить крест на таком проблемном явлении, как алгоритмическая дискриминация (AD). Именно AD, напомним, стала главным предметом споров между членами Конгресса и главами крупнейших корпораций (яркий пример - руководитель Meta/Facebook Марк Цукерберг).

Многие жители США даже не догадываются, но сегодня жертвами AD становятся все люди, которые что-либо покупают в интернете. Специальные компьютерные программы в целях повышения дохода бизнеса (интернет-магазины, банки, социальные сети, страховые компании и многое другое) дискриминируют клиентов по возрасту, полу, расе, этносу, уровню доходов и т. п. 

Самые распространённые примеры алгоритмической дискриминации (AD) выглядят следующим образом.

-Житель престижного района Нью-Йорка заказывает через интернет путёвку на Карибские острова. Алгоритм видит его почтовый индекс (zip code) и намеренно повышает стоимость отдыха на 15%-20%. То есть человек платит не $2,000 (реальная стоимость путёвки), а $2,400. Жертва AD даже не догадывается, что с неё вытянули дополнительные деньги только за то, что она живёт в дорогом районе.

-Чернокожий или латинос заполняет на сайте банка заявление на получение кредитной карты. По специфическим именам/фамилиям алгоритм распознаёт, что клиент не является белым и отказывает в кредитке, несмотря на хороший кредитный рейтинг (credit score). 

Исследование, проведенное организацией The Markup, показало, что чёрные и латинос на 80% чаще получают отказы в кредитах, чем белые. Банки объясняют алгоритмическую дискриминацию прагматически: мол, чёрные и латинос чаще просрочивают выплаты по кредитам.

-Покрытие медицинских страховок резко снижается, если человек или его семья имеют стабильный доход и/или имущество. 

Тот факт, что многим людям в возрасте 65+ приходится доплачивать за Медикер, во многом объясняется алгоритмами. Страховые компании стремятся получить больше денег. 

-Американец имеет подписку на ежемесячный сервис. Например, на стриминг фильмов, сериалов и шоу. Чтобы клиент не уходил, поставщик услуг запускает специальный алгоритм, который блокирует цифровую рекламу всех конкурентов - особенно тех, кто предлагает более дешёвые услуги с длинным промоушн-периодом. 

-Сайт по приёму анкет по трудоустройству в магазин намеренно выбирает женщин в возрасте до 23 - 25 лет. Причина - им можно платить минимальную заработную плату, так как у них нет опыта работы. Женщины предпенсионного возраста не рассматриваются, так как они слишком медлительны. 

Другой алгоритм может выбирать 90% 23 - 25-летних девушек и одну женщину в возрасте 55+, чтобы дискриминация не прослеживалась так чётко. 

-Успешная американская компания посредством алгоритма заочно отсеивает всех потенциальных сотрудников, родившихся за пределами США. Причина - начальство хочет иметь дело только с теми, кто говорит по-английски без акцента. Если отказ получает человек, приехавший в США маленьким ребёнком и идеально говорящий по-английски, то ему просто не повезло. 

Масштабы алгоритмической дискриминации в цифровой экономике - гигантские. При этом от дискриминации страдают абсолютно все - от самых бедных жителей криминальных районов, которых, алгоритмы, грубо говоря, записывает в "вечные лузеры", до успешных богачей. Последним приходится платить "чуть больше" буквально за всё. 

Большие компании скрывали факт алгоритмической дискриминации на протяжении многих лет. Они часто подменяли понятия и убеждали Конгресс, что алгоритмическая дискриминация на самом деле является попыткой найти правильную целевую аудиторию (target audience). Мол, целые группы дискриминируются только потому, что самым лучшим клиентам уделяется особое внимание. Если один клиент имеет VIP-статус, то другой может к этому статусу только стремиться. 

В конце 2010-х годов алгоритмическая дискриминация стала почти "идеальной". Алгоритмы изучили американцев до такой степени, что эксперты в сфере кибербезопасности фиксируют просто чудовищные схемы обмана. 

Например, людям, которые редко звонят в службы технической поддержки и не пишут жалобы, автоматически прибавляется несколько долларов к месячному биллу за кабельное телевидение, интернет, электричество, газ и/или воду. Алгоритм видит, что человек с большой вероятностью закроет глаза на повышенный платёж и не станет его оспаривать. Если же он всё-таки возмутится, то в службе технической поддержки принесут извинения и сошлются на "сбой в системе".

Разработчики билля Stop Discrimination by Algorithms Act (SDAA) справедливо замечают, что алгоритмическая дискриминация - это тот самый искусственный интеллект (AI), которые раскручивают теоретики цифровой экономики в рамках Четвёртой индустриальной революции (4IR). 

Алгоритмы работают исключительно в целях процветания больших корпораций, и пытаются заработать на простых людях максимальное количество денег, а также минимизировать потери за счёт отправки в чёрные списки самых неблагонадёжных американцев. 

Aлгоритмическая дискриминация порой закладывается в сложные компьютерные программы, которые потом продаются большим бизнесам. 

К примеру, банк покупает программу, разработчики которой обещают, что численность клиентов-банкротов сократится на 30%-50%. "Эффективность" программы объясняется тщательно продуманной и очень жёсткой алгоритмической дискриминацией.

Если билль Stop Discrimination by Algorithms Act получит поддержку Конгресса и подпись президента Байдена, то штраф за один только доказанный факт использования алгоритмической дискриминации составит $10 тысяч. 

Более того, федеральные агентства, занимающиеся кибербезопасностью, начнут периодически проверять большие компании. Это означает, что социальные сети, интернет-магазины, финансовые структуры и другие крупные бизнесы могут столкнуться с многомиллиардными штрафами. 

Корпорации, однако, сдаваться не собираются. Они твёрдо намерены оспорить билль Stop Discrimination by Algorithms Act в Верховном суде. Этой инстанции вполне по силам отметить важный закон, так как трамповские назначенцы Горсух, Кавана и Барретт уже неоднократно демонстрировали, что интересы большого бизнеса для них важнее, чем права человека. 

Максим Бондарь 

Ссылка по теме:

Четвёртая индустриальная: начало

Каким будет цифровое будущее Америки