В США лоббируют закон для выявления расово предвзятых технологий распознавания лиц в видеонаблюдении
Неудачный законопроект 2019 года, призванный сделать предвзятые коммерческие алгоритмы ИИ менее предвзятыми, был доработан, после чего авторы повторно внесли его на рассмотрение Конгресса США. Сенатор от штата Орегон Рон Уайден заявил, что Закон об алгоритмической подотчетности нацелен на «скрытые алгоритмы», которые несправедливо открывают или закрывают возможности для целевых сообществ.
Уайден и его коллега Кори Букер, который является чернокожим, провели прямые параллели между предвзятым кодом и мошенническими методами ведения бизнеса, которые были более распространены до 1970-х годов, когда предоставлялись коммерческие услуги, которые ставили цветных людей в невыгодное положение. Подоплекой к разработке законопроекта послужило растущее неприятие дискриминирующего видеонаблюдения с распознаванием лиц.
Идея такова, что закон об алгоритмической подконтрольности должен вынудить компании оценивать негативные последствия «автоматизации принятия важных решений» на основе нового и ранее написанного дискриминационного алгоритма. Разработчики технологии распознавания лиц и пользователи этой технологии должны будут оценивать результаты и сообщать о них.
Законопроект предусматривает привлечение Федеральной торговой комиссии, которая должна будет опубликовать «анонимный сводный отчет о тенденциях». Также закон будет основанием для создания общедоступной базы, в которой будет размещен список автоматизированных решений для распознавания лиц, источников данных, обширных параметров и способов для оспаривания таких систем распознавания лиц.
К законопроекту приложен список организаций, которые одобряют принятие такого закона. В их числе Aerica Shimizu Banks, Центр демократии и технологий, Электронный информационный центр конфиденциальности, Международная организация инженеров электротехники и электроники (IEEE), Монреальский институт этики искусственного интеллекта.
Ранее подобная политика подотчетности была внедрена властями Нью-Йорка, Амстердама, индийского штата Тамил Наду, правительством Великобритании, Финляндии, Швеции и Новой Зеландии.