Amazon запретил полиции использовать технологию распознавания лиц

Вместе с Amazon свою позицию высказали и в IBM: представители IT-гиганта отметили, что прекратят поставлять ПО для распознавания лиц для «массового наблюдения или расового профилирования».

В чем же сложность — и почему существующая достаточно давно технология вдруг оказалась «запретной»?

Amazon уходит на год. Хватит ли времени?

Как и другие программы для распознавания лиц, Amazon Rekognition может использовать искусственный интеллект (AI), чтобы быстро сравнить изображение, например, с камеры телефона офицера, и попытаться сопоставить его с фотографиями, которые хранятся в базах полиции.

Технология в целом неоднократно подвергалась критике за потенциальную предвзятость, и исследования показали: у алгоритмов действительно проблемы. Исследователи отметили: шанс ошибки при поиске по базе афроамериканца намного выше, чем белого.

Решения о запрете следуют за растущим давлением на фирмы, которое в первую очередь связано со смертью во время задержания афроамериканца Джорджа Флойда.

Представители Amazon заявили, что приостановление использования правоохранительными органами программного обеспечения Rekognition должно дать законодателям США возможность принять поправки, регулирующее использование этой технологии.

«Мы хотим, чтобы правительство плотно занялось пакетом поправок, которые урегулировали бы этический вопрос технологии распознавания лиц. И Конгресс, похоже, готов пойти нам навстречу», — отмечается в заявлении Amazon.

«Мы надеемся, что однолетний мораторий даст политикам достаточно времени для внедрения соответствующих поправок, и мы готовы помочь, если потребуется», — добавили в компании.

IBM: нужно работать совместно с правительством

Ранее ограничить использование технологии распознавания лиц решили и в другом гиганте — IBM.

Представители компании сообщили прессе, что «…IBM больше не будет предлагать свою технологию распознавания лиц стражам порядка, потому что системы искусственного интеллекта, используемые в правоохранительных органах, должны тестироваться «на предвзятость»».

Исполнительный директор IBM Арвинд Кришна написал открытое письмо представитям Конгресса, в котором указал, что «…борьба с расизмом актуальна как никогда», и назвал три области, в которых компания хотела бы поработать с политиками:

  • реформа полиции;
  • ответственное использование технологий;
  • образовательные возможности.

Помогут ли новые поправки?

Представители демократической партии Штатов уже внесли предложения о поправках в законы, которые запретят федеральным правоохранительным органам использовать распознавание лиц в режиме реального времени. Однако такая мера многим показалась избыточной: по словам политиков, достаточно просто снизить финансирование, чтобы технологию не применяли по поводу и без.

С этим согласны в Союзе гражданских свобод: представитель организации отметил, что «…федеральное финансирование должно быть ограничено по крайней мере для местных правоохранительных органов».

Технология распознавания лиц — достаточно «щекотливая», и регулирование ее применения на фоне протестов и очередной волны «корректности», скорее всего, не приведет ни к чему хорошему.

Властям стоит немного выждать, а затем уже начинать что-то менять: иначе есть риск поддаться настроениям общественности и «закрутить гайки» до упора. Тем более что технология сама по себе не хороша и не плоха: эти критерии можно применить лишь к использующим ее людям.

Фото: windowssearch-exp.com


Похожие новости:
Цена Победы: чего стоило снять блокаду Ленинграда
Цвет одежды способен изменить жизнь
Американские исследователи научились лечить аутизм
Ученые выяснили, что бактерии кишечника могут производить электричество
WhatsApp ввел новый запрет для пользователей
ВМС США подтвердили встречу американских летчиков с НЛО
Экологи раскрыли масштабы загрязнения Баренцева моря микропластиком
Михаил Маров: "О моем Учителе в жизни и науке"
Врач-офтальмолог назвал самый опасный гаджет во время самоизоляции
Мельница мифов: кто такие раджпуты?

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *