Европейский парламент проголосовал за полный запрет на массовую биометрическую слежку.
Технологии дистанционного наблюдения на базе искусственного интеллекта, например распознавание лиц, имеют огромное значение для основных прав и свобод, таких как неприкосновенность частной жизни, но уже начинают использоваться публично в Европе.
Депутаты Европарламента заявили, что, чтобы уважать “частную жизнь и человеческое достоинство”, законодатели ЕС должны ввести постоянный запрет на автоматическое распознавание лиц в общественных местах, заявив, что за гражданами следует следить только в случае подозрения в совершении преступления.
Парламент также призвал запретить использование частных баз данных распознавания лиц, таких как противоречивая система искусственного интеллекта, созданная американским стартапом Clearview (также уже используется некоторыми полицейскими силами в Европе), и заявил, что прогнозирующая полицейская деятельность, основанная на поведенческих данных, также должна быть объявлена вне закона.
Депутаты Европарламента намерены запретить системы социальной оценки, которые стремятся оценить надежность граждан на основе их поведения или личности.
Еще в апреле исполнительная власть ЕС представила проект законодательства, регулирующего использование технологий искусственного интеллекта с высоким риском, который включал запрет на социальный рейтинг и принципиальный запрет на использование дистанционного биометрического наблюдения в общественных местах.
Однако гражданское общество, Европейский совет по защите данных и Европейский надзорный орган по защите данных, а также ряд депутатов Европарламента быстро предупредили, что предложение Комиссии зашло недостаточно далеко.
Парламент в целом теперь ясно дал понять, что он также хочет более строгих гарантий соблюдения основных прав.
В резолюции, принятой вчера вечером, парламент проголосовал 377:248 за доклад комитета LIBE об искусственном интеллекте в уголовном праве — парламентарии послали четкий сигнал о том, что они примут на предстоящих переговорах между институтами ЕС, которые будут уточнять детали Закона об искусственном интеллекте.
Соответствующий пункт, касающийся дистанционного биометрического наблюдения, призывает Комиссию:
…ввести законодательными и не законодательными средствами, а при необходимости и в рамках процедур нарушения, запрет на любую обработку биометрических данных, включая изображения лиц, в правоохранительных целях, которая приводит к массовому наблюдению в общедоступных местах; призывает далее Комиссию прекратить финансирование биометрических исследований или развертывания или программ, которые могут привести к неизбирательному массовому наблюдению в общественных местах.
Резолюция также осуждает алгоритмическую предвзятость, призывая к человеческому надзору и сильным правовым полномочиям для предотвращения дискриминации со стороны ИИ, особенно в правоохранительных органах и при пересечении границ.
Люди-операторы всегда должны принимать окончательные решения, согласились депутаты Европарламента, заявив, что субъекты, контролируемые системами, работающими на ИИ, должны иметь доступ к средствам правовой защиты.
Чтобы обеспечить соблюдение основных прав при использовании систем идентификации на основе искусственного интеллекта, которые, как отметили депутаты Европарламента, чаще всего неверно идентифицируют этнические меньшинства, ЛГБТ, пожилых людей и женщин, алгоритмы должны быть прозрачными, отслеживаемыми и достаточно документированными.
Они также призвали государственные органы использовать программное обеспечение с открытым исходным кодом, чтобы быть более прозрачными, где это возможно.
Депутаты Европарламента осудили противоречивый исследовательский проект, финансируемый ЕС, — создать “умный” детектор лжи, основанный на анализе выражений лица, — заявив, что проект iBorderCtrl следует прекратить.
Комментируя свое заявление, докладчик Петар Витанов сказал: “Основные права являются безусловными. Впервые в истории мы призываем ввести мораторий на внедрение систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам. Мы открыто выступаем против превентивной полицейской деятельности, основанной на использовании искусственного интеллекта, а также любой обработки биометрических данных, которая приводит к массовому наблюдению. Это огромная победа для всех граждан Европы”.
С Комиссией связались для получения комментариев по поводу голосования.
Резолюция парламента также призывает запретить ИИ помогать судебным решениям — еще одна весьма спорная область, в которой уже применяется автоматизация, с риском того, что программа укрепит и масштабирует предубеждения в системах уголовного правосудия.
Глобальная благотворительная организация по правам человека “Справедливые суды» приветствовала голосование, назвав его «знаковым результатом в области основных прав и недискриминации в технологическую эпоху».
Источник: https://techcrunch.com/2021/10/06/european-parliament-backs-ban-on-remote-biometric-surveillance/