Проти технології розпізнавання осіб

Колонка

Вона ставить під загрозу безпеку та громадянські права людини, тому її часткове регулювання має бути замінене повною забороною. Поки весь світ захоплений перевагами технології розпізнавання осіб, деякі фахівці безпеки вважають, що вона таїть у собі велике зло для людства. Викладач права та інформатики Вудроу Хартцог та викладач філософії Еван Селінджер виклали свою точку зору на методи контролю технології у статті на Medium.

Жителі Трої були б у захваті

Дуже легко піддатися зовні привабливій, але насправді помилковій думці про те, яким буде майбутнє людства у світі, що розкрив весь прихований потенціал технології розпізнавання осіб. Люди зможуть миттєво отримувати інформацію про незнайомців, їм більше не доведеться запам'ятовувати безліч паролів або боятися забути гаманець. Можна буде запросто знаходити події з певною людиною в архівах фотографій та відео, оперативно розшукувати зниклих людей чи злочинців, убезпечити громадські місця.

Здавалося б, технологія несе лише плюси, у світі запанує абсолютна справедливість, реалізуються найнеймовірніші ідеї людства. Але жоден із винайдених людством механізмів спостереження не несе у собі такої небезпеки, як технологія розпізнавання осіб.

Спокушаючись цим утопічним баченням, люди впускатимуть технологію розпізнавання осіб у своє житло і відкриватимуть доступ до своїх пристроїв, дозволяючи їй зайняти центральне місце у нових аспектах життя. Це означатиме, що пастка зачинилася, а потім прийде неприємне усвідомлення того, що технологія була свого роду троянським конем. Цей ідеальний інструмент утисків дуже хороший, щоб ним не скористалися уряди для встановлення авторитарного контролю та всеосяжних режимів, які знищать поняття особистого життя.

Цей троянський кінь не повинен проникнути до міста.

Поточні обговорення

Американський союз захисту громадянських свобод спільно з 70 іншими правозахисними організаціями вимагає від Amazon припинити надавати технологію розпізнавання осіб уряду, а також закликав Конгрес ввести мораторій на її використання урядом. До них підключилися і ЗМІ, висловили своє занепокоєння. Наприклад, редколегія Washington Post вважає, що Конгрес зобов'язаний негайно втрутитися у ситуацію. У парламентаріїв теж є вагомий привід задуматися: деяких із них програма з розпізнавання облич Amazon із злочинцями.

Не залишилися осторонь і редактори The Guardian. Президент Microsoft Бред Сміт звернувся у своєму блозі до уряду США з проханням запровадити регулювання технології розпізнавання осіб:

«Єдиний надійний спосіб контролювати використання технології урядом – це щоб воно самостійно та з урахуванням можливих обставин контролювало її використання. Ми вважаємо, що сьогодні існує гостра потреба в урядовій ініціативі з контролю за правомірним застосуванням технології розпізнавання осіб, яка ґрунтується на рішенні двопартійної комісії експертів».

Думка лідерів компаній має важливе значення, як і законодавчі акти, що обмежують використання технології. Але лише часткової підтримки та ретельно прописаних інструкцій ніколи не буде достатньо. Закони могли б принести велику користь, але їх, швидше за все, почнуть запроваджувати тоді, коли технологія стане в рази дешевшою та простішою у використанні. Сміт наголошує, що Microsoft закликала до створення національного закону в цій галузі ще в 2005 році. Минуло понад десять років, але подібний закон Конгрес так і не ухвалив.

Якщо технологію розпізнавання осіб продовжать розробляти та впроваджувати у житті, виникне гігантська інфраструктура, яка поглине людство. Як показує історія, широка увага до успіхів, страх не забезпечити належного рівня безпеки і п'янке почуття влади можуть призводити до обману, зрушення корпоративних цінностей та, зрештою, систематичного зловживання технологією.

Благополуччя людства в майбутньому можливе лише в тому випадку, якщо технологія розпізнавання осіб буде заборонена, перш ніж міцно зміцниться в житті людини.

Чому потрібна заборона

Необхідність повної заборони систем розпізнавання осіб надзвичайна. Але деякі талановиті вчені, на зразок Джудіт Донат вважають цю позицію невірною. Вони пропонують нейтральнішу з технологічної точки зору тактику: заборона на конкретні дії, а також позначення цінностей і прав, які потрібно захистити. Цей підхід цілком розумний майже всім цифрових технологій.

Але жоден із винайдених людством механізмів спостереження не несе в собі таку небезпеку, як технологія розпізнавання осіб. Це недостатній елемент вже небезпечної інфраструктури спостереження за людьми, розроблений тому, що ця інфраструктура потрібна урядам та приватному бізнесу. І якщо технології стають небезпечними такою мірою, а співвідношення користі та шкоди - настільки спотвореним, настав час задуматися про категоричні заборони. На законодавчому рівні вже заборонено деякі види небезпечних цифрових технологій, наприклад шпигунського ПЗ. Технологія розпізнавання осіб несе у собі набагато більші ризики, і її заважало б удостоїти особливої ​​юридичної уваги. Потрібна конкретна заборона на основі надійної, цілісної, заснованої на цінностях та значною мірою нейтральною з погляду технологій нормативної бази. Така система допоможе уникнути нормативних ситуацій, коли законодавці намагаються наздоганяти технічні тенденції.

Спостереження з використанням систем розпізнавання осіб за своєю суттю є деспотичним. Існування таких систем, які самі часто приховані від очей людини, – порушення громадянських свобод, бо люди поводяться інакше, якщо підозрюють, що за ними спостерігають. Навіть закони, які гарантують суворі захисні заходи, не запобігають гнітючому відчуттю того, що будуть ущемлені можливості самовираження людини.

Ось приклади зловживання та руйнівних дій технології розпізнавання осіб:

• непропорційна увага до людей небілого кольору шкіри, інших меншин та незахищених народів;
• заміна презумпції невинності на принцип «люди, чия вина поки що не доведена»;
• поширення насильства та жорстокості;
• заперечення фундаментальних прав та можливостей, наприклад захисту від довільного відстеження урядами пересування, звичок, відносин, інтересів та думок людини;
• безперервна «робота» закону - як постійний запобіжний захід;
• знищення концепції зберігання інформації "practically obscure", коли дані знаходяться у відкритому доступі, але зберігаються в різних джерелах і знайти їх надзвичайно складно;
• поширення "капіталізму нагляду".

Як зазначає дослідник технології розпізнавання осіб Клер Гарві, помилки в ній можуть мати фатальні наслідки:

«Що станеться, якщо така система дасть збій? У разі помилки системи відеоспостереження переслідуватимуть, допитуватимуть або можуть навіть заарештувати та звинуватити у злочині невинну людину. Або портативні камери із системою розпізнавання осіб у поліцейських: якщо система вкаже на людину, яка нібито може становити небезпеку для суспільства, поліцейський повинен буде миттєво вирішити, чи застосовувати йому зброю. Внаслідок помилкового оповіщення можуть постраждати невинні люди».

Серед інших є дві доповіді, які докладно торкаються багатьох із цих проблем: дуже цінна робота про використання правоохоронцями розпізнавання осіб, опублікована старшим юристом Electronic Frontier Foundation Дженніфер Лінч, а також дослідження фахівців Center on Privacy & Technology університету Джорджтауна.

Незважаючи на описані в доповідях проблеми, не всі переконані, що заборона справді необхідна. Адже інші технології становлять не меншу загрозу: геолокаційні дані, інформація з профілів у соцмережах, результати пошукових запитів та багато інших джерел інформації про користувачів можна використовувати, щоб скласти детальний портрет. Але розпізнавання осіб все ж таки несе небезпеку іншого характеру і стоїть окремо навіть у порівнянні з біометричними даними: відбитками пальців, зразками ДНК або скануванням сітківки ока.

Системи, що обробляють зображення осіб, мають п'ять відмінних рис, які дають всі підстави для їх заборони. По-перше, обличчя важко приховати чи змінити. Особи не можна зашифрувати як дані на цифрових носіях, в електронних або текстових повідомленнях. Їх можна знімати за допомогою віддалених камер, а вартість самої технології та зберігання зображень у хмарі постійно знижується, що призводить до дедалі ширшого застосування таких систем моніторингу.

По-друге, існують бази даних імен та осіб, наприклад для посвідчень водія, або акаунти в соцмережах, до яких можна дуже легко отримати доступ.

По-третє, на відміну від типових систем спостереження, які часто вимагають дороге обладнання або нові джерела даних, вхідні дані для розпізнавання осіб знаходяться всюди і надходять безпосередньо в момент зйомки камерами.

По-четверте, переломний момент. Будь-яка база даних осіб для ідентифікації заарештованих або потрапили в поле зору камер осіб за допомогою декількох рядків коду може «порівнятися» з будь-якою іншою базою в режимі реального часу, підключаючись до портативних камер поліцейських або систем відеоспостереження. Губернатор штату Нью-Йорк Ендрю Куомо точно помітив причини поширення технології розпізнавання осіб, стверджуючи, що просте сканування номерних знаків автомобілів здасться дрібницею в порівнянні з можливостями застосування камер із вбудованою технологією: «Система зчитує номерний знак, щоб обчислити порушника, але штрафи далеко не найбільша користь від цієї апаратури. Ми переходимо на технологію розпізнавання облич, і тепер система зможе сканувати обличчя водія та перевіряти його за базами даних, що відкриває абсолютно нові перспективи».

По-п'яте, особа, на відміну від відбитків пальців, ходи чи знімків сітківки, – центральний елемент ідентичності людини. Обличчя - це посередник між віртуальним і реальним життям людини, сполучна ланка між діями, які людина виконує анонімно, під своїм чи чужим ім'ям. Може легко здатися, що забезпечувати конфіденційність осіб як будь-якої іншої приватної інформації не потрібно, тому що в житті люди зазвичай не закривають особи. За винятком країн, де жінки мають носити паранджу, люди з прихованим обличчям викликають підозри.

Забезпечувати конфіденційність людини дійсно необхідно, тому що в минулому люди виробляли інститути та цінності, пов'язані із захистом приватної інформації в ті періоди, коли впізнати незнайомих людей в основному було досить складно. Через біологічні особливості пам'ять людини обмежена, і без технологічної надбудови він може запам'ятати лише невелику кількість осіб. А з урахуванням чисельності та розподілу населення за своє життя людина зустріне не так уже й багато нових людей. Ці обмеження створюють свого роду «білі плями», завдяки чому люди мали добрі шанси загубитися в натовпі.

Нещодавні рішення Верховного суду США щодо четвертої поправки (яка забороняє необґрунтовані обшуки та затримання, а також вимагає видачі ордерів на обшук судом за наявності достатніх підстав) свідчать про те, що боротьба за захист конфіденційності у громадських місцях залишається актуальною. Цього літа в одному з процесів суд вирішив, що геолокаційні дані з мобільних телефонів підпадають під дію Конституції, а інформація, яку людина бажає зберегти в таємниці, навіть якщо вона виявляється публічною, може охоронятися Конституцією.

Чому технологія розпізнавання осіб не піддається правовому регулюванню

У зв'язку з тим, що технологія розпізнавання осіб становить величезну загрозу, суспільство неспроможна пустити її регулювання самоплив. Потенційна прибутковість підштовхне до появи ідей щодо реалізації максимальних можливостей технології, і окремі компанії просуватимуть свої інтереси у цьому напрямі.

Суспільство також може очікувати підйому популістів. Технологію розпізнавання осіб продовжать «продавати» як частину найновіших та найпросунутіших додатків та пристроїв. Apple вже називає Face ID найкращою функцією останнього iPhone. Те саме стосується новинних репортажів з ідеологічним підґрунтям, у яких технологію розпізнавання осіб проголошують вирішенням усіх проблем.

Нарешті, суспільству годі було зайве розраховувати на традиційні методи регулювання. Особливості технології розпізнавання осіб не дозволяють утримати її в рамках заходів, які визначають законні та незаконні способи застосування та намагаються вмістити в ній потенційну корисність для суспільства та жахливий фактор для зловмисників. Це - один з небагатьох прикладів, коли необхідно запровадити повну заборону.

На даний момент існує дуже небагато проектів з контролю технології розпізнавання осіб та ще менше – з її обмеження. Є гідні закони про біометричні дані в штатах Іллінойс та Техас, але вони дотримуються загальноприйнятої стратегії регулювання, згідно з якою суб'єкти, які збирають і використовують ці дані, повинні виконувати низку базових інформаційних практик та протоколів конфіденційності. Сюди відносяться вимога отримувати поінформовану згоду на збирання біометричних даних, їх обов'язковий захист та обмеження на термін зберігання, заборону на їх використання з метою отримання прибутку, обмеження прав передачі третім особам та приватні підстави для подання позову у разі порушення цих норм.

Запропоновані закони у сфері розпізнавання осіб схожі на них. Федеральна комісія з торгівлі США рекомендує запровадити такий самий механізм щодо технології: попереджати людину про її застосування, давати їй вибір та чесно обмежувати використання його даних. Доповідь Electronic Frontier Foundation, в якій наголошено на проведенні цих законів у життя, містить аналогічні, хоча і більш глибокі пропозиції. Наприклад, створити точні правила використання, розповсюдження та забезпечення безпеки даних; запровадити обмеження на збирання та зберігання даних; заборона включення декількох видів біометричних даних в одну базу; обов'язкове повідомлення, проведення перевірок та незалежного нагляду. У своєму проекті закону про розпізнавання осіб Center on Privacy & Technology університет Джорджтауна пропонує значно обмежити доступ уряду до баз осіб, а також використання технології розпізнавання осіб в реальному часі.

На жаль, більшість діючих та запропонованих вимог мають процедурний характер. І в кінцевому рахунку не зупинять поширення самої технології та розвиток відповідної інфраструктури. Насамперед слід зазначити помилковість деяких вихідних припущень щодо згоди, повідомлення та вибору, які є у існуючих законах. Інформована згода як механізм регулювання спостереження та обробки даних є повністю марною. Навіть якби людям цілком належало право контролювати свої дані, вони все одно не змогли б ним скористатися повною мірою.

І все ж таки законодавці і сама галузь намагаються зрушити з мертвої точки. Але в цих нормах, як і в більшості норм конфіденційності цифрової ери, є багато прогалин. Одні закони стосуються лише збору або зберігання даних і не торкаються того, як вони використовуються. Інші застосовні лише до компаній чи уряду і настільки неоднозначні, що дозволяють уникнути наслідків за різні протиправні дії. І щоб відчути переваги технології розпізнавання осіб, яку так розхвалюють, знадобиться більше камер, краща інфраструктура та неосяжні бази даних.

Майбутнє технології розпізнавання облич

Технологія розпізнавання осіб відкриває безмежні можливості відстежувати інформацію про особистість та переміщення людини. А також практично миттєво зберігати, розповсюджувати та аналізувати її. Розвиток цієї технології в майбутньому може призвести до того, що конфіденційність приватної інформації людини постійно порушуватиметься. Благополуччя людства можливе лише в тому випадку, якщо буде запроваджено заборону на технології розпізнавання осіб, перш ніж ці системи надто міцно увійдуть у повсякденне життя. Інакше людям буде знайомий лише світ, у якому при кожній появі в громадському місці їх автоматично ідентифікуватимуть, заноситимуть інформацію у профіль та, можливо, використовуватимуть її. У світі ті, хто виступає проти технології розпізнавання осіб, будуть дискредитовані, змушені замовкнути чи усунуті.