Какви са правилните ограничения за полицейското използване на лицево разпознаване?

Миналия месец град Сан Франциско реши забранете използването на технологията за разпознаване на лица в различните правителствени агенции. Въпреки че пълната забрана завинаги вероятно отива твърде далеч, тя отразява истинско напрежение, което полицейското използване на технологията създава. Градовете в Съединените щати ще се сблъскат с подобна дилема, докато се опитват да балансират обещанието на технологиите за подобряване на обществените услуги с огромната власт на правителството – и способността му да причинява вреда. При формулирането на последователна политика за управление на разпознаването на лица, политиците трябва да обмислят как, кога и защо да използват такъв мощен инструмент: използване на подходящи прагове на доверие за снимки, използване само на разпознаване на лица след факта, а не в реално време, и ограничаване използването му за най-тежките престъпления. И накрая, правителствата трябва да обмислят осигуряването на данни, за да се избегнат нарушения на чувствителна лична информация.





На основно ниво технологията за разпознаване на лица работи чрез сканиране на геометрията на лицето, за да разпознае ключови характеристики (като размер на носа, форма на очите, изпъкналост на брадичката и др.) и разстоянията между тях. Това позволява на компютъра да създаде виртуална карта на лице, която след това може да съпостави с други сканирани лица в своята база данни със съответен праг на доверие. Понастоящем разпознаването на лица се използва най-често в приложения за потребителски технологии като отключване на смартфони или категоризиране на вашите снимки във Facebook и Google.



Въпреки че тези приложения предлагат удобство за потребителите, използването на същата технология от правителството поставя някои трудни въпроси – особено в контекста на наказателното правосъдие. За разлика от частните субекти, държавните агенции не са обект на конкуренция , а техните грешки обикновено имат по-нататъшни последици. Едно е разпознаването на лица да идентифицира погрешно приятел във Facebook; съвсем друго е да се идентифицира погрешно заподозрян. Освен това технологията все още се развива и подробностите за внедряването могат да бъдат трудни. По този начин е разумно да се изисква високо ниво на точност и някои здравословни предпазни мерки, преди да се внедрят тези технологии.



Рискове от грешки или злоупотреба

Едно притеснение при правителственото използване на лицевото разпознаване е, че подобно на други алгоритмични системи, технологията е толкова добра, колкото данните, използвани за обучението й. Софтуерът Rekognition на Amazon – който правоприлагащите органи вече използват в Орегон и Орландо – има попадат под обстрел за погрешно идентифициране на цветнокожите хора с по-високи проценти, отколкото погрешно идентифициране на белите. Amazon възрази, че тези различия започват да се разсейват, когато се използва препоръчани 99% прагове на доверие, но посочват критиците че полицейските управления понастоящем не са длъжни да използват тези високи стандарти (всъщност е известно, че правоприлагащите органи подават снимки на знаменитости и криминалистични скици в софтуера за разпознаване на лица да се опитам да получим съвпадения ).



има ли пръстени нептун

Знаем, че расовите малцинства вече са включени в системата на наказателното правосъдие с непропорционална скорост: A проучване по поръчка на окръжния прокурор на Сан Франциско установи, че докато чернокожите лица съставляват 6% от населението на града между 2007 и 2014 г., те съставляват 41% от арестуваните. Прекаленото разчитане на дефектна технология – или лошото прилагане на споменатата технология – рискува не само да увеличи неправомерните присъди, но и допълнително да изостри расовите различия в системата.



Създаване на допълнителна загриженост за гражданите на Сан Франциско е способността на полицията да злоупотребява с технологията за разпознаване на лица в рамките на по-широкия размах от злоупотреби с държавна власт. Дори ако технологията може точно да идентифицира лицата, защитниците се притесняват, че това може да създаде състояние на наблюдение, увеличавайки арестите за дребни престъпления, без да подобрява обществената безопасност. Китайското правителство вече е използвайки лицево разпознаване да арестува джойуокъри и проследяване на мюсюлманските малцинствени групи . Ако се използва неправилно, технологията за разпознаване на лица може да навреди на свободното, демократично общество, създавайки смразяващ ефект, който се отразява негативно върху правата ни да се събираме, протестираме, гласуваме и да се движим свободно в обществените зони.



Инструменти за обслужване на обществото

От друга страна, трябва да искаме нашите правителствени агенции да правят иновации и да приемат най-новите инструменти, които ще им позволят да обслужват най-добре обществото. Технологията за разпознаване на лица има реален потенциал да помогне на правоприлагащите органи да заловят престъпници и да подобрят обществената безопасност. Например технологията вече е имала помогна да се идентифицира Джарод Рамос, заподозрян, който в момента е изправен пред пет обвинения за убийство от първа степен, когато отказа да се идентифицира, след като полицията го залови. Повечето граждани вероятно биха се успокоили, че това е използването на технология за разпознаване на лица. И извън традиционните контексти на правоприлагането, разпознаването на лица може да се използва и за упълномощаване на държавни служители в съоръжения с висока степен на сигурност, борба с сексуалния трафик на деца , и намирам изчезнали лица .

Така че, макар че предпазливостта със сигурност е оправдана, пълната забрана – без каквато и да е разпоредба, която налага преразглеждане на политиката – ненужно ни блокира от използването на полезни инструменти, които биха могли да помогнат на правоприлагането в сериозни случаи, когато традиционните техники за разследване се провалят.



Въпреки това, използването на тази технология се нуждае от реални предпазни мерки; временен мораториум върху използването му, докато се разработват такива защити, не е изключено. Как може да изглежда подходящият надзор върху използването на технологията за разпознаване на лица от страна на правоприлагащите органи? Матю Фийни от Института Катон излага някои полезни предложения, включително забрана за възможността в реално време, която би ограничила разпознаването на лица до разследвания след факта, което би попречило на полицейските камери да се превърнат в машини за неограничено наблюдение, наред с други неща.



Осигуряването на това, че разпознаването на лица се използва само след факта, също би позволило преглед от трета страна. Например, законодателите могат да изискват от съдия или магистрат да преразгледа предложеното използване на лицево разпознаване във всеки отделен случай, подобно на процеса на одобрение за заповеди за обиск. Освен това, за да се предотврати използването на лицево разпознаване за дребни нарушения като кражба от магазин , законодателите биха могли да идентифицират кои престъпления се издигат до ниво на сериозност, което би гарантирало нарушаването на поверителността, което технологията създава. Строгите ограничения за лицата, включени в наборите от данни за разпознаване на лица, също могат да попречат на хората с нарушения при паркиране да бъдат пометени в полицейска мрежа. В идеалния случай само тези с активна заповед за арест трябва да бъдат включени в набора от данни.

портрет на кралица виктория за алберт

Сигурност и отчетност

Със събирането на биометрична информация като тази, използвана в технологията за разпознаване на лица, идва и свързаната загриженост за това как тази информация се защитава и съхранява. Само миналата седмица се появи новина за а нарушение на данните на изпълнител на митнически и граничен патрул, който разкри хиляди снимки на международни пътници, които са били събрани за целите на разпознаване на лица. Рискът личните данни да попаднат в грешни ръце е много реален. За да се смекчи този риск, правителствените агенции (и техните изпълнители) трябва да бъдат задължени да спазват подходящи хигиенни стандарти за киберсигурност. Ограниченията за продължителността на съхранението на биометрична информация след нейното събиране също могат да намалят вредата от нарушение.



И накрая, ако градовете поставят под въпрос собствената си способност за достъп до техническата ефективност на тези инструменти, те трябва да обмислят изискването за външен одит чрез първоначалния договор за обществена поръчка. Важна проверка срещу злоупотреба от правителството или случайни алгоритмични пристрастия е способността на организациите на гражданското общество да тестват тези системи независимо, да проверяват дали технологията работи точно и да гарантира, че няма малцинствени популации да бъдат несправедливо насочени.



Тъй като градове като Оукланд и Съмървил и щати като Масачузетс разглеждат подобни законодателни актове, възникват и въпроси дали тези политики са най-добре установени на ниво град или щат. Това не е първият път, в който градовете се опитват да ръководят реформите в правосъдието - например Атланта наскоро забранени парични гаранции (въпреки че законодателите на Грузия се опитаха да предотвратят тази политика на тази законодателна сесия). Местните ограничения върху полицейските технологии обаче са по-сложни, тъй като случаите понякога могат да засягат множество юрисдикции. В идеалния случай тогава би имало последователност в даден щат при защитата на правата на неприкосновеност на личния живот на гражданите, така че държавните войници и местните правоприлагащи органи да се придържат към едни и същи стандарти.

Докато Сан Франциско е първият град, който забранява правителственото използване на разпознаване на лица, вероятно няма да е последният. Градовете и щатите имат право да натиснат бутона за пауза, ако в крайна сметка решат, че технологията не е готова за публично внедряване. Но те също трябва да съчетават всяко забавяне с осезаем план за развитие.



Мораториумът може да бъде полезен инструмент за създаване на пространство за внимателно разглеждане на видовете ограничения и защити, които искаме да въведем. Но крайната цел на мораториума трябва да бъде правилното използване на тези инструменти, а не улесняването на реакцията на коляното към нова технология, която изглежда страшна. Общественото безпокойство около тази технология е разбираемо, но постигането на балансиран подход в лицето на подобни страхове вероятно ще изплати дивиденти в бъдеще.