Як распазнаванне твараў дапамагае апазнаваць вайскоўцаў ва Украіне і чаму гэта трывожыць экспертаў

У сакавіку кампанія «Clearview AI», якая займаецца праграмамі распазнання асоб і якая мае вельмі супярэчлівую рэпутацыю, абвясціла, што перадала сваю тэхналогію ўкраінскаму ўраду.

«Бі-бі-сі» атрымала сведчанні таго, як гэтая тэхналогія выкарыстоўваецца на прыкладзе больш за тысячу выпадкаў распазнавання жывых і мёртвых.
«Clearview» — мабыць, самая вядомая і супярэчлівая сістэма распазнавання твараў у свеце. У мінулым да яе былі сур'ёзныя пытанні адносна этычнасці іх метадаў збору персанальных даных.
«Clearview» сабрала мільярды фотаздымкаў з сацыяльных сетак — такіх, як Facebook і Twitter, каб стварыць велізарную базу даных і наладзіць сістэму пошуку па тварах.
Кампанія сутыкнулася з шэрагам юрыдычных праблем. Facebook, YouTube, Google і Twitter накіравалі «Clearview» лісты з патрабаваннем спыніць выкарыстанне выяў з іх сайтаў.
Летась Упраўленне камісара па інфармацыі Вялікабрытаніі аштрафавала кампанію за тое, што яна не паведамляла людзям, што збірае іх фотаздымкі ў брытанскіх сацсетках.
Цяпер выкарыстанне тэхналогій «Clearview» украінскім урадам выклікала пытанні пра наступствы працы з гэтай тэхналогіяй у ваенны час.
«Clearview» актыўна выкарыстоўваецца праваахоўнымі органамі ў ЗША, хоць і там гэта выклікае крытыку. Заснавальнік кампаніі Хоан Тон-Дат заяўляе, што гэтую тэхналогію спрабуюць ці ўжо купілі 3200 урадавых органаў.
Пасля ўварвання Пуціна ў Украіну Хоан Тон-Дат убачыў яшчэ адну магчымасць выкарыстання распрацовак «Clearview».
«Мы ўбачылі здымкі палонных і бежанцаў і падумалі, што патэнцыйна гэта можа стаць карыснай тэхналогіяй для ідэнтыфікацыі і верыфікацыі», — гаворыць Хоан Тон-Дат.
Выкарыстанне тэхналогій распазнавання твараў для ідэнтыфікацыі загінулых — ідэя не новая, і «Clearview» — не адзіная платформа такога роду, якая выкарыстоўваецца цяпер ва Украіне.
«Мы выкарыстоўваем такія рэчы ўжо шмат гадоў», — кажа дырэктар па даследаваннях журналісцкай расследавальніцкай групы «Bellingcat» Арыка Толер.

У 2019 годзе група «Bellingcat» выкарыстала тэхналогіі распазнавання твараў для апазнання расійца, знятага на відэа падчас катаванняў і забойства палоннага ў Сірыі. Так што гэта не першая вайна, у якой выкарыстоўваюцца падобныя тэхналогіі.
Але ва Украіне іх выкарыстоўваюць шырэй, чым у любым іншым канфлікце. Паводле слоў Толера, яны асабліва карысныя для ідэнтыфікацыі загінулых расійскіх вайскоўцаў.
Гэтак жа, як і «Clearview», кампанія «FindClone» збірае фотаздымкі людзей, якія знаходзяцца ў адкрытым доступе, у тым ліку — і ў расійскіх сацсетках.
Ідэнтыфікаваць можна нават тых людзей, якія ніколі і не заходзілі ў сацсеткі, паколькі іх асобы могуць аказацца на фотаздымках, апублікаваных іншымі.
«У вайскоўцаў можа не быць акаўнтаў у сацсетках, але ў іх жонак ці сябровак яны могуць быць... Часам у іх няма акаўнтаў, але яны жывуць у маленькіх мястэчках з вялікай ваеннай базай. Ці у іх шмат сяброў, якія служаць у тым жа падраздзяленні», — расказвае Толер, тлумачачы, як працуе іх расследавальніцкая праграма.
Тое, што ён кажа, важна для разумення эфектыўнасці падобных тэхналогій. Нават калі чалавек ніколі не посціў у сацсетках або сцёр усе свае допісы, яго ўсё роўна можна знайсці і ідэнтыфікаваць.
Ён мог быць на фотаздымку, калісьці знятым яго сябрам ці проста аказаўшыся выпадкова ў кадры, размешчаным у Інтэрнэце.
Гэта азначае, што нават вайскоўцы і супрацоўнікі спецслужбаў могуць быць знойдзеныя.

У чым праблема

Крытыкі падобных тэхналогій сцвярджаюць, што яны далёка не заўсёды беспамылковыя. А на вайне такія памылкі могуць прывесці да цяжкіх наступстваў.
«Clearview» выкарыстоўваецца не толькі для ідэнтыфікацыі загінулых ва Украіне. Кампанія пацвердзіла, што яе тэхналогія ўжываецца для праверак на ўкраінскіх кантрольна-прапускных пунктах, каб вызначыць ворага і падазроных асоб.
«Clearview» прадставіла «Бі-бі-сі» электроннае паведамленне ад украінскага ўрадавага органа, якое пацвярджае выкарыстанне яе тэхналогіі для ідэнтыфікацыі жывых людзей.
«Сістэма дала нам магчымасць хутка пацвердзіць правільнасць звестак пра затрыманых падазраваных», — паведамляецца ў лісце чыноўніка, які пажадаў застацца неназваным.

За час выкарыстання «Clearview AI» было праведзена больш за тысячу праверак, паведамляецца ў лісце.
Гэта турбуе некаторых экспертаў.
Справа ў тым, што тэхналогіі распазнавання твараў прасунуліся далёка, але яны ўсё яшчэ недасканалыя і часам могуць дапускаць памылкі. На вайне такая памылка можа азначаць, што чалавека могуць прыняць за ворага.
«Гэта не павінна быць тэхналогія, ад якой залежыць жыццё або смерць чалавека. Калі вы не пройдзеце праверку, вас могуць пасадзіць у турму або, не дай бог, нават забіць. Зусім не так варта выкарыстоўваць гэтую тэхналогію», — гаворыць Конар Хілі, эксперт па распазнаванні твараў.
Альберт Фокс Кан з праекта па наглядзе за тэхналогіямі назірання назваў гэта «блізкай катастрофай у галіне правоў чалавека».
«Калі тэхналогія распазнавання твараў дапускае памылкі ў мірны час, людзей памылкова арыштоўваюць. Калі распазнаванне твараў спрацоўвае з памылкай у зоне баявых дзеянняў, могуць расстраляць нявінных людзей», — заявіў ён.
«Бі-бі-сі» звярнулася да ўкраінскага ўрада па каментары з нагоды выкарыстання «Clearview», але адказу не атрымала.

Дакладнасць без дазволу

Заснавальнік «Clearview» Хоан Тон-Дат гаворыць у абарону сваёй тэхналогіі, што яе дакладнасць — вышэй за 99%.
Многае залежыць ад якасці здымка, пазіцыі галавы, ад таго, ці закрыты чым-небудзь, напрыклад, маскай, твар.
Але ёсць яшчэ і пытанне абароны асабістай інфармацыі, з якім у «Clearview» былі праблемы ў Еўропе і ЗША. Кампанія збірае фотаздымкі ў «Фэйсбуку», «Інстаграме», а таксама расійскай «ВКонтакте». Але яна не пытае дазволу на выкарыстанне здымкаў у гэтых сацыяльных сетак, ды і наогул у каго-небудзь.
Калі вы чытаеце гэты артыкул, вы амаль дакладна знаходзіцеся ў базе даных «Clearview», хоць, хутчэй за ўсё, ніколі не давалі на гэта дазвол.