https://youtu.be/SNONL4IecHE
Czym właściwie jest Rekognition? Gdy obejrzymy powyższy film lub spojrzymy na oficjalny opis tego rozwiązania/usługi, opublikowany przez serwis Amazon, dowiadujemy się, że jest to system umożliwiający analizę obrazu i identyfikację twarzy, ludzi, wykrywanie scen, konkretnych działań, rozpoznawanie tekstu wraz z możliwością wykrywania niepożądanych działań, czy treści. Amazon Rekognition szczególnie dobrze ma sobie radzić z bardzo dokładną analizą, wykrywaniem, porównywaniem i katalogowaniem twarzy. Można go wykorzystać do liczenia osób i użyć mocy systemu do zapewnienia bezpieczeństwa publicznego. Dodajmy: w czasie rzeczywistym.
System ten jest oczywiście maszynowo wyuczoną sztuczną inteligencją, stanowiącą usługę gotową do wykorzystania przez inne podmioty. Użytkownik/zamawiający usługę Rekognition nie musi być biegłym analitykiem danych i znać niuanse uczenia maszynowego. Zamiast tego Amazon udostępnia łatwy w obsłudze interfejs API pozwalający zintegrować system Rekognition z istniejącymi systemami. Z jakimiż to systemami Rekognition jest zatem integrowany?
W chwili obecnej wiadomo, że system Amazona został już “zatrudniony” przez departamenty policji Orlando na Florydzie oraz hrabstwa Washington w stanie Oregon. Przy czym stopień integracji Rekognition z istniejącą infrastrukturą jest dość różny. Szeryf hrabstwa Washington korzysta po prostu z udostępnianej przez Amazon usługi analizy wcześniej zarejestrowanych obrazów, płacąc za to – wg dziennikarzy Washington Post – od 6 do 12 dolarów (ok. 40 zł) miesięcznie.
W znacznie szerszym kontekście Rekognition został użyty przez policję miasta Orlando. W tym przypadku system odpowiada za analizę rejestrowanych na bieżąco obrazów w systemie miejskiego monitoringu. Co to oznacza? System automatycznie jest w stanie rejestrować i powiadamiać o niepożądanych działaniach, dostarczając policji jednocześnie informacji o tym, kto za dane działanie odpowiada. Oczywiście chodzi o łapanie przestępców, ale w tym przypadku mamy do czynienia de facto z monitoringiem wszystkich, absolutnie wszystkich obywateli, którzy są w zasięgu kamer monitoringu miejskiego. Nic dziwnego, że współpraca Amazona z rządem USA wzbudziła w amerykańskich mediach głośne pytania o granice naruszania prywatności obywateli. Nie tylko w ACLU, ale również w mediach głównego nurtu.
Główny problem polega na tym, że Rekognition jest tylko narzędziem. Bardzo użytecznym narzędziem, jednak za jego używanie odpowiadają ludzie, którzy tym samym zyskują możliwość śledzenia praktycznie każdego, kto znajdzie się w zasięgu oddziaływania zintegrowanego z Rekognition systemu monitoringu. Zrozumiałe, że chcemy by policja łapała przestępców, ale czy chcemy by policjant mógł w każdej chwili sprawdzić gdzie jesteś, co robisz? Oczywiście niektórzy mogą argumentować, że przecież są uczciwymi obywatelami i nie mają nic do ukrycia. Problem leży gdzie indziej i wyraża go łacińska maksyma: Quis custodiet ipsos custodes, czyli “kto ma pilnować tych, co pilnują?”.
Nawiązanie na początku tekstu do systemu oceny obywateli w Chinach nie było przypadkowe. Gdy zobaczycie w jaki sposób działa Rekognition, dojdziecie do tego samego co i my wniosku, że przypisanie jakiemukolwiek obserwowanemu obywatelowi ocen za “praworządność” czy jakichkolwiek innych współczynników, to kwestia aktualizacji kodu. Zresztą system można rozwinąć w najróżniejszych kierunkach. W jakim ostatecznie kształcie i czy będzie on funkcjonował w całych Stanach Zjednoczonych? Czas pokaże. | CHIP