Niebezpieczny rodzaj magii

Kobieta podchodzi do dwóch rowerzystów w parku:

– Nazywasz się Kit? – pyta jednego z nich po rosyjsku.
– Tak.
– Masz 26 lat i mieszkasz w Moskwie?
– Tak.
– Jak myślisz, skąd to wszystko wiem?
– Jakaś magia?

Wideo z tej rozmowy, opublikowane siedem lat temu, wciąż można zobaczyć na YouTubie. Kobieta testowała nową rosyjską aplikację mobilną. Producent reklamował ją jako wspaniałe narzędzie do prześwietlania przypadkowych osób na ulicy, rewolucję dla randkujących. Ale nie tylko. – Interesujące byłoby stworzenie algorytmu, który mógłby efektywnie współpracować z kamerami CCTV. (…) To uczyniłoby nasze miasta znacznie bezpieczniejszymi – opowiadał w tym samym filmiku Artem Kukharenko, współzałożyciel i (wtedy) szef NtechLab, wynalazcy FindFace.

Aplikacja rzeczywiście okazała się rewolucyjna – ale nie w segmencie flirtów i randek.

Jesienią 2021 r. NTechLab reklamuje się już jako „wiodący twórca oprogramowania AI”, zapewniając rozpoznawanie twarzy i ciała oraz identyfikację pojazdów. Działa w ponad 30 krajach. Na konferencji G20 Innovation League w Sorrento Andriej Telenkow, dyrektor generalny firmy, chwali się patentem zarejestrowanym w USA: „Mamy zastrzeżony algorytm wyszukiwania, który może przeszukiwać zdjęcia 1,5 miliarda osób w mniej niż 0,3 sekundy”.

Telenkow rozwija wachlarz korzyści, jakie proponuje jego firma: zapobieganie przestępstwom, pomoc osobom starszym, znajdowanie zaginionych dzieci. Nie wspomina, że służby bezpieczeństwa Rosji wcześniej tego roku wykorzystały technologię NtechLabu do aresztowania uczestników demonstracji poparcia dla Aleksieja Nawalnego.

Miliony na inwigilację

W Kremlin Leaks znaleźliśmy dowody na to, że Putin płaci grube miliony za zaawansowane technologie inwigilacji.

W 2024 r. przeznaczył na projekt masowej inwigilacji ok. 4,86 mld rubli. Na lata 2024-2026 co najmniej 11,2 mld rubli – ponad 111 mln euro.

Pieniądze oficjalnie przeznaczone są na mętnie brzmiące „stworzenie platformy do agregacji danych otrzymywanych z usługi w celu inteligentnego przetwarzania transmisji wideo, rozpoznawania obiektów zainteresowania i wsparcia analitycznego usługi”.

Jeden z dokumentów opisuje cel projektu bardziej szczegółowo: „W ramach zadań polityki wewnętrznej: zapewnienie terminowej identyfikacji zagrożeń, obiektów będących nośnikami ryzyka w obszarze polityki wewnętrznej, ich ewidencji, badania i analizy, w tym w kontekście rozpoznawania transmisji wideo i zdjęć wysokiej jakości, a także sprawdzania matryc i osób pod kątem destrukcyjnych i/lub nielojalnych zachowań”. 

Dokumenty budżetowe przewidują, że administracja Putina za 80 mln rubli rocznie kupi licencję programu do rozpoznawania twarzy od NtechLab. 

Technologia FindFace firmy NtechLab została już wykorzystana na dużą skalę podczas mistrzostw świata w piłce nożnej w 2018 r. w Rosji. Jej system był podłączony do kamer na stadionach, w strefie kibica i miastach otaczających wydarzenia, monitorując zebranych tam 1,8 mln ludzi. NtechLab ich dane biometryczne rejestrował i porównywał z bazami danych przestępców. System był w stanie zidentyfikować osobę w ciągu dwóch sekund.

Rosyjski system nadzoru NtechLab był też stosowany w czasie mistrzostw świata w Katarze w 2022 r., z których rosyjska reprezentacja została wykluczona po inwazji na Ukrainę.

Ślady wiodą na Cypr

Państwowa grupa obronna Rostec przedstawia system nadzoru NtechLab jako własny. Już w 2019 r. ogłosiła, że rozpoznawanie twarzy będzie wykorzystywać na potrzeby sił zbrojnych i specjalnych. Chwali się, że „w 2022 r. firma wdrożyła projekty w 36 krajach, a system Rostec był używany podczas mistrzostw świata FIFA w Katarze”. 

Struktura własnościowa NtechLab jest skomplikowana – założona w 2015 r. firma należy do innego podmiotu, zarejestrowanego na Cyprze, o łudząco podobnej nazwie: N-Tech.Lab Ltd. A struktura własności cypryjskiej spółki również jest złożona. Wiemy, że obecnie ma ośmiu udziałowców, w tym:

• Investco, rosyjską spółkę Aleksandra Nikołajewicza Nazarowa. Nazarow do grudnia 2022 r. był dyrektorem generalnym RT Business Development, oficjalnego ramienia inwestycyjnego Rostecu;
• Aton Investment Fund, powiązanego z Aton Capital Markets (ACM), funduszem ze Zjednoczonych Emiratów Arabskich. Tożsamość prawdziwych beneficjentów funduszu jest niejasna;
• ND Blue, cypryjski podmiot, który należy do funduszu powiązanego z rosyjsko-armeńskim oligarchą Rubenem Wartanianem. Wartanian był uważany za cichego inwestora NtechLab. Po inwazji na Ukrainę trafił na listę ukraińskich sankcji za zarządzanie spółką Volga Dnepr, kluczową w transporcie lotniczym rosyjskiej armii (zachodnie sankcje go nie objęły);
• Thirty Seventh Investment Company, własność Mubadala, funduszu z Abu Zabi. Ramię inwestycyjne tego funduszu zainwestowało w NSO Group, izraelską firmę stojącą za Pegasusem;
• W NtechLab zainwestował też rosyjski fundusz Promising Industrial and Infrastructure Technologies, należący do państwa i objęty sankcjami w USA. W 2020 r. NtechLab ogłosił, że fundusz Mubadala i rosyjski fundusz państwowy przekazały mu 15 mln USD na inwestycje; 
• Ayar International Investments Company, fundusz z siedzibą w Arabii Saudyjskiej, aktywny w rosyjskich projektach inwestycyjnych;
• Perun Overseas Ltd, spółka offshore zarejestrowana na Wyspach Dziewiczych, której struktura własnościowa jest niejasna. Wraz z Rostec ma niewielkie udziały w innej rosyjskiej spółce.

Certyfikat od FSB

We wrześniu 2022 r., siedem miesięcy po inwazji Rosji na Ukrainę, Andriej Nikanorow, kierownik projektów w NtechLab, pokazuje prezentację na konferencji Digital Aviation & Travel Forum w Moskwie. Z dumą ogłasza, że FindFace przeszło certyfikację Federalnej Służby Bezpieczeństwa.

Jak ważnym stał się system NtechLabu dla reżimu Putina wiemy też z innej prezentacji – dyrektora generalnego Rostecu Siergieja Czemiezowa. Czemiezow pokazał ją Putinowi w sierpniu. NtechLab był jednym z tematów ich spotkania. „Obecnie nasz system jest używany w miastach w celu zapewnienia bezpieczeństwa. Oznacza to, że dość łatwo jest znaleźć przestępcę lub zaginioną osobę, ponieważ każda kamera ma system rozpoznawania twarzy NtechLab” – mówił Czemiezow. Zaraz potem przeszedł do objaśniania, w jaki sposób Rostecowi udało się podwoić produkcję wojskowych helikopterów. 

W marcu 2023 r. Reuters opublikował raport o tym, jak rozpoznawanie twarzy pozwala reżimowi w Rosji tłumić ewentualne bunty. Raport wspomina, że technologii NtechLab użyto m.in. przeciwko protestującym w sprawie napaści na Ukrainę. Ze zbadanych przez dziennikarzy akt 2 tys. spraw sądowych wynika, że analiza z kamer odegrała ważną rolę w aresztowaniach setek obywateli.

W lipcu 2023 r. Unia Europejska nałożyła sankcje na NtechLab za współpracę z organami ścigania przy opracowywaniu systemu rozpoznawania twarzy w Moskwie. UE nałożyła również sankcje na Olega Baranowa, szefa Głównego Zarządu Spraw Wewnętrznych Moskwy, który był powiązany z NtechLab (pod jego dowództwem organy ścigania zatrzymywały zwolenników opozycji). 

Ze względu na międzynarodowe sankcje nie jest jasne, czy NtechLab działa wciąż w UE. W czerwcu 2022 r. dziennik Delfi Latvia poinformował, że oprogramowanie NtechLab wciąż jest używane w aquaparku w nadbałtyckiej miejscowości Jurmała w Łotwie. Oprogramowanie wykorzystywano tam, aby goście mogli błyskawicznie dostać swoje zdjęcia z zabawy na wodnych zjeżdżalniach.

AI na pogrzebie Nawalnego

System rozpoznawania twarzy został wykorzystany do identyfikacji uczestników pogrzebu Aleksieja Nawalnego. Rosyjska organizacja praw człowieka OVD-Ingo, która rejestruje motywowane politycznie aresztowania, twierdzi, że znalazła już 19 przypadków, w których osoby uczestniczące w pogrzebie zostały aresztowane dzięki technologii rozpoznawania twarzy.

– Śledzony nie wie, jakie informacje są przechowywane na jego temat w bazach danych związanych z systemem, na jakiej podstawie został włączony do bazy, jak długo dane są przechowywane, czy podlegają usunięciu? To poważne naruszenie prywatności – uważa Maria Nemowa, prawniczka z OVD-info. 

Według organizacji, organa ścigania w sprawach „wzmocnionych” wyszukiwaniem twarzy mogą powoływać się na klauzulę tajności. W aktach sprawy może nie być wtedy żadnych śladów namierzania przez system rozpoznawania twarzy (oficjalnie takie praktyki są nielegalne).

Dziennikarskie śledztwo w sprawie NtechLab równolegle do nas przeprowadziły The Bureau of Investigative Journalism (TBIJ) i Follow The Money. Redakcje pokazały, w jaki sposób NtechLab wykorzystał firmę z siedzibą w UE do zatrudniania pracowników – ludzie ci mieli pomóc w szkoleniu systemu sztucznej inteligencji. Dziennikarze rozmawiali też z Władimirem Zaliszczakiem, byłym politykiem, ofiarą inwigilacji. W styczniu 2021 r., kilka dni po powrocie Nawalnego do Rosji, Zaliszczak znalazł się w pobliżu dużej demonstracji. Tydzień później w metrze kamery zidentyfikowały go jako osobę niebezpieczną: został aresztowany i skazany na 15 dni więzienia za udział w nielegalnym zgromadzeniu.

Zaliszczak uciekł z Rosji. Mieszka dziś w Niemczech. 

System jest coraz mocniejszy. NtechLab oferuje dziś monitoring mobilny: pojazd z 24 kamerami, który może działać do 8 godzin bez podłączenia do zasilania: „(…) Wyposażony w bezprzewodowe punkty dostępowe o rozszerzonym zasięgu, mobilny kompleks biometryczny umożliwia korzystanie z kamer monitorujących w odległości do 1000 metrów”.

Jak dotąd nie ma dowodów na używanie systemu na okupowanych terytoriach Ukrainy. Ale, jak ujawniliśmy we wcześniejszych częściach Kremlin Leaks, Rosja dba o monitorowanie sytuacji na zajętych terenach. Dla mediów społecznościowych chce stworzyć „system oparty na sztucznej inteligencji, który będzie wykrywał zabronione treści na zdjęciach z możliwością analizy co najmniej 200 000 zdjęć dziennie”.

Założyciele NtechLab odcinają się dziś od Kremla. Po śledztwie Reutersa stwierdzili, że podpisali antywojenną petycję: „Stało się jasne, że kraj zmierza w kierunku katastrofy, chociaż nikt nie mógł sobie wyobrazić, że kraj rozpocznie wojnę” – powiedział Reuterowi  Artem Kukharenko, założyciel firmy.

Nam Kukharenko w wiadomości na LinkedIn odpisał: „Zerwaliśmy wszelkie powiązania z firmą i przestaliśmy być również jej udziałowcami. Po naszym antywojennym oświadczeniu firma zabroniła swoim pracownikom udostępniania informacji a nawet komunikowania się z nami. Nie znamy szczegółów tego, co się w niej dzieje”.