Prava pretnja je nesmotrena upotreba veštačke inteligencije, a ne sama AI, tvrdi šefica tehnološke kompanije

Upozorenje: Ovaj članak sadrži nepristojan rečnik

Meredit Viteker nema mnogo strpljenja za AI katastrofičare koji ovih dana dominiraju vestima – ona smatra da su upozorenja da će se veštačka inteligencija okrenuti protiv čovečanstva strah „koji nije naučno utemeljen“.

„Rizik je veoma stvaran“, kaže šefica fondacije Signal, koja vodi istoimenu aplikaciju za enkriptovane poruke, „ali to nisu fensi horor priče o kojima govore uzbuđeni dečaci.“

Umesto toga, ona veruje da je neposrednija opasnost od nesmotrene upotreba tehnologije.

Ona kao primer navodi navodni incident, o kom je izveštavao CNN, u kom je četbot koji koristi američka obaveštajna služba izmislio informaciju o kineskom brodu sa nuklearnim materijalom, navodno dovevši do toga da SAD počnu da se pripremaju za vojni odgovor.

„Zamalo smo zaratili sa Kinom. Sistem koji proizvodi netačne obaveštajne podatke i zamalo nas uvuče u rat sa Kinom ne bi smeo da se smatra super-inteligentnim po bilo kojim standardima“, kaže ona za BBC Globalne žene.

Signal ima procenjenih 40-70 miliona korisnika – što je samo kap u okeanu u poređenju sa Vocapom, koji ima milijarde.

Ali je slavan po strogom stavu prema zaštiti privatnosti korisnika – on krije ko šalje poruke od vlastitih servera, ograničavajući podatke koji su dostupni spoljnim posmatračima ili hakerima.

Protest zbog projekta Mejven

Časopis Tajm je nazvao Viteker jednom od najmoćnijih osoba u veštačkoj inteligenciji.

Ona se kreće prostorijama u kojima se raspravlja o budućnosti, od konferencijskih sala Silicijumske doline do Dauning Strita, Davosa i Vatikana.

Studirala je književnost na univerzitetu i pridružila se Guglu 2006. godine kao privremena radnica na početnoj poziciji bez diplome iz kompjuterskih nauka.

Krajem 2017. proslavila se kad joj je kolega ispričao za projekat Mejven, tajni Guglov ugovor sa američkim Ministarstvom odbrane da izradi veštačku inteligenciju za napadanje dronova.

Ona je razumela šta znači „kompresovati lanac ubijanja“: skratiti vreme između trenutka kad mašina nađe metu i donošenja odluke da se otvori vatra, skrativši razmatranje.

Sa hiljadama kolega, ona je pružila otpor.

„Ovo će proizvesti loš obaveštajni rad i loše informacije“, priseća se ona kako je tvrdila u javnosti.

Naredne godine je Viteker pomogla u organizaciji masivnog izlaska, u kom je nekih 20.000 članova osoblja protestovalo zbog načina na koji je kompanija rešavala nekoliko pitanja, među njima i ono što su smatrali da je zbrzano uvođenje nove tehnologije.

Gugl je odustao od tog ugovora, ali ga je Palantir prihvatio.

Ona povlači direktnu vezu između Mejvena i ovogodišnjeg američkog raketnog napada na školu u Iranu, za koji kaže da se oslanjao na ovaj sistem i na zastarele obaveštajne podatke koji su identifikovali školu kao vojnu metu.

„Ovo je upravo ono na šta smo upozoravali 2017. godine“, kaže ona.

U odgovoru, Palantir je rekao da „ne postoje dokazi da je Palantirov softever bio kriv za ovu strašnu tragediju.“

Iz kompanije su dodali da „Palantir nije odgovoran za podatke koji se koriste, kao ni za identifikovanje propusta u obaveštajnim podacima.“

A ranije ove godine, njegov britanski i evropski šef Luis Mozli rekao je za BBC da „uvek postoji čovek u lancu, tako da uvek postoji čovek koji donosi konačnu odluku.“

Američka vojska tek treba da objavi nalaze vlastite istrage o udaru na Minab, ali ministar odbrane Pit Hegset kaže da „ona nikad ne bi gađala civilne mete“.

'Imam kičmu'

Razne vlade, pa tako i britanska, zahtevaju veći pristup razgovorima o aplikacijama za slanje poruka.

One kažu da je to zbog zaštite žena i dece.

Na Londonskoj tehnološkoj nedelji 2026. godine, tadašnji premijer Kir Starmer rekao je da se od tehnoloških kompanija očekuje da pronalaze i blokiraju golišave slike na uređajima dece ili da se suoče sa zakonskim merama.

Viteker tvrdi da bi deca uspela da zaobiđu bilo kakvu takvu meru, nazvavši vladin pristup „neprikosnoveni režim kontrole komunikacija i informacija“.

Ministarstvo za nauku, inovaciju i tehnologiju reklo je za BBC da priprema novi zakon.

Da li bi Signal napustio bilo koju zemlju, pa tako i Veliku Britaniju, koja bi ga prisilila da oslabi vlastitu enkripciju?

„Da! Moj Bože, imam kičmu“, kaže ona.

„Ona se ne menja u zavisnosti od raspoloženja. Ona se ne menja u zavisnosti od konsultanata.“

Suočeni sa razotkrivanjem ljudi „koji zavise od nas, ponekad u kontekstu života ili smrti, pred nadzorom koji bi mogao da se iskoristi protiv njih“, kaže ona, „mi bismo napustili tržište.“

Aplikacija je potpuno ili delimično blokirana u Rusiji, Kini i Iranu.

Rani Govender, šef Onlajn bezbednosti dece pri Nacionalnom društvu za prevenciju svireposti prema deci, rekao je za BBC da je pričao sa decom koja su bila „grumovana“ i prebacivana na kompletno enkriptovane platforme, gde se od njih zahtevalo da stvaraju seksualni materijal.

„Tehnološke kompanije su odgovorne za izbore dizajna koje prave i ne mogu da ignorišu rizike koje ti izbori mogu da stvore po decu.“

Ali Signal uživa podršku nekih grupa za zaštitu žena, često onih sa Globalnog juga koje i same koriste ovu aplikaciju.

„U vreme masovnog nadzora države i sajber-napada, Signal je alatka za preživljavanje“, kaže Hera Husein, osnivačica dobrotvorne ustanove za borbu protiv rodnog zlostavljanja Čejn, aktivne širom Južne Azije.

„Kao i sa svakom platformom, nju mogu da koriste i loši akteri, i mi moramo da budemo svesni te istine takođe.“

'Šta ćemo raditi sa kuhinjama?'

Podsetila sam Viteker na slučaj iz Kanade, kada su policajci delili rasističke i mizogine poruke u grupi na Signalu koje su procurele i javnost tek kad ih je jedan od njih prosledio medijima.

Advokat jednog od policajaca rekao je kako su ljudi verovali da je Signal jednako privatan i bezbedan kao i njihov vlastiti dom.

„Da su vodili taj isti razgovor u kuhinji i njihov ortak ih otkucao, da li bi onda bilo: 'Šta ćemo raditi sa kuhinjama?'“, pita se ona.

„To mora da funkcioniše za svakoga ili da ne funkcioniše ni za koga. To je načelo fundamentalnih prava. Ona važe čak i za gadove.“

Ona navodi primer Amerikanke koja je završila u zatvoru nakon što je Meta prijavila poruke koje pokazuju da je pomogla ćerki da ode na abortus u državi gde je on kriminalizovan.

Privatna komunikacija, kaže ona, štiti ljude od raznih vrsta pretnji – „supružnika koji zlostavlja, mizoginih pripadnika policije sa pristupom bazi podataka ili autoritarnih vlada koje ne smatraju da žene treba da se obrazuju.“

Šta bi poručila ženi koja želi da uđe na tehnološko polje, ali je zastrašena izričito rodnim aspektom profesije?

„Da li ga voliš?“, kaže ona.

„Da li sedneš za terminal i osetiš nalet energije? Da li uživaš u igranju sa sistemima veštačke inteligencije i njihovom definisanju?“

Zatim pravi pauzu i kaže: „Da li si sposobna da se snađeš u zanimljivim i nezgodnim okruženjima gde neće svi biti opušteni? Zato što nema ničeg opasnijeg od toga kad si kukavica pred siledžijom.“

Pitam je da li su ova okruženja puna siledžija.

Njen kolega kaže: „Mislim da je dva sata“ – vreme kad smo se dogovorili da okončamo intervju.

Meredit se smeši.

„Rekla bih da ne budete simp“, kaže ona, koristeći termin za nekoga ko iskazuje ekstremnu popustljivost pred predstavnicima autoriteta.

„To vam neće pomoći. Ne smejte se šali ako ne mislite da je smešna.“

Dodatno izveštavanje: Kejti Roberts

• Ovo je deo serijala Globalne žene sa BBC-jevog Svetskog servisa, koji donosi neispričane i važne priče sa čitave planete

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu, Vajberu. Ako imate predlog teme za nas, javite se na [email protected]

• Curenje podataka iz Bele kuće: Šta je aplikacija Signal i koliko je bezbedna
• BBC Verifaj: Šta se zna o napadu na školu u Iranu
• Tri poruke iz prepiske na Signalu o napadu na Jemen – analiza i objašnjenje