Z Číny vyzerá AI armagedon inak
Čínske vedenie by bolo nešťastné, keby sa AI podarilo rozvrátiť miestnu komunistickú spoločnosť.
Namiesto predstavy, že nás všetkých pozabíjajú umelou inteligenciou poháňaní agenti, ktorí sa vymknú spod kontroly, má Peking bezprostrednejšiu nočnú moru: technológia by ešte predtým mohla pomôcť rozvrátiť spoločnosť.
Po tom, ako Silicon Valley uplynulý týždeň stupňovalo obavy, že AI môže zničiť ľudstvo, Čína odmietla „šírenie strachu“. Minister štátnej bezpečnosti Čchen I-sin v nedeľu zverejnil esej, ktorá ponúka pohľad na niektoré z najväčších obáv krajiny. Vyhynutie ľudstva medzi nimi nie je.
Na prvom mieste je hrozba, že technológia môže prostredníctvom deepfakeov, vplyvových operácií a kognitívnej vojny vo veľkom rozsahu narušiť spoločenskú stabilitu. Na druhom sú kybernetické hrozby, ktoré by mohli výrazne uľahčiť získavanie citlivých a osobných údajov.
Nedávny prípad naznačuje, že tieto dve riziká môžu ísť ruka v ruke. Začiatkom tohto mesiaca malý tím výskumníkov v oblasti kybernetickej bezpečnosti v Kalifornii zverejnil výsledky experimentu, pri ktorom dokázal simulovať závažné narušenie bezpečnosti WeChatu – superaplikácie, ktorá v Číne v podstate funguje ako kritická digitálna infraštruktúra každodenného života.
Spoločnosť Calif so sídlom v Palo Alto, ktorá zverejnila informácie o hrozbe nazvanej „WeWorm“, potvrdila, že materská spoločnosť WeChatu Tencent Holdings Ltd. už riziko odstránila.
Tím opísal, ako pomocou nástrojov AI dokázal vytvoriť škodlivý kód, ktorý v priebehu niekoľkých sekúnd úplne ovládol účet na WeChate. Bežný používateľ pritom vidí iba prichádzajúci hovor od niekoho zo svojho zoznamu kontaktov.
Oznámenie zraniteľnosti spoločnosti Tencent však prebehlo hladko a bez technických problémov, napísal Bruce Dang zo spoločnosti Calif. Dodal, že inžinieri reagovali promptne a problémy boli „rýchlo odstránené“.
Katastrofe, ktorá mohla destabilizovať platformu používanú viac než miliardou ľudí na podnikanie, platenie za tovary a komunikáciu, sa podarilo zabrániť vďaka rýchlej cezhraničnej spolupráci.
Generálny riaditeľ Calif Thai Duong označil experiment vo svojom blogu za „výzvu Spojeným štátom, Číne a ďalším vládam, aby spolupracovali medzi sebou aj so súkromným sektorom na bezpečnom vývoji a nasadzovaní AI“.
Ešte pozoruhodnejšie je jeho tvrdenie, že obviňovať AI a obmedzovať jej ďalší vývoj je „nesprávne ponaučenie“. Zraniteľnosti tu už sú. Zmenilo sa to, že AI ich dokáže „nájsť a opraviť“.
Inými slovami, príbeh WeChatu nie je argumentom za spomalenie pretekov, ale za to, aby sa transparentnosť stala reálnou cestou vpred, ktorá bude politicky prijateľná vo Washingtone aj v Pekingu.
Napriek čoraz hlasnejším apokalyptickým varovaniam zo Silicon Valley prezident Si Ťin-pching v nedeľnom prejave na summite BRICS v Naí Dillí zdôraznil predstavu Pekingu o „otvorenom ekosystéme AI“. Si vyzval na rámec riadenia založený na „konsenze“, čo v praxi znamená, že pravidlá nebudú určovať iba Spojené štáty.
Je to v súlade s tým, že jeho najvyšší predstaviteľ spravodajských služieb Čchen zároveň vyzýva na globálnu spoluprácu pri riešení rizík, no odmieta, aby si jedna krajina monopolizovala moc nad umelou inteligenciou – čo je len slabo zastretý odkaz Spojeným štátom.
