Nezmierme sa s pravdepodobnosťou konca
Autor je spoluzakladateľom organizácie AI Safety Connect, ktorá bude budúci týždeň počas Valného zhromaždenia OSN organizovať medzisektorové stretnutie na vysokej úrovni o bezpečnosti najpokročilejšej AI.
Jacob Coxon, výskumník spoločnosti Anthropic, dal výpoveď s odôvodnením, že odvetvie ignoruje riziko, že umelá inteligencia môže vyhubiť ľudstvo. O niekoľko dní neskôr zverejnil generálny riaditeľ Anthropicu Dario Amodei esej, v ktorej vysvetlil, ako a prečo musia technologické firmy a vlády spolupracovať na spomalení vývoja najpokročilejšej AI, aby sa nevymkla spod kontroly. Ďalší sa rýchlo pridali.
Nič z toho nie je nové. Geoffrey Hinton, renomovaný počítačový vedec označovaný za „krstného otca umelej inteligencie“, už dávnejšie odhadol na 10 až 20 percent pravdepodobnosť, že pokročilá AI môže v priebehu nasledujúcich tridsiatich rokov ľudstvo vyhubiť. Znie to alarmujúco, zároveň to však znamená 80- až 90-percentnú šancu na prežitie. Ako teda zvýšiť pravdepodobnosť, že sa naplní práve tento bezpečnejší scenár?
Existujú spôsoby, ako ľudstvo posunúť na bezpečnejšiu stranu Hintonových odhadov. Nič nám síce nedáva záruku, niekoľko podmienok by však mohlo výrazne pomôcť.
Dobrý základ
Samozrejmým východiskom je spolupráca medzi Spojenými štátmi a Čínou, teda krajinami s najväčším vplyvom na budúcnosť umelej inteligencie. Amodeiho návrh na zapojenie nezávislých externých hodnotiteľov, stanovenie hraníc schopností AI a vytvorenie spoločných štandardov predstavuje dobrý základ. Nemôže však zostať iniciatívou jedinej spoločnosti. Dohodnúť sa musia aj ďalší aktéri vrátane vlád.
Spomalenie vývoja by malo byť prvou podmienkou a okamžitým cieľom. Získali by sme tým čas na vybudovanie troch mechanizmov hodnotenia: overovania, či nedochádza k utajenému vývoju a nasadzovaniu systémov, nezávislého posudzovania nebezpečných schopností AI a spoločného monitorovania incidentov doplneného o krízové protokoly.
Existujú precedensy, keď Čína a Spojené štáty dokázali spolupracovať, aby sa vyhli spoločnému riziku. V novembri 2024 sa Washington a Peking dohodli, že rozhodovanie o použití jadrových zbraní by nemalo byť delegované na umelú inteligenciu. Rivalitu medzi oboma krajinami to neukončilo a ani to nebolo cieľom. Sústredili sa na spoločný problém: rozhodovanie o jadrových zbraniach.
