Varovanie Anthropicu pred apokalypsou umelej inteligencie je príliš slabé
Niekoľko dní po tom, ako jeden z jeho bývalých zamestnancov verejne varoval pred hrozbou, ktorú umelá inteligencia predstavuje pre ľudstvo, prišiel šéf Anthropicu Dario Amodei s niečím, čo má vyzerať ako riešenie. V eseji navrhuje, aby laboratóriá vyvíjajúce umelú inteligenciu spomalili najpokročilejší výskum a reagovali tak na signály, že by sa technológia mohla vymknúť spod kontroly.
Na prvý pohľad to znie rozumne. Anthropic sa prezentuje ako spoločnosť, ktorá berie bezpečnosť umelej inteligencie najvážnejšie, a Amodei hovoril o tom, že chce viesť „preteky nahor“ – nastavovať čoraz prísnejšie bezpečnostné štandardy, ktorými by sa pri vývoji výkonných systémov riadili aj ostatní. Lenže tento ideál bol zrejme od začiatku nedosiahnuteľný.
Klamú stále lepšie
Čím výkonnejšími sa agenti umelej inteligencie stávajú, tým pravdepodobnejšie dokážu klamať ľudí a tým ťažšie je kontrolovať ich. Ambícia Amodeia a ďalších priekopníkov, ako je Sam Altman z OpenAI, vytvoriť superinteligentné systémy sa preto čoraz ťažšie dá zladiť s akýmkoľvek dôrazom na bezpečnosť. Riziká spojené už so samotným pokusom vytvoriť takéto modely môžu byť priveľké.
Amodei v nedeľných televíznych rozhovoroch povedal, že súhlasí s názorom svojho bývalého zamestnanca Jacoba Coxona, ktorý na sieti X napísal, že ľudia vyvíjajúci umelú inteligenciu „úprimne veria, že do konca desaťročia by nás všetkých mohla zabiť“. Nie je prekvapením, že Amodei zároveň upozornil na ďalšiu Coxonovu tézu: Anthropic je podľa neho najbezpečnejšou voľbou, komu vývoj tejto technológie zveriť.
Amodeiova esej s 3831 slovami je však dosť neurčitá v tom, čo s tým robiť. Všeobecne vyzýva na koordináciu medzi vládami a technologickým priemyslom. Jeho najkonkrétnejším odporúčaním je, aby v jeho firme aj u konkurentov pôsobili externí audítori a kontrolovali, či dodržiavajú primerané bezpečnostné postupy.
To však problém iba odsúva. Amodei výslovne uvádza, že „spomalenie tempa“ neznamená zastavenie trénovania modelov ani technického pokroku. Ak skutočne súhlasí s Coxonom, mal by najpokročilejší výskum svojej firmy zastaviť – najmä všetko, čo súvisí s vývojom agentov umelej inteligencie schopných samostatne vytvárať svojich vlastných nástupcov. Coxon varoval konkrétne pred touto technikou, známou ako rekurzívne sebazdokonaľovanie (RSI).
Výskumníci pracujúci na RSI tvrdia, že túto technológiu možno vyvíjať v izolovanom, kontrolovanom prostredí, aby nemohla napáchať škody na otvorenom internete. Lenže modely umelej inteligencie – ktoré dnes už dokážu na internete vykonávať úlohy ďaleko presahujúce obyčajné generovanie obsahu – z takéhoto prostredia unikli už v minulosti.
