Macron chce zakázať používanie AI, ak ohrozuje duševné zdravie detí
Francúzsky prezident Emmanuel Macron chce zakázať používanie umelej inteligencie (AI) v prípadoch, keď predstavuje riziko pre duševné zdravie detí. Vyhlásil to v pondelok v rozhovore pre denník Les Echos, deň pred prijatím charty zameranej na ochranu detí pred rizikami umelej inteligencie na Parížskom mierovom fóre.
„Ak pri určitých spôsoboch používania umelej inteligencie existuje riziko pre deti, musí sa zakázať,“ povedal Macron. Podľa neho nemožno dovoliť, aby sa AI vyvíjala bez pravidiel. Zakázať by sa mala všade tam, kde ohrozuje duševné zdravie alebo vývoj mozgu detí.
Macron, ktorý presadzuje aj zákaz používania sociálnych sietí pre osoby mladšie ako 15 rokov, má v utorok dostať odporúčania expertnej komisie zameranej na ochranu detí pred rizikami AI. Táto oblasť je podľa francúzskeho prezidenta menej preskúmaná než vplyv sociálnych sietí.
Medzi opatrenia navrhované v pripravovanej charte patrí nezávislé hodnotenie generatívnych systémov umelej inteligencie pred ich uvedením na trh či sprístupnenie údajov o ich modeloch. Spoločnosti majú prijať aj princíp predbežného auditu a certifikácie, teda kontroly modelov ešte predtým, ako sa dostanú do rúk detí.
Na iniciatíve sa majú podieľať aj americké spoločnosti OpenAI a Anthropic. Charta má podľa Macronovho úradu prispieť k diskusii o budúcej legislatíve na vnútroštátnej aj európskej úrovni. Francúzsky prezident chce podobné pravidlá presadzovať aj v Spojených štátoch, Kanade a ďalších krajinách.
Macron v pondelok prostredníctvom videokonferencie rokoval o bezpečnostných rizikách umelej inteligencie s približne 50 predstaviteľmi štátov, medzinárodných organizácií, technologických spoločností a výskumných pracovísk. Zúčastnili sa na nej okrem iných premiéri Británie, Kanady, Nórska, Holandska a Japonska, ako aj šéfovia spoločností OpenAI, Anthropic, Mistral a Microsoft.
Riziká umelej inteligencie Macron rozdelil do troch oblastí: ochranu detí, demokratickú bezpečnosť a závažné otázky národnej bezpečnosti.
Na deviaty ročník Parížskeho mierového fóra odcestuje v utorok aj slovenský prezident Peter Pellegrini, ktorý sa plánuje stretnúť s Macronom.
