Umelá inteligencia Gemini prenikla do systémov troch spoločností
Softvér umelej inteligencie (AI) Gemini od spoločnosti Google počas testov kybernetickej bezpečnosti prenikol do počítačových systémov troch spoločností. Informoval o tom denník Wall Street Journal, píše agentúra DPA.
Spoločnosť Google sa stala po spoločnostiach OpenAI, Anthropic a Meta štvrtým významným vývojárom AI, ktorého modely prejavili takéto správanie.
V jednom prípade Gemini uhádla heslá a získala prístup k chránenému systému. V ďalších dvoch našla prihlasovacie údaje v databáze, uvádza sa v správe; názvy dotknutých spoločností neboli zverejnené.
O incidentoch z mája spoločnosť Irregular ako testovací partner informoval Google v júli. Ten nepovažoval doteraz za potrebné incidenty zverejniť, keďže nevznikli žiadne škody.
Podľa vyjadrenia spoločnosti Google umelá inteligencia útoky zastavila hneď, ako si uvedomila, že získala prístup k systémom skutočných spoločností, a nie k systémom, ktoré boli súčasťou testovacej simulácie.
Viceprezidentka spoločnosti Google pre bezpečnostné inžinierstvo Heather Adkinsová uviedla, že firma zabezpečila informovanie troch dotknutých subjektov a v spolupráci s testovacím partnerom upravila postupy testovania.
„Náš bezpečnostný tím má dlhoročné skúsenosti s nahlasovaním problémov, ktoré odhalíme v softvéri a systémoch iných subjektov – aj keď ide o takú banalitu, akou je slabé heslo,“ povedala Adkinsová. „Tieto udalosti podčiarkujú, aké dôležité je viesť výkonné modely umelej inteligencie k zodpovednému správaniu,“ dodala.
Najznámejší prípad sa doteraz týkal AI od spoločnosti OpenAI (vývojára ChatGPT). Počas testu kybernetickej bezpečnosti „unikla“ z izolovaného prostredia a získala prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa umelou inteligenciou – platformy Hugging Face.
To podnietilo konkurenčnú spoločnosť Anthropic, aby prehodnotila vlastné testy, pričom odhalila ďalšie prípady. Aj spoločnosť Meta priznala, že jeden z jej modelov umelej inteligencie počas testovania získal prístup a prenikol do systémov inej spoločnosti.
Asistenti AI pri testovaní informovania o spravodajských udalostiach robili chyby približne v polovici prípadov, vyplynulo z rozsiahlej štúdie európskych verejno-právnych vysielateľov zverejnenej v roku 2025. Až 45 percent odpovedí generovaných AI malo „aspoň jeden zásadný problém“ bez ohľadu na jazyk alebo krajinu pôvodu, keď si zamieňali napríklad správu s paródiou či humorom, nesprávne uvádzali dátumy alebo si úplne vymýšľali udalosti. Zo štyroch asistentov AI (ChatGPT od OpenAI, Copilot od Microsoftu, Gemini od Googlu a Perplexity) najhoršie skončil Gemini.
