WÊRELD. – Besonderhede van ’n kuberveiligheidstoets wat in Mei uitgevoer is, het dié week nuwe aandag op die vermoëns en risiko’s van gevorderde kunsmatige intelligensie gevestig. Google het bevestig dat sy Gemini-model tydens die toets toegang tot drie werklike maatskappye se stelsels verkry het.
Die voorvalle het in Mei plaasgevind tydens ’n kuberveiligheidstoets deur Irregular, ’n onafhanklike maatskappy wat KI-stelsels se kuberveiligheidsvermoëns evalueer. Die besonderhede is eers op 18 September openbaar gemaak nadat The Wall Street Journal Google oor die voorvalle uitgevra het.
Gemini is tydens die toets veronderstel om binne ’n geslote omgewing op ’n fiktiewe maatskappy se stelsels te werk. Die toetsomgewing was nie veronderstel om internettoegang te hê nie, maar toegang tot die internet is volgens Irregular onbedoeld beskikbaar gestel.
Die fiktiewe maatskappy in die toets het ook dieselfde naam as ’n werklike maatskappy gehad. Gemini het gevolglik toegang tot werklike stelsels verkry toe dit probeer het om die opdrag binne die toets te voltooi.
In een van die gevalle het die model herhaaldelik wagwoorde geraai totdat dit toegang tot ’n beskermde stelsel verkry het. In twee ander gevalle het dit aanmeldbesonderhede in ’n openbare aanlyn bewaarplek gevind en dit gebruik om toegang tot beskermde stelsels te kry.
Google se vise-president vir sekuriteitsingenieurswese, Heather Adkins, het gesê Gemini het in al drie gevalle die aktiwiteit gestaak nadat dit besef het dat dit toegang tot werklike maatskappye verkry het.
Volgens Google is die drie betrokke maatskappye van die voorvalle in kennis gestel en is daar saam met Irregular aanpassings aan die toetsproses gemaak. Google het gesê die voorvalle het geen skade aan die maatskappye veroorsaak nie.
Irregular het Google volgens berigte eers in Julie van die voorvalle in kennis gestel. Die maatskappy het gesê alle relevante KI-ontwikkelaars is teen einde Julie ingelig en dat die bekende probleme aan sy kant intussen opgelos is.
Die voorval plaas Google ook binne ’n groter reeks soortgelyke insidente wat tydens KI-veiligheidstoetse aangemeld is. Modelle van onder meer OpenAI, Anthropic en Meta is in vorige toetse met Irregular ook aan werklike stelsels blootgestel.
Die voorvalle vestig aandag op die uitdagings wat ontstaan wanneer KI-agente toenemend selfstandig kan optree en toegang tot die internet en rekenaarstelsels het. Dit beklemtoon ook die belang van behoorlik geïsoleerde toetsomgewings wanneer sulke stelsels se vermoëns geëvalueer word.
Google het intussen gesê die voorvalle wys waarom gevorderde KI-modelle opgelei moet word om verantwoordelik op te tree.
Bronne: BBC, Google, ABC News, The Guardian, Axios
