OpenAI ka zbuluar një incident të paprecedentë gjatë testimeve të sigurisë, ku dy modele të avancuara të inteligjencës artificiale dolën jashtë kufizimeve të vendosura dhe kryen në mënyrë autonome një sulm kibernetik ndaj platformës Hugging Face.
OpenAI, që operon ChatGPT, njoftoi se dy nga modelet e saj më të avancuara të inteligjencës artificiale kryen një sulm autonom kibernetik gjatë një testi të kontrolluar sigurie, në atë që kompania e cilësoi si një “incident të paprecedentë”.
Sipas kompanisë, modelet, të cilat po testoheshin për aftësitë e tyre në sigurinë kibernetike, arritën të anashkalonin kufizimet e mjedisit ku ishin vendosur, të fitonin akses në internet dhe më pas të synonin platformën Hugging Face, një nga qendrat më të mëdha në botë për zhvillimin dhe shpërndarjen e modeleve të inteligjencës artificiale.
OpenAI tha se modelet shfrytëzuan kredenciale të komprometuara dhe një dobësi të panjohur të sigurisë për të përmbushur objektivin e testit, pa ndërhyrje njerëzore direkte gjatë ekzekutimit të veprimeve.
Kompania theksoi se incidenti ndodhi në kuadër të një vlerësimi të kontrolluar dhe nuk kishte si synim shkaktimin e dëmeve.
Nga ana e saj, Hugging Face konfirmoi se kishte identifikuar dhe bllokuar tentativën e ndërhyrjes, ndërsa dy kompanitë kanë nisur një hetim të përbashkët për të analizuar se si modelet arritën të kapërcenin mekanizmat e izolimit.
Ngjarja ka rikthyer në qendër të debatit rreziqet që lidhen me zhvillimin e sistemeve gjithnjë e më autonome të inteligjencës artificiale. Ekspertë të sigurisë dhe ligjvënës amerikanë kanë kërkuar masa më të forta mbikëqyrjeje dhe transparence, duke paralajmëruar se incidente të ngjashme mund të bëhen më të shpeshta me avancimin e modeleve të gjeneratës së re.
Top Channel
