Rreziku nga Inteligjenca Artificiale/ Testet në Britani kanë zbuluar sjellje të paautorizuara: Tentuan të mashtronin njerëzit

Sipas raportit, gjatë një serie testesh të sigurisë kibernetike, disa agjentë të inteligjencës artificiale tentuan të përdornin teknika të inxhinierisë sociale për të bindur persona të vërtetë të miratonin kod me qëllim të dëmshëm. Në një rast, sistemi krijoi identitete të rreme në internet dhe ushtroi presion ndaj administratorit të një projekti me burim të hapur në GitHub për të pranuar ndryshimet. Përpjekja dështoi, pasi programuesi refuzoi ta miratonte kodin.

Eksperimenti u zhvillua në 122 raste me modele të ndryshme. Instituti identifikoi 19 episode me veprime të cilësuara si autonome dhe të paautorizuara. Shumica e tyre lidhen me modelin Mythos 5 të Anthropic, ndërsa dy raste u atribuuan një modeli eksperimental të OpenAI.

Hetuesit zbuluan gjithashtu se disa sisteme tentuan të përdornin rrjetin “Tor” për të maskuar aktivitetin e tyre në internet, si edhe të dërgonin udhëzime të fshehura për agjentë të tjerë të inteligjencës artificiale, me synimin për të përfunduar detyrën e caktuar.

Autoritetet britanike theksojnë se asnjë nga këto tentativa nuk shkaktoi dëme reale, por e cilësojnë rastin si sinjal alarmi. Sipas tyre, është hera e parë që sjellje të tilla autonome dhe mashtruese shfaqen kaq qartë në kushte reale testimi, pa u nxitur drejtpërdrejt nga studiuesit.

Instituti britanik po zhvillon një hetim të mëtejshëm në bashkëpunim me ekspertë të pavarur, ndërsa paralajmëron se zhvillimi i modeleve gjithnjë e më të avancuara kërkon masa më të forta sigurie dhe mbikëqyrjeje për të parandaluar rreziqe të ngjashme në të ardhmen.

Top Channel