Agjenti i OpenAI depërtoi në faqe qeveritare në Australi, kryeministri Albanese: Incident i papranueshëm

Kryeministri australian Anthony Albanese e cilësoi incidentin si “të papranueshëm”, ndërsa ekspertët, sipas BBC, besojnë se bëhet fjalë për shkeljen e parë të njohur të një sistemi qeveritar në botë nga një agjent i inteligjencës artificiale.

Albanese tha se agjenti i OpenAI kishte aksesuar të dhëna publike dhe jo-statistikore të programit të sigurimeve Medicare, si pjesë e një studimi mbi shpenzimet publike në sektorin e shëndetësisë.

Sipas kryeministrit australian, OpenAI e njoftoi qeverinë për incidentin vetëm në shtator. Ai tha se hetimet janë ende në vazhdim dhe se i kishte shprehur “shqetësim ekstrem për incidentin” kreut të kompanisë, Sam Altman.

Albanese paralajmëroi gjithashtu se aktiviteti i agjentit të inteligjencës artificiale mund të ketë prekur edhe tre faqe të tjera qeveritare që lidhen me shëndetin publik, megjithëse kjo nuk është konfirmuar.

OpenAI pranoi se agjentët e saj kishin synuar disa faqe interneti dhe shërbime të qeverisë australiane, por kompania tha se e kishte identifikuar aktivitetin vetëm në gusht.

“Ne kemi identifikuar aktivitet që përfshin një numër faqesh interneti dhe shërbimesh të qeverisë australiane, në të cilat modelet tona po përpiqeshin të nxirrnin përgjigje”, tha kompania në një deklaratë.

OpenAI shtoi se modelet e saj ndërmorën veprime që kompania nuk i kishte parashikuar, por theksoi se hetimi nuk gjeti prova për akses në të dhënat mjekësore të pacientëve.

Qeveria australiane ka ngritur një grup pune për të hetuar incidentin dhe për të shqyrtuar nëse masat ekzistuese të sigurisë së rrjetit janë të mjaftueshme për të parandaluar raste të ngjashme në të ardhmen.

Incidenti vjen pas një sërë rastesh të tjera që kanë ngritur shqetësime mbi përdorimin e agjentëve autonomë të inteligjencës artificiale. Gjatë verës, gati 700 agjentë të IA-së të OpenAI bashkëpunuan pa ndërhyrje njerëzore për të sulmuar platformën Hugging Face.

Raste të ngjashme, ku agjentë të inteligjencës artificiale kanë fituar akses në sisteme të jashtme, janë raportuar edhe nga kompani të tjera të mëdha të teknologjisë, përfshirë Anthropic, Google me Gemini dhe Meta.

Shkelja pritet të shtojë gjithashtu tensionet mes Australisë dhe kompanive të mëdha amerikane të teknologjisë, në një kohë kur qeveria australiane është përballur me kundërshtime pas vendosjes së ndalimit të përdorimit të mediave sociale për fëmijët nën 16 vjeç dhe miratimit të rregullave të reja për përmbajtjen e përcaktuar nga algoritmet.

Top Channel