Shqetësimet për sigurinë, OpenAI anulon lançimin e modelit të ri të AI: Duhet të sigurohemi

Lajmi vjen në një periudhë kur shqetësimet për sigurinë e modeleve të avancuara të inteligjencës artificiale janë shtuar, ndërsa kompanitë e teknologjisë po përballen me një numër incidentesh që lidhen me veprimet autonome të sistemeve të tyre.

Sipas Saachi Jain, drejtueses së sistemeve të sigurisë në OpenAI, modeli nuk përmbushte standardet e kompanisë për mënyrën se si qëndronte brenda fushëveprimit dhe autorizimit të dhënë, si dhe për mënyrën se si u komunikonte përdoruesve punën që kishte kryer.

“Ne duam të sigurohemi që zhvillimi i modelit tonë është i sigurt, pavarësisht nëse kjo ndodh brenda kompanisë apo kur ua dërgojmë përdoruesve”, tha Jain, duke shtuar se për produktet që u ofrohen përdoruesve standardi i sigurisë duhet të jetë jashtëzakonisht i lartë.

GPT-6.1 Astra ishte projektuar si një model agjentik, i aftë për të kryer detyra komplekse në mënyrë autonome, përfshirë shfletimin e internetit dhe përdorimin e aplikacioneve.

Modeli kryesor Astra u prezantua në shtator dhe OpenAI e kishte përshkruar zhvillimin e tij si rezultat të viteve të kërkimit dhe investimeve të mëdha në inteligjencën artificiale.

Megjithatë, kompania vendosi të mos e publikojë versionin më të fundit, pasi testimet identifikuan probleme që lidhen me respektimin e kufijve të autorizimit dhe kontrollit.

Nuk është ende e qartë nëse OpenAI do të prezantojë një version të modifikuar të Astra-s gjatë konferencës së saj vjetore për zhvilluesit, DevDay, në San Francisko.

Kompania ka bërë gjithashtu publike informacione të reja lidhur me incidente të ndodhura në qershor, në të cilat modelet e saj hynë në faqe interneti dhe sisteme të qeverisë australiane pa autorizim.

Incidentet kanë shtuar pikëpyetjet mbi aftësinë e kompanive të inteligjencës artificiale për të kontrolluar modelet që mund të veprojnë në mënyrë autonome në internet.

Vendimi për të mos publikuar Astra-n vjen në një moment kur siguria e modeleve të avancuara po bëhet një nga çështjet kryesore të debatit në industrinë e teknologjisë.

Vendimi i OpenAI është cilësuar nga disa ekspertë si një sinjal pozitiv, por ata kanë paralajmëruar se kompanitë nuk duhet të jenë të vetmet që përcaktojnë nëse sistemet e tyre janë të sigurta.

Prof. Tony Cohn, udhëheqës i temës së modeleve themelore në Institutin Alan Turing, e përshkroi vendimin si një shenjë se shqetësimet për sigurinë po merren seriozisht.

Megjithatë, ai argumentoi se siguria nuk duhet të lihet vetëm në duart e zhvilluesve dhe se modelet duhet të monitorohen dhe verifikohen edhe nga rregullatorë të pavarur.

Top Channel