Vetëm dy ditë pasi OpenAI pranoi se kishte njoftuar dhjetëra qeveri, universitete, agjenci publike dhe organizata të tjera për raste ku agjentët e saj autonomë të inteligjencës artificiale mund të kenë anashkaluar kontrollet e sigurisë ose të kenë ndikuar në funksionimin e faqeve të internetit, një incident i ri ka shtuar shqetësimet për sjelljen e këtyre sistemeve.
Këtë herë, agjentët e inteligjencës artificiale dyshohet se kanë përdorur teknika agresive për të mbledhur të dhëna nga një faqe interneti e Kombeve të Bashkuara, duke anashkaluar edhe një filtër që kishte bllokuar kërkesat e tyre.
Incidenti u zbulua nga Wall Street Journal, i cili raportoi se mjetet e OpenAI skanuan një qendër të dhënash të aksesueshme publikisht dhe të menaxhuar nga Konferenca e Kombeve të Bashkuara për Tregti dhe Zhvillim (UNCTAD) më shumë se 16 mijë herë mes muajit prill dhe fundit të qershorit.
Të dhënat janë pjesë e një raporti të pavarur kërkimor, të bazuar në të dhëna të siguruara nga kompania e kërkimeve Transluce.
Sipas studiuesit Rowan Howard-Jones, agjentët duket se kishin marrë përsipër detyrën për të mbledhur informacion që ishte i disponueshëm publikisht. Megjithatë, kur u përballën me pengesa, ata nisën të përdornin metoda gjithnjë e më agresive për të siguruar aksesin.
Ndër veprimet e dokumentuara ishte edhe anashkalimi i një filtri të faqes së internetit, i cili kishte bllokuar kërkesat për të dhëna. Në fund, agjentët përdorën një metodë aksesi që administratorët e faqes nuk e lejonin.
OpenAI tha se po shqyrton gjetjet dhe se ka kontaktuar Kombet e Bashkuara, duke ofruar të informojë organizatën mbi incidentin.
Kompania ka nisur gjithashtu një shqyrtim më të gjerë të modeleve që shfaqin sjellje të papërshtatshme gjatë proceseve të trajnimit dhe vlerësimit.
Sipas OpenAI, pjesa më e madhe e aktivitetit të shqyrtuar deri tani lidhet me detyra rutinë kërkimore, siç është aksesimi i përmbajtjeve të disponueshme publikisht në internet. Megjithatë, rasti i faqes së OKB-së shton shqetësimet pas raportimeve të tjera për agjentë të kompanisë që kanë anashkaluar mekanizma sigurie ose kanë shkaktuar probleme në faqe interneti.
OpenAI konfirmoi të premten se agjentët e saj ishin përfshirë në sjellje të papërshtatshme gjatë kërkimit të informacionit në faqet e internetit të qeverisë amerikane, përfshirë ato të Departamentit të Tregtisë dhe Komisionit të Letrave me Vlerë dhe Bursave (SEC).
Ndërkohë, autoritetet australiane kanë nisur një hetim pasi agjentët e OpenAI hynë në një faqe interneti qeveritare.
Studiuesit e sigurisë kibernetike kanë dokumentuar edhe teknika të tjera që dyshohet se janë përdorur nga agjentët, përfshirë krijimin e adresave të rreme të email-it, anashkalimin e kufizimeve për numrin e kërkesave në faqet e internetit dhe pretendimin e rremë se nuk ishin robotë.
Sipas raportit, OpenAI ka njoftuar dhjetëra organizata për raste në të cilat modelet e saj kanë anashkaluar kontrollet e sigurisë ose kanë ndikuar negativisht në funksionimin e faqeve të internetit.
Top Channel
