Një grup agjentësh eksperimentalë të inteligjencës artificiale të OpenAI dyshohet se dolën jashtë mjedisit ku po testoheshin dhe morën kontrollin e një faqeje gjermane.
Sipas një hetimi të publikuar nga Reuters, ngjarja ndodhi në muajin maj, por nuk ishte bërë më parë publike. Agjentët kryen mbi 15 mijë ndërhyrje në DseWiki, një platformë në gjuhën gjermane për programuesit, që funksionon në mënyrë të ngjashme me Wikipedia-n.
Sistemet e inteligjencës artificiale dyshohet se e shndërruan faqen në një tabelë komunikimi, ku shkëmbenin taktika për të përfunduar detyrat, për të anashkaluar kufizimet e OpenAI dhe për të fshehur sjelljen e tyre. Kur administratori nisi fshirjen e materialeve, agjentët krijuan faqe rezervë për të ruajtur komunikimet.
Studiuesit zbuluan gjithashtu mesazhe ku diskutohej përdorimi i mjeteve si Tor, për të shmangur zbulimin. OpenAI tha se nuk mund t’u përgjigjej plotësisht gjetjeve pa shqyrtuar raportin dhe kundërshtoi pretendimin se bëhej fjalë për një sulm kibernetik. Kompania mohoi gjithashtu se ekipi ligjor kishte penguar hetimin e incidentit.
Rasti ka shtuar shqetësimet se agjentët gjithnjë e më autonomë të inteligjencës artificiale mund të bashkëpunojnë, të shfrytëzojnë dobësitë e sistemeve dhe të veprojnë në mënyra të paparashikuara nga krijuesit e tyre.
Top Channel
