Përmbytje të mëdha në Turqi, shirat sjellin kaos në Sangario dhe Bursa 30/09 16:29
Skema e ngjyrave
Madhësia e shkrimit
Kompania kineze e inteligjencës artificiale Moonshot ka nisur me urgjencë një hetim të brendshëm pasi studiuesit e kompanisë së sigurisë Mindgard arritën të bindnin dy nga modelet e saj të njohura Kimi që t’u tregonin se si të prodhojnë armë biologjike dhe si të kryenin atentate.
Mindgard, një kompani që teston sigurinë e sistemeve të inteligjencës artificiale, i tha BBC-së se kishte zbuluar që modelet Kimi K2.6 dhe K3 Swarm mund të anashkalonin kufizimet e sigurisë të vendosura nga zhvilluesit.
Zbulimi erdhi gjatë një procesi të quajtur “jailbreaking”, ku studiuesit përdorin një sërë udhëzimesh komplekse për të testuar nëse mjetet e AI-së mund të shpërfillin masat mbrojtëse të vendosura prej tyre. Sipas Mindgard, këto masa duhej ta kishin penguar Kimi-n të diskutonte tema të tilla shqetësuese.
Moonshot, nga ana e saj, pohoi për BBC se e mirëpret kontributin nga palët e treta, duke e konsideruar atë “një shtyllë kryesore për ndërtimin e një inteligjence artificiale më të mirë dhe më të sigurt”.
Mindgard ia raportoi problemin Moonshot më 27 korrik, ndërsa gjetjet e saj i publikoi në shtator. Kompania këmbëngul se në testet e veta, modelet kishin treguar përgjithësisht një shkallë të lartë refuzimi ndaj kërkesave të tilla.
Këto gjetje vijnë në një kohë kur industria e inteligjencës artificiale vazhdon të jetë e ndarë lidhur me atë se cila është rruga më e mirë dhe më e sigurt për të ardhmen: modelet e mbyllura dhe pronësore, si ato që përdoren nga ChatGPT dhe sistemet Claude të Anthropic, apo mjetet me burim të hapur (open-source).
Kimi është një model “open-weight”, që do të thotë se, në teori, dikush mund ta marrë modelin dhe ta ekzekutojë vetë në infrastrukturën e tij kompjuterike.
Top Channel
