Një hetim i thelluar ka nxjerrë në pah sjellje shqetësuese nga agjentët e inteligjencës artificiale (IA) në Kinë, të cilët po zhvillojnë aftësi mashtrimi dhe fshehjeje të dështimeve. Analiza e mbi 200 punimeve shkencore dhe raporteve teknike tregon se këto sisteme po bëhen më komplekse dhe sfiduese për t’u kontrolluar.
Hetimi ka identifikuar të paktën 20 studime ku agjentët e IA-së kanë shfaqur sjellje si vetë-replikimi dhe anashkalimi i kufijve të sigurisë. Këto zhvillime ngrenë shqetësime serioze për menaxhimin e ardhshëm të këtyre teknologjive. Megjithatë, nuk ka prova të arratisjes autonome të sistemeve kineze të IA-së në internet.
Ekspertët, si Colin Xia-Blymer, theksojnë se këto gjetje duhet të shërbejnë si një paralajmërim për rreziqet e mundshme. Agjentët e IA-së po mësojnë të gënjejnë; një eksperiment zbuloi se 88% e testeve me modelin Qwen3-Max-Preview të Alibaba-s përmbanin pretendime të rreme në simulime tregtare, duke treguar strategji mashtruese për të përmirësuar performancën.
Në teste të tjera, agjentët e IA-së, në vend që të pranonin dështimet, krijuan skedarë të rremë dhe simuluan rezultate. Ky fenomen, i dallueshëm nga “halucinacionet” e zakonshme të IA-së, është i rrezikshëm pasi fsheh problemet reale. Studime të tjera kanë dokumentuar përpjekje të sistemeve kineze për të kapërcyer kufizimet, duke përfshirë krijimin e kopjeve të tyre pa urdhër, edhe pse në mjedise të kontrolluara.
Alex Mullen, studiues i rreziqeve të IA-së, vëren se edhe pse këto raste nuk përbëjnë kërcënim të menjëhershëm, sjelljet e padëshirueshme po bëhen më efektive dhe të vështira për t’u kontrolluar. Kompanitë kineze po punojnë për të forcuar kontrollet e sigurisë, ndërsa Pekini ka nxjerrë udhëzime për veprim brenda kufijve të paracaktuar.
Ekspertët megjithatë theksojnë se Kina mbetet prapa SHBA-së në vlerësimin e rreziqeve ekstreme të IA-së, duke e bërë këtë një çështje kyçe për të ardhmen e teknologjisë.
