Anthropic, kompania e njohur për zhvillimin e asistentit të inteligjencës artificiale Claude, ka ndërmarrë një hap të rëndësishëm drejt transparencës duke u dhënë qasje të brendshme gjashtë studiuesve të organizatës METR. Ky veprim synon të forcojë sigurinë dhe përgjegjshmërinë në fushën e inteligjencës artificiale (AI), duke u mundësuar këtyre ekspertëve të vlerësojnë në mënyrë më të thellë sistemet e saj.
Studiuesit nga METR do të kenë mundësinë të shqyrtojnë nga afër modelet e AI dhe praktikat e sigurisë që zbatohen nga Anthropic. Ky nivel qasjeje, i ngjashëm me atë të punonjësve të kompanisë, do t’u lejojë atyre të vlerësojnë në mënyrë gjithëpërfshirëse rreziqet dhe mënyrat e menaxhimit të tyre. Me këtë marrëveshje, Anthropic dëshmon angazhimin e saj për një qasje më të hapur.
METR, një organizatë jofitimprurëse e specializuar në testimin e modeleve të avancuara të AI, do të jetë në gjendje të publikojë përfundimet e saj pa ndikim nga kompania, duke garantuar kështu një proces vlerësimi të pavarur dhe të besueshëm. Studiuesit do të kenë akses në mjetet dhe laptopët e brendshëm të Anthropic për vlerësimin e rreziqeve, duke krijuar një ambient pune të ngjashëm me atë të stafit të kompanisë.
Kjo qasje e zgjeruar do të mundësojë analizimin jo vetëm të performancës së modeleve, por edhe të proceseve me të cilat kompania identifikon dhe menaxhon potencialet probleme. Një pikë kyçe e marrëveshjes është publikimi i gjetjeve: METR do të ketë të drejtë të nxjerrë vlerësime për rreziqet dhe incidentet pa nevojën e miratimit paraprak nga Anthropic. Kjo do të thotë se kompania nuk mund të pengojë publikimin e raporteve kritike, duke siguruar një mbikëqyrje më të fortë dhe të pavarur.
Anthropic e ka krahasuar këtë qasje me praktikën e mbikëqyrjes në sektorin bankar, ku inspektorët rregullatorë operojnë brenda institucioneve për të monitoruar aktivitetin dhe rreziqet. Kjo tregon përpjekjen e kompanisë për të krijuar një model të ngjashëm vlerësimi për AI, duke siguruar mbikëqyrje të vazhdueshme dhe të besueshme.
Megjithatë, marrëveshja përfshin edhe kufizime. Anthropic mund të kërkojë heqjen e materialeve që përmbajnë të dhëna të klientëve ose informacione të tjera konfidenciale. Në këto raste, METR do të ketë mundësinë të përshkruajë publikisht kërkesat e kompanisë, duke ruajtur kështu kërkesën për transparencë në procesin e vlerësimit. Ky bashkëpunim me METR bën pjesë të një strukture më të gjerë mbikëqyrjeje që Anthropic po zhvillon, duke u përgjigjur kështu shqetësimeve në rritje për sigurinë e AI dhe nevojën për kontroll të pavarur dhe transparencë në këtë fushë vendimtare.
