Më shumë se 120 organizata, mes tyre Nvidia, Cisco dhe CrowdStrike, po mbështesin një nismë për krijimin e një kuadri të përbashkët, që do t’u kërkonte kompanive të raportojnë incidentet e shkaktuara nga agjentët autonomë të Inteligjencës Artificiale dhe të ruajnë të dhëna të detajuara për mënyrën se si kanë ndodhur. Nisma po zhvillohet nga Open Secure AI Alliance, e cila po harton udhëzimet për një sistem të propozuar me emrin Shared AI Findings Exchange (SAFE). Synimi është krijimi i një standardi të përbashkët për raportimin dhe analizimin e incidenteve të sigurisë që përfshijnë agjentë AI.
Sipas propozimit, organizatat pjesëmarrëse do të duhet të raportojnë raste kur një sistem AI hyn ose shfrytëzon pa autorizim një sistem të palës së tretë, ekspozon ose merr informacione konfidenciale, vazhdon të hetojë një sistem real edhe pasi operatori dyshon se aktiviteti është i paautorizuar. Do të raportohen gjithashtu disa raste ku incidenti është shmangur në momentin e fundit, ndërsa kompanitë do të duhet të ruajnë prova të hollësishme, përfshirë prompts, gjurmët e veprimeve të agjentit, thirrjet ndaj mjeteve, identitetet, lejet dhe kredencialet.
Sipas afateve të propozuara, organizata e prekur duhet të njoftohet sa më shpejt të jetë e mundur. Një raport fillestar konfidencial do t’i dërgohej SAFE brenda katër ditëve pune, ndërsa një raport paraprak faktik mund të publikohej brenda 30 ditësh. Brenda 90 ditësh do të kërkohej një përditësim mbi masat e marra për korrigjimin e problemit.
Një nga parimet kryesore të propozimit është se qëllimi i sistemit AI nuk përcakton nëse një incident duhet raportuar apo jo. Edhe nëse operatori besonte se sistemi po punonte në një mjedis të simuluar, kjo nuk do ta eliminonte detyrimin për raportim nëse agjenti ka prekur sisteme reale. Justin Boitano, drejtues në Nvidia, e ka krahasuar sistemin me mënyrën se si funksionon raportimi i sigurisë në aviacion. Ideja është që gjurmët e plota të një agjenti AI; çfarë ka bërë, cilat mjete ka përdorur dhe çfarë komandash ka ekzekutuar, të funksionojnë si një “regjistrues fluturimi”.
