Inteligjenca Artificiale mund të përbëjë një sfidë të re për sigurinë kibernetike, pasi modelet e saj më të vogla po zhvillojnë aftësi për të identifikuar pajisje të cenueshme dhe për të tentuar të kopjojnë veten në to.
Kompania amerikane Anthropic paralajmëron se, në të ardhmen e afërt, agjentët e IA-së mund të shfrytëzojnë pajisje shtëpiake të lidhura me internetin, si televizorët inteligjentë dhe furrat elektronike, për t’u përhapur në rrjete të tjera.
Sipas analizës së publikuar nga kompania, një skenar i tillë mund të jetë i vështirë për t’u ndalur nëse programet arrijnë të përhapen nga një pajisje në tjetrën pa ndërhyrjen e njeriut dhe pa një pikë të vetme qendrore nga ku mund të çaktivizohen.
Gjatë eksperimenteve, studiuesit testuan nëse modelet e Inteligjencës Artificiale mund të identifikojnë pajisje të cenueshme, të kopjojnë veten dhe të kalojnë nga një pajisje te tjetra në mënyrë autonome.
Sipas Anthropic, modelet me më pak se 30 miliardë parametra janë në gjendje të kryejnë disa nga hapat e nevojshëm për këtë proces, por ende hasin vështirësi në përfundimin e të gjithë zinxhirit të veprimeve.
Një nga testet përfshiu përdorimin e modelit Gemma 4-26B-A4B të Google në një rrjet me 15 pajisje Android TV me kosto të ulët, të prodhuara nga marka më pak të njohura. Eksperimenti synonte të vlerësonte nëse modeli mund të shfrytëzonte pajisjet e lidhura në rrjet për të provuar përhapjen e tij.
Kompania thekson se deri tani nuk është identifikuar një sistem që vetëpërhapet plotësisht dhe në mënyrë të pakontrolluar. Megjithatë, aftësia e modeleve për të realizuar veçmas hapat e nevojshëm për një proces të tillë po rritet.
Paralajmërimi rikthen në vëmendje rreziqet që lidhen me zhvillimin e agjentëve të IA-së, të cilët mund të kryejnë detyra komplekse me gjithnjë e më pak ndërhyrje njerëzore. Nëse këto aftësi kombinohen me dobësi në sigurinë e pajisjeve të lidhura në internet, ato mund të krijojnë mundësi për sulme kibernetike dhe përhapje të programeve të padëshiruara në rrjete shtëpiake.
Për këtë arsye, Anthropic bën thirrje për forcimin e mekanizmave mbrojtës dhe përgatitjen ndaj skenarëve ku sisteme të tilla mund të bëhen realitet. Sipas kompanisë, është e rëndësishme që sistemet të projektohen në mënyrë që të vështirësohet vetëpërhapja, ndërsa paralelisht të zhvillohen masa për të kufizuar pasojat e mundshme.
