Një analizë e re nga Axios ngre shqetësime në rritje mbi mënyrën se si sistemet e Inteligjencës Artificiale po evoluojnë: më pak gabime të dukshme, por më shumë përgjigje të pasakta që paraqiten me gjuhë të sigurt dhe bindëse. Sipas artikullit, problematikat kryesore nuk lidhen më vetëm me “halucinacionet” e qarta, por me përgjigje që duken të sakta në sipërfaqe, të mbështetura me formulime të qeta, citime të mundshme dhe përmbledhje që tingëllojnë profesionale, por që në fakt mund të jenë të gabuara.
Kjo rrit rrezikun që përdoruesit të mbështeten pa verifikim në rezultate të AI-së, veçanërisht në fusha të ndjeshme si kërkimi akademik, mjekësia apo vendimmarrja profesionale. Ekspertët theksojnë se edhe pse modelet janë përmirësuar në reduktimin e gabimeve të dukshme, ato nuk janë bërë “motorë të së vërtetës”, por më tepër “motorë të besueshmërisë gjuhësore”, që optimizojnë për rrjedhshmëri dhe përvojë përdoruesi, jo domosdoshmërisht për saktësi absolute.
Profesori i UC Berkeley, Dan Klein, paralajmëron se këto sisteme nuk duhet të trajtohen si burime të së vërtetës, por si mjete që prodhojnë përgjigje të mundshme. Sipas tij, optimizimi për shpejtësi dhe kënaqësi të përdoruesit mund të dëmtojë saktësinë faktike. Ndërkohë, studime të reja në fushën e mjekësisë tregojnë se mjetet e AI-së për shënime klinike mund të jenë të dobishme si draft fillestar, por shpesh lënë jashtë detaje të rëndësishme, si kohëzgjatja e simptomave apo elemente kritike të diagnozës.
Një studim i Universitetit Yale mbi studentët e vitit të parë të mjekësisë tregoi se, ndonëse përdorimi i AI-së për përmirësimin e shënimeve nuk e përkeqësoi cilësinë e tyre, vetë modelet shpesh prodhonin mungesa ose pasaktësi të rëndësishme. Problemi thellohet nga mënyra se si përdoruesit ndërveprojnë me këto sisteme. Studime të tjera sugjerojnë se njerëzit shpesh nuk i verifikojnë më rezultatet e AI-së, duke kursyer kohë, por duke rritur rrezikun e gabimeve të pakapura. Ekspertët paralajmërojnë se kompanitë e AI-së vazhdojnë të përmirësojnë teknika si “retrieval-augmented generation” për të rritur saktësinë, por ende nuk ekziston një garanci për rezultate të plota të besueshme.
