Secondo il Data and AI Impact Report di SAS e IDC, la governance, la trasparenza dei dati e la spiegabilità dei processi garantiscono performance fino a 15 volte superiori
Un'analisi condotta da SAS con il supporto dei dati di ricerca IDC nel report intitolato "Data and AI Impact Report: The New Economics of Trust" rileva come l'adozione di pratiche di Trustworthy AI, ovvero un'intelligenza artificiale improntata a criteri di affidabilità, governance e trasparenza, si traduca in una probabilità quindici volte superiore di ottenere un elevato ritorno sugli investimenti rispetto all'impiego di sistemi privi di adeguati controlli. La ricerca evidenzia che le realtà dotate di protocolli rigorosi in materia di qualità dei dati, tracciabilità e auditabilità riescono a raddoppiare i risultati economici derivanti dall'implementazione dell'intelligenza artificiale, mentre una quota inferiore al cinque per cento delle organizzazioni sprovviste di tali processi dichiara ritorni analoghi.
Le criticità legate alla mancanza di spiegabilità emergono come un fattore determinante nel limitare l'efficacia dei sistemi, poiché l'incapacità dell'algoritmo di motivare le decisioni porta fino al 97,2 per cento degli utenti a intervenire manualmente per correggere o modificare i risultati generati, vanificando i guadagni in termini di produttività. Il livello di fiducia espresso dagli operatori mostra inoltre una flessione al crescere dell'autonomia operativa, passando dal 76 per cento per l'IA generativa al 66 per cento nei confronti dell'IA agentica.
Bryan Harris, CTO di SAS, ha dichiarato: “Quando funziona, l'intelligenza artificiale può avere un impatto straordinario. Tuttavia, è ampiamente documentato che anche gli agenti più avanzati possono registrare tassi di errore superiori al 25% nelle attività complesse, un livello inaccettabile quando sono in gioco decisioni rilevanti. Per garantire accuratezza e ripetibilità, le organizzazioni devono integrare competenze di dominio nei workflow agentici, mantenendo al tempo stesso le persone al centro dei meccanismi di controllo e supervisione. Chi riuscirà a farlo potrà colmare il divario di fiducia e ottenere un vantaggio competitivo grazie all'IA”.
Dallo studio emerge inoltre che le imprese impegnate in misure per l'affidabilità dell'intelligenza artificiale registrano parametri migliori su tredici indicatori aziendali, tra cui contenimento dei costi, crescita del fatturato ed esperienza del cliente, con l'85 per cento delle realtà più avanzate che prevede un incremento superiore al dieci per cento negli investimenti dedicati alla governance dell'IA nel corso dell'anno. Un fattore di rallentamento primario resta tuttavia rappresentato dall'inadeguatezza dell'architettura informativa, poiché solo il 17,5 per cento delle imprese dispone di un'infrastruttura dati pienamente ottimizzata per supportare l'IA agentica, laddove la presenza di fondamenta dati solide quadruplica la probabilità di ottenere un ROI elevato.
L'adozione di framework strutturati differisce sensibilmente tra i diversi settori: nell'ambito bancario l'85 per cento delle realtà ad alta maturità tecnologica possiede linee guida di governance definite rispetto al 29 per cento delle aziende ritardatarie, nel settore pubblico il 41 per cento dei soggetti leader pianifica incrementi di spesa superiori al venti per cento per l'IA affidabile, mentre il comparto delle scienze della vita registra la più alta penetrazione dell'intelligenza artificiale su scala aziendale con il 23 per cento. Nell'analizzare l'evoluzione dell'autonomia tecnologica, Chris Marshall, Vice President di IDC, ha affermato: “Man mano che l'intelligenza artificiale acquisisce maggiore autonomia, le organizzazioni devono affrontare una nuova sfida: mantenere la fiducia in sistemi che le persone non comprendono fino in fondo. I risultati della ricerca mostrano che supervisione, spiegabilità, responsabilità e solide basi dati stanno diventando prerequisiti per scalare l'IA con successo”.
