L’Impatto della Trustworthy AI: Governance e Trasparenza per Moltiplicare il ROI

Un recente studio condotto da SAS, in collaborazione con IDC, ha messo in evidenza l’importanza della governance e della trasparenza nella Trustworthy AI, rivelando che l’adozione di tali pratiche può incrementare il ritorno sugli investimenti (ROI) fino a 15 volte rispetto a sistemi privi di controlli adeguati.

Le organizzazioni che implementano protocolli rigorosi riguardanti la qualità dei dati, la tracciabilità e l’auditabilità riescono a raddoppiare i risultati economici derivanti dall’uso dell’intelligenza artificiale. Al contrario, meno del 5% delle aziende che non adottano tali processi riesce a ottenere ritorni simili.

Un aspetto critico emerso dallo studio è l’assenza di spiegabilità, che limita l’efficacia dei sistemi di AI. Infatti, la mancanza di capacità degli algoritmi di motivare le proprie decisioni porta fino al 97,2% degli utenti a intervenire manualmente per correggere o modificare i risultati, vanificando i guadagni di produttività. Inoltre, la fiducia degli operatori diminuisce con l’aumentare dell’autonomia dei sistemi: dal 76% per l’IA generativa al 66% per l’IA agentica.

Lo studio ha anche rivelato che le aziende impegnate a garantire l’affidabilità dell’IA ottengono performance superiori su 13 indicatori aziendali, tra cui il contenimento dei costi, la crescita del fatturato e l’esperienza del cliente. Inoltre, l’85% delle aziende più avanzate prevede un aumento superiore al 10% degli investimenti in governance dell’IA nell’anno in corso.

Tuttavia, un limite diffuso è rappresentato dall’architettura informativa: solo il 17,5% delle aziende dispone di un’infrastruttura dati completamente ottimizzata per supportare l’IA agentica. Al contrario, solide fondamenta dati possono quadruplicare la probabilità di ottenere un ROI elevato.

La variazione nell’adozione di framework strutturati è evidente anche tra i diversi settori: nel settore bancario, l’85% delle aziende ad alta maturità ha linee guida di governance definite, rispetto al 29% dei ritardatari. Nel settore pubblico, il 41% dei leader prevede aumenti di spesa superiori al 20% per l’IA affidabile, mentre nelle scienze della vita la penetrazione dell’IA su scala aziendale è del 23%.

Bryan Harris, CTO di SAS, ha commentato che anche agenti avanzati possono registrare tassi di errore superiori al 25% nelle attività complesse. Per garantire accuratezza e ripetibilità, è fondamentale integrare competenze di dominio nei workflow agentici, mantenendo le persone al centro dei controlli. Chris Marshall, Vice President di IDC, ha sottolineato che supervisione, spiegabilità, responsabilità e solide basi dati sono prerequisiti essenziali per scalare con successo l’autonomia dell’IA.