Inteligența artificială a făcut progrese semnificative în automatizarea sarcinilor, dar o provocare esențială rămâne: explicabilitatea. Cum pot firmele și autoritățile de reglementare să aibă încredere în sistemele bazate pe AI dacă nu pot înțelege pe deplin modul în care acestea ajung la concluzii? Aici intervine Inteligența Artificială Explicabilă (XAI).
Provocarea transparenței AI
Firmele se bazează din ce în ce mai mult pe algoritmi de învățare automată pentru a identifica anomalii, a evalua riscuri și a procesa date financiare. Totuși, pe măsură ce modelele AI devin mai complexe, procesul lor decizional devine tot mai greu de interpretat. Această lipsă de transparență este un obstacol major, care trebuie să-și justifice concluziile în fața clienților, a organismelor de reglementare și a altor părți interesate.
Organismele de reglementare, precum Public Company Accounting Oversight Board (PCAOB), subliniază necesitatea transparenței în procesele de audit. Fără explicații clare privind deciziile AI, firmele ar putea întâmpina dificultăți în validarea rezultatelor generate automat, ceea ce ar duce la o lipsă de încredere în aceste sisteme.
Tehnici pentru explicabilitatea AI
Au fost dezvoltate mai multe metode pentru a îmbunătăți transparența AI:
- LIME (Local Interpretable Model-Agnostic Explanations): Această tehnică creează modele simple pentru a aproxima deciziile complexe ale AI, făcându-le mai ușor de interpretat. LIME ajută auditorii să înțeleagă de ce anumite tranzacții au fost marcate ca anormale.
- Valori Shapley: Inspirată din teoria jocurilor, această metodă atribuie scoruri de importanță variabilelor utilizate într-un model AI. Acest lucru permite auditorilor să vadă ce factori au avut cel mai mare impact asupra unei recomandări generate de AI.
- Arbori de decizie și modele bazate pe reguli: Unele firme de audit integrează arbori de decizie alături de modele de învățare automată pentru a menține un nivel minim de interpretabilitate a proceselor AI.
Prin implementarea acestor tehnici, firmele pot face sistemele AI mai responsabile și mai ușor de validat.
Adoptarea XAI
Marile firme investesc deja în îmbunătățirea explicabilității AI. De exemplu:
- Deloitte a integrat tehnici XAI în platformele sale AI pentru a asigura transparența în evaluările automate ale riscurilor.
- PwC a implementat funcționalități de explicabilitate în instrumentele sale bazate pe AI pentru a ajuta auditorii să verifice corectitudinea rezultatelor generate automat.
Aceste firme recunosc faptul că viitorul AI depinde de încredere, iar încrederea se bazează pe transparență.
Viitorul AI Explicabile
Pe măsură ce AI devine tot mai prezentă, explicabilitatea va rămâne o prioritate majoră. Următoarea etapă în utilizarea AI va implica probabil cadre de reglementare care să impună transparența deciziilor AI. Firmele care investesc astăzi în tehnici robuste de XAI vor fi mai bine pregătite să se adapteze la viitoarele schimbări legislative și să mențină încrederea clienților.
Inteligența artificială explicabilă nu este doar o necesitate tehnică – este un imperativ al industriei. AI poate fii parte din transformare doar daca clienții și autoritățile de reglementare au încredere în deciziile pe care le generează. Drumul de urmat este clar: AI trebuie să fie nu doar puternică, ci și transparentă, explicabilă și responsabilă.
Surse
- Kokina, J., Blanchette, S., Davenport, T. H., & Pachamanova, D. (2025). Challenges and opportunities for artificial intelligence in auditing: Evidence from the field. International Journal of Accounting Information Systems, 56, 100734. https://doi.org/10.1016/j.accinf.2025.100734