La transparència resol aquest problema utilitzant models fàcilment interpretables, alguns dels quals parlarem a la secció següent. L'explicabilitat resol aquest problema "desempaquetant la caixa negra" o intentant obtenir informació del model d'aprenentatge automàtic, sovint utilitzant mètodes estadístics.
Què és l'explicació del model?
Explicabilitat del model és un concepte ampli d'anàlisi i comprensió dels resultats que proporcionen els models de ML. S'utilitza més sovint en el context de models de "caixa negra", per als quals és difícil demostrar com va arribar el model a una decisió específica.
Què és l'explicabilitat en l'aprenentatge profund?
Explicabilitat (també anomenada "interpretabilitat") és el concepte que un model d'aprenentatge automàtic i els seus resultats es poden explicar d'una manera que "tinga sentit" per a un ésser humà a un nivell acceptable … Altres, com els sistemes d'aprenentatge profund, encara que són més eficients, segueixen sent molt més difícils d'explicar.
Què significa l'explicació en el context d'un sistema d'IA?
Andrew Maturo, analista de dades, SPR. "La IA explicable en termes senzills significa AI que és transparent en les seves operacions perquè els usuaris humans puguin entendre i confiar en les decisions Les organitzacions han de fer la pregunta: pots explicar com la teva IA ha generat això? visió o decisió específica?" –
Què és el problema d'explicació?
La gent té una aparent aversió a les decisions de caixa negra que els afecten econòmicament, sanitàriament i dotzenes d' altres maneres, alhora que no són conscients de determinats tipus de decisions.. … Quan l'IA pren aquestes decisions, es pot escoltar la demanda d'explicabilitat.
