Si personne ne sait pourquoi votre IA a dit cela ? (Le phénomène de boîte noire et la XAI)

Nous nous faisons des illusions. Nous pensons que les développeurs ont parfaitement compris l’IA et l’ont codée comme telle. Ce n’est pas le cas. Les développeurs n’ont conçu que la « structure » ; ils ne savent pas ce qui se passe à l’intérieur. Je vais vous l’expliquer simplement.