Si personne ne sait pourquoi votre IA a dit cela ? (Le phénomène de boîte noire et la XAI)
(endplan.ai)Nous nous faisons des illusions. Nous pensons que les développeurs ont parfaitement compris l’IA et l’ont codée comme telle. Ce n’est pas le cas. Les développeurs n’ont conçu que la « structure » ; ils ne savent pas ce qui se passe à l’intérieur. Je vais vous l’expliquer simplement.
3 commentaires
Je me permets de vous demander si c’est bien un texte que vous avez rédigé vous-même. J’ai l’impression que ni le phénomène de boîte noire ni la XAI ne sont traités de manière suffisamment approfondie, et certains mots employés dans les phrases me donnent aussi une impression de déjà-vu.
Oh, merci pour cette remarque pertinente, haha. Comme je voulais surtout me faire comprendre de personnes non spécialistes comme moi, j’ai beaucoup utilisé des analogies, et le billet a fini par être assez superficiel. À l’avenir, je vais essayer de lui donner davantage de profondeur. Merci d’avance pour votre soutien ! Merci pour vos retours !
Le public cible était donc différent. J’ai compris. J’anime moi aussi des formations liées au deep learning en interne, donc je partage ce point de vue sur ce genre d’aspects.