Meta dissout son équipe Responsible AI

• Meta a dissous son équipe Responsible AI (RAI) et a réaffecté ses membres à d’autres équipes produits d’IA générative ainsi qu’à l’infrastructure IA.
• L’équipe RAI, active depuis 2019, avait pour rôle d’identifier les problèmes liés aux méthodes d’entraînement de l’IA et de superviser l’entraînement des modèles sur des informations variées.
• Cette équipe avait déjà subi une restructuration au début de l’année et, à l’époque, Business Insider avait publié un article affirmant qu’il ne restait plus que son « enveloppe vide » après les licenciements.
• Les systèmes automatisés de Meta ont provoqué plusieurs problèmes, notamment une arrestation injustifiée due à une erreur de traduction sur Facebook, la génération d’images biaisées lors de la création de stickers IA sur WhatsApp, et un algorithme d’Instagram qui aidait à trouver des contenus d’abus sexuels sur mineurs.

Évolution mondiale de la régulation de l’IA

• Cette décision de Meta intervient alors que les gouvernements du monde entier cherchent à mettre en place des régulations sur le développement de l’intelligence artificielle, tandis que le gouvernement américain a demandé l’élaboration de règles de sécurité pour l’IA et conclu des accords avec des entreprises du secteur.
• L’Union européenne (UE) a publié des principes sur l’IA et continue de travailler à l’adoption de sa législation sur l’IA.

L’avis de GN⁺

• Le point le plus important de cet article est que Meta a dissous l’équipe chargée du développement responsable de l’IA et a réaffecté ses membres à d’autres départements.
• Alors que les technologies d’IA progressent rapidement et que l’importance d’un usage responsable de l’IA augmente, ce changement offre un cas intéressant sur la manière dont les entreprises gèrent l’éthique et la sécurité de l’IA.
• L’article reflète également la montée des discussions sur la régulation de l’IA à l’échelle mondiale, ce qui en fait un sujet attractif pour les personnes intéressées par l’intersection entre technologie et droit.

[GN⁺]

Avis sur Hacker News

• Meta est considérée comme l’entreprise d’IA à grande échelle la plus éthique parce qu’elle publie ses modèles d’IA.
  • Certains estiment qu’au nom de l’« éthique », garder des modèles d’IA fermés rend les gens plus dépendants des décisions arbitraires des grandes entreprises, ce qui est contraire à l’éthique.
• Toutes les équipes IA devraient prendre en compte leur responsabilité éthique, et concentrer cela dans une seule équipe est inefficace.
  • Cela peut créer un goulet d’étranglement où l’« équipe IA responsable » doit examiner tout le travail lié à l’IA, ou permettre aux autres équipes de développer de l’IA de manière irresponsable.
• La sécurité de l’IA est un groupe qui vit du travail des autres, et il est souhaitable que Meta fasse du tri.
• Les équipes d’éthique technologique, à leurs débuts, accordent davantage d’importance à l’image qu’à la réalité.
  • Un petit nombre de personnes qui déterminent l’orientation fondamentale de la technologie portent une responsabilité éthique, et si elles agissent de façon irresponsable, les dégâts peuvent être considérables.
• Il n’existe pas de cas concret montrant que l’équipe d’éthique de Meta a contribué de manière positive.
  • Il faudrait examiner les résultats de Meta sur les dernières années pour évaluer dans quelle mesure elle a été efficace pour préserver la vérité.
• Quand les financements manquent et qu’une crise survient (comme chez OpenAI), le mieux est de fermer les départements qui ne servent qu’à l’image.
• Comme l’entraînement des modèles d’IA coûte cher, certaines personnes chercheront à en tirer profit en contrôlant cette technologie à mesure qu’elle progresse, mais cela pourrait se retourner contre elles à long terme.
• La comparaison entre la sûreté de l’IA et les équipes juridiques ou de sécurité n’est pas pertinente.
  • Puisque personne ne sait ce que signifie réellement construire une IA sûre, ces équipes ne peuvent que ralentir les avancées.
• La meilleure façon de rendre l’IA responsable est de la rendre open source.
  • Cela évite qu’une seule entreprise exerce un contrôle total, et permet aux chercheurs de mieux comprendre les possibilités d’abus ainsi que les bons usages.
• La responsabilité de l’IA devrait incomber aux utilisateurs, mais aujourd’hui aucune entreprise ne donne aux utilisateurs le pouvoir de façonner les produits de manière responsable.
  • Le cadre juridique traite déjà ces externalités, et les tentatives des entreprises d’échapper à leur responsabilité aboutissent à des systèmes plus incompétents et plus inutiles.