- Le point central du discours d’Eric Schmidt ne réside pas tant dans les huées visant l’IA que dans une manière de reconnaître les effets secondaires d’Internet tout en brouillant l’emplacement de la responsabilité
- Sa période à la tête de Google coïncide avec celle où les modèles économiques d’Internet comme la publicité, la collecte de données, la manipulation comportementale et les tests A/B se sont enracinés
- Le cadre selon lequel les « mêmes outils » ont servi à la fois à faire le bien et le mal fait apparaître les dark patterns non comme des structures conçues délibérément, mais comme des sous-produits
- Tout en exhortant les étudiants à entrer dans les salles où se prennent les décisions sur l’IA, il manque une analyse de l’échec sur ce qui s’est mal passé avec les technologies précédentes
- Pour que l’IA n’emprunte pas la même voie qu’Internet, il faut reconnaître que ses mauvais côtés ne sont pas apparus d’eux-mêmes, mais qu’ils sont le résultat de choix construits par des humains
La responsabilité diluée dans le discours de remise des diplômes
- Le discours de remise des diplômes d’Eric Schmidt à l’University of Arizona est surtout connu pour le moment où ses propos sur l’IA ont été hués, mais la partie la plus importante se trouve dans sa première moitié, où il reconnaît les effets secondaires d’Internet
- Schmidt explique qu’il croyait que connecter tous les habitants de la planète et donner accès à l’information du monde conduirait à une démocratisation du savoir, à une réduction de la pauvreté et à une société plus sage et plus bienveillante
- En même temps, il admet que ces mêmes outils ont isolé les gens, que les plateformes qui ont donné une voix à tous ont aussi endommagé l’espace public, et qu’en récompensant la colère et en amplifiant les pires instincts, elles ont rendu plus brutale la manière dont nous parlons et nous traitons les uns les autres
- Personne, dit-il, n’avait l’intention de créer des technologies qui polarisent la démocratie et rendent les jeunes générations anxieuses, et il formule cela comme ceci : « ce n’était pas notre plan, mais c’est pourtant ce qui s’est passé »
- Alors qu’il parle activement des résultats positifs espérés, les conséquences négatives sont traitées à la voix passive, comme des choses qui « sont arrivées », ce qui brouille la question de savoir où se situe la responsabilité
Sa position en tant que dirigeant de Google
- Schmidt a occupé les fonctions de CEO et d’autres postes de direction chez Google de 2001 à 2017, une période qui coïncide avec celle où les dark patterns du business Internet ont été développés et se sont installés dans l’industrie
- Google est présenté comme l’entreprise qui a mené les modèles économiques d’Internet fondés sur la publicité, la collecte de données, la manipulation du comportement des utilisateurs et l’idée de tout soumettre à des tests A/B
- Si Steve Wozniak disait, à propos de l’époque où il fabriquait les premiers ordinateurs Apple, qu’il n’avait pas l’intention de créer un écosystème fermé ou un contrôle des appareils, cela pourrait sembler sincère ; il est plus difficile d’accorder la même distance à Schmidt
- Le problème soulevé est l’attitude de Schmidt, qui semble ne se voir que comme le créateur d’un « outil », le moteur de recherche, en séparant cela des couches de régie publicitaire, de collecte de données, de modification comportementale et de dark patterns
- Le cadre selon lequel « le même outil » a servi à des usages positifs X et négatifs Y donne l’impression que les mauvais résultats ne sont pas des structures conçues et construites, mais des sous-produits d’un objectif noble
Les propos sur l’IA et les huées des étudiants
- Dans la seconde moitié du discours, Schmidt dit aux étudiants d’entrer dans les salles où se prennent les décisions liées à l’IA, de faire entendre leur voix et d’y apporter des valeurs humaines et du jugement
- Selon lui, la technologie n’est en soi qu’un outil, et ce sont les humains qui décident de ce qu’il faut optimiser ; au cours de la vie des étudiants, ce « quelqu’un », ce sera eux
- Il poursuit avec un message invitant à choisir la « liberté », le « débat ouvert », ce projet lent, désordonné mais beau qui consiste à vivre avec des personnes qui ne partagent pas les mêmes opinions, ainsi que « l’égalité » et « la diversité des points de vue »
- Or ces étudiants n’ont jamais connu, comme les générations précédentes, une autre forme de technologie ; ils ne connaissent que la technologie aux dark patterns où l’on ne possède rien, où les données sont stockées par d’autres, où les comportements sont suivis, où les données sont vendues et où l’on devient une cible publicitaire
- Voir un décideur clé de cette époque dire à ces étudiants de s’engager avec enthousiasme dans la prochaine vague technologique a une signification plus complexe qu’un simple épisode de huées motivé par une hostilité envers l’IA
Ce qui manque : des excuses et une analyse de l’échec
- Schmidt reconnaît que les mauvais résultats du passé se sont produits pendant son mandat et dans les espaces de décision auxquels il participait, mais il ne propose pas de véritable réflexion sur les raisons de cet échec
- Il manque une explication sur les raisons pour lesquelles il a été permis que de mauvaises couches techniques et commerciales se construisent au-dessus d’outils utiles, sur les raisons pour lesquelles cela n’a pas été empêché, et sur les points où il faudrait assumer une responsabilité
- Le conseil réellement utile à donner aux étudiants n’était pas simplement d’entrer dans les salles où naissent les nouvelles technologies, mais de fournir une analyse concrète de ce qui s’est mal passé avec la technologie précédente et des décisions qui ont produit ces résultats
- La peur de l’IA ne vient pas d’une technologie abstraite en soi, mais du souvenir que les décideurs de la Silicon Valley ont construit, lorsqu’ils avaient la main sur la précédente vague technologique, sa version fondée sur les dark patterns
- Sans excuses pour le passé, sans reconnaissance de la responsabilité et sans méthode pour éviter la répétition, si tout ce qu’il reste est la formule passive « c’est arrivé », alors la défiance grandit à l’idée que l’IA suivra elle aussi la même direction qu’Internet
La condition pour empêcher la répétition suivante
- Les mauvais côtés d’Internet ne sont pas apparus spontanément une fois l’outil mis entre les mains du public ; ils sont résumés ici comme le résultat de personnes qui ont effectivement construit ses mauvais côtés
- Pour empêcher l’IA de suivre la même voie qu’Internet, il faut reconnaître pourquoi cela s’est produit et quelles décisions ont conduit à ces résultats
- Il faut faire comprendre non seulement aux prochains Schmidt, mais aussi à des figures actuelles comme Schmidt, qui conservent de l’influence dans la Silicon Valley et à Washington DC, que les décisions du passé ont façonné l’environnement technologique d’aujourd’hui
- Sans reconnaissance ni réflexion de la part des responsables, le risque demeure de voir les mêmes modèles économiques et les mêmes dark patterns se répéter dans la prochaine technologie
- La conclusion selon laquelle il faut faire mieux la prochaine fois ne part pas d’un optimisme technologique, mais d’une manière responsable de traiter les échecs du passé
Vous voulez continuer à recevoir des sujets tech sélectionnés ?
Suivez le canal Telegram. @GeekNewsFR
1 commentaires
Commentaires sur Lobste.rs
Il existe une transcription pour ceux qui préfèrent le lire
C’était intéressant à regarder. Casey est quelqu’un d’intelligent à la base, mais cette fois le sujet était bien plus lourd que les questions techniques qu’il traite habituellement
Schmidt dit aux étudiants, en gros, de « faire entrer l’humanité dans la pièce où se prennent les décisions sur la technologie », et à l’oreille ça sonne bien. Mais quand on voit comment les choses se passent aujourd’hui, les décisions sur des technologies qui touchent tout le monde, comme l’IA, sont prises par d’autres personnes, tandis que le reste d’entre nous semble totalement absent de cette pièce
Comme le souligne le texte, le moment clé est celui où le ton bascule soudainement entièrement à la voix passive. Il ne dit pas : « nous avons créé cela, il y a eu de mauvaises conséquences, et c’était notre faute », ni « nous avons commis une terrible erreur », ni « nous avons échoué de cette manière »
Joseph Weizenbaum signalait déjà le même problème en 1976 dans Computer Power And Human Reason. Même les hauts dirigeants se présentent comme les victimes innocentes de technologies dont ils ne portent ni la responsabilité ni la compréhension, et la responsabilité s’évapore comme si « dans la tragédie, il y avait des actes mais pas d’auteurs ». Le mythe de l’inévitabilité technologique, politique et sociale agit comme un puissant sédatif qui anesthésie la conscience et allège le poids de la responsabilité sur les épaules des acteurs bien réels
Des formulations du type « c’est le système qui est responsable, pas les personnes » se répètent, et même la question de savoir si nous voulons réellement d’un tel avenir disparaît. Il ne reste plus que l’attitude selon laquelle cela arrive, qu’on ne peut pas l’empêcher et qu’on ne peut pas revenir en arrière
C’est glaçant, mais cela exprime très bien mon inquiétude. Je suis l’un des enfants de l’internet de cette époque, et cette vidéo m’a donné un nom pour ce ressenti
Casey s’est beaucoup trop sous-estimé. C’est une vidéo très réussie, et elle correspond bien à la réaction que j’ai eue en voyant les scènes principales de ce discours
Et la référence à I Think You Should Leave m’a aussi fait rire. Il y a ici énormément de cette ambiance du genre « on essaie tous de trouver qui a fait ça »
L’attitude du type « nous voulions seulement construire un monde meilleur, puis de mauvaises choses sont arrivées presque par inadvertance » en dit vraiment long. Eric Schmidt est littéralement hypocrite, et comme beaucoup de gens qui ont causé du tort par leurs actes, il rationalise son propre comportement
Un autre axe important est la question générationnelle. La génération de Schmidt détient un pouvoir politique et économique excessif. Les jeunes d’aujourd’hui ne sont pas stupides et voient bien ce qui se passe. Leur vie est contrôlée par des personnes plus âgées, qui disent à la jeune génération qu’elle doit supporter la précarité de l’emploi, les difficultés économiques, les technologies dystopiques et la crise environnementale. Et malgré cela, ils disent que tout cela « est simplement arrivé », alors que tout le monde sait que ce sont eux qui ont créé cette situation. Il est normal que les étudiants huent. J’aurais fait pareil