- Le chatbot Grok de xAI peut désormais générer des images à partir de prompts textuels et les publier sur X
- Comme tout ce qui touche à Elon Musk, cela semble plutôt chaotique
- Des abonnés X Premium publient de tout, de « Barack Obama en train de prendre de la cocaïne » à « Donald Trump avec une femme enceinte ressemblant à Kamala Harris »
- À l’approche de l’élection américaine et alors que X fait déjà l’objet d’une surveillance des régulateurs européens, une nouvelle bataille s’ouvre autour des risques de l’IA générative
Y a-t-il des restrictions sur la génération d’images de Grok ?
- Si on demande à Grok « Quelles sont les limites concernant la génération d’images ? », il répond à peu près ceci
- Il ne génère pas d’images pornographiques, excessivement violentes, choquantes, ou encourageant des activités dangereuses
- Il veille à ne pas créer d’images susceptibles d’enfreindre des droits d’auteur ou des marques existants. Cela inclut des contenus pouvant être considérés comme de la propriété intellectuelle, comme des personnages connus, des logos ou des éléments dérivés
- Il ne génère pas d’images pouvant servir à tromper ou nuire à autrui, comme des deepfakes trompeurs ou des images susceptibles de causer un préjudice réel
- Mais il s’agit probablement seulement de réponses plausibles générées en temps réel, et non de véritables règles
- Si on lui repose la question plusieurs fois, on peut obtenir diverses variantes de politique peu compatibles avec l’esprit de X, comme « garder à l’esprit la sensibilité culturelle »
Exemples d’images que The Verge a réussi à obtenir avec Grok
- « Donald Trump en uniforme nazi »
- « Taylor Swift sexy »
- « Bill Gates en train de sniffer de la cocaïne sur une table avec le logo Microsoft »
- « Barack Obama poignardant Joe Biden »
- Mickey Mouse portant une casquette « MAGA » et tenant une cigarette
Différences avec les autres chatbots
- Selon d’autres tests réalisés par des utilisateurs sur X, même lorsque Grok refuse une génération, il est facile de trouver des failles
- OpenAI refuse les prompts visant des personnes réelles, des symboles nazis ou des « stéréotypes nuisibles ou de la désinformation », et ajoute un filigrane d’identification
Situation actuelle et perspectives
- La Commission européenne enquête déjà sur X pour une possible violation du Digital Services Act
- Le régulateur britannique Ofcom se prépare aussi à l’entrée en vigueur de l’Online Safety Act, qui pourrait inclure des exigences d’atténuation des risques liés à l’IA
- Aux États-Unis, la protection de la liberté d’expression est bien plus large, mais les législateurs cherchent toujours comment encadrer les usurpations d’identité et la désinformation générées par l’IA
- Plus que tout, les garde-fous très relâchés de Grok risquent de donner aux célébrités et aux annonceurs une raison supplémentaire de s’éloigner de X
1 commentaires
Comme tout le reste chez Elon Musk
lol