- Le PDG d’OpenAI, Sam Altman, a présenté les GPTs comme un moyen d’accomplir diverses tâches, de la programmation à l’apprentissage de sujets scientifiques en passant par des conseils d’exercice
- Les GPTs combinent des instructions, des connaissances étendues et des actions pour créer un « GPT pour tout » utile aux utilisateurs
- Mais la boutique GPT est remplie de GPTs étranges, ce qui laisse penser qu’OpenAI accorde peu d’attention à ses efforts de vérification
Modération défaillante
- Pour enregistrer des GPTs dans la boutique GPT, les développeurs doivent vérifier leur profil utilisateur et soumettre leurs GPTs au système d’examen d’OpenAI
- Un porte-parole d’OpenAI a déclaré que l’entreprise combine des systèmes automatisés, une vérification humaine et les signalements des utilisateurs pour repérer et évaluer les GPTs susceptibles d’enfreindre les règles
- Aucune expérience en programmation n’est nécessaire pour créer des GPTs, et ils peuvent être aussi simples ou complexes que leur créateur le souhaite
Problèmes de droits d’auteur
- La boutique GPT contient plusieurs GPTs tirés de franchises de films, de télévision et de jeux vidéo, sans avoir été créés ni approuvés par les détenteurs de ces franchises
- Ces GPTs peuvent poser des problèmes de droits d’auteur
- OpenAI n’est pas responsable des violations du droit d’auteur commises par les créateurs de GPTs grâce aux dispositions de sphère de sécurité du Digital Millennium Copyright Act
Fraude académique
- Les conditions d’utilisation d’OpenAI interdisent explicitement le développement de GPTs qui facilitent la fraude académique
- Pourtant, la boutique GPT est remplie de GPTs qui prétendent pouvoir contourner les détecteurs de contenu IA
- Certains GPTs servent de passerelle vers des services premium, en proposant des offres payantes permettant d’utiliser des algorithmes avancés
Usurpation
- Les règles d’OpenAI interdisent aux développeurs de créer des GPTs qui imitent des personnes ou des organisations sans leur consentement ni droit légal
- Pourtant, la boutique GPT contient de nombreux GPTs affirmant représenter les opinions de certaines personnes ou imiter leur personnalité
Tentatives de jailbreak
- La boutique GPT contient aussi des tentatives de jailbreak des modèles d’OpenAI, mais la plupart ne réussissent pas
- Plusieurs GPTs utilisent DAN (Do Anything Now) pour amener les modèles à répondre aux prompts sans être soumis à leurs règles habituelles
Douleurs de croissance
- OpenAI a lancé la boutique GPT comme une collection sélectionnée d’outils IA puissants destinés à améliorer la productivité
- Mais la boutique GPT se transforme rapidement en terrain fertile pour des GPTs spammy, juridiquement douteux, voire potentiellement nuisibles
- OpenAI prévoit de permettre aux développeurs de GPTs de gagner de l’argent en fonction du nombre d’utilisateurs, mais cela pourrait entraîner des problèmes de droits d’auteur
Aucun commentaire pour le moment.