- Il est désormais possible d’utiliser les fonctionnalités de ChatGPT et de Speech-To-Text dans ses propres applications
- Depuis l’annonce de ChatGPT en décembre, l’optimisation a permis de réduire les coûts de 90 %, et cette baisse est répercutée aux utilisateurs de l’API
API ChatGPT
- Utilise le modèle
gpt-3.5-turbo, identique à celui actuellement utilisé dans le produit ChatGPT
- À 0,002 $ par 1k tokens, soit 10 fois moins cher que GPT-3.5 auparavant
- C’est aussi le meilleur modèle pour des usages autres que le chat, et il est facile de migrer de
text-davinci-003 vers gpt-3.5-turbo (migration recommandée)
- L’API reçoit en entrée du texte non structuré composé de tokens
- En interne, il est rendu sous forme d’une séquence de tokens appelée ChatML
gpt-3.5-turbo continuera d’être mis à niveau vers les versions les plus récentes. Pour l’instant, gpt-3.5-turbo-0301 est pris en charge jusqu’au 1/6- Une nouvelle version stable est prévue en avril
- Une Dedicated Instance est également proposée séparément (prise en charge d’un contexte plus long et adaptée aux utilisateurs exécutant plus de 450 millions de tokens par jour)
API Whisper
- Modèle de Speech-To-Text publié en open source en septembre 2022
- Très bien accueilli par la communauté des développeurs, mais difficile à exploiter en production
- Le modèle
large-v2 est disponible via l’API, à 0,006 $/minute
- Disponible via les endpoints
transcriptions / translations
- Prend en charge les formats
m4a, mp3, mp4, mpeg, mpga, wav, webm
Premières entreprises utilisatrices
- Snap : propose un chatbot basé sur ChatGPT, My AI for Snapchat+. Il donne des recommandations et écrit des poèmes (haïkus) pour vos amis
- Quizlet : intègre ChatGPT à Q-Chat, un tuteur IA adaptatif qui pose des questions selon l’historique d’étude
- Instacart : l’a intégré à la fonctionnalité Ask, qui permet de poser des questions sur l’alimentation et d’obtenir des réponses
- Shopify : a ajouté une fonction d’assistant shopping dans l’app Shop
- Speak (Corée du Sud) : application d’apprentissage des langues utilisant l’API Whisper.
4 commentaires
Dans l’article original, c’est indiqué à 0,002 $ pour 1k tokens.
Et comme je me demandais comment les tokens étaient définis, j’ai cherché un peu plus et il semble que cela dépende du nombre de caractères en entrée/sortie.
Oups, il y avait une faute de frappe dans un passage important, ouin ouin. Je l’ai corrigée.
De nouvelles actualités IA tombent chaque semaine... C'est à la fois enthousiasmant et un peu effrayant... mais à force d'essayer de ne pas rater les tendances, la fatigue me semble aussi assez importante.
OpenAI est vraiment impressionnant.