2 points par GN⁺ 2023-07-31 | 1 commentaires | Partager sur WhatsApp
  • L’intelligence artificielle (IA) est une technologie de rupture qui transforme le web et influence la vie des gens.
  • Mozilla s’engage pour une IA digne de confiance, avec un accent sur la transparence, la protection de la vie privée des utilisateurs, leur autonomie, la sécurité et la réduction des biais.
  • Les chatbots d’IA générative comme ChatGPT et Bard sont populaires, mais ils sont exploités par de puissantes entreprises technologiques.
  • Mozilla croit à la force collaborative de l’open source pour redonner du pouvoir aux utilisateurs et empêcher le contrôle de la technologie par un petit nombre d’entreprises.
  • Mozilla a récemment organisé un hackathon pour créer un prototype de chatbot interne, autonome, open source et aligné sur ses principes.
  • L’équipe a dû faire face à des questions liées à l’hébergement, à l’environnement d’exécution, au choix du modèle, aux biais et à l’intégration des connaissances internes.
  • Elle a utilisé llama.cpp ainsi que text-generation-inference de Hugging Face comme environnements d’exécution.
  • Le modèle LLaMA 2 a été retenu pour le chatbot, tout en reconnaissant ses limites et avec l’intention de le réévaluer par la suite.
  • Les embeddings et la recherche vectorielle ont été utilisés pour intégrer les connaissances internes de Mozilla au chatbot.
  • Pour les fonctionnalités du chatbot, le prompt engineering est essentiel et aide à suivre les conversations continues.
  • Le system prompt est l’instruction initiale qui définit les fonctions et le comportement du chatbot.
  • La fenêtre de contexte du chatbot détermine sa mémoire et sa capacité à se référer aux questions et réponses précédentes.
  • La gestion de la fenêtre de contexte est importante pour le prompt engineering et le maintien du contexte conversationnel.
  • LangChain est un outil d’orchestration de premier plan dans l’univers des modèles de langage, mais il peut être complexe à apprendre et à utiliser.
  • L’interface utilisateur du chatbot doit gérer les conversations persistantes, les fils précédents et d’autres complexités.
  • Des interfaces open source de chatbot comme chatbot-ui et Companion peuvent servir de front-end pour les modèles de langage.
  • Mozilla a développé un prototype de chatbot qui reflète ses valeurs et est hébergé en toute sécurité au sein de l’organisation.
  • Les chatbots open source sont encore en évolution, et l’évaluation des modèles ainsi que le bon choix restent des défis.
  • Mozilla veut faciliter la participation des développeurs à l’écosystème open source du machine learning et prévoit de contribuer à la communauté open source.

1 commentaires

 
GN⁺ 2023-07-31
Commentaires sur Hacker News
  • La série américaine de formation en électricité et électronique de la marine (NEETS), ainsi que d'autres documents intéressants, sont disponibles sur le site web.
  • Pour les personnes ayant une formation en mathématiques, le livre "Antenna Theory: Analysis and Design" est recommandé.
  • Le livre sur les antennes de l'ARRL vaut aussi le détour.
  • Il existe un article sur un avion militaire utilisant une antenne de 5 miles de long pour communiquer avec des sous-marins.
  • Les long wires sont amusants à expérimenter, et plus ils sont longs, plus ils peuvent devenir directifs.
  • Le manuel des antennes du Corps des Marines des États-Unis est bien rédigé et facile d'accès.
  • Les connaissances pratiques tirées de ce type de manuels sont souvent plus importantes que les connaissances théoriques.
  • Le guide manque de détails sur la manière dont les champs EM sont générés.
  • L'équation de perte de trajet inclut un terme f ou lambda, ce qui peut sembler discutable.
  • L'armée américaine et d'autres services produisent des supports de formation approfondis et pratiques.