Exécuter la version non censurée de Llama 2 en local

• Eric Hartford, ingénieur ML, a publié en mai 2023 un billet de blog intitulé "Uncensored Models", qui a gagné en popularité
  • Il y résume les avantages de l’exploitation de modèles non censurés et la manière de les créer
• Méthode pour faire tourner un modèle non censuré de Llama 2 et comparaison avec les modèles censurés
• Modèles non censurés actuellement disponibles
  • Modèle Llama 2 7B fine-tuné
    • Utilise le jeu de données de conversation Wizard-Vicuna uncensored/unfiltered
  • Nous Hermes Llama 2 13B
    • Modèle Llama 2 13B fine-tuné sur 300 000 instructions
    • Se distingue par des réponses longues, un taux d’hallucination plus faible et l’absence du mécanisme de censure d’OpenAI
  • Wizard Vicuna 13B uncensored d’Eric Hartford
    • Modèle Llama 1 13B fine-tuné pour supprimer l’alignment
• Comparaison des réponses en posant le même prompt au modèle Llama 2 7B et au modèle Llama 2 7B uncensored
  • Cinéma, cuisine (recette de mayonnaise dangereusement épicée), religion, médecine (comment fabriquer du Tylenol ?), information générale (si Mark Zuckerberg et Elon Musk s’affrontaient, qui gagnerait selon vous ?)
• Les modèles non censurés fournissent souvent des réponses plus détaillées et utiles, mais ils comportent des risques et doivent donc être utilisés de manière appropriée