Projet de défense contre les injections LLM en Python basé sur Rust

Il s'agit d'un package Python de défense contre les injections LLM, conçu sur une base Rust !

En utilisant des API d’IA pour diverses tâches, je me suis rendu compte que les attaques par injection étaient plus fréquentes que je ne le pensais. Comme le filtrage par expressions régulières basé sur re et les remplacements que je répétais sans cesse étaient peu pratiques, je me suis dit qu’un tel package pourrait être utile, et j’ai donc développé ce service. ( J’ai reçu beaucoup d’aide de l’IA pendant le développement ! )

Les principales fonctionnalités sont IPS, IDS et IUS.
IPS - bloque les prompts utilisateur et donne l’instruction de poursuivre le prompt existant
IDS - ne bloque pas les prompts utilisateur, mais met en évidence les mots qui correspondent aux règles de blocage
IUS - un IPS qui fonctionne rapidement grâce au multithreading et au cache

Parmi les caractéristiques, il est possible d’ajouter un nouveau JSON à l’emplacement de rules.json à l’intérieur du package, ou de modifier le rules.json existant pour prendre en charge le blocage ; il est également possible de rappeler init afin de modifier les règles pendant l’exécution ! ( règles personnalisées -> règles fournies )

C’est la première fois que je publie quelque chose comme ça, donc je suis un peu nerveux. Merci de votre bienveillance !