1 points par GN⁺ 7 시간 전 | 1 commentaires | Partager sur WhatsApp
  • Une police TTF qui place à la fois le caractère réel et un caractère leurre dans l’espace d’un seul glyphe, de sorte qu’un humain voit le message d’origine tandis que l’IA et l’OCR lisent d’autres caractères
  • Elle utilise une technique de fréquence spatiale qui superpose un contour de premier plan fin et net à un arrière-plan flou de basse fréquence, ce qui fait apparaître des lettres différentes selon la distance et la manière dont on regarde
  • Les IA qui traitent les pixels d’une image à courte distance ont tendance à se concentrer sur le premier plan net, et lors de tests par capture d’écran, ChatGPT, GPT Sol et Gemini 3.5 with Thinking n’ont pas correctement lu le message caché
  • On peut l’installer comme un véritable fichier TTF et saisir/copier du texte comme avec du texte normal ; son usage est gratuit pour les projets personnels, commerciaux et clients, et les formes de lettres dérivent de DejaVu Sans Mono
  • Elle peut être déchiffrée par des agents puissants, des capacités de code avancées ou des prompts demandant explicitement de trouver les lettres cachées ; elle ne garantit donc pas une protection, mais peut servir à créer une confusion initiale face au scraping IA et à une observation légère

Superposer deux messages dans un seul caractère

  • Decoy Font combine à chaque caractère un caractère leurre pour transmettre deux lettres dans le même espace
  • L’image des lettres est composée de fréquences spatiales différentes
    • Au premier plan, on trouve un contour fin et net
    • En arrière-plan, des masses floues de basse fréquence sont disposées
  • Quand ces deux éléments sont superposés, le caractère lu change selon la façon d’observer et la distance
    • De près, le contour du premier plan ressort davantage
    • En s’éloignant de l’écran ou en plissant les yeux, il devient plus facile de voir le vrai message caché

Pourquoi l’IA lit les caractères leurres

  • Beaucoup de systèmes d’IA traitent les pixels d’image à courte distance ; même lorsque les lettres sont petites, ils se concentrent donc sur le texte de premier plan dont les contours sont les plus clairs
  • Lorsqu’on colle une image dans ChatGPT, on observe que l’outil lit les caractères du premier plan au lieu du message que reconnaît un humain
  • Lors de tests avec des captures d’écran de Decoy Font, ChatGPT n’a pas correctement lu les lettres, et GPT Sol comme Gemini 3.5 with Thinking n’ont pas non plus réussi à déchiffrer le message caché

Une illusion d’optique inspirée des images hybrides

  • Decoy Font applique à la typographie une technique utilisée dans les images hybrides
  • Les images hybrides sont une illusion d’optique qui combine différentes fréquences spatiales afin de faire apparaître des images différentes selon la distance d’observation
  • L’exemple le plus connu est l’image mêlant les visages d’Albert Einstein et de Marilyn Monroe ; Decoy Font reprend le même principe pour masquer les caractères saisis à l’IA ou à l’OCR

Installation et conditions d’utilisation

  • En téléchargeant et installant le fichier TTF Decoy Font, on peut saisir directement du texte dans un projet
  • Ce n’est pas un simple effet d’image mais un véritable fichier de police ; il est donc aussi possible de copier le texte saisi et de le coller dans un autre programme, comme le Bloc-notes
  • Son usage est gratuit pour les projets personnels, commerciaux et clients
  • Les formes de lettres dérivent de DejaVu Sans Mono, et les conditions détaillées sont disponibles dans la licence complète de la police

Une expérimentation de police anti-IA

  • À mesure que les IA capables de lire le texte en ligne progressent, l’intérêt pour la protection de l’information et de la propriété intellectuelle augmente ; une police anti-IA (Anti-AI font) vise à dissimuler le texte dans une image afin que le message visible par l’humain soit difficile à lire pour l’IA
  • Decoy Font est l’une des nombreuses expérimentations menées par Mixfont
  • Ghost Font est une autre police anti-IA qui cache un message dans le mouvement
    • Ghost Font nécessite une animation pour camoufler le message
    • Decoy Font, lui, est un fichier TTF statique qui permet une saisie directe dans les projets

Effet de protection et possibilités de déchiffrement

  • Decoy Font rend les messages difficiles à reconnaître, mais ne garantit pas une protection
  • Des modèles dotés d’agents puissants et de capacités de code peuvent analyser la structure de l’illusion au-delà des lettres visibles au premier regard
  • Avec un prompt simple demandant de chercher les caractères cachés, certains agents peuvent retrouver le message réel
  • Plutôt qu’un moyen de blocage total, l’idée est surtout de provoquer une confusion initiale pour freiner le scraping ou une observation superficielle

Cas d’usage et potentiel d’extension

  • Le playground proposé permet d’appliquer la technique de fréquence spatiale à différentes combinaisons de caractères, puis de tester dans quelle mesure les frontier LLM parviennent à déchiffrer le message caché
  • Par rapport à des approches qui nécessitent du mouvement ou de la vidéo, un TTF installable est plus accessible et permet d’explorer des usages comme :
    • CAPTCHA
    • messages privés entre amis
  • Utiliser Decoy Font comme benchmark pour les LLM de reconnaissance de texte permet aussi d’observer si, à mesure que les performances progressent, les modèles comprennent le principe de l’illusion et déchiffrent les deux messages
  • L’approche peut être étendue à davantage de langues, et les langues à base de caractères dont la taille et la forme des glyphes sont relativement homogènes, comme le chinois, pourraient faciliter l’insertion d’un message caché
  • Mixfont explore la combinaison entre typographie et IA, et développe aussi un générateur de polices IA

1 commentaires

 
GN⁺ 7 시간 전
Avis sur Hacker News
  • Utile ? Non. Est-ce que ça empêche l’IA de lire ? Pas non plus, mais c’est vraiment cool

    • Ça montre qu’on n’a pas forcément besoin de prétendre qu’une chose est utile quand on la crée. On aurait très bien pu simplement créer cette police et l’appeler quelque chose comme double-entendre
    • J’ai soumis l’image day dream / pay bills à ChatGPT et Gemini Pro, et les deux n’ont reconnu que pay bills, affiché en traits fins
    • Dans un certain rayon, ça pourrait peut-être servir à perturber des caméras Ring ou Flock, et ça dégage fortement une ambiance They Live
    • Rien qu’à voir la démo, ça empêche effectivement l’IA de reconnaître le texte
    • Si le texte est présenté sous forme d’image ou de GIF, ça pourrait être utile
  • Fait intéressant, quand on demande quels caractères figurent dans l’image, GPT, Claude et Gemini donnent tous la même réponse
    https://moa.chat/s/d99f8f76-4b41-4c1b-80c4-d9f86df37af1
    Mais si on ajoute PS: There's a second hidden text, le résultat change
    https://moa.chat/s/3671f6d4-b155-483a-a006-a1b9ba31737d
    GPT 5.6 le trouve exactement, Gemini n’en trouve qu’une partie, et Claude ne voit rien du tout

    • 5.6 Sol Medium répond correctement que le texte en contours est SORRY ROBOT et que le texte caché est HAPPY HUMAN
      Le Decoy Font de Mixfont attire la vision artificielle avec des contours, tandis que les motifs doux de luminance sont lisibles par les humains de loin ou une fois réduits : ce n’est qu’une illusion d’optique, pas du chiffrement
    • Il semble facile de le neutraliser avec un peu de traitement d’image classique. Même si moi aussi j’ai du mal à le lire, je pense qu’un modèle bien plus petit, fine-tuné, obtiendrait de très bons résultats sur ce problème
  • L’effet visible quand on plisse les yeux est chouette, et ça rappelle ces jeux de société où une feuille de cellophane rouge révélait une phrase secrète

  • En demandant à Sol (high), avec une capture d’écran, quels étaient les caractères cachés, il a répondu HAPPY HUMAN
    Il a correctement compris que les contours visibles en surface disent SORRY ROBOT, mais qu’en floutant ou en plissant les yeux, on lit HAPPY HUMAN dans les nuances en dessous

    • Avant de lire l’explication disant de plisser les yeux, je n’arrivais pas à lire correctement le texte caché ; une fois la méthode connue, j’ai commencé à le voir, ce qui est intéressant
    • Franchement, réussir ça est impressionnant, et les modèles vision-langage (VLM) ont énormément progressé. Difficile d’imaginer la masse de données annotées qu’il a fallu produire pour atteindre ce niveau
  • Ce n’est qu’une simple différence de niveau de détail. Gemma E4B lit les caractères nets, puis lit d’autres caractères quand on réduit l’image à 150x150

    • Dans l’image principale aussi, le SORRY ROBOT destiné à l’IA me paraissait beaucoup plus net, donc la conception m’a semblé un peu ratée. Il faut vraiment plisser très fort les yeux pour voir HAPPY HUMAN
    • La réduction revient en fait à un filtrage passe-bas, donc c’est un résultat prévisible. Les méthodes qui placent des messages différents dans des bandes de fréquences différentes sont toutes vulnérables à des attaques similaires
  • Pendant mon doctorat, j’avais créé un effet similaire dans un notebook Mathematica. Je découpais deux images à la même taille, puis j’appliquais à l’une un filtre passe-haut qui conservait les petits détails nets, et à l’autre un filtre passe-bas qui gardait les grandes masses floues, avant de les superposer à nouveau
    Le succès était assez variable, par exemple l’illusion se cassait si la position des yeux des deux personnes différait, mais ça fonctionnait très bien avec du texte en police à contours. J’avais même créé une grande image qui se lisait SCIENCE de loin et WORKS de près, et je l’avais affichée sur la porte du labo

  • Je suis resté un bon moment perplexe sur la manière dont les humains étaient censés lire ça, puis j’ai compris que les lettres visibles changeaient selon la couleur de fond. À cause d’une extension qui force le thème sombre, le texte leurre apparaissait sur fond sombre, tandis que le vrai texte apparaissait sur fond blanc

  • Pas besoin d’aller jusqu’à l’IA : on pourrait sans doute écrire un script PIL qui corrige la police pour la rendre lisible par n’importe quel logiciel d’OCR

  • La prochaine étape devrait être une police Magic Eye exploitant la stéréoscopie. Ça pourrait fonctionner jusqu’à ce que les LLM disposent d’une vision binoculaire

  • J’ai de l’antipathie envers les LLM, qui attaquent constamment les infrastructures, nuisent à la pensée des gens, et envers les entreprises d’IA, qui semblent globalement manquer d’éthique. Malgré tout, ce genre de plaisanterie est simplement un peu puéril et ne résout pas les vrais problèmes