Les forums et communautés en ligne en Corée devront désormais examiner toutes les images avec des outils de censure par IA
(discuss.privacyguides.net)- Une modification de la loi sur les télécommunications impose aux exploitants de communautés et de forums en ligne en Corée de faire analyser par une IA toutes les images et vidéos mises en ligne par les utilisateurs
- Le gouvernement ne fournit pas le matériel nécessaire à l’exécution des modèles d’IA, et les exploitants de sites doivent acheter eux-mêmes des GPU Nvidia de classe datacenter, ce qui risque d’exercer une pression financière sur les petits acteurs et les forums
- Les sites web doivent mettre en œuvre immédiatement le matériel et les fonctions logicielles nécessaires à partir du 1er juillet
- La politique de censure préalable par IA des images des communautés internet coréennes est liée à la révision de la loi sur les télécommunications surnommée la « loi de prévention de la salle n », entrée en vigueur en 2021, et l’opinion publique se divise entre la nécessité d’un filet de sécurité social et l’atteinte à la liberté d’expression
- L’application de cette politique cumule à la fois le coût pour les exploitants, le délai de préparation très court, les problèmes d’approvisionnement en matériel et la controverse autour de la liberté d’expression
Changement réglementaire et calendrier d’application
- À la suite d’un changement réglementaire de la loi sur les télécommunications, le gouvernement sud-coréen exige des exploitants de communautés et de forums internet qu’ils fassent analyser par une IA les images et vidéos mises en ligne sur leurs sites par les utilisateurs
- Les sites web doivent implémenter immédiatement le matériel et les fonctions logicielles nécessaires à partir du 1er juillet
- L’auteur du post souligne que cette date d’entrée en vigueur correspond au mois suivant la date de publication
Matériel et charge financière
- Le gouvernement ne fournit pas le matériel nécessaire à l’exécution des modèles d’IA
- Les exploitants de sites web doivent eux-mêmes acheter des GPU Nvidia de classe datacenter
- Le problème est que cette exigence exerce une pression financière sur les petits opérateurs et les forums
Couverture médiatique et réaction des exploitants de communautés
- L’article connexe Censure préalable même pour les images mises en ligne ? Le contexte de l’affrontement entre partisans et opposants rapporte que la politique de censure préalable par IA, y compris pour les images publiées dans les communautés internet coréennes, devient concrète, et que l’opinion publique est divisée entre la nécessité d’un filet de sécurité social et l’atteinte à la liberté d’expression
- Ce reportage indique que la révision de la loi sur les télécommunications, surnommée la « loi de prévention de la salle n », est entrée en vigueur en 2021
- Le message d’un administrateur de Ruliweb explique que certains participants s’attendaient à une période de grâce de six mois, mais qu’après avoir signalé l’impossibilité de se procurer le matériel, ils ont reçu pour réponse des autorités que l’équipement n’était pas leur problème, que le critère légal s’appliquait à partir de juillet et qu’il fallait donc s’y conformer
Points clés
- L’analyse par IA des images et vidéos mises en ligne par les utilisateurs est une politique où s’opposent la nécessité d’un filet de sécurité social et la controverse sur l’atteinte à la liberté d’expression
- Comme le gouvernement ne fournit pas l’équipement et impose une application immédiate, les coûts d’exploitation et l’acquisition du matériel restent directement à la charge des exploitants de communautés et de forums
4 commentaires
On dit aussi que, même si c’est très utilisé, on ne peut pas vraiment imposer cela aux communautés basées à l’étranger, donc au final seules les communautés coréennes vont se faire laminer.
Quand on lit les posts sur Hacker News, on voit qu’une part importante des victimes de deepfakes sont des célébrités coréennes, et que la production réelle semble plutôt être le fait de réseaux criminels basés en Chine ou en Asie du Sud-Est ; du coup, censurer les sites nationaux, c’est quand même une mesure assez inutile.
Enfin, ce sujet a été publié.
Réactions sur Hacker News
Le problème, c’est que pour utiliser un outil de censure par IA, il faut acheter la solution d’un fournisseur précis, et que l’échéance est en pratique à moins d’un mois
En Corée, ce n’est pas particulièrement surprenant, car il existe beaucoup d’entreprises IT zombies qui survivent grâce aux contrats publics, et en pratique toute une structure de CMS locaux est déjà en place
Des programmeurs coréens peu à l’aise en anglais finissent par dépendre de ces CMS locaux, ce qui contribue aussi à affaiblir leurs compétences en programmation
C’est probablement l’une des raisons pour lesquelles, malgré une forte proportion de diplômés de l’enseignement supérieur, la Corée compte relativement peu de programmeurs vraiment remarquables
La Corée a été le premier pays au monde à mettre en œuvre une loi de censure d’Internet, et des gouvernements de gauche comme de droite ont tous un historique en la matière
Mais la question est complexe, car ces systèmes de censure génèrent aussi des contrats IT publics et des emplois
Plus concrètement, la plupart des plateformes coréennes de tableaux d’affichage et de forums sont fortement liées à certains CMS commerciaux, et les projets liés au gouvernement exigent souvent de fait ce CMS
Faute de bonnes compétences en anglais et d’expérience avec des alternatives globales open source, les développeurs restent enfermés dans cet écosystème, au point que même les fonctions de base de censure par IA dépendent de modules propriétaires monopolistiques de ces fournisseurs
Quand un délai de moins d’un mois force l’achat, il n’y a plus de marge pour examiner des options meilleures, moins chères et plus transparentes
Au final, cette structure entretient un cycle de dépendance aux fournisseurs, de faibles capacités techniques et de conformité de façade au lieu de véritable innovation
On retrouve exactement la même combinaison : un problème réel, suivi d’une solution précipitée et probablement inférieure de type NIH, puis une implémentation unique imposée à tout le monde, avant des années de stagnation technique
Espérons que cette obligation ne s’étende pas, comme SEED, au point d’avoir enfermé le web coréen dans un Internet Explorer obsolète et des contrôles ActiveX peu sûrs pendant si longtemps
https://archive.is/ermII
Je me demande si cela va créer un marché pour des forums plus libres destinés aux Coréens, mais hébergés dans d’autres pays
Il y a un contexte culturel qui manque ici : en Corée, les deepfakes, les contenus pornographiques non consentis et l’exploitation d’images personnelles sont des problèmes omniprésents, ou presque permanents.
La Corée a beaucoup de qualités, mais tout l’environnement sexuel impliquant hommes, femmes et enfants est assez terrifiant.
Il est difficile de juger cela uniquement avec une grille de lecture occidentale sans connaître la gravité du problème, et quel que soit le regard porté sur le mécanisme, le problème sous-jacent est très réel.
La proposition d’ajouter un filtre IA à un petit forum paraît étrange, et probablement maladroite, mais en Corée, face à un problème concret, la tendance est généralement d’agir d’abord, dans un esprit de « tentons-le ».
Cela produit parfois des résultats bizarres, mais permet aussi une résolution de problèmes dynamique.
Ce que je veux empêcher d’emblée ici, c’est l’attitude consistant à juger cette affaire à l’aune de valeurs soi-disant « universelles ».
La conception des droits universels héritée de la Révolution française et des Lumières n’est en pratique pas vraiment universelle, mais plutôt la logique d’une aire culturelle donnée ; elle est cohérente dans sa propre bulle, mais a été exportée comme si c’était le réglage par défaut pour tout le monde.
Personnellement, j’aime bien ces valeurs, mais je pense qu’il existe d’autres logiques tout aussi cohérentes, et que la logique coréenne en fait partie.
Cela sonnera peut-être comme un cliché, mais la Corée s’appuie sur l’harmonie et le collectif, tandis que l’Occident s’appuie sur l’individu ; les deux produisent des déviances, simplement de nature différente.
Quand je suis arrivé en Corée, j’ai trouvé complètement fou le nombre de radars et de caméras de surveillance, mais après quelques années, je n’ai pas seulement fini par m’y habituer : j’y ai vu un compromis qui fonctionne globalement, et j’en suis même venu à l’apprécier.
La Corée préfère une présence policière légère à l’allure amicale et une répression automatisée de masse, plutôt qu’une application musclée avec véhicules blindés qui apparaissent de temps en temps.
C’est un choix de conception, pas le signe d’une glissade vers la dystopie.
L’idée, c’est simplement de garder l’esprit ouvert et d’éviter d’appliquer sans recul les valeurs d’une culture comme si elles étaient le mètre étalon de tout le monde.
On peut critiquer le mécanisme autant qu’on veut, mais il ne faut pas prendre l’échelle de valeurs d’une culture comme norme pour juger toutes les autres.
Personnellement, je vois cette politique comme une tentative ratée, mais pas comme un toboggan vers la dystopie.
C’est plutôt un mardi ordinaire en Corée.
En revanche, j’ai du mal à être d’accord avec l’idée de classer la politique internet coréenne comme « légère ».
Les politiques internet coréennes imposent généralement des technologies très spécifiques, comme SEED ou ce nouveau modèle, et tissent tout un ensemble serré de règles de détail adaptées uniquement à la Corée, ce qui crée des monopoles ou quasi-monopoles de logiciels objectivement inférieurs et très peu sûrs.
Ce n’est pas une politique légère.
Même l’Online Safety Act du Royaume-Uni, critiquée en Occident comme un cas emblématique d’excès de l’État parce qu’elle impose une vérification de l’âge, est bien plus légère que les politiques à la coréenne.
Elle n’impose ni logiciel ni matériel spécifique, ni chiffrement ni protocole particulier, et la liste des méthodes de vérification de l’âge autorisées y est explicitement non limitative.
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
Dans la plupart des politiques numériques, je pense que le vrai exemple de politique légère, c’est le Japon.
Les exigences sont vagues, les exemples non limitatifs, il y a beaucoup d’exceptions, et l’on trouve des formulations du type « si c’est techniquement trop contraignant, vous n’avez pas besoin d’implémenter X » ; cela peut être traité manuellement comme de façon entièrement automatisée.
Cela ne veut pas dire que le Japon a toujours raison — par exemple, sur les exigences de sécurité, c’est parfois trop laxiste — mais objectivement, c’est une politique légère.
La politique numérique coréenne n’est légère selon aucune définition.
Si on appelle cela léger simplement parce qu’on n’envoie pas de chars pour arrêter des diffuseurs de revenge porn, d’accord, mais quel pays fait ça ?
Si l’on juge la lourdeur d’une politique à son caractère restrictif, rares sont les pays qui peuvent rivaliser avec la Corée.
En 2024, quelqu’un a même créé une carte des signalements de deepfakes scolaires, qui a fait parler d’elle dans tout le pays : https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
Il y a un problème vraiment terrible, et cela ressemble beaucoup à la vérification de l’âge dans le fait que des gens qui semblent ne pas comprendre internet proposent des solutions terribles.
Ça donne l’impression d’un vœu de singe qui se replie.
C’est un bon exercice de transposer cela dans une situation non technique.
Imaginez que gérer un bar, un restaurant, une librairie, un atelier d’artiste, ou même simplement réunir des gens à une échelle moyenne ou grande, soit illégal à moins qu’un censeur désigné par l’État n’ait le droit d’écouter et de faire taire les gens.
Est-ce que cela paraît toujours « harmonieux » ?
On ne peut pas dire qu’il n’y a pas de problème de revenge porn en Corée, et c’est fondamentalement la logique du gouvernement coréen aussi.
Mais le problème, c’est que les principales sources de revenge porn sont en réalité des communautés étrangères utilisées par des Coréens.
Bien sûr, la plus grande communauté nationale coréenne a aussi eu des problèmes de filtrage, et il y a eu des affaires comme des menaces terroristes ou des viols.
Mais c’est surtout parce que DCinside est gigantesque.
En réalité, les affaires qui ont le plus indigné le public ont commencé sur Twitter(X) et Telegram.
Dans ce cas, les acteurs centraux du problème sont-ils visés par la censure ? Non.
Est-ce que la censure élimine vraiment les problèmes évoqués plus haut ? Ou est-ce qu’elle ne fait que les rendre plus sombres et pires ?
Personnellement, j’ai une façon de penser typiquement est-asiatique, donc je crois qu’un certain niveau de restriction de la liberté est nécessaire.
Mais honnêtement, cela ressemble quand même à une loi martiale sur internet.
Imposer CUDA et recommander Ubuntu 18.04, c’est étrange.
Pour rappel, Ubuntu 18.04 est arrivé en fin de support en 2023.
Est-ce qu’ils pensent vraiment qu’un serveur avec un seul GPU Quadro peut traiter un trafic élevé en temps réel ?
Soit il y a eu un accord opaque en coulisses, soit cela traduit une incompétence grave.
Les médias traditionnels ne couvrent pas suffisamment le sujet.
On dirait que personne ne s’en soucie, à part les gens toujours en colère et en permanence sur internet.
Je n’avais déjà pas de grands espoirs pour l’internet libre dans ce pays, mais cela devient pire que je ne l’imaginais.
L’avenir sera constitué de communautés privées auto-hébergées qui n’invitent que des personnes vérifiées comme étant réelles, probablement avec une vérification effectuée hors ligne
Honnêtement, ça ne me dérange plus de voir l’internet public mourir et les gens revenir à des rassemblements locaux plus modestes
Sans contrôle des Big Tech, sans les absurdités crypto à la nostr, et sans qu’un mauvais administrateur puisse supprimer des publications comme sur Mastodon
Ils ne peuvent que les bloquer sur leur propre serveur
On peut construire par-dessus un réseau de confiance ou un système de vérification, comme le fait tangled dans son code
Un système du genre « je me porte garant de cette personne » ?
Les forums internet coréens ressemblent davantage à d’anciens sites comme Hacker News qu’à des applis modernes comme Reddit
C’est le cas dans l’UI/UX et dans leur manière d’utiliser les technologies web, et malgré cela il est surprenant qu’ils aient un niveau de fréquentation proche de 20 % de la population
Je me demande si, à cause du coréen, ils sont restés sur un style de forum plus ancien que les applis anglophones
Personnellement, je préfère largement cette approche
On dirait que la Corée suit la voie de son voisin du nord
Est-ce que cela aura un effet sur les logiciels exportés depuis la Corée ?
Si les téléphones Samsung embarquent par défaut des outils de censure par IA, je doute que cela les rende plus populaires
Apple s’était aussi pris un gros retour de flamme quand il avait voulu faire ça sur l’iPhone
Je l’ai essayé par curiosité, et il refuse beaucoup de modifications d’image comme étant « inappropriées », surtout celles liées à la violence
L’infrastructure est déjà en place
L’affaire Nth Room a peut-être préparé le terrain à cette forte culture de l’approbation
https://en.wikipedia.org/wiki/Nth_Room_case
La Corée est technologiquement en retard dans presque tous les domaines possibles
Pendant longtemps, il fallait un ordinateur Windows pour utiliser les services publics ou bancaires, et c’est encore le cas pour beaucoup d’entre eux
À cause de cette dépendance à de mauvais laptops Windows, il est courant de voir des gens utiliser leur ordinateur portable dans des cafés avec une souris externe
Le format de document de facto est le format bancal de Hancom
Quand on regarde les infos coréennes, c’est ridicule : dès qu’ils diffusent des images dans un lieu public, 80 % de l’écran est flouté
On a l’impression qu’il n’y a presque aucune raison de les montrer
Les API et leur documentation sont vraiment conçues et rédigées de façon lamentable, au point d’en devenir une blague
Les fournisseurs de cartes externes ont été de fait exclus du marché jusqu’à l’année dernière
Pour s’inscrire à quoi que ce soit, il faut littéralement toujours un numéro de téléphone
Il y aurait bien plus d’exemples, mais ce sont simplement ceux qui me viennent à l’esprit
Il n’y a absolument aucun espace pour que le dynamisme respire
Le problème de la Corée n’est pas politique, c’est simplement le produit d’un oligopole pur
Sur Twitter, on aime imaginer la Corée comme un pays techno-futuriste, mais en réalité la culture startup y est terrible, il n’y a pas d’écosystème de capital-risque, et les grands groupes écrivent toutes les règles
Cela vient des caractéristiques d’un petit pays
En réalité, en Corée, Twitter(X) est méprisé comme un endroit réservé aux fous et il a une mauvaise image
Plus largement, c’est une structure où un oligopole de grands groupes se superpose à un système national organisé autour des chaebols et de la gestion familiale
Dans ce cadre, l’enjeu principal devient la survie par les contrats d’entreprise plutôt que l’investissement agressif
Personnellement, je déteste cette culture, donc j’essaie de trouver un emploi aux États-Unis
Je suis épuisé de travailler 84 heures par semaine pendant 3 mois sans même gagner 8 millions de wons
Le fait que les fournisseurs de cartes externes aient été exclus était littéralement positif pour tous les résidents coréens, et négatif seulement pour les actionnaires de Google et pour quelques touristes qui devaient télécharger une application de cartographie locale
Un responsable politique a donc fait quelque chose de bénéfique pour les citoyens ; où est le problème ?
Le fait d’exiger un numéro de téléphone pour s’inscrire à quelque chose présente aussi en réalité beaucoup d’avantages
Ce n’est pas très bien reçu sur HN quand on le reconnaît, mais c’est en fait un compromis défendable
On peut ne pas être d’accord, mais faire comme si c’était évidemment mauvais relève de l’ignorance
Le format Hancom, en 2026, n’est plus utilisé par personne sauf lorsqu’il faut traiter avec des organismes publics
Dire que c’est le standard de facto de toute la Corée est une généralisation excessive