Je me demande s’il existe déjà une sorte de loi générale sur les conséquences non intentionnelles
Par exemple, on veut améliorer l’efficacité énergétique, on crée donc une norme de consommation, puis des « camions » gourmands en carburant exclus de cette norme évinceraient des voitures économes, ce qui finirait par aggraver la consommation globale
Si, au nom de la protection des enfants, on criminalise des activités susceptibles d’augmenter ne serait-ce qu’un peu le risque, alors la meilleure option finit par être de garder les enfants à l’intérieur avec uniquement des appareils électroniques, ce qui peut accroître l’obésité et la dépression et finalement aggraver leur situation
Comme le dit cet article, si le renforcement de la responsabilité des Big Tech mène à une réglementation trop difficile, seules les Big Tech pourront s’y conformer, et les communautés technologiques indépendantes seront repoussées hors ligne
Si c’est intentionnel, alors c’est de la capture réglementaire (regulatory capture). Selon https://www.investopedia.com/terms/r/regulatory-capture.asp, la réglementation tend à augmenter le coût d’entrée sur le marché, car les nouveaux entrants doivent supporter non seulement les coûts d’accès au marché, mais aussi les coûts de conformité réglementaire
Cela crée aussi des barrières explicites à l’entrée, comme des licences, des autorisations ou des preuves de nécessité, et il arrive que les acteurs en place obtiennent des exceptions ou des délais, laissant les nouveaux entrants seuls face à certaines obligations
Cela dit, un système sans aucune réglementation peut être tout aussi mauvais pour les consommateurs, donc la ligne entre trop peu et trop de réglementation est importante. Comme toujours, tout se joue dans les détails
Il y a le cobra effect, rendu célèbre par Freakonomics
Trop de cobras → prime versée pour chaque cobra tué → les gens se mettent à élever des cobras pour toucher la prime → la loi est supprimée → les gens relâchent les cobras → il y a encore plus de cobras
C’est étrange d’appeler naïvement cela des conséquences non intentionnelles
C’est une manière d’utiliser la régulation des discours politiques comme une arme pour faire taire la libre expression en ligne. Les opposants le disent depuis longtemps, alors je ne vois pas pourquoi il faudrait prétendre que ceux qui ont écrit la loi n’ont pas compris, étaient naïfs ou agissaient de bonne foi
Ils savent ce que c’est et ce que cela fait. Le but d’un système est ce qu’il fait réellement
À ce sujet, l’un des noms de cette manière de faire taire, que non seulement les politiciens mais n’importe qui peut instrumentaliser, est le Heckler's veto. Il suffit de semer le désordre sur un site qu’on n’aime pas, puis d’invoquer cette réglementation pratique pour le faire fermer
Ce qui est utile avec ce genre de loi, c’est qu’il n’est même pas nécessaire de pointer directement du doigt ceux qui la créent. Des utilisateurs mécontents ou quelqu’un d’autre le feront à leur place
Il faudrait imposer aux politiciens une semaine de formation obligatoire en macroéconomie de base, en théorie des jeux de base et en statistiques de base
Maintenant que j’y pense, les élèves devraient aussi apprendre cela au lycée
En Australie aussi, il existe une loi similaire appelée Online Safety Act 2021. Le malentendu central de cette loi est d’imaginer Internet non pas comme un tissu riche d’espaces indépendants animés par des communautés, mais uniquement comme quelques grandes plateformes
Les exigences larges et vagues de l’Online Safety Act, ainsi que les sanctions potentielles, sont un obstacle mineur pour des entreprises pesant des milliards de dollars et disposant de services juridiques internes, d’équipes de conformité et d’outils de modération automatisés. Mais pour un particulier qui gère un forum par passion, ou pour un petit groupe qui fonctionne grâce au temps bénévole, cela devient un champ de mines juridique où un utilisateur mécontent peut menacer de causer un préjudice financier et personnel bien réel
En pratique, un forum cycliste local qui a aussi nourri la confiance, l’amitié et même le soutien en santé mentale risque de disparaître, tandis que les grandes entreprises s’en sortent sans une égratignure. Ironiquement, des mesures censées « contrôler les Big Tech » finissent par étouffer les petites communautés indépendantes et par repousser les utilisateurs vers les mêmes grandes plateformes que la loi prétendait viser
Il est décourageant de voir les gouvernements imposer des solutions complexes venues d’en haut tout en ignorant la valeur culturelle et sociale de ces petits espaces. Il faut des politiques qui reconnaissent les vrais forums animés par les communautés comme un bien public, qui encouragent des pratiques de modération durables et qui rendent les mauvais acteurs responsables, sans étrangler les projets de terrain qui rendent Internet plus humain
Puisqu’on parle de l’Australie, cela m’a surtout rappelé le récent projet de loi confus Online Safety Amendment (Social Media Minimum Age) Bill 2024
D’après ce texte, HN devrait identifier tous les utilisateurs australiens afin d’empêcher les moins de 16 ans de l’utiliser https://www.aph.gov.au/Parliamentary_Business/Bills_Legislat...
C’est triste, mais imaginer Internet comme quelques grandes plateformes correspond à la réalité. Même si on additionnait tous les petits espaces, ils se perdraient dans une erreur d’arrondi
Vous supposez que l’objectif de ces lois est bien celui affiché en surface, et que ceux qui les rédigent sont ignorants. Mais beaucoup de textes sont écrits par des think tanks et des lobbyistes
Les autoritaires ne veulent pas que les gens parlent et s’organisent en privé. Quel meilleur moyen de répression que ce refrain absurde de « pensez aux enfants » ? Ils ont aussi attaqué le chiffrement de cette manière à répétition
Google, Facebook et Twitter auraient pu faire un lobbying énergique contre cela, mais ils ne l’ont pas fait
Cela en dit long à lui seul. Ma théorie est que si ces forums ferment, les gens seront poussés vers des plateformes centralisées, les revenus publicitaires augmenteront, et le gouvernement sera satisfait de pouvoir découvrir bien plus facilement qui discute de quoi en ligne
Les consignes pratiques d’Ofcom se trouvent ici : https://www.ofcom.org.uk/siteassets/resources/documents/onli...
Un site de vélo avec 275 000 utilisateurs actifs mensuels entre dans la catégorie la plus basse, et les obligations de conformité se limitent à quelque chose comme « disposer d’une fonction de modération permettant d’examiner et d’évaluer les contenus illégaux présumés ». En gros, il suffit d’avoir un bouton de signalement
La loi ne fonctionne pas comme ça. Si on donne au grand public une loi énorme en disant qu’en cas de non-respect il faudra payer des millions, le fait qu’il existe théoriquement un moyen de se mettre en conformité avec un peu d’effort devient presque secondaire
La plupart des gens ne sont pas juristes, et comprendre concrètement comment se conformer est extrêmement fastidieux et risqué. Parce que si vous interprétez mal la loi, c’est vous qui en assumez la responsabilité
Les entreprises ont des services juridiques chargés de trouver les réponses à ce genre de questions. Parce que ces questions sont très délicates, et que les réponses peuvent changer au fil de la jurisprudence ou de l’évolution des règles
Attendre d’un particulier qu’il interprète un ensemble complexe de règles sous la menace d’une responsabilité juridique est un très bon moyen de le pousser à arrêter ce qu’il faisait
Le post d’origine donne l’impression de brûler la maison pour tuer les punaises
Ce serait même plutôt surprenant qu’ils n’aient pas déjà un système de signalement ou de marquage
Une « fonction de modération permettant d’examiner et d’évaluer les contenus illégaux présumés », ça coûte de l’argent
Une personne ordinaire ne peut pas connaître toutes les lois. Pour déterminer si chaque signalement est illégal, il faut embaucher un juriste ou, au minimum, évaluer chaque signalement à l’aune de son caractère potentiellement illégal. Si vous risquez la prison en cas d’erreur, personne ne fera ça gratuitement
Dans un système équitable, tous les signalements de contenus illégaux devraient être transmis à un juge pour vérifier s’ils sont vraiment illégaux. Si c’est le cas, le contenu est retiré et les poursuites commencent
Mais cela ferait porter un coût énorme à l’État. Donc ce coût est transféré aux exploitants. Au final, seuls les sites les plus riches ou ceux qui acceptent le plus de risques peuvent continuer à fonctionner
J’aimerais que plus de gens lisent les documents réels dans leur contexte. C’est pareil avec le GDPR : le secteur tech souffre d’une faible culture juridique
Le Royaume-Uni semble avoir tout simplement renoncé à être un pays pertinent à l’international. Quand le quartier financier de la City of London aura disparu, on aura peut-être même oublié d’ici dix ans qu’il s’agit encore d’un pays
Ça semble lié à ce commentaire : https://archive.is/9V2Bf
Les organisations quittent déjà le LSEG à cause de la plus grande profondeur des marchés de capitaux américains
À part ça, le Royaume-Uni est une excellente destination touristique. Surtout si on quitte Londres dès l’atterrissage
De beaux paysages, des petits-déjeuners de tout premier ordre, des gens vraiment sympa, et énormément de choses à voir
Je ne sais pas combien de dégâts supplémentaires il faudra avant qu’ils comprennent comment arrêter de se nuire à eux-mêmes. Je ne toucherais pas à un investissement au Royaume-Uni avec une perche
La formule « l’Online Safety Act était censé demander des comptes à la Big Tech, mais en pratique seuls ces acteurs peuvent s’y conformer, ce qui renforce encore la concentration autour de leurs plateformes » est vraiment très juste. C’est une bonne description du fonctionnement d’une bureaucratie mal orientée
On dirait désormais que les communautés en ligne doivent se doter de leur propre bureaucratie. Parce qu’il faut désormais se préparer à interagir efficacement, d’une manière nouvelle, avec une bureaucratie gouvernementale autoritaire, puissante, ancienne, en expansion constante et aux pouvoirs toujours plus étendus
Ce genre de mesure semble conçu pour que seules de grandes organisations très prospères, ayant dépassé une certaine taille, puissent maintenir en permanence leur propre bureaucratie interne et, si nécessaire, y affecter assez de personnel pour faire face à l’ampleur de la bureaucratie d’État
Des sujets autrefois sans importance peuvent devenir problématiques, de nouvelles clauses potentiellement fatales peuvent surgir de manière imprévisible, et le fait que cela concerne l’activité en ligne crée un désavantage net pour d’innombrables acteurs non bureaucratiques
Si vous pensez qu’en mettant en place pour la première fois une petite bureaucratie interne avec sérieux vous pourrez faire face à ce terrain instable, vous vous trompez
C’était déjà suffisamment mauvais avant, mais on vous a maintenant imposé par-dessus tout le reste une cible mouvante encore plus grande
Ce type de réglementation ne laisse vivre que des entreprises qui disposent déjà d’une bureaucratie permanente bien financée, développée de longue date en réponse à des obligations passées moins sévères. Cela veut dire qu’il ne faut pas soutenir tous les autres, ceux qui ne peuvent pas absorber ça sans broncher
Qu’est-ce qu’on entend exactement ici par bureaucratie ? Vous voulez dire faire des évaluations des risques ?
J’ai dû relire deux fois en voyant LFGSS ici. J’y ai longtemps traîné en lecteur discret, j’y ai parfois posté, et j’y ai aussi acheté et vendu des choses. C’est vraiment l’une des meilleures communautés en ligne que j’aie connues, et de loin la meilleure parmi les communautés liées au vélo
Cela dit, je ne peux pas critiquer cette décision. C’est triste, et on a l’impression de voir se terminer toute une époque d’Internet
Comme nos genoux… Au début c’était du fixed gear, maintenant c’est devenu du single speed, et bientôt les moyeux Phil seront attachés à une chaise plutôt qu’à une piste. L’esprit de la bagarre s’estompe
Je me demande s’il a été envisagé de confier le forum à quelqu’un hors du Royaume-Uni. On pourrait peut-être trouver un administrateur raisonnable et se retirer sans abandonner les utilisateurs
Le travail accompli est énorme, et il y a de quoi être fier, donc ce serait dommage de le voir disparaître
Il y a eu plusieurs cas de projets open source confiés à quelqu’un qui semblait sympathique, avant que cette personne n’y injecte un malware quelques mois plus tard
Je comprends tout à fait qu’on préfère fermer proprement plutôt que de prendre le risque de voir quelque chose qu’on a surveillé pendant longtemps se transformer en horreur
Je me pose la même question. Surtout en dehors de l’UE, il doit bien y avoir quelqu’un prêt à reprendre ça
Trouver quelqu’un de confiance est difficile, mais buro9 connaît sûrement énormément de monde
« Cette loi s’applique si l’entreprise qui fournit le service a des liens avec le Royaume-Uni, même si elle est située en dehors du Royaume-Uni. Cela inclut les cas où le service compte un nombre important d’utilisateurs britanniques »
Chez rsync.net, j’aimerais proposer un espace gratuit à vie pour conserver ou héberger temporairement ces données. Ça peut aussi être sous forme chiffrée. J’aimerais aider à préserver ce que vous avez construit
Il suffit d’envoyer un e-mail
On dirait qu’il n’y a pas vraiment d’explication de ce qui pose précisément problème dans cette nouvelle loi. Quel aspect de cette loi fait qu’héberger son propre forum n’est plus vraiment sûr ? Tu peux l’expliquer comme si j’avais 5 ans ?
Le fait que personne ne puisse en être totalement sûr fait partie du problème, à mon avis.
Cette loi est délibérément très vague et très large.
En gros, l’idée est qu’une plateforme doit elle-même évaluer et identifier les risques de « préjudice », mettre en place des mesures de sécurité, conserver des dossiers et effectuer des audits. Les indications sur ce que cela signifie sont très floues, mais cela peut par exemple inclure une vérification d’âge stricte, une modération proactive et efficace, ainsi qu’une évaluation approfondie de tous les algorithmes.
Si vous faites l’objet d’une enquête, quelqu’un décidera alors si vos mesures étaient suffisantes ou non.
Donc il se peut que vous deviez passer énormément de temps à vous assurer qu’aucun « préjudice » ne se produise sur la plateforme, et dépenser de l’argent pour faire relire les éléments d’audit par des avocats.
Et comme les conséquences peuvent être sévères si l’on juge que ce n’était pas suffisant, on en vient à se demander si cela vaut la peine de prendre tous ces risques juste pour gérer une communauté en ligne
D’après Wikipedia, cette loi crée pour les plateformes en ligne une nouvelle obligation de diligence et leur impose de réagir aux contenus illégaux des utilisateurs, ou aux contenus légaux mais « nuisibles ».
Les plateformes qui ne respectent pas cette obligation risquent une amende pouvant aller jusqu’à 18 millions de livres sterling ou 10 % de leur chiffre d’affaires annuel, selon le montant le plus élevé
En substance, cela revient à faire travailler les entreprises technologiques pour le gouvernement britannique comme une extension de l’application de la loi. Elles doivent surveiller et censurer leurs utilisateurs, sinon elles sont sanctionnées, et Ofcom a le pouvoir de fermer ce qui ne lui plaît pas.
En conséquence, seuls les grands groupes pourront encore héberger des services en ligne pour d’autres personnes au Royaume-Uni. Ce sont les seuls à pouvoir assumer les exigences d’automatisation et de modération imposées par cette loi.
Vous pourrez peut-être encore héberger votre propre contenu, mais si vous voulez exploiter un site de forum ou une petite plateforme de réseau social, il faudra avoir les moyens d’embaucher des avocats, de payer des modérateurs plusieurs milliers de dollars par mois ou de mettre en place un système de modération irréprochable.
Sinon, vous risquez simplement d’être fermé par Ofcom. Vous pouvez même être fermé en ayant fait tout ce qu’il fallait. Il ne restera plus qu’à espérer survivre à la procédure d’appel
https://www.ofcom.org.uk/online-safety/illegal-and-harmful-c...
Il faut faire une évaluation des risques et en conserver une copie. Plus le niveau de risque est élevé, plus il faut mettre en place de mesures d’atténuation.
Si c’est un tableau d’affichage pour les événements du quartier où les gens peuvent publier des messages, qu’il n’y a eu aucune plainte et qu’en général vous vous contentez de surveiller les abus éventuels, cela peut suffire.
À l’inverse, si vous gérez un grand salon de discussion pour des enfants suicidaires où des adultes non vérifiés peuvent leur parler en message privé, il faut un niveau de mesures d’atténuation bien plus élevé.
La taille compte, mais ce n’est pas le seul facteur déterminant.
Un exemple de faible risque en matière de suicide serait un grand service de recherche vertical spécialisé dans les voyages, comme les vols et les hôtels. Il a environ 10 millions d’utilisateurs mensuels au Royaume-Uni, suggère des destinations via un système de recommandation et dispose d’un système basique de signalement par les utilisateurs. S’il n’existe aucune preuve ni aucune indication que des contenus illégaux liés au suicide apparaissent dans les résultats de recherche, et que le fournisseur ne voit pas comment cela pourrait se produire, alors même un grand service peut conclure que le risque d’infraction d’encouragement ou d’aide au suicide est négligeable ou inexistant.
Un exemple de risque élevé de grooming serait un site de réseau social comptant plus de 10 millions d’utilisateurs mensuels au Royaume-Uni. Il dispose de messages privés et de recommandations pour élargir le réseau, ses conditions d’utilisation le réservent aux plus de 16 ans, mais il n’utilise pas de vérification d’âge robuste et il est connu que des enfants plus jeunes l’utilisent aussi. Même si les signalements d’utilisateurs sont peu nombreux, si des organisations d’experts externes ont indiqué qu’il était utilisé pour du grooming, et s’il a été cité dans des affaires de police ou des enquêtes de grands journaux, alors le fournisseur conclura qu’il s’agit d’un service à haut risque de grooming
Le passage disant que « cette activité ne peut pas supporter les coûts de conformité… et même si elle le pouvait, cela me laisserait une responsabilité personnelle excessive, facilement instrumentalisable par des gens mécontents écartés pour faute grave » me semble un peu confus.
L’Online Safety Act crée-t-il une responsabilité personnelle pour les opérateurs de sites ? Plus précisément, cela veut-il dire qu’une personne morale n’offre pas une protection suffisante ? Ou parle-t-on du harcèlement que pourraient faire subir des utilisateurs mécontents ?
Je découvre Microcosm, mais cela a l’air d’être un logiciel de forum plutôt sympa, que j’aurais pu envisager pour de futurs projets. Dommage de le voir disparaître
Il y a cette phrase sur la page liée, et je ne suis pas certain de ce qu’elle signifie exactement, mais on peut peut-être l’interpréter comme une responsabilité personnelle :
« Responsabilité élevée en matière de sécurité. Afin de garantir une responsabilisation stricte, chaque fournisseur doit désigner une personne senior responsable devant l’organe suprême de gouvernance du respect des obligations relatives aux contenus illégaux, aux signalements et au traitement des plaintes. »
L’auteur du billet semble considérer que cette loi crée indirectement une énorme responsabilité personnelle pour les opérateurs de sites, parce que si un utilisateur publie volontairement du contenu illégal puis signale le site au titre de cette loi, l’opérateur peut se retrouver exposé à une amende de 18 millions de livres sterling.
Quand on voit jusqu’où peuvent aller certaines personnes quand elles se sentent hostiles en ligne, d’après ce que racontent les opérateurs et modérateurs, cela paraît assez crédible
1 commentaires
Commentaires sur Hacker News
Je me demande s’il existe déjà une sorte de loi générale sur les conséquences non intentionnelles
Par exemple, on veut améliorer l’efficacité énergétique, on crée donc une norme de consommation, puis des « camions » gourmands en carburant exclus de cette norme évinceraient des voitures économes, ce qui finirait par aggraver la consommation globale
Si, au nom de la protection des enfants, on criminalise des activités susceptibles d’augmenter ne serait-ce qu’un peu le risque, alors la meilleure option finit par être de garder les enfants à l’intérieur avec uniquement des appareils électroniques, ce qui peut accroître l’obésité et la dépression et finalement aggraver leur situation
Comme le dit cet article, si le renforcement de la responsabilité des Big Tech mène à une réglementation trop difficile, seules les Big Tech pourront s’y conformer, et les communautés technologiques indépendantes seront repoussées hors ligne
Cela crée aussi des barrières explicites à l’entrée, comme des licences, des autorisations ou des preuves de nécessité, et il arrive que les acteurs en place obtiennent des exceptions ou des délais, laissant les nouveaux entrants seuls face à certaines obligations
Cela dit, un système sans aucune réglementation peut être tout aussi mauvais pour les consommateurs, donc la ligne entre trop peu et trop de réglementation est importante. Comme toujours, tout se joue dans les détails
Trop de cobras → prime versée pour chaque cobra tué → les gens se mettent à élever des cobras pour toucher la prime → la loi est supprimée → les gens relâchent les cobras → il y a encore plus de cobras
C’est une manière d’utiliser la régulation des discours politiques comme une arme pour faire taire la libre expression en ligne. Les opposants le disent depuis longtemps, alors je ne vois pas pourquoi il faudrait prétendre que ceux qui ont écrit la loi n’ont pas compris, étaient naïfs ou agissaient de bonne foi
Ils savent ce que c’est et ce que cela fait. Le but d’un système est ce qu’il fait réellement
À ce sujet, l’un des noms de cette manière de faire taire, que non seulement les politiciens mais n’importe qui peut instrumentaliser, est le Heckler's veto. Il suffit de semer le désordre sur un site qu’on n’aime pas, puis d’invoquer cette réglementation pratique pour le faire fermer
Ce qui est utile avec ce genre de loi, c’est qu’il n’est même pas nécessaire de pointer directement du doigt ceux qui la créent. Des utilisateurs mécontents ou quelqu’un d’autre le feront à leur place
Maintenant que j’y pense, les élèves devraient aussi apprendre cela au lycée
En Australie aussi, il existe une loi similaire appelée Online Safety Act 2021. Le malentendu central de cette loi est d’imaginer Internet non pas comme un tissu riche d’espaces indépendants animés par des communautés, mais uniquement comme quelques grandes plateformes
Les exigences larges et vagues de l’Online Safety Act, ainsi que les sanctions potentielles, sont un obstacle mineur pour des entreprises pesant des milliards de dollars et disposant de services juridiques internes, d’équipes de conformité et d’outils de modération automatisés. Mais pour un particulier qui gère un forum par passion, ou pour un petit groupe qui fonctionne grâce au temps bénévole, cela devient un champ de mines juridique où un utilisateur mécontent peut menacer de causer un préjudice financier et personnel bien réel
En pratique, un forum cycliste local qui a aussi nourri la confiance, l’amitié et même le soutien en santé mentale risque de disparaître, tandis que les grandes entreprises s’en sortent sans une égratignure. Ironiquement, des mesures censées « contrôler les Big Tech » finissent par étouffer les petites communautés indépendantes et par repousser les utilisateurs vers les mêmes grandes plateformes que la loi prétendait viser
Il est décourageant de voir les gouvernements imposer des solutions complexes venues d’en haut tout en ignorant la valeur culturelle et sociale de ces petits espaces. Il faut des politiques qui reconnaissent les vrais forums animés par les communautés comme un bien public, qui encouragent des pratiques de modération durables et qui rendent les mauvais acteurs responsables, sans étrangler les projets de terrain qui rendent Internet plus humain
D’après ce texte, HN devrait identifier tous les utilisateurs australiens afin d’empêcher les moins de 16 ans de l’utiliser
https://www.aph.gov.au/Parliamentary_Business/Bills_Legislat...
Les autoritaires ne veulent pas que les gens parlent et s’organisent en privé. Quel meilleur moyen de répression que ce refrain absurde de « pensez aux enfants » ? Ils ont aussi attaqué le chiffrement de cette manière à répétition
Google, Facebook et Twitter auraient pu faire un lobbying énergique contre cela, mais ils ne l’ont pas fait
Cela en dit long à lui seul. Ma théorie est que si ces forums ferment, les gens seront poussés vers des plateformes centralisées, les revenus publicitaires augmenteront, et le gouvernement sera satisfait de pouvoir découvrir bien plus facilement qui discute de quoi en ligne
Les consignes pratiques d’Ofcom se trouvent ici : https://www.ofcom.org.uk/siteassets/resources/documents/onli...
Un site de vélo avec 275 000 utilisateurs actifs mensuels entre dans la catégorie la plus basse, et les obligations de conformité se limitent à quelque chose comme « disposer d’une fonction de modération permettant d’examiner et d’évaluer les contenus illégaux présumés ». En gros, il suffit d’avoir un bouton de signalement
La plupart des gens ne sont pas juristes, et comprendre concrètement comment se conformer est extrêmement fastidieux et risqué. Parce que si vous interprétez mal la loi, c’est vous qui en assumez la responsabilité
Les entreprises ont des services juridiques chargés de trouver les réponses à ce genre de questions. Parce que ces questions sont très délicates, et que les réponses peuvent changer au fil de la jurisprudence ou de l’évolution des règles
Attendre d’un particulier qu’il interprète un ensemble complexe de règles sous la menace d’une responsabilité juridique est un très bon moyen de le pousser à arrêter ce qu’il faisait
Ce serait même plutôt surprenant qu’ils n’aient pas déjà un système de signalement ou de marquage
Une personne ordinaire ne peut pas connaître toutes les lois. Pour déterminer si chaque signalement est illégal, il faut embaucher un juriste ou, au minimum, évaluer chaque signalement à l’aune de son caractère potentiellement illégal. Si vous risquez la prison en cas d’erreur, personne ne fera ça gratuitement
Dans un système équitable, tous les signalements de contenus illégaux devraient être transmis à un juge pour vérifier s’ils sont vraiment illégaux. Si c’est le cas, le contenu est retiré et les poursuites commencent
Mais cela ferait porter un coût énorme à l’État. Donc ce coût est transféré aux exploitants. Au final, seuls les sites les plus riches ou ceux qui acceptent le plus de risques peuvent continuer à fonctionner
Le Royaume-Uni semble avoir tout simplement renoncé à être un pays pertinent à l’international. Quand le quartier financier de la City of London aura disparu, on aura peut-être même oublié d’ici dix ans qu’il s’agit encore d’un pays
Les organisations quittent déjà le LSEG à cause de la plus grande profondeur des marchés de capitaux américains
De beaux paysages, des petits-déjeuners de tout premier ordre, des gens vraiment sympa, et énormément de choses à voir
La formule « l’Online Safety Act était censé demander des comptes à la Big Tech, mais en pratique seuls ces acteurs peuvent s’y conformer, ce qui renforce encore la concentration autour de leurs plateformes » est vraiment très juste. C’est une bonne description du fonctionnement d’une bureaucratie mal orientée
On dirait désormais que les communautés en ligne doivent se doter de leur propre bureaucratie. Parce qu’il faut désormais se préparer à interagir efficacement, d’une manière nouvelle, avec une bureaucratie gouvernementale autoritaire, puissante, ancienne, en expansion constante et aux pouvoirs toujours plus étendus
Ce genre de mesure semble conçu pour que seules de grandes organisations très prospères, ayant dépassé une certaine taille, puissent maintenir en permanence leur propre bureaucratie interne et, si nécessaire, y affecter assez de personnel pour faire face à l’ampleur de la bureaucratie d’État
Des sujets autrefois sans importance peuvent devenir problématiques, de nouvelles clauses potentiellement fatales peuvent surgir de manière imprévisible, et le fait que cela concerne l’activité en ligne crée un désavantage net pour d’innombrables acteurs non bureaucratiques
Si vous pensez qu’en mettant en place pour la première fois une petite bureaucratie interne avec sérieux vous pourrez faire face à ce terrain instable, vous vous trompez
C’était déjà suffisamment mauvais avant, mais on vous a maintenant imposé par-dessus tout le reste une cible mouvante encore plus grande
Ce type de réglementation ne laisse vivre que des entreprises qui disposent déjà d’une bureaucratie permanente bien financée, développée de longue date en réponse à des obligations passées moins sévères. Cela veut dire qu’il ne faut pas soutenir tous les autres, ceux qui ne peuvent pas absorber ça sans broncher
J’ai dû relire deux fois en voyant LFGSS ici. J’y ai longtemps traîné en lecteur discret, j’y ai parfois posté, et j’y ai aussi acheté et vendu des choses. C’est vraiment l’une des meilleures communautés en ligne que j’aie connues, et de loin la meilleure parmi les communautés liées au vélo
Cela dit, je ne peux pas critiquer cette décision. C’est triste, et on a l’impression de voir se terminer toute une époque d’Internet
Je me demande s’il a été envisagé de confier le forum à quelqu’un hors du Royaume-Uni. On pourrait peut-être trouver un administrateur raisonnable et se retirer sans abandonner les utilisateurs
Le travail accompli est énorme, et il y a de quoi être fier, donc ce serait dommage de le voir disparaître
Je comprends tout à fait qu’on préfère fermer proprement plutôt que de prendre le risque de voir quelque chose qu’on a surveillé pendant longtemps se transformer en horreur
Trouver quelqu’un de confiance est difficile, mais buro9 connaît sûrement énormément de monde
Chez rsync.net, j’aimerais proposer un espace gratuit à vie pour conserver ou héberger temporairement ces données. Ça peut aussi être sous forme chiffrée. J’aimerais aider à préserver ce que vous avez construit
Il suffit d’envoyer un e-mail
On dirait qu’il n’y a pas vraiment d’explication de ce qui pose précisément problème dans cette nouvelle loi. Quel aspect de cette loi fait qu’héberger son propre forum n’est plus vraiment sûr ? Tu peux l’expliquer comme si j’avais 5 ans ?
Cette loi est délibérément très vague et très large.
En gros, l’idée est qu’une plateforme doit elle-même évaluer et identifier les risques de « préjudice », mettre en place des mesures de sécurité, conserver des dossiers et effectuer des audits. Les indications sur ce que cela signifie sont très floues, mais cela peut par exemple inclure une vérification d’âge stricte, une modération proactive et efficace, ainsi qu’une évaluation approfondie de tous les algorithmes.
Si vous faites l’objet d’une enquête, quelqu’un décidera alors si vos mesures étaient suffisantes ou non.
Donc il se peut que vous deviez passer énormément de temps à vous assurer qu’aucun « préjudice » ne se produise sur la plateforme, et dépenser de l’argent pour faire relire les éléments d’audit par des avocats.
Et comme les conséquences peuvent être sévères si l’on juge que ce n’était pas suffisant, on en vient à se demander si cela vaut la peine de prendre tous ces risques juste pour gérer une communauté en ligne
Les plateformes qui ne respectent pas cette obligation risquent une amende pouvant aller jusqu’à 18 millions de livres sterling ou 10 % de leur chiffre d’affaires annuel, selon le montant le plus élevé
En conséquence, seuls les grands groupes pourront encore héberger des services en ligne pour d’autres personnes au Royaume-Uni. Ce sont les seuls à pouvoir assumer les exigences d’automatisation et de modération imposées par cette loi.
Vous pourrez peut-être encore héberger votre propre contenu, mais si vous voulez exploiter un site de forum ou une petite plateforme de réseau social, il faudra avoir les moyens d’embaucher des avocats, de payer des modérateurs plusieurs milliers de dollars par mois ou de mettre en place un système de modération irréprochable.
Sinon, vous risquez simplement d’être fermé par Ofcom. Vous pouvez même être fermé en ayant fait tout ce qu’il fallait. Il ne restera plus qu’à espérer survivre à la procédure d’appel
Il faut faire une évaluation des risques et en conserver une copie. Plus le niveau de risque est élevé, plus il faut mettre en place de mesures d’atténuation.
Si c’est un tableau d’affichage pour les événements du quartier où les gens peuvent publier des messages, qu’il n’y a eu aucune plainte et qu’en général vous vous contentez de surveiller les abus éventuels, cela peut suffire.
À l’inverse, si vous gérez un grand salon de discussion pour des enfants suicidaires où des adultes non vérifiés peuvent leur parler en message privé, il faut un niveau de mesures d’atténuation bien plus élevé.
La taille compte, mais ce n’est pas le seul facteur déterminant.
Un exemple de faible risque en matière de suicide serait un grand service de recherche vertical spécialisé dans les voyages, comme les vols et les hôtels. Il a environ 10 millions d’utilisateurs mensuels au Royaume-Uni, suggère des destinations via un système de recommandation et dispose d’un système basique de signalement par les utilisateurs. S’il n’existe aucune preuve ni aucune indication que des contenus illégaux liés au suicide apparaissent dans les résultats de recherche, et que le fournisseur ne voit pas comment cela pourrait se produire, alors même un grand service peut conclure que le risque d’infraction d’encouragement ou d’aide au suicide est négligeable ou inexistant.
Un exemple de risque élevé de grooming serait un site de réseau social comptant plus de 10 millions d’utilisateurs mensuels au Royaume-Uni. Il dispose de messages privés et de recommandations pour élargir le réseau, ses conditions d’utilisation le réservent aux plus de 16 ans, mais il n’utilise pas de vérification d’âge robuste et il est connu que des enfants plus jeunes l’utilisent aussi. Même si les signalements d’utilisateurs sont peu nombreux, si des organisations d’experts externes ont indiqué qu’il était utilisé pour du grooming, et s’il a été cité dans des affaires de police ou des enquêtes de grands journaux, alors le fournisseur conclura qu’il s’agit d’un service à haut risque de grooming
Le passage disant que « cette activité ne peut pas supporter les coûts de conformité… et même si elle le pouvait, cela me laisserait une responsabilité personnelle excessive, facilement instrumentalisable par des gens mécontents écartés pour faute grave » me semble un peu confus.
L’Online Safety Act crée-t-il une responsabilité personnelle pour les opérateurs de sites ? Plus précisément, cela veut-il dire qu’une personne morale n’offre pas une protection suffisante ? Ou parle-t-on du harcèlement que pourraient faire subir des utilisateurs mécontents ?
Je découvre Microcosm, mais cela a l’air d’être un logiciel de forum plutôt sympa, que j’aurais pu envisager pour de futurs projets. Dommage de le voir disparaître
« Responsabilité élevée en matière de sécurité. Afin de garantir une responsabilisation stricte, chaque fournisseur doit désigner une personne senior responsable devant l’organe suprême de gouvernance du respect des obligations relatives aux contenus illégaux, aux signalements et au traitement des plaintes. »
Quand on voit jusqu’où peuvent aller certaines personnes quand elles se sentent hostiles en ligne, d’après ce que racontent les opérateurs et modérateurs, cela paraît assez crédible