Brown, Étienne et Zoe Phillips Williams. « Trust and Safety as Philosophical Practice ». Dans Trust, Safety, and the Internet We Share: Multistakeholder Insights, dirigé par Maia Levy Daniel, Amanda Menking, Marlyn Thomas Savio et Jean Claffey, 32-40. Londres : Routledge, 2026.

---

Le concept de « Trust and Safety »

(Confiance et sécurité en ligne)

Note explicative

Le terme « Trust and Safety » (T&S) désigne un secteur d’activité, une discipline professionnelle et un ensemble d’équipes internes propres aux plateformes numériques et aux entreprises de médias sociaux (telles que TikTok, Meta, YouTube, Google ou X)

1. Définition et rôle opérationnel

Au sein de l’industrie technologique, le domaine du Trust and Safety englobe l’élaboration, la mise en œuvre et l’application des règles de conduite et des politiques d’utilisation (Community Guidelines ou conditions d’utilisation). Son objectif principal est double :

• Prévenir et atténuer les risques et préjudices auxquels les utilisateurs peuvent être exposés (ex. discours de haine, désinformation, harcèlement, contenu pédopornographique, escroqueries, exploitation ou contenus générés de manière malveillante par intelligence artificielle).

• Garantir un environnement numérique sûr et digne de confiance tout en respectant un cadre acceptable de liberté d’expression pour les usagers.

2. Spécificité terminologique et traduction en francophonie

Bien que l’expression se traduise littéralement par « Confiance et Sécurité », l’usage francophone académique et institutionnel privilégie souvent l’ajout de la précision « en ligne » ou « numérique » (ex. la confiance et la sécurité en ligne). Cet ajout permet d’éviter toute confusion avec la sécurité publique, la défense militaire ou la sécurité physique des personnes, et d’indiquer clairement qu’il s’agit du domaine de la régulation et de la modération des contenus et comportements sur Internet.

3. Enjeux philosophiques et éthiques soulevés

Comme le soulignent les auteurs de l’article (Brown & Williams), le travail de Trust and Safety dépasse le cadre purement technique ou légal :

• Analyse conceptuelle : Les praticiens doivent constamment définir des notions complexes telles que la « désinformation », le « harcèlement » ou un contenu « trompeur » pour que ces définitions soient applicables à grande échelle par des modérateurs humains ou automatisés.

• Tension éthique fondamentale : Le domaine est structuré par un arbitrage permanent entre la théorie des préjudices (harm principle, d’inspiration utilitariste ou millienne) et la protection du droit fondamental à la liberté d’expression.

• Pouvoir politique et démocratique : En décidant de la visibilité, de la suppression ou de l’amplification des discours, les équipes de Trust and Safety exercent une forme de pouvoir normatif et quasi-juridictionnel sur la sphère publique numérique contemporaine.

Source : Google Gemini

AU SUJET DES AUTEURS

Étienne Brown, University of Ottawa

Je suis professeur agrégé de philosophie à l’Université d’Ottawa, au Canada. Mes travaux se situent à la croisée de la philosophie politique, de l’éthique et de la philosophie des technologies, et portent actuellement sur les enjeux normatifs de la sphère publique numérique (en particulier la modération de contenu et la recommandation algorithmique). Je suis également le fondateur et coorganisateur de Philmod.org, une communauté de chercheurs universitaires et de professionnels de la technologie s’intéressant à l’éthique des politiques de régulation des plateformes de médias sociaux.

 * * *

I am an Associate Professor of Philosophy at the University of Ottawa, Canada. My work sits at the intersection of political philosophy, ethics, and the philosophy of technology, with a current focus on the normative implications of the digital public sphere (especially content moderation and algorithmic recommendation). I am also the founder and co-organizer of Philmod.org, a community of academic researchers and technology professionals interested in the ethics of social media platform policy.

Source : PhilPapers.

VOIR AUSSI

Site web de Étienne Brown : https://etiennebrown.com/

Zoe Phillips Williams

Je suis analyste principale des politiques au Centre de l’IA du ministère de la Défense et j’ai été sélectionnée dans le bassin du Recrutement des leaders en politiques pour 2026-2028.

Auparavant, j’étais responsable des politiques relatives aux contenus générés par IA au sein de l’équipe des politiques mondiales d’Intégrité et d’Authenticité chez TikTok. Mon travail consistait à veiller à ce que nos utilisateurs puissent tirer parti des nouvelles formes de créativité offertes par les outils d’IA générative, tout en prévenant la prolifération de contenus générés par IA nuisibles et trompeurs sur la plateforme.

Issue d’un parcours en relations internationales et en science politique, j’ai travaillé pendant plusieurs années dans le milieu académique — au Royaume-Uni, au Canada et en Allemagne — avant de m’orienter vers les politiques de la technologie.

 * * *

I am senior policy analyst at the Department of Defence’s AI Centre and was selected for the Recruitment of Policy Leaders pool for 2026-2028.

Prior to this, I was the AI-generated content policy lead on TikTok’s Global Integrity and Authenticity policy team. My work focused on ensuring that our users can take advantage of the new ways of being creative afforded to them by gen AI tools, while preventing the proliferation of harmful and misleading AI-generated content on platform.

My background is in international relations/political science, and before transitioning to tech policy, I worked for several years in academia, in the UK, Canada and Germany.

Source : LinkedIn.

 * * *

Rôle actuel : Elle est analyste principale des politiques au Centre d’intelligence artificielle (AI Centre) du ministère de la Défense (du Canada) et a été sélectionnée au sein du bassin du programme d’excellence Recrutement des leaders en politiques (RPL) pour 2026-2028.

Expérience dans le secteur technologique : Elle a précédemment travaillé chez TikTok en tant que responsable des politiques relatives aux contenus générés par IA (AI-generated content policy lead) au sein de l’équipe mondiale Intégrité et Authenticité. Son travail portait sur la régulation de l’IA générative et la prévention des contenus trompeurs ou préjudiciables.

Parcours académique : Formée en relations internationales et en science politique (elle est notamment l’auteure d’ouvrages et de travaux sur le droit de l’investissement et l’arbitrage international), elle a travaillé plusieurs années dans l’enseignement et la recherche universitaire au Royaume-Uni, au Canada et en Allemagne avant d’orienter sa carrière vers les politiques de la technologie.

Coauteure : Elle a coécrit avec Étienne Brown le chapitre académique « Trust and Safety as Philosophical Practice » (Routledge, 2026).

Source : Google Gemini.

---

Trust and Safety as Philosophical Practice ». Dans Trust, Safety, and the Internet We Share: Multistakeholder Insights

par Étienne Brown, University of Ottawa, et Zoe Phillips Williams, TikTok

Traduction de l’anglais au français par Google Gemini

Résumé

Peut-on philosopher sur la confiance et la sécurité en ligne (Trust and Safety) ? Ce chapitre met en lumière les convergences entre les politiques de confiance et de sécurité et la philosophie académique. Dans un premier temps, nous soutenons que les professionnels de la confiance et de sécurité s’engagent régulièrement dans une démarche philosophique, leur travail quotidien étant étroitement lié à l’analyse conceptuelle, à la prévention des préjudices et à la liberté d’expression. Nous suggérons ensuite que ces praticiens tireraient parti d’une réflexion philosophique visant à définir des principes directeurs globaux et à conceptualiser le pouvoir exercé par les plateformes de médias sociaux dans les sociétés démocratiques contemporaines. Selon nous, les philosophes ont eux aussi à apprendre des professionnels du secteur, tout particulièrement de ceux qui élaborent les politiques de modération de contenu. En se familiarisant avec le domaine de la confiance et de la sécurité, ils peuvent prendre conscience d’enjeux sociaux urgents et de cas limites (edge cases) qui mettent à l’épreuve leurs intuitions morales. Enfin, nous présentons les enseignements tirés de notre participation à PhilMod, une communauté de chercheurs universitaires et de professionnels de la technologie qui s’intéressent aux implications philosophiques de la modération de contenu et des politiques de régulation des plateformes.

Texte original en anglais

Abstract

Can we philosophize about Trust and Safety? This chapter highlights the similarities between trust and safety policy and academic philosophy. First, we argue that trust and safety professionals regularly engage in philosophical thinking as their daily work relates to conceptual analysis, harm mitigation, and freedom of expression. We then suggest that such professionals would benefit from engaging in philosophical efforts to define overarching trust and safety principles and conceptualize the power wielded by social media platforms in contemporary democratic societies. In our view, philosophers, too, can also learn from trust and safety professionals, especially those who craft content moderation policies. By familiarizing themselves with Trust and Safety, they can gain awareness of pressing social issues and edge cases that challenge their intuitive judgments. Lastly, we discuss what we have learned by participating in PhilMod, a community of academic researchers and technology professionals interested in the philosophical implications of content moderation and social media platform policy.

Source : PhilPapers.

---

ANALYSE ACADÉMIQUE

Voici une analyse académique exhaustive, rigoureuse et fidèle du texte fourni (« Trust and Safety as Philosophical Practice », écrit par Étienne Brown et Zoe Phillips Williams, à paraître en 2026), structurée selon son déroulement exact et reprenant l’ensemble des concepts, arguments, exemples et citations bibliographiques qui y sont exposés, sans ajout ni interprétation personnelle.

Analyse académique du texte

Trust and Safety as Philosophical Practice

1. Informations bibliographiques et cadre général

• Titre de l’ouvrage / chapitre : Trust and Safety as Philosophical Practice.

• Auteurs : Étienne Brown (Université d’Ottawa) et Zoe Phillips Williams (TikTok).

• Référence de publication : Chapitre du livre Trust, Safety, and the Internet We Share: Multistakeholder Insights, édité par Maia Levy Daniel, Amanda Menking, Marlyn Thomas Savio et Jean Claffey, à paraître en 2026 chez Routledge (Londres), pp. 32–40.

2. Résumé exécutif (Abstract)

Les auteurs posent la question de savoir s’il est possible de philosopher sur la Confiance et la Sécurité (Trust and Safety – T&S). L’objectif principal de l’article est de mettre en évidence les convergences structurales entre l’élaboration des politiques de T&S et la philosophie académique :

1. Une pratique philosophique quotidienne chez les professionnels de la T&S : Ces derniers pratiquent régulièrement la réflexion philosophique à travers l’analyse conceptuelle, la mitigation des dommages (harm mitigation) et la gestion de la liberté d’expression.

2. Les bénéfices pour les praticiens de la T&S : Ils auraient intérêt à s’engager dans des démarches philosophiques pour définir des principes directeurs globaux et théoriser le pouvoir exercé par les plateformes de médias sociaux au sein des sociétés démocratiques contemporaines.

3. Les bénéfices pour les philosophes académiques : En se familiarisant avec le secteur de la T&S, les philosophes prennent conscience de problèmes sociaux pressants et de cas limites (edge cases) qui remettent en question leurs intuitions morales.

4. Illustration pratique (PhilMod) : Présentation des enseignements tirés de PhilMod, une communauté réunissant chercheurs académiques et professionnels de la technologie autour des enjeux philosophiques de la modération de contenu et des politiques de plateformes.

3. Analyse détaillée de la structure du texte

Section 1 : Introduction (Le cas d’étude du filtre IA « Trisomie 21 »)

• L’exemple concret (Cas limite / Edge case) : Une jeune femme vêtue d’un short et d’un crop-top danse dans son salon sur une musique populaire, accompagnée de la légende « Would you date me? ». Un second regard suggère des traits faciaux associés au syndrome de Down (Trisomie 21).

• La complexité de la situation :

  • Il s’avère que ces contenus (diffusés sur Instagram, YouTube et TikTok) utilisaient un filtre d’intelligence artificielle (IA) modifiant l’apparence de personnes pour leur donner les caractéristiques de la trisomie 21.

  • Les personnes dans les vidéos originales étaient des influenceuses ne présentant pas cette condition.

  • Les comptes publiant ces contenus renvoyaient vers des liens payants sur d’autres plateformes hébergeant du contenu à caractère sexuellement explicite.

• Questionnements éthiques et réglementaires soulevés :

  • Si le vol et la monétisation du contenu d’autrui sont univoquement condamnables, que se passe-t-il si les personnes ont appliqué le filtre sur leur propre visage ? Est-ce trompeur ? Quel est le préjudice causé et qui en est la victime ?

  • Analogie avec le « blackface » : On pourrait tenter de comparer ce procédé à un blackface généré par IA et interdire l’usage de l’IA pour simuler l’appartenance à une « classe protégée » (protected class).

  • Le problème de la sur-généralisation (overgeneralization) : Une telle règle interdirait également l’utilisation de filtres modifiant l’âge ou le genre d’un utilisateur, des usages potentiellement inoffensifs, ludiques, voire favorables à l’exploration de soi.

• Parallèle avec la philosophie classique :

  • La recherche de définitions par les équipes de T&S (ex. désinformation, discours de haine) rappelle la démarche de Socrate dans les dialogues de Platon cherchant à définir la justice, le courage ou la connaissance.

  • La réduction des dommages s’inscrit dans les travaux d’éthique appliqués, notamment de tradition conséquentialiste.

  • L’objection liée à la règle sur les « classes protégées » reflète l’objection philosophique classique contre les arguments qui « sur-généralisent » en conduisant à des conclusions contre-intuitives dépassants le cadre initial.

Section 2 : Comment philosopher sur la Confiance et la Sécurité (How to philosophize about Trust & Safety)

Les tâches centrales des équipes de politique de modération :

L’objectif est d’établir un équilibre jugé « adéquat » entre la prévention des dommages et la préservation de la liberté d’expression.

• Du côté de la réduction des préjudices (harm reduction), les politiques doivent satisfaire trois critères simultanés :

  1. Définir précisément des catégories de dommages mutuellement exclusives pour différents domaines (désinformation, contenu sexuel, haine, etc.).

  2. Englober les formes actuelles de contenus et comportements nocifs tout en étant suffisamment larges pour capturer les itérations futures et imprévues (comme l’usage imprévu des filtres IA).

  3. Être conceptuellement exactes, tout en restant suffisamment simples pour être appliquées par des modérateurs humains ou automatisés sur un flux massif de contenus.

• Du côté de la préservation de la parole (speech-preserving) : Il s’agit de définir les formes d’expression adjacentes aux catégories de dommages mais qui doivent demeurer autorisées sur la plateforme. La sur-modération ou la sous-modération découlent d’erreurs conceptuelles, d’erreurs d’application ou de cas limites.

2.1 L’analyse conceptuelle dans la T&S (Conceptual Analysis in Trust and Safety)

• Les professionnels doivent opérationnaliser des concepts complexes : « désinformation » (misinformation), « fausses nouvelles » (fake news), « discours de haine » (hate speech), « sexualisé » (sexualized), « réaliste » (realistic), « trompeur » (deceptive).

• Questions sous-jacentes :

  • Qu’est-ce que la désinformation par rapport à la réinformation, la propagande ou le mensonge direct ?

  • Un geste sans parole peut-il constituer un discours de haine ? Le discours de haine peut-il cibler des groupes dominants ou s’applique-t-il uniquement aux communautés marginalisées (Anderson & Barnes, 2025) ?

• Lien philosophique : L’analyse conceptuelle est une méthode centrale de la philosophie anglophone du XXe siècle (Braddon-Mitchell & Nola, 2009 ; Jackson, 2024). De nombreux travaux récents portent spécifiquement sur la définition des fake news (Rini, 2017 ; Gelfert, 2018 ; Jaster & Lanius, 2018 ; Mukerji, 2018 ; Michaelson et al., 2019 ; Grundmann, 2023).

2.2 La mitigation des dommages (Harm Mitigation in Trust and Safety)

• L’éthique appliquée s’est souvent penchée sur la réduction des risques (ex. les politiques de réduction des risques liées à la consommation de drogues et aux centres d’injection supervisés).

• La T&S repose sur un principe utilitariste négatif (negative utilitarian principle) : réduire ou minimiser les préjudices inévitables subis par les utilisateurs sur les plateformes numériques (Field Eissfeldt, Lazarus, & Shah, n.d.).

2.3 Équilibrer la réduction des préjudices et la liberté d’expression (Balancing Harm-reduction and Free Expression)

• La définition du dommage : Doit-on se limiter aux dommages physiques et psychologiques, ou inclure les préjudices réputations, financiers ou sociétaux (ex. perte de confiance dans les processus électoraux) ?

• Fondement philosophique du critère du dommage : Remonte au « principe du dommage » (harm principle) de John Stuart Mill (On Liberty, 1859 / 2015), selon lequel la seule raison légitime d’exercer une contrainte sur un individu contre sa volonté est de prévenir le mal fait à autrui.

• Impact des théories de la liberté d’expression :

  • Si l’on considère la liberté d’expression comme un outil au service de l’auto-gouvernance démocratique, on acceptera davantage d’interventions de modération (par exemple contre des fausses informations non strictement nocives mais induisant les électeurs en erreur, comme la fausse déclaration « Le Pape François / Léon a apporté son soutien à Trump »).

  • Si l’on vise exclusivement la prévention des préjudices directs, le champ d’intervention sera plus restreint.

2.4 Définir des principes globaux de Confiance et de Sécurité (Defining Overarching Trust and Safety Principles)

• Les praticiens ont rarement le temps de conceptualiser les principes généraux directeurs en raison de l’urgence des opérations quotidiennes et du travail en silos.

• Risques associés :

  • Sans réflexion d’ensemble, les règles deviennent un assemblage disparate et incohérent (hodge-potches).

  • Un manque de cohérence crée une injustice envers les utilisateurs, traités différemment selon les thématiques abordées.

2.5 Conceptualiser le pouvoir et la légitimité des plateformes (Conceptualizing Platform Power and Legitimacy)

• Ontologie sociale (Social ontology) des plateformes (Epstein, 2018) :

  • Option A : La place publique numérique (digital town square) $\rightarrow$ Modérer ou bannir s’apparente à de la censure éthiquement suspecte ; les utilisateurs doivent jouir des mêmes droits d’expression que dans la sphère publique analogique.

  • Option B : Un espace / équipement privé accessible au public (privately owned public amenity) comme un centre commercial ou un restaurant (Cohen & Cohen, 2022) $\rightarrow$ Les propriétaires possèdent le droit d’exclure ou de restreindre l’expression selon leurs préférences, dans le respect des lois anti-discrimination.

• Le pouvoir coercitif des plateformes : Seth Lazar (2025) souligne que les plateformes exercent un pouvoir direct sur les utilisateurs en amplifiant, reléguant, supprimant du contenu ou en bannissant des comptes. Étant donné qu’elles façonnent et constituent les relations sociales qu’elles médient, l’exclusion d’une plateforme peut couper un individu de marchés essentiels ou de relations significatives.

Section 3 : Pourquoi les philosophes devraient regarder des vidéos étranges (Why Philosophers Should Watch Weird Videos)

La relation entre la philosophie et la T&S doit être réciproque.

1. Ancrage empirique et compréhension des contraintes réelles :

   • Les philosophes évitent ainsi l’écueil consistant à présumer une « omnipotence » technologique des plateformes. La modération est une tâche complexe, réalisée en grande partie par des humains, comportant de multiples points de défaillance.

2. Décentrement culturel et diversité globale :

   • La philosophie académique occidentale dominante tend à projeter des intuitions libérales. Par exemple, un contenu contestant l’orthodoxie bouddhiste au Sri Lanka serait protégé au nom de la liberté d’expression selon une perspective libérale occidentale, alors que des équipes locales de T&S peuvent y déceler un risque réel de violence dans la sphère publique sri-lankaise.

3. Prise en compte des cas limites (edge cases) et de la « bizarrerie » des réseaux :

   • La littérature philosophique se focalise principalement sur les sujets très discutés comme la désinformation et le discours de haine.

   • Les équipes de T&S font face à des cas inédits liés à l’IA générative (ex. débattre du statut d’images générées par IA représentant de jeunes filles entièrement habillées allongées ou assises sur des lits : s’agit-il d’images sexualisées ou de la sexualisation par l’observateur ?).

Section 4 : Combler le fossé avec PhilMod (Filling the Gap with PhilMod)

• Présentation de PhilMod : Créée en 2023, cette communauté regroupe environ 200 chercheurs académiques et professionnels de la technologie.

• Fonctionnement : Rencontres mensuelles en ligne (Zoom) pour débattre de thèmes tels que la désinformation, la pornographie générée par IA, la sécurité des enfants, les algorithmes de recommandation, l’égalité des locuteurs, ou la démocratisation de la modération.

• Règles et confidentialité : Les professionnels y participent à titre personnel (sans représenter leur entreprise) et certaines réunions appliquent la règle de Chatham House (Chatham House Rule).

• Sujets abordés : Modération basée sur le comportement, red teaming d’outils IA, et sexualisation non explicite des mineures via IA.

Conclusion

• La philosophie ne doit pas être réservée à l’académie ; la réflexion sur le sens de l’existence et l’éthique concerne directement les praticiens de la T&S.

• Contrairement aux universitaires qui disposent de temps pour la réflexion au long cours, les professionnels de la T&S évoluent dans un environnement d’urgence permanente et d’escalades.

• Les auteurs appellent à développer des programmes éducatifs et d’enseignement axés sur l’éthique des politiques privées de modération (mentionnant des initiatives comme le Trust and Safety Teaching Consortium et le Trust and Safety Curriculum).

4. Bibliographie complète citée dans le texte

• Anderson, L., & Barnes, M. (2025). Hate Speech. In Stanford Encyclopedia of Philosophy (Summer 2025 Edition).

• Braddon-Mitchell, D., & Nola, R. (Eds.). (2009). Conceptual analysis and philosophical naturalism. MIT Press.

• Clark, A. (2025, May 6). Why people are using AI to fake disabilities like Down syndrome online. CBS News.

• Cohen, A., & Cohen, A. (2022). The Possibility and Defensibility of Nonstate “Censorship.” In J. P. Messina, New Directions in the Ethics and Politics of Speech (1st ed., pp. 13–31). Routledge.

• Epstein, B. (2018). Social Ontology. In Stanford Encyclopedia of Philosophy (Summer 2018 Edition).

• Field Eissfeldt, Lazarus, & Shah (n.d.). The Future of Trust and Safety.

• Gelfert, A. (2018). Fake News: A Definition. Informal Logic, 38(1), 84–117.

• Glass, I., Newton, C., & Roth, Y. (n.d.). What I Was Thinking As We Were Sinking (797) [Broadcast]. This American Life.

• Grundmann, T. (2023). Fake news: The case for a purely consumer-oriented explication. Inquiry, 66(10), 1758–1772.

• Jackson, F. (2024). Conceptual Analysis. In Open Encyclopedia of Cognitive Science (1st ed.). MIT Press.

• Jaster, R., & Lanius, D. (2018). What is Fake News? Versus, 2, 207–224.

• Lazar, S. (2025). Governing the Algorithmic City. Philosophy & Public Affairs, 53(2), 102–168.

• Michaelson, E., Sterken, R., & Pepp, J. (2019). What’s New About Fake News? Journal of Ethics and Social Philosophy, 16(2).

• Mill, J. S., Philp, M., & Rosen, F. (2015). On liberty, utilitarianism, and other essays (New ed). Oxford University Press.

• Mukerji, N. (2018). What is Fake News? Ergo, an Open Access Journal of Philosophy, 5.

• Rini, R. (2017). Fake News and Partisan Epistemology. Kennedy Institute of Ethics Journal, 27(2S), E-43-E-64.

• Sinnott-Armstrong, W. (2023). Consequentialism. In Stanford Encyclopedia of Philosophy.

---

Voir tous nos articles