Points saillants du projet de loi C-34, la Loi sur les médias sociaux sécuritaires

Sur cette page

• Responsabilisation des services numériques
• Pour un Internet plus sûr pour les enfants et les familles
• Nouvelles règles pour les services numériques
• Commission de la sécurité numérique
• Respect de la liberté d’expression
• Protection de la vie privée
• Contexte politique international et général

Responsabilisation des services numériques

La sécurité en ligne est un problème systémique qui peut être directement influencé par les services numériques. Le contenu préjudiciable se propage librement par le biais d’algorithmes qui l’amplifient et le recommandent. Puisque les services numériques conçoivent ces systèmes, ils doivent être responsables des risques qu’ils posent. La Loi sur les médias sociaux sécuritaires imposera aux services réglementés la responsabilité de réduire la distribution de contenu préjudiciable et de réduire les risques pour le public.

Pour un Internet plus sûr pour les enfants et les familles

Les services numériques hébergent un large éventail de contenus, dont certains pourraient être préjudiciables pour les enfants. Il s’agit notamment du contenu utilisé pour intimider un enfant, le contenu qui encourage l’automutilation, le suicide et les troubles de l’alimentation, et le matériel d’abus pédosexuel. Certains internautes peuvent également tomber sur du contenu visant à recruter des personnes dans le terrorisme ou l’extrémisme violent.

La Loi sur les médias sociaux sécuritaires exigera que les services réglementés de médias sociaux et d’agents conversationnels prennent des mesures pour protéger les enfants, par exemple en mettant en œuvre des caractéristiques de conception adaptées à l’âge. La Loi ne s’appliquera pas seulement aux services numériques d’aujourd’hui. Si, à l’avenir, les nouveaux services en ligne présentent un risque important de préjudice pour les enfants, les obligations du régime en matière de protection des enfants pourront être élargies pour couvrir ces services par le biais d’un processus qui comprend une consultation publique.

Certains services de médias sociaux réglementés devront également empêcher les utilisateurs de moins de 16 ans d’avoir un compte. Toutefois, ces services pourront demander une exemption de l’exigence relative à l’âge minimum s’ils peuvent démontrer que leur produit est sans danger pour les enfants.

Nouvelles règles pour les services numériques

Au cœur de la Loi sur les médias sociaux sécuritaires se trouvent trois obligations et exigences de transparence à respecter pour les services réglementés.

Obligation d’agir de manière responsable

Applicable aux services de médias sociaux

Les services de médias sociaux réglementés devront prendre des mesures pour réduire le risque d’exposition des utilisateurs de contenu dans sept catégories. Les voici :

• du contenu intime communiqué de façon non consensuelle (il peut s’agir de pornographie de vengeance ou d’hypertrucages sexualisés);
• du contenu représentant de la victimisation sexuelle d’enfants ou perpétuant la victimisation de survivants (il peut s’agir de matériel d’abus pédosexuel);
• du contenu poussant un enfant à se porter préjudice (il peut s’agir de contenu encourageant les troubles de l’alimentation ou le suicide);
• du contenu visant à intimider un enfant,
• du contenu fomentant la haine,
• du contenu incitant à la violence, et
• du contenu de terrorisme ou d’extrémisme violent (il peut s’agir de contenu encourageant d’autres personnes à commettre ou à faciliter un acte de terrorisme ou d’extrémisme violent).

Les services de médias sociaux peuvent choisir comment s’acquitter de leur obligation : limiter le partage, activer les avertissements et le signalement en sont quelques exemples.

Les services de médias sociaux devront également identifier et baliser certains contenus générés par l’IA (tels que les hypertrucages) au mieux de leurs capacités, et donner aux utilisateurs les outils nécessaires pour bloquer les utilisateurs et signaler le contenu préjudiciable.

Applicable aux services d’agents conversationnels d’IA

Les services réglementés d’agents conversationnels d’intelligence artificielle devront prendre des mesures pour réduire le risque que l’agent conversationnel communique du contenu préjudiciable, mais ils auront également des obligations supplémentaires. Ces services devront intervenir dans des situations d’urgence, par exemple lorsqu’un utilisateur exprime des idées suicidaires, l’intention de se mutiler ou l’intention de blesser d’autres personnes. Le service devra alors interrompre la conversation et diriger l’utilisateur vers des services de soutien immédiatement disponibles et offrant une interaction humaine. Les services d’agent conversationnel devront également réduire le risque que l’agent conversationnel adopte des types spécifiques de comportements nuisibles, tels que se faire passer pour un être humain, se faire passer pour un professionnel agréé et donner des conseils, utiliser des techniques d’engagement manipulatrices ou encourager l’automutilation, le suicide ou l’intention de blesser d’autres personnes.

Obligation de protéger les enfants

Tous les services réglementés devront prendre des mesures pour rendre leurs services plus sûrs pour les enfants en particulier. Ils devront établir des caractéristiques de conception respectant la protection des enfants, qui sera définie par la Commission de la sécurité numérique, et devront également prendre des mesures pour réduire le risque que les enfants soient exposés à du contenu pornographique lors de l’utilisation du service. Les enfants de moins de 16 ans ne pourront pas créer de comptes sur certains services de médias sociaux, à moins que le service n’ait reçu une exemption de la Commission selon laquelle il respecte ces obligations.

Obligation de rendre certains contenus inaccessibles

Les services de médias sociaux devront rendre inaccessibles deux types spécifiques de contenu préjudiciable au Canada : du contenu représentant de la victimisation sexuelle d’enfants ou perpétuant la victimisation de survivants, et du contenu intime communiqué de façon non consensuelle. Ces deux catégories représentent certains des contenus les plus préjudiciables en ligne et devront être rendues inaccessibles dans les 24 heures suivant leur détection par la plateforme ou leur signalement par un utilisateur, tandis que la plateforme doit suivre un processus de décision spécifique permettant à l’auteur et au signaleur de faire des représentations.

Commission de la sécurité numérique

Le projet de loi créera un nouvel organisme de réglementation indépendant appelé la Commission canadienne de la sécurité numérique. Cette commission fera la promotion de la sécurité en ligne au Canada et contribuera à réduire les préjudices subis par la population canadienne en raison du contenu préjudiciable en ligne.

La nouvelle Commission sur la sécurité numérique aura les fonctions suivantes :

• Administrer et faire respecter la Loi, par exemple au moyen d’ordonnances de conformité et de sanctions pécuniaires;
• Recevoir les plaintes lorsque les services réglementés ne se conforment pas à la Loi;
• Recueillir des renseignements sur la sécurité en ligne;
• Établir de nouvelles normes de sécurité en ligne par le biais d’activités de recherche et d’éducation;
• Publier des lignes directrices et des codes de conduite aux fins de la Loi; et
• Agir comme mécanisme de recours secondaire pour rendre certains contenus inaccessibles si un utilisateur n’est pas satisfait du recours de la plateforme.

La conformité sera vérifiée par la Commission de diverses manières, notamment au moyen de plans de sécurité numériques, de la collecte de renseignements, d’inspections et d’enquêtes.

La Commission publiera également des lignes directrices indiquant dans quelles circonstances les services devraient aviser la GRC d’un contenu qui pourrait indiquer qu’une personne commettra un acte susceptible d’entraîner la mort ou des lésions corporelles graves à une autre personne.

Respect de la liberté d’expression

La Loi sur les médias sociaux sécuritaires permettra à la population canadienne de participer pleinement au débat public et d’exercer sa liberté d’expression en ligne sans crainte.

La Loi n’exige pas que les services réglementés fassent quoi que ce soit qui limite de manière déraisonnable ou disproportionnée la liberté d’expression des utilisateurs. Au lieu de cela, la Loi se concentre sur sept types de contenu préjudiciable, clairement définis pour cibler étroitement le contenu en ligne qui cause un préjudice important aux Canadiens.

La Loi n’obligera pas les services réglementés à surveiller ou à supprimer de manière proactive tout contenu préjudiciable. Les services réglementés devront mettre en place des systèmes et des processus visant à réduire l’exposition à des préjudices précis, tout en ayant la souplesse nécessaire pour respecter ces obligations. Les services n’auront qu’à supprimer l’accès au contenu le plus préjudiciable – celui qui victimise sexuellement des enfants ou perpétue la victimisation de survivants, et du contenu intime communiqué de façon non consensuelle. Même dans ces cas, un processus de réexamen de la décision sera accessible.

En outre, tous les règlements et lignes directrices que la Commission publie doivent tenir compte de la liberté d’expression des utilisateurs.

Protection de la vie privée

La messagerie privée sera exclue du champ d’application de la Loi sur les médias sociaux sécuritaires, afin de mieux protéger la vie privée. Bien que des préjudices soient présents dans les fonctionnalités et les services de messagerie privée, la Loi se concentrera sur les services où le contenu peut se propager publiquement et rapidement à grande échelle.

Contexte politique international et général

La Loi sur les médias sociaux sécuritaires est conforme aux lois existantes dans d’autres pays et juridictions comme le Royaume-Uni, l’Union européenne et l’Australie, qui exigent que les services numériques agissent face aux risques que leurs services peuvent poser aux utilisateurs. À l’instar de ces pays, la Loi sur les médias sociaux sécuritaires du Canada rendra ces services responsables d’évaluer les risques, d’utiliser des mesures de sécurité, de rendre compte des progrès de leur mise en œuvre et d’exercer une surveillance indépendante.

La Loi canadienne refléterait les pratiques exemplaires internationales et serait adaptée aux valeurs et aux protections juridiques canadiennes. Cela permettrait également de répondre aux nouveaux risques liés aux outils d’IA tels que les agents conversationnels et le contenu synthétique. La Loi traitera tous les services réglementés de la même manière, quelle que soit leur origine. Elle assurera une souplesse pour permettre l’innovation continue et l’évolution des technologies.