Meta se Prépare à Réviser les Règles : La Nouvelle Lutte contre les Deepfakes Sexuellement Explicites

Une Nécessité Urgente de Mise à Jour des Règles Obsolètes

Récemment, le Conseil de Surveillance de Meta a recommandé à l’entreprise une révision complète de ses règles en matière de contenu sexuellement explicite, notamment les images manipulées par l’IA impliquant des figures publiques. Leur conclusion indique que les règles actuelles sur le contenu sexualisé dérogatoire sont obsolètes et nécessitent une révision pour interdire explicitement les images sexuelles non-consensuelles créées ou manipulées via l’intelligence artificielle. Les deepfakes, qui utilisent des technologies avancées pour créer des images et des vidéos très réalistes, représentent un danger croissant pour la vie privée et l’intégrité des personnes, en particulier lorsqu’elles sont utilisées à des fins malveillantes telles que le harcèlement en ligne.

Le Conseil a souligné que la lettre des règles de Meta n’offrait pas une protection adéquate contre ces nouveaux types d’abus numériques. Les cas récents ont montré que les mesures actuelles sont insuffisantes pour traiter le problème de manière efficace. Il est crucial, selon eux, d’établir une interdiction explicite des images sexuellement explicites générées par l’IA sans consentement, pour mieux protéger les utilisateurs contre cette forme de violence numérique.

Le Problème des Appels Automatiquement Fermés

Une critique majeure adressée à Meta est leur pratique consistant à clore automatiquement les appels des utilisateurs relatifs aux contenus explicites de deepfake. Le Conseil de Surveillance a mis en lumière que cette pratique pourrait avoir des répercussions négatives sur les droits de l’homme, car elle empêche les victimes de voir leurs inquiétudes correctement traitées. Dans plusieurs cas, Meta a retiré les publications après que le Conseil se soit impliqué, même si, initialement, ils avaient décidé de laisser ces images en ligne. Cette dynamique révèle l’importance d’une supervision externe et de l’obligation pour les grandes plateformes de médias sociaux de rendre des comptes.

Le Conseil de Surveillance souhaite faciliter le signalement des images explicites générées par l’IA par les utilisateurs et propose que les modérateurs puissent comprendre et appliquer les règles de manière cohérente. Ces recommandations visent à éliminer les excès bureaucratiques et à produire une réponse rapide et efficace aux plaintes des utilisateurs. Les plateformes comme Meta sont sous pression pour améliorer leur réactivité face aux nouveaux défis technologiques qui compromettent la vie privée et la sécurité des internautes.

Des Actions Législatives et Juridiques Envisagées

La prolifération des images explicites générées par l’IA, telles que les « deepfake porn », suscite de plus en plus de préoccupations en matière de harcèlement en ligne. Cette inquiétude a poussé le Sénat américain à adopter un projet de loi visant à sévir contre les créateurs de ce type de contenu. Les législateurs reconnaissent que les règles doivent évoluer en même temps que la technologie, nécessitant de nouvelles lois pour protéger les individus contre ces menaces technologiques émergentes.

Les recommandations du Conseil de Surveillance de Meta ne sont pas une première intervention pour pousser l’entreprise à mettre à jour ses politiques en matière de contenu généré par l’IA. Cela démontre un besoin d’adaptation continue pour combattre les utilisations abusives et malveillantes de l’IA. Meta doit démontrer son engagement à protéger ses utilisateurs en évoluant constamment et en modifiant ses politiques en fonction des nouvelles menaces qui se manifestent.

Une Priorité : La Prévention des Contenus Abusifs et Dégradants

Les décisions et recommandations du Conseil de Surveillance mettent en avant le potentiel de l’IA à être utilisée à des fins nuisibles et abusives. Elles soulignent l’importance de mesures proactives pour lutter contre ces usages pervers. La mise à jour des règles concernant les contenus explicites générés par l’IA est essentielle pour freiner la propagation des images non-consensuelles et dégradantes sur Internet. Meta, comme d’autres plateformes, se trouve face à un défi majeur : équilibrer la liberté d’expression avec la nécessité de protéger les individus contre les contenus dommageables et envahissants.

Les cas mentionnés montrent les défis auxquels ces plateformes sont confrontées. Elles doivent trouver un juste milieu entre la liberté d’expression et la protection des utilisateurs. Il est crucial de reconnaître que la technologie, même la plus avancée, peut être détournée pour causer du tort. En renforçant leurs règles et en adaptant leurs politiques, Meta et ses pairs peuvent mieux prévenir l’utilisation abusive de l’IA et fournir un environnement en ligne plus sûr pour tous.