Les points clés à retenir sur la lutte contre les deepfake
Les organismes internationaux de normalisation redoublent d’efforts pour fournir aux utilisateurs finaux et aux entreprises les outils nécessaires pour distinguer les images, vidéos et autres contenus authentiques des « deepfakes » et des contenus de mauvaise qualité générés par l’IA. De nouvelles normes ont récemment été annoncées lors de la conférence « AI for Good » organisée à Genève sous l’égide de l’ONU.
Une crise de crédibilité s’est installée, et elle ne fait que s’aggraver, au point qu’il n’est plus possible de distinguer les photos réelles des faux générés par l’IA. Cela a des répercussions sur l’ensemble de la société et des entreprises, semant le doute quant à l’authenticité des images utilisées dans les reportages d’actualité, les publications sur les réseaux sociaux et même les preuves photographiques sur les scènes de crime.
Le coût financier est également considérable : l’IA générative pourrait faire grimper les pertes liées à la fraude à 40 milliards de dollars aux États-Unis d’ici 2027, contre 12,3 milliards en 2023, selon des estimations de Deloitte.
Avec le flot d’images qui envahit désormais nos téléphones portables et nos ordinateurs, il est difficile, voire impossible, de déterminer si les photos, vidéos ou autres contenus sont réels ou générés par l’IA.
« On ne sait plus aujourd’hui si quelque chose est vraiment faux ou non », dit Touradj Ebrahimi, professeur à l’École polytechnique fédérale de Zurich.
M. Ebrahimi dirige les efforts visant à lutter contre la fraude liée à l’IA et les deepfakes, en collaboration avec les principaux organismes internationaux de normalisation — la Commission électrotechnique internationale (CEI), l’Organisation internationale de normalisation (ISO) et l’Union internationale des télécommunications (UIT) — afin d’élaborer et de promouvoir des normes communes destinées à distinguer les contenus erronés générés par l’IA des contenus authentiques. « Il faut pouvoir consulter les métadonnées et les informations pour les repérer et les replacer dans leur contexte. »
À cette fin, la CEI et l’ISO ont introduit deux ajouts à leurs normes JPEG Trust afin de faciliter la vérification de l’authenticité des images et des données. La première norme JPEG Trust, annoncée l’année dernière, est conçue pour fournir un framework permettant d’intégrer directement des métadonnées dans les fichiers JPEG sous la forme d’indicateurs de confiance.
Les deux ajouts à JPEG Trust, actuellement en cours d’élaboration :
Selon M. Ebrahimi, l’objectif de la norme JPEG Trust est de mettre des outils de vérification à la disposition des utilisateurs finaux. Elle n’a pas pour but de valider ou d’étiqueter les images ou les données en amont, au moment de leur création. « Les fraudeurs ne marqueront pas leur contenu comme étant issu de l’IA », a-t-il déclaré. « Si quelqu’un veut enfreindre la loi, il ne va pas enfreindre la loi tout en respectant l’autre loi qui stipule que le contenu doit être étiqueté. »
Par conséquent, JPEG Trust « n’est pas une norme qui vous indique s’il faut ou non faire confiance à une vidéo ou à une image », a-t-il expliqué. « Elle vous donne les moyens de décider en fonction de votre contenu et de votre profil, et de déterminer si vous souhaitez y accorder votre confiance. »
Le contexte est un autre facteur à prendre en compte, et il dépend également de l’utilisateur. « La confiance dépend fortement du contexte », a-t-il déclaré. « Certaines personnes peuvent faire confiance à quelque chose en raison de leur profil ou de leur contexte. Et même dans un même contexte, elles peuvent cesser de faire confiance par la suite dans un autre contexte. »
Jusqu’à présent, les efforts visant à identifier et à lutter contre les deepfakes et les escroqueries basées sur l’IA ont été dispersés. Certaines entreprises promeuvent leurs propres approches au sein de leurs écosystèmes, tandis que d’autres unissent leurs forces pour établir des normes de facto dans le secteur, a déclaré M. Ebrahimi. « La grande question est donc de savoir quelle norme va s’imposer ? » L’IEC et l’ISO reconnaissent la nécessité de normes sectorielles communément acceptées.
Les efforts visant à lutter contre la fraude dans le domaine du multimédia ont véritablement commencé en 2018, lorsque le comité JPEG de l’IEC et de l’ISO s’est penché pour la première fois sur une préoccupation croissante concernant les contenus non authentiques. « Ils ont reconnu qu’il y avait une faille dans le fait que des fichiers JPEG étaient utilisés pour diffuser de fausses images », a déclaré M. Ebrahimi.
Aujourd’hui, face à la prolifération des images générées par l’IA, le défi consiste à étendre les normes afin d’aider les utilisateurs et les entreprises à vérifier l’authenticité des images qu’ils reçoivent.
Outre JPEG Trust, d’autres normes multimédias sont actuellement en cours d’élaboration dans le cadre de l’initiative IA et authenticité multimédia et normes de l’IEC et de l’ISO :
Profil de l’auteur : « Fournit un cadre permettant de documenter l’origine d’un contenu numérique. Il comprend des lignes directrices pour la création et la mise à jour de profils qui recèlent des informations détaillées sur le créateur du contenu et son processus de création. Cela permet d’établir un historique clair et vérifiable de la provenance du contenu. »
Vocabulaire permettant d’exprimer les préférences relatives au contenu pour l’IA : « Propose un vocabulaire normalisé de cas d’utilisation pouvant être ciblés lors de l’expression de refus lisibles par machine concernant l’exploration de textes et de données ainsi que l’entraînement des modèles d’IA. Ce vocabulaire est indépendant des mécanismes de refus spécifiques et permet aux parties déclarantes de communiquer des restrictions ou des autorisations concernant l’utilisation de leurs actifs numériques de manière structurée et interopérable. »
H.MMAUTH : Framework d’authentification des contenus multimédias : « Spécifie une solution technique pour la vérification de l’intégrité des contenus multimédias, permettant aux utilisateurs de confirmer l’authenticité des contenus par leurs créateurs, tels que les gouvernements, les entreprises ou les organes de presse. La solution repose sur la signature numérique des flux de données. Le créateur de contenu (encodeur) utilise une clé privée pour signer le contenu, tandis que le destinataire (décodeur) utilise une clé publique correspondante pour vérifier l’authenticité. La clé publique, nécessaire à la vérification, n’est pas dérivée directement du flux de données mais est obtenue par le biais d’une méthode fiable et indépendante, telle qu’un centre de confiance tiers. »
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。