OpenAI a récemment introduit des mises à jour significatives pour améliorer la détection des contenus générés par intelligence artificielle. L’entreprise mise sur une approche de vérification multicouche pour identifier les contenus produits par l’IA.
Intégration de SynthID et C2PA pour une vérification robuste
OpenAI a annoncé l’utilisation conjointe de la technologie de filigrane SynthID de Google et des informations d’identité de contenu C2PA. Ces deux systèmes se complètent, offrant un processus de vérification plus solide. Le standard C2PA fournit un contexte détaillé sur la création des contenus, tandis que les filigranes SynthID restent visibles même après des transformations comme les captures d’écran.
L’utilisation combinée de ces méthodes permet de vérifier l’origine des contenus, même en l’absence de métadonnées. Les filigranes SynthID seront d’abord appliqués aux images générées via ChatGPT, Codex et l’API OpenAI.
Nouveau portail public et précautions de sécurité
OpenAI a lancé un nouveau portail public en prévisualisation, permettant aux utilisateurs de vérifier si des images ont été créées par intelligence artificielle. En téléchargeant une image, le système analyse les signaux C2PA et SynthID pour déterminer si le contenu provient des outils d’OpenAI. Actuellement, le portail est limité aux images générées par ses propres outils, avec une extension prévue à d’autres systèmes à l’avenir.
OpenAI insiste sur le fait qu’aucune méthode de détection n’est infaillible. Si aucune métadonnée ou filigrane n’est détecté dans une image, cela ne signifie pas automatiquement que l’image n’a pas été produite avec les outils d’OpenAI. Cette précaution est nécessaire car certains signaux peuvent être facilement supprimés par certaines plateformes.
En outre, OpenAI a rejoint le Programme de Conformité C2PA pour garantir que ses produits respectent les spécifications d’identité de contenu et répondent aux exigences de sécurité. Bien que OpenAI intégrait déjà des données C2PA à ses images, celles-ci pouvaient se perdre lors des transferts entre plateformes, compliquant ainsi la détection. La nouvelle structure multicouche vise à être plus résistante face à ces pertes de données.
