Meta a récemment présenté un nouvel outil de détection des images générées par son modèle IA, Muse Image. Cependant, selon une analyse de Reuters, cet outil n’a pas réussi à reconnaître une portion significative de ses propres images après qu’elles aient été recadrées. Cette situation soulève des préoccupations quant à la capacité de vérifier l’authenticité des images générées par l’IA, ce qui pourrait poser un défi majeur pour identifier les deepfakes, surtout durant une année électorale chargée aux États-Unis.
Dans une analyse de 40 images créées avec Muse Image, Reuters a noté que l’outil de détection avait reconnu toutes les images dans leur version originale, mais n’avait identifié que 45 % des images recadrées à un tiers ou la moitié de leur taille d’origine.
Sur son site, Meta affirme que son outil de détection est capable de reconnaître ses propres créations IA, même après recadrage, grâce à un filigrane invisible appelé « Content Seal », intégré dans chaque image générée et conçu pour aider les utilisateurs à vérifier leur origine.
Lorsque Reuters a interrogé Meta au sujet des résultats de cette analyse, la société a précisé qu’il s’agissait d’une version préliminaire. Elle a expliqué que, bien que le filigrane soit censé résister aux modifications courantes, il pourrait se perdre lors de recadrages significatifs.
D’autres entreprises, comme Google et OpenAI, ont également signalé que leurs outils de détection n’étaient pas infaillibles face aux modifications d’images.
En mars dernier, le Conseil de surveillance de Meta, composé d’experts et chargé de donner des avis sur les contenus sur ses plateformes, a encouragé la société à renforcer ses efforts pour lutter contre la « prolifération de contenus trompeurs générés par l’IA » et à investir dans des outils de détection plus efficaces.
Siwei Lyu, professeur en informatique à l’Université d’État de New York à Buffalo et expert en criminalistique d’images par IA, n’a pas évalué l’outil de Meta mais indique que les systèmes de détection basés sur des filigranes comportent des limitations.
« Ces méthodes peuvent être très efficaces lorsque le filigrane est intact, mais toute modification qui altère ou supprime ce signal, comme le recadrage, le redimensionnement ou la compression, peut réduire leur efficacité », a-t-il expliqué.
Sarah Barrington, chercheuse en IA à l’Université de Californie à Berkeley, a noté que le numérique tatouage semblait prometteur pour l’avenir de l’IA générative, tout en reconnaissant ses limites.
« Comme beaucoup de mesures de sécurité, ce n’est pas une solution parfaite, mais même si nous ne détectons que 90 % des cas, c’est déjà un avancée significative par rapport à zéro », a-t-elle conclu.
