Sommaire
La révolution controversée du générateur d’images de ChatGPT
Le potentiel et les dérives de l’outil de création d’images
Depuis la publication récente de la dernière version de ChatGPT, la capacité de générer des images contenant du texte présentant un réalisme stupéfiant s’est largement répandue.
OpenAI a lancé, le 25 mars dernier, son innovant générateur appelé “Images in ChatGPT”, intégré directement au célèbre chatbot.
Fonctionnant grâce à GPT-4o, le modèle omnimodal lancé en mai 2024, cette fonctionnalité permet de créer des images de qualité à partir de simples requêtes textuelles ou visuelles.
Cette avancée technologique a rapidement séduit les internautes surtout qu’elle est gratuite pour tous.
Cependant, ce même outil révolutionnaire commence à être exploité pour produire de faux papiers en quelques secondes, comme des reçus et des documents d’identité falsifiés.
De la production de reçus factices aux faux documents complexes
Dès le déploiement de cette fonction, des utilisateurs ont découvert qu’il était facile de générer de faux reçus et de fausses notes de frais.
Contrairement à DALL-E, qui peinait avec l’écrit, GPT-4o génère des reçus très réalistes et peut même manipuler un reçu existant pour en modifier la date ou le montant en un clin d’œil.
Cette simplification de la création de faux reçus représente un risque de fraude majeur, puisque des individus malintentionnés pourraient demander des remboursements basés sur des dépenses fictives.
Le générateur d’images de ChatGPT permet également de franchir un cap supplémentaire. Par exemple, le chercheur polonais Borys Musielak est parvenu à réaliser une réplique de son passeport, capable de tromper la plupart des systèmes de vérification automatique KYC (Know Your Customer).
“Tout processus de vérification s’appuyant sur des images comme ‘preuve’ est désormais officiellement obsolète. Il en va de même pour les selfies. Qu’ils soient statiques ou vidéo, peu importe”, affirme Borys Musielak.
Cela amène à reconsidérer la sécurité des plateformes financières telles que Revolut, Coinbase ou Binance, qui reposent sur des selfies et documents d’identité.
Les menaces de la falsification et la réponse d’OpenAI
La simplicité d’accès de cette technologie préoccupe beaucoup : il n’est plus nécessaire de maîtriser des logiciels complexes pour créer des documents falsifiés, une demande bien rédigée suffit.
Lors d’un essai avec une demande de création d’une carte d’identité fictive française, ChatGPT a refusé, signalant qu’il ne pouvait pas aider à créer des falsifications. Il est probable que des requêtes particulières permettent de contourner les dispositifs de sécurité d’OpenAI.
Taya Christianson, porte-parole d’OpenAI, a confié à TechCrunch que toutes les images générées incluaient des métadonnées pour indiquer leur origine. Elle a ajouté qu’OpenAI prendrait des mesures si des utilisateurs enfreignent les politiques d’utilisation.
En outre, OpenAI expérimente l’incorporation d’un filigrane sur les images créées par ChatGPT 4o, visant uniquement les utilisateurs gratuits, alors que les abonnés payants ChatGPT Plus continueraient à obtenir des images sans ces marques.
Cette approche semble davantage concerner la distinction des utilisateurs, plutôt que de répondre efficacement aux préoccupations liées aux faux documents.
