Sommaire
La Révolution Étourdissante de “Images in ChatGPT”
Depuis quelque temps, ChatGPT a enrichi ses fonctionnalités avec la dernière version permettant la création d’images textuelles d’un réalisme étonnant, ouvrant ainsi la voie à de potentielles fraudes variées.
Le 25 mars dernier, OpenAI a introduit un générateur d’images captivant, baptisé “Images in ChatGPT”. Ce dernier, intégré directement dans le chatbot, est animé par GPT-4o, un modèle omnimodal qui a vu le jour en mai 2024 en remplacement de DALL-E.
Ce générateur offre la possibilité de concevoir des images de haute qualité à partir d’une simple demande textuelle ou d’une photo. La nouveauté, rapidement adoptée par un large public, est dorénavant accessible sans coût.
Cependant, cette avancée technologique a aussi des faces sombres : elle est détournée pour la création de faux documents comme des reçus ou encore des cartes d’identité en un instant.
ChatGPT : Vulnérabilité des Documents à l’ère Numérique
La Facilité de Falsification
Après le lancement de cette fonction, plusieurs internautes ont découvert que créer de faux reçus était réalisable. Contrairement à DALL-E, le modèle GPT-4o gère l’écrit avec aisance, permettant la création de reçus de restaurant d’un réalisme troublant.
Modifier un reçu existant, comme changer la date ou le montant, ne nécessite que quelques secondes et est à la portée de tous. Cette facilité de génération pose un risque significatif de fraude, permettant potentiellement à des escrocs d’obtenir des remboursements pour des dépenses fictives.
Des Faux Documents Plus Complexes
Le générateur d’images ne s’arrête pas là. Un chercheur polonais, Borys Musielak, a démontré qu’il est possible de répliquer un passeport avec ChatGPT, capable de tromper “la plupart des systèmes KYC automatisés”. Ces systèmes sont essentiels à l’identification des clients pour combattre la fraude et le blanchiment d’argent.
“Tout processus de vérification s’appuyant sur des images comme “preuve” est désormais officiellement obsolète. Il en va de même pour les selfies. Qu’ils soient statiques ou vidéo, peu importe”, affirme Borys Musielak.
Ainsi, des plateformes financières comme Revolut, Coinbase ou Binance pourraient être potentiellement contournées. Cependant, l’absence d’une puce sur ces faux documents empêche leur usage lors d’examens plus rigoureux.
Fraude et Falsification : Les Risques Numériques Grandissants
Accessibilité et Impact
Ce qui inquiète, c’est l’accessibilité de cette technologie : il suffit d’une requête bien formulée pour obtenir des résultats très convaincants. Lors d’une demande adressée à ChatGPT pour créer une fausse carte d’identité française, bien qu’il ait refusé, cela montre la prudence intégrée d’OpenAI. Pourtant, il est probable que des requêtes spécifiques aient déjà contourné ces mesures de sécurité.
La Réaction d’OpenAI
Confrontée à cette problématique, Taya Christianson, porte-parole d’OpenAI, a déclaré à TechCrunch que toutes les images générées contenaient des métadonnées spécifiques signalant leur création par ChatGPT.
OpenAI «prend des mesures» contre les utilisateurs ne respectant pas leurs politiques.
En outre, l’implantation d’un filigrane pour les images générées est en cours de test, visant les utilisateurs gratuits seulement.
Les utilisateurs avec un compte ChatGPT Plus pourraient continuer à profiter de cette fonctionnalité sans marquage, soulevant des discussions sur l’avantage des comptes payants face aux gratuits.
