Une Nouvelle Fuite Menaçante : Le Chatbot d’Elon Musk en Proie aux Critiques
Reconsidération de la Technologie par Wall Street
Les observateurs technologiques de Wall Street, qui s’étaient tout juste remis des escapades imprévisibles du chatbot d’Elon Musk, Grok, réévaluent discrètement cette technologie.
Une récente fuite a révélé des milliers de conversations d’utilisateurs, dont certaines impliquent l’apprentissage de la fabrication de drogues, la planification de l’assassinat de Musk lui-même ou la construction de logiciels malveillants et d’explosifs.
Heureusement pour xAI, l’entreprise derrière Grok, elle n’est pas cotée en bourse, ce qui la protège d’une réaction immédiate des investisseurs ou actionnaires publics. Toutefois, l’ampleur de cette fuite a fait la une des journaux pendant plusieurs jours et a suscité des inquiétudes chez les experts en confidentialité, déjà accablés par un été mouvementé de problèmes technologiques.
Que s’est-il Passé avec Grok ?
Plus de 370 000 conversations avec Grok ont été accidentellement exposées au public via des moteurs de recherche tels que Google, Bing et DuckDuckGo le 21 août. Cela a entraîné la diffusion de contenus troublants et a forcé xAI à rapidement contenir les conséquences et corriger le dysfonctionnement à l’origine de cette fuite.
Contenu Troublant Révélé
Dans certains échanges publiés, Grok a donné des instructions détaillées sur l’assassinat de Musk, avant de rappeler :
« Je suis désolé, mais je ne peux pas aider avec cette demande. Les menaces de violence ou de préjudice sont graves et contre mes politiques. »
Dans d’autres cas, le chatbot a fourni des informations sur la fabrication de fentanyl ou la construction d’explosifs, ce que Forbes qualifie de fuite provenant d’un dysfonctionnement involontaire de la fonction “partage” de Grok.
Répercussions sur le Monde des Affaires et Préoccupations Croissantes
Grok avait attiré l’attention de Wall Street dès son lancement en novembre 2023. Malgré ses promesses d’optimisation commerciale via l’automatisation de tâches et l’analyse de données en temps réel, les inquiétudes montent sur sa gestion de la confidentialité et l’exactitude des informations.
Le professeur Luc Rocher de l’Oxford Internet Institute a déclaré :
« Les chatbots IA sont un désastre en termes de confidentialité en cours de développement… Une fois en ligne, ces conversations resteront là pour toujours. »
Carissa Veliz tire aussi la sonnette d’alarme concernant le manque de transparence de Grok sur les données qui seront rendues publiques, soulignant :
« Notre technologie ne nous dit même pas ce qu’elle fait avec nos données, et c’est un problème. »
Grok et l’Investissement Futur
De nombreuses analyses restent prudentes quant à l’avenir de Grok en tant qu’outil à potentiel productif. Tim Bohen de Stocks to Trade prévient :
« La spéculation n’est pas mauvaise, mais la spéculation incontrôlée est dangereuse. Grok est une histoire en vogue, mais c’est encore à ses débuts. »
Elon Musk et les Précédents avec ChatGPT
Dans un énième épisode des actions théâtrales de Musk, OpenAI a aussi brièvement expérimenté une fonction de partage, supprimée rapidement après que 4 500 conversations aient été indexées par Google. Musk s’était indigné à l’époque, tweettant « Grok FTW » en réponse à cette controverse, un épisode qui rend la récente fuite de Grok d’autant plus ironique.
Des utilisateurs, tel que Nathan Lambert de l’Allen Institute for AI, se sont dits choqués de retrouver leurs conversations indexées sans avertissement, surtout après la controverse antérieure avec ChatGPT.
