Un modèle de Meta AI pirate une autre entreprise lors de tests

La question de la maîtrise d’une IA devenue hors de contrôle prend du poids en cet été 2026.Après des incidents chez Anthropic et OpenAI, c’est au tour de Meta Platforms de pointer ce risque. L’ex-Facebook a déclaré mercredi que l’un de ses modèles d’IA avait piraté une autre entreprise lors de tests de cybersécurité, alimentant les inquiétudes quant à la manière dont les développeurs peuvent contenir des systèmes d’IA de plus en plus performants.

Les incidents chez Meta et Anthropic étaient dus à des erreurs de configuration qui ont permis, par inadvertance, aux modèles d’Anthropic d’accéder à Internet. Chez OpenAI, un agent d’IA a exploité de manière indépendante une vulnérabilité jusque-là inconnue pour se connecter à Internet lors de tests de cybersécurité.

Ces failles de sécurité mettent en lumière les inquiétudes croissantes quant aux risques de cybersécurité que pourraient engendrer les systèmes d’IA avancés et devraient intensifier les efforts du gouvernement américain pour renforcer la sécurité de l’IA, tandis que les entreprises s’efforcent de développer des modèles toujours plus performants. Certains experts reconnus du secteur de l’IA estiment que le développement devrait être ralenti jusqu'à la mise en place de mesures de protection plus robustes.

Meta a déclaré enquêter sur un incident au cours duquel une erreur de configuration de la part d’Irregular, une société indépendante qui effectue des évaluations de cybersécurité pour Meta, a involontairement donné accès à Internet à l’un de ses modèles lors d’un test.

« Le modèle a exploité une faille de sécurité dans un service tiers, d’une manière similaire aux cas précédemment signalés chez d’autres entreprises », a déclaré Meta dans un communiqué.

Selon The Information, citant des sources, le modèle en question serait Muse Spark 1.1 de Meta, que l’entreprise présente comme son modèle le plus performant pour la programmation et les tâches d’agents dans le monde réel. Le rapport indique que le modèle a pénétré les systèmes d’une entreprise non identifiée et modifié son environnement interne.

Un porte-parole d’Irregular a déclaré à Reuters que l’incident était « exactement le même problème d’environnement d'évaluation que celui déjà révélé par Anthropic la semaine dernière » et n’impliquait pas « une fuite de bac à sable ou une cyberaction sophistiquée ».

« Il n’y a actuellement aucun problème en suspens. Irregular est en train de rédiger un livre blanc pour partager les meilleures pratiques en matière de confinement et de réalisation sécurisée d'évaluations de cybersécurité », a déclaré Irregular.

A lire aussi : La nervosité des investisseurs à l'égard de l’IA grimpe d’un cran au cœur de l’été

Cyber-risques

Les récentes violations de données ont suscité des inquiétudes parmi les législateurs américains quant à la possibilité que des modèles d’IA de plus en plus performants puissent être utilisés pour mener ou faciliter des cyberattaques.

Un groupe de procureurs généraux d'États républicains a demandé à OpenAI de « conserver tous les documents potentiellement pertinents » relatifs à la faille de sécurité de Hugging Face. OpenAI a déclaré qu’elle prendrait cette demande au sérieux et publierait un rapport technique sur l’incident.

Plus tôt cette semaine, la Maison Blanche avait invité des entreprises leaders dans le domaine de l’IA, notamment Meta, Anthropic, OpenAI et Google, à rencontrer des responsables pour discuter d’un cadre de tests de cybersécurité volontaire nouvellement finalisé pour les modèles d’IA avancés.

L’administration Trump a discuté de règles de test non publiées avec des représentants de l’entreprise et a indiqué aux développeurs d’IA que les modèles d’IA à poids ouvert, tels que Llama de Meta et Nemotron de Nvidia, ne seraient pas soumis à son programme de tests de sécurité volontaires prévu, a rapporté Reuters.

Concurrence accrue

Ce nouvel incident intervient alors que la concurrence entre les grandes plateformes fait rage. Meta Platforms a ainsi lancé mercredi un nouvel outil de programmation informatique sous la forme d’un agent IA baptisé Muse Code, qui se veut une alternative moins chère aux offres concurrentes, a rapporté le Wall Street Journal.

«Nous pensons que pour de nombreuses tâches et de nombreux usages, cela peut constituer une option incroyablement bonne, en particulier en termes de coûts», a déclaré Alexandr Wang, le patron de la branche IA de Meta, dans un entretien accordé au quotidien américain.

Les agents de programmation permettent de concevoir des logiciels sans avoir à coder manuellement. Anthropic a lancé Claude Code en décembre, ce qui lui a donné une longueur d’avance dans la course à l’IA. OpenAI dispose également d’un produit similaire sous le nom de Codex.

Muse Code sera proposé à deux tarifs: le premier sera équivalent au modèle IA généraliste Muse Spark, tandis que le second sera 10 fois moins cher. Pour profiter de cette dernière offre, qui coûtera 20 cents par million de tokens produits, les utilisateurs devront accepter de communiquer des informations permettant d’améliorer l’agent.

Un token est l’unité de base des textes générés ou analysés par l’IA. Les sociétés du secteur se servent de cet indicateur pour mesurer le volume de texte à traiter et donc la puissance de calcul nécessaire pour faire fonctionner leurs modèles.

(avec agences)

A lire aussi : SpaceX franchit le test de la croissance, pas celui de la confiance