La BCE alerte sur la menace des modèles d'IA comme Mythos pour la sécurité financière européenne

La BCE s'inquiète du développement de modèles IA comme Mythos

Après ses alertes récurrentes sur le Bitcoin, les cryptomonnaies dans leur ensemble, la finance décentralisée (DeFi) et les stablecoins (liste non exhaustive), la Banque centrale européenne (BCE) tire désormais la sonnette d'alarme au sujet de l'intelligence artificielle (IA), et sa capacité à ébranler la sécurité informatique et financière de la zone euro.

Une inquiétude plus particulièrement axée sur le projet « Glasswing », présenté en avril dernier par le géant du secteur Anthropic (Claude) comme une initiative de cybersécurité nouvelle génération construite autour de son modèle d'IA surpuissant, Mythos. Le problème ? Sa capacité supposée à pouvoir tout hacker.

👉 Pour aller plus loin – Est-il possible d'acheter des actions Anthropic (Claude) ?

Une solution pour le moment uniquement déployée au compte-gouttes auprès d'entreprises américaines sélectionnées selon des critères bien précis. Mais cela n'empêche pas le vice-président du conseil de surveillance prudentielle de la Banque centrale européenne (BCE), Frank Elderson, d'expliquer dans les colonnes du Financial Times que « le fait de ne pas avoir accès à ce modèle n’est pas une excuse pour rester inactif ».

Il existe toute une série de questions relatives à la cybersécurité sur lesquelles nous travaillons avec les banques depuis des années et qui restent toutes d’actualité, mais compte tenu des progrès réalisés dans le domaine de l’IA, elles doivent être traitées plus rapidement. (...) Des acteurs malveillants pourraient bientôt avoir accès à cette technologie.

La BCE réclame un soutien des banques américaines

Face à cette situation, la BCE vient donc d'improviser une réunion de crise en toute hâte - ce 26 mai - réunissant les principaux acteurs financiers de la zone euro, afin d'aborder ce problème de sécurité, mais également de réclamer des retours aux banques américaines qui ont déjà accès à ces technologies de pointe, comme par exemple le géant JPMorgan dont la filiale européenne dépend de sa supervision.

Et pour cause, la société Anthropic a déclaré le mois dernier que son IA Mythos avait permis « d'identifier des milliers de failles de sécurité très graves, dont certaines dans tous les principaux systèmes d’exploitation et navigateurs Web », avec « des répercussions qui pourraient être graves pour les économies, la sécurité publique et la sécurité nationale ».

📰 Un accès non autorisé à l'IA Claude Mythos fait craindre un risque imminent de nouveaux hacks

De quoi inquiéter Frank Elderson, notamment face à un système bancaire dont la lenteur évidente ne rivalise pas avec la rapidité de l'IA, même dans le cas d'un correctif proposé par un grand fournisseur de logiciels. En effet, l'IA pourrait alors « procéder à une ingénierie inverse de la vulnérabilité en tout juste 30 minutes » alors que sa mise en application ne serait pas encore effective.

Pendant ce temps, Anthropic annonce l'ouverture de son projet Glasswing à « des partenaires supplémentaires », sans toutefois préciser lesquels, tout en poursuivant son objectif de proposer un modèle d'IA grand public basé sur Mythos, accompagné des garde-fous nécessaires.

Source :  Financial Times

Passionné par les cryptomonnaies et le principe de décentralisation depuis de nombreuses années, je souhaite partager cette expérience avec le plus grand nombre. Je m'attache également à décrypter les enjeux associés à l'évolution de cet écosystème au sein de la finance traditionnelle.

Hugh Bernard

878 articles

Tous ses articles