Les dirigeants des banques centrales européennes réclament des garde-fous pour l'IA afin de protéger les marchés

Les régulateurs européens ont averti que les progrès rapides de l'intelligence artificielle agentique ont dépassé la réglementation existante, les banques centrales et les autorités financières appelant à de nouvelles mesures de protection pour réduire les risques pesant sur les marchés financiers.

Selon les déclarations faites lors de la réunion annuelle de la Banque centrale européenne à Sintra, au Portugal, les hauts responsables politiques ont déclaré que les processus réglementaires actuels peinent à suivre le rythme des systèmes d'IA qui évoluent en quelques semaines ou mois plutôt qu'en années.

S'exprimant lors de l'événement mardi, Sarah Breeden, gouverneure adjointe de la Banque d'Angleterre, a déclaré que les décideurs politiques devraient envisager des mesures de protection similaires aux disjoncteurs de marché ou aux interrupteurs d'arrêt qui pourraient suspendre les négociations si des modèles d'IA défectueux déclenchent une perturbation à l'échelle du marché en période de stress.

Mme Breeden a déclaré que l'IA agentique pourrait amplifier la volatilité du marché et a ajouté que la hausse du financement par la dette lié aux investissements dans l'IA pourrait accroître les risques pour la stabilité financière si les prix des actifs liés à l'IA chutaient brutalement.

Ces inquiétudes ont été soulevées quelques jours seulement après que la Banque des règlements internationaux a averti, dans un rapport du 28 juin, que l'enthousiasme prolongé autour de l'intelligence artificielle pourrait exposer les marchés à une correction soudaine. Selon la BRI, un resserrement de la politique monétaire pour contenir l'inflation pourrait déclencher une forte baisse des prix des actifs liés à l'IA après une prise de risque prolongée, créant ainsi des boucles de rétroaction macrofinancières perturbatrices.

Entre autres, Tobias Adrian, directeur du Département des marchés monétaires et des capitaux du Fonds Monétaire International, a déclaré à Bloomberg le 30 juin que le secteur est également confronté à une potentielle inadéquation entre la nature à long terme des infrastructures physiques de l'IA et l'échéance plus courte de la dette utilisée pour les financer.

Les régulateurs affirment que le processus réglementaire traditionnel est trop lent

Par ailleurs, Christine Lagarde, présidente de la Banque centrale européenne, a déclaré au journal français Les Echos jeudi que l'intelligence artificielle représente désormais un défi plus sérieux que les menaces de cybersécurité traditionnelles, car la technologie progresse rapidement tandis que les capacités de défense et les financements sont encore à la traîne.

Lors d'une interview séparée avec l'émission Squawk Box de CNBC, Nikhil Rathi, directeur général de la Financial Conduct Authority au Royaume-Uni, a déclaré que les cycles réglementaires conventionnels ne sont plus adaptés aux technologies qui changent en quelques semaines ou mois. M. Rathi a affirmé que les régulateurs auront besoin de nouvelles approches et d'une coopération plus étroite avec l'industrie, au lieu de s'appuyer uniquement sur des processus réglementaires longs.

Ces derniers avertissements font suite aux récents débats politiques sur l'accès aux systèmes d'IA avancés en Europe. 

Le mois dernier, l'Autriche a exhorté l'Union européenne à explorer la possibilité d'implanter Anthropic au sein du bloc, après que les restrictions américaines à l'exportation ont limité l'accès étranger aux modèles d'IA les plus avancés de l'entreprise. 

Alexander Proell, secrétaire d'État autrichien à la Numérisation, a fait valoir que l'Europe ne devrait pas risquer de perdre l'accès à l'IA de pointe en raison de décisions prises en dehors de la région.

Comme indiqué précédemment, Anthropic a suspendu l'accès public à ses modèles Fable 5 et Mythos 5 en juin après qu'une directive américaine de contrôle des exportations a exigé que l'entreprise bloque l'accès aux ressortissants étrangers en raison de préoccupations en matière de cybersécurité liées à une technique de jailbreak signalée. 

Les autorités américaines ont ensuite autorisé le redéploiement des modèles après qu'Anthropic a introduit de nouveaux classificateurs et mesures de protection conçus pour bloquer les utilisations abusives liées à la cybersécurité.