L'UE cherche à engager des discussions avec les États-Unis sur la sécurité de l'IA alors qu'Anthropic prévoit le lancement de Mythos

TLDR

• L'UE souhaite approfondir les discussions avec les responsables américains sur les modèles d'IA avancés dotés de capacités cyber.
• Anthropic n'a pas accordé au bureau d'IA de l'UE un accès en avant-première à son modèle Mythos.
• Les responsables américains évaluent l'accès aux modèles, l'innovation, la sécurité cyber et la concurrence avec la Chine.
• Anthropic affirme que les modèles de classe Mythos nécessitent de solides mesures de protection cyber avant une diffusion plus large.
• Anthropic prévoit de mettre les modèles de classe Mythos à la disposition des clients dans les prochaines semaines.

L'Union européenne prévoit d'élargir les discussions avec l'administration américaine concernant les modèles d'IA avancés dotés de capacités cyber. Les échanges portent sur l'accès, les revues de la sécurité et les règles applicables aux systèmes puissants tels que le modèle Mythos d'Anthropic. Ces discussions interviennent alors qu'Anthropic se prépare à mettre les modèles de classe Mythos à la disposition des clients dans les prochaines semaines.

L'UE pousse pour accéder aux revues des IA avancées

Selon CNBC, un responsable de la Commission européenne a indiqué que le bloc souhaite renforcer les discussions avec les responsables américains sur les modèles d'IA de pointe. Les échanges portent sur les systèmes capables de prendre en charge des tâches cyber complexes et des tests de sécurité. L'UE n'a pas reçu d'accès en avant-première au modèle Mythos d'Anthropic. Son bureau d'IA n'a pas non plus examiné le modèle dans le cadre du processus d'accès actuel.

Anthropic a accordé un accès anticipé en avant-première à des entreprises et organisations sélectionnées via le Project Glasswing. Cependant, l'accès gouvernemental en dehors des États-Unis reste limité, à l'exception de l'AI Security Institute du Royaume-Uni. Une personne au fait des discussions a indiqué qu'Anthropic avait demandé aux responsables de l'UE d'obtenir l'autorisation des États-Unis. Cette personne a précisé que la Maison Blanche ne s'était pas opposée à l'UE seule.

La même personne a indiqué que les responsables américains avaient des préoccupations plus larges concernant le partage de Mythos avec des gouvernements non américains. Les discussions placent désormais l'accès au modèle dans le cadre d'une discussion plus large sur la sécurité de l'IA transatlantique.

Les États-Unis pèsent innovation et préoccupations de sécurité

La Maison Blanche a travaillé avec des laboratoires d'IA sur le déploiement de modèles avancés. Les responsables américains souhaitent maintenir la position de leader du pays tout en gérant les risques de sécurité. Le secrétaire au Trésor Scott Bessent a déclaré que l'administration travaille « très étroitement » avec les laboratoires d'IA. Il a également indiqué que les responsables souhaitent équilibrer innovation et sécurité.

L'administration s'est opposée à une expansion plus large de l'accès à Mythos, selon des rapports antérieurs. Anthropic avait proposé d'accorder l'accès au modèle à environ 70 entreprises et organisations supplémentaires.

Mythos a attiré l'attention après qu'Anthropic l'a annoncé en avril. Le modèle a suscité des inquiétudes en raison de sa capacité signalée à identifier des vulnérabilités logicielles à grande échelle. Le PDG d'Anthropic, Dario Amodei, a mis en garde ce mois-ci contre une fenêtre de sécurité étroite. Il a déclaré que les organisations disposaient de six à 12 mois pour corriger de nombreuses vulnérabilités avant que l'IA chinoise ne les rattrape.

Anthropic prévoit un déploiement plus large des modèles de classe Mythos

Anthropic a déclaré jeudi que les modèles dotés de capacités de niveau Mythos nécessitent de solides mesures de protection cyber avant une diffusion large. La société a également indiqué avoir progressé rapidement sur ces protections. « Nous progressons rapidement dans le développement de ces mesures de protection », a déclaré Anthropic. La société prévoit de mettre les modèles de classe Mythos à la disposition de tous les clients dans les prochaines semaines.

La Commission européenne a également élargi ses discussions techniques avec Anthropic et d'autres développeurs de modèles. Ces discussions impliquent des entreprises ayant notifié leurs derniers modèles au bureau d'IA de l'UE. Le porte-parole de la Commission, Thomas Regnier, a déclaré que la cybersécurité demeure une priorité partagée. Il a indiqué que l'UE et les États-Unis ont convenu de reconnaître leurs normes respectives dans ce domaine.

Les discussions portent désormais sur l'accès aux modèles, les mesures de protection cyber et les procédures de revue. Elles interviennent également alors que les gouvernements examinent la manière dont les systèmes d'IA avancés gèrent les capacités sensibles en matière de sécurité. Le prochain déploiement d'Anthropic testera la façon dont les laboratoires gèrent l'accès aux modèles puissants. L'UE poursuit ses discussions techniques avec Anthropic tout en cherchant à renforcer ses échanges avec les responsables américains.

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.