ЕС стремится к переговорам с США по вопросам безопасности ИИ, пока Anthropic планирует запуск Mythos

TLDR

• ЕС хочет более глубоких переговоров с американскими официальными лицами по продвинутым ИИ-моделям с кибервозможностями.
• Anthropic не предоставила офису ЕС по ИИ предварительный доступ к своей модели Mythos.
• Американские официальные лица взвешивают вопросы доступа к модели, инноваций, кибербезопасности и конкуренции с Китаем.
• Anthropic утверждает, что модели класса Mythos требуют надёжных киберзащитных мер перед широким выпуском.
• Anthropic ожидает предоставить модели класса Mythos клиентам в ближайшие недели.

Европейский союз планирует расширить переговоры с администрацией США по продвинутым ИИ-моделям с кибервозможностями. Обсуждения сосредоточены на доступе, проверках безопасности и правилах для мощных систем, таких как модель Mythos компании Anthropic. Переговоры проходят на фоне подготовки Anthropic к выводу моделей класса Mythos на рынок для клиентов в ближайшие недели.

ЕС добивается доступа к проверкам продвинутого ИИ

По данным CNBC, официальный представитель Европейской комиссии заявил, что блок хочет более активных дискуссий с американскими официальными лицами по пограничным ИИ-моделям. Переговоры охватывают системы, способные поддерживать сложные киберзадачи и тестирование безопасности. ЕС не получил предварительного доступа к модели Mythos компании Anthropic. Офис по ИИ также не проверял модель в рамках текущего процесса доступа.

Anthropic предоставила ранний предварительный доступ избранным компаниям и организациям через Project Glasswing. Однако правительственный доступ за пределами США остаётся ограниченным, за исключением Института безопасности ИИ Великобритании. Осведомлённый о переговорах источник сообщил, что Anthropic порекомендовала официальным лицам ЕС запросить разрешение у США. По его словам, Белый дом не возражал против самого ЕС.

Тот же источник сообщил, что у американских официальных лиц были более широкие опасения относительно передачи Mythos правительствам других стран. Теперь переговоры о доступе к модели включены в более широкое трансатлантическое обсуждение безопасности ИИ.

США взвешивают инновации и проблемы безопасности

Белый дом сотрудничал с ИИ-лабораториями по вопросам развёртывания продвинутых моделей. Американские официальные лица хотят сохранить лидерство страны, управляя при этом рисками безопасности. Министр финансов Скотт Бессент заявил, что администрация работает «очень тесно» с ИИ-лабораториями. Он также отметил, что официальные лица стремятся соблюдать баланс между инновациями и безопасностью.

По данным более ранних сообщений, администрация выступила против расширения доступа к Mythos. Anthropic предлагала предоставить доступ к модели примерно 70 дополнительным компаниям и организациям.

Mythos привлекла внимание после того, как Anthropic анонсировала её в апреле. Модель вызвала обеспокоенность из-за заявленной способности выявлять уязвимости программного обеспечения в масштабе. Генеральный директор Anthropic Дарио Амодей в этом месяце предупредил об узком окне безопасности. По его словам, у организаций есть от шести до 12 месяцев, чтобы устранить многие уязвимости, прежде чем китайский ИИ догонит их.

Anthropic планирует более широкий выпуск моделей класса Mythos

В четверг Anthropic заявила, что модели с возможностями уровня Mythos требуют надёжных киберзащитных мер перед широким выпуском. Компания также сообщила, что достигла быстрого прогресса в разработке этих средств защиты. «Мы стремительно продвигаемся в разработке этих защитных мер», — заявила Anthropic. Компания ожидает предоставить модели класса Mythos всем клиентам в ближайшие недели.

Европейская комиссия также расширила технические переговоры с Anthropic и другими разработчиками моделей. Эти переговоры охватывают компании, уведомившие офис ЕС по ИИ о своих последних моделях. Представитель Комиссии Томас Реньер заявил, что кибербезопасность остаётся общим приоритетом. По его словам, ЕС и США договорились о взаимном признании соответствующих стандартов в этой области.

Обсуждения теперь охватывают доступ к моделям, киберзащитные меры и процедуры проверки. Они также проходят на фоне того, как правительства изучают, как продвинутые ИИ-системы справляются с чувствительными с точки зрения безопасности возможностями. Следующий выпуск Anthropic проверит, как лаборатории управляют доступом к мощным моделям. ЕС продолжает технические переговоры с Anthropic, одновременно добиваясь более тесного диалога с американскими официальными лицами.

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.