Зламано Mythos від Anthropic: несанкціонований доступ до ексклюзивного ШІ-інструменту кібербезпеки викликає критичні проблеми корпоративної безпеки

BitcoinWorld

Злом Anthropic Mythos: несанкціонований доступ до ексклюзивного інструменту кібербезпеки на основі ШІ викликав серйозні занепокоєння щодо корпоративної безпеки

Сан-Франциско, Каліфорнія – 30 квітня 2025 – За даними розслідування Bloomberg, ексклюзивний інструмент кібербезпеки Anthropic Mythos був нібито доступний для несанкціонованої групи через середовище стороннього постачальника. Ця подія викликає серйозні занепокоєння щодо безпеки передових систем ШІ, призначених для захисту підприємств. Злом стався незважаючи на ретельно контрольовану стратегію випуску Mythos компанією Anthropic — інструменту, який компанія спеціально розробила для зміцнення корпоративного захисту від кіберзагроз.

Розслідування зломy Anthropic Mythos розпочато

Anthropic підтвердила, що розслідує повідомлення про несанкціонований доступ до Claude Mythos Preview. Компанія надала таку заяву для Bitcoin World: «Ми розслідуємо повідомлення про несанкціонований доступ до Claude Mythos Preview через одне зі середовищ наших сторонніх постачальників.» Важливо зазначити, що внутрішнє розслідування Anthropic не виявило жодних доказів того, що несанкціонована діяльність вплинула на основні системи компанії. Злом, схоже, обмежений середовищем попереднього перегляду, доступ до якого отримано через канали постачальників.

Несанкціонована група нібито отримала доступ того самого дня, коли Anthropic публічно оголосила про Mythos. Вони застосували кілька стратегій для проникнення в систему. За даними джерел Bloomberg, група робила обґрунтовані здогадки щодо розташування моделі в мережі. Ці здогадки базувалися на знанні шаблонів форматування Anthropic для інших моделей. Діяльність групи виявляє потенційні вразливості в протоколах безпеки сторонніх платформ.

Виявлено вразливості в безпеці сторонніх постачальників

Шлях зломy пролягав через стороннього підрядника, що співпрацює з Anthropic. Bloomberg повідомив, що несанкціонована група скористалася «доступом», яким користувалася особа, що на той момент працювала в цього підрядника. Цей інцидент підкреслює постійні виклики безпеки, пов'язані з розширеними екосистемами підприємств. Сторонні постачальники часто є найслабшою ланкою в корпоративних ланцюгах безпеки.

Організації дедалі більше покладаються на спеціалізованих підрядників для виконання різних функцій. Однак така залежність створює додаткові поверхні атак. Ситуація з Anthropic Mythos демонструє, як витончені зловмисники можуть використовувати ці відносини. Експерти з безпеки постійно попереджають про ризики, пов'язані зі сторонніми платформами. Вони зазначають, що оцінки безпеки постачальників часто не встигають за еволюцією загроз.

Наслідки для безпеки корпоративного ШІ

Злом Mythos має значні наслідки для безпеки корпоративного ШІ. Anthropic розробила Mythos спеціально для зміцнення корпоративного захисту від кіберзагроз. Під час оголошення компанія визнала потенціал інструменту для подвійного використання. У неналежних руках Mythos теоретично може бути використаний як зброя проти тих самих систем, для захисту яких він був створений.

Цей інцидент порушує критичні питання щодо безпечного розгортання ШІ. Корпоративні організації повинні враховувати кілька факторів:

• Протоколи контролю доступу: як організації керують дозволами для потужних інструментів ШІ
• Управління ризиками постачальників: оцінки безпеки для сторонніх підрядників
• Можливості моніторингу: виявлення несанкціонованого використання систем ШІ
• Реагування на інциденти: процедури для потенційних порушень безпеки ШІ

Мотиви та діяльність несанкціонованої групи

Звіт Bloomberg містить цікаві деталі про несанкціоновану групу. Її учасники належать до каналу Discord, орієнтованого на пошук інформації про ще не випущені моделі ШІ. Джерело групи повідомило Bloomberg, що вони «зацікавлені в тому, щоб погратися з новими моделями, а не влаштовувати хаос з ними.» Це розмежування важливе для розуміння потенційних ризиків.

Група нібито регулярно використовувала Mythos з моменту отримання доступу. Вони надали Bloomberg докази, зокрема скріншоти та демонстрацію програмного забезпечення в реальному часі. Їхня діяльність, здається, зосереджена на дослідженні, а не на зловмисній експлуатації. Однак фахівці з безпеки застерігають, що навіть незловмисний несанкціонований доступ створює ризики. Він прокладає шляхи, якими згодом можуть скористатися зловмисники.

Експерти з кібербезпеки підкреслюють, що наміри можуть змінитися дуже швидко. Група, спочатку зацікавлена в дослідженні, пізніше може вирішити скористатися доступом в інших цілях. Крім того, їхні методи доступу можуть бути виявлені та відтворені справжніми зловмисниками. Цифровий ландшафт безпеки постійно змінюється.

Проєкт Glasswing та стратегія контрольованого випуску

Anthropic випустила Mythos через ініціативу під назвою Project Glasswing. Ця програма надавала обмежений доступ обраним постачальникам, зокрема великим технологічним компаніям, таким як Apple. Стратегія контрольованого випуску була спрямована саме на запобігання використанню зловмисниками. Anthropic від самого початку усвідомлювала потенціал інструменту для зловживань.

Project Glasswing представляє зростаючу тенденцію у відповідальному розгортанні ШІ. Компанії дедалі частіше впроваджують поетапні випуски потужних систем ШІ. Такий підхід дозволяє:

• реальне тестування в контрольованих середовищах
• виявлення потенційних вразливостей безпеки
• поступове масштабування на основі даних про продуктивність та безпеку
• встановлення протоколів використання та найкращих практик

Незважаючи на ці запобіжні заходи, повідомлений злом демонструє складнощі повного захисту передових систем ШІ. Навіть обмежені випуски для довірених партнерів створюють потенційні точки вразливості. Цей інцидент, ймовірно, вплине на майбутні стратегії випуску ШІ в галузі.

Реакція галузі та найкращі практики безпеки

Спільнота кібербезпеки уважно стежить за ситуацією з Anthropic Mythos. Галузеві експерти зазначають, що порушення безпеки ШІ вимагають спеціалізованих протоколів реагування. Традиційні процедури реагування на витоки даних можуть не відповідати ризикам, специфічним для ШІ. До них відносяться вилучення моделей, атаки через введення підказок та отруєння навчальних даних.

Команди корпоративної безпеки повинні переглянути кілька напрямків після цього інциденту:

Оцінки безпеки постачальників: організації повинні запровадити суворий відбір для всіх сторонніх постачальників, які мають доступ до систем ШІ. Ці оцінки мають виходити за межі стандартних опитувальників безпеки. Вони повинні включати конкретну оцінку компетенцій та протоколів безпеки ШІ.

Моніторинг доступу: безперервний моніторинг шаблонів використання систем ШІ стає необхідністю. Системи виявлення аномалій повинні позначати незвичні шаблони доступу або обсяги використання. Ці системи повинні враховувати унікальні характеристики взаємодій з інструментами ШІ.

Планування реагування на інциденти: команди безпеки потребують планів реагування на інциденти, специфічних для ШІ. Ці плани повинні охоплювати сценарії, такі як компрометація моделі, несанкціонований доступ та потенційне використання як зброї. Регулярні навчання допомагають організаціям підготуватися до реальних інцидентів.

Ширші наслідки для ландшафту безпеки ШІ

Повідомлений злом Mythos відбувається на тлі зростаючих занепокоєнь щодо безпеки ШІ. Оскільки системи ШІ стають більш потужними та інтегрованими в критичну інфраструктуру, їхня безпека набуває дедалі більшого значення. У ландшафті безпеки ШІ з'являється кілька тенденцій:

По-перше, спеціалізовані ролі у сфері безпеки ШІ стають більш поширеними. Організації тепер наймають фахівців, зосереджених саме на захисті систем ШІ. Ці ролі вимагають розуміння як традиційної кібербезпеки, так і унікальних вразливостей ШІ.

По-друге, регуляторна увага зростає. Уряди всього світу розробляють рамки для безпеки та захисту ШІ. Такі інциденти, як злом Mythos, ймовірно, вплинуть на ці регуляторні розробки. Вони демонструють реальні ризики, які регулювання має вирішувати.

По-третє, спільнота дослідників безпеки розширює свій фокус на ШІ. Більше дослідників вивчають специфічні для ШІ вектори атак та механізми захисту. Ця зростаюча база знань допоможе з часом покращити безпеку ШІ.

Висновок

Повідомлений несанкціонований доступ до інструменту кібербезпеки Anthropic Mythos висвітлює критичні виклики у сфері корпоративної безпеки ШІ. Хоча розслідування Anthropic не виявило впливу на її основні системи, інцидент розкриває вразливості в протоколах безпеки сторонніх постачальників. Злом демонструє, як навіть ретельно контрольовані випуски ШІ можуть зіткнутися з проблемами безпеки. Оскільки системи ШІ дедалі більше інтегруються в корпоративні операції, надійні заходи безпеки стають дедалі більш необхідними. Ситуація з Anthropic Mythos слугує важливим прикладом для організацій, що розгортають передові інструменти ШІ. Вона підкреслює необхідність комплексних стратегій безпеки, які охоплюють як внутрішні системи, так і розширені мережі постачальників.

Поширені запитання

З1: Що таке інструмент кібербезпеки Anthropic Mythos?
Mythos — це інструмент кібербезпеки на основі ШІ, розроблений Anthropic для корпоративних застосувань безпеки. Інструмент призначений для зміцнення корпоративного захисту, але має потенційні можливості подвійного використання, якими можуть скористатися зловмисники.

З2: Як несанкціонована група отримала доступ до Mythos?
Група нібито отримала доступ через середовище стороннього постачальника. Вони використовували кілька стратегій, зокрема обґрунтовані здогадки щодо розташування моделі в мережі на основі шаблонів форматування Anthropic для інших моделей.

З3: Чи підтвердила Anthropic злом?
Anthropic підтвердила, що розслідує повідомлення про несанкціонований доступ, але заявила, що її розслідування не виявило жодних доказів того, що діяльність вплинула на основні системи компанії. Розслідування зосереджене на середовищі попереднього перегляду, доступ до якого отримано через канали постачальників.

З4: Що таке Project Glasswing?
Project Glasswing — це ініціатива Anthropic для контрольованого випуску інструменту Mythos. Вона надає обмежений доступ обраним постачальникам, зокрема великим технологічним компаніям, з метою запобігання зловживанням з боку недобросовісних учасників.

З5: Які ширші наслідки для безпеки ШІ?
Цей інцидент висвітлює вразливості в безпеці сторонніх постачальників та складнощі захисту передових систем ШІ. Він, ймовірно, вплине на стратегії випуску ШІ, регуляторні розробки та практики корпоративної безпеки в галузі.

Ця публікація «Злом Anthropic Mythos: несанкціонований доступ до ексклюзивного інструменту кібербезпеки на основі ШІ викликав серйозні занепокоєння щодо корпоративної безпеки» вперше з'явилася на BitcoinWorld.