ИИ усиливает киберпреступность: мошенничество становится быстрее, дешевле и труднее обнаружить

Киберпреступники используют искусственный интеллект для реализации более изощренных схем. Они нацелены на все — от пенсионных накоплений до корпоративных секретов — с помощью методов, которые становится все труднее обнаружить.

Та же технология, которая адаптирует рекламу для онлайн-покупателей, теперь используется злоумышленниками для сбора личных данных и быстрого запуска персонализированных мошеннических схем. Очень быстро.

Крупные ИИ-компании, такие как Anthropic, OpenAI и Google, сообщают, что преступники используют их платформы для организации сложных фишинговых операций, разработки вредоносного программного обеспечения и осуществления различных цифровых атак. Специалисты по безопасности предупреждают, что преступники также создают поддельные аудио- и видеоролики руководителей компаний, чтобы обманом заставить сотрудников раскрыть конфиденциальную информацию.

Предприятия и государственные учреждения вскоре могут столкнуться с множеством систем на базе ИИ, которые способны обнаруживать уязвимости в компьютерных сетях, а затем планировать и проводить атаки практически без участия человека.

Технология меняет то, как преступники действуют в интернете. Элис Марвик возглавляет исследовательскую работу в Data & Society, независимой организации по исследованию технологий. Она сказала Wall Street Journal, что самое большое изменение касается масштаба и охвата. «Реальное изменение — это размах и масштаб. Мошенничество становится масштабнее, более целенаправленным, более убедительным».

Брайан Сингер — аспирант Университета Карнеги-Меллон. Он изучает, как большие языковые модели используются в кибератаках и защите. Его оценка? От половины до трех четвертей мирового спама и фишинговых сообщений теперь создаются системами ИИ.

Сами атаки стали более правдоподобными. Системы ИИ, обученные на корпоративных коммуникациях, могут создавать тысячи сообщений, которые звучат естественно и соответствуют стилю компании. Они копируют манеру письма руководителей. Они упоминают последние новости, найденные в публичных записях.

Технология также помогает зарубежным мошенникам скрывать языковые ошибки, которые раньше делали их попытки очевидными. Преступники могут выдавать себя за жертв с помощью поддельных видео и скопированных голосов. Они используют одну и ту же фальшивую личность для одновременного нацеливания на нескольких человек.

Джон Халтквист — главный аналитик Google Threat Intelligence Group. Он описывает основное изменение как «достоверность в масштабе».

Злоумышленники также становятся лучше в выборе целей. Они используют ИИ для просмотра социальных сетей и поиска людей, сталкивающихся с серьезными жизненными трудностями. Развод, смерть в семье, потеря работы и ситуации, которые могут сделать человека более уязвимым к романтическим обманам, инвестиционному мошенничеству или поддельным предложениям о работе.

Рынки даркнета снижают барьер входа

Барьер входа в киберпреступность снизился. Подпольные рынки теперь продают или сдают в аренду инструменты ИИ для преступной деятельности всего за 90 $ в месяц. Николас Кристин возглавляет департамент программного обеспечения и социальных систем Университета Карнеги-Меллон.

Он сказал, что эти платформы предлагают различные ценовые уровни и поддержку клиентов. «Разработчики продают подписки на платформы для атак с многоуровневым ценообразованием и поддержкой клиентов».

Эти сервисы носят названия вроде WormGPT, FraudGPT и DarkGPT. Они могут создавать вредоносное программное обеспечение и фишинговые кампании. Некоторые даже включают учебные материалы по техникам взлома.

Маргарет Каннингем — вице-президент по безопасности и стратегии ИИ в Darktrace, компании по кибербезопасности. Она говорит, что все просто. «Вам не нужно знать, как программировать, только где найти инструмент».

Есть недавняя разработка под названием вайб-кодинг или вайб-хакинг. Это может позволить начинающим преступникам использовать ИИ для создания собственных вредоносных программ вместо их покупки из подпольных источников. Anthropic раскрыла ранее в этом году, что остановила несколько попыток использования своего ИИ Claude для создания программ-вымогателей «преступниками с небольшими техническими навыками».

Сами преступные операции меняются. Киберпреступность работает как деловой рынок уже много лет, по словам экспертов. Типичная операция с программами-вымогателями включала разные группы. Брокеры доступа, которые взламывали корпоративные сети и продавали вход. Команды вторжения, которые перемещались по системам, похищая данные. И поставщики программ-вымогателей как услуги, которые выпускали вредоносное ПО, вели переговоры и делили деньги.

Скорость и автоматизация меняют преступные сети

ИИ увеличил скорость, размер и доступность этой системы. Работа, которую раньше выполняли люди с техническими знаниями, теперь может выполняться автоматически. Это позволяет этим группам работать с меньшим числом людей, меньшим риском и более высокой прибылью. «Думайте об этом как о следующем уровне индустриализации. ИИ увеличивает производительность без необходимости в большем количестве квалифицированной рабочей силы», — объясняет Кристин.

Может ли ИИ запускать атаки полностью самостоятельно? Пока нет. Эксперты сравнивают ситуацию со стремлением к полностью автономным транспортным средствам. Первые 95 % уже достигнуты. Но последняя часть, которая позволила бы автомобилю ездить где угодно и когда угодно самостоятельно, остается недостижимой.

Исследователи тестируют хакерские способности ИИ в лабораторных условиях. Команда из Университета Карнеги-Меллон при поддержке Anthropic воссоздала знаменитую утечку данных Equifax с использованием ИИ ранее в этом году. Сингер возглавлял работу в Институте безопасности и конфиденциальности CyLab Университета Карнеги-Меллон. Он называет это «большим скачком».

Преступники используют ИИ в вредоносных целях. Но компании, работающие с ИИ, говорят, что те же инструменты могут помочь организациям укрепить свою цифровую защиту.

Anthropic и OpenAI создают системы ИИ, которые могут непрерывно анализировать программный код для обнаружения уязвимостей, которые могут использовать преступники. Однако люди все еще должны одобрять любые исправления. Недавняя программа ИИ, разработанная исследователями Стэнфорда, показала лучшие результаты, чем некоторые тестировщики-люди при поиске проблем безопасности в сети.

Даже ИИ не остановит все нарушения. Вот почему организации должны сосредоточиться на создании устойчивых сетей, которые продолжают работать во время атак, говорит Халтквист.

Если вы читаете это, вы уже впереди. Оставайтесь там с нашей рассылкой.