Кратко
- Исследователи из Кембриджа, Эдинбурга и Стратклайда проанализировали 97 895 веток форумов по киберпреступности, опубликованных после запуска ChatGPT.
- Инструменты «тёмного ИИ», такие как WormGPT, наделали шума, но практически не произвели работоспособного вредоносного ПО, а взломанные чат-боты становится всё сложнее поддерживать в рабочем состоянии дольше нескольких дней.
- Самое крупное измеримое преступление, управляемое ИИ, — это не взлом. Это массово производимый SEO-спам, романтическое мошенничество и сгенерированные ИИ обнажённые изображения, продаваемые по $1 каждое.
На протяжении трёх лет компании по кибербезопасности, правительства и ИИ-лаборатории предупреждали, что генеративный ИИ породит новое поколение сверхмощных хакеров. Однако согласно новой академической работе, в которой были изучены реальные данные, эти сверхмощные хакеры в основном используют ChatGPT для написания спама и генерации обнажённых изображений ради развлечения.
Исследование под названием Stand-Alone Complex or Vibercrime? было опубликовано на arXiv учёными из Кембриджа и других университетов с целью понять, как киберпреступное подполье на самом деле осваивает ИИ, а не так, как об этом говорят поставщики решений в области кибербезопасности.
«Мы представляем здесь одну из первых попыток провести смешанное эмпирическое исследование ранних моделей внедрения GenAI в киберпреступном подполье», — написали исследователи.
Команда проанализировала 97 895 веток форумов, опубликованных после запуска ChatGPT в ноябре 2022 года, взятых из набора данных CrimeBB Кембрийского центра по киберпреступности, охватывающего подпольные форумы и форумы даркнета. Они применяли тематические модели, вручную прочитали более 3 200 веток и этнографически погрузились в эту среду.
Вывод неутешителен для сторонников «апокалипсиса ИИ»: 97,3% веток в выборке были классифицированы как «прочие», то есть фактически не имеющие отношения к использованию ИИ в преступных целях. Лишь 1,9% были связаны с использованием инструментов vibe coding.
«Не что иное, как неограниченный ChatGPT»
Помните WormGPT, FraudGPT и волну якобы вредоносных чат-ботов, заполонивших заголовки в 2023 году? Данные форумов рассказывают иную историю.
Исследователи обнаружили, что большинство публикаций о продуктах «тёмного ИИ» — это люди, просящие бесплатный доступ, праздные рассуждения и жалобы на то, что инструменты попросту не работают. Один из разработчиков популярного сервиса на базе тёмного ИИ в конечном счёте признал участникам форума, что продукт был лишь маркетинговым упражнением.
«В конце концов, [CybercrimeAI] — это не что иное, как неограниченный ChatGPT», — написал разработчик перед закрытием проекта. «Любой пользователь интернета может применить известную технику джейлбрейка и получить такие же, если не лучшие, результаты.»
К концу 2024 года, по словам исследователей, джейлбрейки для основных моделей стали одноразовыми. Большинство перестают работать через неделю или раньше. Модели с открытым исходным кодом можно взламывать бессрочно, но они медленные, требуют много ресурсов и заморожены во времени.
«Защитные ограничения для систем ИИ оказываются как полезными, так и эффективными», — заключают авторы, называя это контринтуитивным выводом для критической работы.
Vibe coding реален. Vibe hacking — в основном нет
Работа напрямую касается широко освещавшегося доклада Anthropic от августа 2025 года, в котором утверждалось, что Claude Code использовался для проведения кампании по вымогательству в стиле «vibe hacking» против 17 организаций. Данные кембрийской команды попросту не подтверждают такую закономерность в более широком подпольном сообществе.
На изученных форумах ИИ-ассистенты для программирования используются так же, как их используют обычные разработчики: в качестве автодополнения и замены Stack Overflow для уже опытных программистов. Малоквалифицированные участники придерживаются готовых скриптов, потому что готовые скрипты работают.
Исследователи обнаружили, что даже хакеры не доверяют своим инструментам для взлома, написанным в стиле vibe coding. «Программирование с помощью ИИ — это обоюдоострый меч. Оно ускорит разработку, но также усиливает риски, такие как небезопасный код и уязвимости цепочки поставок», — сказал один из пользователей на форуме, который отслеживали исследователи.
Другой предупреждал о долгосрочной потере навыков: «Теперь очевидно, что использование ИИ для написания кода вызывает очень быструю негативную деградацию ваших навыков», — написал хакер на форуме. «Если ваша цель — просто штамповать SaaS-мошенничество и вам всё равно на качество/безопасность/производительность кода, то vibe coding вполне жизнеспособен. (Также кажется применимым для фишинга).»
Это разительно контрастирует с алармистскими прогнозами Европола, который в 2025 году предупреждал, что полностью автономный ИИ однажды сможет управлять преступными сетями.
Где ИИ действительно помогает преступникам
Разрушительное воздействие, когда оно проявляется, находится в самом низу пищевой цепочки.
SEO-мошенники используют LLM для массового производства блогового спама в погоне за падающими доходами от рекламы. Романтические мошенники и операторы eWhoring внедряют клонирование голоса и генерацию изображений. Любители быстрого обогащения штампуют написанные ИИ электронные книги для продажи по $20 за штуку.
Самый тревожный рынок, обнаруженный исследователями, был связан с сервисами генерации обнажённых изображений. Один оператор рекламировал: «Я могу сделать любую девушку обнажённой с помощью ИИ… 1 фото = $1, 10 фото = $8, 50 фото = $40, 90 фото — $75.»
Ничто из этого не является изощрённой киберпреступностью. Это та же низкомаржинальная, высокообъёмная деятельность, которая двадцать лет питала спам-индустрию, — теперь работающая на немного более совершенных инструментах.
Заключительное наблюдение исследователей — самое острое. Они предполагают, что главный способ, которым ИИ в итоге разрушит экосистему киберпреступности, может быть не в том, чтобы сделать преступников более умелыми, а в том, чтобы вытолкнуть уволенных разработчиков из легального технологического сектора в подполье в поисках работы.
«В последние месяцы тревога по поводу разрушения рынка труда этими инструментами стремительно нарастает», — говорится в работе. «Это может оказаться самым важным способом, которым инструменты генеративного ИИ разрушат экосистему киберпреступности, — массовые увольнения, экономический спад и охладевший рынок труда, толкающие легальных, более квалифицированных разработчиков в подпольные сообщества схем быстрого обогащения, мошенничества и киберпреступности.»
Ежедневная рассылка Daily Debrief
Начинайте каждый день с главных новостей прямо сейчас, а также оригинальных материалов, подкастов, видео и многого другого.
Source: https://decrypt.co/366855/cybercrime-hacking-ai-study
