ИИ захлестнул криптоиндустрию волной ложных отчётов о безопасности: платформы bug bounty фиксируют резкий рост числа заявок, значительная часть которых генерируется с помощью искусственного интеллекта и оказывается фиктивной.
Программы bug bounty — это механизм вознаграждения «этичных» хакеров за обнаружение уязвимостей в коде. В криптоиндустрии они широко распространены: протоколы и биржи готовы платить за реальные находки. Но ИИ изменил правила игры. Генеративные модели позволяют быстро и дёшево обрабатывать большие массивы кода в поиске потенциальных слабых мест — однако при этом нередко «галлюцинируют», выдавая несуществующие проблемы за реальные угрозы.
900% за год
Барри Планкетт (Barry Plunkett), основатель и генеральный директор Cosmos Labs, в соцсети X написал, что его программа за год получила на 900% больше заявок — от 20 до 50 в день. По его словам, это привело к росту как обоснованных, так и ложных отчётов одновременно.
Проблема затронула и другие организации: произошло заметное увеличение числа заявок и выплат по bug bounty. Часть поступающих отчётов описывает несуществующие уязвимости, что указывает на использование ИИ при их подготовке. Ключевая причина — снижение стоимости создания отчёта: там, где раньше требовались часы ручной работы, теперь достаточно нескольких минут с языковой моделью.
Ситуация вышла за пределы криптоиндустрии ещё в январе. Дэниел Стенберг (Daniel Stenberg), создатель широко используемого инструмента для передачи данных Curl — в том числе в блокчейн-инфраструктуре, — объявил о закрытии своей программы bug bounty. Причина: шквал автоматически сгенерированного мусора в заявках, разбор которых попросту истощил его ресурсы.
ИИ против ИИ
Cosmos Labs уже адаптировал подход: ужесточил систему оценки заявок, отдаёт приоритет исследователям с подтверждённой репутацией и сотрудничает с провайдерами bug bounty, предлагающими более продвинутую фильтрацию на входе.
Очевидно, единственным работающим ответом на ИИ-шум станет ИИ-фильтрация. Небольшие команды особенно уязвимы: у них нет ресурсов вручную обрабатывать десятки ежедневных заявок. Автоматизированные защитные системы для первичной сортировки входящих отчётов становятся не опцией, а необходимостью. Параллельно программам придётся устанавливать более строгие требования к формату и содержанию заявок, чтобы сократить поток некачественных материалов.
Мнение ИИ
С точки зрения машинного анализа данных, происходящее — это классический «парадокс автоматизации»: инструмент, созданный для повышения качества, при снижении барьера входа неизбежно снижает и качество потока. История знает аналог — появление автоматических спам-генераторов в 2000-х годах, которые перегрузили почтовые сервисы ровно до тех пор, пока фильтры не стали обязательной частью инфраструктуры. Программы bug bounty движутся по той же траектории. При этом существует малозаметный риск: в шуме ложных отчётов реальная критическая уязвимость может быть проигнорирована — не из-за халатности, а из-за усталости ревьюеров.
Симптоматично, что одновременно тот же ИИ способен находить настоящие бреши там, где люди не справляются годами — как показывает случай NASA. Так где же проходит граница между ИИ как инструментом атаки на процессы и ИИ как их защитником?
▼
Самые интересные и важные новости на нашем канале в Telegram
Источник: hashtelegraph.com
Обсуждение: post