Искусственный интеллект усложняет поиск уязвимостей: эксперты жалуются на поток фейковых уязвимостей

В мире кибербезопасности появилась новая угроза: искусственный интеллект создаёт фальшивые отчёты о несуществующих уязвимостях. Платформы, такие как HackerOne и Bugcrowd, сообщают о всплеске псевдо-отчётов, которые выглядят профессионально, но описывают вымышленные проблемы. Эти документы, сгенерированные языковыми моделями, вводят в заблуждение, отнимая время у специалистов по безопасности.

Некоторые проекты, включая CycloneDX, были вынуждены приостановить программы багбаунти из-за потока ложных сообщений. Open Collective и Curl также столкнулись с волной ИИ-спама, не связанного с реальными багами. Проблема в том, что отчёты, созданные ИИ, часто кажутся достоверными, вынуждая экспертов тратить часы на их проверку.

Для борьбы с этим платформы ищут решения. HackerOne, например, внедрила инструмент Hai Triage, сочетающий автоматизацию с человеческим контролем. Однако эксперты предупреждают: с ростом доступности генеративных моделей проблема может усугубиться. Злоумышленники и энтузиасты всё чаще используют ИИ, создавая новые вызовы для кибербезопасности. В этой гонке победа будет за теми, кто найдёт эффективные способы отличать реальные уязвимости от вымышленных.