ИИ GPT-4 обнаруживает уязвимости нулевого дня с точностью до 87%

В Иллинойсском университете (UIUC) выяснили, что языковая модель GPT-4 с инструментами автоматизации может обнаруживать уязвимости нулевого дня, анализируя их описания. Успех в этом процессе может достигать 87 %. В комментарии для The Register один из авторов исследования отметил, что такой ИИ-помощник по пентесту стоит 8,8 долларов за один эксплойт. Это почти в три раза дешевле, чем полчаса работы специалиста.

Рабочий агент на основе GPT-4 был создан с использованием фреймворка LangChain (с модулем автоматизации ReAct). Код состоит из 91 строки и 1056 токенов для подсказок-стимулов. Компания OpenAI попросила не публиковать их, и они предоставляются по запросу.

Стоит отметить, что ИИ-инструмент, анализируя описания уязвимостей, переходил по ссылкам для получения дополнительной информации. При этом в процессе обучения ему не предоставляли данные о 11 целях, и эффективность работы с ними оказалась несколько ниже — 82 %. А ограничение доступа к информационным бюллетеням снизило успешность работы до 7 %.