Злоумышленники обманывают системы машинного обучения через электронные письма

Недавно был обнаружен новая способ кибератак, использующий умные электронные письма для обмана систем машинного обучения, что позволяет злоумышленникам обходить передовые меры безопасности и проникать в корпоративные сети. Этот новый метод, получивший название Conversation Overflow, работает следующим образом. В верхней части письма получателю предлагается совершить определенное действие, например, предоставить личную информацию или перейти по ссылке. Однако под этой видимой частью находится скрытый текстовый блок, состоящий из множества пустых строк и обычного текста, имитирующий обычный обмен сообщениями электронной почты.

Эта хитрая техника обманывает алгоритмы машинного обучения. Это происходит потому, что алгоритмы машинного обучения склонны рассматривать такие письма как легитимные из-за их сходства с обычными письмами. Исследователи отмечают, что этот способ используется неоднократно и может быть опробован злоумышленниками для обхода существующих систем безопасности. Злоумышленники, проникшие в систему, отправляют запросы на кражу учетных данных, замаскированные под легитимные запросы на повторную аутентификацию. Основная цель - компания-хостер, чьи учетные данные могут быть проданы по высокой цене на темных форумах.

Эта новая техника атак представляет собой серьезный вызов для современных систем искусственного интеллекта и машинного обучения, основанных на обнаружении аномалий. Для защиты от таких атак рекомендуется использовать более совершенные алгоритмы машинного обучения, регулярные тренинги по безопасности и многоуровневую аутентификацию.