data poisoning

Генеративные нейросети — штука полезная, пока их не берут в руки те, кто хочет вас развести. Мошенники быстро смекнули: LLM (large language model, большая языковая модель) — отличный инструмент для правдоподобного персонализированного фишинга, аккуратной подделки писем под конкретную компанию и...

ИИ перестал быть научной фантастикой и теперь применяется повсюду. Нейросети управляют автомобилями, ставят диагнозы и двигают биткоины.Однако чем глубже ИИ проникает в критическую инфраструктуру и нашу повседневность, тем более уязвимым и привлекательным он становится для злоумышленников...

В мире, где каждая компания спешит встроить LLM в продукт, злоумышленники уже нашли слабые места. Две самые опасные атаки, с которых всё начинается, — Prompt Injection и Data Poisoning. Обычные фильтры и сканеры безопасности против них Эти уязвимости особенно опасны для продуктовых команд: они...