"Лаборатория Касперского"
Ссылка скрыта от гостей
о поддержке создания центра искусственного интеллекта (ИИ). Это новое учреждение должно сосредоточиться на вопросах безопасности в сфере ИИ.Основные цели нового центра
Новый центр ИИ безопасности будет выполнять следующие ключевые функции:
- Агрегация информации о современных методах кибератак на алгоритмы ИИ
- Соблюдение информации об уязвимостях в системах ИИ
Эта инициатива направлена на решение существующей проблемы отсутствия единого центра по ИИ-безопасности в России.
Проблемы, с которыми столкнулись эксперты
Директор по исследованиям и разработке "Лаборатории Касперского" Антон Иванов подчеркнул важность создания такого центра:
- Отсутствие единой модели угроз ИИ
- Нет единой базы данных ИИ-угроз
- Отсутствие механизмов идентификации пользователей ИИ
Эксперт также обратил внимание на то, что многие специалисты используют открытые источники кода без проверки на безопасность, что может привести к компрометации ИИ-систем.
Пояснение необходимости центра ИИ-безопасности
Антон Иванов объяснил необходимость такого центра следующим образом:
- Безопасность ИИ требует особого подхода
- Требуется информирование разработчиков о потенциальных угрозах в используемых технологиях
- Центр должен заниматься вопросами безопасности ИИ, включая информацию о закладках в ПО и новых способах манипуляции ИИ-моделями
ПО словам компании - создание центра ИИ-безопасности может стать значительным шагом в укреплении защиты от угроз в этой области.