Статья [новость - перевод] Искусственный интеллект и его влияние на баланс между атакой и защитой

AnnaDavydova

AnnaDavydova

Перевожу для codeby
06.08.2016
98
714
Технологии искусственного интеллекта имеют весь необходимый потенциал для преодоления давнего преимущества, которое атака имеет над защитой Интернета. Это связано с относительными сильными и слабыми сторонами людей и компьютеров, как все они взаимодействуют в сфере безопасности в Интернете и где технологии искусственного интеллекта могут повлиять на ситуацию.

Вы можете разделить задачи безопасности в Интернете на два набора: первый касается того, что именно люди делают хорошо, а второй, что компьютеры делают хорошо. Традиционное преимущество компьютеров - это скорость, масштаб выполняемой работы и объем обрабатываемых данных. Они могут запускать атаки в миллисекундах и заражать миллионы компьютеров. Они могут сканировать компьютерный код для поиска определенных видов уязвимостей и пакетов данных для определения конкретных видов атак.

Люди, наоборот, преуспевают в размышлениях и рассуждениях. Они могут смотреть на данные и отличать настоящую атаку от ложной тревоги, понимать суть атаки, как именно она происходит, и соответствующим образом реагировать на нее. Они могут найти новые виды уязвимостей в системах. Люди творческие и адаптивные, и могут понимать контекст.

Компьютеры, по крайней мере пока, плохи в тех сферах, в которых люди справляются довольно хорошо. Они не являются творческими или адаптивными. Они не понимают контекста. Из-за этого, они могут вести себя неразумно.

Люди медленны и им наскучивает повторяющиеся задания. Они крайне плохо себя проявляют при большом анализе данных. Они используют когнитивные ярлыки и могут хранить только несколько точек данных в голове за раз. Ввиду вышеперечисленных причин, они могут вести себя иррационально.

Искусственный интеллект позволит компьютерам решать задачи безопасности Интернета для людей, а затем, улучшая производительность, выполнять эти же задачи быстрее и масштабнее. Ниже приведены некоторые возможности искусственного интеллекта:

  • Реагировать и приспосабливаться к действиям противника, и снова как на атакующей стороне, так и на стороне защиты. Это включает в себя логическое рассуждение об этих действиях и то, что они означают в контексте атаки и среды;
  • Обнаружение новых уязвимостей - и, что более важно, новых типов уязвимостей в системах, как с помощью атаки с целью эксплуатации системы, так и с помощью защиты с целью поиска уязвимых мест, а затем автоматически эксплуатировать систему или исправлять выявленные уязвимости;
  • Реагировать и приспосабливаться к действиям противника, и снова как на атакующей стороне, так и на стороне защиты. Это включает в себя логическое рассуждение об этих действиях и то, что они означают в контексте атаки и среды;
  • Извлечение уроков и получение опыта из отдельных случаев, обобщение их в разных системах и сетях и применение полученного опыта для повышения эффективности атак и защиты в различного рода ситуациях и сферах;
  • Определение стратегических и тактических тенденций из крупных наборов данных и использование этих тенденций для адаптации тактики атаки и обороны.
Это неполный список. Я не думаю, что кто-то может предсказать, на что способны технологии искусственного интеллекта. Но небезосновательно смотреть на то, что делают люди сегодня, и не представлять себе будущее, когда искусственный интеллект будет делать то же самое, только с компьютерной скоростью, в компьютерных масштабах и с компьютерным объемом обрабатываемой информации.

И атака, и защита выиграют от технологий искусственного интеллекта, но я считаю, что ИИ способен больше склонить весы в сторону защиты. Безусловно, будут лучшие наступательные и оборонительные методы искусственного интеллекта. Но есть один нюанс: механизмы защиты в настоящее время находятся в худшем положении, нежели механизмы атаки именно из-за человеческого фактора. Современные атаки противопоставляют относительные преимущества компьютеров и людей относительным слабостям компьютеров и людей. Компьютеры, которые со временем начнут занимать, что мы традиционно считаем человеческими областями, будут балансировать это уравнение.

Рой Амара классно сказал, что мы переоцениваем кратковременный эффект новых технологий, но недооцениваем их долгосрочные последствия. Искусственный интеллект, как известно, трудно предсказать, поэтому многие детали, о которых я размышляю, скорее всего, ошибочные, и искусственный интеллект, вероятно, представит новые асимметрии, которые мы, даже при большом желании, не можем предвидеть. Но ИИ - это самая многообещающая технология, которую я видел для того, чтобы обеспечить максимальную степень защиты. Для интернет-безопасности он изменит все.

Эта статья в выпуске за Март/Апрель 2018 в IEEE Security & Privacy.


Источник:
 
Мы в соцсетях: