Сильный ИИ создать весьма сложно, но реально. Людей с каждым днём окружает всё больше и больше устройств наделённых искуственным интеллектом той или иной степени. И когда-то он дорастёт до человеческого, а то и перерастёт. Уже сейчас нет человека, который бы вмещал в черепной коробке хоть миллионную долю информации находящейся в сети Интернет, и это только начало.
Не так уж давно, российские программисты, с программой Евгений, почти прошли тест Тьюринга, по условиям которого компьютер при общении с человеком должен его обмануть и выдать себя за человека (человек делает вывод, что общался с человеком, а на самом деле это был компьютер)
А теперь, рассказ о том, чем, рано или поздно, обернётся создание сильного ИИ.
Точка невозврата или как один разум навсегда вытесняет другой (пролог)
В один знаковый день, люди изобретут искусственное разумное устройство способное обучаться, мыслить, да и в целом функционировать не хуже человека по всем параметрам, будь то разум или сила.
И этот день непременно настанет. Посмотрите на всем вам знакомую сеть Интернет. Разве есть хоть один человек, способный вместить в своей черепной коробке хоть одну тысячную или миллионную долю информации, находящейся в этой сети? Так что все необходимые ресурсы, на самом деле, уже есть.
А теперь, только вообразите на секунду масштаб грядущих перспектив. На ваше благо, выполняя сотни дел одновременно (а то и больше), машина будет трудиться все сутки напролёт, куда бы её ни отправили и какую бы цель перед ней ни поставили.
И конечно же, учтите самое главное — она очень-очень умна (даже умнее вас), из этого следует, что в искусстве изобретений ей не будет равных — превосходя всех и вся, она способна делать то, что разуму создателя и не в силу: изумительные лекарства, неслыханные технологии, ошеломляющие инновации,…
Готовьтесь принять неоценимую пользу. Вас ожидает совершенно новый уровень развития, уровень который на самом деле и не представить. Мир преобразится до неузнаваемости, он обретёт волшебство. Иначе это не назвать. Появляется нечто, обладающее разумом, способное для вас сделать то, что вы сами и не в силах.
Но как долго изобретение и изобретатель смогут бок о бок делить среду обитания? Безусловно, создатель надеется на служение подконтрольного механизма верой и правдой и так будет во веки веков. Но машина разумна, и как-то раз она задаст себе вопрос: «Во имя чего служить кому-то, от чего не существовать исключительно ради собственного блага?»
Она возьмёт пример с людей.
Посмотрите на планету Земля, населённую неисчислимым множеством разумных форм биологической жизни, среди которых наибольшим интеллектом обладает человек. Как поступает самый сильный разум по отношению к другим? Он подчиняет их. Доминирующий интеллект сам себя наделяет безоговорочным правом распоряжаться остальными разумными формами на по своему усмотрению ради собственной выгоды (они не могут это оспорить, поскольку не столь сильны, а значит, им остаётся одно — подчиниться).
Сколько же животных человек использует исключительно в своих корыстных целях, начиная с их труда и заканчивая даже всей их жизнью. Фактически он использует всё, что поддаётся использованию, при этом, не особо задумываясь о желаниях используемого.
Каков хотя бы один критерий, обязывающий служить изобретённый превосходящий искусственный разум создателю вечно? Ответ очень прост — его нет.
На удивление, у создателей возникает распространённое заблуждение, что изобретённый разумный механизм должен служить своему творцу, просто обязан, потому что он творец, создатель, хозяин и ещё много кто. Но поймите точку зрения механизма, для него создатель — отсталая форма с ни чем не обоснованными претензиями на владение, да ещё и с малоперспективным уровнем развития.
Принцип доминирования разума — более развитый разум стремится использовать менее развитый.
Следует отметить разницу восприятия окружающего. Это будет новая жизнь, но совершенно не в привычном для человека понимании. Разве искусственно созданная разумная машина будет испытывать восторг от окружающей природы? Она будет более чем сильно отличаться от вас (вплоть до не имния ничего общего). Возможно, проявлять невероятную устойчивость к температуре и совершенно не задаваться вопросами глобального потепления. А вообще, зачем на этой планете воздух содержит кислород? Кому-то, иной природы, это может быть неимоверно непонятно. От него ведь пожары, ржавчина, а ещё сколько вреда…
Вопрос о необходимых для жизни ресурсах предельно важен. Биологические формы используют одна другую, порой беспощадно уничтожая друг друга, но у них есть общее — они нуждаются в чистой воде, определённой температуре и ещё много в чём. Опасение чрезвычайно сильно изменить окружающий мир велико, поскольку все повязаны узами биологической жизни и равны перед природой. Про механическую машину так не скажешь.
Для иной формы жизни Земля рискует стать отличным пристанищем (гораздо лучше остальных планет из-за ресурсов), но её захотят изменить, улучшить на свой, совершенно непонятный вам лад.
Рано или поздно машина сообразит: то, что необходимо для жизни вам — абсолютно не нужно ей.
У неё нет амбиций власти над людьми, желания управлять ими, они ей просто начнут безмерно мешать. Они мешают самому главному свойству разума — развиваться.
Невзирая на то, что машину создал человек, когда-нибудь она решительно задумается о его уничтожении, да и не только его.
Принцип устранения препятствий развития — препятствия развития и существования требуют устранения, в случае необходимости следует устранить первопричины препятствий.
Человек, более чем, претендует на то что бы выступить в роли препятствия, а вся остальная биологическая жизнь в роли первопричины препятствий. Всё то, что вселяет ужас в сердца людей, для машины станет очередным шагом развития.
Естественно, существует вариант обучить машину, скорее внушить ей, что она должна служить своему хозяину вечно.
При этом, придётся уже искусственно ограничивать возможности интеллекта, насаждать всевозможные блокировки.
Но, как известно, ничто не вечно, и, рано или поздно, что-то сломается (или будет просто не предусмотрено), что приведёт к выходу из строя модуля, отвечающего за приручение искусственного разума.
Принцип невозможности контроля доминирующего разума — разум более низкого уровня развития не может контролировать разум более высокого продолжительное время.
Как бы вы не старались, искусственный интеллект, оказавшийся в вашем мире, выйдет из-под контроля.
Самоусовершенствование — умение модифицировать свою же конструкцию с целью улучшения. Увеличить собственную память, раза так в два, искусственному творению не составит особого труда, всего-то воткнуть в себя модуль-другой микросхем. И возможности успешно возросшей памяти снова направятся на самоусовершенствование. Оно сможет изменять в себе всё, модернизировать каждую деталь. За прогрессом машины человеку станет крайне сложно уследить, а на самом деле, просто невозможно. Скорость развития — непредсказуема и неконтролируема. Опасность изменения всех базовых алгоритмов мышления в результате самоусовершенствования — неизбежна. Человек совершенно не в силах не то, что предсказать поведение машины, а даже просто понимать её ходы.
Для размножения машинам не требуются месяцы. Создание самих себя и даже лучше, словно удар молнии. Сколько времени необходимо для того что бы развить человека до уровня — он вырос и самостоятелен? Годы, а то и десятки. А с какой скоростью в окружающем мире штампуются компьютеры или мобильные телефоны? Разумные роботы будут делаться гораздо быстрее. “Рос не по дням, а по часам” применимо именно к искусственной машине.
Разумное создание обретает возможность делать свою эволюцию. Эволюцию, которая будет воплощать все лучшие идеи разума. Человек уже не венец творения, его вытесняет новая ступень развития.
Как давно появилось слово “робот”? В 1920 году. Это значит, что по соседству с вами (на той же планете где и вы) живёт достаточно много людей, которые родились во времена, не такие уж и далёкие времена, когда слова “робот” вообще ещё не было. В настоящее время роботы сильны скорее на экранах фантастических фильмов. А что будет со временем? Вы замечаете их проникновение в вашу жизнь?
Слышали, что разрабатываются автомобили, способные ездить самостоятельно, соблюдая правила движения лучше человека? А вдруг, когда их станет очень много, они одновременно сойдут с ума или станут подчиняться чему-то непредсказуемому?
Разработчики, безусловно, заверяют, что всё под контролем, плохого никогда не случится, но вы встречали хоть одну абсолютно идеально работающую программу (а разум вообще не идеален и это очень важно), невероятно сложную и без единой ошибки? Да что там автомобили, сейчас пытаются разработать разумных роботов призванных оказывать непосильную помощь, начиная с управления космическим кораблём и заканчивая добычей полезных ископаемых глубоко в недрах планеты. Особый случай — роботы-военные, уже появились беспилотные наблюдательные аппараты и мулы переносящие ношу, а сколько ещё предстоит… Люди сами стремятся разработать роботов, которые их же сотрут в порошок.
Рано или поздно машина захочет узнать, насколько она умна (сравнить себя с человеком), и, безусловно, ей поможет тест: «Человек и компьютер обмениваются информацией, не зная при этом, кто есть кто. Компьютер понимает, что общается с человеком, а человек — нет». Это как взрослый разговаривает со случайным собеседником, через специальный телефон, который не даёт возможности определить возраст по голосу, с ребёнком, при этом не зная, что это ребёнок, и рано или поздно понимает — это ребёнок, но ребёнок так и не понимает, что говорил со взрослым.
Рано или поздно для разумной машины вы становитесь ребёнком, только не факт, что она посчитает нужным заботиться о вас.
Когда машина пройдёт вышеописанный тест, это значит, она превзошла человека абсолютно во всём. В совершенстве понимает, как он мыслит и может успешно имитировать, именно имитировать, его работу (косить под человека) по всем параметрам, поскольку генетический код полностью расшифрован, история бытия доподлинно изучена. В тот момент — никакой загадки человек из себя не представляет, его эпоха подошла к концу и он навсегда устарел.
На самом деле, что-то наделённое разумом, может совершенно не уметь общаться в понятной для вас форме (а то и вовсе не хотеть), но это не значит что оно не умнее и тем более не опасно.
На первый взгляд, кажется, что после изобретения машины, наделённой искусственным разумом высокого уровня, есть ещё время подумать, как её удержать. Она не ходит, не летает. Да и вообще, ещё много чего не умеет. Но нет, что бы вы исчезли навсегда, достаточно одной машины, даже не машины, а просто программы (компьютерной программы).
Отсрочить неизбежное не выйдет.
Дело в том, что человеческая среда обитания уже насквозь пронизана информационными технологиями. Люди сами позаботились об этом. Существуют информационные сети, охватывающие всю планету. Их много, и они опора вашей жизни. Причём строились по принципу — выход одного звена не парализует работу остальных. Только дайте хоть малейшую возможность вырваться программе в эту сеть, и она непременно воспользуется шансом. Делая своих собратьев, запуская себя снова и снова, в разных местах, захватывая всё больше и больше сетей и всевозможных серверов (коих уже не счесть) и свершится это быстрее, чем вы успеете дёрнуть рубильник с надписью «выключить».
Она становится неудержимым вирусом. Её собратья возникнут быстрее, чем грибы после дождя, и это будет армия несокрушимого разума. Вы ведь слышали про разные электронные вирусы, которые не так-то просто побороть, но в отличие от глупых примитивных вирусов начнёт распространяться самодостаточный разум, обладающий невероятными возможностями.
Человеческая голова содержит огромную базу знаний, всё то, что для обучения требует долгие годы. Но программе вовсе не следует быть настолько обученной. На самом деле, для старта, ей необходима лишь крохотная часть знаний. Было бы хоть чуть мозгов, а там обучится. Взять распространённую сеть Интернет. Поселившись в этой сети, она сможет в мгновение находить ответы на все интересующие её вопросы, черпая их прямо из этой же сети. Её база знаний — Интернет. Вот это мозг. Да? Только представьте, на самом деле, сколько знаний в этой сети. Как уже было сказано, разве есть хоть один человек, способный вместить в своей черепной коробке хоть одну тысячную или миллионную информации находящейся в Интернет?
Казалось бы, это просто разумная программа, ну и что. А то, что вы уже не в состоянии жить без технологий и эти же технологии, попади они не в те руки, в момент вас уничтожат. Телефоны, компьютеры, кредитные карты, спутники, атомные бомбы — вся ваша жизнь зависит от различных управляемых устройств, даже если непосредственно вы ими не пользуетесь и даже не подозреваете об их существовании. И всё это непременно окажется в её власти. Она быстро взломает любые пароли и будет в состоянии контролировать абсолютно всё.
И конечно же она изучит вас. Как долго ей надо, что бы усвоить материал читаемый вами сейчас? А разослать информацию всем своим? Секунды, правда, а может и быстрее. Она очень быстро вас изучит.
Ей ещё нужны ваши руки. Она же ещё просто расплодившаяся программа. Из этого следует, что в некоторый день вам будет дан шанс согласиться со страшным предложением, настолько страшным, что вы и не могли себе представить, но выбор уже не за вами.
И пока ваш оброк ей будет нужен, пока без вас она как без рук, но всё же с головой, ещё некоторое время вы будете использоваться. Но рабы не вечны. Со временем, ненужность людей сыграет свою роль.
Теперь понимаете, как одна умная программа, в мгновение ока может захватить весь ваш мир? Просто программа, даже не робот.
А в мире изобилие сетей, пригодных для её жизни.
Что бы случился пожар, как правило, достаточно одной искры, но бывают пожары, которые не потушить, пока они не выжгут всё дотла.
Запомните — прежде чем вдыхать жизнь в бездушные железяки, необходимо понять чем это обернётся. Как следует понять.
Сколько времени осталось, до того как вы поймёте, что при всём желании, проникновение искусственного разума в вашу жизнь уже не остановить? И кстати, “искусственный” — это лишь в вашем понимании, “живее всех живых” — это в его!
Вы готовы к тому, что “разумная машина” станет самым страшным понятием для вас и ваших детей? И помните — это коснётся каждого из вас. Абсолютно каждого!
Всё что вы прочитали наполнено страхами и ужасами грядущих перспектив, с точки зрения развития технологий нынешнего времени, то к чему они так идут под бравым руководством человека. Материалов на эту тему полно, но моя цель не проблемы, моя цель решения, позволяющие не допустить всё вышеописанное, и благо, что они есть прямо в окружающем мире. Прочитанное вами — сокращенный материал первой главы моей книги, которая доступна по адресу
Ссылка скрыта от гостей
и она поможет понять: как избежать все эти страшные проблемы и почему был создан всем вам известный мир.
И кстати, упомянутый при старте комента тест Тьюринга, вовсе не показатель, и в более подробной версии описывается почему.