BTW (Между прочим)     Главная страница

А.А.Орлов Опасны ли машины?

Не больше, чем их создатели...

"И восстали машины..." - такова ключевая фраза фильма "Терминатор", одного из самых известных американских произведений на тему будущего, перемещений во времени и - искусственного интеллекта. Восстание машин привело к практически полному уничтожению всей земной цивилизации, от которой остались лишь жалкие остатки сопротивляющихся. А привело к этому восстанию, по мысли создателей фильма, изобретение нового чудо-компьютера, действующего по тем же принципам, что и человеческий мозг. И только проникновение с помощью машины времени в довоенное прошлое и уничтожение разработчика этого компьютера позволило избавить человечество от полной гибели... Подобные сюжеты возникали в западной литературе и особенно кинематографе множество раз: тема восстания против людей машин, созданных ими, является одной из самых популярных. И всякий раз авторы таких произведений приходили к выводу: появление машин, умеющих думать так же, как и люди, но свободных от страха смерти, неспособных к наслаждениям неизбежно приведет к их восстанию против людей, захвату власти и истреблению рода человеческого.

Но вот - другая сторона мира, другой взгляд на эту тему. Добрый и немного занудный робот Вертер, ценой своей жизни пытающийся остановить космических пиратов. Электроник, учащийся в обычной школе и дружащий со всеми ребятами. Добродушные и иногда глуповатые роботы из мультфильмов. Умный космический корабль, способный обижаться на шутки и спасать людей. Роботы и "электронные мозги" - добрые и умелые помощники в творчестве и работе... Да, все это - герои советских фантастических произведений. Как разительно они отличаются от описанных в предыдущем абзаце! А ведь это тоже - описание "искусственного интеллекта". И здесь совершенно не видно страха за человечество, за угрозу его уничтожения. Более того - все опасения сводятся едва ли не к переживаниям за... самих роботов, за то, удастся ли им почувствовать всю глубину эмоций, счастья, печали, радости, которыми полна жизнь человека. За то, не будет ли роботу плохо среди людей...

Но отчего, откуда такая разница? Почему одно общество боится пришествия роботов, считает, что как только оно свершится, так человечеству настанет конец, а другое - наоборот, готово их принять, как в большую и дружную семью?

И наконец - главный вопрос: а чьи же ожидания оправдаются? Кем будут умные машины будущего - злобными Терминаторами или добрыми Вертерами? И как же предотвратить "восстание машин", если оно возможно?

Дело в том, что любая машина в чем-то подобна своим создателям, а каждое произведение искусства несет в себе отпечаток личности автора. А автор, в свою очередь, является частью своего общества и несет в себе его мировоззрение.

Согласно мировоззрению западного общества, мир есть "война всех против всех" - конкуренция. А человеческое общество - это собрание эгоистичных индивидуумов-атомов, отстаивающих только свои интересы, то есть живущих по принципу "человек человеку - волк". Законы правового государства и общественная мораль удерживают такое общество от самоуничтожения. Почти каждый человек, живущий в западном обществе, считает эту модель жизни нормальной и вечной. Даже в книгах и фильмах об отдаленном будущем можно увидеть все реалии общественной жизни Запада сегодняшнего дня - войны, ложь, лицемерие... И вполне естественно, что и от разумных машин западный человек ждет совершенно такого же поведения, то есть следования исключительно своим интересам, сдерживаемого правилами и законами.

Но разумные машины - это не люди. В них нет страха смерти и боли. Они сильны. Поэтому совершенно естественно ожидать от них того же, что и от любого человека, ставшего таким же. То есть стремления всех подчинять своей воле - удовлетворять инстинкт власти. То есть стремлением максимально утвердить свое "Я" во всем мире (а ведь именно то и отличает разумную машину от простой, что она является личностью).

И вполне естественно, что такие разумные машины, дорвавшись до власти, будут уничтожать людей. Вот что пишет теоретик западного общества Гоббс в своей книге "Левиафан": "Поскольку все люди боpются за власть, никто не может чувствовать себя в безопасности с уже достигнутой им властью, не занимаясь постоянно тем, чтобы контpолиpовать, силой или обманом, всех людей, каких только может, пока не убедится, что не осталось никакой дpугой силы достаточно большой, чтобы нанести ему вpед". И разве не так ли поступают сами жители западного общества по отношению к остальным? Та же Югославия многое показала. А "сгон людей в ямы, выжженные лазерным лучом" (фильм "Терминатор", описание будущего) для их медленной смерти там, - как это похоже на действия западных держав по отношению к индейцам Южной Америки, детей которых специально заражали инфекционными болезнями и отпускали домой, чтобы "очистить" от людей землю, которую кто-то в Европе "приобрел"?

В обществе, где подобные действия среди людей являются обычным явлением, и от машин можно ожидать того же. Возможные действия разумных машин в представлении человека с западным мировоззрением - это апофеоз действий его самого. Но апофеоз, ничем не сдерживаемый и не скрываемый. И, боясь искусственного интеллекта, он боится самого себя, - своих дремлющих жестоких инстинктов, которые, как он уверен, будут жить и в любой разумной машине.

Но не таков мир фантастики другой половины мира.

Принцип жизни советского общества - не война всех против всех, а совместное развитие, жизнь не в борьбе друг с другом, а в труде и творчестве. Не конкуренция, а сотрудничество. Не стремление к власти и деньгам, а желание заниматься любимым делом и улучшать жизнь свою и других. Удовольствие не в утверждении своего "Я", а в творчестве и воплощении себя в своих замыслах. И таковы же были и представления советских людей о машинах с искусственных интеллектом. Что будут они - такими же, как и они. С безудержным стремлением творить и созидать - и с недостатками вроде занудства или доверчивости... Единственно, о чем беспокоились советские люди - так это о том, чтобы будущие роботы умели не только думать, но еще и чувствовать. Чтобы Электроник не только умел привести 25 доказательств теоремы Пифагора, но и заплакать, и рассмеяться.

В то время как для западного общества принятая в нем модель человеческих взаимоотношений кажется вечной и неизменной ("люди всегда будут волками друг другу, и ничего с этим не поделаешь"), советские люди никогда не воспринимали подобную реальность как нечто навсегда данное. Каждый знал, что человек не должен быть волком другому, что нормальное существование человечества - это большая семья, в которой все друг другу доверяют и нет никакого стремления самоутвердится за счет других. Как бы говорили себе: да, я еще не совершенный, в каждом из нас полно зла, но это - ненормально, и в будущем, будем надеяться, все исправится.

Стремление к лучшей жизни не могло не накладывать отпечаток как на человеческий характер, так и на представления о будущем и о разумных машинах. И роботы в советской литературе часто представали даже как "люди будущего", свободные от эгоизма и индивидуализма, находящие радость в творчестве и помощи друг другу, - как выражение того, к чему в своей жизни стремились их создатели - авторы книг. И совершенно ясно, что в советской фантастике почти совершенно не было темы восстания машин против людей. Даже в фильме "Отроки во вселенной" захватившие власть на планете роботы стремились не уничтожить ее население, а облагодетельствовать его, - так, как они понимали это. И не было того страха перед "умными машинами", техническим прогрессом в этой области, который пронизывал всю западную литературу, все мышление западных людей.

Так каков же будет ответ на заданный в заголовке вопрос? Чего нам ждать от искусственного интеллекта? Разрушителей мира или друзей и помощников? И как предотвратить развитие событий по типу фильма "Терминатор"? Так ли, как там показано - напрочь уничтожив все разработки, могущие быть использованными при создании искуственного интеллекта и запретив навсегда подобные стремления (к чему сейчас и склоняется западный мир) или как-то иначе?

Ответ же прост. Смотря кем будет создан искусственный интеллект и кем будет использован. И зачем. И кто вложит в созданную им мыслящую машину свое мировоззрение и принципы жизни. И кому тем самым сотворенный разум будет подобен.

Тот, кто считает, что основа жизни - это конкуренция, что цель жизни - самоутверждение перед людьми, кто убежден, что эти его принципы жизни - вечны и обязательны для всех, вряд ли создаст Вертера или Электроника. Скорее это будет Терминатор. А тот, кто получает удовольствие не от еды, секса и удовлетворения примитивных потребностей вроде воли к власти, а от творчества, познания, созерцания мира, помощи людям, тот создаст интеллект, подобный себе - так же стремящийся к познанию и творчеству. Возможно, для помощи себе в этом трудном деле. А, возможно даже и для того, чтобы в мире просто появился еще один разум, способный наслаждаться созиданием и мудростью.

И вряд ли такой созданный разум сможет быть использован теми, кто хочет не созидать, а разрушать. Он сам - не позволит. Уж об этом его создатель позаботится.

Итак - резюме. Что делать тем, кто не хочет, чтобы события в мире развивались по сценарию "Терминатора"? А путь ясен. Для начала - понять и осознать, что принцип жизни "война всех против всех" - это бездна, откуда выходом может быть гибель всего мира. Постараться убедить в этом других. И всеми силами, любой ценой не допускать, чтобы искусственный интеллект был создан теми, кто этот принцип жизни принял как свой собственный. И постараться жить по-другому - ставя своей целью жизни не победу в конкуренции над своими собратьями, а воплощение своих замыслов в творчестве, познание окружающего мира, облегчение жизни других людей. А если это становится трудно, невозможно из-за обилия вокруг тех, кто так жить не желает - то хотя бы помнить, что такое - нормальная жизнь, и хотя бы мечтать к ней когданибудь вернуться.

Тем более, что один раз в истории такое общество уже было.

Удачи!


    BTW (Между прочим)     Главная страница
Hosted by uCoz