Без рубрики // Рецензия

Самая большая опасность для человечества – искусственный интеллект

Вот уж что я точно рекомендую посмотреть в эти дни родителям вместе с детьми любого возраста, так это фильм «2001 год: Космическая Одиссея» Стэнли Кубрика, снятый им в далеком 1968 году.

Самая большая опасность для человечества – искусственный интеллект
Фото: b1.filmpro.ru

Сценарий писали совместно Кубрик и великий фантаст Артур Кларк. Фильму «2001 год: Космическая Одиссея» исполняется 50 лет, и к этой дате его отреставрировал режиссер Кристофер Нолан. Премьерный показ этой версии открыл 71-й Каннский кинофестиваль. А теперь ее можно увидеть в московских кинотеатрах.

На заре человечества

Об этом невероятном фильме написано много. Но я хочу остановиться на одной теме. По-моему, она сегодня (как это высокопарно ни звучит) едва ли не главная для судеб человечества.

Речь идет об искусственном интеллекте, о роботах, которые в обозримом будущем могут взять верх над человеком и человечеством. Об этом, по сути – фильм Кубрика.

Начинается картина с долгого-долгого молчания: мы видим черноту, бесконечность, космос – без цвета, воздуха, жизни (приходит на ум «Черный квадрат» Малевича). Сначала – «звучит» тишина, а потом непонятная, атональная музыка-шумы, которую сменяет заставка из программы «Что? Где? Когда?» (точнее, из симфонической поэмы «Так говорил Заратустра», написанной Рихардом Штраусом в 1896 году).

Первые слова появляются на 26-й минуте фильма. Диалогов здесь очень мало. Зато много музыки. Вальс Иоганна Штрауса «На прекрасном голубом Дунае» сопровождает демонстрацию космических достижений. Потом появляется надпись: «На заре человечества». И на фоне безжизненных (потому что – без «человека разумного») пейзажей мы видим бессмысленных австралопитеков, обгладывающих кости.

Потом они засыпают. А просыпаются от того, что перед ними вырастает высокий параллелепипед из непонятной стали (монолит). В общем, после появления монолита обезьяноподобные австралопитеки вдруг научаются пользоваться предметами (костями животных) в качестве инструментов и оружия. И начинают убивать.

Ну а потом, слава Богу, мы переносимся в будущее. И оказываемся на космическом корабле. Мы узнаем, что в конце ХХ века на Луне был обнаружен такой же, как в древности, «монолит», погребенный под толщей лунного грунта. Когда его попытались извлечь на поверхность, в лучах Солнца он неожиданно послал мощный сигнал во внешний космос.

Оказалось, что сигнал был послан такому же, но гораздо большему «монолиту» на Юпитере. Чтобы исследовать это явление, было решено использовать экспедицию «Дискавери» на Юпитер.

Полет был доверен трем членам экипажа – двум пилотам НАСА и новейшему компьютеру с искусственным интеллектом HAL 9000 (другие члены команды отправились в полет в состоянии анабиоза). Проблема заключалась в том, что только HAL знал об истинных целях экспедиции.

Помимо логических построений и имитации человеческих эмоций, в алгоритмы работы HAL 9000 были привнесены жесткие инструкции об истинной цели полета со стороны военных, что и предопределило трагический исход экспедиции.

HAL 9000 взял командование операцией на себя, считая, что только он способен выполнить поставленную задачу. Сначала он солгал членам экипажа о неисправности блока антенны связи с Землей.

А затем, в ответ на разговор пилотов о недоверии искусственному интеллекту (то есть ему), он убил одного из членов экипажа в открытом космосе, имитировав несчастный случай, и после отключил системы жизнеобеспечения находящихся в анабиозе ученых.

Чудом выживший Дейв Боумен смог деактивировать HAL 9000 и достичь Юпитера. Там ему была объяснена истинная цель экспедиции – третий «монолит», но когда Боумен попытался обследовать его, то был унесен «за бесконечность» (так называется последняя глава фильма, по книге – за двадцать тысяч световых лет от Земли).

Боумен оказался в странной комнате, где он быстро постарел. А на его смертном одре четвертый «монолит» превратил Боумена в «Звездное дитя». В финале картины зритель видит Боумена взирающим на Землю из космоса в новом обличье – младенца во чреве матери.

Кто важнее – человек или компьютер

В общем, получается, что Кубрик наделил главный компьютер миссии «Юпитер» интеллектом на уровне человека и способностью различать человеческие эмоции.

Обман, разговоры по душам, рефлексия – все это свойственно этому суперкомпьютеру.

Режиссер согласился с мнением специалистов, что сложные компьютеры с возможностью самообучения на основе накопленного опыта рано или поздно разовьют такие эмоции, как страх, ненависть, любовь и зависть. В конечном итоге эти машины станут подвержены обычным человеческим расстройствам психики, как HAL в этом фильме.

«Я, робот»

Эта тема получила развитие, когда в 2004 году вышел фильм «Я, робот» Алекса Пройаса (автора «Ворона» и «Темного города»). Совершенно недооцененный, созданный по мотивам прозы Айзека Азимова. В нем полицейский, которого играет Уилл Смит, расследует в Чикаго 2035 года убийство ученого, возможно, как раз и совершенное роботом.

В общем, там подавляется восстание роботов. Железных человечков (которым люди больше не доверяют) под армейскими дулами отправляют на склады-свалки... И тут-то происходит казус, который рецензенты не желают замечать. На песчаной возвышенности над складами появляется тот самый робот (его зовут Санни), подозревавшийся в убийстве ученого, но оказавшийся в результате вроде бы положительным – именно он помог людям победить.

В отличие от бездушных управляемых собратьев он был сделан своим «папой» – ученым (который и погиб в начале фильма) таким, что способен испытывать эмоции, видеть сны, иметь тайны, лукавить. Это, в общем-то, человек, но не просто, а с приставкой «сверх».

Так вот: роботы усмирены, запрограммированы на покорность, поэтому бредут на свалку безропотно. И вдруг видят собрата, который стоит в отдалении свободным. И тогда в их железных, еще секунду назад подконтрольных мозгах начинают зарождаться какие-то первые несанкционированные мысли. Робот-сверхчеловек Санни, очевидно, может стать для них мессией.

Как показал сериал «Секретные материалы», который называли энциклопедией современных фобий, у человечества масса страхов перед неизведанным.

Но становится ясно, что главный из них – не перед паранормальными явлениями или, скажем «чужими», то есть инопланетными монстрами, а перед развитием искусственного разума.

Пожалуй, это самая модная на сегодня из «теорий заговора». Кинематограф готовит к ней аудиторию долго и целенаправленно: от «2001: Космической одиссеи» до «Терминаторов» и «Матриц».

Опасности и риски искусственного интеллекта

Первая опасность: суперинтеллект не то чтобы сочтет себя более совершенным представителем цивилизации (как в «Космической одиссее» Кубрика), но поведет атаку на людей, руководствуясь заложенной в него программой – защищать их. Про способность человечества к саморазрушению (войны, экология и прочее) мы ведь и сами знаем.

Вот сверхмозг и решит, что человечество надо спасать от него самого, и единственная возможность спасти – взять его под тотальный контроль, загнать в ячейки.

Так действует в «Я, роботе» супермозг с женским именем Вики, способный управлять всеми отдельными роботами.

Вторая опасность: искусственный интеллект станет частью социума. Одной из рас, одним из (пока) меньшинств. Потребует равного (пока) партнерства (а дальше – кто его знает). Последние секунды «Я, робота», на которые не обращают внимания, объясняют, как он этого добьется.

Тот самый робот-человек Санни, который и после просмотра кажется многим бескорыстным защитником людей, на самом деле хитрющий и коварный идеолог. Он действительно помог людям одолеть супермозг Вики, но лишь потому, что в тоталитарной среде, которую задумала Вики, роботы оставались бы ее управляемыми рабами.

Теперь же, демонстрируя роботам в финале фильма, что их собрат может быть свободен, и побуждая их машинный интеллект к самостоятельному мышлению, Санни фактически превращает их в людей.

Проблемы, высосанные из пальца? Стенли Кубрик, долго желавший снять фильм «Искуственный интеллект» (сделанный в итоге Спилбергом), так, однако, не считал. В «Искусственном интеллекте» – следующий этап: роботы уже обитают в обществе в качестве меньшинства, но не на соответствующих правах (их права попирают).

Спилберг, как политически корректный человек, естественно, им сочувствует. Характерно, что при всей симпатии к правам роботов Спилберг показывает в финале фильма будущее, где человечества не осталось. На смену человечеству все же пришла машинная цивилизация.

...Завершая этот разговор, вспомним о том, что незадолго до смерти великий астрофизик Стивен Хокинг (вспомните «оскаровский» фильм о нем 2014 года Джеймса Марша «Вселенная Стивена Хокинга») назвал семь основных угроз, которые могут привести к уничтожению человечества.

Так вот, среди основных угроз был назван искусственный интеллект, который может обрести способность к самопроизводству и в конечном счете начнет вырабатывать свою идеологию. И тогда нам всем мало не покажется.



Новости





























































Поделиться