Искусственный интеллект — насколько реальна угроза?

XVI век, пражское гетто. Раби Бен Бецаль создает глиняного человека — голема. Одушевленный, но лишенный возможности говорить, голем выполнял приказы создателя и делал всякую полезную работу. Но в один из дней он выходит из повиновения и начинает творить зло…

Подобных легенд человеческая культура наплодила достаточно. От монстра Франкенштейна до компьютерной сети «Скайнет» из киносериала «Терминатор». Искусственный интеллект проходит эволюцию от полезного помощника до смертельного врага человека. Причем говорят об этом не только голливудские режиссеры и авторы фантастических книг. Стивен Возняк, Билл Гейтс, профессор Хокинг. Правы ли признанные лидеры мнений в своих утверждениях, либо они также находятся под властью мифов, ведущих свои корни из легенды о пражском големе?

Попробуем подойти с рациональной стороны. Искин — это программа, которая обрабатывает и выдает информацию. При этом, чтобы стать действием, информация должна иметь выход на контур управления. Например, если это автопилот самолета, то он получает информацию с датчиков и передает управляющие сигналы на силовые установки и оперение. Конечно, автопилот это не искин, но это автономная система принятия решений. При этом у пилотов всегда есть возможность переключиться на ручное управление.

Теперь представим, что вместо автопилота в самолете установлен искин. Как вы думаете, какой специалист по безопасности полетов спроектирует эту связку без возможности ручного отключения искина от управления самолетом? Правильно — никакой. Более того, там будет предусмотрено несколько дублирующих систем, отключающих искин. А если мы вспомним три закона роботехники, прописанные Айзеком Азимовым еще в сороковых, то поймем, что этим вопросом грамотные технари задавались давно. Разработать и внедрить возможность прерывания между искином и системой, которой он управляет, не такая уж сложная в техническом плане задача.

Конечно, полной гарантии безопасности нет. При этом главная проблема будет не в самом искине и системе, которой он управляет, но в человеческом факторе. Скажем, какой-нибудь безумный профессор может обойти прерывающие подсистемы и сделать так, что искин превратиться в пражского голема. Но ведь технологические гуру глаголят об опасности самообучающегося искина как такового. Почему же господа лидеры мнений настойчиво предупреждают нас об опасности, а в Голливуде снимают очередную серию «Терминатора»?

Думаю, что ответ стоит искать в самом феномене искусственного интеллекта. С психологической точки зрения искин это «чужой». Да, мы его создатели и первоначально он наш верный помощник. При этом способность к саморазвитию является тем что может привести искина в состояние, значительно отличающееся от исходного и сделать его «чужим». Если отклониться от темы, то оппозиция «свой-чужой» является основополагающей в таких сферах как культура, социология, политика. И чем непонятнее «чужой», тем больше беспокойства и страза.

Второе, что вызывает беспокойство — сама концепция искусственного интеллекта является ущербной. Да, именно так. Зачем создавать искусственный интеллект, если есть свой собственный, данный матушкой-природой? Зачем направлять усилия на его создание, когда собственные возможности мы еще до конца не изучили. Как не понимая до конца самих себя можно воспроизвести разум?

Последнее. Страх перед искинами это страхом перед самим собой. Наши творения — это продолжение нас, а вся история человечества показывает, что мы являемся видом, склонным к самоуничтожению, бесконтрольной агрессии, чрезмерной жестокости. По сути, мы приписываем искусственному интеллекту собственные недостатки, мешающие нам построить счастливую жизнь. Мы разрабатываем технологии, которые, выходя из-под нашего контроля, приводят к катастрофам.

С другой стороны эта способность к саморазвитию и выходу за прогнозируемые нами рамки имеет громадный потенциал для нашего самопознания. Наблюдая за тем, как развивается искины, мы будем иметь возможность посмотреть на себя со стороны и лучше себя познать. Эту тему я описал в романе «Хаос-генератор», в котором человеку удается создать действительно автономный искусственный интеллект.

Подведем итог. Страхи перед искинами носят иррациональный характер, который не могут перебороть даже признанные лидеры мнений. При этом, если мы опустимся до уровня технической реализации, то увидим, что есть масса возможностей нейтрализовать эти угрозы. Вы боитесь того, что искины уничтожат человечество? Кто вам мешает прикрутить к затылку такого голема рубильник, до которого мы всегда можем дотянуться и отключить его? Никто, только мы сами.

Comments

comments

10 Comments

Add a Comment

Ваш e-mail не будет опубликован. Обязательные поля помечены *