Возвращение Терминатора?

В последнее время околонаучная пресса стала много писать о проблеме искусственного интеллекта (ИИ). О том, что человечеству грозит «бунт машин», что люди не выдержат конкуренции с роботами и что если сейчас не остановиться, то всех нас скоро не будет. В частности, об опасности много говорит известный ученый Стивен Хокинг.

Есть и другая точка зрения: роботы освободят людей от рутинного неквалифицированного труда, а ИИ будет выносить абсолютно справедливые приговоры в суде (взятки ему не нужны, а законы он знает лучше любого человека) и формировать новостную ленту в точном соответствии с запросами потребителя. Ну и т.д., прочие блага всякие.

А что на самом деле?

Мне кажется, сначала надо разобраться, что же такое этот самый «ИИ». А что такое интеллект естественный? У кого он есть?

Попробуем порассуждать. По некоторым теориям (и лично я в принципе с этим согласен) в составе человека есть несколько составляющих: ум, интеллект и Сознание (есть и другие, но они к данной теме не относятся). Что значат эти термины?

Ум — это система восприятия окружающего (и внутреннего) мира. Иначе говоря, это нечто вроде «контроллера внешних устройств». Мы видим не глазами, а умом с помощью глаз. Мы слышим не ушами, а умом с помощью ушей. Ну и т.д. Мы чувствуем боль в животе, мы чувствуем тошноту в самолете, мы ощущаем прикосновения любимой девушки — это все работа ума. Мы направляем наше внимание на лектора или наоборот, уводим это внимание на завтрашнюю вечеринку. И лектор пусть себе болтает, наши уши слышат, но ум не воспринимает ничего.

Интеллект — это процессор. Это система обработки поступающей информации с выдачей соответствующего результата. Интеллект работает на основе логики, личного опыта и набора знаний, т.е. широко использует память. Опыт может быть ограниченным, знания ошибочными, а логика двоякой. Если бы было не так, люди никогда бы не ошибались, потому что даже у дураков интеллект все равно есть. Но увы! Рассчитывать на этот интеллект можно далеко не всегда.

Сознание — это то, что дает задачу уму и интеллекту, это то, что принимает результат обработки данных и решения задачи. Если продолжать компьютерную аналогию, то Сознание — это пользователь компьютера. Чувствуете разницу масштабов?

Именно наличие всех трех компонентов и делает человека разумным. Кстати, разум есть не только у человека, многие животные тоже разумны. У них есть и ум, и интеллект, хотя сознание, видимо, есть не у всех (впрочем, это тема отдельного разговора).

Так вот, никто не говорит о создании «искусственного сознания». Сам по себе ИИ — это действительно всего лишь суперпрограмма, которая способна быстро выполнять огромный объем математических и логических расчетов. Да, она способна к самообучению. Но все алгоритмы, хочешь не хочешь, в нее загрузил человек. И только от человека зависит, какую программу получат беспилотные автомобили и электрические судьи (прокуроры и адвокаты в этом случае просто не нужны).

Как известно, существуют три закона робототехники Азимова. Если эти законы «вшиты в ПЗУ», то ни один ИИ не сможет их обойти. И опасаться нечего. Проблема не в искусственном, а в естественном интеллекте. Потому что всегда найдутся желающие создать роботов-убийц (как минимум для военных действий), которые будут лишены законов Азимова. И вот что придет в их электронную голову — большой вопрос. Почему?

А потому, что человек несовершенен. И в тех программах, которые будут встроены в машины с ИИ, наверняка будут ошибки. Либо будут предписаны неверные действия в какой-то ситуации, либо эти действия не будут прописаны вообще, что приведет к непредсказуемому результату (вариант, описанный в фильме «Отроки во Вселенной», весьма маловероятен).

Но я могу согласиться с тем, что появление ИИ в широком доступе приведет человечество к двум большим проблемам: безработицы и деградации. Далеко не все люди способны на свободное творчество, многим надо ходить в службу, чтобы не умереть от скуки или не спиться в кабаке. А деградацию мы наблюдаем уже сейчас: у многих детей полное отсутствие знаний под предлогом того, что «можно ведь погуглить, зачем запоминать?». Не нужна грамматика, не нужно вообще умение писать, не нужно уметь считать. Да и читать не нужно уметь, потому что можно посмотреть «обучающее видео» вместо чтения инструкции. Разве не так?

Так что готовы ли люди к массовому внедрению ИИ — это действительно большой вопрос. Но я думаю, что опасность лежит совсем не в той плоскости, которую так любит описывать научная фантастика и о которой твердят многие современные эксперты…

8 Ссылок на “Возвращение Терминатора?

  1. Очень спорная статья, просто фантазии на тему. Я посмотрел, что пишут в Википедии на слова ум, интеллект, сознание. Совсем все другое, и ближе к бытовому пониманию. Например, ум и интеллект просто синонимы, имеют один и тот же смысл. Ум вовсе не контроллеры, во всяком случае в русском языке. Умный — это тот, кто находит правильное решение задачи в любой ситуации. Тут анализ присутствует. Интеллект — это скорее уровень ума и образованности, то есть памяти. Сознание — вообще понятие психическое, типа включил, выключил. Человек иногда теряет сознание, а иногда снова в него приходит. Что касается ИИ, то тут не все так однозначно. Ясно, что программа, но уже сегодня очень многие программы дают решения, которые невозможно предсказать. Вполне возможно, что и мозг работает по программе, только компьютер другой системы. А вот отмирание функций действительно происходит, но это всегда было. Мы уже давно не умеет драться на шпагах, писать гусиным пером, ездить на лошади и много чего еще. Ну и что. Очень может быть, что разучимся печатать, любая запись будет с голоса, читать, все будет в аудио формате. Ну и что? Это мелочи. А то, что 90 процентов людей имеют низкий интеллект, так эта проблема решаема. Им создают виртуальную реальность, сети и прочие развлечения, чтобы убить время. Ведь что такое жизнь — это ожидание смерти. Как говорил Гитлер — это очередь за смертью, но некоторые лезут без очереди.

    1. Я уже много раз говорил, что Википедия для меня никак не является авторитетным источником. Любой невежда может написать там все что угодно. И даже если дипломированные ученые в какой-то сфере признают это правильным — это тоже не гарантия истинности, потому что знание со временем пересматривается и развивается, прецедентов в науке хватает.
      Да и Гитлер, по большому счету, не самый известный философ и не самый мудрый мыслитель в истории…
      Так что я придерживаюсь тех определений, которые даны в этом посте. Не я их придумал, но я с ними согласен.
      Насчет отмирания функций — да, утрата некоторых навыков неизбежна и не приводит к деградации (хотя физическая деградация человека тоже присутствует). Но чем кончается замена человека роботами и переход людей к праздной и бесполезной жизни, читайте у того же Уэллса. Да и другие авторы описывают сходные сценарии. Конечно, это не ясновидение, а художественная литература, но и в природе наблюдаются ситуации, когда слишком комфортные условия обитания приводят к деградации биологического вида.

      1. Дело не в Википедии, она как раз отражает бытовые определения. А ваши определения, если они не ваши, то хотелось бы ссылку. Ум никак не может быть контроллером, глаза есть даже у черепах и рыб. Но они точно не умные. Гитлер просто дал интересный афоризм, который я нашел в книге у себя на смартфоне, она дается в интернете в виде программы. Праздной и бесполезной жизнью живут только умственно отсталые или больные люди. Нормальный человек всегда найдет чем заняться, тем более умный. Нет проблемы.

        1. Что значит, «рыбы и черепахи не умные»? У них нет интеллекта или он слабо развит? Возможно. Совсем нет — это вряд ли, но слабый — конечно. Интеллект! Но не ум. А что касается бытового понятия «умный», фактически означающий «имеющий развитый интеллект», то это просто издержки неверной терминологии, в быту очень частое явление. Да и слово «умный» лучше звучит, чем «интеллектуальный», которое имеет несколько другой акцент (не «имеющий интеллект», а «требующий интеллекта»). Но это все — лингвистика, к сути вопроса отношения не имеющая.

  2. По данному вопросу могу порекомендовать очень интересного автора, остаивающего консервативную точку зрения — профессора Владимира Александровича Кутырева. Он говорит даже не столько о деградации и безработице, он говорит о появлении постчеловека. В общем очень рекомендую.

  3. Ум, интеллект и Сознание. Т.е. ум — интеллектуальная сенсорика, говоря современным техническим языком; интеллект — счетно-решающее устройство; сознание — наблюдатель системы на базе модели с набором базисных параметров (говоря языком теории автоматического управления). В представленном нет ничего, что принципиально не могло бы быть построено человеком с точки зрения современной науки естествознания. Это сделают обязательно. И в первую очередь это разумеется будут боевые машины. Так что судный день ещё состоится.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *