Атака нейронок

Весь мир сходит с ума по ChatGPT, да и не только по ней: в технических тг-каналах публикуются списки из десятков нейросетей, на все случаи жизни. Они за вас и статью напишут, и программу, и картину нарисуют, и будущее предскажут…

Что интересно, я ни разу ни одной из этих новых «игрушек» не пользовался даже из любопытства. Возможно, вас это удивит, учитывая профиль моей деятельности и мою природную любознательность, особенно научную. Так вот, есть причины. Да и вообще, пришла пора обсудить этот вопрос подробно…

Появление искусственного интеллекта было предсказано многими фантастами еще в середине прошлого века, если не раньше. Человеческий ум субъективен и несовершенен, к тому же ограничен ресурсами. Умная машина призвана убрать фактор эмоционального восприятия, убрать фактор усталости, да и объемы памяти, быстродействие и прочие параметры электронного интеллекта зачастую уже сейчас опережают человеческий. А все только начинается…

С этой точки зрения ИИ имеет много преимуществ, так что замена человека в некоторых сугубо интеллектуальных сферах кажется весьма разумной. Однако, что такое «искусственный интеллект» и что такое все эти «нейросети»? И так ли уж они современны?

Программы для различных экспертных систем создавались еще во второй половине 20 века. Был даже специальный язык программирования для этого — «Пролог». Да и на фортране при желании можно было сделать что угодно. Помните фильм «Самая обаятельная и привлекательная»? Именно ЭВМ подбирала и оценивала совместимость партнеров для брака. Насколько успешно — вопрос другой. 🙂 Кстати, заодно напомню про важнейший труд моей жизни — программу определения совместимости людей, основанную на моей теории отношений. Никак я ее в онлайн-версию не переведу, все некогда…

Однако, принципиальное отличие всех этих экспертных систем от ИИ в том, что ИИ обучается, а мой тест на совместимость имеет просто жесткий алгоритм на основе теории. Честно говоря, я не знаю, что лучше: ведь теория объясняет механизм явления, а «самообучение» основано фактически на статистике, что вряд ли можно считать истинно научным подходом… Впрочем, и старые экспертные системы можно было обучать. Но в этом ли суть интеллекта?

Для начала скажу, что построить ИИ можно на разных принципах: как с применением «нейросетей», так и без них. В кавычках потому, что это не сети нейронов, а только модели их работы. И насколько модели близки к оригиналу — большой вопрос, ибо деятельность мозга пока изучена в мизерной степени…

Так вот, как создать ИИ? По сути это программа с огромным числом условных переходов и огромным числом формул с кучей весовых коэффициентов. Сначала они задаются произвольно, в программу подаются исходные данные, «учитель» оценивает результат и сообщает системе, в чем она ошиблась. Система (опять же по заданному алгоритму!) меняет коэффициенты и выдает новые результаты (по сути, любая система с обратной связью по такой логике может считаться интеллектом, но так ли это?).

Например, чем больше рентгеновских снимков она «увидит» и чем точнее будут комментарии «учителей», тем точнее в конце концов она будет ставить диагноз. Аналогично и в сфере, например, машинного перевода: ведь в языках есть куча тонкостей и перевод «формально по словарю» далеко не всегда оптимален. Обучение позволяет значительно улучшить качество.

Так ли работает человеческий интеллект, к сожалению, мы не знаем. Потому что нейросети-то в мозге есть, но сложность каждого нейрона превышает сложность любого нашего компьютера на порядки. А нейронов в мозге — миллиарды. Вы спросите, почему же человек так слаб по сравнению даже с уже имеющимся ИИ, который выигрывает человека в те же шахматы? Ответ, я думаю, прост: нейроны работают на химических процессах, а компьютер — на физических. Химия же намного медленнее… Так что в скорости человек проиграет. Но вот в качестве принятия решений… Впрочем, тут уже придется уходить в философию.

Итак, главный вопрос: могут ли нейросети заменить человека в работе, что приведет к тотальной безработице, нищете и прочим экономическим проблемам? А еще есть второй главный вопрос: не смогут ли нейросети уничтожить человечество?

Что касается второго вопроса, то я рекомендую прочитать мой рассказ «Работа роботов». Даже если вы не большой любитель жанра научной фантастики, все равно советую этот рассказ прочитать! Лучше чем там, по-моему, на этот вопрос ответить невозможно…

А вот насчет первого вопроса — не все однозначно… Помните, как боялось человечество станков на фабриках? И что? Даже сейчас, в 21 веке, остались и профессии грузчика, и слесаря, и сантехника… То есть, кто умеет работать руками, все равно без работы не останется! Ибо никакие роботы-пылесосы не заменят человека со шваброй… Да и скрипку хорошую на станке вряд ли сделаешь…

Но что будет с профессиями журналиста, финансового аналитика, юриста? Даже врача? Журналистика по факту уже умерла, потому что нет способа отличить фейк от правды, репортажи зачастую постановочные, да и альтернатив обычным СМИ полно. Так что да — ИИ вполне справится с такой работой. Финансовые новости собирать и делать прогнозы — тоже ИИ может уже сейчас, и по указанной выше причине гораздо эффективнее человека.

Принимать судебные решения? Это интересно. Ведь вся судебная система построена на том, кто убедительнее: прокурор или адвокат? Однозначные факты бывают крайне редко, и тут все зависит от толкования, логики и даже эмоций. Если считать, что и прокурор, и адвокат лишены эмоций и имеют идеальную логику (плюс не берут взяток), то кажется, что искусственный суд будет намного лучше человеческого. Сомневаюсь.

Не надо забывать, что все алгоритмы пишут люди. И как бы не обучалась система на «прецедентах», все равно алгоритмы заложены людьми, со всеми их вышеуказанными недостатками. Зато решение такого суда со стороны будет выглядеть полностью объективным! А если же люди все равно будут его утверждать, проверять и т.д., то в чем смысл такого ИИ?

Аналогично и медицина. Да, ИИ не пропустит под микроскопом больную клетку, ибо в отличие от врача не устает и не думает о посторонних предметах. Но поставить верный диагноз в медицине — проблема вовсе не только логики и знаний. Организм человека настолько сложен и даже сейчас до конца не изучен, что никакой однозначный алгоритм тут составить невозможно. Для врача интуиция — важнейший элемент работы! Что же такое интуиция? Тут мы опять уйдем в философию, потому что интуиция — это не «подсознательный опыт», точнее, вовсе не только он. Но давайте не будем вдаваться в подробности, это тема отдельной статьи…

Так вот, ни медицина, ни юриспруденция, на мой взгляд, не могут перейти во власть ИИ в его сегодняшнем (и завтрашнем) виде. Чтобы это было возможно, сам принцип построения этого ИИ должен быть другим. Но об этом пока и речи нет.

Кстати, я читал дискуссию о том, можно ли сделать компьютер на основе живых нейронов. Подобные идеи выдвигались еще во времена СССР, но тогда о них быстро забыли, а сейчас идея всплыла снова. Ведь сигналы между нейронами передаются в виде электрических импульсов, как и между транзисторами в микросхемах и между самими микросхемами. Можно ли сделать искусственную нейросеть на основе настоящих нейронов? А еще ведь создаются квантовые компьютеры, производительность которых несравнима с нынешними…

Еще якобы ученые смогли сделать нейросеть, которая по импульсам от мозга мыши смогла воссоздать видео того, что видела мышь, т.е. по ее воспоминаниям о показанном ей видеоролике. Два ролика прямо почти идентичны! Но что-то мне не верится в подобное… Хотя «нейронки» уже сейчас создают картины и даже видеоролики по словесному их описанию. Вопрос в том, можно ли все же считать это все настоящим интеллектом, тем более, независимым от его разработчика? Ведь даже мои программы иногда ведут себя совсем не так, как я планировал. 🙂 Только это никак не говорит о наличии у них интеллекта… 🙂

Короче говоря, технологий в перспективе много, причем они неизбежно приведут к появлению чего-то намного более быстрого и надежного, чем эти жалкие мешки с костями. Так то пока все же — развивайте свой интеллект! Это в любом случае будет полезно… Я вот как раз этим и занимаюсь, а использовать ИИ мне просто не нужно. И не особо интересно, если честно: я вообще предпочитаю создавать свое, а не пользоваться чужим. Тем более, что назвать эти «нейронки» громким словом «Искусственный интеллект» я все же не могу: код программ, например, они явно пишут просто комбинируя куски готовых блоков. Тоже мне, достижение…

А еще я, в тему поста, наряду с упомянутым выше рассказом о роботах, рекомендую вам прочитать и мою повесть «Великий проект», действие которой, кстати, происходит в Баку. Прочтите, прочтите… 🙂

Рекомендую подписаться на мой телеграм-канал, чтобы ничего не пропустить.
nick ErichWare

2 Ссылок на “Атака нейронок

  1. Что-то я по-другому вижу будущее сеток.

    Но в формате комментария к этому посту сложно вести полемику — особенно если она может вылиться в долгий обмен мнениями.

    Практика показывает, что большая языковая модель (StableLM, GPT-4 и т.д.) уже сейчас достаточно хороша, чтобы эмулировать человека в любом заданном контексте. Отсюда вопрос: если та же латентная диффузия (всего только один алгоритм компьютерных нейронных сетей) настолько хороша, что картинки от Stable Diffusion не всегда можно достоверно отличить от фотографии; если бот (GPT-4) в контексте человека определённой профессии демонстрирует основные приёмы ТРИЗ — насколько такие инструменты годны для поднятия планки пригодности (ниже которой искин вполне заменяет человека)?

    Готовы принять вызов? Скажем, отличить рисунки, сделанные рукой человека от рисунков, порождённых тем же SD? Отличить фрагменты художественных произведений — те, что выдал человек, и что сгенерировал GPT-4 ?

    Математика за компьютерными нейронными сетями уже достаточно продвинутая, чтобы создание музыкальных пьес, видеороликов и художественных текстов можно было передавать искину и ставить на поток.

    То же касается написания программного кода, руководств, оказания психологической помощи…

    Искины уже повсюду. Другой вопрос — этический. Если от выходных данных искина зависит, например, жизнь или смерть человека — такие выводы нельзя вводить в строй автоматически.

    Искину нельзя поручать действия с необратимыми последствиями.

    1. Я слишком плохо разбираюсь в живописи, чтобы отличать рисунки человека от синтетических. 🙂 К тому же и человеческие картины за миллионы долларов зачастую ничем не лучше детских каракуль. Так и я смогу! 🙂
      Тут вопрос в том, а есть ли вообще смысл в картинах, созданных ИИ? ИИ имеет смысл использовать тогда, когда человеку лень, скучно или ресурсов не хватает. Заменять человека в творческих процессах — а зачем? Чтобы использовать созданные роботом картинки где-то в других видах деятельности? Например, для иллюстраций книг? Ну да, формально можно. А где еще? Я просто не вижу в этом смысла…

      Что касается художественных произведений, то вопрос прежний: а зачем? Сейчас и люди пишут так много, что читать не успеваешь все равно. И лично я не вижу смысла читать то, что написал ИИ. Уж извините, но все что он делает, он делает по заданной программе, пусть и архисложной. Человеческое творчество исходит не из логики, а из вдохновения. Я недаром упоминал философские моменты: на мой взгляд, истоки творчества не материалы. когда я пишу рассказ, я не знаю, что будет дальше, действие происходит ПОМИМО моей воли, независимо от нее. В случае с ИИ такое невозможно. А именно это и ценно.
      Да, конечно, можно с помощью ИИ плодить однотипную посредственную литературу, но зачем? Да и научное открытие ИИ не сделает. Так что дело не только в этике…

Добавить комментарий для Erich Отменить ответ

Ваш e-mail не будет опубликован. Обязательные поля помечены *