Будьте осторожны!

К теме искусственного интеллекта я обращаюсь далеко не в первый раз, уж очень это актуально и быстро меняется! Мода растет и расширяется, появились даже своего рода «фанаты ИИ», которые чуть ли не простой поход в сортир сверяют с мнением очередной «языковой модели». Но я хочу несколько охладить этот пыл….

Само понятие «интеллект» (по тегу найдете мои прошлые статьи, советую тоже почитать, если не читали) не является научным термином. Это — некая абстрактная философская категория, которую каждый понимает по-своему. Отсюда, кстати, как фанатичный восторг одних, так и категорическое неприятие других. А истина, как обычно, «где-то рядом».

Я уже не раз говорил, что сама идея создания экспертных систем, позволяющих среди огромного объема данных искать закономерности и выбирать самое главное, существовала еще в далекие советские времена как на Западе, так и в самом СССР. Просто никаких «нейросетей» тогда не было, методики и алгоритмы были совершенно иными, как и приемы программирования. Я тогда немного поработал с языком «Пролог», который и был предназначен для «искусственного интеллекта», хотя вместо этого термина чаще применяли именно сочетание «экспертные системы».

Меня данная тема не заинтересовала: я вообще не люблю работать с массивами данных, поэтому и модная (и доходная!) тогда сфера создания коммерческих баз данных прошла мимо меня. Ну и Бог с ней! Но важно то, что подобные системы были и тогда, помогая человеку не утонуть в огромных массивах разнородных данных.

Сейчас эти массивы стали на порядки больше и сложнее. Не знаю, применяется ли сейчас Пролог для решения аналогичных прошлому задач, но мир крайне ошибочно отождествляет понятия «нейросеть» и «интеллект». Для начала наука до сих пор точно не знает, как работает интеллект у человека и вообще что это такое (см. выше). Нейросети в нашем мозге действительно существуют и формируются при обучении каким-то навыкам, начиная от умения ходить и кончая формированием речи. Но можно ли считать это интеллектом? Я бы не сказал.

Обратите внимание, что интеллект человека все еще намного мощнее любого ИИ (хотя проигрывает в скорости), но при этом мозг потребляет всего несколько десятков ватт, а ИИ — в миллионы(!) раз больше! Конечно, это может быть аргументом за то, что интеллект находится вне мозга, но кроме того надо помнить, что экспертные системы были 40 лет назад и потребляли энергию вполне терпимо, но без всяких нейросетей!

И терзают меня смутные сомнения: а не является ли вся эта истерика с нейросетями просто механизмом соревнования в «крутости»? Помните как Рейган разорил СССР, придумав фейк с системой СОИ? Не было никаких «звездных войн», а СССР прогорел чисто экономически, поверив в эту сказку. А сейчас США и Китай тратят уйму денег, пытаясь переплюнуть друг друга по силе ИИ. При том, что является ли этот ИИ интеллектом — большой вопрос. Да и польза от него так ли велика?

Гугл собирается строить АЭС(!) для питания своего ИИ! Я даже не говорю про экологию (ведь вся эта энергия в конечном итоге переходит в тепло, нагревая Землю больше любого «углеродного следа»), но возьмите экономический аспект! Существующие модели ИИ крайне неэффективны! Такая энергоемкость может говорить только о порочности самой идеи. И это лишний довод в пользу того, что интеллект естественный никак с нейросетями не связан…

Да, человечеству нужны системы и алгоритмы, позволяющие систематизировать и использовать огромные объемы накапливаемых данных. Но! Что это за данные? И зачем они нужны?

Обратите внимание, что в основном накапливаются данные о поведении людей в интернете, их вкусах, интересах, привычках и т.д. А на основе этих данных людям банально подсовывают рекламу товаров, которые, якобы, должны их заинтересовать. Таких данных действительно уйма и никакой человек не в силах все это обработать и выдать результат. Тут-то и появляется ИИ. Но…

Но недавно я столкнулся с интересным фактом: если нейросети чего-то не знают, они «придумывают» ответ! Иначе говоря, порождают те самые фейки и ложные сведения, которые нынче стали бичом интернета. В одном из чатов мне привели ответ чатажпт (иначе не могу это назвать) на просьбу ответить на вопрос «а что такое …». Нейросеть ответ явно не знала, ибо тема была крайне редкой. И что? И «придумала» то, что ей показалось наиболее вероятным ответом! Но выдала это вранье за истину!

Я недаром ставлю везде кавычки: ИИ не думает, ИИ ищет в своей базе наиболее подходящий результат в соответствии с заложенными алгоритмами. Так же поступают и обычные поисковые системы, но в данном случае все они выдали результат абсолютно верный, т.е. ссылки на материалы, рассказывающие о предмете. Почему же оплошал ИИ?

Мне стало интересно и я задал тот же вопрос. Получил ДРУГОЙ ответ, но тоже не имеющий отношения к истине. Попросил источники. ИИ ответил, что источников нет, он просто предположил, что я хотел услышать именно это. И предложил найти источники точнее. Я согласился. Увы, но в этот раз ответом было примерно такое, что «источники — личное мнение нескольких людей (что уже неправда), а общепринятых понятий об этом нет». Вопрос: ну и что? Тебя просили ответить по имеющимся источникам, а не искать в википедии…

А любой поисковик, который в принципе не может ответить на подобный вопрос, просто выдает ссылки на материалы о данном объекте. И все выдает правильно!

К чему я это все пишу? К тому, чтобы предостеречь людей от увлечения т.н. «ИИ». Если тема вопроса популярна — вы, наверно, получите ответ в виде «выжимки», хотя ее достоверность тоже не гарантирована. Но если тема экзотическая — не пользуйтесь ИИ! Он вас просто обманет, а вы и знать не будете!

На самом деле, наверно, так и должно быть: задача нейросетей «перекапывать» гору информации и находить главное. А если информации «с гулькин нос», то это не задача для ИИ. Вопрос в другом: почему в этом случае ИИ не обращается к поисковым системам или честно не отвечает «я не знаю»? Это, конечно, вопрос не к ИИ, а к его создателям. Но это серьезное предупреждение для рядовых поклонников нейросетей. Недаром я держусь от них в стороне, своего интеллекта хватает…

P.S. А вопрос-то был о моей религии — веритулизме. 🙂 Сколько фигни я про него прочитал в ответе жпт… 🙂 Будьте осторожны! И помните, что все эти «ИИ» — это всего лишь сложные алгоритмы, созданные настоящим интеллектом — человеческим, со всеми свойственными ему ошибками. И старайтесь лучше развивать свой, не полагаясь на искусственный…