Перспективы нейросетей

Про т.н. «искусственный интеллект» я писал не раз. Правда, аббревиатура «ИИ» имеет и другие расшифровки: «искусственный идиот», «имитатор интеллекта» и т.д. Должен признать, что отчасти они верные, тем более, что имеющиеся «нейросети» к настоящему интеллекту отношения не имеют. Мало того! Во-первых, механизм программ «ИИ» не совсем отражает работу биологических нейросетей. А во-вторых, интеллект (человеческий в первую очередь, хотя он есть и у животных), вообще говоря, с нейронами не так уж и связан. Да и с деятельностью мозга в целом…

Впрочем, сейчас речь не о том. Просто у меня появился некоторый опыт общения с «ИИ». Опыт интересный и, возможно, полезный для других. А еще тут замешан интересный психологический феномен…

Начну с генерации изображений, просто потому, что это отдельная сфера и для меня почти ненужная. Хотя формально нет: по идее обложки и иллюстрации для моих книг логично делать через ИИ, как и поступают сейчас буквально все авторы. Но я предпочитал делать все в фотошопе (при нелюбви и неумении). Но картинка к посту в блоге от 1 мая сделана чатомжпт.

Это был ее 4 вариант, при том, что он тоже не отражает мое желание. Но мне просто надоело возиться. Да, эксперимент был в том, чтобы НЕ задавать конкретный «промпт», а написать «сделай картинку для такого названия поста, сам придумай какую». Название и картинка представлены тут.

Я прекрасно знаю, что ничего ПРИДУМАТЬ нейросеть не может, ибо думать не умеет. Но так говорят! И вот тут напишу подробнее о психологии, а потом уже про другой опыт.

Дело в том, что человек издавна хочет общаться с ИНЫМ РАЗУМОМ! Нам мало таких же как мы: хочется разнообразия. Люди пытались общаться с дельфинами (они официально реальные кандидаты на разумность), люди все время ищут «братьев по разуму» в космосе (хотя это огромный риск). И вдруг — вот оно: разум прямо в кармане! И люди ринулись «во все тяжкие», доверяя нейросети создание программ, назначение лекарств и консультации в любовных неудачах. Ну да…

С одной стороны, я как бы могу гордиться тем, что почти 10 лет назад описал все это в своих литературных произведениях. Но с другой — это печально, потому что масса людей играет с огнем в самом худшем смысле. А теперь и вовсе в США нейросетям доверят принятие решений о военных действиях. Офигели, ребята? И гибель иранских школьниц — только начало…

Так вот, я не спорю: общение с «иным разумом» — это действительно жутко интересно и это потребность нашего интеллекта. Но надо понимать, что даже самые лучшие «палантиры» — это не разум! Да, человек не может предсказать ответ ИИ, хотя все заложенные в него алгоритмы известны. Это как в шахматах: люди не могут перебрать ВСЕ варианты партии, поэтому играют. Был еще в СССР анекдот: «Две ЭВМ играют в шахматы. Одна делает ход. Вторая, проанализировав все варианты, отвечает: сдаюсь!». Это реально, ибо теоретически возможно для МОЩНОЙ ЭВМ. Но это не говорит о наличии интеллекта у этих ЭВМ…

Вернемся к опыту. Я не даю нейросетям редактировать свои посты (и рассказы), и уж тем более не даю писать вместо себя. И не буду этого делать, заранее всех предупреждаю! 🙂 Но использовать нейросети в качестве поисковой системы, обобщающей сведения и делающей итоговое резюме — это нормально. Мало того! Именно для этого и были предназначены т.н. «экспертные системы» еще в 80-х годах прошлого века. Был язык «Пролог» специальный. Понятие «ИИ» некоторые программисты использовали, но чисто «для прикола», ибо понимали суть. А вот сейчас люди суть не понимают и используют этот термин всерьез.

Итак, случилось у меня, что мой ноутбук соизволил обновлять Вин10 на Вин11. Да только осечка вышла: памяти не хватило на диске (а заранее проверить — нет?). Процесс остановлен, а 11 Гб так и заняты. И все! Что скачалось — то скачалось, и черт знает как это убрать? Спросил у ЖПТ. Ответ порадовал: подробно описано куда все делось и как удалить вручную. Кстати, непонятно, прочему через саму ОС нельзя это убрать? Но нельзя. Кстати, ответ был дан не сразу, пришлось поговорить, ответить на уточняющие вопросы и т.д.

Еще был случай таки с программированием: не мог найти описание нужного свойства. Тоже подсказка была верной! То есть, чем перекапывать сотни ссылок в поиске (как я обычно делал в таких случаях), лучше спрашивать нейронку.

А вот еще одна задача показалась особенно интересной: мне нужно было перевести в текст аудиозапись интервью для блога. Делал я это дважды: один раз запись была качественной, второй раз нет (много шумов на фоне). Качественную запись ЖПТ обработал без проблем: разбил на голоса, все четко. А вот с плохой не справился. Причем никак не хотел в этом признаться. 🙂 Но я понял, что он меня дурит и прямо сказал: «Не можешь — так и скажи». «Да, ты прав — не могу».

А вот Gemeni справилась. Правда, пришлось сильно текст корректировать, но не сравнить с фигней, которую давал ЖПТ!

Сейчас вот спросил про новую турецкую ракету, ибо в СМИ сведения противоречивые и скорее пропагандистские, чем реальные. Ответ был таким. Ракета есть, но как прототип, план на будущее. Испытаний не было, не было промежуточных разработок (по дальности, а они необходимы). Что же касается скорости, то она стандартная, ничего особенного тут нет.

В общем, понятно, что ИИ — это полезный инструмент в умелых руках и для тех задач, которые он и должен решать. Вся проблема в том, что люди склонны к идеализации и абсолютизации тех технических достижений, которые им нравятся или которые призваны сильно облегчить жизнь. Но критическое мышление надо сохранять всегда!

К сожалению, попытки военных переложить работу с человека на ИИ крайне опасны. И речь не о моральных запретах, отсутствующих у «робота». Речь именно о качестве и надежности алгоритмов. Аналогичная проблема есть в юриспруденции: можно ли доверить нейросетям судебное производство? Взяток не берут и судят «логически». Но тут и зарыта свора сенбернаров!

Логика неоднозначна и субъективна, и лично я сталкиваюсь с этим буквально ежедневно просто в бытовом общении с разными людьми. Странно, да? Но это факт, который и вы сами при желании вполне можете заметить. А если смотреть и читать детективы (не говоря о реальных судебных процессах), то именно логика зачастую приводит к ошибочным приговорам, как в ту, так и в другую сторону (хотя процент оправданий в судах вообще мизерный).

Да, очень соблазнительно перекинуть ответственность на «машину»: вроде никто не виноват, и все «объективно». Фигушки. Алгоритмы создаются людьми. И заложить в них можно все что угодно. Не говоря о неизбежных ошибках как в самих алгоритмах, так и в программных реализациях. Уж я-то знаю, о чем говорю…

Судить должны люди: компетентные, честные, с хорошей зарплатой, высоким интеллектом, полным нужным образованием и т.д. И ракеты пускать тоже должны люди (хотя ЛЮДИ как раз не станут, но их мало). Я вполне допускаю, что через несколько лет весь мир будет контролироваться нейросетями. Но пока не поздно — прочтите мои рассказы, повести, романы. Там есть и об этой теме…