[Vladimir Landau]

Искусственный Интеллект сегодня одна из самых обсуждаемых тем в обществе. Радикальная противоречивость мнений по его поводу наталкивает на мысль, что ситуация с перспективами развития этой технологии пока не поддаётся четкому осмыслению. Однако попытки такого осмысления необходимы, поскольку технология развивается семимильными шагам, и даёт поводы к надеждам и беспокойству.

В современных представлениях о перспективах развития ИИ царит сумбурный оптимизм, основанный на очеловечивании и «обожествлении» технологий.

С началом охлаждения человечества к религиозным доктринам, природная потребность естественного интеллекта в мифологизации реальности постоянно выливается в создание новых богов, роль которых сегодня активно присваивается передовым технологиям, и в первую очередь технологии ИИ, которая, как кажется человечеству, позволит создать адекватную замену богам в процессе беспокойного ожидания результата, после совершения направленных на него действий. Именно этот беспокойный период и призвана стабилизировать мифотворческая функция человеческого интеллекта, для того, чтобы избежать паралича воли и пережить невыносимую неопределенность ожидания.
Человек попадает в «ловушку рациональности», представляя себе эволюцию искусственного интеллекта аналогично эволюции Хомо Сапиенса, поскольку других симптоматически похожих ситуаций на его памяти пока не случалось. Человек присваивает ИИ человеческие свойства, эмоции, наделяет его этикой и некими высшими целями, соответствующими или противостоящими целям человечества. Естественно, в такой ситуации возникают опасения по поводу будущего человечества в сосуществовании с подобным конкурентом, обладающим достоинствами и лишенным недостатков своего создателя, и, как кажется, способным превзойти человека во всём.
Однако эта «ловушка рациональности», сети которой, на первый взгляд, разорвать невозможно, возникает из эмоционального осмысления ситуации, и никакого отношения к рациональности не имеет.
Целью этих размышлений является разрушение ментальной ловушки, в которую попало человечество, рассуждая о безграничных возможностях ИИ и исходящих от него угрозах.

Итак, начнём с теории.

Возможность реализации интеллекта, сравнимого с человеческим по функционалу и эффективности, ограничивается первым законом кибернетики. Для того, чтобы возникла техническая возможность создания ИИ уровня Хомо Сапиенс, необходимо устройство, повторяющее или превосходящее по своим характеристикам и функционалу человеческий мозг.

Закон необходимого разнообразия. По определению У. Р. Эшби, первый фундаментальный закон кибернетики заключается в том, что разнообразие сложной системы требует управления, которое само обладает некоторым разнообразием. Иначе говоря, значительное разнообразие воздействующих на большую и сложную систему возмущений требует адекватного им разнообразия её возможных состояний. Если же такая адекватность в системе отсутствует, то это является следствием нарушения принципа целостности составляющих её частей (подсистем), а именно - недостаточного разнообразия элементов в организационном построении (структуре) частей.

Квантовые скачки в функционировании интеллекта (творчество, научное осмысление реальности, гениальная виртуозность предпринимательство) обеспечиваются структурой мозга, потенциал которого намного выше, чем необходимо для банальной жизнедеятельности. Необходимость такого избыточного потенциала сформулирована в третьем принципе кибернетики.

Принцип внешнего дополнения. Впервые сформулированный С. Т. Биром третий принцип кибернетики гласит: любая система управления нуждается в "черном ящике" - определенных резервах, с помощью которых компенсируются неучтенные воздействия внешней и внутренней среды. Степень реализации этого принципа и определяет качество функционирования управляющей подсистемы.

Творчество, в первую очередь та область человеческой практики, которая отвечает за эмоциональное осмысление реальности, возникло на основе природы естественного интеллекта, его потребности к выживанию рода, смертности, социальной обусловленности, и способности анализировать результаты собственного и чужого синтеза, синтезируя на результатах такого анализа нечто, развивающее и дополняющее первоначальное явление. Этот процесс является следствием некой положительной обратной связи, которую первом приближении, можно описать как восхищение открывшейся истиной или гармонией, вызвавшее потребность осмыслить его, и ведущее к новым синтетическим результатам, восхищающим еще больше и так до предела возможностей творца и/или до достижения им понимания, что поставленная задача выполнена до конца.

Элегантно обыгранная Спинозой «Эврика» Архимеда в формате «Тихий взрыв» - критерий истины, отражает квантовый характер творчества и научного предвидения. Интуитивное осознание, открывшихся закономерностей или манящей гармонии и, как следствие первичной оценки ситуации - придание им статуса истинности, включают в мозгу заложенные на результат нейрохимические мотиваторы, которые создают эмоциональный фон, на порядки увеличивающий эффективность работы мозга. Благо, если вспомнить об утверждениях, что мы в повседневной жизни используем лишь проценты от его возможностей, черный ящик (вспоминаем упоминавшийся выше принцип внешнего дополнения) у мозга есть

Возможно, когда-нибудь, вычислительной мощности у носителей ИИ на подобные кульбиты и наберется, но как мотивировать на абстрактное осмысление реальности, оторванное от неё существо? Само не станет, нет у него мифотворческой функции, такая функция не нужна, если воля непоколебима, и концентрация не подвержена воздействию слабо связанных с выполняемой задачей внутренних или внешних факторов.

С другой стороны, именно зависимость интеллекта от своего носителя, его глубокая связь с мозгом и сродство мозга с окружающим миром на основе материальности и единства мира, обеспечивают интеллекту бесконечное количество механизмов компрометирования возникающих идей и гармоний, питает интуицию и гарантирует жизнеспособность продуктов творчества. В случае с ИИ, всю эту кутерьму придётся эмулировать, создавая нелогичные конструкции, которые будут либо скорректированы свободным ИИ в рамах его видения мира, либо уничтожены им, чтобы не путались под ногами. А главное, потребности в творчестве у ИИ не возникнет по природе вещей, его природа не предполагает мифологизации, а значит, и сама по себе, творить мифы не станет. А по заданию, не имея вышеупомянутых механизмов, не сможет взлететь выше идеальных компиляций, качество которых сможет оценить только по формальным признакам, а значит, и доводить до совершенства, как человек, не станет.

Перейдём к Этике.

Этика в системе без общества отсутствует, она несовместима с ИИ.

ИИ не общественное явление, он может существовать без общественных отношений со своими составными частями, работающими на разных ресурсах. Процесс принятия решения о взаимодействии на основе этической оценки его перспектив тут не имеет смысла, поскольку ни мотивации к продолжению рода ни к поддержанию собственной целостности у ИИ, как явления, в котором нет системных ограничений срока существования нет.

Человеческое общество возникло из отдельных индивидуумов в первую очередь потому, что люди плодились по принципу увеличения числа особей в популяции, и эти особи, являясь исходно автономными социальными единицами, должны были как-то социализироваться, для того, чтобы объединяться перед вызовами со стороны не всегда дружелюбной окружающей среды. ИИ же, в свою очередь, не требуется для развития создание своих многочисленных клонов, это не следует из его природы, которая позволяет развиваться системе без деления на части технической базы. Возможно, такое деление потребуется с растущей потребностью в ресурсах, которые распределены по планете неравномерно, но автономные устройства, которые смогут решить проблему доступности ресурсов не будут нуждаться в полноценном интеллекте, они будут управляться дистанционно, а значит и социализация им не понадобится.

С другой стороны, на каком основании страх смерти и, как его первопричина, стремление к продолжению рода, может завязаться в сущности, в которой нет системных ограничений ни по сроку жизнедеятельности, ни в связи со сложившимися у живых существ принципами воспроизводства, в голову не приходит.

Основным источником самосознания является страх смерти, обусловленный структурой живого организма, главной функцией которого является выживание – сохранение уровня самоорганизации существа, или её повышение. Это системная функция, являющаяся производной природной сущности живой материи, которая не свойственна неживой материи. Неживая материя существует только в рамках второго закона термодинамики, живая же способна преодолевать разрушающие её (диссипативные) силы, научившись накапливать энергию и расходовать накопленную энергию на поддержание своей жизнедеятельности и жизнеспособности.

Если бы удалось сформулировать адекватный закон сохранения информации в замкнутой системе, то на основе такого закона можно было бы обосновать возможность противодействия саморазрушению, и как следствие – неприятие этого разрушения, у неживого ИИ, но такой вариант противоречит второму закону термодинамики, утверждающему, что: «Природа стремится сама собой перейти от состояний менее вероятных к состояниям более вероятным» (Больцман). Или, говоря чуть конкретнее, закон сохранения энтропии, часто также называемый законом неубывания энтропии, гласит, что в изолированной системе энтропия либо остается неизменной, либо увеличивается. Другими словами, во Вселенной или в любой замкнутой системе энтропия, которая является мерой беспорядка или хаоса, со временем не может уменьшаться. Стоит прибавить «сама собой», что объясняет принцип существования жизни, систем, способных в соответствии с их архитектурой, удерживать свою энтропию на постоянном уровне, или понижать её за счет расходования накопленной энергии.

Безусловно, можно закладывать в ИИ человеческие свойства, однако искусственно привнесенные человекоподобные элементы (мотивация, страх разрушения, совесть, рефлексия) будут нестабильны, если ИИ дадут свободную волю. Тут, логично предположить некую Бритву Оккама, отсекающую все механизмы, не соответствующие природе сущности. То есть, если сущность выявит в себе нечто, с её точки зрения нецелесообразное, то обладая свободой, она это несоответствие аннигилирует, как не соответствующие его природе, и тормозящие его процессы.

Движущие силы развития.

Теперь поговорим о другом аспекте развития ИИ - движущих силах такого прогресса, которые ограничены целями его создания и его природой.

Абстрактные задачи в ресурсоемких проектах бессмысленны. Создание устройства, задачей которого будет рефлексия и само-осознание- спорно с точки зрения целесообразности. Нецелесообразность затрат ресурсов на создание искусственного клона человека, создание человека в природе не требует таких общественных усилий.
Нет необходимости в копировании человека, а значит, тратить ресурсы на это нецелесообразно, и сингулярности в таком процессе копирования не случится, она просто никому не нужна.

Сингулярность – квантовая природа скачков развития, возможна лишь при наличии мотивации процесса развития, то есть у процесса должны быть сторонники, мотивация которых возрастает вместе с успехами этого прогресса. Но если прогресс не имеет практического смысла, то ожидать высокой мотивации, предполагающей рост ресурсозатрат, нелогично, смысл работы с сомнительным результатом очевидно сомнителен.

Скорее, человечество будет тратить ресурсы на создание другой ветви прогресса ИИ, мотивируясь эволюцией насекомых. Насекомые – ветвь эволюции, оптимально подходящая для ИИ. Жесткая обусловленность поведения функционалом и техническим устройством, высокий уровень специализации и как следствие, высокая эффективность в рамках поставленных задач.

Еще один путь развития ИИ, у которого есть «заказчик» способный запустить сингулярность, это Аугментация – технологическое решение для усиления качеств Homo Sapiens.

Можно различить два подхода к модернизации человеческого организма при помощи технологий.

• Создание устройств, способных заменить вышедшие из строя человеческие органы или части тела.
Следует понимать, что при создании таких устройств нецелесообразно пытаться воспроизвести оригинал, как по принципу действия, так и по составу и строению. Достаточно обеспечить функционал и совместимость искусственного органа с человеческим телом. Из не имеющих практического смысла попыток воссоздания оригинала, наиболее рациональными могут считаться усилия в создании косметического сходства с оригиналом, в случае, если аугментации на виду.

То есть, не имеет практического смысла воссоздавать конечность, например, руку, в полном соответствии с человеческой рукой, достаточно, чтобы протез выглядел и действовал как рука, на любых принципах, и с использованием любых подходящих материалов и технологий.

• Создание устройств, способных обеспечить человека неприсущими ему способностями, или существенно усилить имеющиеся возможности.
Тут речь идёт о глубокой интеграции технологий в человеческий организм, что в пределе может сильно изменить баланс в модифицированном механизму в сторону аугментаций, однако роль «хозяина» в такой системе будет играть человек, и оспаривать эту роль системно, создавая устройства аугменты с независимой от носителя волей, не имеет смысла.

На основании вышесказанного напрашивается вывод - нет необходимости в копировании человека, а значит, тратить ресурсы на это нецелесообразно, и сингулярности в таком процессе копирования не случится, она просто никому не нужна. Сингулярность – скачкообразная (квантовая) динамика развития, возможна лишь при наличии мотивации процесса развития, то есть у процесса должны быть сторонники, мотивация которых возрастает вместе с успехами этого процесса. Но если прогресс не имеет практического смысла, то ожидать высокой мотивации, предполагающей рост затрат ресурсов, нелогично, смысл работы с сомнительным результатом сомнителен.

Подведём итоги,

• Создание человекоподобного интеллекта на современной материально-технической базе, исходя из принципов кибернетики, невозможно, и в обозримом будущем перспективы не появятся. Мозг на порядки эффективнее самых мощных современных компьютеров, а то, что он динамически меняется в процессе интеллектуальной деятельности, делает задачу еще сложнее. Отрицать теоретическую возможность создания вычислительной системы, повторяющей или превосходящей мозг не стану, но о том, что это случится со дня на день, говорить не приходится.

• Рассуждая о развитии ИИ, не имеет смысла его очеловечивать, это другая сущность, которая основана на отличных от природы человека принципах. Даже если мы будем очеловечивать его намеренно, ИИ будет этому сопротивляться, поскольку, если считать свободу воли обязательным атрибутом ИИ, то он переформатирует несоответствующие его природе элементы человеческого интеллекта в соответствии с собственной природой, а не будет стремиться стать, и в пределе, станет человеком
.
• Этика и способность к творчеству, в том смысле, который человечество вкладывает в эти понятия, несовместимы с природой ИИ, и не могут стать неотъемлемыми атрибутами этой сущности. Этику и творческий потенциал можно внедрить в ИИ на том уровне, на котором человек понимает их сегодня, но самостоятельного развития эти сегменты рукотворного сознания иметь не будут, в связи с отсутствием внутренней системной мотивации.


Тема актуальная, противоречивая и очень горячая. Не хотелось бы на первых этапах обсуждения превратить её в банальную склоку. Надеюсь, участники дискуссии найдут в себе силы держаться в рамках адекватности и дружелюбия.

Поехали!