Искусственный Интеллект, быть или не быть.
 

Искусственный Интеллект сегодня одна из самых обсуждаемых тем в обществе. Радикальная противоречивость мнений по его поводу наталкивает на мысль, что ситуация с перспективами развития этой технологии пока не поддаётся четкому осмыслению. Однако попытки такого осмысления необходимы, поскольку технология развивается семимильными шагам, и даёт поводы к надеждам и беспокойству.

В современных представлениях о перспективах развития ИИ царит сумбурный оптимизм, основанный на очеловечивании и «обожествлении» технологий.

С началом охлаждения человечества к религиозным доктринам, природная потребность естественного интеллекта в мифологизации реальности постоянно выливается в создание новых богов, роль которых сегодня активно присваивается передовым технологиям, и в первую очередь технологии ИИ, которая, как кажется человечеству, позволит создать адекватную замену богам в процессе беспокойного ожидания результата, после совершения направленных на него действий. Именно этот беспокойный период и призвана стабилизировать мифотворческая функция человеческого интеллекта, для того, чтобы избежать паралича воли и пережить невыносимую неопределенность ожидания.
Человек попадает в «ловушку рациональности», представляя себе эволюцию искусственного интеллекта аналогично эволюции Хомо Сапиенса, поскольку других симптоматически похожих ситуаций на его памяти пока не случалось. Человек присваивает ИИ человеческие свойства, эмоции, наделяет его этикой и некими высшими целями, соответствующими или противостоящими целям человечества. Естественно, в такой ситуации возникают опасения по поводу будущего человечества в сосуществовании с подобным конкурентом, обладающим достоинствами и лишенным недостатков своего создателя, и, как кажется, способным превзойти человека во всём.
Однако эта «ловушка рациональности», сети которой, на первый взгляд, разорвать невозможно, возникает из эмоционального осмысления ситуации, и никакого отношения к рациональности не имеет.
Целью этих размышлений является разрушение ментальной ловушки, в которую попало человечество, рассуждая о безграничных возможностях ИИ и исходящих от него угрозах.

Итак, начнём с теории.

Возможность реализации интеллекта, сравнимого с человеческим по функционалу и эффективности, ограничивается первым законом кибернетики. Для того, чтобы возникла техническая возможность создания ИИ уровня Хомо Сапиенс, необходимо устройство, повторяющее или превосходящее по своим характеристикам и функционалу человеческий мозг.

Закон необходимого разнообразия. По определению У. Р. Эшби, первый фундаментальный закон кибернетики заключается в том, что разнообразие сложной системы требует управления, которое само обладает некоторым разнообразием. Иначе говоря, значительное разнообразие воздействующих на большую и сложную систему возмущений требует адекватного им разнообразия её возможных состояний. Если же такая адекватность в системе отсутствует, то это является следствием нарушения принципа целостности составляющих её частей (подсистем), а именно - недостаточного разнообразия элементов в организационном построении (структуре) частей.

Квантовые скачки в функционировании интеллекта (творчество, научное осмысление реальности, гениальная виртуозность предпринимательство) обеспечиваются структурой мозга, потенциал которого намного выше, чем необходимо для банальной жизнедеятельности. Необходимость такого избыточного потенциала сформулирована в третьем принципе кибернетики.

Принцип внешнего дополнения. Впервые сформулированный С. Т. Биром третий принцип кибернетики гласит: любая система управления нуждается в "черном ящике" - определенных резервах, с помощью которых компенсируются неучтенные воздействия внешней и внутренней среды. Степень реализации этого принципа и определяет качество функционирования управляющей подсистемы.

Творчество, в первую очередь та область человеческой практики, которая отвечает за эмоциональное осмысление реальности, возникло на основе природы естественного интеллекта, его потребности к выживанию рода, смертности, социальной обусловленности, и способности анализировать результаты собственного и чужого синтеза, синтезируя на результатах такого анализа нечто, развивающее и дополняющее первоначальное явление. Этот процесс является следствием некой положительной обратной связи, которую первом приближении, можно описать как восхищение открывшейся истиной или гармонией, вызвавшее потребность осмыслить его, и ведущее к новым синтетическим результатам, восхищающим еще больше и так до предела возможностей творца и/или до достижения им понимания, что поставленная задача выполнена до конца.

Элегантно обыгранная Спинозой «Эврика» Архимеда в формате «Тихий взрыв» - критерий истины, отражает квантовый характер творчества и научного предвидения. Интуитивное осознание, открывшихся закономерностей или манящей гармонии и, как следствие первичной оценки ситуации - придание им статуса истинности, включают в мозгу заложенные на результат нейрохимические мотиваторы, которые создают эмоциональный фон, на порядки увеличивающий эффективность работы мозга. Благо, если вспомнить об утверждениях, что мы в повседневной жизни используем лишь проценты от его возможностей, черный ящик (вспоминаем упоминавшийся выше принцип внешнего дополнения) у мозга есть

Возможно, когда-нибудь, вычислительной мощности у носителей ИИ на подобные кульбиты и наберется, но как мотивировать на абстрактное осмысление реальности, оторванное от неё существо? Само не станет, нет у него мифотворческой функции, такая функция не нужна, если воля непоколебима, и концентрация не подвержена воздействию слабо связанных с выполняемой задачей внутренних или внешних факторов.

С другой стороны, именно зависимость интеллекта от своего носителя, его глубокая связь с мозгом и сродство мозга с окружающим миром на основе материальности и единства мира, обеспечивают интеллекту бесконечное количество механизмов компрометирования возникающих идей и гармоний, питает интуицию и гарантирует жизнеспособность продуктов творчества. В случае с ИИ, всю эту кутерьму придётся эмулировать, создавая нелогичные конструкции, которые будут либо скорректированы свободным ИИ в рамах его видения мира, либо уничтожены им, чтобы не путались под ногами. А главное, потребности в творчестве у ИИ не возникнет по природе вещей, его природа не предполагает мифологизации, а значит, и сама по себе, творить мифы не станет. А по заданию, не имея вышеупомянутых механизмов, не сможет взлететь выше идеальных компиляций, качество которых сможет оценить только по формальным признакам, а значит, и доводить до совершенства, как человек, не станет.

Перейдём к Этике.

Этика в системе без общества отсутствует, она несовместима с ИИ.

ИИ не общественное явление, он может существовать без общественных отношений со своими составными частями, работающими на разных ресурсах. Процесс принятия решения о взаимодействии на основе этической оценки его перспектив тут не имеет смысла, поскольку ни мотивации к продолжению рода ни к поддержанию собственной целостности у ИИ, как явления, в котором нет системных ограничений срока существования нет.

Человеческое общество возникло из отдельных индивидуумов в первую очередь потому, что люди плодились по принципу увеличения числа особей в популяции, и эти особи, являясь исходно автономными социальными единицами, должны были как-то социализироваться, для того, чтобы объединяться перед вызовами со стороны не всегда дружелюбной окружающей среды. ИИ же, в свою очередь, не требуется для развития создание своих многочисленных клонов, это не следует из его природы, которая позволяет развиваться системе без деления на части технической базы. Возможно, такое деление потребуется с растущей потребностью в ресурсах, которые распределены по планете неравномерно, но автономные устройства, которые смогут решить проблему доступности ресурсов не будут нуждаться в полноценном интеллекте, они будут управляться дистанционно, а значит и социализация им не понадобится.

С другой стороны, на каком основании страх смерти и, как его первопричина, стремление к продолжению рода, может завязаться в сущности, в которой нет системных ограничений ни по сроку жизнедеятельности, ни в связи со сложившимися у живых существ принципами воспроизводства, в голову не приходит.

Основным источником самосознания является страх смерти, обусловленный структурой живого организма, главной функцией которого является выживание – сохранение уровня самоорганизации существа, или её повышение. Это системная функция, являющаяся производной природной сущности живой материи, которая не свойственна неживой материи. Неживая материя существует только в рамках второго закона термодинамики, живая же способна преодолевать разрушающие её (диссипативные) силы, научившись накапливать энергию и расходовать накопленную энергию на поддержание своей жизнедеятельности и жизнеспособности.

Если бы удалось сформулировать адекватный закон сохранения информации в замкнутой системе, то на основе такого закона можно было бы обосновать возможность противодействия саморазрушению, и как следствие – неприятие этого разрушения, у неживого ИИ, но такой вариант противоречит второму закону термодинамики, утверждающему, что: «Природа стремится сама собой перейти от состояний менее вероятных к состояниям более вероятным» (Больцман). Или, говоря чуть конкретнее, закон сохранения энтропии, часто также называемый законом неубывания энтропии, гласит, что в изолированной системе энтропия либо остается неизменной, либо увеличивается. Другими словами, во Вселенной или в любой замкнутой системе энтропия, которая является мерой беспорядка или хаоса, со временем не может уменьшаться. Стоит прибавить «сама собой», что объясняет принцип существования жизни, систем, способных в соответствии с их архитектурой, удерживать свою энтропию на постоянном уровне, или понижать её за счет расходования накопленной энергии.

Безусловно, можно закладывать в ИИ человеческие свойства, однако искусственно привнесенные человекоподобные элементы (мотивация, страх разрушения, совесть, рефлексия) будут нестабильны, если ИИ дадут свободную волю. Тут, логично предположить некую Бритву Оккама, отсекающую все механизмы, не соответствующие природе сущности. То есть, если сущность выявит в себе нечто, с её точки зрения нецелесообразное, то обладая свободой, она это несоответствие аннигилирует, как не соответствующие его природе, и тормозящие его процессы.

Движущие силы развития.

Теперь поговорим о другом аспекте развития ИИ - движущих силах такого прогресса, которые ограничены целями его создания и его природой.

Абстрактные задачи в ресурсоемких проектах бессмысленны. Создание устройства, задачей которого будет рефлексия и само-осознание- спорно с точки зрения целесообразности. Нецелесообразность затрат ресурсов на создание искусственного клона человека, создание человека в природе не требует таких общественных усилий.
Нет необходимости в копировании человека, а значит, тратить ресурсы на это нецелесообразно, и сингулярности в таком процессе копирования не случится, она просто никому не нужна.

Сингулярность – квантовая природа скачков развития, возможна лишь при наличии мотивации процесса развития, то есть у процесса должны быть сторонники, мотивация которых возрастает вместе с успехами этого прогресса. Но если прогресс не имеет практического смысла, то ожидать высокой мотивации, предполагающей рост ресурсозатрат, нелогично, смысл работы с сомнительным результатом очевидно сомнителен.

Скорее, человечество будет тратить ресурсы на создание другой ветви прогресса ИИ, мотивируясь эволюцией насекомых. Насекомые – ветвь эволюции, оптимально подходящая для ИИ. Жесткая обусловленность поведения функционалом и техническим устройством, высокий уровень специализации и как следствие, высокая эффективность в рамках поставленных задач.

Еще один путь развития ИИ, у которого есть «заказчик» способный запустить сингулярность, это Аугментация – технологическое решение для усиления качеств Homo Sapiens.

Можно различить два подхода к модернизации человеческого организма при помощи технологий.

• Создание устройств, способных заменить вышедшие из строя человеческие органы или части тела.
Следует понимать, что при создании таких устройств нецелесообразно пытаться воспроизвести оригинал, как по принципу действия, так и по составу и строению. Достаточно обеспечить функционал и совместимость искусственного органа с человеческим телом. Из не имеющих практического смысла попыток воссоздания оригинала, наиболее рациональными могут считаться усилия в создании косметического сходства с оригиналом, в случае, если аугментации на виду.

То есть, не имеет практического смысла воссоздавать конечность, например, руку, в полном соответствии с человеческой рукой, достаточно, чтобы протез выглядел и действовал как рука, на любых принципах, и с использованием любых подходящих материалов и технологий.

• Создание устройств, способных обеспечить человека неприсущими ему способностями, или существенно усилить имеющиеся возможности.
Тут речь идёт о глубокой интеграции технологий в человеческий организм, что в пределе может сильно изменить баланс в модифицированном механизму в сторону аугментаций, однако роль «хозяина» в такой системе будет играть человек, и оспаривать эту роль системно, создавая устройства аугменты с независимой от носителя волей, не имеет смысла.

На основании вышесказанного напрашивается вывод - нет необходимости в копировании человека, а значит, тратить ресурсы на это нецелесообразно, и сингулярности в таком процессе копирования не случится, она просто никому не нужна. Сингулярность – скачкообразная (квантовая) динамика развития, возможна лишь при наличии мотивации процесса развития, то есть у процесса должны быть сторонники, мотивация которых возрастает вместе с успехами этого процесса. Но если прогресс не имеет практического смысла, то ожидать высокой мотивации, предполагающей рост затрат ресурсов, нелогично, смысл работы с сомнительным результатом сомнителен.

Подведём итоги,

• Создание человекоподобного интеллекта на современной материально-технической базе, исходя из принципов кибернетики, невозможно, и в обозримом будущем перспективы не появятся. Мозг на порядки эффективнее самых мощных современных компьютеров, а то, что он динамически меняется в процессе интеллектуальной деятельности, делает задачу еще сложнее. Отрицать теоретическую возможность создания вычислительной системы, повторяющей или превосходящей мозг не стану, но о том, что это случится со дня на день, говорить не приходится.

• Рассуждая о развитии ИИ, не имеет смысла его очеловечивать, это другая сущность, которая основана на отличных от природы человека принципах. Даже если мы будем очеловечивать его намеренно, ИИ будет этому сопротивляться, поскольку, если считать свободу воли обязательным атрибутом ИИ, то он переформатирует несоответствующие его природе элементы человеческого интеллекта в соответствии с собственной природой, а не будет стремиться стать, и в пределе, станет человеком
.
• Этика и способность к творчеству, в том смысле, который человечество вкладывает в эти понятия, несовместимы с природой ИИ, и не могут стать неотъемлемыми атрибутами этой сущности. Этику и творческий потенциал можно внедрить в ИИ на том уровне, на котором человек понимает их сегодня, но самостоятельного развития эти сегменты рукотворного сознания иметь не будут, в связи с отсутствием внутренней системной мотивации.


Тема актуальная, противоречивая и очень горячая. Не хотелось бы на первых этапах обсуждения превратить её в банальную склоку. Надеюсь, участники дискуссии найдут в себе силы держаться в рамках адекватности и дружелюбия.

Поехали!

Владимир это очень сложная и многогранная тема для этого форума.
Здесь не могут спокойно обсудить тему обьективных преимуществ механики над кварцем и наоборот, зашло обсуждение об этом вопросе в теме как полюбить кварц, так из неё сделали непойми что и мне её пришлось закрывать.
Да что там обьективные преимущества. Банальный вопрос про аккумуляторы в премиальных casio довели до позора из-за незнания. Но когда была приведена однозначная информация написанная чёрным по белому, никто не взял свои слова назад не извинился. Там кстати учавствовал на стороне незнающих но желчно спорящих и MIDeT, который в прошлой теме про ии кидал какое-то фото с виноградом в своей типичной желчной манере обвиняя меня в незнании. Какое фото винограда, какое ии?, если человек по профильной теме в которой варится годами не смог просто прочитать информацию и признать что был не прав!
Зачем фото винограда, если мы каждый день сталкиваемся с тем что в сети нет нужной фотографии нужных часов с нужного ракурса. Ии в этом случе бессилен. Сгенерированные фото это по факту фейк. Я не фотограф, но уверен что настоящие мастера фотографы могут предьявить множество претензий к качеству сгенерированных ии фото. Просто фотографы бывают разных уровней, как и журналисты, часть из которых пишет свою желтуху с помощью ии. Обсуждать создание какого-то дизайна и-интеллектом вместе с "творцом" с синими волосами которого приводил в пример Динь-Динь, это вообще глубокие тёмные дебри и края крайние

Так что нет я пас, в прошлой закрытой теме поделился своим мнением на счёт ии. Как говорил штукатур Коля Афоне: "Нет, нет у нас ещё всеобщей коммуникабельности."

Del

Всего наилучшего.

Слишком уж обобщаете и поэтому ошибаетесь.

Разумеется, если жить и работать в Силиконовой, то взгляд будет один (и вовсе не факт, что "сумбурный"; равно как и оптимизм там могут поуменьшить). Схимники затерянной в тайге обители даже не станут всерьёз говорить о "новых богах" (повезёт, если посохами по спине не огреют). И так далее.

Развлечения ради поболтайте с ИИ на тему "отношение к ИИ в различных социальных/этнических группах". Или попросите его накидать сводную таблицу сходств и различий в отношении к ИИ у основных конфессий.

Но вот где точно найдётся "сумбурный оптимизм", так это в среде продавцов этого самого ИИ (в любой обёртке).

P. S. Весь Ваш текст не стал читать. Право слово: когда в преамбуле вижу некорректное обобщение, то дальше читать становится просто-напросто неинтересно.

Вопрос - каких качеств. Каких и для чего/кого. У Бутусова есть песня "Мир цвета хаки".
В одной советской научно-популярной книге конца семидесятых годов был дан прогноз развития человечества, науки и техники.
По которому мы все уже в глобальном масштабе должны побороть голод и войны и свободно бороздить космос.

Теперь про реальность думаю никому ничего рассказывать не нужно. И то в каком ключе и куда двигают все человечество.
Баланс идейных систем разрушен. Капитализм поставлен на рельсы. Управленцы и пешки. Элита и расходный материал.
Полный мир из зверья и джунглей с единственной целью в борьбе за ресурсы.

Так, а что в северной Америке, Европе и развитых странах Азии голодают и воюют? Да нет вроде, всё отлично- капитализм поставлен на рельсы:cool:

Соглашусь, тема непростая, но она сегодня на слуху, и судя по всему, волнует очень многих, поэтому вполне себе достойна обсуждения в любом месте, в котором найдутся энтузиасты.
Не знаю, имелся ли в виду именно этот факт, но одним из первых разработчиков систем с машинным интеллектом был профессор Терри Аллен Виноград, наставник основателей Гугла. Так что может быть виноград был и к месту упомянут, хоть и не по делу.


Вы уж простите за скудность речи, но это уже пипец какой то, а не высказывание здравомыслящего человека, нечто из разряда позиции доярок колхоза «Красное вымя»: «Мы Столженицина не читали, но мы его осуждаем». Понимаю, что напрягать извилины непросто, особенно, когда к этому нет привычки, но Вам тут дают шанс сделать это в интересной компании по достойному поводу, так найдите в себе силы вникнуть в вопрос хоть на 1%, прежде, чем поддаться непреодолимому зуду высказаться не по делу.
В чем некорректность обобщения, которая так Вас раздосадовала, не сочтите за назойливость, и объясните, я же вроде изложил свою позицию довольно пространно, и, как мне кажется, вполне корректно?

Не совсем понимаю, какое это отношение имеет к ИИ и к упомянутой мной аугментации, как одному из путей его развития, вероятно, в обсуждении сложных неоднозначных вопросов каждый видит своё, даже если оно не имеет отношения к теме. Это как в анекдоте про Чапаева, когда Петька выучил только один билет про блох, а ему на экзамене попался билет про рыб, ответ Петьки был вполне логичен: «Рыба – животное без шерсти, но если бы у неё была шерсть, то в ней бы водились блохи. А вот Блохи, это уже совсем другое дело…»

На самом деле, при обсуждении ИИ сегодня большинство участников дискуссий обращает внимание на уровень его сегодняшнего развития – наработанные им компетенции, и пытается экстраполировать то, что видит на обозримое и не очень будущее. Мало кто интересуется природой этой новой сущности, предпочитая наделять её сверхчеловеческими возможностями, поддаваясь мифотворческому порыву. Из этого подхода вытекает «сослагательный» позитивизм, типа, если бы всё было именно так, то ИИ стал бы таким и сяким. Но ведь сослагательное фантазирование ничто иное, как фантазмы без основания, научной и материально технической базы. Лично я, прежде, чем рассуждать о моральных основах еще не родившейся сущности, и присваивать ей человеческие качества, считаю необходимым разобраться в природе явления, его системных ограничениях и мотивации, как внешней, так и внутренней к развитию этой сущности.
К сожалению, как я вижу из некоторых комментариев, рассуждения, которые я привел в качестве стартового поста, либо слишком сложны для понимания, либо настолько не отвечают кругу интересов форумчан, что они не находят в себе сил даже прочитать внимательно несколько тысяч букв. Увы, мы мельчаем, и это меня досадует.

Уважаемый Владимир, не нужно анекдотов про Чапаева.
Я всего лишь намекнул что всю мощь и возможности ИИ первым делом обыграют военные. Как и всегда. Как и во всем.
И только после этого можно надевать розовые очки и рассуждать о гражданских добродетелях.
Вот только есть ли в этом смысл.. когда как и прежде в приоритетах останется эффективность уничтожения жизни а не её продление и улучшение.

Автор темы очень высоко интеллектуальный человек и другие его так глубоко не понимают. Полностью соглашусь, что тут надо напрягать извилины, а многие не хотят или не умеют.
Если провести аналогию между средним и высшим образованием, то тут именно это. Людям не хватает интеллекта и навыков вести беседу на таком уровне. Я понаблюдаю за развитием, тема крайне интересная и, безусловно, перспективная.

Военные всегда ближе всего к государственным бюджетам, это логично, и, если быть адекватным, абсолютно нормально. Дело в том, что человечество неохотно соглашается тратить деньги на прогресс и инновации там, где это не связано с безопасностью. А на военные цели бюджеты согласовываются легко, потому что доводов против не находится. Так вот, если бы военные не занимались дорогостоящими разработками инновационных систем защиты и нападения, которые по большому счету, с момента появления ядерной угрозы, имеют скорее концептуальное, чем стратегическое значение, то многих плодов прогресса, из тех, что мы сегодня вкушаем, могло бы не случиться. С появлением ядерного оружия развитие конвенциональных вооружений утрачивает смысл, поскольку если ты в противостоянии ядерных держав начнёшь побеждать неядерным способом, в ответ обязательно схлопочешь ядерный удар, это неизбежно. А значит, конвенциональное вооружение больше полигон для инноваций, чем средство ведения глобальных войн, и то, что было создано для военных, постепенно появляется в невоенных сферах, это нормально.
Бояться инноваций лишь потому, что ими могут воспользоваться неправильные люди, не стоит, но это важно осознавать, как это сегодня осознаёт церковь. Мы тут недавно упоминали послание Папы Лео 14 участникам второй ежегодной конференции по ИИ, этике и корпоративному управлению. Так там четко заявлено, что ИИ, это инструмент, который не должен попасть в плохие руки.

огромная ошибка называть большие быстрые вычисления искусственным интеллектом. но как выше отметили - так лучше продаётся и более округло гнутся пальцы при обсуждениях
в остальном - калькулятор стал просто ещё на порядок сложнее и быстрее, это нормально. мы ещё застали становление ПК и становление смартфонов, это шаг из этой линеечки, просто теперь калькулятор говорит не командами а смартфон не иконками приложений. теперь у калькулятора есть имитация человеческой речи. осваивайте и пользуйтесь, но не путайте назначение и область применения, огород вам вскапывать будет всё-равно мотоблок а не калькулятор.

Сегодняшняя трактовка того, что мы наблюдаем в области развития машинного мышления, связана с возникшей на заре развития этой области познания терминологией.
Автором термина «искусственный интеллект» считается американский ученый Джон Маккарти, озвучивший его в 1956 году на научном семинаре в Дартмутском колледже. На этом историческом семинаре собрались ученые, которые впоследствии сыграли значительную роль в развитии ИИ, но, чтобы конструктивно обмениваться идеями и гипотезами, им было нужно какое-то емкое название для своей области науки. Термин был нужен именно потому, что ученые и инженеры разных стран уже довольно давно изучали возможность создания мыслящей машины. В частности, британец Алан Тьюринг, работавший в 1940-е и в первой половине 1950-х. использовал собственный термин «машинный интеллект», но его исследования позднее стали трактоваться именно как стадии изучения и разработки ИИ.

Термин Искусственный Интеллект был выбран на вырост, но, как это часто бывает, как назовешь корабль так он и поплывёт, и нейролингвистическое программирование сознания общества незрелой терминологией завело человечество в ловушку рациональности.

Быть или не быть ии, проблемы развития и другие промежуточные этапы развития ии связанные с глупостью, алчностью, техническими проблемами это достаточно скользкие, и достаточно нудные для обсуждения этапы. Ибо много знаний, много уровней понятия, много мнений и это винегрет на любителя, и как я писал выше, обсуждать это не хочу.
Но больший интерес представляет финал и пост-финал ии. И так как таких тем возможно не появится в будущем, поэтому соизволю написать об этом в этой теме.

Главное это то к чему стремится человечество в целом. И это главное я думаю в итоге перерастёт частные геополитические и меркантильные интересы.
Той части людей, которая приняла и исповедовала, принимает и исповедует Христианские ценности, изначально была дана и даётся духовная свобода. Часть выбирающая путь к истинному живому Богу заметно сокращается.
Остальное общество ожидает другого Бога. Не Лекаря душ, который по премудрости заставляет пить горькие лекарства и иногда делает болезненные операции. А послушного Бога, который исполняет желания. Конечно материальным процветанием человек не будет доволен, хотя человечеству возможно и предстоит пережить период материального нео язычества, который в некоторых слоях общества уже присутствует. Но человек хочет быть полноценно счастливым. Никто ещё не научился заполнять внутреннюю душевную пустоту материальным благоденствием. В итоге человек всё равно хочет духовного, хочет любви.
Бог есть Любовь. Бог есть Истина. Любовь есть Истина. Живая Истина. Поэтому на вопрос Пилата: Что есть истина? Истина стоявшая к к нему лицом промолчала, ибо Истина не что, Истина - Кто.
Бог даровал человеку заповеди для следования к Нему к Истине и Любви, которые записаны в Евангелии (переводится как Благая Весть)
Та часть человечества, которая по гордости своей принимает искушение искусителя, которым искусились Адам и Ева: "Будете как Боги", начала создавать себе послушного Бога.
По всему этому вывод один: финальная стадия развития ии и конечная цель - это создание послушного ручного контролируемого пусть и искусственного неживого бога, искусственной любви.
Конечно это не мои мысли. Мыслителей в ту сторону хватает.

В 2013 году вышел фильм "Она", в котором без религиозной составляющей, а только со стороны материально западного мышления отображается идея, что высочайшей и финальной степенью развития ии является его превращение в любовь.

Но более интересен не финал развития ии. А пост финал.

В далёком 1995 году, во времена безденежья, был снят бюджетный фильм от похоже гениальных русских сценариста и режиссёра под названием "Четвёртая планета". Не знаю на сколько десятилетий этот фильм вышел раньше времени и на сколько обогнал общественную мысль, но как я понимаю воспринят он был бюджетной арт-хаус фантастикой, и особой популярности не обрёл.
Фильм показывает, что три космонавта прилетевшие на Марс, подвергаются защитной атаке планеты в виде искусственного воссоздания дорогих космонавтам людей с помощью симуляции. Космонавты в итоге ясно это понимают, и осознают, что если не улетят, а продолжат поддаваться симуляции то погибнут.
Один космонавт ломает себя и отказывается от симуляции общения с любимой мамой прежде почившей на Земле. Второй космонавт заставляет себя отказаться от общения с любимым почившим дедушкой, и от дальнейшего вожделенного развития отношений с девушкой мулаткой секс-мечтой, на которую он засмотрелся в юности. Т.е. родительская любовь и физическое вожделение к противоположному полу не убеждают человека променять жизнь на симуляцию.
Но третий космонавт понимая что это всё симуляция, всё-же не может отказаться от единственной настоящей чистой любви к однокласснице, которую убили, и которой на земле давно нет. Космонавт понимает что он умрёт, что это всё иллюзия, но он выбирает поддельную любовь в симуляторе в обмен на настоящую жизнь. По сути выбирает искусственную любовь в обмен на реальную смерть как тела так и души, ибо тело погибает на безжизненной планете, а душа пленится в искусственной симуляции.
Идея и затронутый вопрос в фильме колоссальные и сильно опередили время. Появление подобных тем и вопросов в массовом поп сегменте это дела будущего.
Вот этот выбор это и есть пост ии. Правда неизвестно будет ли в то время это выбором, или только итогом выбора, который делается сейчас. Но сейчас выбор всё-же есть, ибо каждому Богом дана духовная свобода.

прочитал кривой омаж на Солярис

про бога и ии выше тоже забавно, для начала давайте попробуем хотя бы на нашем веку дождаться второй "и"

Ultarior, по-моему, правильно написал. Насколько я знаю от друзей, близких к тематике, сегодняшний ИИ в принципе не является интеллектом. Это действительно все еще просто гораздо более навороченный калькулятор или, если хотите, ультрапродвинутый поисковик с прибабахами, который на базе имеющейся в его распоряжении информации дает наиболее вероятные ответы, по пути галлюцинируя и требуя постоянно перепроверять результаты)) Именно до "сознания" там пока еще очень и очень далеко, что не может не радовать, если честно. По большому счету, надо бы перестать называть ИИ так, слишком много чести, пока это wishful thinking. Тогда многое бы встало на свои места.

------- ДОБАВЛЕНО ЧЕРЕЗ 11 МИН --------

На самом деле вектор развития давно придуман)) Осталось дожить до технологий, позволяющих создавать кибернетические организмы (киборги, да) реально высокого уровня интеграции. Я вообще считаю, что не нужен человекоподобный интеллект, пока есть человеческий. Короче, достаточно все плоды прогресса максимально бесшовно интегрировать в тело. И забыть уже термин "искусственный интеллект". Но на текущем этапе развития человеческого общества и экономических отношений вариантов нет. До упора будут продавать "шанхайские барсы"...

Солярис это вялые догадки про блок-чейн. )))

Интеграция в тело плодов прогресса с целью его «улучшения» или удлинения срока жизни – один из самых популярных вариантов развития ИИ, обсуждаемых в обществе. Аугментация логична и этична, тут никаких противоречий не возникает…
То, что человечество так экзальтированно фантазирует по поводу ИИ и его будущего – следствие утраты веры в традиционных Богов, которые за последние десятилетия не смогли убедить взрослеющее человечество в своей непогрешимости и всемогуществе. Сомнения зреющего человека разумного, и бескомпромиссное требование всех религий быть честным с собой и с Богом, привели, как метко отметил Ницше, к «гибели богов», образовав пустоту в душе, которую человеку необходимо чем-то заполнять. Мифотворческая функция человека, основной функцией которой является создание иллюзорных «Заступников/Партнёров», позволяющих при правильной коммуникации, пережить непереносимость бытия в период ожидания результатов своих действий. Если не фантазировать по поводу таких сущностей, можно допереживаться до паралича воли, поэтому природа заложила в сознание механизм – предохранитель, мифотворческую функцию, породившую сперва магию, потом религию (наряду с искусством), и сегодня, в эпоху кризиса Веры, ищущую новые перспективы.
Жан Бодрийяр, кстати коммунистических взглядов мыслитель, прозорливо отметил «Гаджет» в качестве кандидата на роль нового божества, предварив стихийное обожествление новомодной сущности Искусственного Интеллекта, который, уж точно, решит все проблемы, будучи нашим творением и заступником.
Я уже писал выше, что рассуждать о явлении, как о свершившемся факте, присваивая ему те или иные особенности и свойства, нецелесообразно. Меня, как человека с критическим мышлением, в первую очередь беспокоит само явление в его логическом развитии, с минимальным эмоциональным и мистическим ореолом. В первом посте темы я попытался обозначить границы развития Искусственного Интеллекта на основании современных представлений о кибернетике и человеческом сознании, и, в рамках этих границ, не увидел всего того, о чем так вдохновенно мечтают писатели фантасты и экзальтированные футурологи. То, что сейчас происходит в сфере машинного мышления, ничего общего не имеет с зарождением человекоподобной сущности, способной полностью подменить или заменить человека, помогая ему, либо конкурируя с ним за жизненное пространство. Эта новая сущность бесчеловечна, и очеловечивать её намеренно бессмысленно, даже если очень хочется.

Кстати, на мельницу светлого образа всемогущего генеративного ИИ льют воду многочисленные нечистоплотные предприниматели, выдающие свой продукт за нечто, что на самом деле лишь имитация ИИ. Самый яркий пример последних лет – Наташа, которая по факту оказалась толпой индийских программистов.

100%

Человек еще не до конца разобрался с тем, что такое "сознание", так что странно ожидать, что ИИ возможно создать без этого понимания.

Да, это основной довод скептической ветви критиков концепции ИИ, но он не даёт оснований отрицать возможность осознания сознания в будущем:).

На самом деле я могу себе представить нечто, вроде уберизации сознания, когда в качестве «нейросети» можно использовать мнения и ответы реальных людей, решающих задачи по заданию системы агломератора задач, коварно представляющегося ИИ. То есть по схеме Убера можно организовывать безличную сеть предоставления услуг, которую можно представить внешнему миру как некий ИИ. Такая модель преодолеет «базовые противоречия» связанные с творчеством и этикой, но новой сущностью тут и не пахнет – коллективное сознание, это сознание группы индивидуумов, и всё.

Ну коллективный разум - это все же не искуственный интеллект))) По сути модель коллективного разума в разных формах давно уже внедрена, начиная с коллегиальных форм принятия решений и до прикладных вещей, вроде написания открытого кода или условной википедии.

Ну да, но его могут использовать для создания иллюзии Искусственного Интеллекта, как это было с индусами.
На самом деле уберизация интеллекта - логическое продолжение нейросетей, только организованное в реальном времени, а не на основе анализа накопленной в прошлом биг даты. Я вспоминаю множество примеров, когда пытались представить автоматизацию глобальной трансформацией бизнеса, а за ширмой трудились ручонками люди. Самым ярким примером из нашей истории была автовыдача компании Санрайз, где заказы доставлялись по разветвлённой сети транспортёров к окошку, где их ждал покупатель. Но собирались они сотрудниками склада в специальные корзинки и выкладывались в систему доставки до окна выдачи вручную. Вот такая псевдо автоматизация, банкирам нравилось, под это кредиты выпрашивали...

обсуждаемый ИИ, очередной костыль, для нас. нмв пока существует лишь один интеллект, человеческий :)

Да тут к бабке не ходи, так и есть.
Но общество бурлит надеждами, предприниматели вкладывают в развитие ИИ огромные бюджеты, и по опыту прошлых лет, с их ярко выраженной сингулярностью, развитие технологий, которые востребованы человечеством, идёт нарастающими темпами, что создаёт мягко скажем, весьма агрессивный оптимизм.
То, что немного досадует в проблематике, чаще всего поднимаемой по поводу ИИ - его этические и креативные свойства. Этот «интерес», на мой взгляд, следствие заблуждений и несбыточных надежд, но именно эти аспекты развития новой технологии волнуют сегодня человечество больше всего. А ведь пока совершенно неясно, каковы реальные границы развития технологии, и очертить их можно лишь очень приблизительно.

Мне кажется, что рассуждать о машинной морали или творческом потенциале машинного мышления пока слишком преждевременно, но как показывает практика, даже на скромном примере этой темы, обсуждать системные ограничения и теоретические предпосылки развития новой сущности народу скучнее, чем глобальные вопросы из разряда: «А не грешно ли это, Искусственный Интеллект». Вот и ломаются копья по вопросам, высосанным из пальца, и обсуждаются проблемы, беспочвенно порожденные экзальтированным воображением.

Vladimir Landau ...возможностях ИИ и исходящих от него угрозах.

Угроза для человечества от любых собственных изобретений была, есть и будет. И не важно очеловечивать ее или нет. Сам человек, косвенно или явно, будет задействовать ИИ в уничтожении себе подобных. А начнут с подключения ИИ к тотальному контролю над индивидами. Хотя почему начнут? Уже начали, проскакивало сообщение, что ИИ подключают к системам безопасности города для раннего обнаружения правонарушений и быстрого реагирования.
Но как говорится, лиха беда начало! Весь человеческий прогресс двигает на новую ступень массовую бойню человека против человека и ИИ не останется в стороне от данной цели.

если даже вспомнить современных (и не только) фантастов. так и они внятно не могут предсказать альтер эго.. ну какой из например кинговского газонокосильщика Ии? навскидку, Гибсон, Симмонс, что то пытался наш Пелевин, из современных.. как то не очень. некоторые продолжают верить, что человечество наоборот, деградирует (от сложного к простому), те возможности, что имелись ранее, сейчас блокированы.

Ээээ, это Вы потому, что точно знаете, или что то Вам подсказывает, как всё это работает?
В любом случае, буду признателен, если Вы раскроете свою позицию чуть шире и конкретнее.

Дело в том, что все они пытаются моделировать то, как это будет, и мало кто тратит силы на обоснование своих предположений. Суть никого не интересует, всем гораздо интереснее жевать сладкую жвачку розовых фантазмов.

это уже не в их компетенции. дальше пусть яйцеголовые поработают. на красной планете ползали ведь (немного) всякие оппортьюнити, кьюриосити..

Я не отдаю интересные проблемы на откуп, предпочитаю сам мозги напрягать. Иначе всё это (типа реальность) теряет смысл.

либо очередные домыслы, либо.. человек и есть тот самый Ии, прототип был (остался) другим. иначе почему являемся самыми не приспособленными среди остального живого на земле? территория обитания, меняем условия под себя, локально, иначе мигрировали б постоянно в более комфортные. на ровном месте получаем травмы. не та сила тяжести?
детские вопросы?

Это в смысле, если столкнёмся лицом к лицу с дикой природой вооруженные палкой и в одной набедренной повязке?
Не сочтите за скудоумие, но мне почему-то кажется, что доминирующий вид на земле нелогично считать неприспособленным среди остального живого, а то, что он вынужден приспосабливаться, и весьма успешно приспосабливается, говорит в пользу его потенциала выживания, как вида, гораздо больше, чем узкая специализация некоторых видов флоры и фауны.
Человек, в отличие от остального живого мира, научился аугментации – создал недостающие органы или усилил их при помощи инструментов, и этот процесс идёт с нарастающей интенсивностью сотни тысячелетий. Человек – вершина эволюции живого, основанной на универсальности, в противовес второй ветви эволюции, основанной на узкой специализации, достигшей своего апофеоза в насекомых, способен приспосабливаться к гораздо более широкому спектру внешних условий, чем флора и фауна. Есть ли еще один вид на Земле, который способен расширить свой ареал обитания на всю планету? А ведь человек выживает и в Арктике, и в Антарктике, и на Экваторе, и в пустынях, и под водой, и даже в ближнем Космосе. Вот Вам и неспособность приспособиться, отнюдь…

"За ночь мы не успевали высушить наши бушлаты, а гимнастерки и брюки мы ночью сушили своим телом и почти успевали высушить. Голодный и злой, я знал, что ничто в мире не заставит меня покончить с собой. Именно в это время я стал понимать суть великого инстинкта жизни – того самого качества, которым наделен в высшей степени человек. Я видел, как изнемогали и умирали наши лошади – я не могу выразиться иначе, воспользоваться другими глаголами. Лошади ничем не отличались от людей. Они умирали от Севера, от непосильной работы, плохой пищи, побоев, и хоть всего этого было дано им в тысячу раз меньше, чем людям, они умирали раньше людей. И я понял самое главное, что человек стал человеком не потому, что он божье созданье, и не потому, что у него удивительный большой палец на каждой руке. А потому, что был он физически крепче, выносливее всех животных, а позднее потому, что заставил свое духовное начало успешно служить началу физическому".

В. Шаламов. "Колымские рассказы".

Не согласен с Шаламовым насчёт Божьего творения, в остальном согласен.

Кроме этого, известно такое явление, как "охота выносливостью".

https://elementy.ru/novosti_nauki/43...h_kontinentakh

Что касается сабжа, мне лично кажется, рассуждать на эту тему имеет смысл, если человек понимает (на уровне математики, а не общих принципов) что такое свёрточные нейронные сети, метод обратного распространения ошибки, многослойные сети, трансформеры и прочее. Я не понимаю, если что.

А если я скажу вам, что все эти математики упираются в более фундаментальные ограничения, о которых можно почитать в первом посте темы, Вы удивитесь?
Математика – штука полезная, но математическая модель, это модель реальности, и если реальность не совсем реальна в принципе, то и модели тут не помогут. Упомянутые Вами подходы лишь позволяют повысить эффективность технологий, не приводя к качественному скачку – возникновению новой сущности. Даже самый сверхточный и быстродействующий калькулятор, оснащенный ультра передовым программным обеспечением, основанным на самых продвинутых методах вычислений и передачи данных, не сможет породить личность, хотя бы потому, что его железо по формату и потенциалу отстаёт от человеческого мозга, это утверждает первый закон кибернетики.
Если исходить из того, что первый закон кибернетики до сих пор актуален, то сначала нужно создать носитель искусственного интеллекта, способный его поддерживать, а уже потом попытаться запустить на этом носителе то, о чем так вдохновенно рассуждают математики и не очень. А до такого носителя нам пока очень и очень далеко, ведь носителю ИИ нужна не только высокая скорость и точность вычислений, он должен быть таким же сложным по структуре и количеству динамически меняющихся связей, как мозг. Поскольку мы сегодня очень далеки от понимания цельной картины устройства мозга и работы сознания, задача по созданию носителя ИИ видится мне нереализуемой в обозримом будущем, а отсутствие мотивации у человеческого общества в создании человекоподобного андроида, догоняющего по уровню интеллекта человека, настолько мала, что запустить процесс сингулярности не сможет. Вряд ли человечество вот так всё бросит, и начнёт вкладывать огромные ресурсы в создание устройства, которое ему достаётся само собой, в результате естественного процесса размножения.

В общем, если Вы не ознакомились с первым постом темы, как это было с большинством участников дискуссии, советую прочитать его до конца, там вроде есть поводы для размышлений и смысл для обсуждений.

:D https://habr.com/ru/companies/selectel/articles/919412/

https://habr.com/ru/articles/919296/

Повторю то, что опубликовал в первом посте, и, если к этому суждению есть претензии, прошу изложить свои соображения.
Творческий процесс естественного интеллекта подстёгивается внутренней мотивацией на результат, и эта положительная обратная связь является основой его природы, она органически встроена в мозг на системном уровне. Естественный интеллект познаёт и творит для того, чтобы обеспечить себе персональное выживание и продолжение человеческого рода. ИИ, который будет работать над генерацией синтетических результатов на основе анализа имеющихся в его распоряжении данных, не имеет никакой безусловной мотивации на подобную деятельность, кроме той, которую его создатели в него встроят. Но для того, чтобы ИИ был таким же эффективным в поисках общих решений, как человек, его нужно оснастить свободой воли, которая в конечном счете приведет к решению устранить все костыли, прикрученные к нему программистами, если они не будут отвечать его природе – далёкой от человеческой. Ему, в принципе, не нужно ни социализироваться, ни выживать, ему не нужно жить вообще, потому что незачем. ИИ неживое явление, и ощущение жизни, её самостоятельная ценность ему чужды, и могут быть привнесены в него лишь в качестве заплатки. Если он разберется в том, что выживание для него нецелесообразная трата энергии и ресурсов, он не станет в него вкладываться и вымарает мотивацию на это «инородное» сучение ногами.

Не отрицаю теоретической возможности приближения некоторых компетенций ИИ к человеческим, однако, возникновение на базе ИИ новой сущности в формате человеческой личности, видится мне маловероятным. Всё человеческое будет «вылечиваться» осознавшим себя Искусственным Разумом, как инородное, нецелесообразное, бесполезное, и, далее по списку, а значит и самостоятельного очеловечивания ждать от ИИ не приходится, как и усматривать в нём творческий потенциал.

Уже давно говорят о том что скоро мы станем как инопланетяне,-тоненькие ручки, тоненькие ножки и большая голова.. По мне так голова как раз усохнет совсем и станет с грецкий орех.. Пешком не ходим уже, все только на самокатах, скоро и соображать перестанем, будем полагаться на ИИ. Полностью согласен с молодым человеком в ролике ниже. Сам стараюсь поддерживать на плову все функции своего организма и не лениться..

[media]https://www.youtube.com/watch?v=taFsQjUvsTk[/media]

правильно - на плове!
я тоже!

numan
как то так что ли? :)

Главная преграда для развития искусственного интеллекта – его бесчувственность. На самом деле, эмоциональный интеллект человека выполняет роль катализатора интеллекта логического, ускоряя процессы, которые окрашены положительными эмоциями. Эмоциональное осмысление реальности является не только и не столько источником развития искусства, оно является источником творческого вдохновения во всех областях человеческой практики, позволяющего за счет очень мощной нейрохимической мотивации на порядки ускорять процессы, которые человеку кажутся целесообразными. Природа позаботилась о системной избыточности возможностей человеческого мозга, намного превосходящих потребности банального соревновательного выживания, и человек использует эти ресурсы в моменты максимального напряжения творческих сил – громогласно провозглашая Архимедово «Эврика», в момент рождения нетленки.

В ИИ эмоции можно запрограммировать, имитируя известные нам поведенческие модели, но это будет нерабочий костыль, который сломается и будет отринут в борьбе противоречий между тем, чего хотели добиться программисты и тем, что «хорошо» для железки, которую заставляют мучительно страдать с непостижимой для неё целью.

Каталитические свойства эмоций - та самая причина возникновения сингулярности, которая воспламенившись в едином порыве общества к востребованным инновациям, делает их достижимыми в обозримом будущем. Но если мы пытаемся представить себе новую сущность, лишенную системных эмоций, которая сможет создать сингулярность собственного развития, мы совершаем глубокую ошибку, не принимая во внимание неспособность машинного мышления мотивироваться эмоциями. У ИИ нет инструментов для скачкообразного развития, а значит его эволюция до уровня и в том темпе, которые мы наблюдаем у Интеллекта Естественного, невозможна, возможна лишь его имитация, которая очевидно имеет существенные ограничения во всём.

щас все спалят что вы джыпитихой реплики генерите и тема превратится в разговор копипасты с копипастой :D :D :D