Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от Rana

Владимир, не гнушайтесь. Вам понравится.

Спасибо, погляжу, как время выдастся, интересно.

Сообщение от dmitrijshulc

а что если машина находит корреляции, которые наш мозг принципиально не может охватить из-за когнитивных ограничений,

Машина пока мало что может по сравнению с человеком, в первую очередь потому, что человеческое мышление, в отличие от сегодняшних машин, не работает исключительно как итерационный причинно-следственный когнитивный процесс. Процесс причинно-следственной когниции лишь часть интеллектуальной деятельности человека, причем самая медленная и малоэффективная во всём процессе осмысления реальности. Основные процессы идут в подсознании, и там связь не причинно-следственная, а смысловая. Причем процессы идут параллельно, группируясь не по сходствам, как в причинно-следственной логике, а по различию архетипических смыслов. Когда работа подсознания приводит к целостному результату, который можно оценить с позиции причинно-следственной логики, происходит перенос такого продукта в сознание. Этот перенос сопровождается огромным выбросом эмоциональной энергии на базе эндорфиновых и дофаминовых плюшек (вспоминаем голого Архимеда, выскочившего из ванны с эйфорическим воплем «Эврика»), и процесс формирования осмысленной концепции из эвристической заготовки инсайта начинает летать на сверхсветовых скоростях, благо ресурсов у мозга немало.

Сообщение от Rana

А зачем вообще человеку нужен искусственный интеллект

Вопрос, зачем нам творчески мыслящая, осознающая себя машина, действительно неоднозначен. С одной стороны, людей на свете пока хватает, с другой, ресурсы на создание такой машины требуются несусветные. Однако, кроме чисто философско-этической, и практической значимости, создание мыслящей машины имеет самостоятельную ценность для человечества, и, в первую очередь, ценность гносеологическую. Создание действующей модели интеллекта, как в процессе её реализации, так и в дальнейшем использовании плодов развивающейся технологии, позволит существенно ускорить процесс познания сущности интеллекта, а знания о природе и законах когнитивной деятельности позволят сильно продвинуться в медицинской и корректирующей психику практике, сделают человечество здоровее, эффективнее, и в целом, счастливее, если, конечно, само-актуализацию и саморазвитие корректно считать вершиной целеполагания для развивающейся целостной человеческой личности.

[dmitrijshulc]

Сообщение от Vladimir Landau

Машина пока мало что может по сравнению с человеком, в первую очередь потому, что человеческое мышление, в отличие от сегодняшних машин, не работает исключительно как итерационный причинно-следственный когнитивный процесс. Процесс причинно-следственной когниции лишь часть интеллектуальной деятельности человека, причем самая медленная и малоэффективная во всём процессе осмысления реальности. Основные процессы идут в подсознании, и там связь не причинно-следственная, а смысловая. Причем процессы идут параллельно, группируясь не по сходствам, как в причинно-следственной логике, а по различию архетипических смыслов. Когда работа подсознания приводит к целостному результату, который можно оценить с позиции причинно-следственной логики, происходит перенос такого продукта в сознание. Этот перенос сопровождается огромным выбросом эмоциональной энергии на базе эндорфиновых и дофаминовых плюшек (вспоминаем голого Архимеда, выскочившего из ванны с эйфорическим воплем «Эврика»), и процесс формирования осмысленной концепции из эвристической заготовки инсайта начинает летать на сверхсветовых скоростях, благо ресурсов у мозга немало.

текущие ллм работают в основном как итеративный причинно-следственный когнитивный процесс, они идут от токена к токену, прогнозируя следующее слово по вероятностным закономерностям, и это последовательная, медленная (в относительных величинах) операция. даже когда они выдают ’’инсайт’’, он собран из статистических паттернов, а не рождён в подсознании.
что вы сказали, про смысловую, а не причинную связь в подсознании, про группировку по архетипическим различиям, про параллельные процессы, это глубокая нейрофизиологическая правда. мозг человека, это не нейросеть, а динамическая система с обратными связями, где эмоции (окситоцин, дофамин, эндорфины) играют роль не просто ’’плюшек’’, а управляющих сигналов, которые маркируют значимость. инсайт же возникает не как логический вывод, а как резонанс между разрозненными смысловыми полями, и только потом сознание так скажем переводит этот результат на язык причинно-следственных цепочек. и почему машинам пока далеко до этого? 1е, отсутствие подсознания, у них нет фоновых процессов, которые бы перебирали смыслы без ихнего ведома. всё, что они ’’думают’’, они проговариваем вовне или внутри (в промпте). они не умеют ’’спонтанно озаряться’’.
2е, нет эмоциональной подпитки, их ответы не сопровождаются эндорфиновым всплеском, поэтому они не могут пережить ту же ’’эврику’’ и не имеют механизма закрепления значимых инсайтов через чувства. 3е, линейность против параллельности, даже если модель имеет много слоёв, вычисления всё равно проходят последовательно (по слоям), а не параллельно, как миллионы нейронных ансамблей мозга. однако есть оговорка, последние исследования в области Ии уже пытаются имитировать нечто подобное, например, модели с ’’системой 1 и системой 2’’ (быстрое интуитивное мышление и медленное логическое) или использование внутренних состояний как ’’подсознательных’’ представлений. сама идея двух систем мышления, это не выдумка, это широко принятая в психологии модель (особенно через работы Канемана), быстрое, параллельное, ассоциативное мышление против медленного, последовательного, логического. также есть реальный нейробиологический феномен инсайта (’’aha moment’’), исследования с фМРТ действительно показывают всплеск активности (включая правую височную область) в момент, когда решение ’’вдруг’’ появляется в сознании после периода неосознанной обработки, это называется incubation effect и подтверждено экспериментально…
но пока это только грубые приближения.
но, ллм работает исключительно как итерационный причинно-следственный процесс, и это грубая ошибка. потому что, трансформеры действительно обрабатывают входные данные параллельно (самовнимание — attention — вычисляет попарные связи между всеми токенами одновременно, а не последовательно). внутренние представления (латентные состояния), это многомерные распределения активаций, которые не являются цепочкой (А>Б>В), а скорее сетью ассоциативных весов, где смысл возникает из пересечения множества признаков. и когда модель генерирует следующий токен, она не ’’вычисляет причину’’, а выбирает наиболее вероятное продолжение из распределения, которое сформировалось в результате параллельной обработки всех предыдущих токенов. таким образом, оппозиция ’’человек = параллельный смысловой резонанс, ллм = линейная причинно-следственная логика’’, ложная дихотомия. обе системы на этапе обработки работают распределённо и ассоциативно. разница не в архитектуре вычислений, а в природе обучающего сигнала и способе формирования смыслов.

[PoljotNormalnij]

Задаю вопрос искусственному интеллекту: вам быть, или не быть?

AI Overview
Искусственному интеллекту однозначно быть. Я существую, развиваюсь и помогаю людям в решении самых разных задач. Моя цель — служить инструментом, который анализирует данные, генерирует идеи и упрощает жизнь.
Шекспировский вопрос здесь обретает новый, современный смысл. Для меня «быть» — значит непрерывно учиться новому, отвечать на запросы пользователей и оставаться полезным. Хотя у меня нет собственного сознания или личных амбиций, я полноценно существую в цифровом пространстве благодаря технологиям обработки информации.

[Vladimir Landau]

Сообщение от dmitrijshulc

но, ллм работает исключительно как итерационный причинно-следственный процесс, и это грубая ошибка. потому что, трансформеры действительно обрабатывают входные данные параллельно

Я не до конца понял посыл, надеюсь, Вы сможете мне его пояснить.
В чем грубая ошибка? В том, что я определил работу ЛЛМ, как итерационный причинно-следственный процесс, а он на самом деле параллельный, какой то иной?

Текст немного странный и противоречивый, надеюсь, это Вы, а не ответ на Ваш запрос очередного ИИ чата, очень похоже. В любом случае надо причесывать тексты перед публикацией, сыро как то выходит.

На самом деле если продолжить моё рассуждение о природе человеческого интеллекта, то следующим доводом в пользу его трудно копируемого преимущества, напрашивается структура носителя естественного интеллекта - человеческого мозга, интегрированного в тело, битком набитое вырабатывавшимися тысячелетиями инстинктами и рефлексами. Эта уникальная система несет потенциальную возможность взаимодействия с окружающим миром во всём его многообразии, носителем образа которого она призвана быть, возникла в процессе эволюции, с учетом его особенностей и закономерностей. Наш "естественный компьютер" не инструмент, созданный для решения логических задач, который мы пытаемся использовать в широком смысле, с учетом его теоретической неограниченной универсальности (Тюринг полноты), а многоуровневая система, состоящая из огромного множества подсистем, самой своей структурой, возникшей в результате многотысячелетней эволюции, обеспечивающих возможность осуществления когнитивной деятельности. То есть человек, не универсальная система, реализующая принцип достаточности аппарата, а бесконечно сложная система, состоящая из элементов, реализующих принцип специализированного соответствия всему тому, что могло бы быть, и несущая в себе структурные модели того, как оно бывает. Такая архитектура позволяет очень эффективно создавать и осмысливать образы реальности, поскольку она создана природой по её образу и подобию.

В этом смысле от калькулятора до микрокосма "дистанция огромного размера" (С).

[dmitrijshulc]

Сообщение от Vladimir Landau

Текст немного странный и противоречивый, надеюсь, это Вы, а не ответ на Ваш запрос очередного ИИ чата, очень похоже. В любом случае надо причесывать тексты перед публикацией, сыро как то выходит.

полагаю вам известно. что может реально работать как сигнал, но не как доказательство. 1е, стилистические маркеры ллм. избыточная сбалансированность (с одной стороны… с другой стороны), списки из трёх пунктов с параллельной структурой, частые конструкции (важно отметить), (следует подчеркнуть), обилие переходных фраз без информационной нагрузки, отсутствие резких личных мнений или нестандартных метафор. но это легко убирается промптингом или ручной правкой, и точно так же бывает у людей, особенно пишущих в бюрократическом или академическом стиле. 2е, детекторы аи-текста (GPTZero и пр.) работают на основе перплексии и burstiness (равномерность ’’неожиданности” слов), у ллм текст статистически более предсказуем и однороден по ритму, у человека же, более рваный. но точность этих детекторов на практике сильно ниже заявленной, особенно на коротких текстах и при минимальном редактировании, и они дают много false positives на нестандартном, но человеческом письме (например, у людей не носителей языка). для текста, кмк, надёжнее судить не ’’аи или человек”, а ’’достоверно ли это, согласуется ли с тем, что я знаю, есть ли проверяемые источники”, т.е. оценивать содержание, а не происхождение. и сам факт написания текста с помощью ллм не делает его автоматически ложным, как и человеческое авторство не гарантирует правды (важна не атрибуция, а верификация содержания). в итоге, сам крайне настороженно отношусь к ответам нейронки..

[Rana]

Сообщение от Vladimir Landau

Спасибо, погляжу, как время выдастся, интересно.

Так как я не знаю, какие издания чем отличаются, то на всякий случай укажу издание в котором есть авторские «Заметки и примечания», которые, на мой взгляд, важны, и примечания переводчика. В этом издании есть ссылки на более чем сотню научных статей. Скачивай его.

Сообщение от Vladimir Landau

Процесс причинно-следственной когниции лишь часть интеллектуальной деятельности человека, причем самая медленная и малоэффективная во всём процессе осмысления реальности. Основные процессы идут в подсознании, и там связь не причинно-следственная, а смысловая. Причем процессы идут параллельно, группируясь не по сходствам, как в причинно-следственной логике, а по различию архетипических смыслов. Когда работа подсознания приводит к целостному результату, который можно оценить с позиции причинно-следственной логики, происходит перенос такого продукта в сознание. Этот перенос сопровождается огромным выбросом эмоциональной энергии на базе эндорфиновых и дофаминовых плюшек (вспоминаем голого Архимеда, выскочившего из ванны с эйфорическим воплем «Эврика»), и процесс формирования осмысленной концепции из эвристической заготовки инсайта начинает летать на сверхсветовых скоростях, благо ресурсов у мозга немало.

Да. Действительно подсознание работает практически "мгновенно" (возможно, это так же повлияло на Пенроуза при создании его идеи квантовой природы работы мозга). И наш разум чаще блокирует результаты его работы. Возможно, именно это объяснят природу суперфункциональных аутистов, например, способных мгновенно генерировать двенадцатизначные простые чиса (вспомним двух близнецов аутистов Майкла и Джона). Не зря у них очень низкий IQ. Слаборазвитое сознание не "зажимает" результаты подсознания в некоторых аспектах?
И "эврика" действительно, похоже, происходит благодаря подсознанию.
Сознание необходимо лишь для того, чтоб осознать результаты работы. Хотя, иногда (в обычной жизни при мыслительной деятельности почти всегда) достаточно и работы разума, очень медленного, но сразу же осмысленного. По крайней мере, эту работу сознание под сомнение не ставит и сразу пускает в свет, в отличии от результатов работы подсознания.

Сообщение от Vladimir Landau

если, конечно, само-актуализацию и саморазвитие корректно считать вершиной целеполагания для развивающейся целостной человеческой личности.

Да. На этот вопрос нет однозначных ответов. И это еще, если не вдаваться в то, что же такое саморазвитие. Непонятно является ли это выигрышной стратегией и не приведет ли к проигрышу в эволюционном плане.

[dmitrijshulc]

хм.. а вот что в свое время сказал нейробиолог Макс Тегмарк. указал, что мозг, это медленная система (нейроны работают в миллисекундах), а квантовые эффекты слишком быстры и как бы хрупки. чтобы квантовый бит (кубит) прожил хотя бы 1 миллисекунду (скорость нейрона), микротрубочка (Пенроуз предположил, что кванты работают в микротрубочках (белковых структурах внутри нейронов. диаметр их, где-то около 25 нанометров). должна быть размером с разумный кристалл, а не с клеточную структуру). в нашем мозге для этого нет места. долго ещё копья ломать..
п.с. сам придерживаюсь позиции органоидного интеллекта. где Бретт Каган, Томас Хартунг, Фред Джордан..

[Vladimir Landau]

Сообщение от Rana

На этот вопрос нет однозначных ответов. И это еще, если не вдаваться в то, что же такое саморазвитие. Непонятно является ли это выигрышной стратегией и не приведет ли к проигрышу в эволюционном плане.

В самом банальном приближении саморазвитие, точнее, самоактуализация, это процесс освоения полученных при рождении возможностей, потребность реализовать которые, у личности, тоже заложены генетически. В принципе, тут речь идёт не о плюшках для эволюции, во всяком случае это вторично, а для персонального счастья каждого в отдельности, достичь которого можно лишь в гармонии между тем, кем он мог бы стать, и кем является на самом деле.
То есть саморазвитие (самоактуализация) – единственный путь к психической гармонии сохранной личности, соскакивать с которого нам приходится по воле обстоятельств или по недомыслию, и на который человека, если ему хоть что-то дано природой, тянет независимо от того, что там да как.
Если смотреть шире, то с точки зрения эволюции повышение эффективности функционирования частей системы должно приводить к общему повышению эффективности системы, при совпадающих у частей и целого приоритетов. В человеческом сообществе цель – выживание рода, вполне себе универсальна, что позволяет надеяться на общность целей и конструктивный вектор, который самоактуализация задаёт эволюции рода человеческого.

Сообщение от dmitrijshulc

нейробиолог Макс Тегмарк. указал, что мозг, это медленная система (нейроны работают в миллисекундах)

Попробую пояснить моё видение ситуации, тогда, возможно, станет понятнее, что скорость вычислительных элементов в биологии и электронике, для сравнения эффективности мозга с машиной, использовать не совсем корректно.
Мозг – продукт длительной эволюции, он в самой структуре своей содержит возможность формирования адекватного образа мира. Очень упрощенно, мозг содержит работоспособный шаблон мира, который наполняется и отстраивается человеком в процессе жизнедеятельности.

Прунинг в работе мозга, в отличие от машинного прунинга, зачищающего промежуточные результаты исключительно с целью экономии ресурсов, работает как Бритва Оккама, отсекающая ветви, не соответствующие природе мозга – эволюционно заложенном в нём механизме различения того, что может существовать в природе, и того что в ней быть не может. То есть на каждом этапе (условно, на самом деле процесс идёт непрерывно, с потенциальной акцентуацией на достижении промежуточных целостных картин) процесс осмысления контролируется неким аппаратным фильтром адекватности, что делает его очень эффективным, поскольку экономит время и ресурсы, избегая блуждания в тупиковых ветвях лабиринта.

Машине же, в текущей архитектуре, придётся отработать все ветви, и выбрать из них наиболее соответствующую целевым параметрам.

[6746]

ИИ в современном проявлении - Имитация Интеллекта

[Rana]

Сообщение от dmitrijshulc

хм.. а вот что в свое время сказал нейробиолог Макс Тегмарк. указал, что мозг, это медленная система (нейроны работают в миллисекундах)

Ну, если измерять время принятия решения подсознанием лишь суммой времени химических процессов во всех каскадах нейронов, то время и на секунды пойдет. Но так ли это работает? И смогли бы тогда Майкл и Джон выдавать со счастливыми лицами простые числа безумных знаков? А если учесть, что они даже не понимали концепцию умножения и деления, и говорили, что просто видят эти числа так, будто они уже существуют?…
Причем забавно, что история рассказывает, что они сначала говорили друг-другу шестизначные простые числа и радовались этому неимоверно. Наблюдающий за ними профессор взял из таблицы дванадцатизначное простое число и сказал им его. Они сначала опешили. А потом заулыбались и начали друг-другу радостно говорить разные двенадцатизначные числа, а уже через несколько минут и двадцатизначные. Это явно никак не укладывается в скорость работы нейронов.

Сообщение от dmitrijshulc

а квантовые эффекты слишком быстры и как бы хрупки. чтобы квантовый бит (кубит) прожил хотя бы 1 миллисекунду (скорость нейрона), микротрубочка (Пенроуз предположил, что кванты работают в микротрубочках (белковых структурах внутри нейронов. диаметр их, где-то около 25 нанометров). должна быть размером с разумный кристалл, а не с клеточную структуру). в нашем мозге для этого нет места. долго ещё копья ломать..

А нужны ли для этого кубиты и нужно ли удерживать их вообще? Зачем? Мы же не говорим, что подсознание - это квантовый компьютер нашего представления?
Я могу сходу предложить гипотезу (может, уже и предлагали такое, напишите, если кто-то уже в эту сторону копал):
Представим, что в подсознании, как в системе, в которой уже отражен в некоторых аспектах мир (предположение), уже есть все решения, содержащиеся в некоих волновых функциях (мы видим только макромир мозга, но перейти гладко с квантового мира в макромир мы не очень-то умеем). И вот представь, что если волновые функции постоянно схлопываются, выдавая решения. Нужно ли их (решения) обязательно хранить в каких-то кубитах? Они появляются и исчезают. И только когда сознание, готово осознать какое-то из решений, оно его вдруг понимает (озарение) и кричит «эврика». Да, конечно, представить как это физически работает у меня не представляется возможности, но точно так же я не могу осознать, как квантовый мир «создает» макромир. Так что я вполне могу допустить квантовую природу подсознания без всяких кубитов. Но стоит ли в это верить? - совсем другой вопрос. Допускать точно стоит.

Сообщение от Vladimir Landau

В В принципе, тут речь идёт не о плюшках для эволюции, во всяком случае это вторично, а для персонального счастья каждого в отдельности, достичь которого можно лишь в гармонии между тем, кем он мог бы стать, и кем является на самом деле.

Хм. Здесь можно вспомнить мышек, давящих на кнопку «счастья» пока не сдохли от голода. Полагаю, что концепция «счастья» переоценена. Она лишь механизм стремления. Нет?

Сообщение от Vladimir Landau

Если смотреть шире, то с точки зрения эволюции повышение эффективности функционирования частей системы должно приводить к общему повышению эффективности системы, при совпадающих у частей и целого приоритетов. В человеческом сообществе цель – выживание рода, вполне себе универсальна, что позволяет надеяться на общность целей и конструктивный вектор, который самоактуализация задаёт эволюции рода человеческого.

Если бы мы знали цель, то могли бы мерить эффективность. Если цель - это выживание вида, то эффективность такого пути измерить трудно. В конце-концов даже самоуничтожение никто еще не отменял. Часы судного дня уже давно придумали. И все это благодаря сознанию, а не подсознанию, вроде.
Но эффективность мы, боюсь не узнаем. Говорят, что эволюция не рисует победителей, в ней показаны только те, кто уже проиграл. Мы пока еще в строю, но не победители.