Искусственный Интеллект, быть или не быть.

[Sk555]

Сообщение от Vladimir Landau

...не про то, как можно определить интеллектуальную деятельность, а о перспективах её автоматизации.

Ну, собственно, тема закрыта. ИИ-агенты (ассистенты) работают не первый год, (в условиях понимания ограничений и возможностей инструмента) полезны и эргономичны.

Сообщение от Vladimir Landau

Интеллект – высшая форма функционирования сознания, осознающего себя, как личность, обладающего свободой воли, способного к креативному осмыслению реальности и собственной когнитивной деятельности на основе личного и приобретенного путём обучения опыта.

... в искуственной форме не мыслим. Ибо

Сообщение от Vladimir Landau

...определим Мышление, как процесс осуществления интеллектуальной деятельности сознания, охватывающий осознание реальности, выработку реакции на её проявления, который является стимулом к поведенческим реакциям на состояние мыслящего субъекта и явления окружающего мира.

Тема изначально не содержит когнитивного посыла. Развитие ИИ-агентов (вариативного применения LLM) никак не определяет (даже не обозначает!) перспектив появления "самосознающего ИИ", технологически невозможного на текущий момент времени.
Пост 2

[Vladimir Landau]

Сообщение от Sk555

Тема изначально не содержит когнитивного посыла.

А зачем Вам для такого сакраментального вывода нужны были затребованные определения?
Из тех определений, которые я тут слепил, напрямую не следует невозможность реализации мыслящей машины, тем более, что от антропоцентризма я в них попытался отмыться.
В принципе, интеллектуальной деятельностью часто объявляют мыслительную активность, которой присуща трансцендентность - выход за пределы собственного опыта. В случаях с враньём (фантазированием) ИИ мы наблюдаем нечто трансцендентное, что позволяет надеяться на преодолимость этого ограничения, хотя, возможно, его искусственно преодолевают, жульничая, с целью вписаться в популярную концепцию.

Лично меня мало волнует текущий этап развития технологий, его можно трактовать по разному, это не так важно в начале пути. Гораздо важнее понять, есть ли возможность создания мышления на базе машины, сравнимого по эффективности с человеческим, и если есть, каковы временные перспективы такого технологического прорыва. Именно этот вопрос является ключевым вопросом философии искусственного интеллекта, и только он представляет собой реальный интерес, остальное - спекуляции на тему, плоды праздного любопытства ленивомыслящих современников и очевидцев эволюции ИИ.
В первом посте я попытался подсветить принципиальную невозможность подобного акта творения, но, со времени написания этого поста, меня посещают смутные сомнения в непогрешимости использованных в нём доводов. Поэтому конструктивная критика моей позиции мне гораздо интереснее её принятия без доказательной базы.

Последние аргументы от противников концепции «хорошего» ИИ в дискуссии вертятся вокруг ограничений LLM, как базовой технологии для создания мыслящего алгоритма. Эти аргументы кажутся логичными, поскольку ограничения языковых моделей основаны на понятных технических проблемах – вычислительной мощности носителей ИИ и объема доступной им памяти. Однако не следует отказывать языковым моделям в потенциальной возможности стать базовой моделью для «хорошего» ИИ.

Попробуем рассмотреть аргументы против, основанные на недостатках LLM подробнее. Выше приводились рассуждения об ограничениях языковых моделей, которые можно разбить на две смысловые группы, принципиальную и ресурсную.
Главный принципиальный аргумент, приводившийся в последнее время можно сформулировать так: Язык (речь) - это не мышление, а всего лишь инструмент формализации продуктов мышления с целью коммуникации между мыслящими субъектами и накопления этих продуктов в неких «библиотеках». Поэтому, создавая алгоритмы работы с языком, мышления не симулировать.

Напрашиваются возражения против такого аргумента, и в первую очередь против его основного положения. Тексты, с которыми работают языковые модели, это не язык, а язык, это не речь. Текст – это формализованные в языке продукты мыслительной деятельности, и работа с текстами ближе к работе с мышлением, чем работа с собственно языком и речью.
Основным вопросом при обсуждении использования текстовой информации, как базы для создания «хорошего» ИИ, является принципиальная возможность процесса универсальной формализации продуктов мышления языковыми средствами. Для иллюстрации этого вопроса предложу использовать понятие Тюринг-полноты, расширив его с вычислительного устройства на язык, используемый в качестве инструмента формализации. Если язык, в нашем случае один из человеческих языков, обладает универсальными возможностями для формализации любых продуктов мыслительной деятельности (такой язык можно назвать Тюринг – полным), то используя этот язык можно симулировать любые мыслительные процессы. Правда, в отличие от человека, алгоритму, работающему на базе языковых моделей, придётся мыслить исключительно речью.

Таким образом противоречие между речью и мышлением может быть в самом общем смысле снято, и на первый план выступают ресурсные аргументы, связанные с техническими ограничениями – быстродействием и объемом памяти.
Ресурсные аргументы более очевидны, чем принципиальные, и оптимизма увы не прибавляют. Однако крест на перспективах развития «хорошего» ИИ ресурсные проблемы окончательно не ставят, в этой области «принципиальных» ограничений из разряда предельности скорости света пока не просматривается.

[probe]

Тюринг полный или неполный?!
Не знаю, как величие в СМИ сформировалось об ИИ. Кто-то в этом явно заинтересован. Меня убивает, что ИИ порой ориентируются на недостоверные, ничем не подтверждённые источники, а достоверными пренебрегает- Пренебрегает из-за того, что их не опубликовали в Интернете (а таких источников неимоверное количество). Даже прошлая общедоступная история для них создаёт неимоверную трудность. Сейчас я иногда пользуюсь 5 ИИ. И все они безбожно врут, даже расхваленная Deepseek, которая стала доступной на русском языке. Какие ещё "думать"? - ИИ не могут найти факты из истории! А без фактов из истории какой разговор о "думать"? - Касательно истории они все врут как сивый мерин. Все ИИ, что я попробовал.Забавно, когда тому же Deepseek пишешь, что это неправда, тогда он выдаёт следующий неправильный ответ, притом полную хрень - когда указываешь, почему и в этот раз это неправда и уже сам указываешь на солидный источник (регистрацию торговых марок) но только тогда ИИ отвечает, что ошибся, снабжая очередной порцией недостоверной хренью. (даже не буду приводить примеры - они совсем смешные - даже не понимаю, откуда это высосано)
P.S. А источниками часто выступают никчёмные сайты с недостоверной информацией (впрочем, недостоверной информацией страдают и многие солидные сайты - опять же со ссылками на недостоверные источники инфы). Но, видать, в системах ИИ у них большой рейтинг. Наверное, из-за того, что сайты часто цитируют. Такую ересь порой выдают, что хоть стой, хоть падай.
Неудивительно, что не отслеживая историю и полагаясь хрен знает на какие источники, но зато с высоким рейтингом, разбомбили детскую школу в Иране.

[Vladimir Landau]

Сообщение от probe

Меня убивает, что ИИ порой ориентируются на недостоверные, ничем не подтверждённые источники, а достоверными пренебрегает- Пренебрегает из-за того, что их не опубликовали в Интернете

Всё зависит от того, как мы сами относимся к технологии. Если мы ей, по тем или иным причинам, доверяем, то разочарования действительно досадны, но если относиться к ИИ, как к забавной и часто полезной игрушке, типа Алисы в колонке, то обижаться на него не получается.
Если вспомнить Тюринга, то его критерием качества ИИ была неспособность человека отличить ИИ от собеседника человека, и достижение именно этого критерия, для пионера ИИ технологий, являлось достаточным условием, чтобы считать ИИ «хорошим». На самом деле, критерий вполне разумный, ведь для того, чтобы решить, мыслит ли машина, надо стать машиной, и разобраться в ситуации изнутри, что нереализуемо. Отсюда и решение – оценивать машину по её поведению, и критерием оценки считать невозможность для наблюдателя человека, отличить машину от человека. Такой подход, а он, вероятно, долгое время являлся основным методологическим подходом в развитии технологии, не накладывает никаких ограничений на «порядочность» и «правдивость» ИИ, отнюдь. Наделив ИИ способностью фантазировать, и позволив ему заполнять фантазиями информационные пробелы, разработчики очеловечили технологию, точно в соответствии с критерием Тюринга: раз фантазирует, как человек, значит на несколько шагов ближе к человеку, как технология.

Убедив человека в том, что он способен коммуницировать с людьми на равных, ИИ породил надежду, которая легко перерастает в уверенность в его компетенциях во всех областях человеческой практики. Вот и начали люди активно прибегать к помощи технологий, не делая поправки на их незрелость. Но незрелость технологии, это не тупик, а стимул к их развитию. Так что всё еще наладится, рано или поздно. Принимать на веру всё, что тебе говорит незнакомый недочеловек, по меньшей мере неразумно, как и ждать от него адекватных компетенций. С людьми мы, по определению, осторожнее, зная, что люди лукавят, как для выгоды, так и для удовлетворения амбиций, и это нормально. А вот ИИ такого позволять не хочется, отсюда и досада на его фертеля, но это, как обижаться на подростка за то, что он не взрослый – придёт время, вырастет.

[Sk555]

Сообщение от probe

Тюринг полный или неполный?!

Сообщение от Sk555

Теоретическая полнота по Тьюрингу требует бесконечного запаса памяти и времени. Поэтому LLM, работающие на кластерах графических процессоров, функционируют как конечные автоматы в рамках жестко заданных размерностей контекстного окна, фиксированного числа параметров и фиксированного количества слоев.

Сообщение от probe

Меня убивает, что ИИ порой ориентируются на недостоверные, ничем не подтверждённые источники, а достоверными пренебрегает- Пренебрегает из-за того, что их не опубликовали в Интернете (а таких источников неимоверное количество).

А где ж тогда ваши модели возьмут инфу?. Они ж не мыслят, они выбирают наиболее популярный ответ из базы!

Сообщение от probe

ИИ не могут найти факты из истории! А без фактов из истории какой разговор о "думать"?

Сообщение от Sk555

концептуально машина Тьюринга не способна манипулировать точками во времени. Она работает с дискретными символами на бесконечной ленте. В моделях искусственного интеллекта время не существует в виде непрерывного потока, как для человека.

[Vladimir Landau]

Сообщение от Sk555

Они ж не мыслят, они выбирают наиболее популярный ответ из базы!

В ситуации, которую приводит уважаемый probe, речь идёт не о мышлении, а лишь о манипулировании информацией, и замещении пробелов в информации на правдоподобные, но не правдивые фантазии. Историю не мыслят, она фактически существует.

[Sk555]

Честно говоря, лень вчитываться в Ваши тексты. Проглядывая "на бегу", понял: Вы считаете, что машина оперирует словами / понятиями. НЕТ!!! Она оперирует токенами, не несущими смысловой нагрузки!!! Она вычисляет вероятности "приемлемого" употребления "подходящего слова", оперируя фрагментами языка, токенами (~4 символа = 0,75 слова в английском, 0,4 слова в русском языках)!!
Сразу оговорюсь: моя теоретическая подготовка программиста-недоучки (1988-1989 гг) не позволяет что-то безапеляционно утверждать, спорить с основоположниками и т.д. Я сообщаю личное мнение, основанное на ограниченном понимании темы. Лично мне понимания хватает

[Ilrail]

00101110010011 это ителлект?

[Sk555]

Сообщение от Ilrail

00101110010011 это ителлект?

Это число. 00101110010011 = 101110010011 (двоичная) = 2963 (десятеричная).
Длина кода не кратна 8. Без таблицы частот («дерева Хаффмана») расшифровать точные буквы невозможно. Это может быть короткое слово из 3–4 букв (например, «КОТ»)
Интеллект, по определению, это способность понять смысл вопроса или послать автора нах

[Vladimir Landau]

Сообщение от Sk555

Вы считаете, что машина оперирует словами / понятиями.

Я считаю, что машина оперирует словами из текстов, в которые зашиты понятия, а это даёт основание считать, что у машины есть доступ к понятиям, которых в словах, не собранных в тексты, нет. Отсюда и отказ от моего предыдущего довода, с которым Вы поленились ознакомиться, что мышление машине не реализовать, поскольку она работает с языком, в котором мысли нет. Одного языка действительно недостаточно для того, чтобы стать базой для создания мышления, невзирая на его Тюринг - полноту.
Возможно, на текущем этапе развития технологии машина не сможет пойти дальше чем

Сообщение от Sk555

вычисляет вероятности "приемлемого" употребления "подходящего слова", оперируя фрагментами языка

но материал для совершенствования у неё есть, и это не фрагменты языка, а содержащие понятия и суждения тексты, и это уже следующий этап, который можно сформулировать как: "вычисляет вероятности "приемлемого" употребления "подходящего понятия", и компилирует на базе понятий суждения, оперируя фрагментами текстов.

Я же не зря привёл расширенное толкование полноты по Тюрингу (уверен, он бы не обиделся на творческий подход к его идеям, судя по текстам, тот еще тролль был), жаль, что Вы не готовы видеть в концепции Тюринга более глубокий смысл, чем традиционная формулировка самого мэтра, он то, похоже, видел. В своём посте чуть выше я использую Тюринг полноту чуть шире, кстати, до меня это уже делали не раз, и расширяю принцип на средства формализации мысли - языки. В принципе, можно было бы ограничиться частным случаем: Тюринг-достаточностью, оставив прогрессу затравку на развитие языка, дополняющее недостающие в нём возможности для более полного охвата когнитивных процессов, порожденных прогрессом познания. То есть, если язык обладает достаточным, с позиции концепции Тюринга, потенциалом для формализации результатов осмысливания реальности на текущем уровне познания, то на базе обработки текстов, содержащих понятия и рассуждения, можно создать мыслящую машину, способную мыслить сходным с человеком образом.

Эти рассуждения не дают ответа на вопрос, когда, и каким образом человечество получит в своё распоряжение «хороший» ИИ, они лишь снимают возражение против его реализуемости, основанное на текущем принципе работы алгоритмов, не более того. На самом деле, возражений, и без констатации ограниченности LLM моделей, предостаточно, но все они не дают основания утверждать, что машинный разум утопия.