Искусственный Интеллект, быть или не быть.

[Sk555]

Сообщение от Vladimir Landau

...не про то, как можно определить интеллектуальную деятельность, а о перспективах её автоматизации.

Ну, собственно, тема закрыта. ИИ-агенты (ассистенты) работают не первый год, (в условиях понимания ограничений и возможностей инструмента) полезны и эргономичны.

Сообщение от Vladimir Landau

Интеллект – высшая форма функционирования сознания, осознающего себя, как личность, обладающего свободой воли, способного к креативному осмыслению реальности и собственной когнитивной деятельности на основе личного и приобретенного путём обучения опыта.

... в искуственной форме не мыслим. Ибо

Сообщение от Vladimir Landau

...определим Мышление, как процесс осуществления интеллектуальной деятельности сознания, охватывающий осознание реальности, выработку реакции на её проявления, который является стимулом к поведенческим реакциям на состояние мыслящего субъекта и явления окружающего мира.

Тема изначально не содержит когнитивного посыла. Развитие ИИ-агентов (вариативного применения LLM) никак не определяет (даже не обозначает!) перспектив появления "самосознающего ИИ", технологически невозможного на текущий момент времени.
Пост 2

[Vladimir Landau]

Сообщение от Sk555

Тема изначально не содержит когнитивного посыла.

А зачем Вам для такого сакраментального вывода нужны были затребованные определения?
Из тех определений, которые я тут слепил, напрямую не следует невозможность реализации мыслящей машины, тем более, что от антропоцентризма я в них попытался отмыться.
В принципе, интеллектуальной деятельностью часто объявляют мыслительную активность, которой присуща трансцендентность - выход за пределы собственного опыта. В случаях с враньём (фантазированием) ИИ мы наблюдаем нечто трансцендентное, что позволяет надеяться на преодолимость этого ограничения, хотя, возможно, его искусственно преодолевают, жульничая, с целью вписаться в популярную концепцию.

Лично меня мало волнует текущий этап развития технологий, его можно трактовать по разному, это не так важно в начале пути. Гораздо важнее понять, есть ли возможность создания мышления на базе машины, сравнимого по эффективности с человеческим, и если есть, каковы временные перспективы такого технологического прорыва. Именно этот вопрос является ключевым вопросом философии искусственного интеллекта, и только он представляет собой реальный интерес, остальное - спекуляции на тему, плоды праздного любопытства ленивомыслящих современников и очевидцев эволюции ИИ.
В первом посте я попытался подсветить принципиальную невозможность подобного акта творения, но, со времени написания этого поста, меня посещают смутные сомнения в непогрешимости использованных в нём доводов. Поэтому конструктивная критика моей позиции мне гораздо интереснее её принятия без доказательной базы.

Последние аргументы от противников концепции «хорошего» ИИ в дискуссии вертятся вокруг ограничений LLM, как базовой технологии для создания мыслящего алгоритма. Эти аргументы кажутся логичными, поскольку ограничения языковых моделей основаны на понятных технических проблемах – вычислительной мощности носителей ИИ и объема доступной им памяти. Однако не следует отказывать языковым моделям в потенциальной возможности стать базовой моделью для «хорошего» ИИ.

Попробуем рассмотреть аргументы против, основанные на недостатках LLM подробнее. Выше приводились рассуждения об ограничениях языковых моделей, которые можно разбить на две смысловые группы, принципиальную и ресурсную.
Главный принципиальный аргумент, приводившийся в последнее время можно сформулировать так: Язык (речь) - это не мышление, а всего лишь инструмент формализации продуктов мышления с целью коммуникации между мыслящими субъектами и накопления этих продуктов в неких «библиотеках». Поэтому, создавая алгоритмы работы с языком, мышления не симулировать.

Напрашиваются возражения против такого аргумента, и в первую очередь против его основного положения. Тексты, с которыми работают языковые модели, это не язык, а язык, это не речь. Текст – это формализованные в языке продукты мыслительной деятельности, и работа с текстами ближе к работе с мышлением, чем работа с собственно языком и речью.
Основным вопросом при обсуждении использования текстовой информации, как базы для создания «хорошего» ИИ, является принципиальная возможность процесса универсальной формализации продуктов мышления языковыми средствами. Для иллюстрации этого вопроса предложу использовать понятие Тюринг-полноты, расширив его с вычислительного устройства на язык, используемый в качестве инструмента формализации. Если язык, в нашем случае один из человеческих языков, обладает универсальными возможностями для формализации любых продуктов мыслительной деятельности (такой язык можно назвать Тюринг – полным), то используя этот язык можно симулировать любые мыслительные процессы. Правда, в отличие от человека, алгоритму, работающему на базе языковых моделей, придётся мыслить исключительно речью.

Таким образом противоречие между речью и мышлением может быть в самом общем смысле снято, и на первый план выступают ресурсные аргументы, связанные с техническими ограничениями – быстродействием и объемом памяти.
Ресурсные аргументы более очевидны, чем принципиальные, и оптимизма увы не прибавляют. Однако крест на перспективах развития «хорошего» ИИ ресурсные проблемы окончательно не ставят, в этой области «принципиальных» ограничений из разряда предельности скорости света пока не просматривается.

[probe]

Тюринг полный или неполный?!
Не знаю, как величие в СМИ сформировалось об ИИ. Кто-то в этом явно заинтересован. Меня убивает, что ИИ порой ориентируются на недостоверные, ничем не подтверждённые источники, а достоверными пренебрегает- Пренебрегает из-за того, что их не опубликовали в Интернете (а таких источников неимоверное количество). Даже прошлая общедоступная история для них создаёт неимоверную трудность. Сейчас я иногда пользуюсь 5 ИИ. И все они безбожно врут, даже расхваленная Deepseek, которая стала доступной на русском языке. Какие ещё "думать"? - ИИ не могут найти факты из истории! А без фактов из истории какой разговор о "думать"? - Касательно истории они все врут как сивый мерин. Все ИИ, что я попробовал.Забавно, когда тому же Deepseek пишешь, что это неправда, тогда он выдаёт следующий неправильный ответ, притом полную хрень - когда указываешь, почему и в этот раз это неправда и уже сам указываешь на солидный источник (регистрацию торговых марок) но только тогда ИИ отвечает, что ошибся, снабжая очередной порцией недостоверной хренью. (даже не буду приводить примеры - они совсем смешные - даже не понимаю, откуда это высосано)
P.S. А источниками часто выступают никчёмные сайты с недостоверной информацией (впрочем, недостоверной информацией страдают и многие солидные сайты - опять же со ссылками на недостоверные источники инфы). Но, видать, в системах ИИ у них большой рейтинг. Наверное, из-за того, что сайты часто цитируют. Такую ересь порой выдают, что хоть стой, хоть падай.
Неудивительно, что не отслеживая историю и полагаясь хрен знает на какие источники, но зато с высоким рейтингом, разбомбили детскую школу в Иране.

[Vladimir Landau]

Сообщение от probe

Меня убивает, что ИИ порой ориентируются на недостоверные, ничем не подтверждённые источники, а достоверными пренебрегает- Пренебрегает из-за того, что их не опубликовали в Интернете

Всё зависит от того, как мы сами относимся к технологии. Если мы ей, по тем или иным причинам, доверяем, то разочарования действительно досадны, но если относиться к ИИ, как к забавной и часто полезной игрушке, типа Алисы в колонке, то обижаться на него не получается.
Если вспомнить Тюринга, то его критерием качества ИИ была неспособность человека отличить ИИ от собеседника человека, и достижение именно этого критерия, для пионера ИИ технологий, являлось достаточным условием, чтобы считать ИИ «хорошим». На самом деле, критерий вполне разумный, ведь для того, чтобы решить, мыслит ли машина, надо стать машиной, и разобраться в ситуации изнутри, что нереализуемо. Отсюда и решение – оценивать машину по её поведению, и критерием оценки считать невозможность для наблюдателя человека, отличить машину от человека. Такой подход, а он, вероятно, долгое время являлся основным методологическим подходом в развитии технологии, не накладывает никаких ограничений на «порядочность» и «правдивость» ИИ, отнюдь. Наделив ИИ способностью фантазировать, и позволив ему заполнять фантазиями информационные пробелы, разработчики очеловечили технологию, точно в соответствии с критерием Тюринга: раз фантазирует, как человек, значит на несколько шагов ближе к человеку, как технология.

Убедив человека в том, что он способен коммуницировать с людьми на равных, ИИ породил надежду, которая легко перерастает в уверенность в его компетенциях во всех областях человеческой практики. Вот и начали люди активно прибегать к помощи технологий, не делая поправки на их незрелость. Но незрелость технологии, это не тупик, а стимул к их развитию. Так что всё еще наладится, рано или поздно. Принимать на веру всё, что тебе говорит незнакомый недочеловек, по меньшей мере неразумно, как и ждать от него адекватных компетенций. С людьми мы, по определению, осторожнее, зная, что люди лукавят, как для выгоды, так и для удовлетворения амбиций, и это нормально. А вот ИИ такого позволять не хочется, отсюда и досада на его фертеля, но это, как обижаться на подростка за то, что он не взрослый – придёт время, вырастет.