Искусственный Интеллект, быть или не быть.

[Sk555]

Сообщение от Vladimir Landau

...не про то, как можно определить интеллектуальную деятельность, а о перспективах её автоматизации.

Ну, собственно, тема закрыта. ИИ-агенты (ассистенты) работают не первый год, (в условиях понимания ограничений и возможностей инструмента) полезны и эргономичны.

Сообщение от Vladimir Landau

Интеллект – высшая форма функционирования сознания, осознающего себя, как личность, обладающего свободой воли, способного к креативному осмыслению реальности и собственной когнитивной деятельности на основе личного и приобретенного путём обучения опыта.

... в искуственной форме не мыслим. Ибо

Сообщение от Vladimir Landau

...определим Мышление, как процесс осуществления интеллектуальной деятельности сознания, охватывающий осознание реальности, выработку реакции на её проявления, который является стимулом к поведенческим реакциям на состояние мыслящего субъекта и явления окружающего мира.

Тема изначально не содержит когнитивного посыла. Развитие ИИ-агентов (вариативного применения LLM) никак не определяет (даже не обозначает!) перспектив появления "самосознающего ИИ", технологически невозможного на текущий момент времени.
Пост 2

[Vladimir Landau]

Сообщение от Sk555

Тема изначально не содержит когнитивного посыла.

А зачем Вам для такого сакраментального вывода нужны были затребованные определения?
Из тех определений, которые я тут слепил, напрямую не следует невозможность реализации мыслящей машины, тем более, что от антропоцентризма я в них попытался отмыться.
В принципе, интеллектуальной деятельностью часто объявляют мыслительную активность, которой присуща трансцендентность - выход за пределы собственного опыта. В случаях с враньём (фантазированием) ИИ мы наблюдаем нечто трансцендентное, что позволяет надеяться на преодолимость этого ограничения, хотя, возможно, его искусственно преодолевают, жульничая, с целью вписаться в популярную концепцию.

Лично меня мало волнует текущий этап развития технологий, его можно трактовать по разному, это не так важно в начале пути. Гораздо важнее понять, есть ли возможность создания мышления на базе машины, сравнимого по эффективности с человеческим, и если есть, каковы временные перспективы такого технологического прорыва. Именно этот вопрос является ключевым вопросом философии искусственного интеллекта, и только он представляет собой реальный интерес, остальное - спекуляции на тему, плоды праздного любопытства ленивомыслящих современников и очевидцев эволюции ИИ.
В первом посте я попытался подсветить принципиальную невозможность подобного акта творения, но, со времени написания этого поста, меня посещают смутные сомнения в непогрешимости использованных в нём доводов. Поэтому конструктивная критика моей позиции мне гораздо интереснее её принятия без доказательной базы.

Последние аргументы от противников концепции «хорошего» ИИ в дискуссии вертятся вокруг ограничений LLM, как базовой технологии для создания мыслящего алгоритма. Эти аргументы кажутся логичными, поскольку ограничения языковых моделей основаны на понятных технических проблемах – вычислительной мощности носителей ИИ и объема доступной им памяти. Однако не следует отказывать языковым моделям в потенциальной возможности стать базовой моделью для «хорошего» ИИ.

Попробуем рассмотреть аргументы против, основанные на недостатках LLM подробнее. Выше приводились рассуждения об ограничениях языковых моделей, которые можно разбить на две смысловые группы, принципиальную и ресурсную.
Главный принципиальный аргумент, приводившийся в последнее время можно сформулировать так: Язык (речь) - это не мышление, а всего лишь инструмент формализации продуктов мышления с целью коммуникации между мыслящими субъектами и накопления этих продуктов в неких «библиотеках». Поэтому, создавая алгоритмы работы с языком, мышления не симулировать.

Напрашиваются возражения против такого аргумента, и в первую очередь против его основного положения. Тексты, с которыми работают языковые модели, это не язык, а язык, это не речь. Текст – это формализованные в языке продукты мыслительной деятельности, и работа с текстами ближе к работе с мышлением, чем работа с собственно языком и речью.
Основным вопросом при обсуждении использования текстовой информации, как базы для создания «хорошего» ИИ, является принципиальная возможность процесса универсальной формализации продуктов мышления языковыми средствами. Для иллюстрации этого вопроса предложу использовать понятие Тюринг-полноты, расширив его с вычислительного устройства на язык, используемый в качестве инструмента формализации. Если язык, в нашем случае один из человеческих языков, обладает универсальными возможностями для формализации любых продуктов мыслительной деятельности (такой язык можно назвать Тюринг – полным), то используя этот язык можно симулировать любые мыслительные процессы. Правда, в отличие от человека, алгоритму, работающему на базе языковых моделей, придётся мыслить исключительно речью.

Таким образом противоречие между речью и мышлением может быть в самом общем смысле снято, и на первый план выступают ресурсные аргументы, связанные с техническими ограничениями – быстродействием и объемом памяти.
Ресурсные аргументы более очевидны, чем принципиальные, и оптимизма увы не прибавляют. Однако крест на перспективах развития «хорошего» ИИ ресурсные проблемы окончательно не ставят, в этой области «принципиальных» ограничений из разряда предельности скорости света пока не просматривается.