Вы навели меня на очередные размышления на тему, почему большие языковые модели не могут быть интеллектом.
Мировоззрение! Это очередной краеугольный камень нейросетей.
Человек принимает или отклоняет те или иные данные не только исходя из формальной логики, но и исходя из мировоззрения (отсюда, кстати, у всех свои авторитеты). Формальной логики недостаточно.
Банальное «в споре рождается истина» - это про битву мировоззрений.
Нейросеть же впитывает в себя все, что ей дадут (пусть даже информацию будут давать согласно каким-либо формальными правилам). На один и тот же по сути вопрос заданный немного по разному она может давать прямопротивоположные ответы. С точки зрения человека - это какая-то «шизофрения». Наличие мировоззрения от этой проблемы бы избавила и приблизила нейросети к ИИ. Не является ли мировоззрение обязательным атрибутом «высокого» (подразумеваю «стремящегося к познанию») интеллекта? Я думаю, что является.
Можно ли дать мировоззрение LLM? Давайте подумаем, как оно формируется у человека. Человек не просто получает гору данных разом (за короткое время) в своей жизни (такое бы человека просто свело с ума, нейросети не сводит с ума из-за отсутствия оного; можно, конечно, подумать, что из-за скорости обработки, но нет, все потому что нет формирования какой-либо модели мира для устойчивой жизни в среде), он (человек) в начале своего становления получает ограниченную порцию(ции) данных и проверяет ее на практике, смотрит как данные влияют на его жизнь и затем получает новую порцию(ции) для анализа и испытание опытом. А это уже опять про выживание в определенной среде обитания, комфорт и т.п. «Сытый голодного не разумеет» - это все оттуда же. В разных средах (например, богатые и бедные) складываются разные мировоззрения.
А теперь подумаем, доступно ли это большим языковым моделям? Вопрос скорее риторический.
Конечно, с другого боку я это уже в некотором смысле рассматривал в том самом своем длинном посте, но с Вашей подачи посмотрел на вопрос не с технического, а с более человечного ракурса, который должен быть, вероятно, понятнее большему кругу лиц.

Мировоззрение, в наиболее общем смысле, определяется не только взаимодействием с обществом, но и позицией по поводу фундаментальных данностей человеческого существования, таких как смерть, свобода, одиночество и бессмысленность.
Мировоззрение формируется в результате воспитания, образования и практики, на основе глубинного осмысления тех самых данностей и формирования экзистенциальной позиции по отношению к бытию вообще и своему персональному бытию в частности.
Это я к тому, что тут недостаточно экспериментировать с реальностью, нужен определяющий вектор экспериментов, который задаётся социальным окружением личности.

С другой стороны, опираясь на мировоззрение, как на фундамент, человек, познавая окружающий мир, даёт ему оценку с мировоззренческой позиции, и именно эти оценки могут отличаться у разных людей, столкнувшихся с одинаковыми явлениями.
В принципе, теоретически можно предположить, что мировоззренческие элементы нейросетей технически реализуемы по тем же принципам, как и логические, но тут возникает базовая проблема с мотивацией и нашим уровнем осведомленности об устройстве и функционировании личности. К этому прибавляется несметное количество параметров, по которым придётся отстраивать «синапсы» для того, чтобы сформировать у нейросети ту или иную мировоззренческую парадигму.

Вы логично отметили динамику формирования мировоззрения, которая у человека сильно растянута во времени, нейросети же придётся закидывать уже готовый набор приоритетов. А раз ей оптимизировать свои приоритеты незачем, развитие «навязанного» мировоззрения под большим вопросом. Ей придётся расставлять уровень "субъективной", соответствующей её базовому мировоззрению авторитетности источников и мнений, и на базе этих приоритетов подстраивать свою мировоззренческую позицию. Поскольку для железяки все эти фундаментальные данности: смерть, свобода, одиночество и бессмысленность чужды по природе вещей, закрадывается сомнение в возможности конструктивной автоподстройки мировоззрения в машинном мышлении.

В голову пришло еще одно замечание.
Мировоззрение, среди прочих элементов сознания, определяет индивидуальность личностей, многообразие которых бесконечно.
А для нейросети многообразие - не более чем вариант несовершенства, которое нужно оптимизировать...
Вот и выходит, что нейросети придётся объять необъятное, чтобы человек стал воспринимать её, как равную ему сущность.

Мне кажется, что мировоззрение является сдерживающим фактором в познании. Машина этого фактора лишена.

Я не готов ограничиваться в определении понятия мировоззрение исключительно социальными, политическими или идеологическими элементами. Мировоззрение не реакционно настроенный ментор с плёткой в руках, мировоззрение в общем смысле, который я очертил выше, является мотиватором к познанию, поскольку, формируясь, оно побуждает интеллект осмысливать вызовы окружающего и внутреннего мира, пусть и в рамках сложившейся позиции. Мировоззрение не ригидно, оно развивается вместе с личностью, пока личность способна на конструктивные изменения, отсюда и мотивирующая роль к познанию. В общем, упрощенно можно сказать, что познание мотивируется противоречиями, возникающими между реальностью и мировоззрением, и цель познания – изменить реальность, или скорректировать мировоззрение с тем, чтобы снизить уровень непереносимости бытия в плену у этих противоречий.

Машина без мировоззрения лишена мотивации к познанию, она не имеет механизмов, определяющих эффективность процесса познания и не способна оценить его результат. Калькулятор может посчитать нечто по внешнему заданию, но сам определять вектор познания не сможет.

Ну конечно. Просто в 5 утра я не готов был описывать все аспекты. Главное было донести вектор мысли для размышления.
Как и под "экспериментами" я подразумевал весь опыт в широком смысле этого слова.
То есть схема такая (в упрощенном виде):
Получили данные - отсеяли те что не согласуется с существующим мировоззрением (или приняли некоторые из данных условно как возможные провести коррекцию мировоззрения) - получили опыт (в широком смысле) с новыми данными - скорректировали мировозренческую модель.
Конечно, это все очень упрощено. Схема сложнее и может быть не такой линейной.



Именно это меня и натолкнуло задуматься над мировоззрением, после того, как Вы сказали про авторитетность источников.


Точно. Именно к этому я все и хотел свести, но в 5 утра уже не сдюжил.
А Вы прям хорошо считали вектор моего посыла. Спасибо за понимание.

Это может все не нужно для решения поставленных технических задач, но чтоб поставить саму задачу нужна мотивация, которая невозможна без мировоззрения.
Без правильно поставленной задачи нейросетки ничего сделать не смогут.
Я уж молчу про то, что не все задачи решаются формальными шагами.

ИИ дает выжимку:
"Некоторые виды мотивации:
Внутренняя — возникает изнутри человека, связана с содержанием деятельности, но не с внешними обстоятельствами. Например, занятия спортом, потому что это доставляет положительные эмоции.

Внешняя — основана на получении вознаграждения или избегании наказания, деятельность выступает средством для достижения другой цели. Например, работа, чтобы получить зарплату.

Социальная — основана на стремлении к принадлежности, признанию и взаимодействию с другими людьми.

Интеллектуально-познавательная — движима стремлением к знаниям, пониманию и интеллектуальным вызовам.

Мотивация достижения — основана на стремлении к успеху, превосходству и мастерству в своей области."




Внутренняя мотивация очевидно машине не нужна. И внешняя тоже - ИИ может не работать за деньги, а может и генерить контент, чобы не отключили - имитировать бурную деятельность.

ИИ лишен необходимости меряться пиписками. Скромный ИИ обходит пирамиду Маслова стороной.Но при этом Робот на телефоне вполне может обучаться, чтобы лучше контактировать с абонентом. Очень хорошо это отображено в Терминаторах. ИИ обучается, чтобы войти в доверие. Меня удивляет, что немало людей общаются с ИИ, и им нравится общение.

Интеллектуальная мотивация и стремление к знаниям - машина вполне может себя апгрейдить, через запросы пользователей делать новые поиски, добавлять новые качества.

Мотивация движения - Обратная связь у ИИ - это прекрасная штука. Через обратную связь работают как регуляторы числа оборотов в древних паровозах или дизелях, так и сложные электрические схемы. Любой автомобить лучше человека знает, какое количество топлива подать и сколько оборотов дать двигателю на этом режиме работы. ИИ безусловно через ОС может оценивать произведенные вещи и совершенствоваться. Изначально в ИИ присутствует код, разработанный человеком, но ИИ может совершенствовать код согласно текущим условиям.
Отсюда я ститаю, что мотивация у ИИ может иметься, ИИ может вполне совершенствоваться самостоятельно. И мировоззрение здесь ни при чем.
Мировоззрение - еще раз повторюсь - мешает человеку мыслить, выходя из своего мирка, социума. Отсюда столько разных взглядов на вещи - все познается через призму своей социальной принадлежности. ИИ может быть более объективен в изучении вопроса - он легко может пренебречь нравственностью, религиозностью, моралью - всем тем, что отличает нас в разных социумах, и давать возможно неудобные, но более правильные ответы.

В Терминаторах четко и прямо показывается как Скайнет добивается своих задач!
Нравственность, религиозность, мораль нас отличают от машин!

ИИ это вред, уже существует поколение детей которые сформировали своё мировоззрение 15 мин Ютуб роликами - скомканной информацией, но с претензией на правдивость и научную обоснованность.
Так что ждем поколение ИИ "профессуры"

Ключевой вопрос не в отличии ИИ от человека, вследствие отсутствия его ограничений, а о причинах, по которым ИИ может начать изучать вопрос. Именно это и ставится под сомнение, и именно это имеется в виду под мотивированным саморазвитием.

Очеловечивать ИИ, размышлять о технологиях, как уже о состоявшемся факте, без понимания, может ли он состояться в принципе - логическая ошибка, которая и приводит к подобным рассуждениям из разряда: "Если бы бабушка была дедушкой"...
Тут поднимается фундаментальная проблема формата: «Что первично, курица или яйцо». Причем, рассуждение строится на предположении, никак не доказанном ни теоретически, ни на практике, что построение осознающей себя, как личность, саморазвивающейся мыслящей сущности возможно, мало того, уже почти состоялось. Подобный подход используют фантасты при создании своих метавселенных, а вовсе не последовательные исследователи.

На этом утверждении строится вся дальнейшая парадигма превосходства искусственного интеллекта над естественным, основным постулатом которой являются технические преимущества неорганических процессов над органическими. Рассуждения скорее спекулятивные, поскольку они никак не опираются на научную базу знаний об интеллекте, а лишь реализуют формальную логику, формализуя процесс поиска решений под фонарём.
Ну с чего мы взяли, что для того, чтобы повысить эффективность познания, следует лишить интеллект «человеческих» слабостей? Мне, например, кажется, что без этих слабостей ни познание, ни развитие невозможно.

Для того, чтобы остранить проблему до абсурда, и проиллюстрировать мою точку зрения пойду еще дальше, и предложу вариант создания ИИ на базе ЕИ (Естественного Интеллекта) и структуры, повторяющей человеческий мозг.
Что мешает нам предположить, что после тщательного анализа конкретного, зрелого, талантливого и хорошо обученного человеческого мозга при помощи развивающихся средств диагностики, мы сможем смоделировать его структуру, со всеми связями, составом и строением отдельных элементов. После такого моделирования, печатаем на принтере готовый мозг, причем прямо в черепной коробке, если захотим создать андроида, ну или в корпусе для персонального компьютера, если андроид нам не нужен, и вуаля, у нас есть действующая модель мыслящей сущности, которую даже обучать не надо, разве что подправить некоторые "устаревшие" связи, мешающие этой штуке эффективно мыслить.

Ну где тут противоречия? Да их «почти» нет, как, впрочем, и всего того, что понадобится для создания подобного объекта:confused:.

Зря я, похоже, парился рассказывая про прунинг нейросетей и другие технические аспекты подготовки тиражирования, и про технические аспекты ограничения обучения нейросетей после тиражирования. Даже не читаете. Ну, снова повторять это я не стану. Опять же не заметите... :confused: