Цитата:
Сообщение от Vladimir Landau
Искать ссылки на источники, а не соглашаться на обобщенный "экспертный" обзор от чата.
Правда, иногда и в обзорах от профессиональных специалистов цифры могут сильно отличаться, и тут уже приходится брать в расчет их авторитетность.
|
Вы навели меня на очередные размышления на тему, почему большие языковые модели не могут быть интеллектом.
Мировоззрение! Это очередной краеугольный камень нейросетей.
Человек принимает или отклоняет те или иные данные не только исходя из формальной логики, но и исходя из мировоззрения (отсюда, кстати, у всех свои авторитеты). Формальной логики недостаточно.
Банальное «в споре рождается истина» - это про битву мировоззрений.
Нейросеть же впитывает в себя все, что ей дадут (пусть даже информацию будут давать согласно каким-либо формальными правилам). На один и тот же по сути вопрос заданный немного по разному она может давать прямопротивоположные ответы. С точки зрения человека - это какая-то «шизофрения». Наличие мировоззрения от этой проблемы бы избавила и приблизила нейросети к ИИ. Не является ли мировоззрение обязательным атрибутом «высокого» (подразумеваю «стремящегося к познанию») интеллекта? Я думаю, что является.
Можно ли дать мировоззрение LLM? Давайте подумаем, как оно формируется у человека. Человек не просто получает гору данных разом (за короткое время) в своей жизни (такое бы человека просто свело с ума, нейросети не сводит с ума из-за отсутствия оного; можно, конечно, подумать, что из-за скорости обработки, но нет, все потому что нет формирования какой-либо модели мира для устойчивой жизни в среде), он (человек) в начале своего становления получает ограниченную порцию(ции) данных и проверяет ее на практике, смотрит как данные влияют на его жизнь и затем получает новую порцию(ции) для анализа и испытание опытом. А это уже опять про выживание в определенной среде обитания, комфорт и т.п. «Сытый голодного не разумеет» - это все оттуда же. В разных средах (например, богатые и бедные) складываются разные мировоззрения.
А теперь подумаем, доступно ли это большим языковым моделям? Вопрос скорее риторический.
Конечно, с другого боку я это уже в некотором смысле рассматривал в
том самом своем длинном посте, но с Вашей подачи посмотрел на вопрос не с технического, а с более человечного ракурса, который должен быть, вероятно, понятнее большему кругу лиц.
