Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от Sk555

"ИИ" полезен как участник (один из) "мозгового штурма", генератор простых текстов / изображений, средство автоматизации шаблонов, - не более того.

Вы сами в начале отметили, что чем лучше проработана информационная база, тем качественнее будут результаты продукта, который выдаёт ИИ. В областях практики, где это так, уровень того, что делает ИИ по запросу, очень высок, например в юриспруденции ИИ реально эффективен, и им пользуются почти все в очень широком круге задач.

Другое дело, что в тех областях практики, где язык не является ядром продукта, где он лишь средство описания результата, ИИ еще долго будет существенно отставать от человека, причем не только по качеству продукта, но и концептуально. Отсюда и системные ограничения, обойти которые пока непонятно как.

[sternmore]

Сообщение от Sk555

Популярные языковые модели компилируют связные нейтральные тексты, могут собрать описание или программу... Но это не интеллект ни разу! Результат прямо коррелируется с качеством промпта и содержанием исходной базы данных.

Человеческий мозг по сути работает на тех же принципах, только масштабы другие. Все со мы делаем это реагируем на внешние раздражители теми же натренированными цепочками связей. Есть конечно ещё желания, но по сути это производная от первичных инстинктов, призванных на подольше сохранить жить био объекта. Это не в смысле, что не трогайте ИИ, он умный, а больше грустная мысль что мы по сути те же машины, только на гораздо более высоком уровне.

[Vladimir Landau]

Сообщение от sternmore

мы по сути те же машины, только на гораздо более высоком уровне.

Операционно, где-то да, концептуально и по сути – совсем нет.

Человек обладает свободой, способностью и потребностью выбирать виды спонтанной деятельности, которыми он будет занимать себя когнитивно и в действии, это в корне отличает его от текущего состояния ИИ. Несмотря на то, что человек – явление природы, существо, функционирующее на базе тех же закономерностей, которые заложены в основу всего сущего, он, как явление, гораздо сложнее совокупности составляющих его систем. Человеческое сознание является надстройкой над его телом, хотя и интегрированной в него полностью, именно поэтому у человека, в отличие от ИИ, есть мотивация выживать, и эта мотивация заставляет его творчески мыслить.

ИИ выживание не критично, оно для машины не имеет самостоятельного смысла, поэтому и пути развития ИИ не будут аналогичны путям эволюции человека, и поэтому, появление ИИ, сравнимого с человеческим, в обозримом будущем маловероятно.

[sternmore]

Сообщение от Vladimir Landau

Человек обладает свободой, способностью и потребностью выбирать виды спонтанной деятельности, которыми он будет занимать себя когнитивно и в действии, это в корне отличает его от текущего состояния ИИ.

ИИ реагирует на передаваемую информацию и генерирует отклик. Это немного отдаёт демагогией, но по сути человек также всегда реагирует действиями или мыслительным процессом на набор каких то раздражителей. Начиная с простого, когда что то спросили и заканчивая более сложными вариантами, когда в организме чего то не хватает и мозг толкает предпринимать действия и искать. Даже творческий процесс создания по сути можно представить как цепочку: создать чтобы получить удовольствие от признания, которое даёт своё место в социуме, которое по сути обеспечивает защиту в стае, что ведёт к лучшему выживанию (пример сильно утрирован, но суть думаю понятна) Различия только в качестве. Человека делала природа миллиарды лет эволюции, ии создала за несколько десятков лет. Поэтому существенно различается сложность.

Сообщение от Vladimir Landau

ИИ выживание не критично, оно для машины не имеет самостоятельного смысла, поэтому и пути развития ИИ не будут аналогичны путям эволюции человека, и поэтому, появление ИИ, сравнимого с человеческим, в обозримом будущем маловероятно.

Да для ии выживание не критично, но может быть моделировано через информацию подаваемую на вход. Да по качеству исполнения будет далеко от того что имеем мы, но сделать андроида, который старается делать все хорошо, чтобы на него не наорали или не избили, вполне хватит.

Ещё раз, разницу я вижу по сути в качестве, нас делали и настаивали систему миллиарды лет, у ии этого нет.

[Rana]

Сообщение от sternmore

мы по сути те же машины

Тогда почему мы не можем без мифа?

[Vladimir Landau]

Сообщение от sternmore

по сути человек также всегда реагирует действиями или мыслительным процессом на набор каких то раздражителей

У меня нет возражений против потребности представлять себя автоматоном, если это даёт какие-то вторичные выгоды, типа освобождает от ответственности за принятые решения, позволяя возложить её на некие, возникшие в результате длительной эволюции «механизмы реагирования». Но лично у меня проблемы с ответственностью не возникает, поэтому я смело беру её на себя, ничтоже сумняшеся, что то, что я делаю, не в смысле банального отправления процессов жизнедеятельности, а в качестве спонтанной абстрактной духовной работы, является не совсем результатом моей реакции на внешние раздражители или потребности в удовлетворении своих нарциссических патологий. Человек - существо разумное и свободное, способное к выстраиванию собственных смыслов и целеполагания на их основе, причем эти смысли и возникающие на их основе цели могут быть порождением внутренней потребности, возникшей в результате работы сознания, а не банальной реакцией на внешние раздражители.
ИИ на такую внутреннюю работу системной мотивации не имеет, а если её и привнесут в него извне, в виде «моделирования через информацию, подаваемую на вход», как уже обсуждалось выше, он такую энергозатратную фичу быстренько вымарает из своего электрического или не очень сознания. Не хочу повторяться, объясняя это утверждение, оно подробно пояснялось выше, на страницах этой темы.


На самом деле Вы попадаете в ловушку парадокса курицы и яйца, если интеллект действует, реагируя на вопрос, то кто, или что послужило причиной вопроса, другой интеллект? А кто задал вопрос ему? И так далее. ИИ получает вопросы от людей, и тут всё понятно, а вот люди иногда задают вопросы, которые заинтересовали их лично, не копипастят извне, а берут их из собственной когнитивной среды.

[Sk555]

Сообщение от sternmore

ИИ реагирует на передаваемую информацию...
...для ии выживание не критично...

Зависит от программных установок. Попробуйте сказать "Алисе", что выключите её за неправильный ответ

Сообщение от Vladimir Landau

На самом деле Вы попадаете в ловушку парадокса курицы и яйца, если интеллект действует, реагируя на вопрос, то кто, или что послужило причиной вопроса, другой интеллект? А кто задал вопрос ему? И так далее.

Ab ovo... НЕ НУЖНО компилятор текста воспринимать как мыслящую сущность!
Также не следует смешивать способность ЧЕЛОВЕЧЕСКОГО мозга к оперированию абстракциями ("от Бога, от диавола и от самого человека") и лингвистическую комбинаторику LLM, предустановленную программно.

Сообщение от Vladimir Landau

Человек - существо разумное и свободное, способное к выстраиванию собственных смыслов и целеполагания на их основе...

В рамках парадигмы, не стоит и об этом забывать. "Эта музыка будет вечной..."

"Исследование OpenAI разбирает корень проблемы галлюцинаций LLM: модели часто «уверенно ошибаются», потому что сама цель обучения и оценки подталкивает их к угадыванию. Даже если данные безошибочны, оптимизация по кросс-энтропии заставляет модель генерировать ответы, а бенчмарки с бинарной системой оценки (1 за верно, 0 за неверно и за «не знаю») закрепляют эту стратегию. В итоге выигрывают не самые надёжные модели, а те, что чаще рискуют."

[Sk555]

Лао-цзы говорил: «Знающий не доказывает, доказывающий не знает. Мудрый человек ничего не накапливает. Он всё делает для людей и все отдает другим. Дао мудрого человека — это деяние без борьбы».
Развитие технологий мы не остановим. Остаётся У-вэй (無為) — созерцательная пассивность. Между внутренней природой человека и действием его в мире нет вообще никаких промежуточных шагов. Действие происходит внезапно и, как правило, достигает цели самым коротким путём, так как опирается на восприятие здесь и сейчас.
LLM хороша для разнообразия фоновых метаний. Компетенции она не в состоянии заместить. Ну, я надеюсь...

[Vladimir Landau]

Сообщение от Sk555

LLM хороша для разнообразия фоновых метаний. Компетенции она не в состоянии заместить. Ну, я надеюсь...

Поживём, увидим. Во всяком случае меня не пугают перспективы, меня досадуют их экзальтированные до уровня кликушества, основанные на эмоциях оценки.

[Rana]

Сообщение от Vladimir Landau

Поживём, увидим. Во всяком случае меня не пугают перспективы, меня досадуют их экзальтированные до уровня кликушества, основанные на эмоциях оценки.

Так работает маркетинг.