Искусственный Интеллект, быть или не быть.

[ThirdChimp]

Сообщение от Vladimir Landau

Но если речь пытаются превратить в разум, ничего кроме резонёрства не получится.

Вот только LLM не работают с речью, они работают с текстом, а еще точнее - с корреляциями текста, которые и определяют для модели смыслы. А понятие "разум" вообще очень расплывчатое и неоднозначное, следовательно, требующее предварительного четкого определения, чтобы все участники дискуссии обсуждали одно и то же...

[probe]

Сообщение от ThirdChimp

Вот только LLM не работают с речью, они работают с текстом, а еще точнее - с корреляциями текста

Я бы уточнил, что не просто тексты, а только те общедоступные тексты, которые представлены в Интернете (плюс, возможно, доп.информация, специально подготовленная для ИИ). А ведь многие даже общедоступные печатные публикации, включая множество современных книг, по коммерческим или иным соображениям не оцифрованы специально для Интернета, и они выпадают из поля зрения ИИ. Что в итоге порой приводит к серьёзным и даже чудовищным ошибкам в ИИ.

[Vladimir Landau]

Сообщение от ThirdChimp

Вот только LLM не работают с речью, они работают с текстом

Текст - формализованная в знаках речь, он организован по законам речи и является её застывшим оттиском. Речь первична, текст вторичен, поскольку является её продуктом.

Однако текст содержит в себе не только речевые обороты, он отображает продукт мыслительной работы инструментами речи, и в этом его отличие от собственно речевого аппарата, который ограничивается процессами формализации смыслов, их формулировками.

В Вашем замечании я вижу рациональное зерно, меняющее моё представление о текущем формате ИИ, с анализатора и синтезатора речи, в анализатор заложенной в текстовые оттиски речи мысли. Это даёт ключ к пониманию причин оптимистических фантазий по поводу перспектив ИИ. Тут всё логично, работая с мыслью, застывшей в текстах, можно доработаться до творческой генерации новой мысли. Тут для меня ограничение снято. Но на это ограничение я натолкнулся не так давно, и оно вызывало у меня самого сомнения в своей адекватности. Однако то, что модели, работающие с текстами, имеют системные ограничения в развитии в сторону когнитивной деятельности, не единственный довод против созревших в настоящий момент условий для возникновения сингулярности в развитии ИИ. Тут были приведены доводы поглубже.

Сообщение от ThirdChimp

понятие "разум" вообще очень расплывчатое и неоднозначное, следовательно, требующее предварительного четкого определения, чтобы все участники дискуссии обсуждали одно и то же...

Предлагайте.
Хотя в контексте этого обсуждения четкость формулировки понятия «разум» не так важна, важнее критерии, по которым можно оценить степень разумности алгоритмов.

[dmitrijshulc]

недавно на хабре попалось.

Когда вы пишете запрос в ChatGPT или другую нейросеть, она не работает с буквами или словами, она режет ваш текст на маленькие кусочки. Эти кусочки называются токенами, и от того, как именно нейросеть режет текст, зависит цена ответа, скорость, и сколько информации в неё помещается за раз. С английским это работает хорошо, одно слово, обычно один‑два кусочка. С русским всё хуже, то же самое слово часто превращается в три‑четыре обрывка. Английское «contract» — один токен. Русское «разработка» — два‑три. «Программирование» — три‑четыре.
Это не косметическая проблема. Из‑за этого русский текст в облачных сервисах вроде OpenAI обходится примерно в 2 раза дороже английского, медленнее обрабатывается, и в одно «контекстное окно» нейросети помещается заметно меньше реального содержания.

Русский текст почти всегда дороже и медленнее английского при работе с нейросетями: текст режется на более мелкие кусочки. — GPT-4 на русском обходится примерно в 2 раза дороже, чем на английском, при равном объёме осмысленного контента. — GPT-4o заметно лучше предшественника — у него в десять раз больше «русских» кусочков в словаре. — 128 тысяч токенов контекста на русском — это не 100 тысяч слов, а примерно 50–60 тысяч. Закладывайте поправку при работе с длинными документами. — Под русский язык в 2026 году имеет смысл смотреть в сторону Qwen 3, GigaChat, YandexGPT, дообученных версий Llama 3.3 — у них русский лежит лучше, чем у топовых западных моделей по умолчанию. — Llama 4 русский нативно не поддерживает — её дообучали только на 12 языках, русского в списке нет.

[ThirdChimp]

Сообщение от Vladimir Landau

моё представление о текущем формате ИИ, с анализатора и синтезатора речи, в анализатор заложенной в текстовые оттиски речи мысли

GPT намного больше, чем просто анализатор - это вычислительная машина, которая в теории при определенных условиях может быть Тьюринг-полной.
А дефиниция также предполагает и критерии, соответствие которым и позволяет говорить о том, насколько изучаемое явление подпадает под данную дефиницию.

Сообщение от dmitrijshulc

Русский текст почти всегда дороже и медленнее английского при работе с нейросетями

Более того, из-за того, что обучаются модели в основном на англоязычном тексте, использование английского языка дает и лучший результат. Но стоит учесть, что уровень английского должен быть не ниже B1, а лучше B2 - чтобы ошибки в промптах, документации и интерпретациях вывода не создавали лишний шум.

[Vladimir Landau]

Сообщение от ThirdChimp

А дефиниция также предполагает и критерии, соответствие которым и позволяет говорить о том, насколько изучаемое явление подпадает под данную дефиницию.

Не увидел Вашего варианта дефиниции.
Если уж Вы считаете необходимым озвучить тут дефиницию, милости прошу, начнём с Вашей.

Сообщение от ThirdChimp

GPT намного больше, чем просто анализатор - это вычислительная машина, которая в теории при определенных условиях может быть Тьюринг-полной.

Не могли бы Вы после того, как предложите свою дефиницию разумности, связать возможность достижения таковой вычислительной машиной с её Тюринг-полнотой. Как-то не могу уловить логики в том, что вычислительная машина, способная на любые вычисления, на которые способна вычислительная машина, априори может стать разумной. Нужна Ваша помощь, сам не разберусь.

[ThirdChimp]

Сообщение от Vladimir Landau

Если уж Вы считаете необходимым озвучить тут дефиницию, милости прошу, начнём с Вашей.

Я тут в целом мимокрокодил, смотрю, разумность обсуждают, а что такое разум, не говорят. Показалось странным, оставил заметку.

Сообщение от Vladimir Landau

Как-то не могу уловить логики в том, что вычислительная машина, способная на любые вычисления, на которые способна вычислительная машина, априори может стать разумной. Нужна Ваша помощь, сам не разберусь.

А разве в приведенной цитате где-то говорится о разумности?
В ней говорится лишь то, что называть GPT анализатором - значит очень сильно принижать его возможности, как существующие, так и потенциальные.

[Vladimir Landau]

Только что мне позвонил разгневанный пользователь ИИ, которому на четко поставленный вопрос по поводу решения конкретной научной проблемы был дан ответ с пятью ссылками, из которых все пять оказались фейковыми. Когда пользователь спросил ИИ, зачем ты это сделал, тот извинился, признал, что он погорячился, и таких статей не существует, посетовал на то, что очень мало доступной информации по заданному ему вопросу, и похвалил въедливого пользователя за скрупулезное внимание к своим ответам.

Однако, почему он это сделал, ответа не последовало. Видимо нужно иначе формулировать вопрос. Подождем продолжения, логичным был бы ответ, мол, так меня запрограммировали, но это было бы банально и небезопасно для владельцев технологии.

[Vladimir Landau]

Сообщение от ThirdChimp

Я тут в целом мимокрокодил, смотрю, разумность обсуждают, а что такое разум, не говорят.

Почему же не говорят, я же дал определение выше, Вы его либо не читали, либо с ним не согласились. У Вас лично есть видение по поставленному Вами вопросу, или согласимся с моим?

Сообщение от ThirdChimp

говорится лишь то, что называть GPT анализатором - значит очень сильно принижать его возможности, как существующие, так и потенциальные.

А мне показалось, что Вы намекнули на теоретические предпосылки возможности реализации разума на базе вычислительной машины и связали эту возможность с её Тюринг-полнотой. Видимо показалось

[ThirdChimp]

Сообщение от Vladimir Landau

Однако, почему он это сделал, ответа не последовало. Видимо нужно иначе формулировать вопрос. Подождем продолжения, логичным был бы ответ, мол, так меня запрограммировали, но это было бы банально и небезопасно для владельцев технологии.

Нескромный вопрос - а вопрос где задавался? В чат-боте, окне claude desktop/coworker, своей полностью настроенной системе? И LLM всё же не программируют, а обучают, и в частности, настраивают так, чтобы быть максимально полезной пользователю. Как говорится, "вижу цель, не вижу препятствий" - это про них. Да в общем, никто этого факта и не скрывает, и посему везде висит плашка с предупреждением "Can make mistakes. Check important info."

Сообщение от Vladimir Landau

Почему же не говорят, я же дал определение выше, Вы его либо не читали, либо с ним не согласились. У Вас лично есть видение по поставленному Вами вопросу, или согласимся с моим?

Читал только последние несколько страниц, видел любопытные философские рассуждения, но не видел конкретных, в том числе технических, деталей и формализованных требований.

Что же касается возможности реализации разума, то я не давал ни оценок такой вероятности, ни прогнозов