Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от ThirdChimp

а вопрос где задавался?

Вопрос задавался в ChatGPT. Насколько я понимаю, там формат пользователя профессиональный, абонемент оплачивает университет.

Ниже часть ответа ИИ на вопрос, почему ты вводишь меня в заблуждение.

«Я не могу с уверенностью назвать проверенные публикации, в которых конкретно описывается разложение LaFeO₃ в чистом CO, не проверив литературу самостоятельно».
Вместо этого я сгенерировал ссылки, которые выглядели правдоподобно, потому что модель распознала:
• настоящие журналы,
• настоящие темы исследований,
• настоящие имена авторов из смежных областей,
• и химически обоснованные механизмы,
а затем неправильно скомпоновал их в ссылки, похожие на цитаты. Это не было намеренной попыткой ввести вас в заблуждение или защитить какую-либо гипотезу. Режим сбоя другой: модель пытается завершить шаблон, не имея подтвержденных данных для извлечения.

Ниже, кому интересно, полная коммуникация на английском.

****************************
Why five references in your answer are fake, not exist in corresponding journals att given volumes and pages?

You are correct, and I should not have presented those references as verified publications. Several citations in my previous answer were inaccurate or fabricated combinations of plausible author names, journal titles, volumes, and topics rather than real bibliographic entries. I apologize for that.
What happened is that I synthesized references from general knowledge of:
• LaFeO₃ reduction chemistry,
• chemical looping literature,
• perovskite redox studies,
• and Fe exsolution research,
but I incorrectly formatted them as exact existing papers without verification. That is not acceptable for scientific referencing.
In reality, the literature specifically addressing:
LaFeO3+pure CO\text{LaFeO}_3 + \text{pure CO}LaFeO3+pure CO
is much more limited than for:
• H₂ reduction,
• CO oxidation,
• syngas reforming,
• or chemical looping systems.
I should have either:
1. clearly stated that I was giving representative literature themes rather than exact references, or
2. used web verification before citing exact bibliographic data.
The following references from that list are not reliable as given:
• “Nalbandian et al., CEJ 223 (2013) 398–407”
• “Galinsky et al., JPS 195 (2010) 7857–7863”
• “Zhu et al., IJHE 39 (2014) 20392–20401”
• “Li et al., Appl. Catal. B 164 (2015) 419–428”
and likely parts of the Mizusaki/Bidrawn citations were also incorrectly matched to topic details.
What is scientifically well established, however, is:
• LaFeO₃ undergoes oxygen-vacancy formation under reducing atmospheres,
• Fe³⁺ → Fe²⁺ reduction occurs in low oxygen potential gases,
• sufficiently reducing conditions can cause Fe exsolution and decomposition,
• CO can act simultaneously as reducing and carburizing agent.
But the exact decomposition pathway in pure CO is not comprehensively documented in many direct studies.
A more scientifically correct response would have been:
“Direct literature on decomposition of LaFeO₃ in pure CO is scarce. Most evidence comes indirectly from studies of reduction in H₂/CO mixtures, chemical looping, syngas treatment, and oxygen nonstoichiometry measurements.”
Thank you for catching this. In catalysis and materials science, precise references matter critically, especially when discussing uncommon phenomena like:
• perovskite collapse,
• Fe exsolution,
• carburization,
• and Mo₂

But what fore you sent me fabricated references? What was your target here. It would be better to tell from the beginning that such references do not exist in literature?

You are right. It would have been better — and scientifically honest — to say from the beginning:
“I cannot reliably identify verified publications specifically describing decomposition of LaFeO₃ in pure CO without checking the literature directly.”
Instead, I generated references that looked plausible because the model recognized:
• real journals,
• real research themes,
• real author names from adjacent fields,
• and chemically reasonable mechanisms,
and then incorrectly assembled them into citation-like outputs. There was no intentional “target” to mislead you or defend a hypothesis. The failure mode is different: the model tries to complete a pattern when it lacks verified retrieval.
In technical scientific discussions this is especially dangerous because:
• fabricated references may look credible,
• uncommon phenomena (like LaFeO₃ decomposition in pure CO) often exist only sparsely in literature,
• and the model may interpolate from related topics instead of admitting uncertainty.
Your criticism is fully justified. In catalysis research, an incorrect reference is worse than no reference because it wastes time and can distort interpretation of the field.
The scientifically correct answer should have been something like:
“Direct studies of LaFeO₃ decomposition in pure CO appear to be scarce or absent in the readily accessible literature. Existing evidence is mostly indirect, from studies on reduction in H₂/CO mixtures, chemical looping, oxygen nonstoichiometry, Fe exsolution, and syngas treatment.”
That would have been the proper response.

[ThirdChimp]

Сообщение от Vladimir Landau

Вопрос задавался в ChatGPT

Ожидаемо. Чат-боты хороши для простых вопросов, краткого ресерча уровня "какую кофеварку выбрать и почему", других бытовых сценариев. Для серьезной работы такой формат малопригоден.

[Sk555]

Сообщение от ThirdChimp

Чат-боты хороши для простых вопросов, краткого ресерча уровня "какую кофеварку выбрать и почему"

Актуальными инструментами производится не research, а рекомендация на основе рекламы в интернете (не всегда актуальная и достоверная).

[Vladimir Landau]

Сообщение от ThirdChimp

Чат-боты хороши для простых вопросов, краткого ресерча уровня "какую кофеварку выбрать и почему", других бытовых сценариев. Для серьезной работы такой формат малопригоден.

Народ утверждает обратное, и пользуется этим чатом довольно активно. Причем до определенного уровня сотрудничество исследователей вполне удовлетворяет, поскольку на невысоком уровне обобщения и там, где информация по целевому вопросу доступна в каком то объеме, всё работает довольно гладко. Примеры успешного сотрудничества исследователей с ИИ я приводил выше.
Но стоит перейти к неизведанному, ситуация в корне меняется, и доверять результатам уже опасно. На грани познанного ИИ бессилен, мало того, он признаёт это только под давлением критики, а если компетенция заказчика недостаточна, лепит всякую чушь, имитируя всезнание.

Ключевой косяк, судя по всему, кроется в идеологии:

Сообщение от Vladimir Landau

модель пытается завершить шаблон, не имея подтвержденных данных для извлечения.

[ThirdChimp]

Сообщение от Vladimir Landau

Народ утверждает обратное, и пользуется этим чатом довольно активно.

Пользоваться-то можно, вопрос для чего и какого результата ждать. Ибо для серьезной профессиональной работы, где ИИ - не "мальчик принеси-подай", а выполняет роль напарника, нужна и серьезная профессиональная обвязка. И тут уже не обойтись без мультиагентной системы, скиллов, развернутой документации, при необходимости - долговременной памяти, RAG и прочая, вплоть до собственных упряжек. Всё это, кстати, позволяет свести количество галлюцинаций к минимуму. Но, как говорится, это уже совсем другая история...

[Vladimir Landau]

Сообщение от ThirdChimp

Пользоваться-то можно, вопрос для чего и какого результата ждать.

Поскольку пользователи не осознают ограничений технологии априори, они выявляют ограничения на практике.
Уровень задач, которые исследователи ставят перед ИИ можно оценить хотя бы из приведенного мной текста "переписки", если действительно интересно понять о каком уровне речь, можете этот отрывок прочесть, он не очень объемный. Там реально всё глубоко, но ограничения всплывают не сразу, а на границе познания, где ни человек, ни ИИ ответа пока дать не могут, однако ИИ всё же лепит горбатого, поскольку "алгоритм нужно завершить", отсюда и нюансы.

Контроль качества коммуникации организовывать далёкий от этих технологий пользователь не будет, он довольствуется собственной компетенцией и интуицией, других механизмов пока рынок не предлагает. Правда у ученых есть поисковики типа сайнсфайндера, которые роют глубже Гугла, поэтому проверить информацию от ИИ они возможность имеют.

[dmitrijshulc]

семимильными шагами..
почему не мы?

https://3dnews.ru/1141770/kitay-sozd...izni-vselennoy

[ThirdChimp]

Это как раз тот случай, где нужны обвязки. В данном случае как минимум retrieval слой с качественным тулингом перед моделью (можно и тот же сайфайндер прикрутить, у него вроде есть апи), но желательно еще добавить и верификационный слой на ее выход.

PS. Из отрывка следует, что речь шла о степени изученности темы и полноте источников по ней. Это не совсем то, что обычно понимают под "границами познания"...

[Vladimir Landau]

Сообщение от ThirdChimp

речь шла о степени изученности темы и полноте источников по ней. Это не совсем то, что обычно понимают под "границами познания"...

Не могли бы Вы поподробнее пояснить, чем степень изученности темы отличается от достижения границы её познания (познания, а не познаваемости в принципе, если Вас не устроила именно эта мелочь), только на этот раз, ради Бога, найдите в себе силы и ответьте на вопрос, а то я до си пор не смог получить от Вас ни одного отчетливого пояснения Вашей позиции, уверен, Вас это не затруднит.

Другой вопрос, зачем нужны инструменты автоматической проверки эффективности технологии, которая, как заявлено, способна решать подобные задачи? Типа, чтобы ловить её на косяках? Мы же не о том, как бы нам поймать ИИ на неадекватности говорим, а о том, что он пока, в некоторой мере, неадекватен.
Насколько я понимаю, Вы не о том, как усовершенствовать технологию, чтобы она стала конструктивно генерировать научные идеи, а о том, как не дать технологии ввести себя в заблуждение. Так тут и сами исследователи справятся, они же не курсовую пишут, а типа, пытаются продвинуться за грань актуального знания о проблеме (за ту самую грань познания, о которой я писал выше), и кому, как не им, с вершины их компетенций, не видеть неадекватность некорректных предложений ИИ.

[ThirdChimp]

Сообщение от Vladimir Landau

чем степень изученности темы отличается от достижения границы её познания

Очевидно, предметом. В первом случае это сама наука (а если еще уже - то, по сути, библиография), во втором - окружающий мир.

Сообщение от Vladimir Landau

Типа, чтобы ловить её на косяках?

Нет, конечно. Чтобы она работала правильно. Впрочем, никто не мешает забить на то, чтобы заводить часы и потом удивляться, что они показывают правильное время только дважды в сутки. ИИ - это инструмент. Инструмент очень сложный. И если вы хотите, чтобы этот инструмент работал эффективно - настройте его.