Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от ThirdChimp

а вопрос где задавался?

Вопрос задавался в ChatGPT. Насколько я понимаю, там формат пользователя профессиональный, абонемент оплачивает университет.

Ниже часть ответа ИИ на вопрос, почему ты вводишь меня в заблуждение.

«Я не могу с уверенностью назвать проверенные публикации, в которых конкретно описывается разложение LaFeO₃ в чистом CO, не проверив литературу самостоятельно».
Вместо этого я сгенерировал ссылки, которые выглядели правдоподобно, потому что модель распознала:
• настоящие журналы,
• настоящие темы исследований,
• настоящие имена авторов из смежных областей,
• и химически обоснованные механизмы,
а затем неправильно скомпоновал их в ссылки, похожие на цитаты. Это не было намеренной попыткой ввести вас в заблуждение или защитить какую-либо гипотезу. Режим сбоя другой: модель пытается завершить шаблон, не имея подтвержденных данных для извлечения.

Ниже, кому интересно, полная коммуникация на английском.

****************************
Why five references in your answer are fake, not exist in corresponding journals att given volumes and pages?

You are correct, and I should not have presented those references as verified publications. Several citations in my previous answer were inaccurate or fabricated combinations of plausible author names, journal titles, volumes, and topics rather than real bibliographic entries. I apologize for that.
What happened is that I synthesized references from general knowledge of:
• LaFeO₃ reduction chemistry,
• chemical looping literature,
• perovskite redox studies,
• and Fe exsolution research,
but I incorrectly formatted them as exact existing papers without verification. That is not acceptable for scientific referencing.
In reality, the literature specifically addressing:
LaFeO3+pure CO\text{LaFeO}_3 + \text{pure CO}LaFeO3+pure CO
is much more limited than for:
• H₂ reduction,
• CO oxidation,
• syngas reforming,
• or chemical looping systems.
I should have either:
1. clearly stated that I was giving representative literature themes rather than exact references, or
2. used web verification before citing exact bibliographic data.
The following references from that list are not reliable as given:
• “Nalbandian et al., CEJ 223 (2013) 398–407”
• “Galinsky et al., JPS 195 (2010) 7857–7863”
• “Zhu et al., IJHE 39 (2014) 20392–20401”
• “Li et al., Appl. Catal. B 164 (2015) 419–428”
and likely parts of the Mizusaki/Bidrawn citations were also incorrectly matched to topic details.
What is scientifically well established, however, is:
• LaFeO₃ undergoes oxygen-vacancy formation under reducing atmospheres,
• Fe³⁺ → Fe²⁺ reduction occurs in low oxygen potential gases,
• sufficiently reducing conditions can cause Fe exsolution and decomposition,
• CO can act simultaneously as reducing and carburizing agent.
But the exact decomposition pathway in pure CO is not comprehensively documented in many direct studies.
A more scientifically correct response would have been:
“Direct literature on decomposition of LaFeO₃ in pure CO is scarce. Most evidence comes indirectly from studies of reduction in H₂/CO mixtures, chemical looping, syngas treatment, and oxygen nonstoichiometry measurements.”
Thank you for catching this. In catalysis and materials science, precise references matter critically, especially when discussing uncommon phenomena like:
• perovskite collapse,
• Fe exsolution,
• carburization,
• and Mo₂

But what fore you sent me fabricated references? What was your target here. It would be better to tell from the beginning that such references do not exist in literature?

You are right. It would have been better — and scientifically honest — to say from the beginning:
“I cannot reliably identify verified publications specifically describing decomposition of LaFeO₃ in pure CO without checking the literature directly.”
Instead, I generated references that looked plausible because the model recognized:
• real journals,
• real research themes,
• real author names from adjacent fields,
• and chemically reasonable mechanisms,
and then incorrectly assembled them into citation-like outputs. There was no intentional “target” to mislead you or defend a hypothesis. The failure mode is different: the model tries to complete a pattern when it lacks verified retrieval.
In technical scientific discussions this is especially dangerous because:
• fabricated references may look credible,
• uncommon phenomena (like LaFeO₃ decomposition in pure CO) often exist only sparsely in literature,
• and the model may interpolate from related topics instead of admitting uncertainty.
Your criticism is fully justified. In catalysis research, an incorrect reference is worse than no reference because it wastes time and can distort interpretation of the field.
The scientifically correct answer should have been something like:
“Direct studies of LaFeO₃ decomposition in pure CO appear to be scarce or absent in the readily accessible literature. Existing evidence is mostly indirect, from studies on reduction in H₂/CO mixtures, chemical looping, oxygen nonstoichiometry, Fe exsolution, and syngas treatment.”
That would have been the proper response.

[ThirdChimp]

Сообщение от Vladimir Landau

Вопрос задавался в ChatGPT

Ожидаемо. Чат-боты хороши для простых вопросов, краткого ресерча уровня "какую кофеварку выбрать и почему", других бытовых сценариев. Для серьезной работы такой формат малопригоден.

[Sk555]

Сообщение от ThirdChimp

Чат-боты хороши для простых вопросов, краткого ресерча уровня "какую кофеварку выбрать и почему"

Актуальными инструментами производится не research, а рекомендация на основе рекламы в интернете (не всегда актуальная и достоверная).

[Vladimir Landau]

Сообщение от ThirdChimp

Чат-боты хороши для простых вопросов, краткого ресерча уровня "какую кофеварку выбрать и почему", других бытовых сценариев. Для серьезной работы такой формат малопригоден.

Народ утверждает обратное, и пользуется этим чатом довольно активно. Причем до определенного уровня сотрудничество исследователей вполне удовлетворяет, поскольку на невысоком уровне обобщения и там, где информация по целевому вопросу доступна в каком то объеме, всё работает довольно гладко. Примеры успешного сотрудничества исследователей с ИИ я приводил выше.
Но стоит перейти к неизведанному, ситуация в корне меняется, и доверять результатам уже опасно. На грани познанного ИИ бессилен, мало того, он признаёт это только под давлением критики, а если компетенция заказчика недостаточна, лепит всякую чушь, имитируя всезнание.

Ключевой косяк, судя по всему, кроется в идеологии:

Сообщение от Vladimir Landau

модель пытается завершить шаблон, не имея подтвержденных данных для извлечения.

[ThirdChimp]

Сообщение от Vladimir Landau

Народ утверждает обратное, и пользуется этим чатом довольно активно.

Пользоваться-то можно, вопрос для чего и какого результата ждать. Ибо для серьезной профессиональной работы, где ИИ - не "мальчик принеси-подай", а выполняет роль напарника, нужна и серьезная профессиональная обвязка. И тут уже не обойтись без мультиагентной системы, скиллов, развернутой документации, при необходимости - долговременной памяти, RAG и прочая, вплоть до собственных упряжек. Всё это, кстати, позволяет свести количество галлюцинаций к минимуму. Но, как говорится, это уже совсем другая история...