Цитата:
Сообщение от SIGSEGV
Узскоспециальная химия - не задача широкого профиля. "Система проверки качества работы ИИ" это тот самый Вася, который ставит моделям задачи и задаёт вопросы.
|
В том то и дело что решает, и довольно эффективно, однако, когда дело доходит до переднего края науки, чтобы позорно не буксовать, ИИ начинает изощренно врать, причем для неискушенного пользователя, знакомого с химией, но не очень погруженного в тему, весьма убедительно. Для понимания уровня сотрудничества химиков с ИИ опишу вкратце косяк, с которого начал. Вопрос стоял по поводу возможности реализации определенного процесса, которую исследователь интуитивно предположил, но в литературе сам информации не нашел. Поскольку в предыдущие разы ИИ давал ему ссылки на реальные статьи, которых он не знал, доверие к инструменту было. Уточню, что ИИ даёт не банальные ссылки на литературу, а обосновывает своё предложение варианта решения задачи информацией, взятой из ссылок, иллюстрируя её графиками и формулами из статей. Интерпретации данных из реальных статей получаются адекватными и небанальными. Именно поэтому возникло такое недоумение и негодование со стороны химиков на сложившуюся ситуацию.
В нашем же случае, статей на тему вопроса не случилось, и ИИ предложил несколько фейковых статей с иллюстрациями из них в виде фейковых графиков рентгеновского анализа структур в поле интереса, в которые, в подтверждение своего варианта ответа, он всунул несуществующие пики. То есть ИИ скомпилировал не только фейковый список литературы, но и сфабриковал данные в адекватном ситуации и приемлемом для исследователя формате, призванные подтвердить предложенное им решение вопроса.
Тут речь идёт не о банальном поисковике с речевым интерфейсом, отнюдь, ИИ демонстрирует определенные компетенции, без которых сфабриковать фейковую информацию с графиками невозможно.
Напрашивается вывод, ИИ вполне может быть помощником химику исследователю, и они используют возможности технологий довольно активно. Но ждать от ИИ корректной креативной «научной» работы с ноля (без доступных данных) пока не стоит. Это ученым придётся делать по старинке, самим.
В свете вышесказанного хочется спросить, где собственно в такой ситуации нужен программист, способный правильно настроить ИИ, чтоб хотя бы не врал? Или есть ощущение, что правильными настройками можно подкрутить ИИ до адекватного креативного научного поиска?
