Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от ThirdChimp

И если вы хотите, чтобы этот инструмент работал эффективно - настройте его.

Правильно ли я понимаю, что современные варианты ИИ некачественно настроены производителем и в принципе непригодны для использования "из коробки", и Вы предлагаете пользователю настроить ИИ под свои нужды?
Насколько такая настройка доступна неискушенному в программировании пользователю ИИ, и можете ли Вы предложить пошаговую инструкцию по настройке или дать ссылку на такую инструкцию?
Если сможете, это очень выручит моих друзей исследователей, а если это чисто гипотетическое предположение, то вынужден заметить, что оно нам тут сильно не поможет, и не приблизит к пониманию текущего состояния и перспектив развития технологий ИИ. Чисто гипотетически, сомнений в том, что ограничить фейкомыслие ИИ можно, и со временем этот процесс скорректируют настолько, что ИИ перестанет гнать пургу в ситуации дефицита информации, не возникает.

Сообщение от ThirdChimp

В первом случае это сама наука (а если еще уже - то, по сути, библиография), во втором - окружающий мир.

На мой взгляд Вы путаете границы познания и предел познаваемости. В первом случае речь идет о пределе достигнутого знания, а во втором о принципиальной достижимости предела в познании, собственно познаваемости окружающего мира, во всяком случае я имел в виду именно такой вариант значения высказывания граница познания.

[ThirdChimp]

Сообщение от Vladimir Landau

Правильно ли я понимаю, что современные варианты ИИ некачественно настроены производителем и в принципе непригодны для использования "из коробки"

Нет.

Сообщение от Vladimir Landau

Вы предлагаете пользователю настроить ИИ под свои нужды?

Да

Сообщение от Vladimir Landau

Насколько такая настройка доступна неискушенному в программировании пользователю ИИ

Опыт в программировании желателен, но не обязателен. Менеджеры, PM'ы, CEO справляются и без него.

Сообщение от Vladimir Landau

дать ссылку на такую инструкцию?

Вопрос уровня "дайте ссылку, как нам у себя настроить ERP"

Сообщение от Vladimir Landau

На мой взгляд Вы путаете границы познания и предел познаваемости.

Нет. Это нулевой этап в подготовке к любой научно-исследовательской работе, в идеале - начиная с диплома

В целом, вижу, что зря задержался в этой теме. Поначалу показалось, что серьёзные люди серьёзно обсуждают серьёзные темы. Жаль, что показалось...

[Vladimir Landau]

Сообщение от ThirdChimp

Жаль, что показалось...

А я то грешным делом после Вашего упоминания Тюринга действительно подумал, что Вы интересуетесь проблемой возможности создания мыслящих машин, и можете добавить что то новое в дискуссию, похоже показалось))

Когда утверждают, что знают путь, и не готовы помочь по нему пройти, это выглядит по меньшей мере странно. Что Вам мешает поделиться сакральным знанием по настройке ИИ с теми, кому это действительно интересно и может пригодиться? Наша несерьёзность?

В любом случае, я благодарен Вам за рациональное зерно, которое Вы, возможно неумышленно, привнесли в обсуждение, и особенно благодарен за Тюринга, статью которого "Computing Machinery and Intelligence" я не знал, и сейчас с удовольствием читаю.

[SIGSEGV]

Сообщение от Vladimir Landau

Правильно ли я понимаю, что современные варианты ИИ некачественно настроены производителем и в принципе непригодны для использования "из коробки", и Вы предлагаете пользователю настроить ИИ под свои нужды?

Да, и снова да. Вы же не пользуетесь (никакими) сложными системами "из коробки", их все донастраивают/дорабатывают.

Т.е. "из коробки" модели что-то умеют конечно. Но, например, у каких-нибудь программистов это "что-то" нужно (must) дополнить кучей .md файлов с инструкциями для агентов и модели, иначе модель будет делать ерунду.

[Vladimir Landau]

Сообщение от SIGSEGV

дополнить кучей .md файлов с инструкциями для агентов и модели, иначе модель будет делать ерунду.

Это противоречит основному принципу инструментов с речевым интерфейсом.

Весь смысл таких инструментов – юзерфрендлиннэсс, а критерий качества их коммуникации – прохождение теста Тьюринга. Нам предлагается инструмент, который по определению должен настраиваеться самостоятельно, самообучаться технике коммуникации с нами, а мы всё рвёмся его подправить. ИИ не должен быть сырой платформой типа ёкселя или сети интернет, которые нужно понимать и под которые следует подстраиваться, это в корне противоречит смыслу общающейся с нами на нашем языке системы. Эдак каждый пользователь должен стать соразработчиком алгоритма и быть глубоко в курсе, как он собственно работает. Зачем тогда нужны эти помощники, если нам нужно помогать им учиться помогать нам?

Я допускаю необходимость базовых компетенций в формулировке запросов, но оптимизация самой интеллектуализированной системы, это уже не дело пользователя.

[SIGSEGV]

Сообщение от Vladimir Landau

Это противоречит основному принципу инструментов с речевым интерфейсом.

Весь смысл таких инструментов – юзерфрендлиннэсс, а критерий качества их коммуникации – прохождение теста Тьюринга. Нам предлагается инструмент, который по определению должен настраиваеться самостоятельно, самообучаться технике коммуникации с нами, а мы всё рвёмся его подправить.

Весь смысл таких инструментов в огромном количестве материала, на котором их обучали. Человеку такой объём осилить будет сложно.

Нам предлагается инструмент, который по определению умеет что-то делать с большим объёмом информации. Самостоятельно донастраиваться и самообучаться он не будет, потому что не умел, не умеет, и не будет уметь. Донастраивает и дообучает человек.

А "юзерфрендлиннэсс" у них уже есть в достаточной степени. Вы просто почему-то пытаетесь учёного-химика приравнять к "обычному пользователю". Это никогда не работало, и никогда не будет, поскольку требования и задачи обычного Васи сильно отличаются от требований и задач Васи необычного.

Да, в итоге к каждому необычному Васе придётся приделать программиста, а что, когда-то было иначе ?

[Vladimir Landau]

Сообщение от SIGSEGV

Самостоятельно донастраиваться и самообучаться он не будет, потому что не умел, не умеет, и не будет уметь.

Почему Вы так считаете? Ваш довод мне напоминает сакраментально утверждение из далёкого прошлого: "Учение Маркса всесильно, потому что оно верно", или этого не может быть, потому что, этого не может быть никогда...

Поподробнее, если можно, изложите свои доводы по поводу невозможности самообучаемости ИИ. Мне почему то кажется, что алгоритмы давно самообучаются, и в этом одна из их ключевых особенностей. Вопрос у меня возникает не о том, может ли ИИ самосовершенствоваться, а о том, где границы такого самосовершенствования.

Сообщение от SIGSEGV

в итоге к каждому необычному Васе придётся приделать программиста,

Это никак не укладывается в представления об эффективном широкопрофильном инструменте, мало того, такой подход нереализуем, поскольку система проверки качества работы ИИ представляет собой такой же, если не более эффективный ИИ. То есть, для того, чтобы корректно оценивать решения, предлагаемые ИИ в автоматическом режиме, придётся задействовать другой ИИ, и налаживать между ними взаимодействие, которое в итоге должно привести к пошаговому увеличению адекватности решений поставленных перед основным ИИ задач. И в процессе такой межиишной коммуникации, поставивший ИИ задачу, должен будет оценивать уровень адекватности ответов, и сам решать, в какой момент следует прекратить пререкания исполнителя и верифткатора, или дождаться, когда верификатору больше не к чему будет придраться, если такой исход наступит в адекватный промежуток времени, и всё равно проверить адекватность ответа, с учетом собственных компетенций.

Форумчанин выше предлагал ловить адекватность цитат при помощи API, связанной с целевыми хранилищами информации, но это очень странный костыль, ведь если ИИ даёт кривые ответы, то легче не пользоваться им, и решать проблемы самому, чем тратить огромные ресурсы на верификацию полученных от него решений.

В общем, в любом случае получается общение с ИИ ради общения с ИИ, не более того.

[SIGSEGV]

Сообщение от Vladimir Landau

Почему Вы так считаете? Ваш довод мне напоминает сакраментально утверждение из далёкого прошлого: "Учение Маркса всесильно, потому что оно верно", или этого не может быть, потому что, этого не может быть никогда...

Поподробнее, если можно, изложите свои доводы по поводу невозможности самообучаемости ИИ. Мне почему то кажется, что алгоритмы давно самообучаются, и в этом одна из их ключевых особенностей. Вопрос у меня возникает не о том, может ли ИИ самосовершенствоваться, а о том, где границы такого самосовершенствования.

Для того, чтобы модели "самообучались", им необходимо предоставить очищенный массив "хороших" данных. Иначе вместо обучения получим AI poisonig. Массивы делают люди, иногда привлекая AI, иногда нет. Так что без человеков оно не обучается. Даже "хорошие" данные от "плохих" не умеет отличать толком.

[Vladimir Landau]

Сообщение от SIGSEGV

Так что без человеков оно не обучается. Даже "хорошие" данные от "плохих" не умеет отличать толком.

То есть, шансов на сингулярное самосовершенствование у ИИ на текущем этапе развития нет?
Из чего очевидно следует, что качественного рывка в когнитивных способностях в обозримом будущем от ИИ ждать не стоит, и придётся ограничиваться тем, что технология может дать хорошо обученному пользоваться ей юзеру?

[SIGSEGV]

Сообщение от Vladimir Landau

Это никак не укладывается в представления об эффективном широкопрофильном инструменте, мало того, такой подход нереализуем, поскольку система проверки качества работы ИИ представляет собой такой же, если не более эффективный ИИ.

Эффективный широкопрофильный инструмент должен эффективно решать задачи широкого профиля - он так и делает. Узскоспециальная химия - не задача широкого профиля. "Система проверки качества работы ИИ" это тот самый Вася, который ставит моделям задачи и задаёт вопросы.

Подход "каждому учоному по программисту" реализуем, и сто лет работает. И дальше будет работать точно так же. Просто программистов нужно будет ещё больше, чем было нужно раньше. При этом учёные смогут решать какие-то задачи побыстрее, например не за месяц а за день. Более другие задачи хотя бы в обозримые сроки, например за год, а не как сейчас "ну мы тут лет 10 подумаем и потом может быть придумаем".

Сообщение от Vladimir Landau

То есть, шансов на сингулярное самосовершенствование у ИИ на текущем этапе развития нет?
Из чего очевидно следует, что качественного рывка в когнитивных способностях в обозримом будущем от ИИ ждать не стоит, и придётся ограничиваться тем, что технология может дать хорошо обученному пользоваться ей юзеру?

Пока нет. И в обозримом будущем, скорее всего, не будет. Ещё 100500 датацентров забитых ускорителями не дадут качественного скачка, только количественный. Модели будут побыстрее, поточнее и существенно подороже скорее всего.