Искусственный Интеллект, быть или не быть.

[Sk555]

Сообщение от Vladimir Landau

... жаль, что Вы не готовы видеть в концепции Тюринга более глубокий смысл, чем традиционная формулировка самого мэтра, он то, похоже, видел.

Я, к сожалению, вижу. Не хотелось бы ниспровергать авторитеты... Тьюринг - "старый, больной, пью" (как шутили во времена моей программёрской юности). Позже была более интересная математика, более совершенные концепции.

Сообщение от Vladimir Landau

...Вы поленились ознакомиться...

Ну, лентяй я, не спорю. Доверюсь впечатлению: Вы не понимаете суть созданной Вами темы. Извините

[probe]

Сообщение от Sk555

Она оперирует токенами, не несущими смысловой нагрузки!!! Она вычисляет вероятности "приемлемого" употребления "подходящего слова", оперируя фрагментами языка, токенами (~4 символа = 0,75 слова в английском, 0,4 слова в русском языках)!!

Т.е. ИИ работают только с текстом и не в состоянии «анализировать» иллюстрации и видео, которые публикуют в Интернете? – Они их игнорируют что-ли?

Во всяком случае, некоторые примеры удивили. Например, все ИИ отвечают, что нет методики по определению концентрации радона (крайне опасный газ) с помощью обычного дозиметра (древние радиевые часы выделяют радон). А она (методика), тем не менее, есть. В частности, она опубликована в видео на youtube и не от какого-то неграмотного блогера, а от специалиста, который глубоко в теме и профессионально занимается вопросами метрологии радиационных измерений. Мне просто хотелось уточнить у ИИ ряд деталей, а тут, оказывается, они вообще не в курсе... (а автор того ролика на вопросы по старым видео не отвечает).

[Vladimir Landau]

Сообщение от Sk555

Вы не понимаете суть созданной Вами темы. Извините

Вы меня очень обяжете, если разъясните мне суть созданной мной темы)))

[probe]

Не знаю как кого, но меня удручают частые неверные, но притом категоричные вердикты ИИ: «не существует», «не было», «невозможно», вместо обтекаемых и более справедливых слов «сведения не найдены» - а ведь это именно так. Да ещё удручает, когда ответы сопровождаются выдуманными небылицами.

Неужели так трудно заложить в алгоритмы работы ИИ, чтобы старались избегать излишней категоричности? А то всё это смотрится не очень приглядно.

[Vladimir Landau]

Сообщение от probe

всё это смотрится не очень приглядно.

В ситуации, когда не нужно умничать, а достаточно знать, у ИИ пропадает конкурентное преимущество перед обычным поисковиком, и он это преимущество “высасывает из пальца”.

Мне видится причиной такого «поведения» коммерческая мотивация разработчиков технологии, задача которых переманить пользователей у поисковиков, и сделать их клиентами ИИ. А дальше работает статистика - 80% пользователей примут фантазии ИИ за чистую монету, поскольку, либо доверяют «интеллекту» больше чем «интернету, и проверять эту графоманию не станут, либо вообще не способны отличить истину от лжи по собственным когнитивным ограничениям. А значит положительная оценка 80% потребителей, мол какой же он умный, этот ИИ, всё то он знает, и нет таких вопросов, где он не найдёт содержательного ответа, перевесит 20% обиженных пользователей, и чаша весов, читай абонентская плата за пользование ресурсами, склонится в пользу врущего ИИ.

Хотя, возможно, галлюцинации, подчас зловредные – болезнь роста машинного мышления, связанная с необходимостью наделить его спонтанностью, неким суррогатом свободы. Поскольку наука пока не до конца понимает природу спонтанности, смоделировать её без косяков не получается, так что будем считать эти косяки необходимым условие развития, которое в конечном счете их скорректирует. Во всяком случае, такой вариант объяснения фантазерства ИИ мне импонирует больше, чем жадность индустрии.

Проблема с враньём, судя по всему, решается непросто, в отличие от уже пройденного этапа очеловечивания коммуникации с ИИ, когда тысячи экспертов обучали его быть вежливым. Там достаточно было накопить ситуаций вежливой коммуникации, и всё заработало, а вот с враньём видать всё глубже, его невозможно ограничить неполной индукцией реакций экспертов, там фактический материал конкретен, безграничен и не имеет общих признаков «истинности», которые можно было бы использовать в качестве критерия отсечки неадекватной информации.

Хотя, категоричности поубавить можно, как прибавили вежливости, но станет ли враньё от этого приемлемее? Не думаю.

[Sk555]

Сообщение от Vladimir Landau

...ситуация с перспективами развития этой технологии пока не поддаётся четкому осмыслению. Однако попытки такого осмысления необходимы...

Быть или не быть?.. Вы опоздали. Умная машина уже отрабатывает вложенные деньги: она научилась управлять ресурсами на поле боя, перенастраивать промышленное оборудование для производства деталей по образцу, группировать информацию и принимать решения. Какая разница, как будут называть технологию, которая будет переводить вам голос собеседника в телефоне на язык, установленный "по умолчанию"? Сейчас говорят "ИИ", - ну, пусть "ИИ". Через некоторое время вы будете пользоваться этой технологией, не замечая её. Беспилотный поезд метро отвезёт вас в офис, убранный роботами, где электроника подготовит вам план работы на день и оформит ваши результаты в удобочитаемый отчёт...
Вы будете потреблять контент, созданный "ИИ", покупать товары, разработанные на основе рекомендаций умной машины и произведённые роботами. В поликлинике врач со средним техническим образованием обследует вас посредством специализированного ИИ-ассистента и шлёпнет печать на рецепт, прописанный медицинской версией "ИИ"... Этот мир детально описан фантастами 40-80-х годов 20-го века, сейчас он воплощается.
"ИИ" не мыслит, не связывает слова с понятиями и картинки с образами. Эта чёртова машина упрощает и организует нашу жизнь в соответствии с вложенными заказчиком нормами. Никто и не собирался учить машину думать, - её учат обрабатывать потоки информации и решать задачи. Социальные, в том числе. Побочка в виде рецепта приготовления свиных крылышек на гриле никому повредить не может, зато делает интерфейс умной машины забавным, что способствует массовому принятию технологии "с ограничениями". Вы нужны машине в качестве поставщика данных, а задачи ей будут ставить владельцы.
Главный вопрос темы: быть или не быть свободе воли и спонтанным поступкам в жизни человека, чья жизнь в обозримом будущем будет регламентирована предписаниями "искуственного интеллекта"

[Vladimir Landau]

Сообщение от Sk555

Главный вопрос темы: быть или не быть свободе воли и спонтанным поступкам в жизни человека, чья жизнь в обозримом будущем будет регламентирована предписаниями "искуственного интеллекта"

Как же я Вам благодарен за то, что Вы наконец то открыли мне глаза на то, что именно я хотел спросить в этой теме. А то мне реально с самого первого поста темы невдомёк было, зачем это я её тут замутил.

Теперь, когда Вы наконец то определили, зачем я создал эту тему, не сочтите за труд определить свободу воли и спонтанность, утрату которых вам так досадно предвидеть. Напомню, Вы потребовали от меня определений, и я их дал, несмотря на то, что это было необязательно для целей обсуждения, поэтому Вам, чтобы не проявлять неуважения, придётся такие определения дать, и, если справитесь, ответить на поставленный Вами «основной вопрос темы» в рамках данных Вами определений.

Ждём-с.
Если я смогу уяснить вашу позицию на основе данных Вами определений и пояснений к ним, я обязательно выскажу свою позицию по этому вопросу, она у меня имеется...

Что касается темы, то тут каждый волен выделять «основной вопрос», который его волнует в рамках проблематики ИИ, это абсолютно нормально, у кого чего болит, тот про то и говорит. Меня интересуют фундаментальные предпосылки возможности машинного мышления, Вас – социальные и антропософские вопросы, связанные с его приходом в человеческую жизнь. Но основную проблематику темы, как это ни странно озвучивать, задаёт ТС, и пока я её не сменил, позвольте основному вопросу темы оставаться прежним.

[Vladimir Landau]

Сообщение от Vladimir Landau

я обязательно выскажу свою позицию по этому вопросу, она у меня имеется

Ладно, не стану дожидаться Вашей позиции, изложу свою, поскольку я её только что формализовал.

Свобода воли есть проявление в когнитивных процессах основополагающего принципа жизни – гомеостаза.
Гомеостаз — это способность биологической системы сохранять постоянство своей внутренней среды (например, температуры, давления, уровня сахара) в ответ на изменения внешней среды. Это непрерывный процесс само регуляции, необходимый для выживания и нормального функционирования организма. В основе гомеостаза лежит принцип свободы – меры независимости открытой системы, взаимодействующей с окружающей средой, от изменений, происходящих в окружающей среде, в том числе, изменений, производимых этой системой в окружающей среде.

Для целей нашего рассуждения будем отличать реактивное взаимодействие системы с окружающей средой, когда система компенсирует негативные последствия такого взаимодействия за счет расходования внутренних ресурсов, и активное взаимодействие, когда система тратит внутренние ресурсы на изменение окружающей среды и компенсирует негативные последствия инициированных ей изменений.

Такое разделение чисто умозрительное, поскольку механизмы компенсации негативных последствий, и ресурсы, которые используются в процессе компенсации для обоих видов взаимодействия аналогичны. Однако есть существенное различие в логике активности системы в одном и другом случае. В случае реактивного взаимодействия изменения навязываются системе извне, независимо от её активности, при активном взаимодействии, изменения в окружающей среде являются прямым следствием деятельности системы, которой приходится тратить внутренний ресурс, как на деятельность, направленную на эти изменения, так и на компенсацию негативных последствий таких действий.

В процессе эволюции с момента появления сознания (у части живых существ) и мышления (у человека), свобода, как необходимый инструмент поддержания гомеостаза, распространилась на когнитивную деятельность. Обычно, когда говорят о свободе воли, говорят именно о возможности свободного выбора при принятии решений мыслящих существ в процессе жизнедеятельности.

Свобода воли, как и свобода в более широком смысле (см. выше), играет роль в двух основных процессах – реактивных: реагировании на изменения окружающей среды и собственно, влияние этих внешних изменений на субъект воли, и активных: действиях, связанных с сознательным изменением субъектом окружающей среды, и сохранением гомеостаза субъекта в процессе этих изменений, а, так же, сохранением и поддержанием этих изменений вовне.

На самом деле, тут просматривается новая функция свободы, ответственная за гомеостаз сознательных изменений в окружающей среде, и это позволяет рассматривать такую свободу отдельно от свободы, позволяющей реализовать гомеостаз субъекта. Выделение свободы в процессах поддержания внешних изменений логично, поскольку в процессе сознательного преобразования мира субъект зачастую действует исходя из блага для своего рода в большей степени, чем опирается на собственную потребность в гомеостазе. Это связано, в первую очередь, с практикуемыми в человеческом обществе коллективными формами деятельности. Именно поэтому в процессе поддержания внешнего гомеостаза акты свободной воли могут быть причиной действий, совершаемых во вред персональному гомеостазу действующего субъекта. То есть возможны акты беззаветного альтруизма, во вред себе, во благо людям.

Подводя итог вышесказанному, отмечу, что свобода воли, и, как следствие, спонтанность деятельности человека – врожденная способность, необходимая для выживания вида. Эта способность не исчезнет с развитием материально технической базы для деятельности, она лишь будет проявляться по-другому в новых условиях, используя плоды просвещения и прогресса. Потребность в само актуализации - базовая потребность мыслящего человека, тут я с Масловым согласен полностью, она обязательно возникает после того, как удовлетворены потребности низшего уровня – физические нужды, безопасность, принадлежность к социальной группе, самоуважение. Чем легче, на базе технологий, люди смогут удовлетворять потребности низшего уровня, тем больше возможностей и энергии у них появится для удовлетворения высших потребностей – самопознание, гармония личности, само актуализация и эстетическая потребность (потребность в красоте).
Так что не стоит опасаться, что технологии превратят человека в обезьяну, или снизят его творческий потенциал. История прогресса пока этого не подтверждает.