Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от pomponiuz

Что, если мы стоим на пороге экспоненциального роста возможностей нейросетей?

Как я уже писал выше, ускорение вычислений и развитие нейосетей не смогут привести к качественному скачку в создании искусственной личности, сравнимой с человеком по эффективности творческой (генеративной, синтетической, созидательной) деятельности. Технологии скоро упрутся в недостаток познаний человека в области работы сознания, и никакими вычислениями (железо) и повышением эффективности перелопачивания информации (нейросети) эту преграду не пробить. График будет иметь форму логарифмической кривой, с взрывным ростом в начале, и очень пологим в дальнейшем. Безусловно, повышение эффективности вычислительных систем ускорят процесс познания человеком самого себя, но это лишь немного изменит угол наклона пологой ветви развития ИИ. Повторюсь, сам он себя очеловечивать не станет, всё, что он будет делать человеческого - следствие того, что человек заложит в ПО. Тут саморазвития не будет, до тех пор пока ИИ не сформирует нечто, вроде личности, и не начнёт ставить себе цели, самостоятельно, на основе собственных предпочтений. Когда это случится, то ИИ начнёт развиваться стремительно там, где эта новая сущность увидит для себя новые перспективы.

Сообщение от krasnopyourov

Сейчас хорошо бы правильно понимать что происходило вчера и происходит сегодня, и на каком уровне технологии находятся на самом деле.

А еще лучше разобраться в принципиальных ограничениях технологий, не поддаваясь мифотворческим порывам.

[krasnopyourov]

Сообщение от Vladimir Landau

А еще лучше разобраться в принципиальных ограничениях технологий, не поддаваясь мифотворческим порывам.

Это сложнее. Но мы не знаем принципиальных ограничений нынешней технологии, когда к ней подключат эффективный квантовый компьютер. Возможно некий несамостоятельный но всё-же интеллект появится, но понять как он думает человек опять не сможет, как иногда не понимает шахматных ходов нейросети. А это очень опасно. Поэтому тумблер отключения ии вундервафли должен всегда быть аналоговым. )

[Vladimir Landau]

Сообщение от krasnopyourov

Возможно некий несамостоятельный но всё-же интеллект появится

Основной вопрос тут "почему он появится?" Ведь при таком подходе ничего кроме прямой экстраполяции и перевода количества в качество не даёт повода решить в пользу возможности самостоятельного зарождения личности в калькуляторе. Каким бы ни был мощным компьютер, ПО, которое на нём вертится, не имеет системной мотивации к развитию, такую мотивацию может выстроить ему только пользуюший его человек. Не буду повторять доводов в пользу этого рассуждения, я их уже несколько раз по кругу разжевывал, видимо, они либо неубедительны, но никто не оппонирует, либо непонятны, но никто не уточняет, либо никто тут оппонентов не читает
А если уж мыслящие создания не могут в дискуссии продвинуться в осмыслении общей проблемы дальше фантазий и банальной экстраполяции ситуации, как можно ожидать этого от сильно отстающей от человека машины.

Что действительно не вызывает сомнений, так это то, что человек будет всё больше применять технологии для того, чтобы исправлять или модифицировать свой организм. Тут ограничения не просматриваются, поскольку периферию свою человек изучил уже довольно глубоко. А значит со временем, человек всё ближе будет к машине, заменяя или модифицируя части тела разными приблудами. Этот процесс называется Аугментация, и он точно будет взлетать по экспоненте. В робота, носителя человеческого мозга, мы вряд ли превратимся, поскольку наряду с развитием машинных технологий развиваются биотехнологии, которые позволят производить коррекции и модификации без имплантации в организм механизмов и устройств, но то, что мы себя в недалёком будущем домодифицируем до уровня Франкенштейна, к бабке не ходи.
Этот путь мне кажется логичным, и сомнений никаких не вызывает, в отличие от развития машинного интеллекта до сверхчеловеческого уровня.

[krasnopyourov]

Аугментация это тоже мифотворчество про завтра, при чём древнее. Также давно начали кричать про виртуальную реальность, но вот проблема -тошнит человека от шлема и поди реши её. А если тело человека начнёт отторгать аугментированный предмет и поди реши проблему аугментации.

На счёт искуственного интеллекта, постоянно идёт сравнение с человеческим полноценным интеллектом. Но нужно смотреть на промежуточные стадии. Когда нейросеть получает команду играть в шахматы с собой и на этих играх учится, то она это делает успешно. Она собирает некие свои правила и в дальнейшем играет на основе своих приобретённых правил. Впервые alpazero дали играть с нуля без скармливания классических дебютов и через десяток часов она достигла высочайшего результата. Ну это так рассказывали в deepmind. После самообучения появился примитивный шахматный интеллектик, который сам в себе что-то там соображает и делает ходы которые часто человеку не понятны, но приносят результат и этот интеллектик достигает поставленной цели - побеждать. Alphastar, который обучали на живых игроках, в свою очередь показал что в основе стратегии этого игрового интеллекта лежит простое эффективное копирование действий живых игроков. Т.е. на более сложном тесте/тестах нейросети демонстрируют, что не могут в креатив. Сколько этих степеней развития до полноценного интеллекта, какие возможные ограничения технологии - это скорее всего мог бы рассказать тот инженер которому предложили 1млрд.$ за 4 года присутствия его мозгов в команде мета.
Просто у современного компьютера в основе 0 и 1. А человек развивался когда например стоял перед выбором из двух зол, оценивал их и выбирал наименьшее. Такое оценочное вычисление в основе которого могут быть полутона, по идее и отличает квантовый компьютер от мощного калькулятора.

[Vladimir Landau]

Сообщение от krasnopyourov

А если тело человека начнёт отторгать аугментированный предмет и поди реши проблему аугментации.

Да там сегодня сотни вживляемых устройств работают в теле успешно, от зубов до кардиостимуляторов. Хрусталики в глаза, шины на кости, протезы суставов, комплекты для эрекции, чего только нет. Тут проблемы решаемые, поскольку конкретные. С интеллектом всё намного сложнее.

Кстати, первой аугментацией были наручные часы, и ничего, прижились, да так, что утратив актуальность, никак не отвянут.

[pomponiuz]

Сообщение от Vladimir Landau

Как я уже писал выше, ускорение вычислений и развитие нейосетей не смогут привести к качественному скачку в создании искусственной личности, сравнимой с человеком по эффективности творческой (генеративной, синтетической, созидательной) деятельности. Технологии скоро упрутся в недостаток познаний человека в области работы сознания, и никакими вычислениями (железо) и повышением эффективности перелопачивания информации (нейросети) эту преграду не пробить. График будет иметь форму логарифмической кривой, с взрывным ростом в начале, и очень пологим в дальнейшем.

Безапеляционно!)

при таком подходе ничего кроме прямой экстраполяции и перевода количества в качество не даёт повода решить в пользу возможности самостоятельного зарождения личности в калькуляторе. Каким бы ни был мощным компьютер, ПО, которое на нём вертится, не имеет системной мотивации к развитию, такую мотивацию может выстроить ему только пользуюший его человек. Не буду повторять доводов в пользу этого рассуждения, я их уже несколько раз по кругу разжевывал, видимо, они либо неубедительны, но никто не оппонирует, либо непонятны, но никто не уточняет, либо никто тут оппонентов не читает

Я, кстати, прочитал ваши посты по несколько раз. Давайте обсудим эти фундаментальные ограничения.

Первый пункт - это пресловутые первый и третий законы кибернетики. Если выразиться просто, они заключаются в том, что у человека в мозгу нейронов (синапсов, неважно) на порядки больше, чем у нейросети, поэтому создать структуру, подобную человеческому мозгу и затем управлять ей - нельзя. Однако, обратившись к цифрам, мы увидим, что количество нейронов в самых больших современных нейросетях в данный момент уже составляет 1% от их количества в человеческом мозге, рост на 2 порядка - это дело нескольких лет с нынешними инвестициями, и мы будем иметь нейросеть, равную по количеству нейронов человеческому мозгу. Даже согласно этих законов, сформулированных в 50-х, препятствия не наблюдается. Это вы и сами признаете в своем первом посте:

Возможно, когда-нибудь, вычислительной мощности у носителей ИИ на подобные кульбиты и наберется

Дальше идет, видимо, основная идея, которую я осмыслить пока не могу.

как мотивировать на абстрактное осмысление реальности, оторванное от неё существо? Само не станет, нет у него мифотворческой функции, такая функция не нужна, если воля непоколебима, и концентрация не подвержена воздействию слабо связанных с выполняемой задачей внутренних или внешних факторов.

С другой стороны, именно зависимость интеллекта от своего носителя, его глубокая связь с мозгом и сродство мозга с окружающим миром на основе материальности и единства мира, обеспечивают интеллекту бесконечное количество механизмов компрометирования возникающих идей и гармоний, питает интуицию и гарантирует жизнеспособность продуктов творчества. В случае с ИИ, всю эту кутерьму придётся эмулировать, создавая нелогичные конструкции, которые будут либо скорректированы свободным ИИ в рамах его видения мира, либо уничтожены им, чтобы не путались под ногами.

Контраргумент:

"В случае с ИИ, всю эту кутерьму придётся эмулировать" - я читал, есть проекты совмещения ИИ с роботами для его непосредственного взаимодействия с реальным миром. Вот и будет у него чувственный опыт.



Самое главное, что я не могу пока понять в вашей позиции - зачем ему воля, способность к поставновке целей? Если максимально грубо сформулировать - ставим ему задачу: реши уравнение Навье-Стокса, или создай установку для управляемого термоядерного синтеза, или лекарство от рака - и он делает. Цель ставит человек, ИИ ее выполняет, как он это делает - нам уже не понятно, система с триллионами подгоночным параметров слишком сложная. Разве этого не будет достаточно?

[Vladimir Landau]

Сообщение от pomponiuz

рост на 2 порядка - это дело нескольких лет с нынешними инвестициями

Это если считать закон Мура определяющим такой прогресс, но там только рост элементов, а вот сложность взаимодействия этих элементов, которое еще и меняется динамически с огромной скоростью, тут не учитывется. Сложность системы следует понимать чуть шире, чем насыщенность транзисторами.

Сообщение от pomponiuz

зачем ему воля, способность к поставновке целей?

Воля нужна для осмысленного саморазвития и оценки его результатов. Если система будет работать только в рамках поставленных задач, то и решать она их сможет только в рамках того уровня развития, на который его вывели перед постановкой задачи. Интенсивное обучение и развитие системы предполагает внутреннюю мотивацию на развитие, волю к развитию, способную корректировать его движение по промежуточным результатам. Весь смысл глубокой веры во всемогущество машинного интеллекта состоит в уверенности в том, что он свои сверхспособности к скоростным операциям применит сам к себе, и начнёт развиваться со скоростью, недоступной медлительному разуму человека. Это логично, ведь то, что работает быстрее, выполняет работу быстрее. Но если этот гоночный болид будет ждать медлительных движений человеческих рук, чтобы повернуть, то вся его эффективность коту под хвост, быстрее чем человек сможет рулить, он не поедет.

Сообщение от pomponiuz

Цель ставит человек, ИИ ее выполняет, как он это делает - нам уже не понятно, система с триллионами подгоночным параметров слишком сложная. Разве этого не будет достаточно?

Для инструмента более чем достаточно, для того, чтобы обогнать, или хотя бы догнать своего создателя в способности ставить цели, и создавать инструменты для их достижения - нет.

[krasnopyourov]

Ну так сверхскоростной болид-то с управляемой скоростью.
А в достижениях человека несамостоятельный ии по идее сможет выполнять роль ледоруба в руках альпиниста. Сам он не будет знать куда идти. А в руках человека сможет ковырять повыше. Простое логическое предположение.
А то о чём пишет Владимир мне напомнило наивное утверждение скептиков о том, что по рельсам тепловоз не сможет ехать ибо сцепление у ведущих колёс такое-же как у ведомых. Но в принципе если ии не поедет то хорошо, я за.

[Vladimir Landau]

Сообщение от krasnopyourov

Ну так сверхскоростной болид-то с управляемой скоростью.

Тут вопрос что первично, курица или яйцо. Я всего лишь утверждаю, что есть системные ограничения в развитии ИИ в самостоятельную сущность, способную жить своей осмысленной жизнью и двигаться путями сердца своего.

Вспомните животное Хопкинса, оно поди до сих пор слоняется по коридорам МТИ в поисках розеток, громогласно доказывая медицинский факт: жизнь может быть неживой. Так и с ИИ, лампочки светятся, жужжит не по детски, гребёт электричество вёдрами - значит умный. А как еще?

[krasnopyourov]

Сообщение от Vladimir Landau

Так и с ИИ, лампочки светятся, жужжит не по детски, гребёт электричество вёдрами - значит умный. А как еще?

Когда есть результат, все представляют элегантно и тихо. Я пока убедительных результатов не видел. При тщательном разборе как правило ничего твёрдого кроме жужжения маркетологов не остаётся.