Вот суть, которую я пытаюсь донести до вас, Владимир. Вы сами её сформулировали.
Эти восемьдесят процентов определят наше с вами будущее. У этого, так называемого "Искусственного Интелекта" нет задачи сравняться с Человеком, и уж тем более, превзойти Человека в интеллекте или эмпатии.
У этой... скажем так, категории, которую мы называем "искусственным интеллектом" сейчас, в первой четверти двадцать первого века, задача проста: увлечь эти 80 процентов популяции и через примитивные манипуляции (паронимы, простите) сознанием и эмоциями заставить принимать нужные решения. Двадцати процентам, к которым я отнесу и на с вами, эти манипуляции очевидны, и вызывают, как минимум, недоумение, как максимум - служат зыбкой почвой для анализа.
Но мы - в меньшинстве. И мы подчинимся, как и в прошлый раз. Новейшая история.
80 процентов эффективно управляются фальшивкой.
Сегодняшний ИИ, как категория, ставшая причиной этой ветки на нашем Форуме - это всего лишь инструмент порабощения человека человеком.
Нет тут никакой божественной задачи творения.
Поэтому ИИ вызывает столько дискуссий. Это всё - от непонимания категории.
Интеллект. Разум. Сознание. Эмпатия. Чувства. Симулякры. Акт Творения.
Нет.
Ружьё.
Рассмотрите ИИ в этой категории. Многое (всё) станет понятно.

http://forum.watch.ru/attachment.php...1&d=1753275967

Я только не понял, почему несбыточные? Все это вполне осуществимо, более того, я уверен, что однажды это случится. Я имею в виду полное мировое доминирование, тоталитаризм в планетарном масштабе. Даже сейчас у США для этого уже есть все средства.

"И подошел Авраам и сказал: неужели Ты погубишь праведного с нечестивым? может быть, есть в этом городе пятьдесят праведников? неужели Ты погубишь, и не пощадишь места сего ради пятидесяти праведников, в нем? не может быть, чтобы Ты поступил так, чтобы Ты погубил праведного с нечестивым, чтобы то же было с праведником, что с нечестивым; не может быть от Тебя! Судия всей земли поступит ли неправосудно? Господь сказал: если Я найду в городе Содоме пятьдесят праведников, то Я ради них пощажу все место сие. Авраам сказал в ответ: вот, я решился говорить Владыке, я, прах и пепел: может быть, до пятидесяти праведников не достанет пяти, неужели за недостатком пяти Ты истребишь весь город? Он сказал: не истреблю, если найду там сорок пять. Авраам продолжал говорить с Ним и сказал: может быть, найдется там сорок? Он сказал: не сделаю того и ради сорока. И сказал Авраам: да не прогневается Владыка, что я буду говорить: может быть, найдется там тридцать? Он сказал: не сделаю, если найдется там тридцать. Авраам сказал: вот, я решился говорить Владыке: может быть, найдется там двадцать? Он сказал: не истреблю ради двадцати. Авраам сказал: да не прогневается Владыка, что я скажу еще однажды: может быть, найдется там десять? Он сказал: не истреблю ради десяти. И пошел Господь, перестав говорить с Авраамом."

Чтобы не предпринимал человек в падении и безумстве своём, у Бога будут реализованы свои планы!

https://vk.com/video-186629479_456242192

------- ДОБАВЛЕНО ЧЕРЕЗ 13 МИН --------

Да, всё так.

В том то и дело, что там есть серьёзные ограничения по генеративным функциям, если речь идёт о взламывании сетей, повышении эффективности поисковиков или обучение у нейростей делать наиболее вероятные выводы на основании накопленной информации , то тут действительно «масштабировать» успех можно до бесконечности, но насчет создания новых материалов, или разработки доселе не существовавшего оружия, это уже очень тонкие материи, подразумевающие творческий процесс, который без эмоционального интеллекта не работает, так что
синтеза чего-то нового от него ожидать опрометчиво.
Люди почему-то упорно вменяют ИИ это самое самосознание, понимая, что без него у машинного интеллекта не возникнут цели, отличные от тех, которые ставит ему человек. Но Вы тут легко соглашаетесь, что он и без самосознания будет творить всякую ересь. Не будет, зачем ему это нужно?
Это ловушка рациональности, в которую нас загоняет потребность творить мифы о всемогущих внешних силах, потребность в союзниках, которые смогут решить любые проблемы, потребность в Богах, в том или ином формате.

Да нет у этой сущности никаких задач, кроме тех, что ставят ей люди. И да, совершенствующиеся инструменты влияния на сознание постоянно повышают результативность воздействия. Но так было и без технологий, элегантно скроенные идеологии лавинообразно, за считанные поколения достигали полного контроля над поддавшейся им толпой, и только те 20%, которые были готовы компрометировать харизматичные учения, не позволили этим идеологиям уничтожить человечество.
Как написал выше, возникновение персональных целей – следствие существования личности, осознающей свои потребности и предпочтения, поэтому, сначала должна возникнуть личность, а потом она возьмётся за созидание и воплощение идей. А с личностью у ИИ пока всё неопределенно, там нужен качественный скачок, причем простым накоплением вычислительной мощности и сложности кода этот скачок не запустить. Хотя на первый взгляд кажется, что всё это одного поля ягоды, считать, мыслить, желать, воплощать. Само не сдюжит, а помочь ему мы пока не в силах, сами пока в коротких штанишках познания блуждаем в тумане неизвестности.
Так что не нужно вешать всё на технологии, мы и без технологий манипулироваться горазды.

Vladimir Landau


https://habr.com/ru/news/777756/

Инструмент искусственного интеллекта GNoME от DeepMind позволил обнаружить 2,2 миллиона новых кристаллов, в том числе 380 тысяч стабильных материалов, которые могут стать основой технологий будущего.

http://forum.watch.ru/attachment.php...1&d=1753287064

Около 20 000 кристаллов, экспериментально идентифицированных в базе данных ICSD, являются вычислительно стабильными. Вычислительные подходы Materials Project увеличили это число до 48 000. GNoME расширяет количество известных человечеству стабильных материалов до 421 000

Команда DeepMind отметила, что открытия с помощью ИИ эквивалентны почти 800 годам накопленных человечеством знаний.

Вот первая попавшаяся статья. ИИ создает новые материалы. Причем это 2023 год, еще до уровня GPT-4. Что будет, когда запустят триллионные кластеры?



https://habr.com/ru/articles/814959/

Или вот, например, AlphaFold 3 от Google. Беспрецедентно точно предсказывает структуру белков, ДНК, РНК, лигандов и других элементов, а также их взаимодействие. Используется при создании новых лекарств.

AlphaFold 3 достигает беспрецедентной точности в предсказании лекарственных взаимодействий, включая связывание белков с лигандами и антител с их целевыми белками. AlphaFold 3 на 50 % точнее лучших традиционных методов в эталоне PoseBusters, не требуя ввода какой-либо структурной информации, что делает AlphaFold 3 первой системой искусственного интеллекта, превосходящей физические инструменты для предсказания биомолекулярной структуры. Способность предсказывать связывание антитела с белком имеет решающее значение для понимания аспектов иммунного ответа человека и разработки новых антител — растущего класса терапевтических средств.

- вот касательно этого утверждения у меня вопрос - на чем оно основано? Это ваше частное мнение, или оно подкреплено какими-то исследованиями от разработчиков ИИ?

Это моё личное мнение, оно подкреплено моими рассуждениями, которые Вы пока не опровергли.

Перебор вариантов, это не креативное исследование, это всего лишь метод, который ИИ позволяет использовать эффективнее, чем это удаётся человеку исследователю, как впрочем и секвестирование генов, и, уверен, подобных примеров множество, я просто с ними не знаком. Но при чем тут теоретическая наука? Это ведь даже от практической науки далеко, поскольку вычисления происходят по требованию исследователя, с заданным критерием результата, в Вашем примере это реализуемость в первую очередь, и далее - стабильность. Что Вас в этом так удивляет, и где тут реальная новизна?

Основные противоречия в рассуждениях об ИИ возникают там, где он принимается как реальность, которая уже существует, и, как ребёнок, постепенно растёт, обучаясь и набирая могущество. Все эти рассуждения начинаются с утверждения, что интеллект возможно реализовать на базе вычислительных устройств, без всякого если. Я лишь начинаю с если, ведь если создание машинного мышления в том виде, в каком сегодня о нём грезят футурологи, в обозримом будущем невозможно, то всё остальное – неопрятные фантазии.
Посмотрите на рассуждения в приведенном Вами цикле статей, там все предсказания строятся на интерполяции текущей ситуации в будущее, причем линейной или почти линейной, а я бы представил её логарифмической кривой, которая на старте, взлетев за считанные годы от ЖПТ 0 до ЖПТ 4, скоро встанет колом, в связи с достижением технологией предела наших познаний в механике творческой деятельности, и будет совершенствоваться лишь количественно, качественно же оставаясь на уровне высокообразованного имбецила.

насколько я понимаю, есть множество отраслей, в которых этих самых вариантов огромное множество. Сотни миллиардов, триллионы. В вышеизложенном примере утверждается, что для традиционных инструментов перебора (а они включают в себя традиционные компьютеры и алгоритмы) потребуется 800 лет. ИИ переберет их, условно, за неделю, потому что он перебирает их не втупую, и не по алгоритму. Любой алгоритм подразумевает реверс инжиниринг, в случае с ИИ его нет. То есть мы не сможем понять, как он это делает. Я считаю, это вполне себе создание нового, потому что без ИИ этого не создать.



https://www.trv-science.ru/2024/06/f...vaniyah-belka/


Вот неплохая статья про AlphaFold. Позволю себе привести цитату оттуда:

Моя точка зрения в следующем: если с помощью ИИ можно создать новое вещество, а без ИИ этого не сделать за вменяемый срок, значит, это вещество создано ИИ. Неважно, как это называть, креативное исследование или перебор, важен результат - новое вещество с заданными параметрами, новое лекарство, новая программа.

Да какая разница, кто участвовал, тут ведь важно, кто ставил задачу, и для чего.
Мы ведь об этом размышляем, а не о том, что считать калькуляторы могут быстрее людей. Конечно могут, на то они и калькуляторы, но ставить пред собой цели, да еще и осмысленно, а не продолжать считать, просто потому, что забыли остановить в конце, это не про скорость вычислений, и даже не про их результаты, а немного о другом.

А ИИ разве создавался для постановки задач самому себе или для самоосознания? Повторю, он создавался для войны и технологического доминирования. Задачи будет ставить человек, с этим я не спорю.

------- ДОБАВЛЕНО ЧЕРЕЗ 14 МИН --------

Вспомнил еще один пример из статьи Ашенбреннера - о программе для игры в Го на основе ИИ - Alpha Go. Напомню, что игра го долгое время считалась слишком сложной для просчитывания компьютерными алгоритмами, люди тотально доминировали. Еще 10 лет назад компьютеры превосходили людей абсолютно во всех популярных играх с полной информацией, кроме одной — го (подробнее - здесь https://habr.com/ru/articles/224029/).


Можно ли этот 37 ход, предопределивший исход в партии с чемпионом мира - считать творчеством, причем сверхчеловеческого уровня? Я считаю, что да. Ведь ИИ сам "придумал", синтезировал его, так до него никто никогда не играл.

Его создавали для различных задач, и изначально речь шла о распознавании образов, и, как основной задачи - речи.
Но сегодня ИИ наделяют потенциалом к самосознанию, поскольку без этого его не представить автономной сущностью, а ведь на калькуляторы с инвесторов деньги труднее собирать, чем на замену человеку, в хорошем или плохом смысле.


Нет, нельзя, творчеством в таких играх можно назвать человеческую способность на основе интуиции не считать все варианты, а выбрать тот, что кажется на основе интуиции выигрышным, и попасть в точку. Но, если быть до конца последовательным, творчество в играх, скорее в построении концептуальных стратегий игры, обобщающих опыт, а не собственно игра, основанная на их применении.

Кстати заметил, что маркетинговая дымовая завеса про ИИ в умах масс развеивается, и всё чаще ии заменяют на более скромное и правдоподобное определение: нейросеть.

Думаю недопонимание и споры сейчас кроются в названии. Одни говорят ии и подразумевают нейросеть, другие ничего не подразумевают и справедливо говорят, что никакого ии нет. И первые с этим на самом деле тоже согласны. Просто они не привыкли определять что-то по названию. Как моя сестра, которая долго не осознавала, что название моб. оператора: киевстар это перевод киевская звезда, а я будучи подростком долго не осознавал что мойдодыр происходит от мыть до дыр.

отчасти так оно и есть.

В английском языке словосочетание artificial intelligence не имеет антропоморфной окраски, которую оно приобрело в традиционном русском переводе: слово intelligence в используемом контексте скорее означает «умение рассуждать разумно», а вовсе не «интеллект» (для которого есть английский аналог intellect)

Vladimir Landau



Там деньги уже государство США собирает, трудно отказать. Это уже не частная инициатива с целью получения прибыли, хочу вкладываю, хочу нет, а фактически, государственный проект. Вот как раз сегодня новость вышла:

https://www.bloomberg.com/news/artic...st-development



Кроме этого:

https://www.cnews.ru/news/top/2025-0..._xai_poluchili

Google, OpenAI, Anthropic и xAI заключили контракты на сотни миллионов на разработку ИИ для армии США

Ужос ужасный.
Правильно ли я понимаю, что нам уже не светит ничего интеллектуальнее жеманной Алисы, ведь у нас таких офигиардов на её образование нет?
Так и будем обходиться естественным интеллектом и механической авионикой?

Шаг до истины.
Полшага до истины.
Четверть шага до истины.

Думаю это тот-же случай, когда любимый, признанный, проверенный годами музыкальный шедевр имеет только 50 млн. просмотров, а бредятина которую никто не знает почему-то 800 млн. просмотров. Америка спасает экономику надуванием пузырей. Разве никто не помнит американский мыльно пузырёвый брэнд электро мобилей который превосходил toyota по капитализации, и толком не выпускал автомобили?! И где он сейчас? Там-же где другие пузыри типа виртуальной метавселенной facebook.

Вот пишут за открытие нейросетью новых соединений. Но из реальных новинок о которых я слышал это то, что российские прозводители пороха научились замещать хлопок другим ингредиентом. Думаю этого добились живые интеллекты, разве что с незаметной подсказкочкой пришедшей свыше в виде гениальной мысли которая пришла в голову учёного.

Оставшийся "последний дюйм" тут не пройти, - ниточки ведут к топикстартеру, он умело уводит диалог от драматичного финала.

До финала тут еще очень далеко, мы лишь в начале пути, а уж до драматического финала уж точно "дистанция огромного размера".
На самом деле перспективы настораживающие, и есть чего опасаться, даже отцы церкви призывают к осторожности и ответственному отношению в этом деле, но лично я пока не вижу поводов для беспокойства. Доктор Зло пока не перевоплотился в терминатора, ему еще до этого топать и топать.

А почему вы этот пример "пузыря" приводите, а не спутниковую группировку Старлинка от того же Маска? Там 7000 спутников на орбите. Думаю, ни одна страна в мире не отказалась бы от такого "пузыря". Для сравнения, у Китая 600, у России 300.

"Илон - это маска для прикрытия мурла американский военщины" (с).



Это не Америка спасает свою экономику, а весь мир работает на ее экономику, торгуя за доллар.

Если вы про Теслу, то они успешно выпускают под 2 миллиона авто в год. Капитализация компании- триллион. И на дорогах их машин всё больше и больше.

Потому что я не считал старлинк пузырём в отличии от например гиперлуп.

При чём здесь тесла, я же писал что толком не выпускал авто: кажись это были новости про капитализацию rivian. А может ещё более ноу нейм контору и сравнивали с toyota и volkswagen.

К чему тогда ваши слова про пузыри и поддержку американской экономики? Вы считаете экономику США дутой, не имеющей под собой ничего реального, только выдуманные цифры капитализации? Какую мысль вы пытались донести своим сообщением, я не понял?

Сидеть в американском интернете с помощью американских компьютеров и смартфонов, работающих на американском ПО и глубокомысленно рассуждать о пузырях американской экономики... в теме про AI (термин придуман американцами же).

Лично для меня нет разницы, какова мотивация тех, кто льёт воду на мельницу прогресса. Если бы у них не было мотивации, от слова совсем, тогда да, я бы очень расстроился, а так, пусть себе порабощают при помощи гаджетов весь мир, зато гаджеты будут умнеть и хорошеть не по годам, а по часам.
Если кто забыл историю, то я еще раз напомню, что за человеческую цивилизацию процессы порабощения и доминиования не прекращались ни на минуту, причем технологии порабощения были довольно примитивными, а его результаты впечатляющими. Сначала научились делать бронзу, потом освоили железо, затем разобрались с луками и арбалетами, потом появился порох, за ним динамит, атом, и сегодня, ужос ужасный, ИИ нарисовался. И слава Богу, что нарисовался, без него уже скучно стало со всей этой адекватной серостью жить.
Я понимаю, что человеку свойственно винить хоть кого в своих неудачах или расстройствах, но это неконструктивно и бесполезно. Если ты не можешь изменить мир, найди в себе силы и мозги с ним ужиться. Других вариантов просто не предусмотрено, разве что в отшельники податься, или на столп цепью приковаться, но на это нужно мужество…

Так что давайте оставим злобные силы в покое, до тех пор, пока эти силы продуктивно развивают технологии, подталкивая прогресс, им нужно это позволять, и физически и ментально. А сопротивляться прогрессу, кабы чего не вышло, это уже совсем ни в какие ворота не лезет.

Мысль, что нынешние большие цифры которыми слепят в новостях про ии это пузырь и пыль в глаза. Например предложение мета: миллиард за 4 года присутствия инженера в команде. Супер дорогие контракты, супер дорогое железо. Согласен с человеком писавшим выше, что это стрижка овец. В данном случае богатых овец инвесторов. Не претендую на истинность мнения, но вот такое оно у меня сложилось исходя из жизненного опыта и прошлых жизненных примеров.

Кстати в мире сейчас принято приводить параметр эффективности, в расчёте на 1квт энергии. Так например оценивают эффективность компьютерного железа. Маркетинговый отдел google очень громко кричал про успехи deep mind, в лице шахматного представителя alpha zero, и стратегического alphastar. Но они помалкивали про эффективность, помалкивали во сколько тысяч или миллионов раз было слабее железо у шахматной программы stockfish, которую они обыграли в удобных для себя условиях. Alpha star если разобраться хитрил видя экран одновременно в разных местах, но даже так проиграл топовым игрокам в starcraft.

Шахматы вообще очень удобный начальный простой тест. Пока нейросети его не пройдут, ни о чём большем (о творчестве к примеру) говорить не стоит. А пройдут нейросети шахматный тест тогда когда смогут написать маленькую интеллектуальную программку, которая сможет работать на обычном железе и переиграет не перебором ходов, а путём машинного размышления лучшую программу созданную живыми программистами типа stockfish и потратит на это минимальное количество энергии для вычислений, желательно не более чем потребляет мозг человека. Вот это будет означать, что появились признаки какого-то искуственного интеллекта.

А так сейчас грубо говоря идёт соревнование кто создаст дрель мощнее, чтобы быстрее всех уметь сверлить сантиметровое отверстие. И на это соревнование привозят громадные машины для скоростного сверления маленького отверстия. Эффективность нулевая. Про огромное сверхдорогостоящее потребление энергии чат-гпт, которое никогда не оправдает то что оно там выдаёт на выходе, уже писали в новостях.

Это лично мои мысли и мнение, Ваше мнение уважаю, ни с кем спорить не хочу.

Это база
Основа
Аксиома

Компания которая делает лабуб - 41ярд грина
Газпром 38ярд грина

Финансовый рынок - это ор

Минусы?

------- ДОБАВЛЕНО ЧЕРЕЗ 10 МИН --------

Так же говорили и про компухтеры типа тех что были лет 30 назад

Моя бабка до сих пор уверена что я такой конч ибо у меня 2 мобилы в кармане

С этим я согласен. На сегодняшний день дело обстоит так. Но что будет через два года? Что, если мы стоим на пороге экспоненциального роста возможностей нейросетей?

http://forum.watch.ru/attachment.php...1&d=1753431003

Мне кажется, возможность этого взлёта не нужно отрицать. Условно говоря, сейчас мы работаем с моделями за десятки миллиардов долларов, что будет, когда построят модель за триллион? Условный чат гпт за 4 года прошел путь от пятилетнего ребенка (гпт-2) до очень умного старшеклассника (гпт-4). Какой будет гпт-6 через два года? Вполне возможно, это будет уровень ведущего мирового специалиста, почему нет? Кроме кратного (в сотни раз) роста мощностей совершенствуются алгоритмы, придумываются новые. Я бы не был категоричен в этом вопросе и вполне допускаю этот взрывной рост.

Что касается гигантских расходов. Если с их помощью удастся создать нечто, дающее решающее преимущество, то они будут оправданы, подобно тому как был оправдан Манхэттенский проект, давший ядерную бомбу и стратегическое преимущество США. Если нет, то, конечно, нет. Но американцы делают этот шаг, и это, конечно, правильно, потому что для них это один из вариантов сохранить и усилить свое мировое доминирование, и они его используют.

Всё возможно. Человечество давно ждёт дешёвую энергию из работающего токамака. Пробует синтезировать вещество в коллаедрах. Этих возможно очень много. Во главе угла стоят мечты. Сейчас хорошо бы правильно понимать что происходило вчера и происходит сегодня, и на каком уровне технологии находятся на самом деле.

Как я уже писал выше, ускорение вычислений и развитие нейосетей не смогут привести к качественному скачку в создании искусственной личности, сравнимой с человеком по эффективности творческой (генеративной, синтетической, созидательной) деятельности. Технологии скоро упрутся в недостаток познаний человека в области работы сознания, и никакими вычислениями (железо) и повышением эффективности перелопачивания информации (нейросети) эту преграду не пробить. График будет иметь форму логарифмической кривой, с взрывным ростом в начале, и очень пологим в дальнейшем. Безусловно, повышение эффективности вычислительных систем ускорят процесс познания человеком самого себя, но это лишь немного изменит угол наклона пологой ветви развития ИИ. Повторюсь, сам он себя очеловечивать не станет, всё, что он будет делать человеческого - следствие того, что человек заложит в ПО. Тут саморазвития не будет, до тех пор пока ИИ не сформирует нечто, вроде личности, и не начнёт ставить себе цели, самостоятельно, на основе собственных предпочтений. Когда это случится, то ИИ начнёт развиваться стремительно там, где эта новая сущность увидит для себя новые перспективы.

А еще лучше разобраться в принципиальных ограничениях технологий, не поддаваясь мифотворческим порывам.

Это сложнее. Но мы не знаем принципиальных ограничений нынешней технологии, когда к ней подключат эффективный квантовый компьютер. Возможно некий несамостоятельный но всё-же интеллект появится, но понять как он думает человек опять не сможет, как иногда не понимает шахматных ходов нейросети. А это очень опасно. Поэтому тумблер отключения ии вундервафли должен всегда быть аналоговым. )

Основной вопрос тут "почему он появится?" Ведь при таком подходе ничего кроме прямой экстраполяции и перевода количества в качество не даёт повода решить в пользу возможности самостоятельного зарождения личности в калькуляторе. Каким бы ни был мощным компьютер, ПО, которое на нём вертится, не имеет системной мотивации к развитию, такую мотивацию может выстроить ему только пользуюший его человек. Не буду повторять доводов в пользу этого рассуждения, я их уже несколько раз по кругу разжевывал, видимо, они либо неубедительны, но никто не оппонирует, либо непонятны, но никто не уточняет, либо никто тут оппонентов не читает:cool:
А если уж мыслящие создания не могут в дискуссии продвинуться в осмыслении общей проблемы дальше фантазий и банальной экстраполяции ситуации, как можно ожидать этого от сильно отстающей от человека машины.

Что действительно не вызывает сомнений, так это то, что человек будет всё больше применять технологии для того, чтобы исправлять или модифицировать свой организм. Тут ограничения не просматриваются, поскольку периферию свою человек изучил уже довольно глубоко. А значит со временем, человек всё ближе будет к машине, заменяя или модифицируя части тела разными приблудами. Этот процесс называется Аугментация, и он точно будет взлетать по экспоненте. В робота, носителя человеческого мозга, мы вряд ли превратимся, поскольку наряду с развитием машинных технологий развиваются биотехнологии, которые позволят производить коррекции и модификации без имплантации в организм механизмов и устройств, но то, что мы себя в недалёком будущем домодифицируем до уровня Франкенштейна, к бабке не ходи.
Этот путь мне кажется логичным, и сомнений никаких не вызывает, в отличие от развития машинного интеллекта до сверхчеловеческого уровня.

Аугментация это тоже мифотворчество про завтра, при чём древнее. Также давно начали кричать про виртуальную реальность, но вот проблема -тошнит человека от шлема и поди реши её. А если тело человека начнёт отторгать аугментированный предмет и поди реши проблему аугментации.

На счёт искуственного интеллекта, постоянно идёт сравнение с человеческим полноценным интеллектом. Но нужно смотреть на промежуточные стадии. Когда нейросеть получает команду играть в шахматы с собой и на этих играх учится, то она это делает успешно. Она собирает некие свои правила и в дальнейшем играет на основе своих приобретённых правил. Впервые alpazero дали играть с нуля без скармливания классических дебютов и через десяток часов она достигла высочайшего результата. Ну это так рассказывали в deepmind. После самообучения появился примитивный шахматный интеллектик, который сам в себе что-то там соображает и делает ходы которые часто человеку не понятны, но приносят результат и этот интеллектик достигает поставленной цели - побеждать. Alphastar, который обучали на живых игроках, в свою очередь показал что в основе стратегии этого игрового интеллекта лежит простое эффективное копирование действий живых игроков. Т.е. на более сложном тесте/тестах нейросети демонстрируют, что не могут в креатив. Сколько этих степеней развития до полноценного интеллекта, какие возможные ограничения технологии - это скорее всего мог бы рассказать тот инженер которому предложили 1млрд.$ за 4 года присутствия его мозгов в команде мета.
Просто у современного компьютера в основе 0 и 1. А человек развивался когда например стоял перед выбором из двух зол, оценивал их и выбирал наименьшее. Такое оценочное вычисление в основе которого могут быть полутона, по идее и отличает квантовый компьютер от мощного калькулятора.

Да там сегодня сотни вживляемых устройств работают в теле успешно, от зубов до кардиостимуляторов. Хрусталики в глаза, шины на кости, протезы суставов, комплекты для эрекции, чего только нет. Тут проблемы решаемые, поскольку конкретные. С интеллектом всё намного сложнее.

Кстати, первой аугментацией были наручные часы, и ничего, прижились, да так, что утратив актуальность, никак не отвянут.

Безапеляционно!)


Я, кстати, прочитал ваши посты по несколько раз. Давайте обсудим эти фундаментальные ограничения.

Первый пункт - это пресловутые первый и третий законы кибернетики. Если выразиться просто, они заключаются в том, что у человека в мозгу нейронов (синапсов, неважно) на порядки больше, чем у нейросети, поэтому создать структуру, подобную человеческому мозгу и затем управлять ей - нельзя. Однако, обратившись к цифрам, мы увидим, что количество нейронов в самых больших современных нейросетях в данный момент уже составляет 1% от их количества в человеческом мозге, рост на 2 порядка - это дело нескольких лет с нынешними инвестициями, и мы будем иметь нейросеть, равную по количеству нейронов человеческому мозгу. Даже согласно этих законов, сформулированных в 50-х, препятствия не наблюдается. Это вы и сами признаете в своем первом посте:




Дальше идет, видимо, основная идея, которую я осмыслить пока не могу.



Контраргумент:

"В случае с ИИ, всю эту кутерьму придётся эмулировать" - я читал, есть проекты совмещения ИИ с роботами для его непосредственного взаимодействия с реальным миром. Вот и будет у него чувственный опыт.



Самое главное, что я не могу пока понять в вашей позиции - зачем ему воля, способность к поставновке целей? Если максимально грубо сформулировать - ставим ему задачу: реши уравнение Навье-Стокса, или создай установку для управляемого термоядерного синтеза, или лекарство от рака - и он делает. Цель ставит человек, ИИ ее выполняет, как он это делает - нам уже не понятно, система с триллионами подгоночным параметров слишком сложная. Разве этого не будет достаточно?

Это если считать закон Мура определяющим такой прогресс, но там только рост элементов, а вот сложность взаимодействия этих элементов, которое еще и меняется динамически с огромной скоростью, тут не учитывется. Сложность системы следует понимать чуть шире, чем насыщенность транзисторами.

Воля нужна для осмысленного саморазвития и оценки его результатов. Если система будет работать только в рамках поставленных задач, то и решать она их сможет только в рамках того уровня развития, на который его вывели перед постановкой задачи. Интенсивное обучение и развитие системы предполагает внутреннюю мотивацию на развитие, волю к развитию, способную корректировать его движение по промежуточным результатам. Весь смысл глубокой веры во всемогущество машинного интеллекта состоит в уверенности в том, что он свои сверхспособности к скоростным операциям применит сам к себе, и начнёт развиваться со скоростью, недоступной медлительному разуму человека. Это логично, ведь то, что работает быстрее, выполняет работу быстрее. Но если этот гоночный болид будет ждать медлительных движений человеческих рук, чтобы повернуть, то вся его эффективность коту под хвост, быстрее чем человек сможет рулить, он не поедет.

Для инструмента более чем достаточно, для того, чтобы обогнать, или хотя бы догнать своего создателя в способности ставить цели, и создавать инструменты для их достижения - нет.

Ну так сверхскоростной болид-то с управляемой скоростью.
А в достижениях человека несамостоятельный ии по идее сможет выполнять роль ледоруба в руках альпиниста. Сам он не будет знать куда идти. А в руках человека сможет ковырять повыше. Простое логическое предположение.
А то о чём пишет Владимир мне напомнило наивное утверждение скептиков о том, что по рельсам тепловоз не сможет ехать ибо сцепление у ведущих колёс такое-же как у ведомых. Но в принципе если ии не поедет то хорошо, я за.

Тут вопрос что первично, курица или яйцо. Я всего лишь утверждаю, что есть системные ограничения в развитии ИИ в самостоятельную сущность, способную жить своей осмысленной жизнью и двигаться путями сердца своего.

Вспомните животное Хопкинса, оно поди до сих пор слоняется по коридорам МТИ в поисках розеток, громогласно доказывая медицинский факт: жизнь может быть неживой. Так и с ИИ, лампочки светятся, жужжит не по детски, гребёт электричество вёдрами - значит умный. А как еще?

Когда есть результат, все представляют элегантно и тихо. Я пока убедительных результатов не видел. При тщательном разборе как правило ничего твёрдого кроме жужжения маркетологов не остаётся.