Искусственный Интеллект, быть или не быть.

[Rana]

Я вижу следующие основополагающие вопросы в топике (этическую составляющую, позвольте, все же упущу):

- Мифологизация «ИИ» (позвольте дальше буду использовать термин нейросети, когда речь в действительности не идет об интеллекте, так как название «искусственный интеллект» уже включает в себя мифологическую составляющую, пусть и сам термин уже стал общепринятым).
- Возможность или невозможность создать искусственный интеллект.
- Перспективы развития нейросетей и перспективы создания ИИ.
- Социальные риски от нейросетей.

Извините за многословие, не словоблудия для, а просто ради попытки объяснить свое мнение так, чтоб человек не в теме мог понять смысл (без научных терминов и отсылок к «иконам» от мира науки), а сделать это без многословия у меня ну никак не получается. Иначе будет не понятна суть примеров.

Думаю, что начать стоит со второго вопроса, из него могут прорасти остальные ответы.

Невозможность создать ИИ на этапе нашего развития. Точка.

Стоит чуть-чуть заглянуть в самое начало создания обучаемых нейросетей. Обучение нейросетей появилось еще в 50-ые годы прошлого века (а это на минуточку около 70 лет назад), сами нейросети появились еще более 10 лет до этого, но долгие десятилетия это больше представляло академический интерес. Потом с помощью них начали пытаться решать небольшие задачи. Скачек же произошел совсем недавно с появлением больших языковых моделей. Спасибо за это нужно сказать в первую очередь геймерам, для которых начали развивать видеокарты, их начали специализировать для устоявшихся задач игровой графики, где для преобразования графических объектов необходимо было делать огромное количество матричных перемножений. Эти карты очень быстро стали популярны в академических кругах занимающихся обучением нейросеток, ведь им тоже требовались подобные операции и игровые видеокарты с этим справлялись сильно лучше центральных процессоров. Очень быстро карты начали объединять в кластеры и возник оптимизм в этом направлении. Этот оптимизм привлек и инвесторов. Не будь геймеров неизвестно вообще заинтересовался бы кто-то вливать средства в эти проекты. В самой математике же ничего принципиально не поменялось за десятилетия. Даже метод обратного распространения ошибки (который эффективнее методов-предшественников) был представлен еще в 70-ых годах, и хоть и было развитие этих методов, но опять-таки принципиального скачка в мат.аппарате не было. То есть скачек был количественным, а количество уже дало требуемое качество. Но даже это качество, позволившее создать большие языковые модели, типа одного из самых популярных современных версий ChatGPT, далось только путем построения больших вычислительных центров размерами с несколько торговых центров и потребляющими гигаватты электроэнергии для обучения. И при всем при этом «синапсов» используемых в нейросетках все равно всего лишь порядка триллиона (пусть даже будет 10-20 через пару лет, на самых передовых вычислительных центрах). Для сравнения в человеческом мозгу около 450 триллионов синапсов.

Но и это совсем не главное!

Эти вычислительные центры не запихнуть в удобоваримый размер с удобоваримым потреблением энергии, чтоб заставить его продолжать обучаться хотя бы так, как это происходит в этих ВЦ. Там НС перепараметризованы. Для тиражирования же нейросетей их «пакуют» и «прореживают». Разными способами проводят прунинг. Для понимания этого процесса на необходимом уровне для ответа на текущие вопросы достаточно понять, что в основе всех нейросетей сидит матрица коэффициентов (сегодня это не всегда фиксированные веса, применяют также, например, баесовскую интерпретацию, и вместо весов используют распределения вероятностей, но это все равно сути рассуждений не меняет, поэтому упустим это, чтоб не усложнять) , где эти коэффициенты в известном смысле и играют роль синапсов. Так вот после обучения большая часть коэффициентов для возложенных на нейросеть задач либо вообще никакой роли не играют, либо играют незначительную роль и от них можно избавиться, часть цепочек объединить в одну связь и т.п., тем самым уменьшив общее количество синапсов раз в 20, особенно когда это необходимо для тиражирования. И вот этот результат уже можно тиражировать на компьютеры и даже смартфоны. После прунинга результаты работы сети часто даже становятся лучше и более предсказуемыми. Но, чтоб нейросеть научилась чему-нибудь действительно новому и изменила свою структуру нейронов, нужно снова вернуться к изначальной «неурезанной» НС. (На самом деле все немного сложнее, и прореживание, правда эфемерное прореживание, используется в том числе и при обучении, но это уже за пределами беседы, и объяснять детали на пальцах увеличит количество слов уж слишком сильно. При желании сейчас все есть в сети и кому интересно разберется в деталях. Кстати, некоторые методы прореживания при обучении тоже появились довольно давно, еще в 80-х, и используются по сей день). Понятно, что все это жутко упрощено, но понять общий ход проблем обучения НС можно.

И это еще полбеды!

Давайте представим себе студента прослушавшего лекцию и последующую практику. Вот он, вроде бы, уже обучился нужной теме. Но когда он придет домой и начнет решать задачи, он в процессе решения, когда думает, снова начинает обучаться. Его модель во время решения задачи меняется. Даже каждый раз, отвечая на вопрос обдуманно, человек проходит процесс обучения, появляются новые синапсы, он в этот момент развивается. С уже обученными тиражируемыми нейросетями же так не получится. Им приходит на вход вопрос от пользователя, они дают ответ, а нейросеть остается обучена тому же, чему была. Можно, конечно, представить, что люди придумают возможность обучения при взаимодействии с пользователем в самом цикле «вопрос-ответ», но в текущей парадигме это невозможно. Этот пример, кстати, прекрасно показывает, что НС не осмысливает свой ответ, потому что осмысление идет через непрерывные изменения структуры сети в момент «думания», чего НС не имеет в своей основе, только то, что заложено на этапе обучения. (Конечно, некоторую поправку коэффициентов можно делать в этом цикле, но рождать новые связи пока не получится в тиражируемых упакованных сетях, по сути это законченный продукт, без саморазвития).

И это тоже полбеды!

У человека есть чувственный опыт, позволяющий ему напрямую изучать этот мир. Для этого кроме мозга у него есть связанные с ним слух, зрение, вкус, тактильные ощущения и т.д.. Вот читает человек Булгакова и натыкается на сцену про рыбу второй свежести. Он моментально, имея чувственный опыт, представляет вкус этой рыбы, запах и т.д.. А что при обучении Булгакова «представит» нейросеть? Ничего, только символы и присвоенные веса (эмулирующие синапсы) для ответов на те или иные вопросы, никакой связи с реальным миром во время обработки текстов Булгакова нет, и быть не может, в связи с отсутствием этой связи в принципе. Она статистически симулирует некоторую степень понимания, но это как повезет. На один вопрос ответит нормально, а в другом месте начнет «галлюцинировать». Кстати, «галлюцинации» для НС норма, и чтоб от них избавится создают еще и специальные фильтры. Именно поэтому большинство сетей являются цензурируемыми. Без них глюков слишком много.

Можно ли нейросети дать чувственный опыт? Ограничений в этом деле слишком много, но будет достаточно одного, который все читающие прекрасно поймут: как добавить приборы слуха, вкуса и т.п. к большим вычислительным центрам и отпустить их в мир изучать его? Очевидно, что никак. А тиражируемым запакованным сетям, умеющим играть в игру «вопрос-ответ», но не умеющим обучаться даже на уровне нейросетей в БВЦ, это никак не может помочь.
Можно ли уменьшить размеры вычислительных центров до размера коробки от кроссовок? Очевидно, на кремниваемых технологиях нет.
Конечно, можно попробовать вынести «мозг» из робота на сервер, но это тоже не решит проблему из-за следующего разногласия:
мало проанализировать химический состав рыбы второй свежести, нужно иметь человеческую физиологию со всеми химическими процессами, которые по определенным причинам вызывают брезгливость к несвежему продукту. И это касается не только свежести, но и всего остального.
Наше социокультурное развитие базируется на нашей человеческой биологической структуре. Мы ее эмулировать полноценно не в состоянии, и как ее часть наш мозг тоже.

Кашалоты и дельфины тоже имеют развитый мозг, у них есть имена собственные, они поют какие-то «песни», играют (а это важная составляющая развития интеллекта). Мы можем поверхностно изучать их социальные взаимодействия, чтоб пытаться понять зачем, но понять их не способны из-за различий. Синапсов у них много больше, чем у самых передовых нейросетей, и мотивации жизненные есть, но интеллекта в человеческом понимании мы у них найти не можем (конечно, какой-то свой он есть, но далекий от человеческого).

И это только часть проблем, но которые способен понять каждый, не вникая в детали нейросетей и не погружаясь в философию человеческого сознания.

Мы слишком мало знаем про интеллекты вообще, и человеческий в частности, чтоб создать искусственный.

Все! Приехали!

Так что математики смотрят на возможность рождения нового (искусственного) интеллекта очень пессимистично. А вот как на очень крутой и продвинутый «калькулятор» - оптимистично.

И даже не нужны философские измышления по поводу человеческого сознания и принципов робототехники (насколько бы это не было интересным), чтоб показать несостоятельность нейросетей, как не то что интеллекта, а даже чего-то близкого к нему.



Что же касается мифотворчества, оно же идет не от математиков, разрабатывающих алгоритмы обучения, а от маркетологов от мира нейросеток. Им нужно продавать продукт, создание и развитие которого к тому же требуют огромных затрат. Разве мало мифотворчества в часовой теме? А ведь в ней затраты значительно меньшие, и возможностей мифотворчества тоже сравнительно очень мало. Мифотворчество - это очень хорошо работающий прием маркетологов, а в технологиях, которые непонятны большей части населения, и которые извне могут показаться какой-то магией, очень просто этим приемом воспользоваться, вот и пользуются с большим энтузиазмом.

Но это все пройдет. И довольно скоро. Виной тому будет стагнация в развитии нейросеток, а она будет, и не в далеком будущем, а при нашей жизни. И все привыкнут к ним, и все их попробуют на вкус и поймут их пределы. Ну, может, не прямо все, но подавляющее большинство, а остальные примут парадигму большинства, кроме некоторых, похожих на сегодняшних плоскоземельщиков (которые, кстати, в основном просто хорошие тролли) . Вспомните космическую гонку времен холодной войны, первые полеты в космос, а затем и человека на Луне. В те времена думали, что еще лет десять и люди будут топтать Марс. Оптимизм у человечества в этом направлении был сумасшедший. Но не то, что на Марс, даже на Луну повторно не слетали. Уперлись. Вся научная база закончилась, и скачек выдохся, и без новых открытий нас ждут только эволюционные улечшения. Вот и весь оптимизм на тему как мы будем бороздить галактики сошел на нет, а космические технологии стали просто рутиной запуска спутников. И уже даже все, что выходит за рамки «хозяйственных спутников», начинает многими критиковаться за излишнюю растрату денег на непонятные проекты, когда на Земле не все ладно, а ведь совсем недавно думали, что уже мы будем на Марсе под цветущими яблонями сидеть. Так же и оптимизм в создании ИИ спадет до минимального уровня.



Исходя из всего вышесказанного можно поговорить и о перспективах.

Основной пик и ажиотаж от этого уже рядом. Качественного рывка уже ждать не стоит. Но специализированные нейросети в помощь человеку будут расти как грибы. Со временем их отточат до достаточного качества для решения конкретных задач (и это в некоторых задачах уже происходит). Как помощники они очень перспективны. Это новый сверхпродвинутый калькулятор, а это нам всегда было нужно, для экономии времени, для работы, которая требуют колоссального количества человекочасов.

Конечно, можно ждать фундаментальных открытий, которые отразятся очень сильно на построении нейросетей. Но это непредсказуемо и текущие навыки построения нейросетей этого не предвещают. Правда можно представить, что развитие нейросетей высвободит множество человеческих ресурсов, и их можно будет отправить заниматься фундаментальными науками, тем самым увеличив вероятность прорывного открытия, необходимого для решения задачи построения настоящего нового интеллекта. Но вот только это все тоже сомнительно. До «оптимизма» (случившегося не благодаря бизнесу) в развитии НС никто не бросал туда деньги. Бизнес едет туда, где уже попахивает выгодой. А государства хоть и поддерживают фундаментальные исследования, но тоже выделяют на это очень маленький процент; войны, борьба за ресурсы, иногда снятие социальной напряженности и выборы интересуют больше. Нет звоночков, что что-то поменяется, и сильные мира сего будут вкладывать большие деньги туда, где неизвестно когда и какой будет результат, где он пригодится и когда пригодится, и даже такие вложения всех высвободившихся ресурсов не обещают ровно никакого результата.
Да и вообще сомнительно, что в принципе возможны необходимые прорывные открытия на данном этапе развития человечества. Очень сомнительно.

И да, я не пессимист. Я информированный оптимист.


Социальные риски.

Исходя из всего вышесказанного предлагаю остальным самостоятельно здесь порассуждать на эту тему.




Хотя в самую стратегическую игру Го машина уже побеждать научилась. Хорошая штука.



Понаписали здесь, конечно, много. Почитаю, может, еще чего-нибудь добавлю.

[Rana]

Сообщение от Spica

Автор темы очень высоко интеллектуальный человек и другие его так глубоко не понимают.

Я читаю это не как комплимент, а как что-то скорее оскорбительное для Владимира. Уж извините. Потому что, если Вас не понимают - это с большей вероятностью говорит не о Вашей гениальности, а о плохом умении доносить свои мысли до окружающих, особенно зная, что пишешь для широкой и разношерстной аудитории. Я не хочу думать ничего плохого о навыках Владимира по умению доступно самовыражаться, поэтому буду думать, что большинству просто лень читать относительно длинный для форумного формата текст. По крайней мере, у меня в его понимании трудностей не возникло, а я далеко не гений. Хотя с некоторыми выражениями Владимира я не могу согласиться, но возражения по ним не изменит картины обсуждения, поэтому спорить по этим мелочам смысла не вижу.

Сообщение от dmitrijshulc

либо очередные домыслы, либо.. человек и есть тот самый Ии
детские вопросы?

Дельфины и кашалоты - тоже искусственный интеллект?

Сообщение от maffin

Мы не ждём. Мы пляшем.

И нового мы не ждём. Мы ждём привычного. Удобного. Вы не мы? Везёт..

Почему бы не плясать под старое, если это одно и тоже?
Если в музыке не находишь чего-то новое, ее скучно слушать.

[Vladimir Landau]

Сообщение от Rana

Мы слишком мало знаем про интеллекты вообще, и человеческий в частности, чтоб создать искусственный.

Золотые слова.

Именно это ограничение и установит предел в скорости развития технологии, не дав материально технической базы для сингулярности. Качественный скачок (то, чего все так вдохновенно ждут) возможен, когда при отсутствии принципиальных барьеров существуют реальные возможности, помноженные на мотивацию. А тут реальные возможности очень быстро исчерпываются, упираясь в отсутствие научной базы, и всё, что останется оптимистам – лишь сумбурная вера во всемогущество прогресса, основанная на сегодняшних прорывах в технологии.

Дело в том, что с ускорением развития технологий, они начинают догонять предельные ресурсы фундаментальных знаний, и несмотря на готовность вкладывать ресурсы в развитие, технологии, ясно видя цели, упираются в отсутствие реализуемых задач. Поскольку пути достижения целей непонятны, то и разбить их на задачи, и потом поручить их решение технологиям, не получится, вот и выходит, что «видит око, да зуб не ймёт».

Я бы не стал мифотворческий оптимизм списывать только на маркетологов, мы так устроены, что без мифотворчества не сможем реализовывать свободную волю, вот и готовы обманывать себя, обманываться, и обманывать других. Мифотворчество – фундаментальная потребность человеческого интеллекта, поэтому никуда от неё не деться, да и незачем, она ведь породила не только магию и религию, благодаря ей мы наслаждаемся искусством. Так что это конструктивная фича, пусть цветёт и пахнет.

Сегодняшняя ИИ культура (назовём так всё, что крутится вокруг того, что называют ИИ), по принципу экономии мысли воодушевляется мифотворческим оптимизмом, и абсолютно игнорирует труднопроходимые дебри логики. Общество, проглотив наживку, вдохновенно ищет пути самореализации в рамках парадигмы ИИ. Юристы осмысливают её легитимность, моралисты – этические парадоксы, политики – угрозы обществу, художники – перспективы искусства, и далее по списку, каждый о своём и все в целом о Новых Васюках, до которых от Старой Москвы дистанция огромного размера. Этот ажиотаж и воздвигает величественный ареол вокруг мифа о Големе – спасителе человечества, но его создание не приближает никак, примерно с той же скоростью, как мифы о глобальном потеплении и озоновых дырах влияют на появление технологий для предотвращения их последствий. Что, впрочем, никак не уменьшает коммерческую привлекательность подобных проектов. Человечество охотнее тратит ресурсы на реализацию элегантных мифов, и предотвращение "неотвратимых угроз", чем на реальные необходимые ему вещи, поэтому история с ИИ будет очень бурной и увлекательной, во всех отношениях.

[Rana]

Сообщение от maffin

Первое - машина повторяющая эмоции.

Не эмоции она повторяет, а звуки и интервалы.
Разные пианисты одно и тоже произведение исполняют с разными эмоциями. Поэтому иногда одно исполнение трогает, а другое нет, хотя произведение одно и тоже.

Сообщение от maffin

Но выключи Сеть у них - они умрут... И мы умрём через неделю, примерно.

Ну а я думаю, что жизнь изменится, но быстро адаптируется и продолжится. Всего лишь Ваше мнение против моего.. Вы рисуете панику без аргументов.

Сообщение от maffin

Я знаю, что ИИ ушёл из плоскости разумной болтовни, в эмоциональное поле.

«Бездоказательно, дорогой профессор, бездоказательно» (c) Приключения Шерлока Холмса и доктора Ватсона

[Rana]

Сообщение от Vladimir Landau

Дело в том, что с ускорением развития технологий, они начинают догонять предельные ресурсы фундаментальных знаний, и несмотря на готовность вкладывать ресурсы в развитие, технологии, ясно видя цели, упираются в отсутствие реализуемых задач. Поскольку пути достижения целей непонятны, то и разбить их на задачи, и потом поручить их решение технологиям, не получится, вот и выходит, что «видит око, да зуб не ймёт».

Бесспорно, ИМХО.
Именно об этом я и писал в обзацах о мифотворчестве и перспективах.

[dmitrijshulc]

Сообщение от Rana

Дельфины и кашалоты - тоже искусственный интеллект?

аксиома или полностью доказано, что у них имеется интеллект?

зы. давняя история..

[Rana]

Сообщение от dmitrijshulc

аксиома или полностью доказано, что у них имеется интеллект?

Человеческого - нет, кашалотного у кашалота - завались. Имена собственные друг-другу дают, переговариваются на удалении в 10-ки километров, причем сигнализируют друг-другу по имени. А у дельфинов такая камасутра есть, что человеческая нервно курит в сторонке, и не мудрено, они за полчаса налавливают себе обед, а потом просто развлекаются, играют, занимаются сексом для удовольствия, а не продолжения рода, и т.д. и т.п..

[Vladimir Landau]

Интеллект, это способность мыслить разумно.
А дальше - нюансы.
Недавно померла самая умная обезьяна Канзи, та вообще могла много чего, но её способность мыслить разумно, увы, не достигала человеческого уровня.

[Rana]

Сообщение от Vladimir Landau

Я бы не стал мифотворческий оптимизм списывать только на маркетологов, мы так устроены, что без мифотворчества не сможем реализовывать свободную волю, вот и готовы обманывать себя, обманываться, и обманывать других. Мифотворчество – фундаментальная потребность человеческого интеллекта, поэтому никуда от неё не деться, да и незачем, она ведь породила не только магию и религию, благодаря ей мы наслаждаемся искусством. Так что это конструктивная фича, пусть цветёт и пахнет.

Одно другому не мешает, а дает очень хороший синергетический эффект.

Сообщение от Vladimir Landau

Интеллект, это способность мыслить разумно.
А дальше - нюансы.
Недавно померла самая умная обезьяна, та вообще могла много чего, но её способность мыслить разумно, увы, не достигала человеческого уровня.

Не достигала, но существовала. Просто с обезьяной все понятней. Она воспитывалась в нашем социуме и схожа по физиологии. И эмпатия той обезьяны была схожей. У нее и свой питомец был. Как она страдала, когда ее кошка (которую она сама попросила и выбрала) под машину попала… С кашалотами и дельфинами все сложнее. Трудно понять разумность, основанную на других природных предпосылках.

[dmitrijshulc]

Сообщение от Rana

Человеческого - нет, кашалотного у кашалота - завались. Имена собственные друг-другу дают, переговариваются на удалении в 10-ки километров, причем сигнализируют друг-другу по имени. А у дельфинов такая камасутра есть, что человеческая нервно курит в сторонке, и не мудрено, они за полчаса налавливают себе обед, а потом просто развлекаются, играют, занимаются сексом для удовольствия, а не продолжения рода, и т.д. и т.п..

похожих примеров найдется у всего живого мира, насекомых в том числе. нмв, дилетантский