Искусственный Интеллект, быть или не быть.

[maffin]

Сообщение от Vladimir Landau

...Увы, 80% человечества вообще не способно отличить творчески мыслящего человека от говорящей головы, и это не мешает людям выживать, плодиться, и определять общественное мнение. Вот они и определяют.

Вот суть, которую я пытаюсь донести до вас, Владимир. Вы сами её сформулировали.
Эти восемьдесят процентов определят наше с вами будущее. У этого, так называемого "Искусственного Интелекта" нет задачи сравняться с Человеком, и уж тем более, превзойти Человека в интеллекте или эмпатии.
У этой... скажем так, категории, которую мы называем "искусственным интеллектом" сейчас, в первой четверти двадцать первого века, задача проста: увлечь эти 80 процентов популяции и через примитивные манипуляции (паронимы, простите) сознанием и эмоциями заставить принимать нужные решения. Двадцати процентам, к которым я отнесу и на с вами, эти манипуляции очевидны, и вызывают, как минимум, недоумение, как максимум - служат зыбкой почвой для анализа.
Но мы - в меньшинстве. И мы подчинимся, как и в прошлый раз. Новейшая история.
80 процентов эффективно управляются фальшивкой.
Сегодняшний ИИ, как категория, ставшая причиной этой ветки на нашем Форуме - это всего лишь инструмент порабощения человека человеком.
Нет тут никакой божественной задачи творения.
Поэтому ИИ вызывает столько дискуссий. Это всё - от непонимания категории.
Интеллект. Разум. Сознание. Эмпатия. Чувства. Симулякры. Акт Творения.
Нет.
Ружьё.
Рассмотрите ИИ в этой категории. Многое (всё) станет понятно.

[pomponiuz]

Сообщение от krasnopyourov

Несбыточные мечты штука очень недооценённая по своей опасности и деструктивности. Мечта всегда прячется в тени, но находится во главе и приносит громадный вред. Я осознал это когда прочитал статью написанную св. Отцом в 18 веке, про глупые мечты, на примере истории еврейского народа, который эти мечты привели к страшнейшему злодеянию в истории человечества и много раз приводили к разрушению государства и рассеиванию нации. И таких примеров много, например история построения коммунизма в ссср. До каких зверств доходили в стремлении исполнить мечту известно всем.

"Если вам нужен образ будущего, вообразите сапог, топчущий лицо человека — вечно".

Я только не понял, почему несбыточные? Все это вполне осуществимо, более того, я уверен, что однажды это случится. Я имею в виду полное мировое доминирование, тоталитаризм в планетарном масштабе. Даже сейчас у США для этого уже есть все средства.

[krasnopyourov]

Сообщение от pomponiuz

Я только не понял, почему несбыточные?

Сообщение от maffin

увлечь эти 80 процентов популяции

"И подошел Авраам и сказал: неужели Ты погубишь праведного с нечестивым? может быть, есть в этом городе пятьдесят праведников? неужели Ты погубишь, и не пощадишь места сего ради пятидесяти праведников, в нем? не может быть, чтобы Ты поступил так, чтобы Ты погубил праведного с нечестивым, чтобы то же было с праведником, что с нечестивым; не может быть от Тебя! Судия всей земли поступит ли неправосудно? Господь сказал: если Я найду в городе Содоме пятьдесят праведников, то Я ради них пощажу все место сие. Авраам сказал в ответ: вот, я решился говорить Владыке, я, прах и пепел: может быть, до пятидесяти праведников не достанет пяти, неужели за недостатком пяти Ты истребишь весь город? Он сказал: не истреблю, если найду там сорок пять. Авраам продолжал говорить с Ним и сказал: может быть, найдется там сорок? Он сказал: не сделаю того и ради сорока. И сказал Авраам: да не прогневается Владыка, что я буду говорить: может быть, найдется там тридцать? Он сказал: не сделаю, если найдется там тридцать. Авраам сказал: вот, я решился говорить Владыке: может быть, найдется там двадцать? Он сказал: не истреблю ради двадцати. Авраам сказал: да не прогневается Владыка, что я скажу еще однажды: может быть, найдется там десять? Он сказал: не истреблю ради десяти. И пошел Господь, перестав говорить с Авраамом."

Чтобы не предпринимал человек в падении и безумстве своём, у Бога будут реализованы свои планы!

[maffin]

Сообщение от krasnopyourov

"И пошел Господь, перестав говорить с Авраамом."

https://vk.com/video-186629479_456242192

------- ДОБАВЛЕНО ЧЕРЕЗ 13 МИН --------

Сообщение от krasnopyourov

Чтобы не предпринимал человек в падении и безумстве своём, у Бога будут реализованы свои планы!

Да, всё так.

[Vladimir Landau]

Сообщение от pomponiuz

если ИИ будет уметь быстро генерировать миллиарды строк кода для улучшения самого себя (которые, замечу, уже никто не сможет проверить, для этого не хватит программистов на всей планете), взламывать любые сети, проектировать роботов и заводы по их производству, новые материалы, биологическое оружие, избирательно действующее на людей с нужными генетическими признаками и прочее.

В том то и дело, что там есть серьёзные ограничения по генеративным функциям, если речь идёт о взламывании сетей, повышении эффективности поисковиков или обучение у нейростей делать наиболее вероятные выводы на основании накопленной информации , то тут действительно «масштабировать» успех можно до бесконечности, но насчет создания новых материалов, или разработки доселе не существовавшего оружия, это уже очень тонкие материи, подразумевающие творческий процесс, который без эмоционального интеллекта не работает, так что

Сообщение от pomponiuz

Если при этом ИИ не будет иметь самоосознания, этики, или писать гениальные стихи и музыку

синтеза чего-то нового от него ожидать опрометчиво.
Люди почему-то упорно вменяют ИИ это самое самосознание, понимая, что без него у машинного интеллекта не возникнут цели, отличные от тех, которые ставит ему человек. Но Вы тут легко соглашаетесь, что он и без самосознания будет творить всякую ересь. Не будет, зачем ему это нужно?
Это ловушка рациональности, в которую нас загоняет потребность творить мифы о всемогущих внешних силах, потребность в союзниках, которые смогут решить любые проблемы, потребность в Богах, в том или ином формате.

Сообщение от maffin

У этого, так называемого "Искусственного Интелекта" нет задачи сравняться с Человеком, и уж тем более, превзойти Человека в интеллекте или эмпатии.

Да нет у этой сущности никаких задач, кроме тех, что ставят ей люди. И да, совершенствующиеся инструменты влияния на сознание постоянно повышают результативность воздействия. Но так было и без технологий, элегантно скроенные идеологии лавинообразно, за считанные поколения достигали полного контроля над поддавшейся им толпой, и только те 20%, которые были готовы компрометировать харизматичные учения, не позволили этим идеологиям уничтожить человечество.
Как написал выше, возникновение персональных целей – следствие существования личности, осознающей свои потребности и предпочтения, поэтому, сначала должна возникнуть личность, а потом она возьмётся за созидание и воплощение идей. А с личностью у ИИ пока всё неопределенно, там нужен качественный скачок, причем простым накоплением вычислительной мощности и сложности кода этот скачок не запустить. Хотя на первый взгляд кажется, что всё это одного поля ягоды, считать, мыслить, желать, воплощать. Само не сдюжит, а помочь ему мы пока не в силах, сами пока в коротких штанишках познания блуждаем в тумане неизвестности.
Так что не нужно вешать всё на технологии, мы и без технологий манипулироваться горазды.

[pomponiuz]

Vladimir Landau

насчет создания новых материалов, или разработки доселе не существовавшего оружия, это уже очень тонкие материи, подразумевающие творческий процесс, который без эмоционального интеллекта не работает

https://habr.com/ru/news/777756/

Инструмент искусственного интеллекта GNoME от DeepMind позволил обнаружить 2,2 миллиона новых кристаллов, в том числе 380 тысяч стабильных материалов, которые могут стать основой технологий будущего.



Около 20 000 кристаллов, экспериментально идентифицированных в базе данных ICSD, являются вычислительно стабильными. Вычислительные подходы Materials Project увеличили это число до 48 000. GNoME расширяет количество известных человечеству стабильных материалов до 421 000

Команда DeepMind отметила, что открытия с помощью ИИ эквивалентны почти 800 годам накопленных человечеством знаний.

Вот первая попавшаяся статья. ИИ создает новые материалы. Причем это 2023 год, еще до уровня GPT-4. Что будет, когда запустят триллионные кластеры?



https://habr.com/ru/articles/814959/

Или вот, например, AlphaFold 3 от Google. Беспрецедентно точно предсказывает структуру белков, ДНК, РНК, лигандов и других элементов, а также их взаимодействие. Используется при создании новых лекарств.

AlphaFold 3 достигает беспрецедентной точности в предсказании лекарственных взаимодействий, включая связывание белков с лигандами и антител с их целевыми белками. AlphaFold 3 на 50 % точнее лучших традиционных методов в эталоне PoseBusters, не требуя ввода какой-либо структурной информации, что делает AlphaFold 3 первой системой искусственного интеллекта, превосходящей физические инструменты для предсказания биомолекулярной структуры. Способность предсказывать связывание антитела с белком имеет решающее значение для понимания аспектов иммунного ответа человека и разработки новых антител — растущего класса терапевтических средств.

В том то и дело, что там есть серьёзные ограничения по генеративным функциям

- вот касательно этого утверждения у меня вопрос - на чем оно основано? Это ваше частное мнение, или оно подкреплено какими-то исследованиями от разработчиков ИИ?

[Vladimir Landau]

Сообщение от pomponiuz

Это ваше частное мнение, или оно подкреплено какими-то исследованиями от разработчиков ИИ?

Это моё личное мнение, оно подкреплено моими рассуждениями, которые Вы пока не опровергли.

Перебор вариантов, это не креативное исследование, это всего лишь метод, который ИИ позволяет использовать эффективнее, чем это удаётся человеку исследователю, как впрочем и секвестирование генов, и, уверен, подобных примеров множество, я просто с ними не знаком. Но при чем тут теоретическая наука? Это ведь даже от практической науки далеко, поскольку вычисления происходят по требованию исследователя, с заданным критерием результата, в Вашем примере это реализуемость в первую очередь, и далее - стабильность. Что Вас в этом так удивляет, и где тут реальная новизна?

Основные противоречия в рассуждениях об ИИ возникают там, где он принимается как реальность, которая уже существует, и, как ребёнок, постепенно растёт, обучаясь и набирая могущество. Все эти рассуждения начинаются с утверждения, что интеллект возможно реализовать на базе вычислительных устройств, без всякого если. Я лишь начинаю с если, ведь если создание машинного мышления в том виде, в каком сегодня о нём грезят футурологи, в обозримом будущем невозможно, то всё остальное – неопрятные фантазии.
Посмотрите на рассуждения в приведенном Вами цикле статей, там все предсказания строятся на интерполяции текущей ситуации в будущее, причем линейной или почти линейной, а я бы представил её логарифмической кривой, которая на старте, взлетев за считанные годы от ЖПТ 0 до ЖПТ 4, скоро встанет колом, в связи с достижением технологией предела наших познаний в механике творческой деятельности, и будет совершенствоваться лишь количественно, качественно же оставаясь на уровне высокообразованного имбецила.

[pomponiuz]

Перебор вариантов, это не креативное исследование

насколько я понимаю, есть множество отраслей, в которых этих самых вариантов огромное множество. Сотни миллиардов, триллионы. В вышеизложенном примере утверждается, что для традиционных инструментов перебора (а они включают в себя традиционные компьютеры и алгоритмы) потребуется 800 лет. ИИ переберет их, условно, за неделю, потому что он перебирает их не втупую, и не по алгоритму. Любой алгоритм подразумевает реверс инжиниринг, в случае с ИИ его нет. То есть мы не сможем понять, как он это делает. Я считаю, это вполне себе создание нового, потому что без ИИ этого не создать.



https://www.trv-science.ru/2024/06/f...vaniyah-belka/


Вот неплохая статья про AlphaFold. Позволю себе привести цитату оттуда:

Мы с Джимом Фиккетом, который был одним из отцов GenBank еще в Лос-Аламосе, где-то в конце 1990-х обсуждали, за что бы могли дать Нобелевскую премию в биоинформатике, и решили, что только за предсказание структуры белка по последовательности. Так кому давать-то? «Гуглу», который сделал AlphaFold2?

— Основа AlphaFold — это гигантские банки данных, т. е. гигантская библиотека. И заслуга AlphaFold — в том, что он блестяще с ними работает.

— Но предсказывает он хорошо?

— У меня есть претензии, о которых я скажу потом, если придется к слову… Но предсказывает он хорошо. Впрочем, к слову: древнеегипетские жрецы, с их гигантскими архивами, прекрасно предсказывали затмения солнца и луны, хотя считали землю плоской…

— А стали ли мы умнее?

— Вот именно, об этом и речь. AlphaFold — это 21 миллион подгоночных параметров…

— Как любая нейросеть.

— Как любая нейросеть… плюс 100 млрд бит (или байт) информации в банках белковых данных. А для предсказывания структур белков «по физике» нужно лишь примерно 50 тыс. параметров.

— С другой стороны, «по физике» пытались предсказывать пятьдесят с лишним лет.

— Да, и не смогли.

Моя точка зрения в следующем: если с помощью ИИ можно создать новое вещество, а без ИИ этого не сделать за вменяемый срок, значит, это вещество создано ИИ. Неважно, как это называть, креативное исследование или перебор, важен результат - новое вещество с заданными параметрами, новое лекарство, новая программа.

[Vladimir Landau]

Сообщение от pomponiuz

если с помощью ИИ можно создать новое вещество, а без ИИ этого не сделать за вменяемый срок, значит, это вещество создано ИИ

Да какая разница, кто участвовал, тут ведь важно, кто ставил задачу, и для чего.
Мы ведь об этом размышляем, а не о том, что считать калькуляторы могут быстрее людей. Конечно могут, на то они и калькуляторы, но ставить пред собой цели, да еще и осмысленно, а не продолжать считать, просто потому, что забыли остановить в конце, это не про скорость вычислений, и даже не про их результаты, а немного о другом.

[pomponiuz]

А ИИ разве создавался для постановки задач самому себе или для самоосознания? Повторю, он создавался для войны и технологического доминирования. Задачи будет ставить человек, с этим я не спорю.

------- ДОБАВЛЕНО ЧЕРЕЗ 14 МИН --------

Вспомнил еще один пример из статьи Ашенбреннера - о программе для игры в Го на основе ИИ - Alpha Go. Напомню, что игра го долгое время считалась слишком сложной для просчитывания компьютерными алгоритмами, люди тотально доминировали. Еще 10 лет назад компьютеры превосходили людей абсолютно во всех популярных играх с полной информацией, кроме одной — го (подробнее - здесь https://habr.com/ru/articles/224029/).

Здесь также будет полезно вспомнить AlphaGo — первую систему искусственного интеллекта, которая победила чемпионов мира по игре го за десятилетия до того, как это стало возможным.

На первом этапе AlphaGo обучался методом имитации игр в го, проводимых опытными игроками. Это заложило основу для его работы.

На втором этапе AlphaGo сыграл миллионы партий сам с собой. Это позволило ему стать сверхчеловеком в го: вспомните знаменитый ход 37 в партии с Ли Седолем (чемпионом мира по го) — крайне необычный, но блестящий ход, который человек никогда бы не сделал.

Можно ли этот 37 ход, предопределивший исход в партии с чемпионом мира - считать творчеством, причем сверхчеловеческого уровня? Я считаю, что да. Ведь ИИ сам "придумал", синтезировал его, так до него никто никогда не играл.