Искусственный Интеллект, быть или не быть.

[S.5]

Сообщение от Андрей Бабанин

Мы принимаем в лоб термины.

Именно термин "ИИ" и вызывает у меня раздражение. В том, что штука это полезная и нужная, и что возможности её велики, не сомневаюсь. Термин "нейросеть" никакой негативной реакции не вызывает.

[Pachoche]

Плоды "ИИ" от Bestwatch (статья на Дзен). Был обескуражен. Скоро повсюду.

[Vladimir Landau]

Сообщение от Pachoche

Был обескуражен. Скоро повсюду

Да это сплошь и рядом, просто огромне число потребителей контента даже не отражает косяков, не имея ни кругозора ни образования.
Посмотрите сколько в общедоступных текстах допускается стилистических и грамматических ошибок, и это самое простое, чего нейросети могли бы избегать. Но поскольку люди сегодня так пишут, а сетям больше учиться не у кого, не букварь же заучивать, то сегодня вся эта жесть становится нормой. Косяки, как следствие пандемии дислексии, встречаются даже в учебных материалах уважаемых вузов, презентации пестрят ими на всех используемых там языках. И, похоже, вычитывать сфабрикованные ИИ опусы никто не собирается, полностью полагаясь на его компетентность, и считая себя менее грамотными чем машина. Тупичок-с

[Pachoche]

Интересно, а как ИИ (пока в виде LLM) преодолеет "языковые ловушки"? Один из примеров: какова конфигурация двигателя на старой Ferrari Testarossa? Если в контексте русского языка, то задача кажется неразрешимой: существуют только V-образные и оппозитные, термина "flat" ("плоские", объединяющие оппозитные и V-образные с углом развала 180*) как такового нет. Язык обучающих модель материалов, видимо, влияет на результат работы ИИ. Гипотеза Сепира-Уорфа может заиграть новыми красками.

[Андрей Бабанин]

Я изучал в техникуме двухколенвальные дизельные двигатели, где поршни работают навстречу друг другу и за счет окон в цилиндре происходит продувка и наддув. Никаких клапанов. Очень распространенный двигатель, кстати.

[Pachoche]

Сообщение от pomponiuz

Инструмент искусственного интеллекта GNoME от DeepMind позволил обнаружить 2,2 миллиона новых кристаллов, в том числе 380 тысяч стабильных материалов, которые могут стать основой технологий будущего.

Хм… А могут и не стать?
Зачем эти миллионы-миллиарды? Есть конкретная и суперважная задача - азотфиксация. За вариант решения которой Габер получил "нобелевку" в 1918. Этот цикл Габера-Боша до сих пор "фигачит" за моим окном. Энергозатратный, "тяжеловесный". Где эти новые, "найденные ИИ", элегантные и дешёвые решения проблемы азотфиксации? Пока я вижу только сгенерированный на каждом углу говноконтент.

[S.5]

Сообщение от Андрей Бабанин

Я изучал в техникуме двухколенвальные дизельные двигатели, где поршни работают навстречу друг другу и за счет окон в цилиндре происходит продувка и наддув. Никаких клапанов. Очень распространенный двигатель, кстати.

Тепловоз ТЭ3?

[Vladimir Landau]

Сообщение от Pachoche

Гипотеза Сепира-Уорфа может заиграть новыми красками.

Гипотеза Сепира-Уорфа играет, но недоигрывает
Язык не определяет мышление, и в лоб не влияет на него, он скорее отражает мышление и используется в качестве одного из его элементов. Мы мыслим не текстами, состоящими из слов, мы мыслим категориями, идеями, образами, которые, для формализации результатов мыслительного процесса и последующей коммуникации по их поводу, облекаем в слова. При этом, даже технология использования языка, заключающаяся в последовательности речи и передаваемых ей рассуждений, не отражает технологию мышления в его полноте. Речь последовательна, что связано с устройством речевого аппарата, ограничивающего скорость и порядок высказывания, а мысль таких ограничений, по большому счету, не имеет.

Мало того, мир, который мы осмысливаем, не представляет собой последовательность процессов, связанных причинно-следственными связями, эта модель бытия лишь упрощение, позволяющее нашему разуму выстраивать более или менее адекватное представление о нём. А вот речь, работающая при помощи языка, является следующим упрощением, позволяющем описать и задокументировать созданные в процессе осмысления реальности представления.

В принципе, замечание о языке – лыко в строку, поскольку то, чему мы сегодня с горем пополам, обучили нейросети, относится именно к «последней миле» - описанию и выражению человеческим языком плодов мышления, которые копятся в бигдате . Сегодня нейросети, не более чем коммуникационный инструмент, связывающий базу знаний, созданную человечеством с её конкретными пользователями, и именно в этом направлении достигнуты наибольшие успехи в их развитии, так поражающие воображение обывателей.

Безусловно, структура языка отражает и логику мышления, и культурно-исторический багаж, и особенности мировоззрения в рамках языковой культуры. Изучая язык можно многое понять о мышлении, но отождествлять язык с мышлением неверно, поскольку и язык, и речь вторичны по отношению к мышлению. Это второстепенные навыки, хотя и необходимые для реализации мыслительного процесса. Речь и язык выполняют роль интерфейса для загрузки в сознание и выгрузки наружу осмысливаемого и результатов осмысления, именно так, «по образу и подобию» мы и построили языковые модели на базе нейросетей. Но пока ИИ лишь интерфейс, и повлиять напрямую на способности к машинному мышлению сможет только косвенно.

Если немного вульгаризировать ситуацию, то именно потому, что мы присваиваем речи статус мысли, и возникают обсуждаемые тут противоречия и казусы.

[Pachoche]

Сообщение от Vladimir Landau

Сегодня нейросети, не более чем коммуникационный инструмент, связывающий базу знаний, созданную человечеством с её конкретными пользователями…

Вот в этом моменте у меня очень большие сомнения. Вряд ли "универсальную" базу знаний, скорее, базу мнений. Я же не зря привёл пример с Testarossa. С точки зрения русскоязычной Вики - это оппозитник, "boxer", англоязычной же - "flat", V-образный с углом развала 180*. Это принципиальная разница в инженерном смысле. Хотя конфигурация её двигателя - это факт. У него есть конкретная маркировка, создатель, да даже можно под капот заглянуть. Это точка начала моей экстраполяции. А если взять исторический факт? А если ещё и отнесённый далеко во времени. И язык начинает искажать факты: придуманное в более позднее время "иго" и много раз повторённое заставляет нас смотреть на взаимоотношения Орды и Руси уже только через эту призму. Такими ли были эти отношения в реальности? Что у нас там записалось в "базу" нейросети на этот счёт? "Среднее арифметическое", "веса" мнений?
Дальше. А если не факты? Понятие "душа", например. Ведь иные языки могут синтаксически выражать категорию "одушевлённости". Интересно, как о домашних питомцах размышляют последователи буддизма с их "анатман", "дхарма" и "сантана". Одушевляют или просто так любят? И больше: как мне быть, погруженным в русский язык и культуру, но неверующему, которому ближе "анатман" и соответствующее мироустройство? Мне может быть непонятен современный "страх ИИ", имеющий древние корни, кстати. Все эти зомби, механические куклы, которые сделаны искусными мастерами "как живые", прочее подобное - всегда вызывали страх у народонаселения, в иные времена можно было и на костёр отправиться. Страх своей копии, но без души. Здесь рядом и страх "потерять душу", "продать душу". Уверен: вся подобная дрянь, мусор, каша мнений и страхов, причём чётко окрашенная "западным", "христианским" мировоззрением (вспомним, какой язык материалов для обучения, культурную окраску этих материалов и гражданство авторов/владельцев), и наполнили эту "базу знаний" ИИ. Что мы ожидаем на выходе нейросети, подавая мусор определённого оттенка на вход? С одной стороны - генератор околобреда, с другой - "Голливуд", экспорт определённой культуры и идеологии.

[Vladimir Landau]

Сообщение от Pachoche

Что мы ожидаем на выходе нейросети, подавая мусор определённого оттенка на вход?

Кто девушку ужинает, тот её и танцует, но тут Вы, на мой взгляд, немного преувеличиваете.

Во-первых, поисковик ищет и в русскоязычных источниках, созданных с помощью скреп, редьки и кваса.

Во-вторых, если пользователю не до конца подходит ответ на запрос, он переспрашивает, и в любом случае не перестаёт думать, обрабатывая ответы.

В-третьих, запросы мировоззренческого характера поступают от более или менее подготовленных пользователей, имеющих хоть какую то мировоззренческую базу. Человек без мировоззренческой базы редко интересуется общими вопросами. И хотя он не видит искажений смысла, в котором не имеет кругозора, для такого человека подобная информация не имеет значения, и не встраивается в мировоззренческую парадигму, как несущественная…

Понятно, что бигдата копится из разных источников, и модерация по принципу адекватности или аутентичности там, судя по всему, работает по принципу обратной связи. Если народ реагирует на информацию отрицательно, то её можно ранжировать ниже чем статистически одобряемую. В принципе, можно ранжировать источники информации по авторитетности, типа: кодексы, учебники, монографии, энциклопедии, новостные платформы, вики-пики, чушь из соцсетей. Думаю, это и логично и реализуемо, и вероятно, реализовано.

Еще один момент - многоязычие чатов. Судя по всему, поиск эффективнее в той языковой базе, на основе которой был сформулирован поисковый запрос, а кросс-переводы в процессе поиска штука сложная, и, в соответствии с концепцией прунинга, вероятно, не реализуется в основной массе запросов. Так что миграции специфических по национально-культурному признаку понятий, и связанной с этим путаницы, там быть не должно.

Так что, хоть для конспирологов и открывается широчайшее поле источников бреда, влияние нейросетей на мировоззрение еще очень долго будет слабым. У них для этого нет ни авторитета, ни глубины, ни мощностей.
А вот скепсиса от косяков ИИ будет еще долго достаточно, чтобы прозреть и перестать опасаться величия враждебных технологий.