Искусственный Интеллект, быть или не быть.

[Vladimir Landau]

Сообщение от novicer

развитие ИИ ведет к деградации человечества, его оглуплению, к утрате им навыков критического восприятия информации

Тут ведь вот какое дело, то, что сегодня называют ИИ и пользуются его услугами в "умных" чатах, становится эффективным помощником мыслящих людей, дающих им эффективные механизмы помощники в их творческой деятельности. Это действительно реальность, поскольку нейросети позволяют очень быстро находить ответы на информационные вопросы, и иногда ты сам бы этих ответов сегодня не нашел, потому что они прячутся в редких, зачастую единичных публикациях, цитируемость которых ниже уровня, позволяющего быстро натолкнутся на них исследователю.

С другой стороны, нейросети накидывают множество вариантов ответов на поставленные вопросы, способных натолкнуть исследователя на интересные идеи, которых без этих вариантов он бы никогда не нащупал, либо нащупал позднее.
Это я вербализую опыт реальных ученых-исследователей, а не высасываю из пальца радужные перспективы, если что.

Но если посмотреть на ситуацию с позиции среднего обывателя, то да, проблема видится отчетливо, ведь экономия энергии очень серьёзная мотивация, не зря сахар и алкоголь, быстрые калории, мгновенно порабощают человека, теряющего самоконтроль. А значит, если человеку предложат мир, в котором ему не придётся прогрызать гранит науки, и не нужно будет нагружать память разносторонней информацией, поскольку у него будет альтернатива обратиться к умному помощнику, то он не станет напрягаться, и отдаст вот это вот всё на откуп технологиям. И всё бы ничего, но если его сознание будет чисто, как пустой лист, а память пуста, как пыльный чердак, он никогда не задумается ни о чем, что бы выходило за рамки банальной жизнедеятельности, и превратится в мыслящий тростник в самом плохом смысле, который Паскалю даже не снился.

То есть, мыслящие люди станут мыслить еще разумнее, а недоумки станут еще тупее. Такая перспектива немного пугает, поскольку отупление идиотов, наряду с вызванным развитием человеко-заменяющих технологий уменьшением их востребованности в народном хозяйстве, приведёт к неконтролируемому росту праздного населения планеты, которое является серьёзной угрозой стабильности общества. Обеспеченная праздность – наркотик, бороться с которым будет гораздо дороже и сложнее, чем с синтетическими наркотиками современности. Посмотрите, как трудно даётся американцам реализация планов текущей администрации по возвращению промышленного производства в штаты. Там ведь не только экономика нужна, нужно еще заставить привыкших жить на пособия пролетариев вернуться к станкам, тут потребуются настолько радикальные меры, что мир может не устоять от их последствий.

Так что да, непросто это всё…

[novicer]

Сообщение от Vladimir Landau

Но если посмотреть на ситуацию с позиции среднего обывателя, то да, проблема видится отчетливо, ведь экономия энергии очень серьёзная мотивация, не зря сахар и алкоголь, быстрые калории, мгновенно порабощают человека, теряющего самоконтроль. А значит, если человеку предложат мир, в котором ему не придётся прогрызать гранит науки, и не нужно будет нагружать память разносторонней информацией, поскольку у него будет альтернатива обратиться к умному помощнику, то он не станет напрягаться, и отдаст вот это вот всё на откуп технологиям. И всё бы ничего, но если его сознание будет чисто, как пустой лист, а память пуста, как пыльный чердак, он никогда не задумается ни о чем, что бы выходило за рамки банальной жизнедеятельности, и превратится в мыслящий тростник в самом плохом смысле, который Паскалю даже не снился.

То есть, мыслящие люди станут мыслить еще разумнее, а недоумки станут еще тупее. Такая перспектива немного пугает, поскольку отупление идиотов, наряду с вызванным развитием человеко-заменяющих технологий уменьшением их востребованности в народном хозяйстве, приведёт к неконтролируемому росту праздного населения планеты, которое является серьёзной угрозой стабильности общества. Обеспеченная праздность – наркотик, бороться с которым будет гораздо дороже и сложнее, чем с синтетическими наркотиками современности. Посмотрите, как трудно даётся американцам реализация планов текущей администрации по возвращению промышленного производства в штаты. Там ведь не только экономика нужна, нужно еще заставить привыкших жить на пособия пролетариев вернуться к станкам, тут потребуются настолько радикальные меры, что мир может не устоять от их последствий.

Так что да, непросто это всё…

Собственно это я имел ввиду. Вы всё очень подробно и красиво расписали. Браво! Я так, к сожалению, не умею.
Будет минимум мыслящих людей, собственно тех, в чьих руках как-раз и будет этот ИИ в качестве инструмента, контролирующего абсолютное большинство отупевших идиотов, ведущих праздный образ жизни. Планета перенаселена человечеством. Слишком много паразитов. Вот уж, действительно, разговоры про "золотой миллиард" и про "комитет 300" не просто слова. Конечно, восстание машин и матрица на вряд ли случатся, но что-то по сокращению численности народонаселения сильными мира сего нам уготовано точно. И ИИ в этом будет играть не последнюю роль.

,

[Vladimir Landau]

Сообщение от novicer

Собственно это я имел ввиду.

На самом деле всё не так плохо, "шельма дырочку найдёт", способный человек прорвётся сквозь соблазны бездействия, у него есть природный иммунитет от "кайфа" - в переводе с арабского: "наслаждение ничегонеделанием", это любопытство и амбиции. Причем любопытство и амбиции не признаки исключительных способностей, они встречаются в людях гораздо чаще, чем таланты. Лентяев действительно бесчисленное множество, и если предложить им костыль - поводыря в мире бездействия в виде ИИ, они безусловно заглотят наживку, но природа не допустит деградации человеческого рода по такому пустяковому поводу, она обязательно повысит рождаемость шебутных в ответ на угрозу ИИ, она всегда так делала, поэтому мы до сих пор гегемоны на нашей планете.

[Rana]

Тик-ток пережили и ИИ переживем как-нибудь.
Все будет нормально. Больше беспокоит сбор информации об всех и точечное промывание мозгов на основе персонализации. В общем, цифровой концлагерь гораздо сильнее будоражит мозг.

[novicer]

Сообщение от Rana

Тик-ток пережили и ИИ переживем как-нибудь.
Все будет нормально. Больше беспокоит сбор информации об всех и точечное промывание мозгов на основе персонализации. В общем, цифровой концлагерь гораздо сильнее будоражит мозг.

Будоражит тем, кому есть чего скрывать. А если "с детства был идеалист, душою чист, как белый лист"(с), то не о чем беспокоиться. "Пролетариям нечего терять, кроме своих цепей"(с)

[Timeis]

Сообщение от novicer

не о чем беспокоиться…

Сдаётся мне, что речь здесь об ином. О том, что "всё сказанное вами может быть использовано против вас".

[Vladimir Landau]

Это не первая ласточка, но ласточек скоро налетит целая стая
Разработка генеративных сетей для помощи в написании программного кода сопряжена с высокими издержками и низкими доходами. Компании несут убытки, хотя их ассистенты сверхпопулярны.

Эдак коммерческая мотивация по развитию генеративного ИИ скиснет, и ни о какой сингулярности в ближайшее время говорить не придётся.
Вспомнил историю с индийским ИИ разработчиком "Наташи", где за ширмой ИИ трудились 1000 программистов...

[Zhent]

Сообщение от Vladimir Landau

То есть, мыслящие люди станут мыслить еще разумнее, а недоумки станут еще тупее. Такая перспектива немного пугает, поскольку отупление идиотов, наряду с вызванным развитием человеко-заменяющих технологий уменьшением их востребованности в народном хозяйстве, приведёт к неконтролируемому росту праздного населения планеты, которое является серьёзной угрозой стабильности общества. Обеспеченная праздность – наркотик, бороться с которым будет гораздо дороже и сложнее, чем с синтетическими наркотиками современности.

Так что да, непросто это всё…

Стругацикие, "Хищные вещи века", там описывается как раз такое общество.

[Rana]

Сообщение от novicer

Будоражит тем, кому есть чего скрывать. А если "с детства был идеалист, душою чист, как белый лист"(с), то не о чем беспокоиться. "Пролетариям нечего терять, кроме своих цепей"(с)

Вот цепи честные пролетарии и получат, похоже.

Сообщение от Vladimir Landau

Это не первая ласточка, но ласточек скоро налетит целая стая
Разработка генеративных сетей для помощи в написании программного кода сопряжена с высокими издержками и низкими доходами. Компании несут убытки, хотя их ассистенты сверхпопулярны.

Эдак коммерческая мотивация по развитию генеративного ИИ скиснет, и ни о какой сингулярности в ближайшее время говорить не придётся.
Вспомнил историю с индийским ИИ разработчиком "Наташи", где за ширмой ИИ трудились 1000 программистов...

GPT-5 уже вышел. И прирост там значительно меньше, чем ожидалось. Похоже, замедление в развитии даже больше, чем я полагал, и стагнация наступит немного раньше ожидаемого мной. Может, чего новое прикрутят, чтоб продлить агонию.

[Vladimir Landau]

Сообщение от Rana

Может, чего новое прикрутят, чтоб продлить агонию.

Меня во всей этой кутерьме больше всего раздражает раздувшееся в последнее время кликушество "высокопоставленных" (в прошлом) инженеров разработчиков, засветившихся у крупных игроков. Недавно один такой гуру выдал, что вероятность уничтожения человечества руками ИИ не ниже 95%...
Типа, хотите спастись, заходите, мы вам наверняка недорого поможем.
Не слишком чистоплотно всё получается, но чего ожидать от "практиков", это же типа не фундаментальная наука, а уже давно индустрия.