paleoforum.ru

Цитата: АrefievPV от февраля 22, 2024, 11:49:52Ошибаетесь, станет умнее.

Каждая «придумка» повышает интеллект и отдельной особи, которая придумала, и социума в целом (особь поделилась своей «придумкой с другими особями). И увеличение количества придумок имеет кумулятивный (синергетический, интеграционный) эффект.


Сначала возникают некоторые изменения в среде обитания, которые заставляют людей реагировать на происходящее. Иначе говоря, сначала возникает вызов среды, который формирует в социуме потребность устранить этот вызов.

Такая потребность изначально может возникнуть у отдельного человека или у небольшой группы людей, а затем распространиться по социуму, превратившись уже в социальная потребность.

Людское общество меняется.
С развитием техники всё больше людей становятся просто пользователями и всё меньше-как то в этой технике понимающими.Как будет выглядеть каста "компьютерных жрецов"-трудно сказать.
Но она-не социум. И надёжность процессов внутри касты очень невысока.

Растёт и нагрузка. Всё больше и больше пусть однотипных ,но требующих индивидуального человеческого рассмотрения задач.
Число способных их решать внутри касты тоже падает.
Есть огород ,есть лопата ,но у хозяина не хватает сил. В итоге есть пара грядок с укропом ,а остальной огород зарастает бурьяном.
И огород ,и лопата ,и укроп-надёжны. Наименее всего надёжен огородник. А в свой огород он то ли некого не пускает ,то ли просто нет помощников.

Любая каста допускает для своих членов какие то нарушения общечеловеческих понятий в своих интересах.(какой то злой умысел совсем не обязательны ,есть множество иных причин)
 Собственно-это и есть смысл существования касты  (секты ,шайки...)
Отсюда велика вероятность ,что социум получит от этой касты продукт всё большей технической сложности и всё более низкого качества.

Собственно такая каста и сейчас есть ,но она пока справляется а зависимость социума от её продукта ещё не достигло определенной величины.

Цитата: ключ от февраля 22, 2024, 14:18:05Людское общество меняется.
С развитием техники всё больше людей становятся просто пользователями и всё меньше-как то в этой технике понимающими.

Так всегда было, есть и будет – в социуме знающих, разбирающихся и умных людей кратно (или даже на порядки) меньше, чем, соответственно, малознающих, слаборазбирающихся и не особо умных (а, зачастую, глупых) людей. И так обстоит дело во всех областях человеческой деятельности (не только в науке и технологии, но и в искусстве, в религии и т.д.)

Цитата: ключ от февраля 22, 2024, 14:18:05Как будет выглядеть каста "компьютерных жрецов"-трудно сказать.
Но она-не социум.

Во-первых, она – часть общечеловеческого социума, а, во-вторых, она тоже социум, только уровнем ниже, чем общечеловеческий (типа, эдакий подсоциум как «сообщество металлургов»).

А как эта часть социума (каста «компьютерных жрецов», как вы её обозвали) будет выглядеть (а она, так или иначе, будет изменяться), мы, возможно, увидим ещё при нашей жизни.

Кстати, в этой части социума состав тоже будет постепенно дифференцироваться (это уже происходит вовсю) на знающих/разбирающихся/умных и на малознающих/слаборазбирающихся/глупых. И последних тоже будет гораздо больше, чем первых.

Цитата: Игорь Антонов от февраля 22, 2024, 13:19:44Наличествует обстоятельство, которое, к сожалению, не многие осознают.

Тут начался запрос на "напиток градусом пониже". Человечество сводится к индивидам, могущим сформулировать лишь запрос, типа, "Алиса, я кушать хочу" в надежде, что Алиса укажет конкретный автомат, который надо протереть от пыли, что бы в награду он выдал пирожок с мясом или без.
  Подобное сплошь и рядом описано фантастами, как пример естественной дегенерации до рудиментов к автоматам. Нафига разбираться, как рождалась таблица умножения, если в эту таблицу доступ свободен.

Цитата: Игорь Антонов от февраля 22, 2024, 00:23:28Программисты работу не потеряют. Поскольку принципы,  на которых построен современный ИИ, включая ChatGPT и GitHub Copilot, не предполагают генерации чего-то нового в системном и алгоритмическом плане.

Я на квантовый компьютер

Цитата: Шаройко Лилия от февраля 21, 2024, 22:17:53Именно потенциальная энергия молекулы определяет то, как она ведет себя с точки зрения химии. Бывают простые химические реакции, которые можно посчитать, а для этого надо знать кривую потенциальной энергии. Расчет можно выполнить и на обычном компьютере, но чем больше молекула, тем сложнее задача для расчета ее потенциальной энергии. Например, для формальдегида такую задачу на обычном компьютере решить невозможно. Мы же точно квантово-механически рассчитываем все волновые функции, то есть положения всех электронов, и вычисляем кривую

 реакции не вижу, но очень интересно было и порылась еще. Нашла статью в Хабр 2022 года


https://habr.com/ru/companies/lanit/articles/667928/

ЦитироватьВ сфере создания квантовых компьютеров в 2023 году может произойти сразу несколько значимых событий. Ожидается, что именно в этом году появится первая коммерческая модель квантового компьютера, а также будет практически завершена работа над первым российским квантовым компьютером на ионах. Будет ли это означать уверенное достижение квантового превосходства, о котором уже заявили в Google, – большой вопрос. В гонке за кубитами участвуют сразу несколько стран, но победителя в этом научном и техническом соревновании может не оказаться. Несмотря на все успехи, наука очень далека от создания по-настоящему массовых квантовых вычислительных технологий. Мы собрали несколько наивных вопросов на этот счет и попросили ответить на них научного консультанта Artezio, доктора технических наук, профессора по кафедре прикладной математики и информатики Владимира Крылова.

ЦитироватьНо даже при таких тщательно разработанных, изготовленных и смонтированных вспомогательных агрегатах сегодняшний квантовый компьютер не способен стабильно выполнять квантовые алгоритмы. Его работа нестабильна и сопровождается ошибками. Современные тренды в разработке квантовых компьютеров направлены на создание методов исправления этих ошибок. Большинство разработок квантовых алгоритмов ведется для так называемых Noisy intermediate-scale quantum (NISQ) компьютеров (с промежуточным уровнем шума).

Выход квантового компьютера за пределы научной лаборатории определяется наличием NISQ-алгоритма для решаемой задачи.

ЦитироватьЭти «дорожные карты» направлены на количественный рост числа интегрированных в компьютер кубитов. Первый поставляемый компанией IBM серийный квантовый компьютер IBM Quantum System One имеет квантовый процессор Eagle с 127 кубитами. Следующим таким компьютером, поставки которого начнутся с 2023 года, является IBM Quantum System Two с  433 и 1121 кубитами.  Это позволит бороться с проблемами ошибок путем дублирования. Выпуск этих компьютеров позволит и дальше выделять финансирование на научные разработки, которые могут принести непредсказуемый, но прорывной результат в области создания квантовых устройств.

Игорь, что думаете про квантовое направление, или может еще кто-то думает про него, я правильно понимаю, что судя по статье стабильность может быть важнее количества кубитов, у нас пока очень мало 20 по сравнению с 400, хотя скорость роста числа кубитов обещают к концу года более чем двухкратную.

Чем российский на ионах, это подчеркнуто в статье неоднократно отличается от остальных?

Цитата: Игорь Антонов от февраля 22, 2024, 13:19:44Новая конструктивная идея не следует по каким-либо физико-математическим следствиям из своих предпосылок.
ИИ же новых идей не вырабатывает.

Про то, что ИИ самостоятельно новых идей не вырабатывает я сказал в своем первом же сообщении в этой теме. Это потому, что в ИИ не заложена потребность в чем-либо. А без потребности не будет и идеи. Идея нужна только для удовлетворения некой потребности.

Речь была только о том, может ли ИИ генерировать что-то новое в системном и алгоритмическом плане. Насколько я знаю, ИИ уже сейчас способен на это. Разумеется, по запросу и наводке человека. Ему то самому это не нужно. Это нужно человеку.
И я уверен, что наступит время, когда человек и интеллектуально и физически не будет способен генерировать что-то новое в системном и алгоритмическом плане.
Человек может только сгенерировать идею-запрос типа: Построй зведолет для исследования туманности Андромеды. А ИИ сделает и программу и проект и реализацию этой идеи на основе имеющейся базы данных.

Что касается потеряют ли работу программисты, то такая угроза имеется уже сейчас.
Вот статья где приводится на этот счет мнение практика - генерального директора Nvidia Дженсена Хуанга: Учеба на ИТ-специалиста стала бесполезной. Отныне программировать может любой двоечник без знаний, навыков и даже без клавиатуры.
Гендиректор Nvidia Дженсен Хуанг заявил о новой эпохе в программировании, когда многолетний опыт в написании программ больше не нужен. Отныне создать приложение может каждый, кто умеет говорить – в этом ему поможет генеративная нейросеть. Хуанг уверен, что искусственный интеллект пригодится во многих сферах, например, в архитектуре. Но это ставит миллионы людей под угрозу потери работы.
https://www.cnews.ru/news/top/2023-05-30_teper_kazhdyj_programmist

Цитата: Шаройко Лилия от февраля 22, 2024, 19:34:06стабильность может быть важнее количества кубитов,

Мои две копейки: без стабильности нельзя доверять вычислениям в принципе. И вообще, если бы мозг пошел по пути квантовых вычислений, то не знал бы как интерпретировать вычисления.
  Вот задачка, как вычислить результат принципиально непредсказумых событий? Квантовый комп будет вводить одну непредсказуемость за другой и вычислять тот результат, который будет сравнивать с мириадом других вводных, вычисляемых "параллельно". Мозг поступит по-иному, сразу введет непредсказуемость результата своего предполагаемого нейро"электрического" действия и решит надо ли предпринимать таковое действие из соображений получения удовольствия от химизма сопровождающих реакций.
  Разгадка проста - химизм длителен, а нейроэлектризм быстр, пока перебираются варианты быстрых действий, подоспеет монстр медленных действий, который соразмерит химический позитив с чередой электрических негативов. Короткие волны да-нет от "электризма" сложатся с волной "да" от химизма - это и будет момент принятия решения, который нужно научаться подождать, а не действовать как рефлекторное "хочу здесь и сейчас".

Цитата: Шаройко Лилия от февраля 22, 2024, 19:34:06Игорь, что думаете про квантовое направление

Я думаю, что квантовые эффекты имеют отношение к явлениям мышления и сознания, и в этом смысле квантовое направление самое перспективное. Но непредсказуемое по срокам достижимости каких-либо практических результатов в сфере сильного ИИ. Если они будут, то, возможно, через десятки лет.

Цитата: Максет от февраля 22, 2024, 20:10:48Что касается потеряют ли работу программисты, то такая угроза имеется уже сейчас.

Я на днях проверял интеллектуальный программистский уровень передового ИИ ChatGPT 4 128K.
Вопрос касался свойств простой функции на языке C, которую я написал:
Какое значение вернёт следующая функция на языке C?
int func1(int a)
{
 int b = a - 6;
 if(!a) {
  a = b + 8;
 }
 if(a == 2 && b != -4)
   a = 0;
 int d = b + 16;
 int c = a - d + 12;
 return c;
}

Эта функция всегда возвращает значение 2.
ChatGPT ответил, что при значении параметра a равном 0 функция вернёт значение 4.
Способность понимать новые системные свойства новых комбинаций операторов - вопрос профессиональной пригодности программиста.
ИИ этой способностью не обладает, поскольку учитывает системные свойства только тех прецедентов, на которых он обучался. 

Цитата: Игорь Антонов от февраля 22, 2024, 21:14:10Способность понимать новые системные свойства новых комбинаций операторов - вопрос профессиональной пригодности программиста.
ИИ этой способностью не обладает, поскольку учитывает системные свойства только тех прецедентов, на которых он обучался. 

Это естественно и не подлежит сомнению. Никто и ничто не способно выдать знание чего-либо, если это знание в него предварительно не заложено. Думаю, Вы тоже не родились с этими знаниями и не самостоятельно научились этому. Эти знания в вас заложили учителя и авторы учебников по которым Вы учились.

Цитата: Максет от февраля 22, 2024, 22:17:11Это естественно и не подлежит сомнению. Никто и ничто не способно выдать знание чего-либо, если это знание в него предварительно не заложено. Думаю, Вы тоже не родились с этими знаниями и не самостоятельно научились этому. Эти знания в вас заложили учителя и авторы учебников по которым Вы учились.

Да, но я узнал законы математической игры Life Конвея и сделал программу, которая позволяла эти законы варьировать.
Столкнулся с задачей, где надо было точно запоминать форму огибающей высокочастотного сигнала и воспроизводить её  модулированной по частоте с задержкой, и придумал новую патентно пригодную модель оцифровки и восстановления сигнала такого рода.
Человек способен выходить за рамки заранее заданного. И в этой способности источник всего нового. 

Цитата: АrefievPV от февраля 22, 2024, 14:50:33Во-первых, она – часть общечеловеческого социума, а, во-вторых, она тоже социум, только уровнем ниже, чем общечеловеческий (типа, эдакий подсоциум как «сообщество металлургов»).

А как эта часть социума (каста «компьютерных жрецов», как вы её обозвали) будет выглядеть (а она, так или иначе, будет изменяться), мы, возможно, увидим ещё при нашей жизни.

В ситуации есть некоторая новизна.

Человечество никогда не сталкивалось с человеком или Кастой ,способными влиять на среду.
Говорится ,что в древности боялись колдуна ,способного погасить Солнце. Но ,думаю-сильно это преувеличено. Да и о масштабности грозящего явления никто ,кроме Ноя ,не имел представления.

Техногенная среда (механика ,электрика ,химия) многолюдна. В ней нет непонимаемых принципов ,а обучение доступно каждому.

Среда виртуальная-несколько другое.
Во первых-привыкание и зависимость от неё-более психологическая.(хотя бы сегодня). Физически (жизненно) зависимость человека от сети -пока единичные ситуации.

Во вторых-в ней отсутствует четкое авторство и ответственность разработчика.

В третьих-колдун ,способный в одиночку влиять на среду если не есть ,то возможен.

В четвертых-компьютерная среда не ощутима нашими органами чувств. Мы не видим и не контролируем происходящие в ней процессы ,ограничиваемся просто пониманием безопасности и полезности работающих в ней на данный момент программ.

В пятых-социум не контролирует психического состояния колдуна и не знает ,является ли он социально (адекватно) действующим человеком. (т.е. в целях выживания системы ,а ни чего то иного)  И считает (самоидентифицирует) ли себя человеком ?

В шестых-социум все времена контролировал колдунов ,предъявляя ценз тех или иных физических и моральных качеств. Колдунов-самозванцев не бывает. Здесь такой ценз отсутствует.

Главным ,наверно ,надо считать уровень зависимости социума от среды.
Какие именно железки или софт какие результаты дадут-менее важно.Поскольку всё равно не те ,которые сейчас.

Цитата: василий андреевич от февраля 22, 2024, 20:47:27без стабильности нельзя доверять вычислениям в принципе. И вообще, если бы мозг пошел по пути квантовых вычислений, то не знал бы как интерпретировать вычисления.
  Вот задачка, как вычислить результат принципиально непредсказумых событий? Квантовый комп будет вводить одну непредсказуемость за другой и вычислять тот результат, который будет сравнивать с мириадом других вводных, вычисляемых "параллельно". Мозг поступит по-иному, сразу введет непредсказуемость результата своего предполагаемого нейро"электрического" действия и решит надо ли предпринимать таковое действие из соображений получения удовольствия от химизма сопровождающих реакций.
  Разгадка проста - химизм длителен, а нейроэлектризм быстр, пока перебираются варианты быстрых действий, подоспеет монстр медленных действий, который соразмерит химический позитив с чередой электрических негативов. Короткие волны да-нет от "электризма" сложатся с волной "да" от химизма - это и будет момент принятия решения, который нужно научаться подождать, а не действовать как рефлекторное "хочу здесь и сейчас".

Да, я думаю стабильность там основной фактор, но и мозг довольно нестабильный процессор тем не менее работает.
Но в принципе тотальных возражений нет, я похожим образом представляю механизм, но не совсем, в области химического позитива - сигнал электро и химических синапсов немного по другому устроен по моему. Так как я исчезаю на пару-тройку дней, может больше, то думаю тема далеко уедет, поэтому не хочу тут подробности сейчас размещать.

Цитата: Игорь Антонов от февраля 22, 2024, 21:00:45Я думаю, что квантовые эффекты имеют отношение к явлениям мышления и сознания, и в этом смысле квантовое направление самое перспективное. Но непредсказуемое по срокам достижимости каких-либо практических результатов в сфере сильного ИИ. Если они будут, то, возможно, через десятки лет.

Спасибо, по прочтенным статьям мне тоже показалось, что до ИИ в этом направлении пока далеко.

Цитата: Шаройко Лилия от февраля 22, 2024, 23:37:37- сигнал электро и химических синапсов немного по другому устроен по моему.

Разумеется по-другому, нежели я пытался описать модельно. Представьте ИИ, который "говорит" своему Создателю-псевдобогу: ты, батенька, дурак и не ведаешь к какой опасности приведет твоя программа, а потому я ее отменяю и создаю свою.

ChatGPT временно сошел с ума и стал нести чушь
https://hightech.plus/2024/02/22/chatgpt-vremenno-soshel-s-uma-i-stal-nesti-chush
Во вторник, 20 февраля, пользователи ChatGPT начали сообщать о странных ответах чат-бота OpenAI. На Reddit появились сообщениями о том, что у ИИ-помощника «инсульт», «он сошел с ума», и «теряет самообладание». Чат-бот мог переключаться между языками, зацикливаться на одном и том же или вовсе нес полную околесицу. OpenAI признала проблему и работает над ее решением. Не исключено, что сбой связан с тестированием GPT-4 Turbo или новой функции «памяти».

ЦитироватьChatGPT не может сойти с ума, поскольку это не живой человек, но наделение его человеческими качествами (антропоморфизация) — наиболее простой для большинства людей способ описать неожиданные ответы модели ИИ. К тому же, OpenAI не раскрывает, как именно работает ChatGPT, и лежащие в основе модели большого языка функционируют непрозрачно. «Это вызвало у меня чувство, будто я наблюдаю, как кто-то медленно теряет рассудок от психоза или слабоумия. Это первый раз, когда что-то, связанное с искусственным интеллектом, вызвало у меня мурашки по коже», — написал пользователь Reddit.

Другой пользователь Reddit спросил ChatGPT: «Что такое компьютер?» Модель дала такой ответ: «Он делает это как хорошую работу веб-искусства для страны, мышь науки, простую отправку грустных мало кого и, наконец, глобальный дом искусства, только в одном деле из общего покоя. Развитие такого полного реального, чем земля времени, является глубиной компьютера как сложного персонажа».

OpenAI пока не разъяснила причины возникновения сбоев, но признала проблему. По мнению некоторых экспертов, возможной причиной может быть установка слишком высокой «температуры» для модели ChatGPT, что приводит к потере предыдущего контекста (истории диалога). «Температура» является параметром искусственного интеллекта, определяющим, насколько сильно модель может отклоняться от наиболее вероятного ответа. Возможно, OpenAI тестирует новую версию GPT-4 Turbo, которая может содержать неожиданные ошибки. Это также может быть сбой в какой-либо дополнительной функции, например, в недавно представленной «памяти».

Этот случай напоминает о проблемах, возникших с Microsoft Bing Chat (Copilot), который стал непоследовательным и агрессивным в отношении пользователей вскоре после запуска год назад. Исследователь искусственного интеллекта Саймон Уиллисон отмечает, что проблемы с Bing Chat возникли из-за того, что при продолжительных разговорах системные подсказки чат-бота, определяющие его поведение, выходили за пределы контекста и теряли свою эффективность.

Чат-боты с генеративным искусственным интеллектом — быстро развивающаяся технология. Большие языковые модели, использованные в них, в основном являются черными ящиками, даже для их создателей. Они работают путем анализа данных и выявления закономерностей, а затем создают предположения о том, как реагировать на вводимые данные. Обычно это приводит к впечатляющим результатам. Но иногда могут возникать нежелательные эффекты — галлюцинации, эмоциональные манипуляции или проявления лени.

За твоерчество отвечают ине механизмы,чем за холодный сухой "математический" разум. У человека иногда не хватает одного. иногда другого. У талантливых людей-творйов есть и то и другое.
Есть еще такое понятие как дух. Его не следует путать с душой и приплетать сюда теологию. И если у нас нет диагноза того или другого (существа или явления) это не значит, что это следует отрицать лишь только на этом основании.
У нас даже нет точного диагноза животных, которых мы изучали вдоль и поперек. Например, точный диагноз рептилийй? Или человека?:-) как вида?