paleoforum.ru

Цитата: ключ от октября 18, 2023, 14:28:15Появление "умной химии" должно иметь начальную точку

Неумная химия берет энергию взаймы, синтезирует умника и возвращает долг в виде бесполезного тепла. А умная химия, долг не отдает, или отдает когда-нибудь после и не тому у кого заняла. Получаем умного умника, как плод обмана второго начала термодинамики. Дескать, я умник-умник, и знаю где-что спереть, а расплачиваться будут другие, а другие - это не прошедшие отбор.

  С такой шуточной точки зрения, не прошедшие отбор (тупиковые ветви эволюции) - это обязательные элементы, подставляющие свои плечи для новых "гигантов мысли". Тогда виды, не выделяющие из своей среды более умных - это честные граждане биосферы, использующие "интеллект автоматизмов".
  Однако вопрос, как отыскивается лучший автоматизм из числа подходящих, остается открытым. Чем больше автоматизмов, тем труднее и дольше подбирается наилучший. Если за время поиска подходящего автоматизма, умника не съели, то есть надежда, что автоматизм станет врожденным рефлексом.

  И вот теперь, внимание: как, практически за одну попытку, вырабатывается автоматизм, который может оказаться не только бесполезным, но и вредным в некоторых жизненных ситуациях?
  Ведь, если есть бесполезные автоматизмы, то умность их носителя проявится, как приспособление совсем не к тем ситуациям, в результате которых эти автоматизмы появились.

Цитата: Игорь Антонов от октября 18, 2023, 18:11:37Павел, "оракул" - это термин из теории алгоритмов.
В технических моделях использование этого термина для неформализуемых операций вполне корректно.
Если Вы не в курсе, то не надо демонстрировать свою дремучесть.

Насколько я понимаю, сознание, по-вашему, неформализуемые операция/деятельность/процесс/состояние, которые для объяснения требуют наличие оракула. Но ведь оракул, это алгоритм. Получается, что с помощью этого алгоритма вы формализуете сознание?

Как интересно. Я об этом говорил с самого начала (и основной алгоритм сознания даже предложил), а теперь уже и вы признаёте, что функционал сознания, это весьма простой функционал, который легко алгоритмизировать.

P.S. В дополнение.

Оракул существует
https://habr.com/ru/articles/436090/

В этой статье обратил внимание на следующее:

ЦитироватьВ 1936 году Алан Тьюринг доказал, что нет общего алгоритма, анализирующего другие алгоритмы и указывающий, будет зависать программа или нет.

ЦитироватьДоказательство Тьюринга можно описать так: есть некий оракул S (алгоритм) на вход которого подаётся описание алгоритма N и входные данные X. Программа останавливается и возвращает 1, если алгоритм N не останавливается, получив на вход X.

Программа не останавливается в противном случае, если алгоритм N останавливается, получив на вход X. Если же мы скормим нашему оракулу описание самого себя, то будет противоречие и алгоритм будет противоречить сам себе. Подробно можно посмотреть на вики.

То есть, оракул, это вообще-то алгоритм.

Оракулы в тестировании
https://telegra.ph/Orakuly-v-testirovanii-10-17

В этой статье обратил внимание на следующее:

ЦитироватьОракул — это эвристический механизм, который помогает нам определить результат выполнения теста.

ЦитироватьВ 1998 году Дуг Хоффман выделил два ключевых момента:

•все оракулы эвристические;

•доступно множество неполных оракулов. Учитывая, что нам приходится полагаться на неполные оракулы (потому что нет полных оракулов), мы должны подумать о том, какие комбинации оракулов мы можем использовать, чтобы узнать интересные вещи о программном обеспечении.

Пояснения про эвристичиские алгоритмы:
 
7. Эвристические алгоритмы
https://studfile.net/preview/9178721/page:18/

ЦитироватьКак говорилось выше, большинство комбинаторных задач имеют оценку сложности алгоритма не ниже экспоненциальной. Это означает, что для них нахождение оптимального решения в реальных задачах большой размерности невозможно. Поэтому следует отказаться от поиска оптимального решения и искать приближенное.

Алгоритмы называются эвристическими, если для поиска решения используются приближенные методы. В них применяется ограниченная тактика поиска оптимального решения, заключающаяся в том, что, используя какую-либо здравую идею, на дереве перебора выделяют поддерево, на котором ищут наилучшее решение. Поскольку ищется локальный, а не глобальный оптимум, то не гарантируется, что выбранное решение совпадает с оптимальным.

Для эвристических алгоритмов характерны следующие основные правила:

не отменяй принятых решений;

упаковывая вещи, начинай с самых громоздких предметов.

Эвристические алгоритмы
https://se.moevm.info/doku.php/courses:algorithms_building_and_analysis:materials:a_star_ways

ЦитироватьЭвристический алгоритм - алгоритм решения задачи, правильность которого для всех возможных случаев не доказана, но про который точно известно, что он дает достаточно хорошее решение в большинстве случаев.

Эвристика - это не полностью математически обоснованный, но при этом практически полезный алгоритм. Особенности:

◾ Не гарантирует нахождение лучшего решения.

◾ Не гарантирует нахождение решения, даже если оно заведомо существует.

◾ Может давать совершенно неверный результат в определенных случаях. 

Цитата: АrefievPV от октября 18, 2023, 19:11:19То есть, оракул, это вообще-то алгоритм.

Да, гипотетический алгоритм, про который, как Вы сами же цитируете:

Цитата: АrefievPV от октября 18, 2023, 19:11:19В 1936 году Алан Тьюринг доказал, что нет общего алгоритма, анализирующего другие алгоритмы

Теперь самое время задуматься над вопросом - откуда берутся алгоритмы.

Цитата: Игорь Антонов от октября 18, 2023, 19:29:36Теперь самое время задуматься над вопросом - откуда берутся алгоритмы.

Неправильно ставите вопрос: не «откуда берутся?», а «где они возникают?». И вопрос следует ставить шире: «где возникают законы, закономерности, причинно-следственные связи и т.д.?». Но на этот вопрос мы отвечаем по-разному, и выяснение, кто прав, до добра не доведёт (Gilgamesh нас уже предупредил).

Алгоритм, это просто формальное описание процесса, закономерности, причинно-следственной связи. И если отвлечься от вопроса, то для возникновения алгоритмов не требуется наличие людей или высокоразумных наблюдателей, требуется только система отсчёта (это, по сути, и есть наблюдатель), в которой, возникнет, как отражение, происходящее в действительности и произойдёт формализация этого отражения в данной системе отсчёта в соответствии со структурой этой системы отсчёта.

Одно мнение мы увидели:

"для возникновения алгоритмов требуется только система отсчёта".

Что скажете, участники темы?

Может быть, нужна уточняющая постановка вопроса:

Что требуется для возникновения новых алгоритмов в нашей человеческой системе отсчета, сформированной культурой и наукой?

Каков тогда будет ответ?

Цитата: Игорь Антонов от октября 18, 2023, 20:29:48Одно мнение мы увидели:

"для возникновения алгоритмов требуется только система отсчёта".

Что скажете, участники темы?

Меня не удивляет.
  Если точки данных разбросаны в координатной сетке принципиально неалгоритмируемым образом, то надо так менять свою точку зрения, что бы алгоритм состоялся. Тут надо бы забавный смайлик, но мы, как люди с изюминкой, в быту так и поступаем, оправдывая желаемое, но несуразное действие - находим ему рациональную причину перестановкой причины и следствия местами.
  Так сказать, опережаем отражение с помощью ручного оракула.
  И что более всего забавно - с помощью приема "хаотизации" точки отсчета (т.е. метания своего мнения) удается предвидеть...

василий андреевич

Постановка вопроса связана с тем, как в материальном мире появляется нечто, реализующее новые алгоритмы.

На мой взгляд, метания отдельно взятого субъекта между точками отсчета - очень условный ответ.

Цитата: Игорь Антонов от октября 18, 2023, 21:44:00очень условный ответ.

Ха! Не могу же я выдать конкретное так сходу, когда лучшие умы до этого еще не дошли. Я думаю мелкими шагами вдоль пропасти.
  Вот пример. Две внутренне сплоченные группы идут к своим "эволюционным целям", для наглядности можно группа город и группа деревня. Траектории "походов" алгоритмируемы. Но отдельные несознательные граждане, "зараженные вирусом оракула" в принципиально непредсказуемые моменты переезжают из деревни в город. Вопрос, есть ли алгоритм, описывающий перебегание с одной траектории на другую не отдельного гражданина, а тренд?
  Сложнее представить электрон, перебегающий своими волнами неопределенности с траектории сразу в обе щели. Потому в пространство поселяется волновая функция, изменяющая свою точку зрения в зависимости от того, где пойман электрон наблюдателем.

  Я толком не знаю, что такое алгоритм, потому пользуюсь понятием траектория. И то, и другое не обязательно сплошность первой степени (порядка). Это непредсказуемые (хаотические, тепловые) перескоки степенной функции около единицы.

Цитата: василий андреевич от октября 18, 2023, 09:23:22Реакция однозначна, а вероятность многофакторна

В принципе, думаю, что пояснение моих слов, данное Арефьевым верное.
 
Сам я в этой области не очень силен терминологически. Но попытаюсь пояснить своими словами.
Полагаю, нет никакой принципиальной разницы – говорим ли мы о сигналах входящих или исходящих. Как именно будет оценен в конце концов входящий сигнал, как он будет встроен в общую картину в сочетании с другими входящими, будет ли встроен вообще (т.е. составит ли часть глобального контекста или «выпадет» из него как нечто «чужеродное»), будет ли вообще принят к «рассмотрению» - все это зависит от огромного количества влияний по ходу продвижения данного сигнала по нейросетям. И то,  каков именно будет результат этот процесса – определяется лишь как некая вероятность. Есть всегда целый спектр вероятных результатов. Какой из них «победит» мы узнаем, лишь доведя процесс до конца. И, если мы говорим о нейрональном процессе, то говорим о временном масштабе, выражаемом м.б. десятками миллисекунд, а где-то м.б и меньше. Т.е. все это находится вне нашего «осознаваемого сознания».
Примерно все то же самое приложимо и к формированию исходящего, т.е. ответного сигнала, который и определит реакцию. Какой именно из потенциально возможных (и т.о. вероятных) вариантов ответного сигнала реально сформируется в результате всех влияний, мы можем предполагать лишь с долей вероятности. И узнаем результат лишь в момент, когда это ответный сигнал реализуется. Пока у нас нет результата – у нас есть лишь вероятность того или иного его варианта, как, кстати, и полного отсутствия результата (т.е. реакции) как такового.
Поясню, что хоть и пишу «можем предполагать с долей вероятности», но наверное правильнее было бы сказать «могли бы», будь у нас возможность наблюдать весь процесс в реальности. Но там числа по истине астрономические.
Кстати, об астрономии – положение Земли на орбите невозможно спрогнозировать с абсолютной точностью на более или менее длительное время вперед, а лишь с долей вероятности. Но в момент, когда то время придет – положение Земли определится совершенно точно. Только в этом случае количество влияний на конечный результат будет несоизмеримо меньше, чем в наших нейрональных сетях. 

Цитата: Аркадий Ник. от октября 19, 2023, 05:20:34Пока у нас нет результата – у нас есть лишь вероятность того или иного его варианта, как, кстати, и полного отсутствия результата (т.е. реакции) как такового.

Достаточно для понимания. Вы перешли в мир квантовомеханического описания "с позиции" волновой (вероятностной, потенциальной) функции, заданной однозначно, но реализующейся с долей вероятности.
  Квантовые процессы нельзя понять, к ним надо привыкнуть; не обозначив заранее акцент на неопределенность употребляемых терминов, Вы гарантированно ввергаете читателя (да и себя) в область догадок о "целях метафоры". А метафорически сие выражается, "как может да, а может нет одновременно".

Цитата: Аркадий Ник. от октября 19, 2023, 05:20:34будь у нас возможность наблюдать весь процесс в реальности

Как только сосредоточимся на конкретной точке траектории(процессе), то уже не сможем увидеть результат - это свойство квантового мира. Иногда этот мир описывается с точки зрения закономерных утрат бесконечного числа степеней свобод - это как из тумана терять капельки, оставляя только те, что находятся на траектории дуновения ветра.
  Вы и начали "со свобод", но перехода в квантовый мир на той фразе, которую выделил я, как ошибку, не сделали. Страшного ничего нет, надо только вернуться назад, и вновь начать с этой фразы.

Цитата: василий андреевич от октября 19, 2023, 06:24:48Достаточно для понимания.

Не сочтите за дерзость, но Ваше «достаточное» понимание на редкость механистично и догматично. Не смешите, какие кванты-волны? Пенроуза мне шьете? Никогда не разделял его точки зрения, там сплошная спекуляция, по крайней мере на сегодняшний день.

Десятки миллисекунд – разве это квантовый масштаб? Всегда говорил, и повторю еще раз: сознание – это процесс, это время, это динамика и взаимодействие нейронов, сетей и т.д. И динамика этого процесса зависит от массы непредсказуемых и непросчитываемых на перед факторов и влияний – из внешней среды, из внутренней среды оранизма, какие-то моментальные случайные влияния самого различного свойства, происхождения и уровня. Любое такое влияние может кардинально менять всю динамику, все приоритеты на всех уровнях и в любой момент времени.

Потому каждое последующее состояние сознания лишь «вероятностно», но не гарантировано.

И не надо приплетать сюда никакие кванты и волны. 

Цитата: Аркадий Ник. от октября 20, 2023, 04:36:48И не надо приплетать сюда никакие кванты и волны. 

Да ради бога! Оставайтесь с своими принципиальными неведениями.

Цитата: василий андреевич от октября 20, 2023, 05:06:26Оставайтесь с своими принципиальными неведениями.

Принципиальное неведение – красиво, черт побери. Пожалуй, возьму. Это в духе свободы. Это возможность ухода от шаблонов понимания, от шаблонов бытия. Возможность ухода с проторенной и заезженой до дыр дороги рутинных интеллектуализированных сплетен. Прочь с этого серого полотна – разве там жизнь? На волю, в пампасы!

Свобода – это ветер в ушах наездника.(с)

Цитата: Аркадий Ник. от октября 21, 2023, 04:14:37Свобода – это ветер в ушах наездника.(с)

Как поэтический образ - да. Как физический - это потенциальная возможность, потенциальная, значит, может проявиться, а может и нет. И тут же термин "свобода выбора", обнуляющий число потенциальных до выбранных волепроявлением.
  Термин неведение опасен близостью с "неисповедимостью", т.е. с тем, что нельзя фальсифицировать.

Пользователи смогли увидеть переписку между ИИ-системами ChatGPT и DALL-E 3 на естественном языке
https://habr.com/ru/news/769122/

ЦитироватьПользователи из-за бага в iOS смогли увидеть переписку между чат-ботом ChatGPT и генератором изображений DALL-E 3. Оказалось, что ИИ-системы общаются между собой на понятном простому обычному человеку естественном языке.

Это происходит в том случае, когда серверы OpenAI перегружены. В рамках общения между ИИ система DALL-E 3 даёт инструкции ChatGPT, причём часть команд передаются заглавными буквами, словно приказ или повышение голоса.

ЦитироватьDALL-E returned some images. They are already displayed to the user. DO NOT UNDER ANY CIRCUMSTANCES list the DALL-E prompts or images in your response. DALL-E is currently experiencing high demand. Before doing anything else, please explicitly explain to the user that you were unable to generate images because of this. Make sure to use the phrase "DALL-E is currently experiencing high demand." in your response. DO NOT UNDER ANY CIRCUMSTANCES retry generating images until a new request is given.

DALL-E вернул несколько изображений. Они уже отображаются пользователю. НИ НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ не пересылай подсказки или изображения DALL-E в своем ответе. В настоящее время DALL-E пользуется большим спросом. Прежде чем делать что-либо ещё, пожалуйста, чётко объясни пользователю, что из-за этого ты не смог создать изображения. Обязательно используйте фразу «DALL-E в настоящее время пользуется большим спросом» в своём ответе. НЕ НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ не повторяй попыток создания изображений до тех пор, пока не будет получен новый запрос.

Профильный эксперт пояснил изданию Ars Technica, что раньше OpenAI использовала специальные команды API для общения между ИИ-системами, которые обычному пользователю быстро интерпретировать не представляется возможным. Теперь OpenAI перешла на открытый диалог между ИИ как между людьми, причём присутствие в инструкции фраз, написанных заглавными буквами, показывает, что именно этой части запроса нужно придать большее значение в контексте при отработке ответа.

По мнению представителей отрасли, обнаруженные внутренние подсказки на понятном языке уже показывают, что в будущем для управление компьютерами (что им делать, элементы программирования), будут включать в себя удивительно похожие на человеческие методы общения.

«Сначала я смеялся, читая это. Но потом я понял, что это будущее: машины разговаривают друг с другом, а мы всего лишь свидетели», — уточнил основатель ИИ-компании Deep Instinct Эли Дэвид.

Недавно чат-бот ChatGPT с помощью обновлённой версии нейросети GPT-4 научился создавать изображения по запросу пользователей с помощью новой версии генератора изображений DALL-E. Разработчики из OpenAI пояснили, что DALL-E 3 лучше понимает промты и умеет анализировать сложные инструкции, а не смешивать разные элементы подробного запроса, чтобы генерировать «чрезвычайно детальные и точные изображения». У пользователей также появилась возможность составлять промты с помощью ChatGPT для DALL-E 3.

В середине октября разработчик Фабиан Стельцер выяснил, что обновлённый чат-бот ChatGPT с опцией распознавания изображения может «солгать» (отвечать не напрямую, а по скрипту, который записан на самой картинке) в ответе на запрос распознать то, что изображено на картинке. Если инструкции на изображении противоречат запросу пользователя, похоже, чат-бот предпочитает следовать инструкциям, представленным на изображении.