paleoforum.ru

Цитата: василий андреевич от ноября 18, 2022, 07:05:56Максет, Вы предложили уравнение с двумя неизвестными х-С=у, для решения которого необходимо второе уравнение, объединенное с первым в систему. Как минимум, для второго уравнения необходим эталон количества принятой информации.

Это уже анекдот какой то получается.
Допустим, некий судья руководствуется законом: Истинной является только та информация (показание), которая снимает неопределенность.
У него в производстве находится дело о пропаже курицы.
Приходит некий гражданин и даёт показание, что он видел как эту курицу съела лиса. Поскольку это первое показание в деле и эта информация снимает неопределенность о пропаже курицы, судья записывает эту информацию как истинную.
Затем приходит второй гражданин и заявляет, что он видел как курицу украл первый гражданин, который сказал неправду.
Наш судья следующий букве закона, видит, что эта информация не снимает неопределенность, так- как неснятой неопределенности больше не осталось и отказывает в принятии этого заявления.

Или чтобы не заморачиваться составлением системы из двух уравнений.

  Действительно, анекдот.
  С какого бодуна Вы заключили, что судья принимает информацию? Почему Вы решили, что информацию можно считать истиной?

Цитата: василий андреевич от ноября 18, 2022, 17:30:27Действительно, анекдот.
  С какого бодуна Вы заключили, что судья принимает информацию? Почему Вы решили, что информацию можно считать истиной?

ОК, судья принимает сведения (данные), которые являются информацией, если снимают неопределенность.
Что то изменилось?

  А разве судья не должна обрабатывать данные, что бы они стали информацией к действию?

Цитата: Максет от ноября 18, 2022, 05:36:45Хорошо. А всегда ли поступившая информация понижает энтропию. А не бывает ли так, что от поступившей информации неопределенность в системе повышается?

Вообще-то, я там говорил о неопределенности сообщения, а не системы получившей сообщение.
Объяснение связи физической энтропии и информации, например, здесь и здесь. И, хотя математика там в принципе постижимая, но, однако, не для кухонных разговоров. Я, например, до конца ниасилил. Надеюсь, у вас получится лучше.
Выводы известны. Информационные процессы необратимы (ну, как и энтропийные). При передаче в канале связи или при хранении информация может теряться, но не может увеличиваться.
Бриллюэн доказал, если мы получаем информацию о какой-то системе, то энтропия в этой системе возрастает соответственно.
Приходящая информация может только уменьшить энтропию системы. Если энтропия не уменьшается, то это равнозначно потере информации при приеме.
Можно порассуждать на примере упоминавшегося Василием Андреевичем "демонишки" Максвелла (не к ночи буде упомянутого).
Например, "демон наоборот". Имеем банку с уже разделенным газом - горячим и холодным. И 2 варианта работы демона:
1. Демон не пропускает быстрые молекулы из горячей половины в холодную, но пропускает медленные. Из холодной половины наоборот.
  В этом случае, очевидно, демон запрется намертво и никого никуда не пропустит. Энтропия не возрастет.
2. Демон пропускает быстрые молекулы из горячей половины в холодную, но не пропускает медленные. Из холодной половины наоборот.
  В этом случае все быстрые молекулы перетекут в холодную половину, а медленные, наоборот, в горячую, а после этого демон запрется намертво. Энтропия, опять таки, не возрастет.
Т.е. "демон наоборот" не может увеличить энтропию.

Цитата: eL-Tric от ноября 19, 2022, 01:20:16Вообще-то, я там говорил о неопределенности сообщения, а не системы получившей сообщение.

Я это понял, но не хотел сильно придираться, учитывая свою некомпетентнось в этих вопросах.
Но думаю все же надо попытаться снять эту неопределенность в своей голове.
Вы сказали:

ЦитироватьРазница между максимальной энтропией до приема сообщения и минимальной энтропией после приема называется количеством принятой информации.

Но, поскольку:
Максимальная энтропия до приема сообщения – величина неизвестная. Или равна 1?
Минимальная энтропия после приема сообщения – величина неизвестная или в лучшем случае равна нулю.
То как разница между двумя неизвестными величинами или  неизвестной величиной и нулем, может стать известной величиной?
1 - х = ?
1 - 0 = 1?

ЦитироватьПриходящая информация может только уменьшить энтропию системы

В моем примере с судьей и курицей, приходящая информация после первого сообщения уменьшила энтропию, а после второго, наоборот увеличила энтропию.
Как это объясните?

Цитата: василий андреевич от ноября 18, 2022, 20:08:05А разве судья не должна обрабатывать данные, что бы они стали информацией к действию?

Так она обработала данные и пришла к заключению, что данные от первого свидетеля можно считать информацией, поскольку они снимают неопределенность с пропажей курицы, а данные от второго свидетеля нельзя считать информацией, поскольку они не снимают неопределенность с пропажей курицы, а наоборот увеличивает эту неопределенность.

Цитата: eL-Tric от ноября 19, 2022, 01:20:16Приходящая информация может только уменьшить энтропию системы. Если энтропия не уменьшается, то это равнозначно потере информации при приеме.
Можно порассуждать на примере упоминавшегося Василием Андреевичем "демонишки" Максвелла (не к ночи буде упомянутого).

Раз упомянут не к ночи, то встряну.
  Для демона надо вводить систему зазорную по Ключу, которая непроявленная по Максету. В квантовом описании демон виртуален, т.е. рождается при приеме "любой информации", но умирает без следа при переадресации этой информации. Не важно быстрой или медленной частице временно присвоенный импульс передается - статистических изменений не будет. То есть никакой потенциальной функции не родится.
  Рождением потенциальной функции можно было бы посчитать, когда две равновесные емкости приходят в состояние колебаний в противофазах, за счет информационно-демонических сил, рождающихся в зазорной системе. И тут нельзя спешить с тем выводом, что общая энтропия раскачивающегося тройственного союза, непременно уменьшится. Если в зазорной системе появятся ранее не бытовавшие объединения элементов, то это увеличит Больцмановскую энтропию при противоестественном уменьшении энтропии тепловой.

Цитата: Максет от ноября 19, 2022, 07:29:43В моем примере с судьей и курицей, приходящая информация после первого сообщения уменьшила энтропию, а после второго, наоборот увеличила энтропию.
Как это объясните?

А не надо называть информацией данные, принятые к сведению. Одно сведение не подлежит информационной обработке, обязательно нужна альтернатива, с которой будет работать "непроявленная информационная система", уменьшая свою "личную" энтропию до определенности.

  ПП. Максет, я воспринимаю Вас, как человека великодушного, потому попробую ввести демона Вашего имени, но если Вы будете против, то назову его Васей или Кузей.

  Если демон Максвелла совершает работу по открытию дверцы, то вся выгода от пропускаемой быстрой частицы растрачивается на энтропию от самой работы. Потому демон Максвелла - мертворожденное дитя, хотя и помогает понять невозможность вечного двигателя второго рода.
  В квантовом описании демон виртуален, он рождается получая, и умирает отдавая квант энергии или импульс. Вопрос в том у кого берет и как "решает" кому отдать. Информационно макроскопическим демон Максета станет, когда отдаст "накопленные сомнения" одной из емкостей, выведя, таким образом, тройственный союз из положения устойчивого равновесия.
  Статистически вероятным будет отбор импульса от среднескоростной частицы, что определяет состояние демона Максета, подобно состоянию самого Максета, для которого без разницы какого внешнее действие - оно по любому информация.
  Стать быстрым наш великодушный демон не может - это повысит температуру, стать медленным тоже - это уменьшит температуру. Остается стать вращающимся вокруг одной из осей симметрии. То есть, импульс принят, как потенция, без нарушения теплового равновесия, что и означает рождение непроявленной информации от случайного сведения.
  Если тепловые емкости много больше зазорной системы, то допустимо виртуальное сосуществование нескольких демонов, согласованно вращающихся вдоль наиболее длинной оси симметрии, например молекулы парафина модельно вполне годятся.
  Теперь осталось дождаться, когда внешние условия качнут триумвират систем в любую случайную сторону. Клоны (копии) демона Максета не могут избавиться от момента импульса в набегающую волну с избыточной плотностью энергии (давления), но обязательно это сделают в убегающую волну, оказавшись в состоянии переизбыточной информационной плотности.
  Получаем, уже не случайную переадресацию информации от виртуальных Демонов, которая увеличила бы хаос, а усиление случайности, как положительную обратную связь - данные накопленное от средних (неопределенных) значений Броуновского движения, сместились в одну из сторон.

  Вот и "судья с курицей" строго наблюдает в каком направлении сработают погрешности показателей двух свидетелей, что бы вынести вердикт о обнулении одного из сведений, как ничтожного.

  Теперь надо прикинуть, что с энтропией, вычитая из конечного определенного состояния начальное неопределенное, но с обязательным учетом того, что родилось, как потенциальная функция вероятности. В итоге должно быть, как минимум, неуменьшение энтропии.

Цитата: василий андреевич от ноября 19, 2022, 08:49:45А не надо называть информацией данные, принятые к сведению.

Это не я называю. А написано в нормативном акте, которым руководствуется судья: "Информацией можно считать только то, что снимает неопределенность".

  Не снимает, а снижает. После показания первого свидетеля неопределенность снизилась до выбора: либо прав, либо лжет. После показания второго свидетеля еще снизилась в пользу того, что лжет. Можно посчитать в точной цифири, но я тут слаб.
  Это привычка, считать все поступающие данные, вплоть до надписей на заборе, информацией. Шеннон первым заузил использование термина, связав его с энтропией. С сознанием произошла обратная загогулина, из точного (и потому научного) термина, как антипода материи, сознание превратилось в расплывчатую палитру красок, из которой каждый, кому не лень, берет только ту, что ему удобна.

Цитата: василий андреевич от ноября 19, 2022, 16:29:04Не снимает, а снижает.

У Шеннона как раз таки сказано, что снимает, а не снижает.

А может он имел в виду, что информацией можно считать только сумму всех сведений, которые, в конце концов, снимут неопределенность с пропажей курицы?

Показания двух свидетелей в сумме не снимают неопределенность и поэтому это нельзя считать информацией? Надо собирать сведения дальше, пока их количество не превратится в качество, в виде снятой неопределенности?

  Я ранее обмолвился, что толком не знаю, что такое информация. Потому и не люблю. Думаю, спецы информатики и кибернетики особо не заморачиваются с определением, дескать, и так ясно, что эта штука крутится рядом с информационной системой, которая доводит неопределеность/разрозненность данных до приемлемой траектории. Это нам нужно исчерпывающее определение, потому что биологи (не все) берут из информатики только тот вершок, что раз информационный процесс снижает энтропию в, так называемой, самоорганизующейся системе, то достаточна идея отбора мутаций.
  Геном превращается в кодировщика, а белки в декодер. И надо только отыскать алгоритм, состоявшийся, как эволюционный процесс.
 

Цитата: Максет от ноября 19, 2022, 17:00:46Надо собирать сведения дальше, пока их количество не превратится в качество, в виде снятой неопределенности?

Ну типа, да. Мне нравится термин "фокус внимания", состояние, когда животное замерло в изготовке и как бы проверяет какое действие окажется наиболее удачным. Т.е. в состоянии фокуса внимания в нейросети прокручиваются варианты из предшествующего опыта, но не доводятся до мышечной деятельности, а симулируют варианты так, что бы родился алгоритм, которого может и не быть в памяти. Т.е. животика сама себе программист, который смотрит, а что будет, если попробовать так или вот так.
  И собирает все новые и новые данные. Чаще даже оказывается, что очередное данное заставит понять, что выгоднее вовсе отказаться от атаки - она оказалась безуспешной в ее "воображении".
  Так и судья откажет в иске, если по УК и собственному опыту поймет, что собранных данных недостаточно для вынесения вердикта, а потому отложит рассмотрение до сбора новых данных. При этом желательно руководствоваться только УК, что бы правосудие состоялось, как рефлекс, не подлежащий сомнению.
  А вот является ли рефлекторный ответ информационной системой - это еще большой вопрос. Я бы отказал ему в таковом, потому что в нем нет качественной составляющей, только лимитное количество, по достижению которого срабатывает автомат триггерного типа, сама же информация, как подбор и смена алгоритмов в вариативности поведения отсутствует.
 

Цитата: Максет от ноября 19, 2022, 07:29:43Максимальная энтропия до приема сообщения – величина неизвестная. Или равна 1?
Минимальная энтропия после приема сообщения – величина неизвестная или в лучшем случае равна нулю.
То как разница между двумя неизвестными величинами или  неизвестной величиной и нулем, может стать известной величиной?

Так она, вообще-то, относительна и измеряя физическую энтропию в лабораторных работах студенты измеряют, например, именно возрастание энтропии, а не абсолютные значения до и после.
Также информационная энтропия. Каждое сообщение не является единственным знанием, оно находится в контексте всех знаний приемника. Мы можем измерить сколько бит приносит конкретное сообщение, а сколько их всего там накопилось - бог его знает.

Цитата: Максет от ноября 19, 2022, 07:29:43В моем примере с судьей и курицей, приходящая информация после первого сообщения уменьшила энтропию, а после второго, наоборот увеличила энтропию.
Как это объясните?

Ну, вы, в принципе, правильно всё и решили. Каждое сообщение снижает (снимает, если проще) неопределенность мнения одного из участников процесса. Сообщение одного участника снижает неопределенность картины всех показаний, но ещё не определяет виновность.
В общем, как я понимаю современное судопроизводство начиная с др. Рима, судья собирает множество показаний до тех пор, пока не сочтет, что картина ясная и новые сообщения не добавят ничего нового, т.е. не будут нести значимой информации. Тогда он стукнет молотком по столу и зачитает вердикт.