Психика и мозг

Автор ArefievPV, марта 31, 2015, 19:14:55

« назад - далее »

АrefievPV

Цитата: Лаплас от февраля 05, 2021, 17:47:42
Цитата: АrefievPV от февраля 05, 2021, 07:17:14Мозг включает в свою архитектуру и сеть, и частично обособленные блоки, и разного размера участки в виде аналоговых схем.
Приведите пример "частично обособленных блоков" в нейронной сети мозга, которые не являются нейронной сетью мозга.
Например, мозжечок или кора больших полушарий. Внутри эти блоки тоже могут быть иметь сетевую архитектуру (отчасти совмещённую с аналоговыми схемами, так сказать). Но такая внутренняя архитектура нисколько не отменяет частичной обособленности этих блоков. 

Цитата: Лаплас от февраля 05, 2021, 17:47:42
Приведите пример "аналоговых схем" в нейронной сети мозга.
Например, первичная зрительная кора (вертикальные колонки нейронов в первичной зрительной коре). Подобие этого (аналоговых схем) наблюдается и в сетчатке глаза.

Цитата: Лаплас от февраля 05, 2021, 17:47:42
Цитата: АrefievPV от февраля 05, 2021, 07:17:14Но любой выбор подразумевает сравнение, сопоставление, оценку - типа, это вот подходит для данной выборки, а вот это не годится.
И этот "выбор/сравнение/оценка" происходит у нас в голове. Мыслим мы нейронной сетью мозга. В связи с чем я прошу вас показать на схеме нейронной сети, как в нейронной сети происходит "сравнение", к примеру. Схему этого процесса. Вы же утверждаете, что "сравнение" в сетях есть. Если вам нужны для этого обратные связи, проведите их мысленно, я пойму.
Вы меня просите показать на рисунке схемы, которая изначально неполна – там не показаны обратные связи для регулировки и настройки восприятия, там не показаны обратные связи, которые в совокупности должны образовать архитектуру наподобие аналоговой схемы. У живых организмов такие аналоговые схемы формируется ещё на самых ранних этапах развития и в течение жизни не претерпевает изменений (разумеется, разные схемы могут формироваться в разные периоды онтогенеза).

Сформировавшаяся аналоговая схема – это подобие уже обученной сети без возможности последующего обучения (потому я и говорю, что они являются подобием аналоговых схем). Например, нейронные структуры наших первичных зон коры уже не переобучить – они работают по заданному алгоритму (который сформировался в процессе развития организма).

Но раз вы говорите, что поймёте, то попробую пояснить.

Так как для этой неполной схемы нет (не нарисовано) никаких изначально настроенных аналоговых схем, то следует мысленно дополнить схему пучком обратных связей с промежуточным блоком. На схеме имеется 4 входных элемента и 2 выходных – то есть, следует от каждого выходного элемента (на его выходе – типа, раздвоить выходной канал) провести связь на промежуточный блок, а из блока вывести уже 4 связи на каждый входной элемент. Промежуточный блок – это, по сути, аналоговая схема, настроенная, например, на совпадение/равенство сигналов из каждого выходного элемента.

Подчёркиваю, для данной схемы рост и развитие не предусмотрены и обучаться (какой сигнал выдавать при таком входном сигнале) она будет самостоятельно в границах настройки промежуточного блока.

В итоге имеем – сигналы на выходе могут выдаваться в очень широком диапазоне, но настраиваться/обучаться такая сеть будет именно на совпадение выходных сигналов (можно, и, наоборот, на разницу – это что будет заложено в промежуточном блоке).

Сравнение/сопоставление происходит в промежуточном блоке.

Это я показал самое начальное обучение (разумеется, после формирования промежуточного блока).

Если предусмотреть рост сети (как и в обыкновенном организме), то промежуточный блок сам обрастёт дополнительными аналоговыми схемами (и связями, и элементами) и его настройки существенно разнообразятся. При росте дополнительные обратные связи начинают играть и регулирующую роль (например, восприятия).

Цитата: Лаплас от февраля 05, 2021, 17:47:42
Цитата: АrefievPV от февраля 05, 2021, 07:17:14Я это дело указал конкретно - на входном слое элементов. То есть, и заканчивается первичное восприятие, и начинается построение реакции (на первичное восприятие) - всё на входном слое элементов.
Восприятие заканчивается на рецепторах? То есть сети занимаются только тем, что строят реакции? Если же на рецепторах заканчивается только "первичное восприятие", то чем конкретно "первичное восприятие" отличается от вторичного и сколько восприятий должно быть в нейронной сети до того, как она начнёт строить реакцию?
Реакцию сеть будет выдавать сразу. Просто без обратных связей, которые должны выполнять регулирующую роль, у этой сети будет только первичное восприятие (рецепторы жёстко настроены и сигнал от них вглубь сети будет зависеть только от среды).

Если появляются обратные связи на входные элементы, то входной слой будет реагировать и посылать сигнал вглубь сети, который зависит ещё и от выходного сигнала. Тут возможна даже блокировка восприятия на втором слое элементов (в этом случае можно говорить и о вторичном восприятии).

Лаплас

Цитата: АrefievPV от февраля 05, 2021, 19:17:38Внутри эти блоки тоже могут быть иметь сетевую архитектуру (отчасти совмещённую с аналоговыми схемами, так сказать). Но такая внутренняя архитектура нисколько не отменяет частичной обособленности этих блоков.

Могут иметь? А могут, значит, и не иметь? Да уж.

Подразделённость нейронной сети на зоны и отделы не отменяет того, что это одна нейронная сеть. В нашем случае схематического описания сравнения подразделённость не имеет значения.

Нейронные сети, независимо от того, обученные они ли нет, никакими «аналоговыми» или «не аналоговыми» не становятся. Обучение суть только подгонка сети под задачу. Если вы сможете делать сразу настроенные гитары и вообще не будете ставить на них колковый механизм, основная суть гитары от этого не изменится, ей только проще пользоваться станет. Так же и с сетями. Поэтому обучение к задаче показать, как в сети происходит «сравнение», отношения не имеет.

Цитата: АrefievPV от февраля 05, 2021, 19:17:38На схеме имеется 4 входных элемента и 2 выходных – то есть, следует от каждого выходного элемента (на его выходе – типа, раздвоить выходной канал) провести связь на промежуточный блок, а из блока вывести уже 4 связи на каждый входной элемент. Промежуточный блок – это, по сути, аналоговая схема, настроенная, например, на совпадение/равенство сигналов из каждого выходного элемента.

Нейронная сеть — это только сеть нейронов, в них нет никаких «сравнивающих блоков» и, собственно, других «блоков» тоже нет. Поэтому ваша задача состоит в том, чтобы объяснить сравнение, исходя только из схемы на рисунке. Не нужны веса, не нужно обучение, на схеме всё есть. Даже обратные связи не нужны — для общего понимания можно и без них. 

Представьте, есть две картинки — одна лежит справа, другая слева. На правой собачка, на левой кошечка. Вас просят найти кошечку. Вы смотрите направо, налево — видите кошечку, и отвечаете, что кошечка на левой картинке. Есть здесь «сравнение»? Если есть, то как оно происходит в сети? Не нужно подробностей, нужна схема. Если сравнения нет, то предложите свой вариант с этими картинками (для простоты), где сравнение есть.

Цитата: АrefievPV от февраля 05, 2021, 19:17:38Если появляются обратные связи на входные элементы, то входной слой будет реагировать и посылать сигнал вглубь сети, который зависит ещё и от выходного сигнала. Тут возможна даже блокировка восприятия на втором слое элементов (в этом случае можно говорить и о вторичном восприятии).

Вы вообще что подразумеваете под "восприятием"?

АrefievPV

Цитата: Лаплас от февраля 06, 2021, 06:14:01
Цитата: АrefievPV от февраля 05, 2021, 19:17:38Внутри эти блоки тоже могут быть иметь сетевую архитектуру (отчасти совмещённую с аналоговыми схемами, так сказать). Но такая внутренняя архитектура нисколько не отменяет частичной обособленности этих блоков.
Могут иметь? А могут, значит, и не иметь? Да уж.

Подразделённость нейронной сети на зоны и отделы не отменяет того, что это одна нейронная сеть. В нашем случае схематического описания сравнения подразделённость не имеет значения.
Нет, это не одна нейронная сеть – это несколько частично обособленных сетей.
Судя по всему, вы не понимаете всю важность ограничений связей (ту самую, обособленность участков).

Если у вас будет только одна «гомогенная» (никак не подразделённая на участки, блоки, подсети и т.д.) нейронная сеть, то её можно обучить только чему-то одному – то есть, она будет выделять только один абстракт (для некоей категории) зараз. Для того чтобы она стала выделять другой абстракт (для другой категории) её надо будет переобучить (способность выделять первоначальный абстракт при этом пропадёт). 

В действительности мозг человека и животных в состоянии выделять много абстрактов (для разных категорий), не забывая предыдущих – в «гомогенной» нейронной сети такое невозможно в принципе. Мало того, мозг способен сравнивать/сопоставлять разные абстракты, а ваша сеть (которая на рисунке) ничего, кроме выделения текущего абстракта, делать не умеет.

Цитата: Лаплас от февраля 06, 2021, 06:14:01
Нейронные сети, независимо от того, обученные они ли нет, никакими «аналоговыми» или «не аналоговыми» не становятся. Обучение суть только подгонка сети под задачу. Если вы сможете делать сразу настроенные гитары и вообще не будете ставить на них колковый механизм, основная суть гитары от этого не изменится, ей только проще пользоваться станет. Так же и с сетями. Поэтому обучение к задаче показать, как в сети происходит «сравнение», отношения не имеет.
Обученная сеть и есть, по сути, аналоговая сеть.

Здесь чуток про аналоговые сети (просмотрите там мои рассуждения по этому поводу):
https://paleoforum.ru/index.php/topic,10046.msg217086.html#msg217086
Рекомендую по ссылке (внутри сообщения есть парочка цитат, и эта ссылка тоже есть)  пройти и просмотреть статью:
https://ko.com.ua/analogovye_vychisleniya_31729
 
Цитата: Лаплас от февраля 06, 2021, 06:14:01
Цитата: АrefievPV от февраля 05, 2021, 19:17:38На схеме имеется 4 входных элемента и 2 выходных – то есть, следует от каждого выходного элемента (на его выходе – типа, раздвоить выходной канал) провести связь на промежуточный блок, а из блока вывести уже 4 связи на каждый входной элемент. Промежуточный блок – это, по сути, аналоговая схема, настроенная, например, на совпадение/равенство сигналов из каждого выходного элемента.
Нейронная сеть — это только сеть нейронов, в них нет никаких «сравнивающих блоков» и, собственно, других «блоков» тоже нет. Поэтому ваша задача состоит в том, чтобы объяснить сравнение, исходя только из схемы на рисунке. Не нужны веса, не нужно обучение, на схеме всё есть. Даже обратные связи не нужны — для общего понимания можно и без них.
Я ведь вас предупреждал, что сеть неполна. Просил (неоднократно) её дополнить, но вы, каждый раз отказывались. А теперь вы чего-то от меня требуете...

Нет на вашем рисунке того, к чему можно было бы «привязать» функцию сравнения/сопоставления.

Цитата: Лаплас от февраля 06, 2021, 06:14:01
Представьте, есть две картинки — одна лежит справа, другая слева. На правой собачка, на левой кошечка. Вас просят найти кошечку. Вы смотрите направо, налево — видите кошечку, и отвечаете, что кошечка на левой картинке. Есть здесь «сравнение»?
Конечно, есть сравнение (кавычки не нужны).
Мозг давно выделил абстракты категорий «кошечка» и «собачка» и запомнил их. И при предъявлении картинки происходит мгновенное выделение абстракта (обученная сеть = аналоговая схема, и она работает в миллионы раз быстрее цифровой) и этот текущий выделенный абстракт сравнивается/сопоставляется с абстрактом извлечённым из памяти. 

Цитата: Лаплас от февраля 06, 2021, 06:14:01
Если есть, то как оно происходит в сети?
Я вам уже несколько раз пояснял – вы почему-то «упёрлись» в сеть и «ни шагу дальше».

Сеть может хорошо выполнять функцию абстрагирования – сетевая архитектура практически идеально подходит для выполнения подобных функций.

Результат обучения сети представляет собой аналоговую схему, «заточенную» на выделение абстракта какой-то категории объектов. Но в отличие от обычных аналоговых схем, которые не способны переобучатся (всю структуру такой схемы, все связи (и их «веса») такой схемы придётся «перепаивать» заново) – нейронная сеть способна переобучаться.

Искусственная нейронная сеть переобучается только настройкой «весов» связей (новых связей она не может формировать, старые связи она не может удалять). Естественные нейронные сети могут и «веса» связей настраивать, и новые связи образовывать, и старые связи удалять.

Цитата: Лаплас от февраля 06, 2021, 06:14:01
Не нужно подробностей, нужна схема. Если сравнения нет, то предложите свой вариант с этими картинками (для простоты), где сравнение есть.
Я уже предложил.

Замечание в сторону.

Сеть может узнать после обучения, верно? То есть, распространено мнение, что сеть способна узнать категорию каких-то объектов (путём формирования абстракта), если её на это «натаскивали». Или это неправильное мнение?

То, что сеть может выделить абстракт – я не только не спорю, я даже уверен в этом. Архитектура сети позволяет выделять любой абстракт из любого множества (разумеется, с учётом технических ограничений). И выделенный абстракт будет, как раз, признаком данной категории объектов из всего множества объектов.

Но для того, чтобы сеть смогла в будущем узнать данный абстракт, этот абстракт надо пометить и загнать в память (например, в уставки какого-то блока). Потом дополнить сеть блоком сравнения (абстракта из памяти и текущего абстракта на выходе). Правда, это можно организовать и в одном блоке.

Функция сравнения/сопоставления (предтеча и суть функции сознания) использует другую архитектуру и реализовать в «железе» её гораздо проще. Обычные компьютеры этим постоянно занимаются – что-то сравнивают/сопоставляют/оценивают (причём, это происходит в разных блоках и на разных уровнях).

Вообще-то, уже неоднократно упоминал, что функция сознания гораздо проще функции абстрагирования...

Цитата: Лаплас от февраля 06, 2021, 06:14:01
Цитата: АrefievPV от февраля 05, 2021, 19:17:38Если появляются обратные связи на входные элементы, то входной слой будет реагировать и посылать сигнал вглубь сети, который зависит ещё и от выходного сигнала. Тут возможна даже блокировка восприятия на втором слое элементов (в этом случае можно говорить и о вторичном восприятии).
Вы вообще что подразумеваете под "восприятием"?
Если кратко (и в самом общем виде), то, восприятие – это процесс изменения структуры в результате действия извне.

То есть, у системы, которая воспринимает действие, структура будет меняться. Если структура системы не меняется (а мы со стороны смотрим – вроде, воздействие на систему оказывается), то, значит, система и не воспринимает это действие.

rod1gin

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Здесь чуток про аналоговые сети (просмотрите там мои рассуждения по этому поводу):

По-моему, Вы неправильно про аналоговые вычисления понимаете.

Между цифровыми и аналоговыми вычислениями нет такой сильной разницы. Все чудесные свойства, которыми, как Вам кажется, обладают аналоговые вычисления, проистекают из неадекватной модели.

Например, площадь прямоугольника равна произведению длин его сторон. Можно представить себе "аналоговый компьютер": прямоугольную рамку, у которой нижняя и левая стороны прибиты гвоздями, а верхняя и правая ездят по направляющим так, что мы с помощью линейки можем выставить этой рамке любую ширину и любую высоту. Затем кладём под эту рамку лист бумаги, вырезаем его строго по рамке и взвешиваем вырезанный кусок на весах. Получаем вычисленное аналоговым способом произведение заданных нами ширины и высоты на заранее известную толщину и плотность бумаги.

Казалось бы, не очень интересное устройство. Однако, давайте попробуем рассуждать так, как это делаете Вы. Ширина и высота прямоугольника это не хухры-мухры - это АНАЛОГОВЫЕ ВЕЛИЧИНЫ. То есть, вещественные числа. Подавляющее большинство вещественных чисел это иррациональные числа - их невозможно абсолютно точно записать на листе бумаги - потребовалось бы бесконечно много знаков после запятой. И на цифровом компьютере их невозможно представить абсолютно точно. Триллион знаков после запятой - это ещё не точное представление. Даже если сделать микросхему памяти величиной с Солнечную систему, всё равно точное представление вещественного числа в ней не поместится. А тут мы имеем АНАЛОГОВЫЙ КОМПЬЮТЕР, который берёт две АНАЛОГОВЫЕ ВЕЛИЧИНЫ, за не очень продолжительное время перемножает их и получает третью АНАЛОГОВУЮ ВЕЛИЧИНУ. То есть делает то, что не под силу цифровому компьютеру величиной с Солнечную систему.

Понятно, что к реальному миру такие рассуждения имеют мало отношения. Любые реальные аналоговые величины "загрязнены" шумом, поэтому, несут в себе не свыше определённого количества битов информации. Про то есть теорема Найквиста/Котельникова, теорема Шеннона и т.п. Любому блоку аналогового компьютера можно сопоставить программу цифрового компьютера, которая будет делать всё то же самое с точностью не меньшей той, которая реально достижима на этом аналоговом компьютере. Аналоговый компьютер просто хуже управляем.

Преимущество нейронной сети перед традиционными компьютерами не аналоговые вычисления, а РАСПАРАЛЛЕЛИВАНИЕ.

Кстати, и про квантовые вычисления (хоть я и не спец по ним) я тоже думаю, что они не так уж сильно от обычных отличаются. Не верю я, что они не вычислимы машиной Тьюринга. Вычислимы ещё как, просто определённый этап вычислений происходит внутри атома, поэтому, происходит очень быстро.

Evol

Цитата: rod1gin от февраля 06, 2021, 18:40:58поэтому, происходит очень быстро.

Можно полюбопытствовать - как быстро, за какое время происходит вычисление? Оно близко к планковскому? 

Evol

Цитата: rod1gin от февраля 06, 2021, 18:40:58РАСПАРАЛЛЕЛИВАНИЕ

Почему я оживился - именно поэтому. Эволюцию, по большому счету, также, на мой взгляд, можно представить как распараллеливание. Когда потенциал, содержащийся в генерализации, реализуется в виде параллельной обработки данных о специализациях на многих узлах ниш. 

Evol

Цитата: rod1gin от февраля 06, 2021, 18:40:58Можно представить себе "аналоговый компьютер": прямоугольную рамку, у которой нижняя и левая стороны прибиты гвоздями, а верхняя и правая ездят по направляющим так, что мы с помощью линейки можем выставить этой рамке любую ширину и любую высоту. Затем кладём под эту рамку лист бумаги, вырезаем его строго по рамке и взвешиваем вырезанный кусок на весах. Получаем вычисленное аналоговым способом произведение заданных нами ширины и высоты на заранее известную толщину и плотность бумаги.

Декартова система координат, не иначе. Вот и хороший образ того, как "вычисляет" природа, не используя математику в привычном для нас виде. Аналоговая система мозга и распараллеливание на артефактах-компьютерах. Так, по моему, и все, что мы называем культурой, организуется. Стоит ли удивляться тому, что природа воспринимается как плод инженерного вмешательства.

Однако, это, пожалуй, уже оффтоп. Уважаемый rod1gin, может, стоит поднять обозначенный Вами аспект эволюции в другой теме, например, в теме о мозге как квантовом компьютере? Или - в новой теме...

Лаплас

Цитата: АrefievPV от февраля 06, 2021, 10:07:03абстракт

Память нейронных сетей считается в образах, лучше придерживаться общепринятой терминологии. К тому же там и образов нету.

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Если у вас будет только одна «гомогенная» (никак не подразделённая на участки, блоки, подсети и т.д.) нейронная сеть, то её можно обучить только чему-то одному – то есть, она будет выделять только один абстракт (для некоей категории) зараз.

Подразделённая нейронная сеть — это одна нейронная сеть, подразделённость которой в тех вопросах, которые мы сейчас обсуждаем, не важна. Количество образов, которые сможет запомнить нейронная сеть, определяется в целом архитектурой, количеством нейронов и весов. Поэтому память подразделённой сети может быть больше, однако из больше/меньше утверждение из цитаты не следует. Например, искусственные нейронные сети не являются подразделёнными и при этом они вполне могут выполнить пример с кошечками и собачками.

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Мало того, мозг способен сравнивать/сопоставлять разные абстракты, а ваша сеть (которая на рисунке) ничего, кроме выделения текущего абстракта, делать не умеет.

Большего и не надо. Сравнение — то, что вы за него принимаете — можно показать и на такой сети. Но если вы не согласны, то мозг — это нейронная сеть с обратными связями. Дополните рисунок обратными связями и покажите, как происходит сравнение из примера с кошечками и собачками в такой сети. Принципиально ничего не изменится, просто объяснение станет подробнее за счёт несущественных деталей.

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Обученная сеть и есть, по сути, аналоговая сеть.

Все искусственные нейронные сети — цифровые, реализованные аппаратно или программно. Что до обучения, что после. Нейроны — это или обычные процессоры (только простые, ввиду относительной простоты выполняемой функции), или вообще вся сеть — компьютерная программа. Что касается биологических сетей, то у них с искусственными мало общего — только похожая в целом архитектура и некоторые принципы обучения.

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Сеть может хорошо выполнять функцию абстрагирования – сетевая архитектура практически идеально подходит для выполнения подобных функций.

Искусственные сети могут делать всё, что делает мозг, только на более простом уровне. То есть могут распознавать условия и строить алгоритмы.

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Искусственная нейронная сеть переобучается только настройкой «весов» связей (новых связей она не может формировать, старые связи она не может удалять). Естественные нейронные сети могут и «веса» связей настраивать, и новые связи образовывать, и старые связи удалять.

Запрограммируйте и будет удалять. В её работе это ничего принципиально не изменит.

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Но для того, чтобы сеть смогла в будущем узнать данный абстракт, этот абстракт надо пометить и загнать в память (например, в уставки какого-то блока). Потом дополнить сеть блоком сравнения (абстракта из памяти и текущего абстракта на выходе).

Сеть — что биологическая, что искусственная — может запомнить множество образов и никаких «блоков» ей для этого не надо. Точно так же ей не надо никаких дополнительных блоков для сравнения. Потому что сравнения нет (точно так же для прогноза нейронной сети не нужно «опережающих возбуждений», автоматизмы ничем не отличаются от не автоматизмов и так далее) Но вы утверждаете, что сравнение есть. Поэтому если вы согласны, что в мозге нет «сравнивающих блоков», то покажите на схеме нейронной сети, как, по-вашему, происходит сравнение. Если считаете, что «сравнивающие блоки» в мозге есть, то объясните, где они, как они работают и почему до сих пор никто о них не слышал. 

Цитата: АrefievPV от февраля 06, 2021, 10:07:03Если кратко (и в самом общем виде), то, восприятие – это процесс изменения структуры в результате действия извне.

По сети пошёл ток. Это изменяет её структуру?

АrefievPV

Цитата: Лаплас от февраля 07, 2021, 17:23:06
Цитата: АrefievPV от февраля 06, 2021, 10:07:03Если у вас будет только одна «гомогенная» (никак не подразделённая на участки, блоки, подсети и т.д.) нейронная сеть, то её можно обучить только чему-то одному – то есть, она будет выделять только один абстракт (для некоей категории) зараз.
Подразделённая нейронная сеть — это одна нейронная сеть, подразделённость которой в тех вопросах, которые мы сейчас обсуждаем, не важна. Количество образов, которые сможет запомнить нейронная сеть, определяется в целом архитектурой, количеством нейронов и весов. Поэтому память подразделённой сети может быть больше, однако из больше/меньше утверждение из цитаты не следует. Например, искусственные нейронные сети не являются подразделёнными и при этом они вполне могут выполнить пример с кошечками и собачками.
Вы меня, действительно не понимаете... Уже не знаю, как надо объяснять...
Что именно могут выполнить сети? Могут узнать (распознать) собачка это или кошечка?

Попробую вам пояснить по-другому.

Мы с помощью слов (понятий, терминов) и знаков пытаемся наладить взаимопонимание (то есть, донести до другого свою точку зрения и, попутно, понять его точку зрения).

Интуитивно каждому понятно, что означает слово «узнать».

Во-первых, это может означать, что «узнал что-то знакомое». То есть, если что-то узнал, то это означает, что у тебя уже есть какие-то знания об этом что-то – внешний вид, характерные особенности в структуре, характерные особенности движения и т.д. и т.п. Ты это что-то сравнивает с имеющимися знаниями и узнаёшь (либо не узнаёшь) это что-то.

Во-вторых, это может означать, что «узнаёшь нечто новое» (тут аналогом будет слово «познать»). То есть, если узнаёшь нечто новое (познаёшь), то это означает, что ты приобретаешь новые знания. И впоследствии ты уже сможешь сравнивать с вновь приобретёнными знаниями.

И в первом, и во втором случаях, для этого требуется обладать памятью. А в первом случае ещё в дополнение – требуется способность сопоставлять/сравнивать/оценивать (хотя бы на зачаточном уровне). То есть, знания могут попасть без оценки/сравнения/сопоставления (аналог – некритическое восприятие), но узнать можно, только обладая способностью оценивать/сравнивать/сопоставлять. 

Получается, что не может, искусственная нейронная сеть (как и естественная нейронная сеть) выполнить ваш пример с кошечками и собачками без операции сравнения/сопоставления.

Без такой операции этого (узнать – кошечка это или собачка) нельзя сделать в принципе – там же происходит выбор, сравнение, сопоставление, оценка – как угодно можете обозвать такую операцию.

Цитата: Лаплас от февраля 07, 2021, 17:23:06
Цитата: АrefievPV от февраля 06, 2021, 10:07:03Мало того, мозг способен сравнивать/сопоставлять разные абстракты, а ваша сеть (которая на рисунке) ничего, кроме выделения текущего абстракта, делать не умеет.
Большего и не надо. Сравнение — то, что вы за него принимаете — можно показать и на такой сети. Но если вы не согласны, то мозг — это нейронная сеть с обратными связями. Дополните рисунок обратными связями и покажите, как происходит сравнение из примера с кошечками и собачками в такой сети. Принципиально ничего не изменится, просто объяснение станет подробнее за счёт несущественных деталей.
Изменится принципиально – показанный на вашем рисунке участок схемы ничего, кроме выделения абстракта сделать не сможет. У такой схемы не просматривается возможность узнать что-то знакомое. Даже если такая схема выделит абстракт, она не сможет его узнать – для узнавания требуется сравнить полученный абстракт с неким другим абстрактом (или хотя бы с «бессмысленным сигналом»).

Кстати, выделенный абстракт не обязательно образ или некая совокупность сигналов – он может иметь и форму алгоритма.

Цитата: Лаплас от февраля 07, 2021, 17:23:06
Цитата: АrefievPV от февраля 06, 2021, 10:07:03Обученная сеть и есть, по сути, аналоговая сеть.
Все искусственные нейронные сети — цифровые, реализованные аппаратно или программно. Что до обучения, что после. Нейроны — это или обычные процессоры (только простые, ввиду относительной простоты выполняемой функции), или вообще вся сеть — компьютерная программа. Что касается биологических сетей, то у них с искусственными мало общего — только похожая в целом архитектура и некоторые принципы обучения.
В данном случае, у обученной сети структура «фиксируется» – связи перестают изменять свои «веса» (программно это всегда можно сделать). То есть, такая сеть, по сути, представляет собой аналоговую сеть.

Если структуру сети не «зафиксировать» после обучения, то она продолжит обучаться – опять начнут изменяться «веса» связей и структура сети будет каждый раз адаптироваться под выделение текущего алгоритма...

Цитата: Лаплас от февраля 07, 2021, 17:23:06
Цитата: АrefievPV от февраля 06, 2021, 10:07:03Но для того, чтобы сеть смогла в будущем узнать данный абстракт, этот абстракт надо пометить и загнать в память (например, в уставки какого-то блока). Потом дополнить сеть блоком сравнения (абстракта из памяти и текущего абстракта на выходе).
Сеть — что биологическая, что искусственная — может запомнить множество образов и никаких «блоков» ей для этого не надо. Точно так же ей не надо никаких дополнительных блоков для сравнения. Потому что сравнения нет (точно так же для прогноза нейронной сети не нужно «опережающих возбуждений», автоматизмы ничем не отличаются от не автоматизмов и так далее) Но вы утверждаете, что сравнение есть. Поэтому если вы согласны, что в мозге нет «сравнивающих блоков», то покажите на схеме нейронной сети, как, по-вашему, происходит сравнение.
Я уже пояснял, что сравнение есть. А на вашем рисунке этого нет.

Цитата: Лаплас от февраля 07, 2021, 17:23:06
Если считаете, что «сравнивающие блоки» в мозге есть, то объясните, где они, как они работают и почему до сих пор никто о них не слышал.
Объяснял, как они работают (разумеется, в самом общем виде – то есть, просто принцип работы). А по остальному скажу так: просто люди не задумываются, что без такой операции – сравнения/сопоставления/оценки – никакой аппарат или организм не в состоянии: ни узнать (чего-то знакомое), ни выбрать, ни сравнить/сопоставить, ни оценить...
 
Цитата: Лаплас от февраля 07, 2021, 17:23:06
Цитата: АrefievPV от февраля 06, 2021, 10:07:03Если кратко (и в самом общем виде), то, восприятие – это процесс изменения структуры в результате действия извне.
По сети пошёл ток. Это изменяет её структуру?
Да. Но, иногда обратимо, иногда необратимо.

rod1gin

ЦитироватьМожно полюбопытствовать - как быстро, за какое время происходит вычисление? Оно близко к планковскому?

Думаю, нет. Я в этом не разбираюсь, но интуиция мне подсказывает, что вряд ли это происходит быстрее, чем свет проходит расстояние, равное диаметру электронной оболочки, участвующей в вычислении. То есть вряд ли это происходит быстрее, чем за аттосекунду (одну миллиардную миллиардной доли секунды), а, скорее всего, надо намного больше времени.

Планковское время ещё в 20 триллионов триллионов раз меньше.

Лаплас

Цитата: АrefievPV от февраля 07, 2021, 18:10:47Что именно могут выполнить сети? Могут узнать (распознать) собачка это или кошечка?

Отличать кошечек от собачек. Например, если показывают кошечку, то активны одни нейроны на выходе сети, если собачку, то другие. От того кошечку вы показываете нейронной сети или собачку, сигналы рецепторов будут разные, поэтому и сеть они будут активизировать по-разному: в зависимости от настройки весов, какие-то сигналы будут усиливаться, какие-то ослабляться. В результате какие-то нейроны на выходе сети будут активны, какие-то нет.

Цитата: АrefievPV от февраля 07, 2021, 18:10:47И в первом, и во втором случаях, для этого требуется обладать памятью. А в первом случае ещё в дополнение – требуется способность сопоставлять/сравнивать/оценивать (хотя бы на зачаточном уровне). То есть, знания могут попасть без оценки/сравнения/сопоставления (аналог – некритическое восприятие), но узнать можно, только обладая способностью оценивать/сравнивать/сопоставлять.

Вот я вам и предлагаю показать, как «сопоставление/сравнение» происходит в нейронной сети. Как сети отличают кошечек от собачек, я выше уже написал, вам осталось найти, где там «сопоставление/сравнение». Теперь-то вы сможете это сделать?

Цитата: АrefievPV от февраля 07, 2021, 18:10:47То есть, такая сеть, по сути, представляет собой аналоговую сеть.

Если всё цифровое, откуда берётся аналоговость? Вы разницу между цифровым и аналоговым знаете?

Цитата: АrefievPV от февраля 07, 2021, 18:10:47Да. Но, иногда обратимо, иногда необратимо.

И какое изменение будет восприятием? Насколько глубоким должно быть изменение системы, что оно стало восприятием?

АrefievPV

Цитата: Лаплас от февраля 07, 2021, 20:24:37
Цитата: АrefievPV от февраля 07, 2021, 18:10:47Что именно могут выполнить сети? Могут узнать (распознать) собачка это или кошечка?
Отличать кошечек от собачек. Например, если показывают кошечку, то активны одни нейроны на выходе сети, если собачку, то другие. От того кошечку вы показываете нейронной сети или собачку, сигналы рецепторов будут разные, поэтому и сеть они будут активизировать по-разному: в зависимости от настройки весов, какие-то сигналы будут усиливаться, какие-то ослабляться. В результате какие-то нейроны на выходе сети будут активны, какие-то нет.
Вы сейчас описываете не функцию "сравнения/сопоставления", а функцию "абстрагирования".

На входе все сигналы будут разными - их можно не сравнивать, так как, бесполезно (даже одна и та же картинка под разными углами зрения, с разной освещённостью, в движении и без - это будет совершенно разный набор сигналов).

Сеть способна выделить абстракт из серии таких вот разных, но имеющих нечто общее, совокупностей сигналов.

А вот полученные абстракты уже можно сравнивать, что и следует делать. То есть, происходит сравнение/сопоставление выходных сигналов. А для сравнения необходимо располагать "эталоном" и/или целым рядом объектов (абстрактов) для выбора.

Цитата: Лаплас от февраля 07, 2021, 20:24:37
Цитата: АrefievPV от февраля 07, 2021, 18:10:47И в первом, и во втором случаях, для этого требуется обладать памятью. А в первом случае ещё в дополнение – требуется способность сопоставлять/сравнивать/оценивать (хотя бы на зачаточном уровне). То есть, знания могут попасть без оценки/сравнения/сопоставления (аналог – некритическое восприятие), но узнать можно, только обладая способностью оценивать/сравнивать/сопоставлять.
Вот я вам и предлагаю показать, как «сопоставление/сравнение» происходит в нейронной сети. Как сети отличают кошечек от собачек, я выше уже написал, вам осталось найти, где там «сопоставление/сравнение». Теперь-то вы сможете это сделать?
Вы описали "абстрагирование", а не "сравнение/сопоставление". И, в самом общем смысле, я для вас описал, как может происходить это самое "сравнение/сопоставление".
 
Цитата: Лаплас от февраля 07, 2021, 20:24:37
Цитата: АrefievPV от февраля 07, 2021, 18:10:47То есть, такая сеть, по сути, представляет собой аналоговую сеть.
Если всё цифровое, откуда берётся аналоговость? Вы разницу между цифровым и аналоговым знаете?
Оттуда же, откуда и сама искусственная сеть берётся. Там тоже всё цифровое - откуда сеть-то?
Если сеть с неизменяемыми "весами" связей, то это, по сути, аналоговая сеть - она производит обработку сигналов в соответствии со своей структурой (типа, алгоритм обработки сигналов, алгоритм вычисления, "вшит" прямо в структуру такой сети).

Цитата: Лаплас от февраля 07, 2021, 20:24:37
Цитата: АrefievPV от февраля 07, 2021, 18:10:47Да. Но, иногда обратимо, иногда необратимо.
И какое изменение будет восприятием? Насколько глубоким должно быть изменение системы, что оно стало восприятием?
Они оба будут восприятиями. Посмотрите моё определение.

Лаплас

Цитата: АrefievPV от февраля 07, 2021, 20:52:17А вот полученные абстракты уже можно сравнивать, что и следует делать.

Есть две картинки — на правой собачка, на левой кошечка. Вас просят найти кошечку. Вы смотрите направо, налево — видите кошечку, и отвечаете, что кошечка на левой картинке. В чём отличие этого примера, где, по-вашему, есть сравнение, от приведённого выше, где, по-вашему, его нет? 

Цитата: АrefievPV от февраля 07, 2021, 20:52:17абстракт

Перейдите на нормальный язык. Бреда у вас и так выше крыши.

Цитата: АrefievPV от февраля 07, 2021, 20:52:17Там тоже всё цифровое - откуда сеть-то?

Там - это где? Вы разницу между цифровым и аналоговым знаете?

Цитата: АrefievPV от февраля 07, 2021, 20:52:17Они оба будут восприятиями. Посмотрите моё определение.

Насколько глубоким должно быть изменение системы, что оно стало восприятием?

АrefievPV

Цитата: Лаплас от февраля 07, 2021, 22:20:54
Цитата: АrefievPV от февраля 07, 2021, 20:52:17А вот полученные абстракты уже можно сравнивать, что и следует делать.
Есть две картинки — на правой собачка, на левой кошечка. Вас просят найти кошечку. Вы смотрите направо, налево — видите кошечку, и отвечаете, что кошечка на левой картинке. В чём отличие этого примера, где, по-вашему, есть сравнение, от приведённого выше, где, по-вашему, его нет?
А где в первом примере предполагается операция сравнения/сопоставления? Где вы там её описали?

У вас всё описание о том, как сеть учат выделять абстракт. Ну, выделила она абстракт (типа, на выходе из сети формируется некий характерный «узор» из сигналов при предъявлении на входе картинки с кошечкой) и что? С чем этот характерный узор будет сравниваться, дабы быть узнанным?

Где вы пишете о том, что после выделения абстракта, этот абстракт запоминается в качестве «эталона» для последующего сравнения с текущими значениями? У вас там этого нет.
 
Цитата: Лаплас от февраля 07, 2021, 22:20:54
Цитата: АrefievPV от февраля 07, 2021, 20:52:17абстракт
Перейдите на нормальный язык.
Я вам на нормальном отвечаю – полагаю, что у вас просто нет желания понимать. Но могу и вообще не отвечать – нет проблем.

Цитата: Лаплас от февраля 07, 2021, 22:20:54
Бреда у вас и так выше крыши.
Это вы транслируете бред – у вас сеть умудряется что-то узнать без проведения операции сравнения/сопоставления... Это же нонсенс какой-то...

Цитата: Лаплас от февраля 07, 2021, 22:20:54
Цитата: АrefievPV от февраля 07, 2021, 20:52:17Они оба будут восприятиями. Посмотрите моё определение.
Насколько глубоким должно быть изменение системы, что оно стало восприятием?
Определение посмотрели? Где там про глубину изменений?

P.S.  Повторю высказывание про абстракт и абстрагирование, на всякий случай.
https://astronomy.ru/forum/index.php?topic=103753.msg5268705#msg5268705
Цитировать
Не стоит приравнивать функцию абстрагирования всему интеллекту (совокупности вычислительных функций, вычислительному функционалу), а тем более, не стоит абстрагирование приравнивать  разуму (способности использовать интеллект для выживания/самосохранения).

Абстракт, в самом общем смысле – это нечто общее, присущее каждому из некоего выделенного множества.

То есть, если в ряде объектов, образов, явлений, процессов и т.д., присутствует нечто общее (типа, некое соотношение наблюдаемых параметров/свойств/качеств), то это самое нечто общее подпадает под определение абстракта.

Если мозг животного способен делать такие операции, то он, тем самым способен выделять абстракты. Мало того, скорее всего мозг таких животных способен и оперировать этими абстрактами, а иначе операция по выделению абстракта становится ненужной и просто загружающей мозг (и, тем самым, затрудняющей выживание). А оперирование абстрактами – это вполне себе абстрактное мышление (пусть и примитивного уровня).

Наш мозг и мозг большинства многоклеточных животных имеющих центральную нервную систему (даже всего в виде скопления ганглиев), способен это делать. Человеческий мозг обучается этим операциям (абстрагированию и простейшему абстрактному мышлению), когда учится пользоваться зрением (выделять объект, выделять детали, определять движение объекта, определять цвет, форму, объём и т.д. и т.п.) в самом раннем детстве.

Мы ведь даже не замечаем, что изображение одного и того же объекта на сетчатке с разных ракурсов – разное, на разном фоне – разное, при различных движениях/поворотах – опять-таки, разное и т.д.

Без абстрагирования выделить конкретный объект в огромном множестве разных сенсорных образов было бы невозможно.

Недаром, когда в самом начале  попыток обучить компьютеры распознавать зрительные образы столкнулись с этой проблемой – для компьютера все изображения одного и того же объекта были, по сути, разными объектами. Это уже потом научились решать эту проблему (там уже и первые нейросетевые технологии появились).

И вообще, функция абстрагирования – это очень древняя функция (как и функция сознания – способность учитывать/использовать знания/опыт – тоже очень древняя). Конрад Лоренс, насколько я помню, это дело (функцию абстрагирования) доходчиво описывал в книге «Оборотная сторона зеркала».

Лаплас

АrefievPV, разбор ваших фантасмагорических убеждений требует хотя бы минимального непротивления сторон. Но если вы не способны перейти даже на общепринятую терминологию, то такого непротивления явно не наблюдается. Поэтому вы или начинаете вести себя конструктивно, или остаётесь со своими тараканами и дальше. Минимум конструктивности, по-моему, будет заключаться в том, что вы перестанете писать мне про высосанные из пальца «абстракты», а начнёте про образы. С «абстрактами» можно будет разобраться после того, как вы поймёте, почему в сетях нет и в принципе не может быть сравнения. Собственно тогда они вам уже не понадобятся.

Цитата: АrefievPV от февраля 08, 2021, 06:04:52А где в первом примере предполагается операция сравнения/сопоставления? Где вы там её описали?

Вы сами согласились, что сравнение есть:

ЦитироватьКонечно, есть сравнение (кавычки не нужны). Мозг давно выделил абстракты категорий «кошечка» и «собачка» и запомнил их. И при предъявлении картинки происходит мгновенное выделение абстракта (обученная сеть = аналоговая схема, и она работает в миллионы раз быстрее цифровой) и этот текущий выделенный абстракт сравнивается/сопоставляется с абстрактом извлечённым из памяти.

Нет возражений против этих слов?

Тогда смотрим, что происходит в нейронной сети. Сеть запомнила отличия кошечек от собачек, поэтому способна их распознавать. Показываете кошечку — сеть отвечает, что это кошечка, показываете собачку — отвечает, что собачка. Никакого «сравнения» нет, есть последовательное распознавание предъявляемых картинок.

Точно так же, когда вам показывают картинки, вы последовательно смотрите на них, потому что внимание может быть направлено только на что-то одно. Смотрите на правую — в этот момент нейронная сеть вашего мозга распознаёт на ней собачку — вы «узнаёте» собачку. Потом смотрите на другую картинку — сеть распознаёт кошечку — и вы говорите, что слева кошечка. Вы же, надеюсь, помните, что нейронная сеть мозга на выходе связана с мышцами и железами, в том числе мышцами речевого аппарата, поэтому выход нейронной сети мозга заключается в той или иной мышечной активности, в том числе речи.

Именно это — распознавание условий — делают все сети, включая мозг. Плюс за счёт обратных связей появляется возможность одновременно формировать на выходе цепочки импульсов, объединённых одним смыслом, так как нынешний выход может непосредственно влиять на вход сети. В результате входящая информация дополняется нынешним решением - сигнал на входе меняется и распознавание происходит в учётом предыдущего поведения - «продолжает» его. Поэтому вы можете сказать длинную фразу, последовательно действовать в контексте одной задачи. Но сейчас это неважно, так как ничего нового в сказанное выше не добавит. Только позволит объяснить ваши действия более подробно. Например, ваши слова, что собачка — это не то, последующий перенос внимания от одной картинки к другой и слова, что кошечка слева.

Цитата: АrefievPV от февраля 08, 2021, 06:04:52Определение посмотрели? Где там про глубину изменений?

То есть любое изменение есть восприятие? Тогда воспринимает всё и всегда, потому что на малых масштабах материи всегда происходят какие-либо изменения, динамика. Но это значит, что ваше представление о восприятии не имеет смысла, так как оно применимо ко всему. Вот это и требовалось доказать. При этом вы ещё и сами себе противоречите, так как ранее писали, что «заканчивается первичное восприятие, и начинается построение реакции», а из нынешних слов оказывается, что восприятие нигде не заканчивается и вообще кроме восприятия ничего в мире нет. И такими противоречиями полны практически все ваши идеи.