Психика и мозг

Автор ArefievPV, марта 31, 2015, 19:14:55

« назад - далее »

talash

Цитата: ArefievPV от апреля 24, 2015, 05:43:29
И ещё. Предлагаю обсудить модель Хокинса. Разумеется если есть желание. Его гипотеза подходит для этой темы (и "софт" и "железо"; и психика и мозг). Повторю ссылку на работу Хокинса.
http://karraba.net/ob-intellekte.html

Давайте обсудим. Отличная модель. Что конкретно в ней будем обсуждать?  :)

ArefievPV

Цитата: talash от апреля 25, 2015, 01:40:11
Цитата: ArefievPV от апреля 24, 2015, 05:43:29
И ещё. Предлагаю обсудить модель Хокинса. Разумеется если есть желание. Его гипотеза подходит для этой темы (и "софт" и "железо"; и психика и мозг). Повторю ссылку на работу Хокинса.
http://karraba.net/ob-intellekte.html
Давайте обсудим. Отличная модель. Что конкретно в ней будем обсуждать?  :)
Аспектов для обсуждения довольно много. Впоследствии можно будет и упорядочить по условным "разделам".
Приведу цитату из работы Хокинса:
"Проведите рукой перед лицом. Чтобы спрогнозировать вид руки, мозг учитывает, что он приказал руке двигаться. Если ваш мозг увидит движущуюся руку, не давая такой моторной команды, вы будете очень удивлены. Сначала кора головного мозга приказала руке двигаться, а потом спрогнозировала то, что должна увидеть. Я полагаю, такое объяснение неверно. По моему, кора головного мозга прогнозирует увидеть руку, именно этот прогноз заставляет моторные команды осуществить ожидания. Сначала вы думаете, это заставляет вас действовать, и таким образом ваши мысли осуществляются."
Фактически получается, что все наши сознательные (а может и вообще все произвольные, неосознаваемые) действия являются актами выполнения прогноза (выполняем эти действия для осуществления ожидаемого, а не желаемого). Желаемое и ожидаемое тогда требуется различать. Поведение на основе желаемого - инстинктивное (мотивируется эмоциями). Поведение на основе ожидаемого - инстинктивное произвольное ("волевым" усилием "совмещаем" прогноз и реальность). Под инстинктивным здесь понимаю, не как "нечто низшее и более простое", а как "лежащее в самой основе".
Вот уже "кучу" всего спорного высказал. Давайте это для начала обсудим (именно с точки зрения гипотезы Хокинса).

ArefievPV

Цитата: ArefievPV от апреля 24, 2015, 20:01:46
Цитата: Micr от апреля 24, 2015, 19:56:52
А инстинктами сознание "рулит"?
Полагаю, что нет. Оно их как бы "учитывает" в своей "рулёжке". Может слегка сглаживает проявления инстинктов ("маскирует" тоже). Но может так оказаться, что всего лишь обеспечивает выполнение очень "глубоко" заложенного инстинкта.
Сознание, интеллект, интуиция, эмоции, рефлексы (условные и безусловные) – это «обеспечение», «инструментарий» для инстинкта. Инстинкт размножения, инстинкт самосохранения, пищевой, ориентировочный и т.д. – это всё части (составляющие) одного основного инстинкта.
У живого основной инстинкт – это «стремление жить». Обзовите как угодно – инстинкт самосохранения, инстинкт выживания. Это не просто инстинкт – это её неотъемлимое свойство. Если рассматривать живое как невероятно сложный комплекс химических реакций между молекулами, то ему должно быть присуще свойство «гомеостаза». Попробую пояснить. Можно предположить существование в «первичном бульоне» огромного количества разнообразных химических реакций. Эти реакции вполне могли существовать в виде замкнутых самоподдерживающихся циклов (в каких-то конкретных условиях: в расщелинах около подводных вулканов, в грязи около береговой линии мелководных водоёмов и т.д. и т.п.) – одна реакция протекала, используя реагенты в растворе – продукты распада/синтеза первой реакции плюс приток тепла/энергии (вулкан, солнечное тепло и свет) использовались, в свою очередь, другой для «выработки» собственных «отходов». Эти «отходы» использовались третьей реакцией и т.д. В оконцовке продукты распада/синтеза энной реакции запускали первую реакцию. Частично схожие процессы можно наблюдать в реакциях Белоусова- Жаботинского.
https://ru.wikipedia.org/wiki/%D0%E5%E0%EA%F6%E8%FF_%C1%E5%EB%EE%F3%F1%EE%E2%E0_%97_%C6%E0%E1%EE%F2%E8%ED%F1%EA%EE%E3%EE
Комплекс реакций, состоящий из множества циклов (наподобие реакции Белоусова-Жаботинского) сцеплённый между собой множеством прямых и обратных связей (опять-таки в виде реакций с каталитической или ингибирующей активностью) обособленный в каком-либо физическом объёме (колба, расщелина, лужа, микросфера http://medbiol.ru/medbiol/microbiol/00040494.htm#000e8085.htm) можно будет обозвать «предживым» только в том случае, если он будет сохранять свой «гомеостаз» внутри «объёма» (т.е. сохранять себя самого за счёт изменения отдельных параметров реакций/циклов) при изменении химических и физических условий на границе и вне «объёма». А вот жизнью такой комплекс можно будет обозвать только тогда, когда этот комплекс сможет расти/распространяться. «Стратегии» такого распространения могут быть и в тупом росте (за пределы «объёма»), и «перетекании» комплекса (попадании части «реагирующего» содержимого в полной «комплектации» содержащей все циклы реакций) за границу «объёма» в подходящую нишу (соседнюю расщелину) с последующим заполнением всей ниши. Так вот эта совокупность свойств («распространение» и «гомеостаз») и будет первичным и основным «инстинктом» - «стремлением жить». Те комплексы, которые не обладали этим качеством в полной мере просто не «выжили». Вся эволюция долгое время сводилась к выбраковке комплексов ещё на добиологическом уровне. Остались только те, которые обладали этим свойством. Вот они и перешли границу разделяющую химию и биологию. Поэтому у всех живых этот «инстинкт» присутствует изначально.
Исходя из вышесказанного получается, что сознание и интеллект (на базе «память-предсказание») – это самый «продвинутый» «инструмент» основного инстинкта.

Lion

Цитата: Ivan(novice) от апреля 21, 2015, 03:37:46
А есть метод?

Есть профессия.

Цитата: ArefievPV от апреля 21, 2015, 04:26:17
Из ответов понял, что особого контроля не наблюдается со стороны сознания за психикой.

Есть классическая метафора -- "всадник и лошадь". Архетипическая, можно сказать. Уже много веков используется для наглядной иллюстрации данного феномена. Рекомендую.
:)

Цитата: ArefievPV от апреля 21, 2015, 04:26:17
Подозреваю, что и гипотезу Хокинса о "памяти-прогнозе" Вы чушью считаете...

А где там, собственно, гипотеза? Что неокортекс -- это ассоциативная память с функцией "формирования инвариантных представлений"? Про ассоциативность памяти за сто лет до него было известно, а про то, КАК устроена эта самая волшебная "инвариантность", он и сам ничего содержательного не выдал. Кроме названия и идеи, что "инвариантность" сама собой получится, если выходы одних нейронов завернуть на вход других. Но вот что-то никому еще не удалось воплотить такое "понимание" во что-то работающее.

А ведь это, на минуточку, и есть корень проблемы. Как из условных рефлексов построить декларированный автором (вообще-то, далеко не им первым) универсальный обобщатор? Что же тут обсуждать, если в ключевом месте дырка, а вокруг нее толченая вода в ступе?

И кстати, навязчивая зацикленность автора на неокортексе выглядит смешно. Ну учил же биологию -- и что, не слыхал, что распознаванием образов со всеми необходимыми "инвариантностями" и "предвидениями" прекрасно владеют даже насекомые? У которых не то, что неокортекса, а мозга-то толком нету. Кроме того, способность эта в основе врожденная, а не выучиваемая, а значит, память тут никак не может быть решающим компонентом. Уж об этом он должен был задуматься.

Думаю, сыграло роль то, что познания автора в психологии свелись к чтению нескольких книжек американских бихевиористов с когнитивщиками, и он по дилетантству принял самое распиаренное в США направление за передовой мировой мейнстрим. Отсюда эта заморочка на "китайской комнате". Фундаментальный косяк этой модели в том, что исполнитель должен выдавать решения в ответ на вводные, никогда не совпадающие с прецедентами в точности. То есть, заниматься "интерполяцией", или строить "инварианты", не зная китайского языка.

"Нет, все понятно... но КАК конкретно?"  :D

Механистическая парадигма, со своими представлениями о "чистой доске" и т.п. застрявшая где-то на уровне XVIII века, ответа на этот вопрос так и не дала. Потому что очевидный ответ -- "выучить китайский язык" -- для нее идеологически неприемлем.

А вообще, книга вполне читабельная и интересная, но -- по качеству это не научпоп, а скорее, околонаучная беллетристика, закрученная вокруг представлений автора о предмете, несколько выходящем за рамки его компетентности.

talash

Цитата: ArefievPV от апреля 25, 2015, 04:24:28
Аспектов для обсуждения довольно много. Впоследствии можно будет и упорядочить по условным "разделам".
Приведу цитату из работы Хокинса:
"Проведите рукой перед лицом. Чтобы спрогнозировать вид руки, мозг учитывает, что он приказал руке двигаться. Если ваш мозг увидит движущуюся руку, не давая такой моторной команды, вы будете очень удивлены. Сначала кора головного мозга приказала руке двигаться, а потом спрогнозировала то, что должна увидеть. Я полагаю, такое объяснение неверно. По моему, кора головного мозга прогнозирует увидеть руку, именно этот прогноз заставляет моторные команды осуществить ожидания. Сначала вы думаете, это заставляет вас действовать, и таким образом ваши мысли осуществляются."

Я бы хотел несколько редуцировать и без того неперегруженную модель Хокинса.  :)

Не является ли прогнозирование лишней сущностью? Вот есть такое свойство памяти как автоассоциативность. То есть, когда извне в сенсорные каналы поступает часть картины, в мозгу активируется полная картина, которая была ранее запомнена и изучена. Эта полная картина включает в себя и развитие во времени. То есть прогнозирование это один из аспектов автоассоциативности.

Если мы входим в знакомую комнату и окидываем её взглядом, мы сразу же заметим новый предмет. Потому что, активировавшаяся в памяти полная картина комнаты, не совпала с реальностью.

Хотя, наверное Хокинс это и имел ввиду, что автоассоциативность памяти и есть то свойство, благодаря которому осуществляется функция прогнозирования.

Цитата: ArefievPV от апреля 25, 2015, 04:24:28Фактически получается, что все наши сознательные (а может и вообще все произвольные, неосознаваемые) действия являются актами выполнения прогноза (выполняем эти действия для осуществления ожидаемого, а не желаемого). Желаемое и ожидаемое тогда требуется различать. Поведение на основе желаемого - инстинктивное (мотивируется эмоциями). Поведение на основе ожидаемого - инстинктивное произвольное ("волевым" усилием "совмещаем" прогноз и реальность). Под инстинктивным здесь понимаю, не как "нечто низшее и более простое", а как "лежащее в самой основе".
Вот уже "кучу" всего спорного высказал. Давайте это для начала обсудим (именно с точки зрения гипотезы Хокинса).

Я по поводу второй сигнальной пока пас.
Меня "безсознательное" прогнозирование интересует. Как в примере с комнатой или дверью у Хокинса. Про сознательные движения руками и что там происходит в голове обсудить пока не возьмусь.  :)

ArefievPV

Цитата: Lion от апреля 25, 2015, 22:52:57
Цитата: ArefievPV от апреля 21, 2015, 04:26:17
Подозреваю, что и гипотезу Хокинса о "памяти-прогнозе" Вы чушью считаете...
А где там, собственно, гипотеза? Что неокортекс -- это ассоциативная память с функцией "формирования инвариантных представлений"? Про ассоциативность памяти за сто лет до него было известно, а про то, КАК устроена эта самая волшебная "инвариантность", он и сам ничего содержательного не выдал. Кроме названия и идеи, что "инвариантность" сама собой получится, если выходы одних нейронов завернуть на вход других. Но вот что-то никому еще не удалось воплотить такое "понимание" во что-то работающее.

А ведь это, на минуточку, и есть корень проблемы. Как из условных рефлексов построить декларированный автором (вообще-то, далеко не им первым) универсальный обобщатор? Что же тут обсуждать, если в ключевом месте дырка, а вокруг нее толченая вода в ступе?
Про "инвариантность" он совсем другое писал. Вы что-то спутали, полагаю. Принцип формирования там другой.
Каждая зона получает паттерн сигналов от нескольких зон (расположенных "ниже" по иерархии). Очень простая схема, даже я разобрался. Не надо там ничего "заворачивать". "Стесняюсь" приводить Вам длинные цитаты, опять наругаете. :)
И не понял вопрос про условные рефлексы и универсальный "обобщатор".

ArefievPV

Цитата: Lion от апреля 25, 2015, 22:52:57
Цитата: ArefievPV от апреля 21, 2015, 04:26:17
Подозреваю, что и гипотезу Хокинса о "памяти-прогнозе" Вы чушью считаете...
И кстати, навязчивая зацикленность автора на неокортексе выглядит смешно. Ну учил же биологию -- и что, не слыхал, что распознаванием образов со всеми необходимыми "инвариантностями" и "предвидениями" прекрасно владеют даже насекомые? У которых не то, что неокортекса, а мозга-то толком нету. Кроме того, способность эта в основе врожденная, а не выучиваемая, а значит, память тут никак не может быть решающим компонентом. Уж об этом он должен был задуматься.
А с насекомыми в чём проблем-то? "Инвариантность" возникает "сама-собой" если существует иерархия из нескольких уровней. У насекомых это могут быть как отдельные клетки, так и ганглии. Подозреваю, что Вы неправильно поняли его идею. Приведу совсем "убогий" пример формирования "инвариантности" (безо всякой там "образности" и "памяти-предсказании", разумеется, а то слишком картину усложню).
У некого организма в "ЦНС" 99 нервных клеток получающих сигналы от 99 рецепторных клеток условно образуют низший иерархический уровень. Эти 100 нервных клеток условно "разбиты" в группы/зоны по 3 штуки. От каждых 3-х нервных клеток низшего иерархического уровня поступают сигналы (одновременно и/или поочерёдно, в разной комбинации) на 1 нервную клетку следующего иерархического уровня. Для простоты будем считать, что сигналы от 1,2,3 идут на 1а, сигналы от 4,5,6 идут на 2а, ..., сигналы от 97,98,99 идут на 33а. Здесь числа без букв означают номер клетки низшего уровня, числа с буквой "а" номер клетки второго уровня.  Следующий иерархический уровень состоит из 33 нервных клеток условно "разбитых" в группы/зоны по 3 штуки. От каждых 3-х нервных клеток второго иерархического уровня поступают сигналы (одновременно и/или поочерёдно, в разной комбинации) на 1 нервную клетку следующего, третьего иерархического уровня. Третий иерархический уровень состоит из 11 (обозначим числом с буквой "б") нервных клеток условно "разбитых" в группы/зоны по 6 и 5 штуки (с 1б по 6б, и с 7б по 11б). Уже здесь можно остановиться, и не продолжать далее "строительство" иерархии. Честно говоря и на втором уровне можно было остановиться.
С низшего уровня поступили сигналы с 1,2,32,33 соответственно на 1а,11а, затем 1б,4б.
С низшего уровня поступили сигналы с 1,3,31,32 соответственно на 1а,11а, затем 1б,4б.
С низшего уровня поступили сигналы с 2,3,31,32,33 соответственно на 1а,11а, затем 1б,4б.
Обратите внимание: при совершенно разных входных сигналах на первом уровне иерархии, на втором и третьем уровнях "возбуждены" одни и те же клетки (инвариантность). Более того, входной сигнал может "измениться" ещё сильней, инвариантность сохраниться (на более высоком уровне).
С низшего уровня поступили сигналы с 1,8,31,33,35 соответственно на 1а,3а,11а,12а затем 1б,4б.
Чем выше уровень иерархии тем более стабильная комбинация возбуждения нервных клеток.
У насекомых структура иерархий вполне может быть подобной описанной схеме. Для этого необязательно иметь кору головного мозга да и сам головной мозг. Всё на ганглиях и отдельных нервных клетках можно "организовать". А что до врождённой способности, так и это не помеха для работы данной схемы по формированию "инвариантности". Главное как настроены связи между слоями/группами/зонами иерархии. Есть "врождённая настройка" на распознавание цветка (цвет, углы лепестков, размер и т.д.) и её вполне достаточно для насекомого. У нас ведь тоже много изначально строго наследуемого. Но в процессе роста и развития организма мы "проходим" огромный путь до дрессировки/обучения. У нас и "ресурс" побольше: десятки миллиардов нервных клеток у человека (есть где "развернуться") против нескольких сотен у насекомого (всё "впритык", только самое необходимое).   

ArefievPV

Цитата: talash от апреля 26, 2015, 02:09:24
Я бы хотел несколько редуцировать и без того неперегруженную модель Хокинса.  :)
Не является ли прогнозирование лишней сущностью? Вот есть такое свойство памяти как автоассоциативность. То есть, когда извне в сенсорные каналы поступает часть картины, в мозгу активируется полная картина, которая была ранее запомнена и изучена. Эта полная картина включает в себя и развитие во времени. То есть прогнозирование это один из аспектов автоассоциативности.
Если мы входим в знакомую комнату и окидываем её взглядом, мы сразу же заметим новый предмет. Потому что, активировавшаяся в памяти полная картина комнаты, не совпала с реальностью.
Хотя, наверное Хокинс это и имел ввиду, что автоассоциативность памяти и есть то свойство, благодаря которому осуществляется функция прогнозирования.
Хокинс пишет:
"Прогнозирование, по моему мнению, – это не просто одна из функций коры головного мозга. Это первичная функция  неокортекса и основа интеллекта. Кора головного мозга является органом предвидения."
Получается, что прогнозирование - важнейшая составляющая его гипотезы. Без этой функции и самой модели не получится.
Одной автоассоциативности на самом деле недостаточно, чтобы части восстановить целое. Процитирую.
"Искусственная автоассоциативная память не в состоянии распознать изображение, если оно было подвергнуто перемещению, ротации, изменению масштаба, какому угодно другому из тысяч возможных превращений. В отличие от нейронных сетей человеческий мозг с легкостью справляется с такой задачей."
Потребуется ещё "внутренняя" модель картины/ситуации, обладающая свойством инвариантной репрезентации.
Про инвариантность в наиболее примитивной форме писал в предыдущем посте.
Прогноз выдаёт старшая по иерархии зона/группа нижестоящей, если сигналы последней уже успели активизировать "рисунок" последовательности сигналов (запечатлённый в образовании нервных связей в старшей зоне).

ArefievPV

Ещё немного про "прогноз". На самом "низшем", простом уровне можно рассмотреть.
Цитата из Хокинса:
"В каждую область коры поступает поток таких паттернов. Если зона коры может предсказать, какой из паттернов последовательности будет следующим, она формирует постоянное представление этой последовательности – запоминает ее. Запоминание последовательностей это самый главный компонент формирования инвариантных репрезентаций объектов реального мира."
«Если зона коры может предсказать...»
Рассмотрим крохотную структуру из двух уровней. «Младшая» зона выдаёт в «старшую» такую последовательность паттернов сигналов: 1,1,2,5; авват; 2,3,3. При регулярном повторении таких комбинаций на протяжении определённого времени в «старшей» зане сформируются соответствующие нервные связи. Процесс формирование будет происходить по следующей схеме. Сигналы  «снизу» по «восходящим линиям связи» будут активировать нейроны, и формировать между последними нервную связь. Сигналы поступают постоянно, пока действует «раздражитель» (т.е., пока «младшая» зона получает сигналы от рецепторов/других нервных клеток) По «нисходящим линиям связи» сигналы от «старшей» к «младшей» не поступают. Когда закончится процесс формирования нервной связи в «старшей» зоне (т.е. она «запомнила» последовательность паттернов), то только тогда возникнет поток сигналов по «нисходящим линиям связи» сигналы от «старшей» к «младшей». Обратный поток сигналов будет носить характер тормозящих сигналов. Т.е. получил паттерн 1,1,2,5 – «узнал» (активировалась связь между нейронами в «старшей» зоне), «отзвонился» («вниз» пошёл тормозящий сигнал от «активировавшейся связи»), соответственно паттерн 1,1,2,5 от нейронов «младшей» зоны поступать в «старшую» уже не будет (и соответственно не будет «никого» там «понуждать» формировать нервную связь). Одновременно, получив паттерн 1,1,2,5 «старшая» зона направит «вниз» тормозящие сигналы от «активировавшейся связи» (на группы нейронов «младшей» зоны которые последовательно должны были начать «долбить» «старшую» паттернами: авват; 2,3,3) на всю связанную последовательность паттернов. Ведь эта последовательность сохранена в памяти зоны и активируется целиком даже по самому первому паттерну. Вниз идёт поток сигналов прогностического характера, фактически. Если прогноз совпал (на вход от рецепторов поступают действительно паттерны 1,1,2,5; авват; 2,3,3,  а со «старшей» зоны идёт поток тормозящих сигналов именно на такую комбинацию), то нейроны «младшей» зоны заторможены и не «докучают» нейронам «старшей» зоны своими сигналами. В свою очередь, активировавшиеся нейроны «старшей» зоны выдают сигнал (это сигнал от сформировавшихся нейронных связей: «вниз» тормозящий (типа, «узнал», отзвонился – «хорош брякать, я понял»), и параллельно «вверх» активирующий (стимулирующий нейроны более «старшей» зоны к образованию устойчивых нервных связей) на «верхние этажи примерно по такой же схеме. Можно обозвать его АА35.
Но если прогноз не совпал, то происходит следующее. Поступил паттерн 1,1,2,5 и активировал всю цепочку: «вниз» «попёрли» сигналы торможения (на паттерны 1,1,2,5; авват; 2,3,3) и «вверх». Но вот незадача, следующий паттерн оказался аават. Нейроны, испускающие этот паттерн «голосят» не умолкая (тормозящий-то сигнал был сформирован для авват, а поступает аават). И этот «гвалт» будет до тех пор, пока в «старшей» зоне не образуется устойчивая нервная связь и сформирует тормозящий сигнал на этот новый паттерн. «Наверх» после формирования новой нейронной связи пойдёт сигнал уже АА36, к примеру. «Обучение» в действии...

Lion

Цитата: ArefievPV от апреля 26, 2015, 06:31:07
Про "инвариантность" он совсем другое писал. Вы что-то спутали, полагаю. Принцип формирования там другой.
Каждая зона получает паттерн сигналов от нескольких зон (расположенных "ниже" по иерархии). Очень простая схема, даже я разобрался.

Ну тогда вам не составит труда оценить и этот материал:

Розенблатт, Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга = Principles of Neurodynamic: Perceptrons and the Theory of Brain Mechanisms. — М.: Мир, 1965. — 480 с.
http://www.raai.org/library/books/other/ros_principles2.djvu

Предлагаю полистать и задаться вопросом, что удалось Хокинсу добавить нового к моделям, экспериментально отрабатываемым еще с пятидесятых годов прошлого века, и изложенным в этом манускрипте 1962 года. Кроме отвлеченных рассуждений на тему неокортекса, конечно.

Видите ли, сама идея, что интеллектуальные задачи можно решать обучающимися нейронными сетями, ничего не стоит. Весь фокус в том, как конкретно эта сеть построена и настроена. Вот на этой неинтересной подробности куча народу сидит уже больше полувека, пробуя так и эдак. Цена вопроса огромна, один только гугл за прорывное решение отвалит сотни миллионов, а уж сколько вложат военные и спецслужбы, представить страшно. Только вот практические результаты по всей этой теме, мягко говоря, не очень впечатляют (в сравнении с обещаниями). Если бы у автора было что-то реальное за душой, уж можете быть уверены, он бы сейчас был при деле. Либо куплен с потрохами, со всей своей лабораторией и полгорода в придачу, либо вкалывал на "большого брата" под грифом секретности.

Цитата: ArefievPV от апреля 26, 2015, 07:33:44
"Инвариантность" возникает "сама-собой" если существует иерархия из нескольких уровней.

Только в воображении. На практике почему-то возникает только то, что заложено в архитектуру сети, и то еще с бубном плясать вокруг ручных настроек и обучения. А заложить удается не так много, как мечталось. Разработка новых методов распознавания давно уже дела сурового матана, а не лирических аллегорий, и движение в этом направлении идет туго.

Цитата: ArefievPV от апреля 26, 2015, 07:33:44
У насекомых структура иерархий вполне может быть подобной описанной схеме. Для этого необязательно иметь кору головного мозга да и сам головной мозг. Всё на ганглиях и отдельных нервных клетках можно "организовать". А что до врождённой способности, так и это не помеха для работы данной схемы по формированию "инвариантности".

Только вот Хокинс считает, что это неокортекс, и ничто иное. Почему?

ArefievPV

Цитата: Lion от апреля 26, 2015, 13:43:15
Цитата: ArefievPV от апреля 26, 2015, 06:31:07
Про "инвариантность" он совсем другое писал. Вы что-то спутали, полагаю. Принцип формирования там другой.
Каждая зона получает паттерн сигналов от нескольких зон (расположенных "ниже" по иерархии). Очень простая схема, даже я разобрался.
Ну тогда вам не составит труда оценить и этот материал:
Розенблатт, Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга = Principles of Neurodynamic: Perceptrons and the Theory of Brain Mechanisms. — М.: Мир, 1965. — 480 с.
http://www.raai.org/library/books/other/ros_principles2.djvu
Предлагаю полистать и задаться вопросом, что удалось Хокинсу добавить нового к моделям, экспериментально отрабатываемым еще с пятидесятых годов прошлого века, и изложенным в этом манускрипте 1962 года. Кроме отвлеченных рассуждений на тему неокортекса, конечно.
Очень даже составит. Обилие сложных математических формул через которые надо "продраться" совсем не упрощают задачу. Просто тупо полистал. Трёхслойный, максимум четырёхслойный персептрон. Нигде не указано, что в самих слоях могут возникать связи. Обратная связь только между двумя слоями (не уточнял меду какими, первым и последним? поправьте), а не как в модели Хокинса - между каждыми соседними (и при этом дополнительно между  зонами) - эдакий повторяющийся персептрон (каждый из двух слоёв, но по функциональности превосходящий трёх-, четырёх- слойный искусственный с обратной связью) по восходящей "цепочке 5 или 6 раз подряд. Не описано таких структур в том фолианте/манускрипте. Могу почитать, если настаиваете. Вы гарантируете, что кардинально другую инфу "выцеплю" после внимательного чтения фолианта? За 20 мин много не прочтёшь, а я уже не тот, что в 17 лет (по математике без экзаменов оценку в зачётку ставили, теперь сам не верю :-[).

ArefievPV

Цитата: Lion от апреля 26, 2015, 13:43:15
Видите ли, сама идея, что интеллектуальные задачи можно решать обучающимися нейронными сетями, ничего не стоит. Весь фокус в том, как конкретно эта сеть построена и настроена. Вот на этой неинтересной подробности куча народу сидит уже больше полувека, пробуя так и эдак. Цена вопроса огромна, один только гугл за прорывное решение отвалит сотни миллионов, а уж сколько вложат военные и спецслужбы, представить страшно. Только вот практические результаты по всей этой теме, мягко говоря, не очень впечатляют (в сравнении с обещаниями). Если бы у автора было что-то реальное за душой, уж можете быть уверены, он бы сейчас был при деле. Либо куплен с потрохами, со всей своей лабораторией и полгорода в придачу, либо вкалывал на "большого брата" под грифом секретности.
Насколько я помню, о большой сложности я уже упоминал. В частности, к созданию подобной архитектуры, люди ещё не готовы - нет ни технологических, ни конструкторских решений, ни финансовых возможностей...
Но ведь это не повод заявлять, что гипотеза (и модель) Хокинса ничего не стоит, "пустышка" так сказать...

ArefievPV

Цитата: Lion от апреля 26, 2015, 13:43:15
Цитата: ArefievPV от апреля 26, 2015, 07:33:44
"Инвариантность" возникает "сама-собой" если существует иерархия из нескольких уровней.
Только в воображении. На практике почему-то возникает только то, что заложено в архитектуру сети, и то еще с бубном плясать вокруг ручных настроек и обучения. А заложить удается не так много, как мечталось. Разработка новых методов распознавания давно уже дела сурового матана, а не лирических аллегорий, и движение в этом направлении идет туго.
Другое, не заложенное с архитектуру сети, ничего и не возникнет. Живые нейронные сети можно уподобить аналоговой машине/сети/системе/архитектуре, но никак не цифровой. Цифра хороша тем, что можно менять с помощью софта весь процесс вычисления. На аналоговом устройстве такое не прокатит...

talash

Цитата: ArefievPV от апреля 26, 2015, 10:58:08
Рассмотрим крохотную структуру
И далее многа букав  :)

Такое подробное теоретезирование это конечно не вредно, однако и пользы обычно с него мало. Надо совмещать теорию и практику. Давайте подумаем про компьютерную модель? Вы как с программированием?

talash

Цитата: Lion от апреля 26, 2015, 13:43:15
Только в воображении. На практике почему-то возникает только то, что заложено в архитектуру сети, и то еще с бубном плясать вокруг ручных настроек и обучения. А заложить удается не так много, как мечталось. Разработка новых методов распознавания давно уже дела сурового матана, а не лирических аллегорий, и движение в этом направлении идет туго.

Хокинс как раз практик. Он же не бедный и уже чего-то там делает по воплощению своей теории в практику. Всё руки не дойдут почитать  :) С английским у меня средне, поэтому никак не соберусь. Вот интервью бумажное https://gigaom.com/2014/09/24/the-gigaom-interview-jeff-hawkins-on-why-his-approach-to-ai-will-become-the-approach-to-ai/ А вот ещё одно интервью на видео https://www.youtube.com/watch?v=-TlaIStZNFo оба за прошлый год