Путь к сильному ИИ закрыт

[Ivan(novice)]

Компьютеры считают гораздо лучше людей, но не создают новые алгоритмы. Специфика мышления, создающая трудности в формализации, всё-таки в  его интегративности. Естественно, можно в сознании заниматься и рутиной, посильной автомату. Но не в этом ведь суть мышления. Алгоритм - это продукт мысли, но не сама мысль.

Это все верно. Мышление сложнее алгоритма.
Но возник вопрос: "А может ли человек мыслить по шаблону, алгоритмически?"
Пока у меня получается, что может. А раз так, то формально шаблонное мышление не отличается от машинного алгоритма.
Т.е. современный ИИ, по сути, - это пример шаблонного мышления, только более производительного, чем у людей.
Но это и не новость, а, скорее, норма. Человек всю свою историю создавал искусственные инструменты. Палка - усиливает удар. Топор - еще более усиливает. Копье - делает возможным удар на расстоянии. Стрела - увеличивает это расстояние. И т.д.
Так и ИИ усиливает отдельные способности естественного интеллекта, или, точнее, решает отдельные задачи.

[Ivan(novice)]

При этом мозг — целостная система, где любой мыслительный процесс — это более или менее функция всего мозга сразу. Поэтому если работу всего мозга можно понять только сильно ограниченно, то никакая модель каких-либо функций мышления не будет адекватным повторением тех же процессов в мозге

Здесь все понятно, все так. Мозг пронизан связями, работает как целое.
Мне пока не понятно, как это состыковать с американскими исследованиями людей с рассеченным мозолистым телом (Роджер Сперри, Майкл Газзанига и т.д.). Они показали, что при нарушении связей между полушариями головного мозга:
а) Человек не замечает этот факта, его поведение остается в пределах нормы, коэффициент интеллекта не меняется.
б) Разные полушария имеют вполне определенную специализацию (для правшей): левое полушарие умеет решать логические/формализуемые/дискретные задачи, правое полушарие умеет работать с непрерывной информацией (распознавание лиц, рисование и т.п.).

И, пользуясь случаем, «магическое мышление», о котором вы упоминали в этой теме, тоже не есть нечто отдельное или специфическое, это такое же мышление, само по себе столь же рациональное, как и «мышление» любое другое.
...
Другими словами, ни религия, ни философия, ни наука одинаково не требуют какой-либо особенной «веры» — типа какого-либо нерационального поведения или неадекватности. Они возникают в разных условиях, в них естественны, имеют определённую предсказательную силу, и в тех границах, в которых прошлые условия сохранились, применимы и в нынешнее время.

Так и есть. Нормальный человек, без психических заболеваний, адекватен. И мышление его нормально и адекватно. До тех пор, пока соответствует тем границам, когда это мышление применимо. Для каких-то условий адекватно будет рациональное мышление.

«В условиях малых знаний отличие себя от мира осознаётся минимально, поэтому мир кажется таким же, как сам человек, качества субъекта ему приписываются явно. Следствием таких представлений возникают религии. Со временем объём опыта растёт, выделяются различные составляющие внутреннего и внешнего мира, в то же время сами миры пока ещё представляются единым целым. Как следствие, внешний мир, будучи прямо связанным с внутренним миром субъекта, кажется умопостижимым, возникает философия. В дальнейшем увеличение объёма точных знаний приводит к развитию механистической парадигмы, в контексте которой мир кажется точным механизмом, воспроизводимым при повторении условий, максимально отличным от изменчивого внутреннего мира человека. В результате проявляется смысл эксперимента, возникает наука. ...»

Интересно, надо подумать.
Похоже на то, как человек учится ходить. До года человек передвигается на четвереньках (религия), затем начинает ходит на полусогнутых на небольшие расстояния (философия), затем обучается бегать и прыгать (наука).

Другое дело, что в ходе прогресса формируется представление о «рациональном» — как исходящем из однозначных, строгих предпосылок, но это суть развитие и уточнение, а не замена неадекватного на адекватное.

Так и есть. В разных условиях человек может вести себя по-разному. В зависимости от стоящей задачи. Иногда ему привычнее применять "магическое" мышление. Иногда - рациональное. И дело здесь, скорее, в привычке и удобстве.

Тот же пример с ходьбой. Взрослый человек обычно ходит на двух ногам (наука), но когда ему приходится передвигаться по длинному низкому коридору, он может встать на четвереньки.

[Лаплас]

Но возник вопрос: "А может ли человек мыслить по шаблону, алгоритмически?" Пока у меня получается, что может.

Это неверный вывод. Даже кажущиеся одинаковыми движения (или мысли) только содержат общее, но они не одинаковые и одинаковых не существует — так же как в принципе не существует двух одинаковых мозгов, личностей. Алгоритм же на одну совокупность входных данных всегда выдаёт одну и ту же совокупность выходных и создать множество одинаковых алгоритмов ничего принципиально не мешает. В общем, для понимания, почему в мышлении нет алгоритмов надо понимать, что это за процесс физически.

Здесь все понятно, все так. Мозг пронизан связями, работает как целое.

Связи сами по себе не означают целостности работы системы. Поэтому связи ни при чём. Дело в неравновесности - она же и причина ограничений формализации. По моей ссылке есть глава «Главный принцип», там всё написано.

Мне пока не понятно, как это состыковать с американскими исследованиями людей с рассеченным мозолистым телом (Роджер Сперри, Майкл Газзанига и т.д.). Они показали, что при нарушении связей между полушариями головного мозга:
а) Человек не замечает этот факта, его поведение остается в пределах нормы, коэффициент интеллекта не меняется.
б) Разные полушария имеют вполне определенную специализацию (для правшей): левое полушарие умеет решать логические/формализуемые/дискретные задачи, правое полушарие умеет работать с непрерывной информацией (распознавание лиц, рисование и т.п.).

И что здесь странного? У разных отделов мозга есть специализация, какие-то связи остались. К возможности формализации работы мозга и выделения в неё алгоритмов это отношение не имеет. 

В разных условиях человек может вести себя по-разному. В зависимости от стоящей задачи. Иногда ему привычнее применять "магическое" мышление. Иногда - рациональное. И дело здесь, скорее, в привычке и удобстве.

Религия, философия и наука не взаимозаменяемы, поэтому есть условия, где, например, не подойдёт наука, но подойдёт религия, и наоборот. Поэтому дело не в привычности (хотя на практике и это тоже играет роль), а в адекватности разных форм познания разным условиям.

[Ivan(novice)]

Это неверный вывод. Даже кажущиеся одинаковыми движения (или мысли) только содержат общее, но они не одинаковые и одинаковых не существует — так же как в принципе не существует двух одинаковых мозгов, личностей. Алгоритм же на одну совокупность входных данных всегда выдаёт одну и ту же совокупность выходных и создать множество одинаковых алгоритмов ничего принципиально не мешает.

Да, неверный... Даже по формальным критериям получается противоречие. Если понимать под мышлением следующее:

Мышление - работа интеллекта.
Интеллект - способность человека создавать новые алгоритмы поведения.

тогда шаблонное мышление вообще не имеет смысла, т.к. не создает новых алгоритмов поведения.
Шаблонное мышление - это что-то вроде "горячего снега" или "мягкого льда". Игра слов, не существующая в реальности.

[Лаплас]

Это все относится только к человеку, про других животных пока не знаю...

Аналогично. Нервная система любого животного на входе связана с рецепторами внутренней и внешней среды, на выходе с мышцами и железами. Таким образом, физиологическая суть мышления — преобразование сигналов рецепторов в активность мышц и желёз. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма.

тогда шаблонное мышление вообще не имеет смысла, т.к. не создает новых алгоритмов поведения.
Шаблонное мышление - это что-то вроде "горячего снега" или "мягкого льда". Игра слов, не существующая в реальности.

«Шаблонное мышление» — это утрирование. Нервные импульсы, управляющие мышцами, всегда хоть немного, но отличаются, потому что условия всегда хоть немного, но разные. Причём надо учитывать, что перевод сигналов рецепторов в импульсы, управляющие мышцами и железами, всегда происходит целостно, а не как-нибудь «по отдельности», иначе понадобится ещё один мозг, который будет координировать работу «отдельных мозгов», управляющих отдельными мышцами и железами.

[Evol]

Уважаемый Ivan(novice), значит, все-таки, по-Вашему - не процесс, а работа есть мышление?

Кстати, подвох и заключался в необходимости выбора между этими понятиями, люди часто смешивают их в кучу, пытаясь охарактеризовать мозг.
Понятие работы более соответствует, на мой взгляд, той мере неопределенности, которую проявили Вы в суждениях о возможности алгоритмизировать мышление. Тут возникает ситуация, сходная с собеседованиями. Задаешь кандидату вопрос о том, в чем будет, по его мнению, заключаться работа, а он, в ответ, начинает излагать алгоритм и говорить о процессе.

[Игорь Антонов]

Мышление сложнее алгоритма.

Отношения мышления и алгоритмов - во многом центральная тема. Пенроуз по этому поводу целые книги написал.
Сложность в наиболее близком к обсуждаемой проблематике понимании - это сложность конструкции, коррелирующая с числом значимых, работающих неоднородных связей и элементов в системе. Так может грубо оцениваться и сложность алгоритмов, и сложность работающих материальных конструкций, то есть, организованных систем. По сути создание самой сложности именно такого рода и есть особая функция реального интеллекта.
Но если само мышление очень сложно именно в этом смысле, то откуда взялась та очень сложная конструкция, которая создаёт сам феномен мышления, его качественную специфику?

И в этой качественной специфике очень важный момент - особая целостность мысли, которую невозможно смоделировать набором взаимодействующих дискретных элементов, будь то отдельные транзисторы или шаги алгоритма. Лаплас все фишки поставил на синергетику и стал заложником собственной книги, развивающей этот подход. Но в синергетике нелокальность кажущаяся, объясняемая совокупностью множества локальных взаимодействий, работающих параллельно и синхронно трансформирующих поведение огромных систем частиц.
В мышлении же нелокальность, видимо, во-первых, не кажущаяся,  а подлинная, а во-вторых сама мысль при этом информационно связана с конкретным контекстом живых систем - их памятью и потребностями. Заклинания "диссипативность", "неравновесность" - как некое объяснение подобных явлений столь же пусто без конкретизации, как и заклинание "энергия", например.

[Evol]

Как и в механике, можно предположить, тут работа также является характеристикой результата действия некоторой силы. Этот результат, обычно, определяют как смысл или идею (либо понятие). Если мы говорим о процессе, необходимо выяснить, что, в этом самом процессе, превращается в мысль? В механике базовый процесс превращения одного вида энергии в другое означает превращение механического движения в тепловое, в результате действия сил трения.
А тут?

[Evol]

Пока мы не определимся с силами, исходным элементами, похоже, мышление так и останется подобием черного ящика. Может, смогут помочь представления о неопределенности, ее редукции и обобщении?

[Evol]

Что скажите по этому поводу, уважаемый Ivan(novice)?

[Ivan(novice)]

http://www.sciteclibrary.ru/yabb26/Attachments/Nm5.pdf
с. 38

Подобно биологической эволюции, в процессе познания также происходит «естественный отбор» — только алгоритмов поведенческих действий.

Да, здесь «естественный отбор» будет в кавычках. Потому что это скорее искусственный отбор, т.к. отбор алгоритмов поведения выполняет сам человек. Тех алгоритмов поведения, которые ему нужны:

Способствующих повышению качества жизни, более полному и точному решению задачи самосохранения и размножения, адаптации к условиям...

[Ivan(novice)]

Уважаемый Ivan(novice), значит, все-таки, по-Вашему - не процесс, а работа есть мышление?

Да, наверное, работа будет точнее.
В конце-концов, во время работы интеллекта (мышления) мозг потребляет больше энергии, чем, например, в расслабленном состоянии.

[Ivan(novice)]

И в этой качественной специфике очень важный момент - особая целостность мысли, которую невозможно смоделировать набором взаимодействующих дискретных элементов, будь то отдельные транзисторы или шаги алгоритма. Лаплас все фишки поставил на синергетику и стал заложником собственной книги, развивающей этот подход. Но в синергетике нелокальность кажущаяся, объясняемая совокупностью множества локальных взаимодействий, работающих параллельно и синхронно трансформирующих поведение огромных систем частиц.
В мышлении же нелокальность, видимо, во-первых, не кажущаяся,  а подлинная, а во-вторых сама мысль при этом информационно связана с конкретным контекстом живых систем - их памятью и потребностями.

Да нет, у Лапласа как раз с обоснованием целостности мысли все в порядке, он ее выводит из самоорганизации неравновесных систем. По крайней мере, противоречий пока не увидел:

И если взаимодействие со средой достаточно активное, то «срывы» отдельных элементов, влекущие «обрушения» множества других элементов системы, начнут возникать сразу по всей системе, тем самым конкурируя за степени свободы, по которым они будут развиваться. В результате такой конкуренции «всего со всем» будут выделяться степени свободы отобранные в объёме сразу всей системы, то есть в хаотической динамике элементов в какой-то момент скачком возникнет согласованность, наблюдаемая на масштабах всей системы.

Т.е. в некотором диапазоне условий внешней среды такая структурированная система может существовать только как целое. Далее по тексту сказано, что такие системы могут усложняться. Хорошо, допустим, могут. Допустим, случайным образом.
Но вот каким образом заставить такие системы размножаться, пока не понял.
Но книгу еще всю не дочитал. Может быть, ответ будет далее...

[Ivan(novice)]

Что скажите по этому поводу, уважаемый Ivan(novice)?

Только самыми общими словами, т.к. детально с этим не разбирался.
При мышлении происходит увеличение скорости обмена веществ. Энергия, расходуемая при мышлении, идет на работу по изменению конфигурации нейронной сети мозга.

[Игорь Антонов]

И в этой качественной специфике очень важный момент - особая целостность мысли, которую невозможно смоделировать набором взаимодействующих дискретных элементов, будь то отдельные транзисторы или шаги алгоритма. Лаплас все фишки поставил на синергетику и стал заложником собственной книги, развивающей этот подход. Но в синергетике нелокальность кажущаяся, объясняемая совокупностью множества локальных взаимодействий, работающих параллельно и синхронно трансформирующих поведение огромных систем частиц.
В мышлении же нелокальность, видимо, во-первых, не кажущаяся,  а подлинная, а во-вторых сама мысль при этом информационно связана с конкретным контекстом живых систем - их памятью и потребностями.

Да нет, у Лапласа как раз с обоснованием целостности мысли все в порядке, он ее выводит из самоорганизации неравновесных систем. По крайней мере, противоречий пока не увидел:

И если взаимодействие со средой достаточно активное, то «срывы» отдельных элементов, влекущие «обрушения» множества других элементов системы, начнут возникать сразу по всей системе, тем самым конкурируя за степени свободы, по которым они будут развиваться. В результате такой конкуренции «всего со всем» будут выделяться степени свободы отобранные в объёме сразу всей системы, то есть в хаотической динамике элементов в какой-то момент скачком возникнет согласованность, наблюдаемая на масштабах всей системы.

Т.е. в некотором диапазоне условий внешней среды такая структурированная система может существовать только как целое. Далее по тексту сказано, что такие системы могут усложняться. Хорошо, допустим, могут. Допустим, случайным образом.
Но вот каким образом заставить такие системы размножаться, пока не понял.
Но книгу еще всю не дочитал. Может быть, ответ будет далее...

На мой, взгляд, не всё в порядке у Лапласа. Поскольку отсутствие содержательного знания в этих выкладках маскируется набором общих натурфилософских фраз, в которых, в самих по себе, ничего страшного нет, если бы они не подавались автором как некое содержательное знание, "наука".
Держится эта "научная" конструкция на эксплуатации многозначности слова "сложность".
В синергетических прототипах (диссипативных, неравновесных, конечно же), которые совершают фазовые переходы, столь вдохновляющие Лапласа, вообще нет той сложности, которая есть в работающих организованных системах, той сложности, которая начинается с живых систем, а потом распространяется на их автоматную периферию. Сложность синергетическая - это просто циклические физико-химические узоры в пространстве и времени. Это не сложность организации работающих систем. Не экстраполируется сложность узора автоматически в сложность организации. А у Лапласа на этом допущении выстроено всё здание.