Оценка Эволюционного потенциала искусственного разума

[Роман Корабельщиков]

    Дальнейшее развитие темы искусственного разума выявило много точек соприкосновения с биологической эволюцией.  Получилось продолжение темы. Хотя до полноты картины еще далеко, отдельные моменты проявились в достаточной степени.
    Предисловие.
    Один из отцов универсального ИИ, бывший руководитель GOOGL Эрик Шмидт, рассказывая про достижения в области ИИ заявил, что с его точки зрения ИИ не понадобится достигать сложности мозга чтобы добиться такой же эффективности (в области разума). Объяснил он это тем, что создатели ИИ идут путем создания все более эффективных алгоритмов и методик обработки информации и это в конечном счете позволит получить аналогичные с мозгом результаты при меньшем количестве связей и элементов. 
    Насколько истинно это утверждение? А если нет, то что помешает реализации такого подхода?
    Далее. Возьмем книгу «эффект Люцифера» автор Филип Зимбардо. В ней даны примеры того, как относительно неплохие люди становятся «исчадиями ада» под влиянием окружающих обстоятельств. Прочитав ее, тем не менее остаешься не удовлетворенным ответами на вопрос: почему люди склонны к таким метаморфозам?
    Или другая книга: «Предсказуемая иррациональность» автор Дэн Ариели. Посвящена теме человеческой иррациональности и о том, как обратить чужую иррациональность себе во благо,  но плохо раскрывает причины её вызывающие.
    В процессе поиска ответов на эти и другие вопросы начинает просматриваться  существование неких подспудных связей между всем вышеупомянутым.
    Вернемся к самому первому вопросу. Процесс эволюции жизни на Земле («создавший» Разум) все более усложняясь,  не остановился на человеческом мозге. Свое продолжение он нашел  в создании человечеством все более и более эффективных алгоритмов, особенно в специализированных областях. И  этот процесс происходит непрерывно.  При этом сами процессы, протекающие в мозге, становятся все более познаваемы. Пусть и совсем не просто, но сегодня они уже поддаются анализу и моделированию.
Что же мешало эволюции сделать текущие интеллектуальные и когнитивные способности  людей (человеческого мозга) еще более эффективными? 
    Есть ряд причин, которые стоит принять во внимание. Одной из них является влияние неопределенности, возникающей из-за недостатка информации, не полных или ошибочных моделей, описывающих окружающий мир, и цены ошибки принятия решений.
    Для варианта ИИ в том виде, который реализуется сейчас, цена ошибки не такая высокая как для живых организмов, но и не нулевая. В роли «естественного отбора» выступает сам создатель - человек. Соответственно можно сказать, что биологический разум до какого-то момента будет являться единственным эволюционным фактором и процессом формирования ИР.
    Специфика эволюции ИИ характеризуется ослабленной ценой ошибки,  что не одно и то же с эволюционным отбором. В результате развитие ИИ происходит в основном в направлении повышения точности. Возможно поэтому возникает иллюзия, когда точность распознавания или комбинирования известных элементов подменяет собой совокупную эффективность модели мира и её составляющих.
    Какой бы ни была система, в любом случае она имеет на входе данные с той или иной долей неопределённости с одной стороны и ограничения на обработку поступающих данных для извлечения информации с другой стороны. Чем ниже важность информации, тем меньшую точность или, говоря по другому, большую неопределенность она может иметь. Логично предположить, что в процессе развития  биологические интеллектуальные системы распределяют свои нейронные ресурсы в зависимости (условно пропорционально) от объема поступающей информации (как производная от объёма и точности поступающих данных) и её важности.
    Неопределённость присутствует всегда и на всех уровнях в информационных, интеллектуальных и разумных систем. В чем же тогда может быть разница между ними?
    В биологических системах ошибка зрительного восприятия (например для животного) может оказаться фатальной. Это одна из причин по которой на её обработку выделены такие значительные ресурсы, а вот на слуховую значительно меньше. Причем по двум причинам: меньше  важность и больше неопределенность (направление, дальность) в данных, приходящих от системы слуха. Для ИИ и при существующих сегодня подходах  для ИР «цена» фатальной ошибки сведётся к перепрограммированию лишь в результате субъективного  решения людей. При том, в самом ИИ (ИР) не происходит накопление вариативности (избыточности) такой сложности, которой достаточно для полноценного взаимодействия с окружающим миром. «Сами в себе» информационные системы имеют малое количество степеней свободы для формирования такой полноценности.  Конечно, ничего не мешает человечеству в будущем создать самопознающую и самосовершенствующуюся систему с большим числом степеней свободы, но она будет очень сильно отличаться от существующих и проектируемых в ближайшем будущем.

[Игорь Антонов]

На мой взгляд, эти выкладки не учитывают принципиальные проблемы современного ИИ, способ реализации которого пока не имеет перспективы воспроизвести феномены субъектности, восприятия, понимания.

Пока мир как целое, состоящее из взаимодействующих объектов, наличествует только в сознании разработчиков ИИ. А его собственный внутренний мир - последовательности элементарных операций с элементарными данными.
Проблема цифровой невычислимости сознания не надумана, а вполне реальна.

[Alexeyy]

Конечно, ничего не мешает человечеству в будущем создать самопознающую и самосовершенствующуюся систему с большим числом степеней свободы, но она будет очень сильно отличаться от существующих и проектируемых в ближайшем будущем.

Полностью согласен. Думаю, что главное, функциональное отличие будет в том, что эта система будет работать быстрее человеческого мозга (в соответствующих сферах). Т.е. будет применяться в тех областях, где человеческий мозг будет уступать по скорости в силу биологических ограничений.

[Роман Корабельщиков]

  Игорь Антонов.
  Если мы говорим о воспроизводимости феноменов субъектности, восприятия, понимания в контектсе человеческого, то это и не нужно.  Пусть они остаются с человеческой спецификой. Но если речь идет о ИИ, то у них свой путь и своя специфика выше названного. Говорить же об этих категорях как существующих отдельно, мы не можем, так как вы сами сказали что нет нужного всеобъемлющего "контекста". Но если он все таки есть или будет, то тогда, как следствие, ИИ будут сопуствовать данные феномены в какой-то степени похожим образом.
  Вообще человеческий контест интеллекта невероятно богат различными человеческими особенностями, такими как связь с  гармональными механизмами, внутренней средой, сильной связью в целом от химии, влиянием различных автономных систем и внутренних биоритмов. Все это (или не все) складывается в причудливую мозаику человеческого разума. Вобщем тема окрытая и с моей точки зрения решать ее всю целиком специально для ИИ не будут, а вот для моделирования человека эту тему "копали" и будут "копать".   
  Alexeyy.
  Согласен. И это уже происходит. Интересно посмотреть немного дальше горизонта событий. 

[Роман Корабельщиков]

  Перейдем к следующей теме. В чем-то она является следствием предыдущей. По мере продвижения «наверх»,  информация от нижележащих областей становится данными для вышележащих. В свою очередь последним приходится принимать во внимание комбинации не только между этими данными, но и с данными поступающими в процессе обработки от промежуточных структур. В результате количество всевозможных комбинаций  может стать невообразимо большим, сведя конечную определенность просто на нет. Если не принимать никаких мер, то в конечном счете потребуется  невероятно большое количество «интеллектуальных» ресурсов.  Поэтому в процессе обработки необходимо свести все доступные комбинации не только к ограниченному количеству вариантов, но и уменьшить их сложность до минимально необходимого (обычно дуального типа:  свой/враг, да/нет, бежать/стоять, плохо/хорошо, ..).
  Из-за ограниченности ресурсов совокупная интеллектуальная система, создавая промежуточные распознающие и генерирующие структуры (подсистемы), соединяет их ограниченным числом связей с ограниченным числом нижележащих подсистем. В совокупности, помимо влияния имеющихся ограничений к количеству доступной для обработки информации, увеличение количества источников обрабатываемой информации  сопровождается  ростом степени её неопределённости как производная от неопределенностей каждой из подсистем (при объединении их в одну). Например, если точность распознавания данных от каждой из двух подсистем (равнозначных) равна 1\2, то совокупная будет всего лишь 1\4.
В результате мы вынуждены мириться с тем, что по мере движения информации (а вернее данных) «наверх» верхние подсистемы (такие как социальные) имеют тенденцию не только множиться, но и иметь дело со все большей неопределённость. При этом чем их больше, тем меньшее количества ресурсов может быть выделено для их реализации, если только не отбрасывать или упрощать менее значимые подсистемы. В процессе эволюции живых существ из всевозможных вариантов оставались и закреплялись наиболее оптимальные нейронные структуры и выделяемые им ресурсы с точки зрения выживания. Возможно поэтому отличить ложь от правды намного сложнее и менее вероятно, чем различить значения двух разных слов.
  Однако недостаточно иметь оптимальный  набор различных интеллектуальных подсистем. Свидетелем этого является такое свойство, как пластичность мозга.
  Будучи частью механизма нейронного взаимодействия эффект пластичности мозга не ограничен локально. При необходимости он способен  поддержать процессы трансформации существующих и формирования новых подсистем, напрямую участвуя  в процессах развития и поддержания жизнедеятельности. Динамические свойства мозга отражают изменчивость внутренней и внешней среды. Существование подобного эффекта говорит нам с одной стороны о том, что невозможно «объять необъятное»,  сопоставив каждому возможному феномену свою подсистему точного распознавания и далее свести все в единое. С другой стороны, невозможно иметь запас в подсистемах, достаточный чтобы реагировать на изменчивость (сложность) всей совокупности внешнего и внутреннего.
  Для полноты картины сделаем отступление. Касается оно «мусорной культуры» из области эволюционной психологии. 
Посмотрим на специфику «мусорной культуры» с точки зрения эволюционного потенциала (ЭП). Можно утверждать, что область ее происхождение связана с наличием источников информации с большой долей неопределённости. При том увеличение количества разрозненных, но одноуровневых подсистем даже при пропорциональном увеличении задействованного общего «вычислительного» ресурса не приводит к значительному росту совокупного ЭП. В этом случае сознание и поведение интеллектуального (разумного) существа будет менять решения в зависимости от того, какая из подсистем на данный момент времени выработала больший «стимул». Можно сказать, что хотя такой  человек и обладает большим интеллектом (т.е. способно различать и классифицировать множество отдельных элементов), его внешний текущий  результирующий ЭП не намного превышает ЭП наиболее сложной из его имеющихся подсистем. Принятое им решение будет иметь максимальный эффект  лишь в случае, когда происходит не только однозначное совпадение только одного имеющегося в  подсистеме образа и реальности, и информация от данной подсистемы имеет хорошее соответствие реальности, т.е. максимальную «полноту» (объем и достоверность). 
  Для реального роста ЭП требуется формировать интеллектуальные интегрирующие подсистемы дальнейшего верхнего уровня, чтобы они были способны оперировать со всеми или хотя бы наиболее общими и сложными информационными потоками из нижележащих подсистем. В идеале, при необходимости, они еще должны «уметь» определять обеднённые информацией области и инициировать формирование подсистем для таких областей.  Только в этом случае будет происходить рост ЭП, базирующийся на всем объеме задействованных ресурсов. Этот процесс во многом определяется принципами, на основе которых формируются системы верхнего уровня (тем более высшего).
  Возвращаясь к проблемам человечества можно утверждать, что чем меньшую роль в человеческой личности играют самые «высокие» уровни мировоззрения, тем меньше его результирующий интеллект из-за  интеллектуальной раздробленности. В рамках этой раздробленности возможны различные и часто весьма противоречивые временные вариации мировоззрения и поведения, как одной «личности», так и больших групп людей.
  Соответственно можно сказать, что наиболее актуальной задачей для разработчиков ИИ (ИР) является разработка технологий по реализации в этих системах умения самостоятельно формировать «верхние» уровни и реализовывать функции (аналоги) пластичности. 

[Игорь Антонов]

Игорь Антонов.
  Если мы говорим о воспроизводимости феноменов субъектности, восприятия, понимания в контектсе человеческого, то это и не нужно.  Пусть они остаются с человеческой спецификой. Но если речь идет о ИИ, то у них свой путь и своя специфика выше названного. Говорить же об этих категорях как существующих отдельно, мы не можем, так как вы сами сказали что нет нужного всеобъемлющего "контекста". Но если он все таки есть или будет, то тогда, как следствие, ИИ будут сопуствовать данные феномены в какой-то степени похожим образом.

Я говорю о том, что упомянутые феномены тесно связаны с естественной интеллектуальностью, которая в настоящее время в научной литературе рассматривается как общебиологическое свойство, а не исключительно человеческое.

И фундаментальная проблема заключается не в том, что ИИ не может воспроизвести человеческие качества, а в том, что у него нет той "самости", которая есть даже у одноклеточных. У ИИ нет собственных целей, нет внутренних потребностей, это механистичный автомат, не ощущающий внутри себя, что он делает и зачем. Cовременные искусственные нейронные сети наращиванием их сложности и производительности и в перспективе не масштабируются до чего-то иного.
Все реализуемые ИИ цели, да и вообще мир, как связное и состоящее из отдельных объектов целое, существуют только в сознании разработчиков ИИ.     

[Alexeyy]

Alexeyy.
  Согласен. И это уже происходит. Интересно посмотреть немного дальше горизонта событий.

Думаю, ключевое здесь - рост ускоренности эволюции. По мере этого роста, биологические возможности человека будут всё больше и больше отставать по отношению к объективным потребностям всё более и более быстрого технологического развития. Что и будет стимулировать развитии всё более и более "шустрого" ИИ и соответствующей роботизации.

[Alexeyy]

У ИИ нет собственных целей, нет внутренних потребностей, это механистичный автомат, не ощущающий внутри себя, что он делает и зачем. Cовременные искусственные нейронные сети наращиванием их сложности и производительности и в перспективе не масштабируются до чего-то иного.
Все реализуемые ИИ цели, да и вообще мир, как связное и состоящее из отдельных объектов целое, существуют только в сознании разработчиков ИИ.     

Всё это есть в ИИ, в какой-то (зачаточной) степени. Вопрос не в этом, а в том. что Вы считаете, что у живых есть принципиально отличительный механизм (природу которого объяснить Вы не можете и чётко сформулировать в чём состоит его принципиально отличительный смысл - тоже не можете), который позволяет им эволюционировать и которого (как Вы считаете) у не живых быть не может в принципе. В этом - корень. Без обсуждения чего все разговоры о том, есть ли у ИИ какие-то похожести на живой интеллект или нет - пустое. Есть похожести, есть и различия. Вы будете всегда упирать на различия, Ваш оппонент - на похожести. И будете оба правый и к общему знаменателю - никогда не придёте, пока не посмотреть в суть разногласия. А она в том, что Вы считаете, что у живого есть что такое (таинственное), сформулировать точно которое Вы не можете, но что его принципиально отличает от неживого. Когда сможете сформулировать - тогда, действительно, будет предмет обсуждения. Иначе - пустая трата времени.

[василий андреевич]

наиболее актуальной задачей для разработчиков ИИ (ИР) является разработка технологий по реализации в этих системах умения самостоятельно формировать «верхние» уровни

Это причинно-следственный кульбит - невозможно заложить самостоятельность "сверху". Остаться "наверху", значит, унизить соседа. Программист-сосед становится симбиотиком программируемой машины и вместе с ней отправляется "вниз", как придаток гомункулуса уже неискусственного разума.
  Разумность там, где для биологических систем нижних уровней создаются всё новые экологические ниши. Человеку не по силам рассчитать параметры новых ниш так, что бы не произошло очередное Великое Вымирание, на то машинный интеллект, становящийся, таким образом, высшим уровнем низших.

[Игорь Антонов]

Вы считаете, что у живого есть что такое (таинственное), сформулировать точно которое Вы не можете, но что его принципиально отличает от неживого. Когда сможете сформулировать - тогда, действительно, будет предмет обсуждения.

Я и формулирую специфику живого, и предлагаю объективный наблюдаемый критерий её проявления.

1)
Специфика живого:
Способность сопоставлять свои потребности как целого со свойствами среды как целого и принимать адекватные решения, способствующие удовлетворению потребностей в данной среде и условиях.

2)
Наблюдаемый внешний критерий проявления указанной специфики живого:
Системогенез, то есть, формирование обладающих новыми системными свойствами материальных структур, способствующих удовлетворению потребностей.

[Alexeyy]

Я и формулирую специфику живого, и предлагаю объективный наблюдаемый критерий её проявления.

1)
Специфика живого:
Способность сопоставлять свои потребности как целого со свойствами среды как целого и принимать адекватные решения, способствующие удовлетворению потребностей в данной среде и условиях.

Есть это, в зачаточном виде, и не у живого (у ИИ, роботов). И Вы это прекрасно знаете. Но, скорее всего, будете упорно, искусственно, строить видимость принципиального различия.
  Кстати, сформулированное это свойство внутренне противоречиво в том смысле, что живое не воспринимает ни себе, не среду как целое в полной мере, на все 100% (например, при раздвоении личности не происходит полностью восприятия себя как целого, как единую личность: вторая половина личности игнорируется; хотя, в каких-то физиологических потребностях организм при этом и может воспринимать себя гораздо цельнее; но никогда - на 100%).
   Что тоже демонстрирует отсутствие чёткого предмета дискуссии. И никакого взаимопонимания, думаю, здесь невозможно: отличие позиций кроется не в различии знаний реальной фактологии , а в стойкой внутренней убеждённости в том, что принципиальные различия между живым и неживым есть. И на которую (убеждённость) не повлияют никакие факты.

[Игорь Антонов]

Есть это, в зачаточном виде, и не у живого (у ИИ, роботов). И Вы это прекрасно знаете.

Я прекрасно знаю обратное - то, о чём я пишу, это камень преткновения на пути создания сильного ИИ.
И знаю это далеко не я один.

отличие позиций кроется не в различии знаний реальной фактологии , а в стойкой внутренней убеждённости

Мы здесь не о философии говорим, где внутренняя убеждённость может ни на что материальное не опираться, а о технике, которая либо есть, либо её нет.
И её нет.
Это утверждаю я как системотехник, разработчик аппаратных и программных решений.

Даже компания учёных военных ракетчиков - один доктор наук и два кандидата, понимают, о чём я пишу, но не Вы, Алексей:

https://elibrary.ru/download/elibrary_37381164_59818551.pdf

[Alexeyy]

Ошибаетесь: я прекрасно понимаю о чём Вы говорите.

Есть это, в зачаточном виде, и не у живого (у ИИ, роботов). И Вы это прекрасно знаете.

Я прекрасно знаю обратное - то, о чём я пишу, это камень преткновения на пути создания сильного ИИ.
И знаю это далеко не я один.

У Вас единственный фактический  аргумент - типа иного сделать, до сих пор, не смогли. И ничто Вас (и, может, ещё много кого) не переубедит в том, что это - не аргумент. И обсуждать фактический материал, в связи с этим - совершенно бесполезное занятие. Это - предмет веры, а не фактологии.

[Игорь Антонов]

У Вас единственный фактический  аргумент - типа иного сделать, до сих пор, не смогли.

Нет, мой аргумент заключается в том, что этого не могут сделать закономерно и объяснимо.
Что причины этого в несоответствии объективных, закономерно воспроизводимых свойств цифровой вычислительной техники и объективных, закономерно воспроизводимых свойств мышления.

И, опять же, это не только моя точка зрения, а вывод, к которому приходят авторы многих работ, включая ссылку из моего предыдущего сообщения.

[Игорь Антонов]

И, надо понимать, что я не исключаю потенциальной возможности создания сильного ИИ в будущем на какой-либо иной базе.
Мои возражения относятся лишь к утверждениям о наличии перспективы его создания на основе развития средств современной цифровой техники.