Автор Тема: Путь к сильному ИИ закрыт  (Прочитано 2423 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Путь к сильному ИИ закрыт
« : Январь 12, 2019, 22:27:35 »
Тема искусственного интеллекта сейчас популярна. Идея его усложнения в той или иной перспективе до уровня, сравнимого с интеллектом человека или даже выше, тоже встречается часто. Однако эти ожидания, по-видимому, не имеют под собой реальных оснований. Вкратце аргументы выглядят следующим образом.


1. В роли сильного искусственного интеллекта чаще всего видят искусственные нейронные сети. Такое мнение сложилось ввиду схожести ИНС с биологическими нейронными сетями, а также ввиду того, что человек, создавая ИНС, фактически задаёт только общее направление вычислений, в результате к конкретным решениям ИНС приходят как будто бы «самостоятельно», приобретая опыт в процессе обучения, что также похоже на работу естественного интеллекта.

Тем не менее, несмотря на то, что ИНС не являются прямым решением задач, то есть человек как будто бы решает задачу только в общем, а не в точности, тем не менее необходимо приложить интеллект, чтобы сеть разработать и обучить. И, по мере усложнения задач, интеллекта тоже, естественно, приходится прикладывать всё больше. Но больше интеллекта, чем его есть у человека, приложить нельзя. Следовательно, по мере усложнения задач и приближения сложности нейронных сетей к максимальным возможностям интеллекта человека, время реализации сетевых решений будет всё быстрее стремиться к бесконечности. В результате на практике сколько-нибудь близко приблизиться к сложности интеллекта человека нейронные сети не смогут. По тем же причинам это относится и к любым другим искусственным системам.

2. Может быть, получится исследовать мозг и понять как он работает? Однако понимание работы мозга также будет ограничено интеллектом человека, поэтому по мере приближения моделей работы мозга к реальной сложности мышления, время этого приближения также будет стремиться к бесконечности. Следовательно, аналогично усложнению нейронных сетей, на любом конечном промежутке времени сколько-нибудь близко к реальной сложности мышления его модели приблизиться тоже не смогут. Как следствие, предсказание поведения человека, животного и в целом систем подобного типа организации также ограничено и возможно или в общей сути, или на короткий срок.

3. Тогда, вероятно, можно копировать мозг и оцифровать? Например, это позволит перенести личность в компьютер. Однако если работа мозга принципиально существенно непонятна, то копировать надо будет всё, ведь без понимания работы важное от неважного в мозге отделить не получится. Но копировать всё и невозможно, и при этом мозг — это самоорганизующаяся система, то есть система, с одной стороны, упорядоченная, с другой — неравновесная, то есть чувствительная и неустойчивая, работа которой действительно связана с флуктуациями сколь угодно ничтожного характера. Поэтому даже слабое воздействие на мозг будет менять ход естественных процессов, а сколько-нибудь сильное мозг разрушит. По причине неравновесности мозг нельзя разобрать на детали без значительной утраты информации о его работе. Самоорганизующиеся системы обладают свойством целостности, поэтому в отсутствие взаимного координирующего влияния структура разделённых частей изменится или полностью разрушится — система необратимо устремится к равновесию, растворяясь в среде.
 
4. «Теория всего», из которой будут выводимы все законы физики, принципиально недостижима, ввиду того, что это будет означать в том числе и формализацию смысла, так как смысл, очевидно, есть такая же неотделимая от процесса мышления часть физической реальности. Однако если смысл можно формализовать, то все формулы — и ложные, и истинные становятся одинаково истинными, так как их истинный или ложный смысл сам становится истинной формулой. Но если всё одинаковое, то ни истина, ни ложь не существуют. Таким образом, познание мышления, сознания и природы в целом взаимосвязано и ограничено. 

В итоге искусственный интеллект, приближающийся к сложности мышления человека, невозможен в принципе. Возможности искусственных систем, создаваемых человеком, полностью лежат в контексте сложности его мышления, поэтому ни за какое конечное время ни превзойти, ни сколько-нибудь близко приблизиться к этому пределу они не смогут.
***


Попробуем для большей объективности посмотреть на сказанное с другой стороны. Будем рассуждать от противного и предположим, что человек может создать искусственную систему сложнее себя самого. Если это так, то принцип работы этой системы сможет выразить человека, а также, что этот принцип — алгоритм, так как создаваемые человеком искусственные системы работают по алгоритму.

Тогда можно взять какую-нибудь искусственную систему и подождать, пока она эволюционирует до уровня человека. Однако очевидно, что ни за какое время этого не произойдёт. Следовательно, алгоритм не может описать живое, так как живое эволюционировать может. Таким образом, человек не может создать искусственную систему сложнее себя, так как это не позволяет даже сам принцип, по которому работают создаваемые им системы.

И действительно, принципы, по которым работают живые и искусственные системы качественно различаются. Самоорганизующиеся системы, к которым относится живое — это открытые системы, активно взаимодействующие со средой. Как следствие, поведение организма в высшей степени зависит от среды, а не от какого-либо алгоритма, предопределяющего поведение системы. Например, согласно гипотезы жизни РНК (наиболее известной на данное время теории зарождения жизни), первые клетки, как элементарные кирпичики всего живого, возникли как объединение двух самоорганизующихся систем — липосом и молекул РНК, как элементов, способных выполнять функцию клеточной мембраны, и элементов, способных выполнять функцию хранения генетической информации и катализа химических реакций собственного синтеза.
« Последнее редактирование: Январь 12, 2019, 22:32:17 от Лаплас »

Оффлайн Evol

  • Участник форума
  • Сообщений: 760
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #1 : Январь 12, 2019, 22:55:50 »
Вот интересно, качество - это такая штука, что проявляется, так сказать, по ходу дела. Сравнения, значит.
То же относится и представлениям об уровне сложности мышления человека. Коли заявляем о невозможности превзойти, значит уверены, что знаем о мышлении человека все, что только возможно? Али как? Исходим только из того, что мышление, более сложное, чем человеческое, нам неизвестно? Или его нет, не может быть? Или не может быть - на данный момент?
Разве нет вероятности того, что родится человек, который будет умнее самого умного из ныне живущих? Что примем за эталон предела, в этом случае?

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #2 : Январь 12, 2019, 23:04:37 »
Невозможен даже приближающийся к сложности мышления человека, как к предельной сложности систем, создаваемых человеком. По отношению к этому масштабу все люди одинаковые.

Оффлайн Evol

  • Участник форума
  • Сообщений: 760
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #3 : Январь 12, 2019, 23:12:35 »
Ну, это вразумительнее прежнего написано. Статистически, значиться, за пределами дисперсии.
Теперь, коль о масштабах речь, конкретики в количественном выражении захотелось. Ну, чтобы удостовериться в одинаковости человеков и относительно точном значении приближения. А то в стартовом сообщении ни одной цифири. 

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #4 : Январь 12, 2019, 23:28:16 »
Точных границ между тем, что можно понять и что нельзя, провести невозможно — для этого нужно оценить возможное к познанию со стороны, то есть со стороны невозможного к познанию, что не имеет смысла. Поэтому выводы о границах познания могут быть только качественными, то есть выводами логического характера, так как «предел познания» — это не явление, которое можно точно наблюдать или исследовать экспериментально. Качественный характер выводов означает, что где конкретно находится предел познания или какой конкретно сложности могут быть искусственные системы, исходя из этих выводов установить нельзя. 

Тем не менее качественный характер выводов не отменяет их сути, и в целом максимально достижимая сложность искусственных систем, создаваемых человеком, будет много ниже сложности его мышления.

Оффлайн Evol

  • Участник форума
  • Сообщений: 760
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #5 : Январь 12, 2019, 23:52:34 »
Не знаю, то что Вы написали, подчеркиваю специально, дает мне основание писать о следующем. Невозможность приближения к масштабу, при котором все люди одинаковы, есть приближение, минимум, с двух сторон. От уровня, для которого человеческий масштаб недосягаем, до уровня, недосягаемого для людей. перечитайте выражение о невозможности даже приближения к сложности. Как в анекдоте про приближение к возрасту: с какой стороны? Контекста, без цифр, тут будет мало.   
И потом, если разум человека не с чем сравнить, значит все показатели, что касаются его, это величины случайные. А какие пределы у случайных величин? Если нет, для однозначного суждения требуются объективные критерии, еще и соотносимые к эталонным способам, метрикам и показателям. Словесные доводы к ним не относятся, слишком много придется допускать, чтобы не нарушить все четыре закона логики.

Оффлайн Игорь Антонов

  • Участник форума
  • Сообщений: 2363
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #6 : Январь 12, 2019, 23:56:43 »
Все построения в первом сообщении этой темы основаны на том допущении, что интеллект человеческого уровня - это некая сложная конструкция, воспроизвести которую человеку не по силам. Но само это допущение - не факт. Любые конструкции состоят из дискретных элементов.  И ряд обстоятельств, в частности, подробно разбираемых в книгах Роджера Пенроуза, свидетельствует в пользу того, что и сам человеческий интеллект не является конструкцией из дискретных элементов, модель которой можно было бы построить на сколь угодно сложной цифровой вычислительной машине. А если интеллект - не конструкция, то это некий фактор, действующий в мироздании, условия для материальных проявлений которого создаются пока только в формах жизни, и в наибольшей мере (из известного нам) - в человеке. Но тогда нет никакого абсолютного запрета на создание материального тела, в котором этот фактор будет проявляться ещё с большей силой, чем он проявляется в человеке. Например, это может быть квантовый компьютер какого-либо из будущих поколений.

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #7 : Январь 13, 2019, 00:20:07 »
Evol и Игорь Антонов, ответ на ваши аргументы уже есть в стартовом посте. Любые системы, которые человек создаёт, исходя из своего опыта, не могут приблизиться к сложности его мышления в принципе. Как работает мышление - не имеет значения, какие-то подробности его работы могут служить только дополнительным аргументом, а не основным. Впрочем, что есть мышление с точки зрения физики в стартовом посте тоже написано.

Оффлайн Игорь Антонов

  • Участник форума
  • Сообщений: 2363
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #8 : Январь 13, 2019, 00:32:13 »
 
Впрочем, что есть мышление с точки зрения физики в стартовом посте тоже написано.

Мышления с точки зрения физики просто не существует. Это не из компетенции физики вопрос. Соответственно, и не сказано выше  ничего о нем с точки зрения физика. А любые запрещающие построения о "неизвестно что и неизвестно как" - это просто произвольные спекуляции.

Оффлайн Evol

  • Участник форума
  • Сообщений: 760
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #9 : Январь 13, 2019, 00:33:09 »
На словах можно тягаться до бесконечности. Посмотрим, чего достигнет практика. Чего, кстати, лично Вы желаете добиться, открыв эту тему? Ну, положим, согласятся с Вами. Предложите что-то взамен ИИ?

Оффлайн Игорь Антонов

  • Участник форума
  • Сообщений: 2363
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #10 : Январь 13, 2019, 00:43:56 »
Я в одном соглашусь, что трезво надо относиться (как к блефу) к обещаниям в ближайшие годы воспроизвести мозг крысы или окружить нас роботами-помощниками. Классическая цифровая техника, на которой и сейчас всё построено - вообще не путь к воспроизведению ключевых свойств реального интеллекта.

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #11 : Январь 13, 2019, 00:52:51 »
Чего, кстати, лично Вы желаете добиться, открыв эту тему? Ну, положим, согласятся с Вами. Предложите что-то взамен ИИ?
Эти аргументы - выжимка из статьи на эту тему, разместил здесь, чтобы посмотреть реакцию. Статья такая же - слова, по-вашему. Ничего "взамен ИИ" быть не может, любые системы будут проще человека.

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #12 : Январь 13, 2019, 00:53:51 »
Я в одном соглашусь, что трезво надо относиться (как к блефу) к обещаниям в ближайшие годы воспроизвести мозг крысы или окружить нас роботами-помощниками. Классическая цифровая техника, на которой и сейчас всё построено - вообще не путь к воспроизведению ключевых свойств реального интеллекта.
Получается, так.

Оффлайн Лаплас

  • Участник форума
  • Сообщений: 9
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #13 : Январь 13, 2019, 00:57:22 »
гипотезы жизни РНК
Надо "гипотезы мира РНК". Ошибся.

Оффлайн Игорь Антонов

  • Участник форума
  • Сообщений: 2363
    • Просмотр профиля
Re: Путь к сильному ИИ закрыт
« Ответ #14 : Январь 13, 2019, 01:15:30 »
http://samlib.ru/s/shamis_aleksandr_lxwowich/iskusstwennyjintellekt-mifilirealxnostx.shtml

Почитайте по ссылке статью человека, который в теме профессионально. Может быть, и в своей статье надобность отпадёт.