Грань между человеком и ИИ и иные вопросы будущего человечества

[Preguntador]

Здравствуйте.
1) Тема родилась в ветке "Грань между человеком и животным3".
В частности, затронута тема искусственного интеллекта (ИИ) была в ответе_№_10. Дальше несколько участников продолжили это обсуждение (в частности, я проявил высокую активность), но там это оффтоп.
Поэтому решил создать отдельную тему.
2) При этом, решил, что просто "Грань между человеком и ИИ" слишком узко получится, тем более, что, скажем, участник Cow совсем иначе (например, и далее) подошёл к вопросу. Соответственно, предлагаю высказываться здесь и по поводу иных подходов, не технократических.
____________
3) Ну, а чтобы с чего-то начать, так сказать, перекинуть мостик, хочу оттолкнуться от этого сообщения участника Сергей Д:

Возвращаясь к проблеме создания ИИ ( ): из вышесказанного, мне кажется, что достаточно понять принцип работы мышления довольно примитивного существа, типа мыши - а дальше мы будем способны создать интеллект с любой степенью "разумности" (насколько мощности хватит), хоть человеческой, хоть сверхчеловеческой.

Вроде и так... Но у меня есть некоторые сомнения. А конкретно вопрос перехода количества в качество. Не возникают ли при росте числа связей между нейронами (насколько я знаю, главное наше преимущество в плане мозга) какие-то эффекты, которые нельзя спрогнозировать, узнав мозг мыши.

[Preguntador]

И, кстати, если есть желание, можно и на это ответить.
Особенно, мне интересно узнать ответы на эти вопросы:

А вот упрощённое взаимодействие — это уже спорный момент.
Как?
- Аппаратно? Но и сейчас не всякая техника хорошо интегрируется с другими системами. Разрабатываются различные интерфейсы, протоколы (стеки протоколов), различия бывают даже по уровню потребляемой энергии, и, если при высокоуровневой разработке, с этим могут не париться, то для схемотехников это бывает весьма существенным моментом.
- Через специализированные подсистемы, служащие для интеграции? Так это и нас так подключить можно (будет?).

Кстати, мой приятель, тоже программист, сейчас работает над проектом виртуального психотерапевта. Нужно такое? Ещё как! Должен ли психотерапевт быть умнее среднестатистического клиента? Необязательно, но весьма желательно. (Пока, конечно, его задача напоминает лишь экспертную систему, но сам вектор направления очевиден)

"виртуального психотерапевта"? Интересно.
Что-то вроде этого с поправкой на специфику?

[ArefievPV]

p.s.
Возвращаясь к проблеме создания ИИ ( ): из вышесказанного, мне кажется, что достаточно понять принцип работы мышления довольно примитивного существа, типа мыши - а дальше мы будем способны создать интеллект с любой степенью "разумности" (насколько мощности хватит), хоть человеческой, хоть сверхчеловеческой.

Не согласен. Создать "суперинтеллект" "супермыши" скорее всего сможем. Например, "развив" все качества её интеллекта до предела. Ну а тех качеств которых у неё не было? "Аудиозрения" летучих мышей или дельфинов, второй сигнальной системы человека? Их ведь придётся заново разрабатывать. А вот здесь проблема. Всё новое мы научились постигать только методом проб и ошибок. Метод "по аналогии" тоже по большому счёту является методом проб и ошибок. Ну а в применении этого метода у природы перед нами колоссальное преимущество: вся вселенная и вечность... Крошечный частный пример применения этого метода природой на Земле - эволюция живого на планете. Человек у неё получился, например...

[ArefievPV]

Более реальным, на мой взгляд, будет следующий способ создания ИИ. Изучить несколько "видов" интеллектов "попроще" созданных природой и попробовать  воспроизвести их искусственно. Найти природный интеллект "посложней" в котором по частям или целиком "присутствуют" интеллекты (или их отдельные качества) те, которые мы уже изучили. Разобраться в самом процессе интеграции "простых" интеллектов в более "сложные". Типа выяснить правила "сборки" сложной системы из более простых по аналогии. Напоминаю: метод "по аналогии" очень ограничен и далеко не всегда срабатывает. Самый надёжный и безотказный - перебор ВСЕХ вариантов, но его не потянуть.

[Сергей Д]

Вроде и так... Но у меня есть некоторые сомнения. А конкретно вопрос перехода количества в качество. Не возникают ли при росте числа связей между нейронами (насколько я знаю, главное наше преимущество в плане мозга) какие-то эффекты, которые нельзя спрогнозировать, узнав мозг мыши.

Не согласен. Создать "суперинтеллект" "супермыши" скорее всего сможем. Например, "развив" все качества её интеллекта до предела. Ну а тех качеств которых у неё не было? "Аудиозрения" летучих мышей или дельфинов, второй сигнальной системы человека? Их ведь придётся заново разрабатывать. А вот здесь проблема. Всё новое мы научились постигать только методом проб и ошибок. Метод "по аналогии" тоже по большому счёту является методом проб и ошибок. Ну а в применении этого метода у природы перед нами колоссальное преимущество: вся вселенная и вечность... Крошечный частный пример применения этого метода природой на Земле - эволюция живого на планете. Человек у неё получился, например...

Ну имеется в виду не просто воссоздать физически мозг мыши и увеличить его в объёме (такой мозг вообщ вряд ли будет рабочим), но подразумевалось чтобы понять сам принцип мышления, а для этого достаточна модель типа мыши.
Но самое сложное, на мой взгляд, не сколько в воспроизведении процессов мышления, а в обучении: и из самого потенциально башковитого ребёнка Homo Sapiens можно сделать "маугли".

И, кстати, если есть желание, можно и на это ответить.
Особенно, мне интересно узнать ответы на эти вопросы:

А вот упрощённое взаимодействие — это уже спорный момент.
Как?
- Аппаратно? Но и сейчас не всякая техника хорошо интегрируется с другими системами. Разрабатываются различные интерфейсы, протоколы (стеки протоколов), различия бывают даже по уровню потребляемой энергии, и, если при высокоуровневой разработке, с этим могут не париться, то для схемотехников это бывает весьма существенным моментом.
- Через специализированные подсистемы, служащие для интеграции? Так это и нас так подключить можно (будет?).

Кстати, мой приятель, тоже программист, сейчас работает над проектом виртуального психотерапевта. Нужно такое? Ещё как! Должен ли психотерапевт быть умнее среднестатистического клиента? Необязательно, но весьма желательно. (Пока, конечно, его задача напоминает лишь экспертную систему, но сам вектор направления очевиден)

"виртуального психотерапевта"? Интересно.
Что-то вроде этого с поправкой на специфику?

1. Ну если человека напичкать всякими встроенными в мозг чипами и гаджетами - то это уже будет не совсем естественный И. Также можно потихоньку, один за одним, заменять нейроны в периоды их бездействия на искусственные аналоги и - вуаля! - получим ИИ!

2. Нет конечно! Откуда в его распоряжении Watson?
Просто нечто вроде экспертной системы, с возможностью самообучения. Но там система не исключительно автономная, т.к. предполагается что помощь в обучении будут показывать профессиональные психотерапевты-люди. Там же целый портал предполагается с персоналом, поддержкой и прочим.

[ArefievPV]

Ну имеется в виду не просто воссоздать физически мозг мыши и увеличить его в объёме (такой мозг вообщ вряд ли будет рабочим), но подразумевалось чтобы понять сам принцип мышления, а для этого достаточна модель типа мыши.
Но самое сложное, на мой взгляд, не сколько в воспроизведении процессов мышления, а в обучении: и из самого потенциально башковитого ребёнка Homo Sapiens можно сделать "маугли".

Кто говорил, что воссоздать физически? Я ведь об этом даже не обмолвился. Разговор про интеллект, а не мозг. Тем более, этот самый интеллект нам придётся "монтировать" совсем на другой основе. И скорее всего это будет не органика, а нечто типа системы (систем) из микрочипов (кремниевых, "оптических") или квантовых компьютеров. Подразумевал именно способности, качества интеллекта. Кстати, тупое увеличение размеров тоже иногда помогает. Разумеется до определённых границ.
И ещё вопрос по теме. Часть нашего "железа" уже настроена на решение определённых задач от рождения, часть развивается по мере роста и взросления. И я говорю не об обучении. И вот эта часть нашего "железа" играет далеко не последнюю роль в становлении нашего интеллекта. Многие почему-то об этом забывают. Сама способность обучаться в нас уже встроена на уровне и "железа" и частично "софта". Этот вопросик можно даже как отдельную подтему развернуть (желательно не выходя из этой темы) если кому интересно. Поршнев Б.Ф. целый концепт развил, хоть и очень своеобразно.

[Preguntador]

часть развивается по мере роста и взросления. И я говорю не об обучении

А о чём?

[ArefievPV]

Система зеркальных нейронов, нейроны фон Экономо.
http://www.proza.ru/2011/12/14/1685
http://stelazin.livejournal.com/97057.html
Это если кратко. Плюс зоны мозга обеспечивающие речь, вербальное мышление. Развитая зрительная область коры (до неандеров нам далеко) - опять-таки вопрос: какой у них был интеллект?

[Preguntador]

Система зеркальных нейронов, нейроны фон Экономо.
http://www.proza.ru/2011/12/14/1685
http://stelazin.livejournal.com/97057.html
Это если кратко. Плюс зоны мозга обеспечивающие речь, вербальное мышление. Развитая зрительная область коры (до неандеров нам далеко) - опять-таки вопрос: какой у них был интеллект?

Спасибо. Про зеркальные нейроны читал, про нейроны фон Экономо слышу впервые.
Только из всего прочитанного так и не понял: обучение тут точно не играет роли? Близнецовые тесты, исследования людей с теми или иными нарушениями, детей-маугли?
(Может, не достаточно внимательно читал; если так, то извините)

[ArefievPV]

Только из всего прочитанного так и не понял: обучение тут точно не играет роли? Близнецовые тесты, исследования людей с теми или иными нарушениями, детей-маугли?
(Может, не достаточно внимательно читал; если так, то извините)

Конечно обучение играет свою роль и не малую. Но я-то говорю, что у нас в первую очередь само "железо" имеется. То есть нас во много раз проще (а иногда и на целые порядки!) чему-то научить благодаря наличию определённых структур в мозгу (и генетически обусловленных факторов формирования таких структур и нейронных связей - гормонов) и их изменения в процессе роста.
Где-то читал, что в период младенчества у человека в определённый период жизни отмирает до 30% нервных клеток, а затем восстанавливается (но уже с новыми нейронными связями). Попробую поискать ссылку.
И ещё. В отличии от современных компьютеров, являющихся цифровыми машинами (на заре развития электроники было много и аналоговых машин) у человека интеллект обслуживается в основном аналоговым "железом" и только совсем малая часть "цифрой" - речевое мышление, вторая сигнальная система. А животных интеллект обслуживается полностью аналоговым.

[ArefievPV]

Нашёл.
"Уильям Шенкл, теперь уже не столь молодой невролог, решил у себя, в Калифорнийском университете, в Ирвине, повторить или, лучше сказать, перепроверить все, что сделал Конел, не мечтавший о такой технике, которая теперь была в руках у его последователя. Удивительную вещь обнаружил Шенкл: у детей со дня появления на свет и до трех месяцев число нейронов вырастало примерно на треть, причем во всех 35 областях мозга. Но потом, между 3 и 15 месяцами оно опускалось до первоначального уровня. Пропала треть нейронов! Затем число нейронов резко возрастало, и к 6 годам удваивалось. Шенкл предполагает, что рост мозга, хотя и в медленном темпе, продолжается до 21 года."
http://galactic.org.ua/Prostranstv1/n1.htm

[Preguntador]

Нашёл.
"Уильям Шенкл, теперь уже не столь молодой невролог, решил у себя, в Калифорнийском университете, в Ирвине, повторить или, лучше сказать, перепроверить все, что сделал Конел, не мечтавший о такой технике, которая теперь была в руках у его последователя. Удивительную вещь обнаружил Шенкл: у детей со дня появления на свет и до трех месяцев число нейронов вырастало примерно на треть, причем во всех 35 областях мозга. Но потом, между 3 и 15 месяцами оно опускалось до первоначального уровня. Пропала треть нейронов! Затем число нейронов резко возрастало, и к 6 годам удваивалось. Шенкл предполагает, что рост мозга, хотя и в медленном темпе, продолжается до 21 года."
http://galactic.org.ua/Prostranstv1/n1.htm

Спасибо.

1. Ну если человека напичкать всякими встроенными в мозг чипами и гаджетами - то это уже будет не совсем естественный И. Также можно потихоньку, один за одним, заменять нейроны в периоды их бездействия на искусственные аналоги и - вуаля! - получим ИИ!

2. Нет конечно! Откуда в его распоряжении Watson?
Просто нечто вроде экспертной системы, с возможностью самообучения. Но там система не исключительно автономная, т.к. предполагается что помощь в обучении будут показывать профессиональные психотерапевты-люди. Там же целый портал предполагается с персоналом, поддержкой и прочим.

1.1. Ну, применяя какие-то химические стимуляторы мыслительной деятельности, человек ведь сохраняет свой естественный И. Но, пожалуй, склонен с Вами согласиться.
1.2. Да, такое приходило в голову . Но тут проблема: заменяемый нейрон (я молчу про проникновение вглубь мозга "на лету") должен полностью соответствовать всем "ТТХ". Т.е., не только реагировать на поступающие электрические сигналы с заданной скоростью, но и химические сигналы не забывать. И всё при заданных габаритах. А вопрос энергоснабжения тоже никто не отменял. Так что, не исключено, что пытаясь приблизиться к выполнению требований, получим исходный нейрон на том же "железе". И никакой "искусственности", разве что возможность "подновлять разрушающийся мозг"

2. Ну, мало ли, какие у Вас друзья
Понятно

Более реальным, на мой взгляд, будет следующий способ создания ИИ. Изучить несколько "видов" интеллектов "попроще" созданных природой и попробовать  воспроизвести их искусственно. Найти природный интеллект "посложней" в котором по частям или целиком "присутствуют" интеллекты (или их отдельные качества) те, которые мы уже изучили. Разобраться в самом процессе интеграции "простых" интеллектов в более "сложные". Типа выяснить правила "сборки" сложной системы из более простых по аналогии. Напоминаю: метод "по аналогии" очень ограничен и далеко не всегда срабатывает. Самый надёжный и безотказный - перебор ВСЕХ вариантов, но его не потянуть.

В целом, вероятно, Вы правы. Только вот и перебор не стал бы сбрасывать со счетов. Вопрос во временных масштабах. Собственно, эволюция...
Может, человечество когда-нибудь и доберётся до непостижимых ныне вершин.

[ArefievPV]

В другой теме Вы график нарисовали. Так вот там где абсолютный разум (а он как Вы понимаете займёт практически всю вселенную, т.е. он и будет в каком-то роде самой вселенной) скорее всего обладать сознанием не будет. Ведь разумной системы более высокого ранга не будет существовать.

[Сергей Д]

Кто говорил, что воссоздать физически? Я ведь об этом даже не обмолвился. Разговор про интеллект, а не мозг. Тем более, этот самый интеллект нам придётся "монтировать" совсем на другой основе. И скорее всего это будет не органика, а нечто типа системы (систем) из микрочипов (кремниевых, "оптических") или квантовых компьютеров. Подразумевал именно способности, качества интеллекта. Кстати, тупое увеличение размеров тоже иногда помогает. Разумеется до определённых границ.

Ну а чем Вам тогда мышь не нравится? Обучаемость есть, только вот "железо" слабовато.
Да я и имел в виду другую основу, а иначе увеличить чисто физически тяжеловато будет. Под работоспособностью имелось в виду, что пропорционально увеличив (смоделировав) все части мозга - некоторые из них, став слишком значимыми, могут мешать процессам мышления.

И ещё вопрос по теме. Часть нашего "железа" уже настроена на решение определённых задач от рождения, часть развивается по мере роста и взросления. И я говорю не об обучении. И вот эта часть нашего "железа" играет далеко не последнюю роль в становлении нашего интеллекта. Многие почему-то об этом забывают. Сама способность обучаться в нас уже встроена на уровне и "железа" и частично "софта". Этот вопросик можно даже как отдельную подтему развернуть (желательно не выходя из этой темы) если кому интересно. Поршнев Б.Ф. целый концепт развил, хоть и очень своеобразно.

Ну тут всё же не фоннеймановская архитектура: в процессе обучения мозга, меняется и "железо" (нейропластичность). Так что в отношение мозга (нейронная сеть) "софт" и "железо" практически равноправны.

1.1. Ну, применяя какие-то химические стимуляторы мыслительной деятельности, человек ведь сохраняет свой естественный И. Но, пожалуй, склонен с Вами согласиться.

Ну как сказать... Есть некоторые сомнения, что сохраняет - сознание то меняется, способность мышления тоже. Хорошо это или плохо в плане "апгрейда"? Как знать. Например: часы можно заставить идти быстрее, но они тогда будут идти неверно.

1.2. Да, такое приходило в голову . Но тут проблема: заменяемый нейрон (я молчу про проникновение вглубь мозга "на лету") должен полностью соответствовать всем "ТТХ". Т.е., не только реагировать на поступающие электрические сигналы с заданной скоростью, но и химические сигналы не забывать. И всё при заданных габаритах. А вопрос энергоснабжения тоже никто не отменял. Так что, не исключено, что пытаясь приблизиться к выполнению требований, получим исходный нейрон на том же "железе". И никакой "искусственности", разве что возможность "подновлять разрушающийся мозг"

Лично мне кажется, в ТТХ нейрона нет ничего сильно сложного. Есть набор входных сигналов (в том числе и химических), есть соответствующий набор реакций (или вероятность реакций).
Кроме того, менять можно, к примеру, поэтапно: сначала меняем обычные нейроны на эдаких нейронов-"терминаторов" (скажем, с искусственными митохондриями), потом ещё какие-нибудь органеллы, а после и полностью искусственный.
Пока что конечно чистая фантастика, но прогресс идёт...

[Сергей Д]

В другой теме Вы график нарисовали. Так вот там где абсолютный разум (а он как Вы понимаете займёт практически всю вселенную, т.е. он и будет в каком-то роде самой вселенной) скорее всего обладать сознанием не будет. Ведь разумной системы более высокого ранга не будет существовать.

А зачем ему более разумная система для этого? Будет это гигантское сознание "лежать" и смотреть "сны".