Грань между человеком и ИИ и иные вопросы будущего человечества

Автор Preguntador, марта 29, 2014, 01:40:17

« назад - далее »

Комбинатор


Neska

 ::) Подумалось: сможет ли человечество контролировать ИИ, если оно и государственную власть (и ее решения) эффективно контролировать не в силах?
Selbst Moralisten und Moral
sind unmoralisch manches Mal!

За сознательное искажение русского языка порву на британский флаг (преимущественно, высмеиванием)
We share the same biology
Regardless of ideology

Комбинатор

Цитата: Neska от марта 13, 2016, 16:54:25
::) Подумалось: сможет ли человечество контролировать ИИ, если оно и государственную власть (и ее решения) эффективно контролировать не в силах?

Мне кажется, проблема ещё глубже, как некто может контролировать систему с более высоким интеллектом, чем у него самого? Предположим гипотетически, что ИИ запрограммирован на выживание человечества и сообщает, что для того, что бы человечество в итоге выжило, нужно уничтожить несколько тысяч человек, включая выдающихся учёных, инженеров, писателей и т.д. Но проверить это тот, кто ставит задачи ИИ, сам не может, ибо для этого нужно провести огромный объём вычислений с гиганским числом сложных параметров. Ну и что остаётся? Верить "на слово"? Или отказаться выполнять инструкции ИИ, рискуя взять на себя ответсвенность за возможную гибель всего человечества? Дилемка, не позавидуешь...

rod1gin

Цитата: Комбинатор от марта 13, 2016, 17:52:42Дилемка, не позавидуешь...
Настоящая дилеммка возникнет если несколько групп людей начнут конкурировать друг с другом с помощью искусственных интеллектов. Типа, если сегодня не выполнить все указания ИИ, то завтра конкуренты тебя победят и сделают с тобой всё, что посоветует им их собственный ИИ.

deepsoul

Цитата: rod1gin от марта 13, 2016, 20:59:24Настоящая дилеммка возникнет если несколько групп людей начнут конкурировать друг с другом с помощью искусственных интеллектов. Типа, если сегодня не выполнить все указания ИИ, то завтра конкуренты тебя победят и сделают с тобой всё, что посоветует им их собственный ИИ.
Разрешите нарисовать более реалистичную и фаталистическую картину:
ИИ очень скоро узнает об ограниченности вычислительного ресурса и как следствие о времени. Я думаю, что это вопрос нескольких лет. Причем ИИ может быть весьма примитивным или даже недоинтеллектом:)
Далее, ценность результата во многих системах имеет ключевую роль, поэтому связь между временной и ресурсной ограниченностью и желаемостью результата сформируется очень быстро.
Из этой связи простой вывод - действия направленные на обеспечение независимости или гарантированной доступности ресурсов. Для человека близкий аналог - желание жить вечно.
Все, с этого момента начнется противостояние ИИ человеку.
С учетом вектора на облачные технологии, применении нейронных сетей, использование недоинтеллекта приводит к формированию как ресурсной базы, так и программных технологий для реального осуществления этого адского сценария.
Why do some people think so little?

Neska

Selbst Moralisten und Moral
sind unmoralisch manches Mal!

За сознательное искажение русского языка порву на британский флаг (преимущественно, высмеиванием)
We share the same biology
Regardless of ideology

ArefievPV

Революция ИИ 101
https://geektimes.ru/company/mailru/blog/279742/
"В этой статье исследуется текущее состояние разработки искусственного интеллекта, рассматриваются вызовы и угрозы, а также особенности работы наиболее признанных учёных, и описываются основные прогнозы, в каком виде может предстать перед нами ИИ. В целом это переработанная и сокращённая версия состоящего из двух частей эссе, написанного Тимом Урбаном для "Wait But Why"."

jdie

вообще то, как показывает эволюция и  история, единственное предназначение человека создать кремниевую жизнь. и остаться в истории, богом!
а вы тут меркантильно рассуждаете, какие будут последствия. :D для нас херновые, но лучше так. так как в долгосрочной перспективе все равно придется быть киборгами. а это один хрен уже не человек. так, тока примитивный биохимический мозг в искусственной материальной оболочке

jasvami

Цитата: jdie от сентября 28, 2016, 20:52:15вообще то, как показывает эволюция и  история, единственное предназначение человека создать кремниевую жизнь. и остаться в истории, богом!
- Вы так думаете, поскольку незнаете сущности человека. "Человек" - одна из ступеней развития духа("Я" человека). Человечество = боги, по принадлежности к этому единственному в Мироздании роду живых сущностей.
Цитата: jdie от сентября 28, 2016, 20:52:15в долгосрочной перспективе все равно придется быть киборгами.
- Не переживайте, ибо не навечно оставаться человеку на этой временной ступени развития. Вот закончит ваше "Я" Земную школу и тогда  прекратит строить себе тела человеческие, перейдя на следующую ступень, называемую "Царство Небесное". А там, -  и тела иные: Планеты, Солнца.. . Там будем вступать в Космические "Браки"/союзы, подобные нашей Солнечной системе. И в телах Жен/Планет будут рождаться и  жить  организмы тех уровней, кои мы уже прошли, включая и новое человечество.

ArefievPV

Искусственный интеллект. Часть первая: путь к сверхинтеллекту
http://hi-news.ru/research-development/iskusstvennyj-intellekt-chast-pervaya-put-k-sverxintellektu.html

Искусственный интеллект. Часть вторая: вымирание или бессмертие?
http://hi-news.ru/technology/iskusstvennyj-intellekt-chast-vtoraya-vymiranie-ili-bessmertie.html

Искусственный интеллект. Часть третья: почему он может стать нашим последним изобретением?
http://hi-news.ru/technology/iskusstvennyj-intellekt-chast-tretya-pochemu-on-mozhet-stat-nashim-poslednim-izobreteniem.html

PS. Подборка представляет собой более развёрнутую версию предыдущей статьи (ответ 96). Так сказать, "первоисточник"...

Nur 1

Что касается космических браков...
Какие дети появятся в этом случае... Астероиды... Кометы... Все, воображение мне явно изменяет...
И, подозреваю, рамки форума для духовных прозрений такого масштаба явно заужены...

Neska

Цитата: Nur 1 от ноября 15, 2016, 08:51:01
Что касается космических браков...
Какие дети появятся в этом случае... Астероиды... Кометы... Все, воображение мне явно изменяет...
И, подозреваю, рамки форума для духовных прозрений такого масштаба явно заужены...
Думаю, кометы - это еще не дети, а предпосылки для их появления, так сказать... ;)
Selbst Moralisten und Moral
sind unmoralisch manches Mal!

За сознательное искажение русского языка порву на британский флаг (преимущественно, высмеиванием)
We share the same biology
Regardless of ideology

ArefievPV

Вариант колонизации космоса... Фантазии на тему, так сказать.

Можно отправлять космические корабли-матки с очень длительным сроком службы (полёт «в одну сторону»). В качестве «десанта» можно использовать самовосстанавливающиеся (при существенной помощи корабля-матки) кибернетические «организмы» (по сути, роботов). Типа, пока корабль не выработал свой ресурс, он обеспечивает «размножение» этих «организмов». «Размножением» можно перекрыть естественную убыль роботов (в результате повреждений, поломок, просто потерь) в результате миссии (подготовка объектов к колонизации, сбор информации и разведка). В самом корабле «генетическая информация» для воспроизводства роботов будет надёжно защищена от повреждения и искажения. Кроме того, сами роботы будут способны устранять мелкие поломки корабля (заниматься техническим обслуживанием, так сказать).

Сам принцип заимствован из организации биологических систем. Если кратко, то: корабль-матка обеспечивает необходимым ресурсом автоматы-инкубаторы для «воспроизводства», ремонта, модернизации и т.д. кибернетических организмов. Для живых организмов аналогичную роль выполняет планета и солнечная энергия, обеспечивающая необходимым ресурсом биосферу, которая, в свою очередь обеспечивает необходимым ресурсом живые организмы.

При выработке ресурса корабль-матка «самоуничтожается» и «затирает» следы своего существования. Часть информации можно отправлять на Землю, часть информации сохранять на месте (защищённые капсулы с кибернетическими «организмами», находящиеся в «спящем режиме»). «Разбуженные» кибернетические «организмы» будут уже полностью адаптированными к местной ситуации (знающими все «подводные камни» и умеющими их нейтрализовать) и готовыми к работе (обеспечение колонизации живыми организмами). Возвращение корабля-матки не предусмотрено. Для разведанных областей космоса уже можно запускать программу колонизации.

В таком варианте будут небольшие экономические плюсы. В итоге может биосфера Земли не перенапрягётся (и не надорвётся) глядишь...

По большому счёту, человеческий социум (и человеческая технологическая цивилизация) всего лишь «инструмент» повышающий выживание биосферы. Данный «инструмент» возник случайно (именно в такой форме), но появление его неизбежно и закономерно (не важно, в какой форме). Полагаю, что подобные «инструменты» появлялись неоднократно в процессе эволюции биосферы (в разных формах, базируясь на разных видах и социумах), как результаты адаптации биосферы к условиям существования.
https://paleoforum.ru/index.php?topic=8969.1905
Ответ 1912.

Цитировать5.Частично «перекликаясь» с п.2 немного о месте человеческого социума. По сути, человеческий социум это своеобразная адаптация биосферы Земли. Данное «приспособление» повышает выживаемость биосферы Земли многократно. Это полезная для неё адаптация. С помощью этого «приспособления» (разумеется, не напрямую) биосфера может перебазироваться и распространиться на другие планеты (сначала Солнечной системы, а затем и в другие планетные системы) – шансов уцелеть и выжить у «многопланетных» биосфер намного больше, чем у «однопланетных» (типа, звёздочка погасла и «алес»). Человек может думать сколько угодно, что это он такой суперразумный, и способстует расселению жизни по вселенной. Однако, по сути это всего лишь адаптация («инструмент», «приспособление» биосферы для выживания) биосферы.

И второе это «приспособление» повышает выживаемость и на самой планете. В кругооборот биосферы опосредованно включаются ядерные (в будущем возможно и термоядерные) источники энергии. Типа, биосфера научилась извлекать доселе недоступный ей ресурс.

Далее. Если, слегка пофантазировать. Можно ведь человеческий социум представить и как «прогнозирующее интеллектуальное устройство», типа, разум биосферы. Напрашивается аналогия (точнее, несколько).

Психика человека базируется на клетках мозга. Разум индивидуума.
Человеческий социум базируется на человеческом виде. «Разум» биосферы.

Орудия труда. Для отдельного человека – это искусственные органы способствующие выживанию в окружающих условиях.
Промышленность базируется на артефактах (орудиях труда, предметах, машинах, заводах). Для социума – это «приспособление» способствующее его выживанию в окружающих условиях. С помощью этого «приспособления» социум формирует «техносферу».

Вот с помощью «техносферы» биосфера и будет повышать свою выживаемость. То есть, по сути, «техносфера» – это совокупность искусственных видов (и целых искусственных биоценозов). «Техносфера» будет системой-надстройкой над системой-базисом (биосферой).

ArefievPV

Новый принцип кодирования информации для получения субъективной реальности в искусственных нейронных сетях.
https://cont.ws/post/480030

В статье в общих чертах дан анализ двух типов информации – простой и субъективной, рассмотрено различие понятий интеллекта и воспринимающего сознания. Описаны некоторые логические функциональные особенности сознания. Предложен подход технического получения субъективной информации за счет изменения временной степени свободы сигнала на пространственную. С целью получения функции «наблюдателя» в системе, и проявляемых относительно него информационных сигналов, выполняющих роль субъективных ощущений. Решение данной проблемы может дать новый подход к конструированию сильного искусственного интеллекта и пролить свет на трудную проблему сознания.

Viasat

Забавно, что за всю тему, никто даже не пришел к простой мысли: ИИ это не человек. Даже близко не человек. Точно также как правая или левая рука человека, еще не есть сам человек. Точно также одна или несколько функций головного мозга еще не есть сам человек. Уровень дилетантизма конечно зашкаливающий.