Грань между человеком и ИИ и иные вопросы будущего человечества

Автор Preguntador, марта 29, 2014, 01:40:17

« назад - далее »

ArefievPV

Цитата: Preguntador от июля 16, 2015, 22:14:28
Если же говорить о зависимости от окружения. Биосфера тоже не полностью самодостаточна.
Наверное, только вся вселенная целиком будет самодостаточно.
А для всего остального это относительно. Но самодостаточность биосферы существенно больше самодостаточности отдельного организма.

ArefievPV

Цитата: Limfil от июля 16, 2015, 22:45:03
Цитата: ArefievPV от июля 16, 2015, 18:58:50
Это никакая не вторая копия. Даже половинкой и то корректней назвать. Ещё лучше, надо было слово в кавычки взять - "половинка". Это генетическая информация совершенно от другого организма. И не важно, что он подобен (или похож, как угодно обзовите). Это другой организм. И информацию содержит другого организма.
ну-ну... тогда можно было бы скрущиваться кого с кем угодно. тем не менее это имеет весьма узкие рамки. потому я и пишу подобную, а не идентичную. то есть - такого чьи отличия пренебрежимы до уровня "шума", ошибок копирования. но не меняют способности жить в той же среде.
Эти рамки действуют только в естественной среде. Люди уже много чего научились делать в обход природы. И теоретически можно скрестить кого угодно с кем угодно (генетический код один и тот же). На практике конечно, будут ограничения существенные. Поэтому результаты будут получаться совершенно не подобными (ни одной из исходных форм).

ArefievPV

Цитата: Limfil от июля 16, 2015, 22:45:03
Цитата: ArefievPV от июля 16, 2015, 19:04:18Кроме того, на свет может и мертвец при рождении появиться. А ведь тоже подобный... :-[
если это будет мертвец, то он будет уже не подобный - это будет означать что ошибки в его развитии уже критичны.
Ага. И здесь тоже есть вопросы. Родился мёртвым, оживили (типа, клиническая смерть). Судя по всему какие-то дефекты были у организма. И в естественной природе эти дефекты в наследственной информации были бы критичны. Но ведь живёт... :-[ Как его теперь считать, "неживым"?
Или наоборот, организм появился на свет с существенными дефектами (без ног, сросшимися близнецами, без половины мозга и т.п.), но выжил и оставил потомство. Это были критичные ошибки в его развитии или нет? А ведь подобием и не пахнет.

ArefievPV

Цитата: Limfil от июля 16, 2015, 22:45:03
Цитата: Preguntador от июля 16, 2015, 22:14:28Если же говорить о зависимости от окружения. Биосфера тоже не полностью самодостаточна.
1. Нужно Солнце:
1.1. для фотосинтетиков (что очевидно) и всех, кто трофически с ними связан;
1.2. для всех остальных (химические реакции определённых условий требуют, как минимум, по температуре);
2. Возможно, нужен спутник (если верны представления, согласно которым геологическая активность на нашей планете возможна благодаря «приливам») для защиты от жёсткого излучения;
3. Весьма вероятно, нужны достаточно крупные объекты (вроде Юпитера), которые будут «ловить» большую часть самых крупных потенциально опасных космических тел.
Не исключаю, что что-то я не учитываю.
Так что... ::)
не, ну ладно - ничего кроме Солнца нам не надо. остальное от лукавого. точнее - это будет не совсем "подлунный мир", но жить вполне можно и без магнитного поля (атмосфера не улетит) и без спутника, который будет стабилизировать наклон орбиты. но нужно другое - нужна литосфера с её минералами и желательно какой-никакой активностью (последнее уже тоже более сомнительно, но надо), в общем следуя такой логике, а ещё и тому, что нам для размножения нужен какой-то "совсем иной" организм (меня к примеру что-то на комаров не тянет к примеру) придём к тому, что нужно не меньше Метагалактики (ведь Солнце появилось не на пустом месте) и притом старшно сказать - для совокупления...
Это нам нужен другой организм, а сине-зелёные обойдутся. А главное из этого одного вида биосфера может состоять, а из людей никак. Утрировать не надо (до метагалактики), лучше остановиться, что косная природа уже есть как данность.
И ещё. Не хочу повторять, поэтому дам ссылку.
http://paleoforum.ru/index.php/topic,8852.270.html
(ответ #274)
Понятия живой/косный можно ведь очень по-разному истолковать.

Limfil

Цитата: ArefievPV от июля 17, 2015, 03:59:06И теоретически можно скрестить кого угодно с кем угодно (генетический код один и тот же).
генетический код при скрещивании не играет ни малейшей роли. ну то есть да - если бы он был бы разным, то гены читались бы по разному, и были бы бессмыслецей для другого организма, но на деле там куча ограничей по ходу дела - типа регуляционных факторов, который нужны определённые последовательности. ну и самое главное - различия строения хромосом, хотя это как раз нередко некритично.
Цитата: ArefievPV от июля 17, 2015, 04:10:19Или наоборот, организм появился на свет с существенными дефектами (без ног, сросшимися близнецами, без половины мозга и т.п.), но выжил и оставил потомство. Это были критичные ошибки в его развитии или нет? А ведь подобием и не пахнет.
подобен или нет - будет видно из сравнения геномных последовательностей в таком случае. потомство подобно? или тоже какие "монстры"? если второе - то мы наблюдаем "многообещающего урода"
Цитата: ArefievPV от июля 17, 2015, 04:22:54А главное из этого одного вида биосфера может состоять, а из людей никак.
во-первых - сине-зелёные это не один вид. во-вторых - не может - кто-то должен усваивать их умерших или выделяемые минералы и возвращать им. может конечно и само, но слишком медленно. но вообще да - необходимый элемент биосферы это продуценты, а консументы, такие как мы например - это их паразиты по сути. но ещё, для приемлимого функционирования не слишком больших потерь нужны ещё деструкторы - то есть тоже по консументы, но только мертвечины. именно по причине их крайне желательного присутствия они чтобы кушать лучше переходят от сугубой мертвичины к живому, делаясь "биосферными паразитами"

ArefievPV

Цитата: Tiktaalik от октября 18, 2015, 11:42:37
Ну смотрите, например чтобы ИИ задумал нанести вред или поработить человечество, нужны соответствующие мотивации. У человека для этого есть соответствующие врожденные инстинкты (лидерства, завоевания превосходства, самосохранения и т.д.), то есть сложные прописанные программы, задающие данную мотивацию и инструкцию, как реагировать на соответствующие сигналы.
Поймите, ну не будет ИИ "задумывать поработить человечество". Ну зачем ему это? У него, что такая установка будет что ли нами заложена? Нонсенс какой-то... :-[
ИИ будет руководствоваться простой рациональностью, не более того. Если посчитает, что такая "прокладка" как человечество (в целом, либо какие-то части) излишняя и не отвечает экономической (энергетической и пр.) целесообразности, то он эту "прокладку" либо ликвидирует (попытается) либо существенно изменит (рассортирует человеческие особи в соответствии со своими приоритетами). А вот программное обеспечение по рационализации при принятии решений мы заложим сами, собственными руками, так сказать... То есть ИИ будет считать, что он принимает абсолютно верное решение. Но для нас это "верное решение" может "выйти боком".

Tiktaalik

Цитата: ArefievPV от октября 18, 2015, 11:58:22
Цитата: Tiktaalik от октября 18, 2015, 11:42:37
Ну смотрите, например чтобы ИИ задумал нанести вред или поработить человечество, нужны соответствующие мотивации. У человека для этого есть соответствующие врожденные инстинкты (лидерства, завоевания превосходства, самосохранения и т.д.), то есть сложные прописанные программы, задающие данную мотивацию и инструкцию, как реагировать на соответствующие сигналы.
Поймите, ну не будет ИИ "задумывать поработить человечество". Ну зачем ему это? У него, что такая установка будет что ли нами заложена? Нонсенс какой-то... :-[
ИИ будет руководствоваться простой рациональностью, не более того. Если посчитает, что такая "прокладка" как человечество (в целом, либо какие-то части) излишняя и не отвечает экономической (энергетической и пр.) целесообразности, то он эту "прокладку" либо ликвидирует (попытается) либо существенно изменит (рассортирует человеческие особи в соответствии со своими приоритетами). А вот программное обеспечение по рационализации при принятии решений мы заложим сами, собственными руками, так сказать... То есть ИИ будет считать, что он принимает абсолютно верное решение. Но для нас это "верное решение" может "выйти боком".
Так от этого и защитит упомянутая система безопасности:
Цитата: Tiktaalik от октября 18, 2015, 11:42:37В том числе автономную систему, которая будет  ... пропускать через себя все его действия, пресекая потенциально опасные ...То есть примерно так, как сейчас используется на самолетах с электродистанционной системой управления. Летчик двигает штурвал, но на управляющие элементы соответствующая команда поступит только после того, когда компьютером будет проверена безопасность данного маневра.
Вот не понимаю, вы что, считаете людей такими идиотами, что они не смогут предвидеть всех возможных и невозможных рисков, и продумать как это полностью исключить? Вот именно поэтому я говорю что страх ваш иррационален, что вы даже ни капельки не подумавши, сразу начинаете пугать тем, чего явно никто не допустит.

ArefievPV

Цитата: Tiktaalik от октября 18, 2015, 12:12:15
Вот не понимаю, вы что, считаете людей такими идиотами, что они не смогут предвидеть всех возможных и невозможных рисков, и продумать как это полностью исключить?
Зачем же сразу идиотами. Но... Ещё не родился такой человек который смог бы предвидеть всевозможные и невозможные риски...
Думаете почему так много техногенных катастроф происходит в мире (особенно последние десятилетия)? В том числе и по причине не предвидения... Сложность технических устройств и технологических процессов повышается с каждым годом и предвидеть все последствия внедряемых новаций (на основе новых открытий и изобретений) человеку просто не по силам.

ArefievPV

Цитата: Tiktaalik от октября 18, 2015, 12:12:15
Вот именно поэтому я говорю что страх ваш иррационален, что вы даже ни капельки не подумавши, сразу начинаете пугать тем, чего явно никто не допустит.
Но что же Вы опять. Я уже говорил, что не надо приписывать мне ваши предположения. Нет у меня никакого страха по этому поводу (ни рационального, ни иррационального). :)
А по поводу контроля Вы не правы.
ЦитироватьОт постороннего вмешательства злоумышленника можно продумать различные системы безопасности. В том числе автономную систему, которая будет периодически проводить диагностику, анализировать работу ИИ, пропускать через себя все его действия, пресекая потенциально опасные, ну и соответственно отключать в случае ненормального поведения, что может свидетельствовать о заражении вирусом. То есть примерно так, как сейчас используется на самолетах с электродистанционной системой управления. Летчик двигает штурвал, но на управляющие элементы соответствующая команда поступит только после того, когда компьютером будет проверена безопасность данного маневра.
Даже в Вашем собственном посте кроется противоречие. В управлении самолётом проверка безопасности манёвра осуществляется компьютером! Это компьютер проверяет (по факту, решает) что безопасно, а что нет.
И про автономные системы которые будут контролировать ИИ тоже не всё ясно. Автономную систему кто будет контролировать? Особенно если учесть, что безопасность манёвра совершаемого непосредственно руками пилота проверяет компьютер. Компьютер уже сегодня проверяет человека!
И это я ещё о боевых роботах не затронул тему. Но там и этический вопрос неизбежно всплывает.
Поэтому повторюсь, страха нет, а есть определённое видение пути решения данной проблемы. И это решение совсем не том направлении о которых талдычат всякие блокбастеры (типа, терминатора, восстания машин и пр.). Если интересно, могу расписать...

Tiktaalik

Цитата: ArefievPV от октября 18, 2015, 15:51:35Сложность технических устройств и технологических процессов повышается с каждым годом и предвидеть все последствия внедряемых новаций (на основе новых открытий и изобретений) человеку просто не по силам.
В случае аналога ЭДС самолета, речь идет не об обязательном предвидении всех всевозможных рисков, а об их исключении. Поэтому, предвидеть всё просто нет надобности, что бы не случилось, ничего плохого и запрещенного ИИ сделать не сможет, так как не будет самой возможности для этого.
Цитата: ArefievPV от октября 18, 2015, 16:07:46И про автономные системы которые будут контролировать ИИ тоже не всё ясно. Автономную систему кто будет контролировать? Особенно если учесть, что безопасность манёвра совершаемого непосредственно руками пилота проверяет компьютер. Компьютер уже сегодня проверяет человека!
Компьютер на самолете, который проверяет действия человека, это просто калькулятор, а не ИИ. Поэтому контролировать его нет надобности. Он делает только то что заложено в него программой - сверяется с ней, запрещен ли этот маневр на данной высоте, скорости и т.д. Для защиты от сбоя предусмотрены системы резервирования, так что если одна или даже несколько выйдут из строя, система продолжит функционирование.
Цитата: ArefievPV от октября 18, 2015, 16:07:46И это я ещё о боевых роботах не затронул тему. Но там и этический вопрос неизбежно всплывает.
Да, про боевых роботов это уже заплыв в несколько другую область. Хотя в военном отношении, мало что изменится от того что в танке или самолете будет робот вместо человека: по сути это та же движущаяся точка на спутнике или радаре, которая точно также устраняется подрывом ПТУРом или сбивается ЗРК.

ArefievPV

Цитата: Tiktaalik от октября 19, 2015, 08:48:46
Цитата: ArefievPV от октября 18, 2015, 16:07:46И это я ещё о боевых роботах не затронул тему. Но там и этический вопрос неизбежно всплывает.
Да, про боевых роботов это уже заплыв в несколько другую область. Хотя в военном отношении, мало что изменится от того что в танке или самолете будет робот вместо человека: по сути это та же движущаяся точка на спутнике или радаре, которая точно также устраняется подрывом ПТУРом или сбивается ЗРК.
Это пока так называемые роботы не превзошли уровень «калькулятора».
Однако вот очередная новость.
http://ria.ru/defense_safety/20151019/1304424166.html
«Систему искусственного интеллекта успешно испытали в России
Созданный комплекс "Уникум" наделяет машины интеллектуальными возможностями, что подразумевает полное исключение вмешательства человека. Машины смогут самостоятельно решать мирные и боевые задачи, распределяя роли внутри группы.
МОСКВА, 19 окт — РИА Новости. Испытания программного комплекса "Уникум" для управления группировкой роботов завершены, система передана заказчику, сообщил РИА Новости замгендиректора "Объединенной приборостроительной корпорации" (ОПК, входит в "Ростех") Сергей Скоков.
"Это первая в России система такого уровня, которая успешно прошла испытания, признана готовой и принята государственным заказчиком. Программный комплекс успешно прошел проверку комиссии Минпромторга России и передан заказчику. На данный момент прорабатывается вопрос внедрения технологии в реальные образцы робототехники — как гражданской, так и военной, — в том числе в беспилотные летательные аппараты", — сказал Скоков.
По словам представителя ОПК, программный комплекс "Уникум" наделяет машины интеллектуальными возможностями, позволяя им решать мирные и боевые задачи — отдельно или в составе группы — без участия человека. Управление может осуществляться порядка десяти робототехническими комплексами на море, на суше и в воздухе.
Система допускает полное исключение человека, отмечают разработчики. Роботизированные комплексы могут самостоятельно распределять роли внутри группы, выбирать из своих рядов "старшего", заменять выведенных из строя роботов, занимать выгодные позиции, осуществлять поиск целей, запрашивать у оператора разрешение на их поражение и поражать цели в автоматическом режиме.»

Само собой это никакой не ИИ, только пиар-ход. И никакой особой самостоятельности не наблюдается, только отдельные ограниченные функции. Однако, человечество продолжает в этом направлении двигаться... :-[
Полагаю, что рано или поздно вопрос систем ИИ встанет достаточно остро. Нормальный путь решения этой проблемы – это встраивание систем ИИ в цивилизацию. Специально опустил слово «человеческую». В первую очередь системы ИИ будут встраиваться в социум. То есть, грубо говоря, системы должны будут найти свою «нишу» в социуме. Полагаю, даже сейчас эту «нишу» (скорее «ниши») уже можно обозначить. Освоение космических пространств (при выходе цивилизации за общепланетарные масштабы). Полагаю, надо выстраивать отношения людей и систем ИИ по принципу: мы нужны им, они нужны нам и друг без друга существовать не можем. Разумеется, это очень рамочно и условно. Человечество вполне может обойтись и без систем ИИ (столько тысяч лет существовало, просуществует и ещё), но только где? Только в условиях биосферы, причём желательно земной (с вполне определёнными условиями). А вот в дальнем космосе без систем ИИ не обойтись. Вот там может получиться наоборот – системы ИИ вполне смогут существовать автономно очень длительное время совсем без людей, выполняя общие задачи цивилизации (разведка в дальнем и ближнем космосе, производство энергоресурсов, добыча сырья, создания баз для последующей колонизации и т.д. и т.п.). То есть и человеческий социум и системы ИИ (объединённые в некие системы типа сети Интернет – тоже подобие «социума для роботов») будут взаимно дополнять друг друга. Шансы выжить (в масштабе миллионов лет) такой гибридной цивилизации гораздо выше окажутся, чем по отдельности.

Tiktaalik

Цитата: ArefievPV от октября 19, 2015, 19:58:41
Однако, человечество продолжает в этом направлении двигаться... :-[
Вот трудно читать такое без улыбки) Вы что, всерьез считаете, что вы один видите угрозу, а все остальные, в том числе профильные ученые и специалисты по безопасности, которые явно разбираются лучше вас - нет? Конечно, это благородное дело - спасать мир от апокалипсиса, но смешно думать, что вы сможете сделать это лучше, чем всё человечество. ;)

ArefievPV

Цитата: Tiktaalik от октября 19, 2015, 20:15:47
Цитата: ArefievPV от октября 19, 2015, 19:58:41
Однако, человечество продолжает в этом направлении двигаться... :-[
Вот трудно читать такое без улыбки) Вы что, всерьез считаете, что вы один видите угрозу, а все остальные, в том числе профильные ученые и специалисты по безопасности, которые явно разбираются лучше вас - нет? Конечно, это благородное дело - спасать мир от апокалипсиса, но смешно думать, что вы сможете сделать это лучше, чем всё человечество. ;)
Не понял Вашу иронию (или насмешку?). И с чего Вы взяли, что я считаю (да ещё всерьёз), что я один такой "прозорливый" и "бдительный"? Опять Вы мне приписываете собственные суждения.
И то, что человечество двигается в этом направлении - это факт. И то, что я расписал возможные варианты развития Вы всерьёз не воспринимаете, полагаю. Это Ваше право конечно. Но вот насмехаться - это не лучший способ вести дискуссию.

Tiktaalik

Нет смысла в подобной дискуссии среди неспециалистов. Смахивает на общественное обсуждение вреда ГМО, с соответствующим уровнем аргументации, страхов что вырастут рога и т.д.)) Так что давайте лучше о наших любимых костях-кишках. Хотя и в этой теме мы не достаточно компетентны, но это хотя бы выглядит любознательностью, а не мракобесием.

Tiktaalik

Во все времена страшащиеся некомпетентные люди пытались воспрепятствовать прогрессу. Так было при введении чрезвычайно опасного электричества, искусственного освещения, первой и 50-мт атомных бомб (что будто бы должно было вызвать цепную реакцию в атмосфере), ГМО, БАК и т.д. К счастью, в большинстве этих случаев верх одерживали специалисты, а не иррационально страшащаяся общественность с ее некомпетентными "озабоченностями и обеспокоенностями". Но сейчас всё меняется. Благодаря интернету легко набирают силу общественные организации мракобесов, так как там легко вести пропаганду и набирать адептов и зомби, воздействуя на общественное мнение, набирая голоса и петиции для воздействия на политиков. Таким образом мы сейчас имеем например, что даже в просвещенном атеистическом Евросоюзе сейчас запрещены жизненно важные эксперименты на эмбриональных стволовых клетках. Законодательно теперь там яйцеклетка уже считается человеком с момента оплодотворения, со всеми вытекающими. Поэтому любая пропаганда на общественных форумах с внушением страха перед наукой и глупыми учеными, которые нас погубят, это литье воды на мельницу Нового Средневековья.