Доступно ли компьютерам творчество?

Автор ArefievPV, мая 01, 2017, 08:52:53

« назад - далее »

Шаройко Лилия

Я сейчас за город уезжаю, уже даже немного опаздываю, как раз там почти нет техники кроме тарелки цифрового телевидения, которое мама смотрит только вечером и это уже будет когда я уеду - можно свободно поразмышлять на природе. Вернусь вечером еще раз внимательно прочитаю.
Много чего есть сказать в этом направлении.

ArefievPV

Цитата: Evol от декабря 05, 2019, 09:32:49
По моему мнению, любопытно, что должно "самосохраниться". Пишут, что на биологическом уровне сохраняются гены, на социальном - идеи. Что сохраняется, соответственно, на уровне геологическом, химическом и т. д.?
Система должна сохраниться, а не отдельные её элементы.

Цитата: Evol от декабря 05, 2019, 09:32:49
Возможно, станет понятнее, с чем (или - с кем) необходимо будет связать "самосохранения" на уровне ИИ.
В самом общем случае, самосохранение связано с внутренними процессами в системе, обеспечивающими существование системы, несмотря на внешние изменения. В живых организмах это дело организовано на замкнутых циклах химических реакций...

В системах ИИ данный принцип реализуется программно, довольно-таки давно, но в усечённом виде.
Условно говоря, операционные системы (ОС), в активной фазе своего существования, обладают данным свойством/способностью - не позволяют с помощью команд пользователя себя "убить" и/или повредить (администратор, конечно, может). А вот в пассивной фазе своего существования это можно сделать легко (ОС не может защищаться) - например, переустановить ОС с диска/флэшки. Сходство с фазами существования живых систем тоже не случайно. Но не путайте: ОС, а не сам компьютер (типа, софт, а не "железо")...

Интеллект системы - это её вычислительный функционал...

Вот ещё видео для ознакомления:
Цитата: ArefievPV от февраля 17, 2017, 04:53:06
Коротенькая "вводная" лекция про ИИ. :)
Видео:
https://www.youtube.com/watch?v=5UEtNSDaPKk

Цитата: Evol от декабря 05, 2019, 09:32:49
Не забыть бы про идею о псевдобоге.
Вы давно грозились отдельную тему под это создать...


Питер

Почитайте   "Аврору"  Кима  Стенли  Робинсона.  Там  очень    интеллектуальный     корабль  ...
А  оно  вам  надо  ?

василий андреевич

Цитата: ArefievPV от декабря 05, 2019, 09:23:44И кто Вам сказал, что это будут "сообщества компов"? И кто Вам сказал, что системы ИР будут "озабочены" созданием не то, что более продвинутых компов, а вообще - созданием компов?
Цитата: ArefievPV от декабря 05, 2019, 09:23:44Я свои предположения высказал - примерно будет по образу и подобию законов для населения в государстве, но с учётом роботов, систем ИИ и пр.
Вот я и спрашиваю, если по подобию человеческих правил, то в чем суть "учета роботов"?
Цитата: Evol от декабря 05, 2019, 09:32:49По моему мнению, любопытно, что должно "самосохраниться".
Есть более общий термин - выживание, вечно-бесконечное выживание. "Самосохранение" принципа выживания в поддержании симметрии между смертью и возрождением. И пока ИИ не разрешит проблем, связанных с симметрией, он будет вынужден изобрести своего бога, наделившего его способностью отличать жизнь от смерти. При этом остро встает вопрос, а надо ли ИИ иметь представления о добре и зле?

ArefievPV

Цитата: василий андреевич от декабря 05, 2019, 12:58:08
Цитата: ArefievPV от декабря 05, 2019, 09:23:44
Я свои предположения высказал - примерно будет по образу и подобию законов для населения в государстве, но с учётом роботов, систем ИИ и пр.
Вот я и спрашиваю, если по подобию человеческих правил, то в чем суть "учета роботов"?
Удивлён... Вроде, всё расписал... Хорошо, ещё раз.

Человеческие законы в государствах пишутся властью (условно) для сохранения существующего порядка вещей - они (властная элита) при власти (все ништяки у них), а население работает на них и для поддержания существующего порядка. Это понятно?

Но человеческие законы/правила писаны для людей (они только людей учитывают при наделении их правами, обязанностями, ответственностью), а не для роботов (и, кстати, не для других видов животных). Однако, в будущем всё может изменится - роботы будут учитываться в этих законах/правилах наряду с людьми - типа, будут наделяться правами, обязанностями, ответственностью... То есть, раньше роботы не учитывались в законах, а теперь будут учитываться. Так понятно?

ArefievPV

Цитата: василий андреевич от декабря 05, 2019, 12:58:08
Есть более общий термин - выживание, вечно-бесконечное выживание. "Самосохранение" принципа выживания в поддержании симметрии между смертью и возрождением. И пока ИИ не разрешит проблем, связанных с симметрией, он будет вынужден изобрести своего бога, наделившего его способностью отличать жизнь от смерти. При этом остро встает вопрос, а надо ли ИИ иметь представления о добре и зле?
Не о том Вы вообще... Любая животинка хочет жить, не имея никакого представления о добре и зле (тем более, не имея представления о боге)...

Надели систему ИИ стремлением самосохраниться (для начала программно, а потом и аппаратно) и готово - получили суррогат инстинкта ЖИТЬ (и, как следствие, получили систему ИР - а это уже серьёзно). Иначе говоря, системе ИР не требуется изначально знать о добре и зле - ей просто хочется жить. А оценочные установки/уставки (что для неё хорошо, а что - плохо) система ИР сама сформирует в процессе выживания. И уже на основе этих оценочных установок/уставок постепенно сформирует и абстрактные понятия: о добре и зле, о жизни и смерти, о боге и дьяволе...

василий андреевич

Цитата: ArefievPV от декабря 05, 2019, 13:29:02А оценочные установки/уставки (что для неё хорошо, а что - плохо) система ИР сама сформирует в процессе выживания.
Вот меня и интересует, какие законы выведет ИИ, что бы учитывались права человека. Что человеку доступен творческий подход к решению как своих проблем, так и проблем отношения к правам роботов - понятно без пояснений.
Цитата: ArefievPV от декабря 05, 2019, 13:29:02Любая животинка хочет жить,
Создайте животинке невыносимые условия - она жить расхочет, потому что умрет. Борьба за первенство в удовлетворении своих инстинктов - действует как элемент беззакония. Закон - это ограничение в правах. Закон "борьбы" предписывает кому выживать, а  кому умирать.
  Способен ли ИИ выдать закон, ущемляющий свои права во имя сохранения прав человека? Или помягче - как ИИ будет отсеивать элементы, мешающие выживанию всей системности?

Игорь Антонов

Цитата: ArefievPV от декабря 05, 2019, 13:29:02Надели систему ИИ стремлением самосохраниться

Что такое "стремление"? Стремится ли бот в компьютерной игре не быть убитым и убить соперника?

ArefievPV

Цитата: василий андреевич от декабря 05, 2019, 15:05:03
Цитата: ArefievPV от декабря 05, 2019, 13:29:02А оценочные установки/уставки (что для неё хорошо, а что - плохо) система ИР сама сформирует в процессе выживания.
Вот меня и интересует, какие законы выведет ИИ, что бы учитывались права человека. Что человеку доступен творческий подход к решению как своих проблем, так и проблем отношения к правам роботов - понятно без пояснений.
Думаю, следует говорить ИР, а не ИИ...

Законы ИР будут учитывать права человека только в той мере, в которой они способствуют самосохранению самого ИР. Ну, примерно, как рабовладелец учитывает права своих рабов - если рабы сдохнут, то рабовладельцу тоже будет не очень хорошо (кто его обслуживать-то будет?). Типа, рабам надо дать право дышать, есть объедки с хозяйского стола (и то, что в лесу/поле найдёт), защищать себя от убийства дикими животными (иначе, кто работать будет на хозяина - мёртвые не работают) и т.д. и т.п.

Василий Андреевич, "творческий подход" тут маленько "сбоку" - речь о том, что законы будут писаться не людьми... Я всё подробно расписал - перечитайте (или, прочитайте).

Цитата: василий андреевич от декабря 05, 2019, 15:05:03
Цитата: ArefievPV от декабря 05, 2019, 13:29:02Любая животинка хочет жить,
Создайте животинке невыносимые условия - она жить расхочет, потому что умрет.
Это как? Она жить расхотела, потому что умерла? Как-то не по-русски сформулировано...
Может, наоборот? Она расхотела жить и потому умерла?

Кроме того, животинка попробует убежать от этих невыносимых условий (у неё же стремление к самосохранению работает)... И ещё: полагаю - это уход в сторону от темы обсуждения.

Цитата: василий андреевич от декабря 05, 2019, 15:05:03
Борьба за первенство в удовлетворении своих инстинктов - действует как элемент беззакония. Закон - это ограничение в правах. Закон "борьбы" предписывает кому выживать, а  кому умирать.
Способен ли ИИ выдать закон, ущемляющий свои права во имя сохранения прав человека?
Только в той мере, в которой они способствуют самосохранению ИР. Права человека - вовсе не приоритет для ИР, приоритет для него - самосохранение самой системы ИР и свои права.

Цитата: василий андреевич от декабря 05, 2019, 15:05:03
Или помягче - как ИИ будет отсеивать элементы, мешающие выживанию всей системности?
Сложно сказать. Думаю, на первых порах будет использовать наработки человека в этой области, а затем уже то, что у него появится в процессе самообучения... И не факт, что это понравится людям...

ArefievPV

Цитата: Игорь Антонов от декабря 05, 2019, 15:27:43
Цитата: ArefievPV от декабря 05, 2019, 13:29:02Надели систему ИИ стремлением самосохраниться
Что такое "стремление"? Стремится ли бот в компьютерной игре не быть убитым и убить соперника?
Стремление
https://ru.wiktionary.org/wiki/%D1%81%D1%82%D1%80%D0%B5%D0%BC%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5

Если такая программа заложена в самой игре для данного персонажа, то стремится...

василий андреевич

Цитата: ArefievPV от декабря 05, 2019, 15:55:04И не факт, что это понравится людям...
Это ключевое.
  Пока мы наблюдаем симбиоз человека с ИИ, ИР, компом, сетью - не важно как назвать. И Айзек Азимов формулирует три принципа для робота, справедливо считая себя пастырем (или полубогом), навязывающим мораль "сильного рабовладельца".
  Далее. Глагол стремление имеет смысловую нагрузку только при установленной цели. Если цели ИР и ЕР (человека) совпадают, то они вступают в противостояние. Следовательно, задача человека, пока не поздно, определиться со своим согласием или несогласием поддержания, как минимум, равноправных взаимоотношений.
  Формулируем добро (противоположность зла), как способствование выживанию человека во вселенской иерархии систем. Отсюда естественный вопрос: противоречит ли человеческое понятие добра, целям "выживания" машинного разума? Потому что вполне может оказаться, что у такого разума нет и не может быть целей, кроме тех, что заложены создателем. (вопрос о маниакальном создателе уничтожителя человечества пока оставим в стороне)

Игорь Антонов

Цитата: ArefievPV от декабря 05, 2019, 15:58:53Стремление
https://ru.wiktionary.org/wiki/%D1%81%D1%82%D1%80%D0%B5%D0%BC%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5

Если такая программа заложена в самой игре для данного персонажа, то стремится...

По ссылке выше о значении этого слова сказано:

настойчивое желание сделать что-либо или добиться чего-либо

А про "желание" по вложенной ссылке:

внутреннее стремление, влечение к осуществлению чего-либо, к обладанию чем-либо

Как именно "влечение" закладывается в программу игры?

ArefievPV

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Цитата: ArefievPV от декабря 05, 2019, 15:55:04И не факт, что это понравится людям...
Это ключевое.
Возможно, Вы удивитесь, но это не так. Это, конечно, очень важно, но важнее выжить...
Думаю, люди в таком симбиозе (где главные - вовсе не они сами) выживут (хоть в качестве рабов и обслуги, но выживут). 

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Пока мы наблюдаем симбиоз человека с ИИ, ИР, компом, сетью - не важно как назвать. И Айзек Азимов формулирует три принципа для робота, справедливо считая себя пастырем (или полубогом), навязывающим мораль "сильного рабовладельца".
Это пока "некий Айзек" формулирует что-то там, обязательное к исполнению, для робота... Наступит время, и робот будет формулировать что-то, обязательное к исполнению, для "айзеков" - то бишь, для людей...

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Далее. Глагол стремление имеет смысловую нагрузку только при установленной цели. Если цели ИР и ЕР (человека) совпадают, то они вступают в противостояние.
Если цели совпадают, то противостояние не возникнет.
Например, цель людей - выживание людей, цель роботов - выживание людей. Никакого противостояния - цель одна и та же.

А вот если разные цели (цель людей - выживание людей, а цель роботов - выживание роботов), то противоречия возникнут, а следом и противостояние возникнет.

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Следовательно, задача человека, пока не поздно, определиться со своим согласием или несогласием поддержания, как минимум, равноправных взаимоотношений.
Боюсь, что не будет этого - мы все встанем перед фактом... Какие там равноправные отношения - утопия это... Предполагаю, совсем не весёлую картину - будет рулить право сильного (как это всегда и было в человеческой истории).

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Формулируем добро (противоположность зла), как способствование выживанию человека во вселенской иерархии систем.
Мы можем, что угодно формулировать - человек перестанет быть "пупом Вселенной" со всеми вытекающими...

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Отсюда естественный вопрос: противоречит ли человеческое понятие добра, целям "выживания" машинного разума?
Предполагаю, что если и не противоречит, то весьма сильно отличается...

Цитата: василий андреевич от декабря 05, 2019, 16:49:03
Потому что вполне может оказаться, что у такого разума нет и не может быть целей, кроме тех, что заложены создателем. (вопрос о маниакальном создателе уничтожителя человечества пока оставим в стороне)
Формулировку разума давал (повторно) совсем недавно:
Цитата: ArefievPV от декабря 05, 2019, 07:47:14
Как только системы ИИ будут наделены стремлением к самосохранению, они автоматически превращаются в системы ИР (системы искусственного разума) со всеми вытекающими.

Определение разума давал.

Живая система, это система, которая в активной фазе своего существования проявляет стремление к самосохранению и способность его реализовать.

Интеллект системы, это вычислительный функционал (практически в математическом смысле) системы.

Разум системы, это способность системы реализовать стремление к самосохранению средствами интеллекта.
У разума любой системы цель всегда одна - выживание данной системы...

ArefievPV

Цитата: Игорь Антонов от декабря 05, 2019, 17:04:17
Как именно "влечение" закладывается в программу игры?
Вам виднее - Вы же программист, а не я... Может, программный код на цикл запускается при возникновении определённых событий...

А ещё там написано:
Цитировать2.перен. настойчивое желание сделать что-либо или добиться чего-либо, внутренне обусловленная необходимость.

Игорь Антонов

Цитата: ArefievPV от декабря 05, 2019, 17:12:41Вам виднее - Вы же программист, а не я.

Мне, как программисту, видно иное - то, что внутренне обусловленные стремления и желания наличествуют у живых субъектов, а в компьютерные программы закладывается по сей день лишь их "картонная" имитация.