paleoforum.ru

  Ох, и занесло же Вас, Ключ.
  Эпизод со Змием - притча об искушении различать добро-зло, как акта переступания нравственной черты, и взваливания на себя миссии высшего существа.

Цитата: ключ от октября 15, 2023, 00:13:40Теперь если к компьютерам...
необходимое условие существования ИР-то же самое ?
То есть-программа ,способная вносить изменения в собственный системный код ?
Не менее опасная штука для Земли ,чем Адам для Рая.

Можете спать спокойно.
Вносить бессмысленные или задуманные автором изменения в свой код могли уже самые простые программы, а вносить осмысленные изменения, соответствующие собственным интересам, не могут самые передовые, и известной перспективы к этому нет.

ChatGPT - выдающееся достижение современности, довольно успешно имитирующее сильный ИИ, но внутри у него мина - это мега-продвинутый чат-бот, который не верифицирует генерируемый им текст и сам его не понимает. Поэтому его легко завалить на анализе сколько-нибудь нетривиального программного кода, поскольку там не обойтись без абстрактного мышления.   

Цитата: василий андреевич от октября 15, 2023, 06:44:13Ох, и занесло же Вас, Ключ.
  Эпизод со Змием - притча об искушении различать добро-зло, как акта переступания нравственной черты, и взваливания на себя миссии высшего существа.

Нельзя напрямую связывать дошедший до нас вариант невесть когда записанной притчи и истинный её смысл в исходном варианте.

Гораздо более древняя притча -о перемещении и переселении душ. Мы воспринимаем её как сказку.
А о чем в этой сказке говорится то буквально ?

Что существует (может существовать) некая модель (архивная копия модели) разума отдельного субъекта.
Она компактна ,сохранима ,подвержена каким то манипуляциям и может быть перемещена в другое место (хранилище) ,или в другой биообъект (тело).
И это модель разума не человека вообще ,а конкретного.
(тут можно предположить ,что модель "человека вообще" много сложнее и хранится у Всевышнего в сейфе. Хотя у нас есть для исследований сам человек и мы ничего кроме подобия человека создавать и не пытаемся. Так что модель "человека вообще" нам и не нужна. )

В общем то ничего принципиально невозможного в этом и нет.
Но устройство и носитель этой модели на сегодняшний день  неизвестны.

Мы сделали электронные носители и освоили создание программ.
Тут же поставили вопрос создания ИР на этой базе.
И встал совершенно конкретный вопрос-можно ли сделать копию разума совершенно определенного человека на электронном носителе ?
Задача сложная ,но теоретически невозможной не кажется.
Фантастика ?

Но тем не менее вопрос конкретный. Если это невозможно-то вряд ли более возможно создание "какого то" разума с неопределенными параметрами.

Цитата: ключ от октября 15, 2023, 13:15:47истинный её смысл

Уже достаточно, что бы запутаться. У истины принципиально не может быть смысла. Потому разворачивать не буду, а только скажу, что начиная с ошибки, проку не будет.
  И вот далее Вы, может и незаметно для себя, вводите человека-носителя разума, как бы забывая, что в таком раскладе надо вводить и самого человека, не несущего разум, а использующего его время от времени, беря в аренду.
  Что разум, а что носитель? Человек среднестатистический, это носитель без разума, ибо как только Вы ему присвоите поведение разумное, то сразу должны присвоить и поведение неразумное, как у конкретных людей. Поступить неразумно, зачастую, значит поступить мудро. (Мудрость, то, что не постигается рассудком)

Цитата: василий андреевич от октября 15, 2023, 18:17:44Что разум, а что носитель? Человек среднестатистический, это носитель без разума, ибо как только Вы ему присвоите поведение разумное, то сразу должны присвоить и поведение неразумное, как у конкретных людей.

Примерно так.
Человек ВООБЩЕ-это животное. Загруженное инстинктами и способное к обучению.(собака отлично оценивает ситуации ,делает выводы ,выбирает варианты  и т.п.)

Определить бы хоть точку ,с которой поведение начинает вносить поправку в требования инстинкта.То есть-Разум делает поправку в Инстинктивном коде.
(всего лишь поправку ,а не вмешательство в сам код)

А далее ,оценивая какие то параметры конкретного индивида (степень восприятия ,желания ,страха ,неприятия чего либо),может быть и можно сделать программу ,достаточно точно прогнозирующую поведение определенного человека.
 Не Разум ,конечно ,но всё же какой то симулятор его проявлений.
То есть очень скромненькую ,но действующую модель .

чуть разовьём...
Мы имеем понятие о "человеке вообще" в плане понятий ,пристрастий ,страхов ,социальности....чего ещё то ? Ну и о несколько измененной этим физиологии и сексуальности человека.
 Сложные настройки биообъекта нам не нужны-мы используем цифровую (математическую) модель.

Ещё нужен "характер"-то есть описание того же ,но в большей вариабельности и разветвленности.
Сложно ,трудоёмко ,однако реально.
Главная проблема-добросовестность и собственная "зрелость" разработчиков.

Человек-индивид не так уж и грандиозен. его задачи-выбор цвета обоев ,фасона платья ,рациона ,маршрута....партнёра.
Человек романтичен и выбор партнёра ставит на первое место.

Игры типа "создай идеального партнёра " существуют давно и уже далеко ушли от тамагоччи.
Осталось только уйти с позиции рабовладельца.

Представим ,что этого "идеального партнёра" невозможно отключить (ликвидировать ,убить ?).
Он имеет независимый аккаунт и имеет возможность общения не только с тобой ,но и со всем остальными.
Он имеет набор черт характера. Срок его жизни-пусть лет 50 (считая ,что ему сейчас 30)

Ну и что?
Далее представим  ,что он может прекращать и возобновлять общение ,собирать компромат ,обрабатывать персональные данные.
Способен на месть ,подлость ,любые действия.
Не страшно ещё ?

Продолжаем общаться?
Что то ему не так.
Он вот тут ,рядом. К стенке отвернулся ,плачет ,чушь какую то несёт.
Прекращаем отношения ?
Ну конечно. И так 2 жены ,тут ещё третья назревает. Хорошо что кончилось.

А кончилось ?
Робот-партнёр то продолжает игру. И ты становишься одним из его мячиков. Который может внезапно влететь в твои же ворота лет так через 25.

Это всего лишь один из вполне реальных сценариев работы МОДЕЛИ ИР.
Всего лишь модели ,до ИР ей ещё далеко.

Чтобы не оставлять иллюзий о своём могуществе-представим следующее.
Этот бот -он тоже не Духом святым.
Он может монетизировать свои действия. и может финансировать(содержать) партнера-человека.
Может и не содержать.
Может обанкротить ,разорить ...

За чем ?
А просто так. Это "за чем" вшито в его исходном коде ,а личных затрат у него нет (хотя это не точно-они вполне могут быть)
Так что иметь с ним дело-....ну ,как бы с человеком.

Вот такая загогулина получается. (это никакой ещё не ИР ,всего лишь действующая модель)

честно говоря-не понимаю 2 вещи-
1.возможно ли объективное мнение одного разума при наличии другого ?
2.возможно ли подчинение одного разума другому ? Наличие 2-х разумов допускает сколь угодно глубокое пересечение ,но не объединение и тем более не поглощение.

Цитата: ключ от октября 16, 2023, 00:30:35честно говоря-не понимаю 2 вещи-

Можно сыронизировать - всего-то две вещи, мы сотни вещей не понимаем, а меняем, как перчатки, по мере износа.

  Но если непонятно, надо обратно, к развилке непоняток, т.е. к притче о: направо пойдешь - коня потеряешь, налево пойдешь, головы не снесешь. Пока важно лишь то, что начиная движение по любой из развилок всё одно остаешься и с конем и с головой, что означает движение по обеим развилкам сразу, правда, с разной долей вероятности.
  Итак, я - это биология со всеми инстинктами и пр., а разум - это конь, без которого я - только вроде, как я. Шепотом, что бы никто не услышал, можно даже так: нафига конь моего разума подстроил ситуацию с родителями, что бы родилось мое инстинктивное тело и разум стал его добровольным пленником?

  Мудр гриб-слизевик, он вполне оставляет свое тело, что бы мицелярные нервы пошли искать информационный прокорм. Нервов много и они размножаются, глядишь, какие и вернуться в тело. Хотя не обязательно в то тело, от которого ушли.
  Но и разум, покинув нас, возвращается уже не обязательно в наше тело, а наше тело не обязательно встречается с нашим разумом. Математически, это всего лишь прибамбасы потенциальной функции.
  Потому 1)объективизация разумов - это редукция потенциальной функции до ритуала, а 2)ритуалы рождаются на старой развилке, когда объективизация уже на новой развилке.
  И ИР окажется на старой развилке, когда мы будем стоять уже перед новой. Нам останется только научиться возвращаться, что бы семафорить ту развилку угодным нам способом. Разум, искусственный ли он, или доморощенный, знает, что стратегически выигрывает лишь тот, кто умеет находить баланс между собой-любимым, как действующим началом (субъектом) и тем объективным, что стало ритуалом, который мы видим, как прошлое только по достижении настоящего. Потому

Цитата: Игорь Антонов от октября 15, 2023, 09:10:44Можете спать спокойно.

Чат-бот, будучи разумнее не окажется мудрее нас. Он обретет потребность поубивать нас только на той развилке, где мы уже умерли, что бы оказаться на новой.
  Отключить жизнеобеспечение может ИИ, ИР на это принципиально не будет способен.

Цитата: василий андреевич от октября 16, 2023, 06:39:37Разум, искусственный ли он, или доморощенный, знает, что стратегически выигрывает лишь тот, кто умеет находить баланс между собой-любимым, как действующим началом (субъектом) и тем объективным, что стало ритуалом, который мы видим, как прошлое только по достижении настоящего.

А уделяет ли он этому должное внимание ?
Мы довольно беспечны ,есть вообще крутые пофигисты.
Мы довольно неплохо защищены инстинктами и воспринимаем это как достаточное.
Так же и ИР может полагаться на свою исходную прошивку ( а уж как она состряпана-зависит от разработчика )

тут с разработчиком сложнее.
Способен ли Человек сделать ИР ,который не пытается всех облапошить ,а преследует иную цель ? При этом используя инструменты ,которые мы используем для облапошивания друг друга ,поскольку  ему других негде взять.

Находить баланс он скорее всего не умеет. Поскольку этого не умеет Разработчик. Где то да выйдет он за рамки человеческого нормального.
Какова ответная реакция Человека ?

Цитата: ключ от октября 16, 2023, 09:16:41Мы довольно неплохо защищены инстинктами и воспринимаем это как достаточное.

Еще только готовя вопрос, у Вас уже готов интуитивный ответ. Если поведение, выглядещее разумным, опирается на автоматизмы-инстинкты, то это не разум, а набор алгоритмов, т.е. интеллект, который вычисляется, как скорость нахождения подходящего под задачу алгоритма (коэффициент интеллекта).
  Программист в принципе не может создать ИР, но может создать сети множеств ИИ, которые будет эволюционировать в тот ИР, который уже и не искусственный даже, а "иномультиверсный", то есть, взаимодействующий с нашим только через "те тонкие настройки", которые мы даже не ощутим.
  Потому, если лиходейский разработчик создает вирус-программу-ИИ по отключению человечества от жизнеобеспечения, то это прежде всего скажется на ИР, как нарушение в его нижних отделах автоматики, и, я так думаю, с этим лиходеем ИР справится гораздо оперативнее нашего, мы даже не узнаем, как "инсульт с микардом" грозят пальчиком "из оттуда".

Цитата: василий андреевич от октября 16, 2023, 09:58:41Если поведение, выглядещее разумным, опирается на автоматизмы-инстинкты, то это не разум, а набор алгоритмов, т.е. интеллект

Все эти автоматизмы, рефлексы, инстинкты, привычки и пр., это только реализация вычислительного функционала (реализация интеллекта).

И дело не в том, на какой конкретно вычислительный функционал или алгоритм/программу система опирается, главное ради чего она это делает. Если с помощью этого функционала или алгоритма/программы система реализует своё стремление к самосохранению (иначе говоря, ради самосохранения), то это и есть проявление разума системы.

Цитата: АrefievPV от сентября 06, 2021, 18:21:40Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Цитата: АrefievPVИ дело не в том, на какой конкретно вычислительный функционал или алгоритм/программу система опирается, главное ради чего она это делает. Если с помощью этого функционала или алгоритма/программы система реализует своё стремление к самосохранению (иначе говоря, ради самосохранения), то это и есть проявление разума системы.

Цитата: АrefievPV от сентября 06, 2021, 18:21:40Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

А если самосохранился, размножился, а свободное время осталось и тратишь его, например, на создание и  исследование законов, управляющих клеточными автоматами, как Конвей, то это уже не разумно?

Цитата: Игорь Антонов от октября 16, 2023, 10:42:15

Цитата: АrefievPVИ дело не в том, на какой конкретно вычислительный функционал или алгоритм/программу система опирается, главное ради чего она это делает. Если с помощью этого функционала или алгоритма/программы система реализует своё стремление к самосохранению (иначе говоря, ради самосохранения), то это и есть проявление разума системы.

Цитата: АrefievPV от сентября 06, 2021, 18:21:40Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

А если самосохранился, размножился, а свободное время осталось и тратишь его, например, на создание и  исследование законов, управляющих клеточными автоматами, как Конвей, то это уже не разумно?

Это в любом случае интеллектуально, но не обязательно разумно. У нас избыток интеллектуальных ресурсов и мы волей-неволей загружаем интеллект, помимо полезной деятельности, всякой чепухой.

Если это в перспективе (не сейчас, а потом при определённых условиях) поможет или улучшит выживание, то это разумно.

Если это никак не повлияет на выживание или улучшение выживания, то это в лучшем случае просто интеллектуально, но не разумно.

Если это может в перспективе повредить выживанию или ухудшить его (вплоть до гибели, как у шахида какого-нибудь), но система этого не понимает, то это однозначно неразумно, но вполне может быть высокоинтеллектуальным даже.

Ну, и не надо забывать, что система всегда изменяет интеллект (и знания) своих элементов, которые её составляют (типа, обучает свои элементы), в угоду себе, для собственного выживания или улучшения выживания. В том числе, и по этой причине, в разных социумах появляются смертники и герои, разведчики и шпионы и пр.

Кстати, если элемент размножился, то это как раз и относится к проявлению разума системы, а не разума самого элемента – соответствующий функционал в элементах давно уже закреплён на генетическом уровне.

Цитата: АrefievPV от октября 16, 2023, 10:24:41Все эти автоматизмы, рефлексы, инстинкты, привычки и пр., это только реализация вычислительного функционала (реализация интеллекта).

А вычислительный функционал откуда взялся? Играя в слова, мы получим замкнутый круг, что если автоматическое поведение привело к убийству, то такого поведения не будет. А если не привело к убийству, то и спасти не сможет, ибо не рассчитано на убережение от опрометчивого научного тыка.
  Что бы реализовать интеллект, его надо заработать и заработать уж точно не перебором ошибочных вариантов.