paleoforum.ru

Цитата: ключ от апреля 01, 2023, 12:38:01Тигры существуют давно ,для чего-не понятно.

Некорректная постановка вопроса. Это с какой (с чьей) точки зрения «для чего»? С человеческой? С тигриной? С природной вообще?

Если с природной, то можно ответить «а чтобы просто было». Ну, это так, шутка, конечно. Однако человеку, наверное, следует перестать себя считать «пупом Вселенной» (типа, всё для него любимого).

Судя по всему, вы рассматриваете ситуацию именно с человеческой точки зрения.

Тогда непонятны затруднения с ответом на вопрос «для чего». Например, для использования в зоопарках и в цирках (народ будет ходить смотреть и кто-то, возможно будет на этом деньги зарабатывать). Или, как источник лекарственных снадобий (в Китае могут просветить на этот счёт). Или, как источник статусных ништяков (тигриные шкуры). Или, как объекты научных исследований. Или... И так далее.

Теперь глянем на ситуацию с точки зрения тигра. Человек существует как пищевой ресурс для тигра.

Тогда можно ответить на вопрос «для чего существует тигр» следующим образом: например, чтобы человек не расслаблялся (типа, был в форме), а то на корм тигру попадёт.

Цитата: ключ от апреля 01, 2023, 12:38:01В какой то степени опасны для жителей определенных районов ,но особых мер борьбы с ними нет.Поскольку нет значительной угрозы.

Используем аналогичный подход – рассмотрим ситуацию и с человеческой точки зрения, и с тигриной точки зрения.

С позиции человека. Пока человек дистанцируется от тигра, тот ему не угрожает.

С позиции тигра. Пока тигр не нападает на человека, тот ему не угрожает (а то человек ведь может и лютую охоту на тигров открыть – у человека за плечами уйма уничтоженных видов, опыт истребления огромный).

Цитата: ключ от апреля 01, 2023, 12:38:01При попытке его как то использовать -он опасен абсолютно. Нет смысла считать на сколько именно. Просто принимается 100%.

И снова используем прежний подход – рассмотрим ситуацию и с человеческой точки зрения, и с тигриной точки зрения.

С позиции человека. При попытке использовать тигра, тигр становится опасен.

С позиции тигра. При попытке использовать человека (например, в качестве пищи), человек становится опасен.

Цитата: ключ от апреля 01, 2023, 12:38:01Вся безопасность переключается на устройство клетки.На сколько опасен в ней тигр-зависит от неё.

Опять используем тот же подход – рассмотрим ситуацию и с человеческой точки зрения, и с тигриной точки зрения.

С позиции человека. Для безопасности человека тигра следует поместить в клетку или в вольер. Однако можно для безопасности и самого человека поместить в клетку. Забавно, правда? Подводные съёмки акул именно так и происходят – человек в клетке, а акулы на свободе (вокруг плавают). Решётка клетки/вольера ведь просто разделяет/разграничивает два объёма.

С позиции тигра. Для безопасности человека следует поместить в «клетку» или в «вольер»  – типа, пусть он живёт в своих домах, посёлках, городах, на ограждённых территориях и начинает охоту на бедных тигров.

И ведь именно так дело и обстоит, правда? На природе (на свободе) гуляют тигры, а люди сидят и гуляют по своим «загонам». Вот только людей становится всё больше и больше, «загоны» начинают заполнять всю свободную территорию, и вскоре бедным тиграм будет и некуда податься.

Возвращаясь к теме опасности бесконтрольного развития систем ИИ и систем ИР (они существенно опаснее) возникает вопрос: а кого сажать в «клетку» (само собой, понятие «клетка» подразумевается в самом широком смысле) – человека или ИИ/ИР? Или по-другому – какие границы и где устанавливать между человеком и системами ИИ и ИР? И вообще – а нужны ли такие границы? При этом пока не рассматриваем вопрос, по какую сторону решётки кто будет находиться – человек в «клетке» или ИИ/ИР в «клетке».

Цитата: василий андреевич от апреля 01, 2023, 08:45:24А что могла сделать в свое время обезяночка, что бы ограничить развитие своей соседки в человека?

Обезяночка, Василий Андреевич, свою соседку не создавала в смысле конструкта и продукта своей умственной деятельности.

У людей конечно шансов немного остановить происходящее, да и не надо, но хотя бы чуть притормозить до вменяемой скорости, на которой можно немного больше осознавать происходящее наверное все таки с помощью законодательства можно.

Цитата: АrefievPV от апреля 01, 2023, 13:56:29И снова используем прежний подход – рассмотрим ситуацию и с человеческой точки зрения, и с тигриной точки зрения.

И та и другая-не субъективны даже ,скорее эгоцентричны.

Всё ныне стабильно живущее-даже не результат ,а остаточное явление каких то процессов и обстоятельств в каких то экосистемах минувших времен.
 Мы представляем их только в очень общих чертах.
И не учитываем ,что точка зрения тигров была наиболее значима именно в тот момент. Когда они материализовались ,оформились в популяцию и подавили популяции каких то других зверей ,а заодно и своих предков.

Точка их зрения довольно цинична. Они не просто заняли какую то нишу в системе ,но и как то повлияли на неё.
Система ,как всегда ,устремилась к равновесию и нашла его.
Есть тигры ,есть олени ,есть обезьяны...
Какие нибудь гигантские хорьки не появились ,хотя могли бы. Тигры заняли место ,система устаканилась ,хорьки как мышей ловили-так и ловят.


ИИ-это наше создание (изделие,продукт ) ?
Или естественный (эволюционный) результат развития нашего разума ?

Экосистема из природной превратилась в техногенную. То есть-сегодня она техногенная ,а что когда то была другой-знают только глубокие старики.
Современный разум в современной системе (другой нет) имеет новый (вернее для него не новый ,а просто современный) носитель и прочее железо.
   И видит в этом пустую нишу.
В какого тигра материализуется этот разум в этой нише-неизвестно.

Цитата: АrefievPV от апреля 01, 2023, 13:56:29какие границы и где устанавливать между человеком и системами ИИ и ИР? И вообще – а нужны ли такие границы? При этом пока не рассматриваем вопрос, по какую сторону решётки кто будет находиться – человек в «клетке» или ИИ/ИР в «клетке».

Как вот ?  Пока прогнозируемо появление нового вида (что он небиологический-не суть важно-это всего лишь наша точка зрения).
Но в любом случае это-результат эволюции нас.
Как мы сами-остаточное явление давнишней эволюции дедушки Гиббона.(которого мы ,помнится ,потом то ли сожрали ,то ли просто дубинами отлупили).
Какие задачи перед новым видом стоят ?

Что то испортить или взорвать-вряд ли. Это древняя наша идея ,её только можем поставить ИРу мы (или какой то самый продвинутый из нас).
Пока это так-всё прекрасно.  ИР-всего лишь опасная машина ,и мы разберемся ,как с ней обращаться. Обычная очередная наша машина.
Да нам и не в первой.Было уже много машин ,управление которыми оставляло без штанов и с переломанными костями ,однако-живы (хоть кто то)  !

А вот может ли ИР сам поставить себе задачу ?
Если да-то хоть примерно - какую ?
Тут как то фантазия ничего не подсказывает. Нет аналогий .

У дедушки Гиббона их тоже не было. И задач .которые в те времена вдруг поставили себе мы он но сей день не понимает.

Цитата: Шаройко Лилия от апреля 01, 2023, 16:34:03Обезяночка, Василий Андреевич, свою соседку не создавала в смысле конструкта и продукта своей умственной деятельности.

О "смысле продукта" судить не возьмусь, но своенравная обезяночка, заполонила собой все места на коммунальной кухне, и тем выдворила "бедного студента" жевать бутерброды под своим социальным одеялом.
  И мы выдворим из-под своего одеяла изготовителя умственных бутербродов, правда заплатить за это придется теми многими жизнями, которые и без того уйдут "восвояси".
  Притормозить для принятия ограничительных законов - это как Леопольду просить шкодливых мышат. Никогда отрубание пальцев не отражалось на геноме воров.

Цитата: ключ от апреля 01, 2023, 19:57:29А вот может ли ИР сам поставить себе задачу ?
Если да-то хоть примерно - какую ?
Тут как то фантазия ничего не подсказывает. Нет аналогий .

Вначале мы наделим его Волей Создателя: "плодитесь и размножайтесь", внедрив аналог получения удовольствия от процесса клонирования. А дальше пойдет та закономерность, к которой подошли и мы, ранжируясь на группы по специализациям.
  Человек вполне себе выживет, уступая техногенную нишу, но развиваю нишу творческую. Не надо органике летать через горнило черной дыры в свое будущее - достаточно, что данные об этом будущем донесут нам автоматы через визир аж в восемь де с полным ощущением присутствия. А вот творчески изменять сегодняшнее, дабы выбирать будущее - останется за нами, а не за ними.

Цитата: василий андреевич от апреля 02, 2023, 09:58:42Человек вполне себе выживет, уступая техногенную нишу, но развиваю нишу творческую. Не надо органике летать через горнило черной дыры в свое будущее - достаточно, что данные об этом будущем донесут нам автоматы через визир аж в восемь де с полным ощущением присутствия. А вот творчески изменять сегодняшнее, дабы выбирать будущее - останется за нами, а не за ними.

Мы к своему разуму причастны ,но не владеем им. Конкретного центра управления им не найдено.
(На тему-есть ли такой центр ,управляемый разумом Высшим или нет его вообще -спорят давно.Но вроде бы те и другие согласны ,что такого центра ,управляемого отдельным человеком-нет)

Имея это в таком виде - копию своего разума создать не можем.Будет просто набор фрагментов,не объединяемых в целое.
Создать образец какого то иного-тем более.
Что можем ?
Вроде бы появилась возможность коллективно передать часть функций своего разума какому то Боту. И быстренько поглупеть на эту часть.

Мы разучились считать. Лет 40 назад любая продавщица мгновенно вычисляла ,что 40+40-два сорок,сегодня калькулятор.
Мы разучились что то делать руками. Сегодня лекальщики ,видя сложную деталь (это их хлеб) хором советуют отдать на ЧПУ.
Мы разучились конструировать.Используем модули ,параметры которых знает только разработчик.А мы этого разработчика не знаем и знать не хотим.
и т.д.
Вместе с ненужностью действия пропадает способность его выполнять.
Немногие .кто ещё этим владеет-очень скоро куда нибудь уйдут. Но это-лишь утрата отдельных секретов.
Такое и раньше случалось.

Создаём Бота ,способного обучаться.
Но не умеем обучать. (а кто конкретно будет Великим учителем?)
И если нам удаётся передать Боту какие то системные функции-очень быстро теряем способность выполнять их сами.
Тем временем Бот продолжает обучаться и сам ,используя тот трэш ,который есть в сети.(больше нам ему нечего предложить).
Применяет какие то алгоритмы ,найденные людьми для чего то одного к чему то другому и получает огромный объём результатов.А вовсе не конкретный определенный.

Но не может их оценить ,поскольку он сам-не Разум ,а лишь его фрагмент.
Тем временем Человек от дел отошел.Вернее-какой то остался ,но не способен одной частью своего разума обработать продукцию другой части ,переданной Боту.
Хвост виляет собакой. Глупый ,но огромный хвост. От него к всё ещё более умному мозгу идёт поток сигналов,который этот мозг не в силах оценить,но вынужден исполнять.

Цитата: ключ от апреля 03, 2023, 00:49:15Вместе с ненужностью действия пропадает способность его выполнять.

Вы верно ухватили "красную нить" адаптогенеза, как горизонтальную эволюцию - свободный таракан, теряя потенциальную доблесть-свободу идет к тупику термита или богомола.
  И стволовая клетка идет к тупику специалиста в органе.
  Вот и оставим для ИР идти нормальным путем к тупикам вычислитей и вершителей, оставив себе роскошь обладания иррациональным мышлением.

Цитата: василий андреевич от апреля 03, 2023, 10:15:23Вот и оставим для ИР идти нормальным путем к тупикам вычислитей и вершителей, оставив себе роскошь обладания иррациональным мышлением.

Возможно ли такое в отношении хоть И ,хоть любого вообще Разума ?
По другому-может ли быть Разумом то ,что не имеет автономности мышления и выбора задач ?

Небольшое замечание.
 

Цитата: ключ от апреля 03, 2023, 00:49:15Создаём Бота ,способного обучаться.

Уже неплохо. Ведь главное – это чтобы система ИИ была способна к обучению (не способную к обучению систему невозможно обучить).
 

Цитата: ключ от апреля 03, 2023, 00:49:15Но не умеем обучать.

В каком плане, не умеем обучать бота? Это если мы хотим, чтобы бот обучился чему-то конкретному и желательно полезному для нас самих, но не знаем как? Или даже не знаем, чему его обучать?
 
Тут просто – когда сами поймём чему обучать (то есть, что хотим, чтобы бот делал), тогда и додумаемся, как его обучать. Разумеется, можно всё и на самотёк пустить (подозреваю, что обычно всё так и происходит) – сегодня отношение к ИИ, как к неким забавным игрушкам.
 

Цитата: ключ от апреля 03, 2023, 00:49:15(а кто конкретно будет Великим учителем?)

В роли учителя для любой системы выступает среда. Всегда и везде. Это должно быть понятно интуитивно – ведь система адаптируется/приспосабливается к окружению (внешнему и внутреннему). Если наоборот, то такие вещи обзываются уже иначе – преобразование/переформатирование среды.
 
Тут просто разный взгляд (с разных точек зрения) на взаимодействие среды и системы – на краткосроке и локально мы видим, что система воздействует и изменяет среду. Но если взглянуть с другого ракурса на это взаимодействие, то ведь и среда воздействует и изменяет систему.

Кто/что главный в этом взаимодействии – зависит от точки зрения (мы ведь любим себе приписывать способность преобразования среды (а другим в наличии такой способности отказываем). Но глобально – главной будет всегда среда (она ведь создаёт системы в себе). Но понятия: разум, жизнь, сознание и т.д., может применяться только к системам – к среде эти понятия неприменимы.
 
Среда играет роль учителя, хоть в эволюционном смысле (когда вид/популяция обучается на протяжении множества поколений выживать), хоть в плане воспитания детей (когда в мозге формируются нейронные сети и нейронные популяции в процессе онтогенеза).
 
При обучении вида в процессе ЕО остаются только обученные особи. При обучении  детей в мозге остаются только те нейронные сети и нейронные популяции, которые постоянно (или чаще других) используются (остальные распались и или вообще исчезли)
 
То, что мы обзываем понятием обучение (воспитание, дрессировка), по самой своей сути, является процессом адаптации системы к среде обитания (к условиям существования).
 
Напомню: обычно, любое обучение – это воспитание + дрессировка (воспитание – это, что нельзя, а дрессировка – это, как надо).
 
А суть любой адаптации – это соответствие (согласованность) между системой и средой обитания. Понятно, что соответствия можно достигнуть и изменением метаболизма (в том числе, и изменением внешней формы, и изменением внутренней структуры), и поведением (которое может быть и реактивным, и проактивным), и комбинацией вышеперечисленного.
 
Среда обитания может включать в себя и членов своего вида, объединённых в какую-либо форму социума (как уже говорил, любой вид существует в форме социума). То есть, социум (социальное окружение, воспитывающее/дрессирующее особь) является только частью среды обитания особи.

Кстати, для формирования человеческой личности, эта часть является очень важной. Ведь человеческая личность – это интерфейс взаимодействия человеческой особи с человеческим социумом, и без человеческого социума таковой интерфейс не сможет сформироваться по определению.
 
Тут следует учесть, что системой может быть и одноклеточный организм, и колония из одноклеточных организмов, и многоклеточный организм, и клеточная популяция в многоклеточном организме, и колония/семья из многоклеточных организмов, и популяция многоклеточных организмов и т.д. и т.п. Соответственно, и обучение (адаптация, достижение соответствия, достижение согласованности, приспособление) идёт сразу на множестве уровней сложной многоуровневой живой системы.

Цитата: АrefievPV от апреля 03, 2023, 11:40:09Кстати, для формирования человеческой личности, эта часть является очень важной. Ведь человеческая личность – это интерфейс взаимодействия человеческой особи с человеческим социумом, и без человеческого социума таковой интерфейс не сможет сформироваться по определению.

Цитата: АrefievPV от апреля 03, 2023, 11:40:09Тут просто разный взгляд (с разных точек зрения) на взаимодействие среды и системы – на краткосроке и локально мы видим, что система воздействует и изменяет среду. Но если взглянуть с другого ракурса на это взаимодействие, то ведь и среда воздействует и изменяет систему.

Как то не определена граница между средой и системой. Или на границе находится третья субстанция ,не учтенная.

Люди ,воспитанные в разных условиях ,более схожи ,чем различны.
У человека есть типичный пакет инстинктов ,которые можно оценить,описать  и загнать в программу. В целом он мало отличается от пакетов инстинктов животных.

И есть другой пакет настроек ,определяющий именно человека.Который вроде бы не удаётся выделить даже в виде внятного формального определения.
Этот пакет-система ? Или среда ? Или что то ещё ?
У Бота этого пакета не будет.
Но может оказаться какой то суррогат.

В первом случае Бот-абсолютный Нелюдь.
Во втором-такой же абсолютный Нелюдь с какой то псевдоморалью и псевдопонятиями. Его внутренний "суррогатный человек" может быть настроен предельно мягко и безопасно ,но будет абсолютно непредсказуем ,если столкнётся с чем то ,чего не найдётся в данном ему  пакете. Поскольку будет искать ответ в среде и что то найдёт.

Цитата: АrefievPV от апреля 03, 2023, 11:40:09Разумеется, можно всё и на самотёк пустить (подозреваю, что обычно всё так и происходит) –

Ну-это по нашему. Сперва помучаемся ,а когда надоест-так и сделаем.
Всё равно особого опыта обучения Нелюдей у нас нету.


Но почему то кажется ,что Нелюдь должен или иметь полноценную "людскую" прошивку ,либо  постоянную людскую поддержку. Без неё его способности пойдут не по развитию ,а по затуханию.
Как замедляется скорость реакции по мере накопления продуктов в её зоне.

«Вдохновлена человеческим мозгом»: специалист рассказала о перспективных сферах применения нейросетей
https://russian.rt.com/science/article/1134371-neiroset-iskusstvennyi-intellekt

ЦитироватьЕсли объяснять термин «нейросеть» простыми словами, то это программа, которая способна самообучаться, извлекать опыт и накапливать его, а принцип её действия схож с работой нейронов головного мозга. Об этом в интервью RT рассказала директор по стратегии и развитию продукта компании АО «ЭЛВИС-НеоТек» (участник рынка НТИ «Нейронет») Татьяна Мосендз. По мнению эксперта, нельзя говорить о том, что развитие нейросетей отменит какие-либо профессии, — скорее некоторые специальности будут видоизменены и получат новое прочтение. При этом, как подчеркнула собеседница RT, должны быть разработаны специальные протоколы, которых нужно придерживаться всем для безопасного внедрения нейросетей в нашу жизнь.

— Что такое нейросеть и почему вообще используется такой термин?

— На самом деле термин «нейросеть» довольно ёмкий. Доступной нейросеть стала в последнее время благодаря развитию мощных вычислителей. По сути, это программа, которая способна самообучаться, извлекать опыт, накапливать его. Почему «нейросеть»? Принцип её действия схож с работой нейронов головного мозга, поэтому простым языком нейросеть — это как головной мозг ребёнка, которого учат ходить. Сначала первые шаги с помощью мамы, с помощью опоры. У него плохая координация, головному мозгу ребёнка сложно начать этот путь. Затем возникают устойчивые связи внутри головного мозга и внутри нейронов, появляется взаимодействие, включается мышечная память. В принципе, нейросети — это как раз попытка человека сделать что-то подобное, но с помощью математики, с помощью компьютерных алгоритмов искусственных нейронных сетей.

ЦитироватьНейросеть вдохновлена именно человеческим мозгом и попыткой воспроизвести его возможности с помощью компьютерных алгоритмов. Нейрон — базовая вычислительная единица у нас в голове, в нашем мозге, соответственно, нейроны внутри искусственной нейросети выполняют такую же роль. Это такие микропрограммы, которые обрабатывают входящую информацию, дальше её интерпретируют, выдают результат, и далее возникают цепочки связей и увеличивается скорость обмена между узлами.

— В чём разница между ИИ и нейросетью?

— Это как разница между самолётом и его двигателем. Самолёт — это искусственный интеллект, а двигатель — это нейросеть. С моей точки зрения, искусственный интеллект — это более широкое понятие. Главной особенностью и отличием ИИ является именно возможность самостоятельно учиться и эффективно использовать этот опыт в дальнейшем с меньшим вовлечением человека. Нейросеть — это скорее технология, некий метод, более прикладной и более конкретный, менее абстрактный, чем искусственный интеллект. Нейросеть — это хорошо продвинутая программа, которая позволяет встроить в экосистему искусственного интеллекта эту технологию. И конечно, когда мы говорим про искусственный интеллект, мы подразумеваем, что базовой технологией будет нейросетевая. Хотя всё может быть и по-другому — может быть, через пять лет человечество найдёт совершенно новый способ взаимодействия и обработки информации на основе не нейросети, а чего-то другого.

— Когда впервые появился аналог современной нейросети и с какой целью он создавался?

— Вообще, нейросети волнуют человеческий мозг давно. Ещё в первой половине прошлого столетия учёные Уоррен Маккаллок и Уолтер Питтс предложили идею: если мы сможем описать с помощью математики, как работает человеческий мозг, то мы сможем решать более сложные задачи вне человеческого мозга. Только в 1958 году первая математическая модель была предложена американским нейрофизиологом Фрэнком Розенблаттом. Практически 50 лет модели усложнялись, совершенствовались, но в начале 2000-х годов, когда появились возможности обрабатывать большие объёмы данных, выросли наши вычислительные возможности — тогда произошёл всплеск, нейросеть стала всё увереннее входить в нашу жизнь.

— В каких сферах можно использовать нейросеть?

— Нейросеть сегодня — это перспективная технология, она пронизывает все сферы деятельности человека: от маркетинга и ретейла до медицины, прогнозирования погоды, создания новых материалов, от робототехники до прогнозирования бедности и создания для человека возможности моделировать свой карьерный путь с помощью коуча.

ЦитироватьВ нашей жизни остаётся всё меньше сфер, где бы не было нейросетей. Мы, как потребители, используем это для генерации изображений, для обработки текстов. Подозреваю, что уже много людей попробовали поэкспериментировать с ключевыми нейросетями массового потребления. Поэтому данная технология — наше будущее, и она так или иначе будет широко применяться.

— Какие профессии нейросеть сможет заменить в ближайшем будущем, а какие не сможет никогда?

— Мировое профессиональное сообщество и уважаемые международные агентства, консалтинговые компании прогнозируют, что существенная часть профессий будет заменена. Кто-то говорит о трети, кто-то о 70—80% и так далее. Очевидно, что ряд технических специалистов, таких как копирайтеры, корректоры, переводчики, иллюстраторы, дизайнеры, уже сегодня сталкиваются с конкуренцией с нейросетью. Но я всё-таки не склоняюсь к тому, что мы отменим какие-то профессии. Да, они должны видоизмениться, они должны получить новое прочтение с учётом доступности нового инструмента. Например, сегодня мы наблюдаем, что передовые дизайнеры, которые работают в сфере маркетинга и разработки упаковок, используют нейросеть просто для ускорения своего труда, то есть делают какую-то базовую иллюстрацию, а дальше уже дорабатывают, углубляют с помощью своего человеческого восприятия и видения. Поэтому здесь я скорее говорю о развитии профессий, а не об их отмене.

— В ближайшие пять лет какой процент российских компаний станет использовать в своей работе нейросети?

— Как представитель компании-разработчика (мы как раз занимаемся разработкой нейросетей и их адаптацией к целям и задачам заказчиков совершенно разного типа), я вижу растущий спрос, особенно в последние полтора-два года. Заказчик понимает, что может сэкономить, может улучшить скорость, качество продукта или сервиса. Применение этих технологий за пять лет точно вырастет существенно, 70—80% компаний точно будут использовать эту технологию хотя бы для того, чтобы обрабатывать входящую корреспонденцию и принимать решения по ней. Тут вопрос глубины интеграции нейросетевых технологий в сами технологические процессы компании. Например, если у нас сложное химическое производство, то здесь с осторожностью нужно будет использовать какую-то непроверенную историю и отрабатывать возможные риски. Базовые же вещи (распознавание текста, рассылки, переводы и так далее) точно будут использоваться — может быть, даже 100% компаний.

— Насколько будут в ближайшее время востребованы на рынке труда специалисты, которые умеют работать с нейросетями?

— Сейчас появляются совершенно новые профессии. Так, за последний год существенно вырос интерес к профессии промпт-инженера, то есть инженера, который может взаимодействовать с нейросетью, понимает принцип её работы и может принести пользу тем компаниям, которые хотят применять нейросеть для своих задач. Пока это больше прерогатива инженеров-программистов, но теперь такие специалисты, как переводчики, дизайнеры, копирайтеры, будут и дальше развивать навыки промпт-инженеров. Поэтому специалисты, которые понимают природу работы этой технологии и, самое главное, знают, как применить этот инструмент для генерации нужного результата, будут востребованы. Вследствие этих процессов появляются и новые обучающие курсы, вводятся новые специальности в вузах, появляется спрос на рынке труда. И это, безусловно, тренд.

— Недавно Илон Маск и Стив Возняк подписали открытое письмо с призывом остановить обучение нейросетей. Речь идёт о новых регулирующих органах, надёжной системе проверки и сертификации, а также о контроле более продвинутых систем ИИ. Нужны ли специальные законы и правила для регуляции этой сферы?
 
— Сфера довольно динамично врывается в нашу жизнь. Технологии развиваются стремительно, и с учётом того, что в них до сих пор существуют тёмные зоны, как и в случае с человеческим мозгом (в знаниях о котором мы до сих пор не до конца уверены), здесь возникают риски. Поэтому я, конечно, сторонница регулирования, создания неких общепринятых, общемировых стандартов, внедрения методов контроля. Самое главное — это создание соответствующих институтов, которые будут преследовать не свои коммерческие цели и интересы, а будут озабочены общей глобальной безопасностью. Поэтому должны быть разработаны протоколы безопасности, которых нужно будет придерживаться всем. Подчеркну, что это довольно сложная, многогранная задача, безусловно, требующая интеграции всего сообщества.

В целом же главная опасность, с моей точки зрения, заключается не просто в самих нейросетях, а в том, куда и как люди встраивают их. Одно дело — мы занимаемся генерацией развлекательного контента, а другое дело — мы интегрируем подобного рода технологии в какие-нибудь опасные производства. Поэтому здесь разумный подход и многократная проверка безопасности являются ключевыми требованиями к человеку и как к создателю нейросети, и как к тому, кто потом будет её использовать.

— Каким вы видите мир в ближайшие пять лет с точки зрения развития нейросетей и искусственного интеллекта? Какие новые возможности могут нас ожидать?

— Конечно, возможности человечества в сфере обработки, анализа информации радикально изменились за последние 30 лет. Последние десять лет мы делаем прорывные шаги, и хочется верить, что нейросети позволят нам существенно продвинуться прежде всего в сферах медицины, освоения космоса, экологии, безопасности, в областях проверки гипотез развития заболеваний, разработки новых генетических препаратов, инструментов диагностики и предотвращения катастроф, аварий. Всё-таки мне бы хотелось видеть наше будущее более безопасным, чтобы человек жил дольше и мы действительно могли создавать новые продукты во благо всему человечеству — людям, живущим на нашей планете.

P.S. Интересно, как она себе представляет людей, которые будут озабочены общей глобальной безопасностью, а не своими интересами? Это будут некие святые подвижники?

Или с помощью бюрократии будут заставлять людей заботиться о глобальной безопасности в ущерб своим интересам?

Или заботу о глобальной безопасности поручат системам ИИ? Типа, это же не системы ИР, а системы ИИ, у которых своих интересов по определению быть не может (только чужие могут быть). Тогда вообще «здорово» –  похоже, что «лиса в курятнике будет обеспечивать порядок» (ну, или  «волк в отаре будет поддерживать порядок»). Это произойдёт не сразу, конечно, а когда «недолиса» (ИИ) превратится «лису» (ИР).

Цитата: АrefievPV от апреля 11, 2023, 15:59:41Интересно, как она себе представляет людей, которые будут озабочены общей глобальной безопасностью, а не своими интересами? Это будут некие святые подвижники?

Такие были всегда ,но абсолютной безопасности обеспечить не могли.И сейчас не могут. Вероятно-и дальше так будет. Во всяком случае-ничего ,с чем мы абсолютно не знакомы и не готовы-не произойдёт.

Пока нейросеть использует человек... У него самого то интересы не очень оригинальны и с первобытных времен мало меняются.
Какой то человек победит другого ,подобно тому ,как уже миллионы раз побеждал тот , кого самая толстая дубина.

Сложнее с разумом (если его всё же удастся создать).
Создать то может и можно ,а вот использовать...  Первейшее свойство разума-неподчинение и сознательное нарушение дозволенного.

Думаю про контроль - там не про подвижничество речь а про техническую безопасность.
Наверно понятным будет пример контроля в строительстве

Там есть экспертиза, которая должна определить, что здание не рухнет,  есть проверка грунтов и соответствие фундамента залеганию уровня грунтовых вод. Архитектурный проект может делать сама строительная организация если в ее штате есть архитектор и оценку грунтов тоже. Но есть внешний контроль  -приемка здания в эксплуатацию, которая может проверить любой из параметров, в том числе сделать пробную скважину тонкого диаметра и зафиксировать что грунтовые воды на такой то высоте и песчаные или глинистые породы под зданием. И соответствие проекта исполнению. И есть еще строительный надзор в процессе работ если это многоэтажка.
И есть строительные нормы все это определяющие -например меру плотности бетона в зависимости от этажности, чтобы все добрым людям на головы не рухнуло.

Когда пишем программный код-мой личный опыт написания такого кода подсказывает мне что по аналогии со строительством которым я тоже некоторое время занималась должны быть выработаны правила защиты в коде в момент нестандартных ситуаций для сложных опасных производств или ИИ для медицины, сейчас диагностические программы уже бурно расцветают.

В химических любая нестандартная ситуация в зависимости от цепочки должна или останавливать производство или если это для этого конкретно производства еще опаснее то немедленно вызывать человека специалиста. Есть еще в программах так называемая "защита от дурака". То есть человек например на сайте пытается вставить в окно предназначенное для форума что то неприемлемое в данном месте(телефон в окно электронной почты например в профиле ), но программа не дает ему это сделать - просто не срабатывает при отправке так заполненной формы и пишет такому человеку что-то, сообщающее почему так делать не нужно.

В сложном производстве автоматические процессы обслуживать могут люди(например заводы со станками ЧПУ), знающие технологию плохо и пытающиеся запустить какие то процессы. Программа должна не давать совершать такие действия, которые могут привести к неадекватным последствиям. и писать в ответ на такие действия куда этому доброму человеку надо идти с таким багажом знаний


При более сложных и более автоматизированных производствах должны быть разработаны новые правила такой безопасности (как в строительстве разработаны нормы по фундаментам и несущим конструкциям зданий) и должны быть контролирующие инстанции, например проверочные коды, тестирующие программу на соответствие безопасности. Правила кодов, запрещающие процессы в коде.
И более свободный режим- для программ экспериментального характера, которые тестируются в ограниченной среде где полет их самодеятельности не выходит в глобальный физический мир, то есть программа не подсоединяется к атомным реакторам,  а просто пишет в конце такого эксперимента - бум, реактор взорвался.

Сейчас стандартизированных контролеров кода наверное нет вообще и аналогии строительной приемки в эксплуатацию вроде тоже. Тестировщик человек из экспертной организации может например совершать нестандартные неадекватные действия (и можно создать даже условный список таких действий наиболее широко распространенных ошибок пользователей в уже существующих работах с ЧПУ и другими техническими устройствами.)
 
 

Цитата: ключ от апреля 11, 2023, 21:08:48

Цитата: АrefievPV от апреля 11, 2023, 15:59:41Интересно, как она себе представляет людей, которые будут озабочены общей глобальной безопасностью, а не своими интересами? Это будут некие святые подвижники?

Такие были всегда ,но абсолютной безопасности обеспечить не могли.И сейчас не могут.

А с чего бы им мочь? Подвижники, это существа глубоко зависимые от идеи, управляемые этой идей, служащие этой идее. А какая это идея (может, она глючная какая-нибудь)? А сможет ли подвижник реализовать эту идею (или «дров наломает»)? Вопросов куча...

Подвижник – это всё во имя идеи. Служение идее – вот чему посвящена жизнь подвижника.  То есть, идея (и служение ей, и следование ей, и подчинение её, её реализация и т.д.) главнее, чем реализация собственного стремления к самосохранению (реализация личного выживания).

Если эта идея может обеспечить стремление к самосохранению всего человечества (или огромного социума на уровне народа), то в глазах человечества (народа) такой человек и будет выглядеть подвижником.

И самое главное, подвижник своими действиями, своим поведением и т.д., реализует не собственное стремление к самосохранению, а стремление системы более высокого уровня (человечества, народа, социума других уровней). То есть, в отношении себя самого он не ведёт себя как разумное существо, он ведёт себя как неразумный (но, при этом, может быть весьма интеллектуальным) исполнитель воли (желания, стремления) системы более высокого уровня, нежели он сам.

И таких ситуаций и в социуме, и в природе очень много – начиная от самопожертвования (во имя группы, во имя популяции, во имя вида) до рождения и воспитания детёнышей (тут ведь реализуется стремление к самосохранению вида/популяции, а не выживание самой особи).

Цитата: ключ от апреля 11, 2023, 21:08:48Сложнее с разумом (если его всё же удастся создать).
Создать то может и можно ,а вот использовать... 

Используют разумные системы – только в путь. Через установленные программы, можно системой управлять, использовать её в своих интересах и т.д. На установку таких программ направлено любое обучение (и в форме воспитания – «что нельзя», и в форме дрессировки – «как надо»).

В армии, на производстве, в семье и т.д. разве не используют одни разумные других разумных? Ещё как используют. Поймите, разум, это только способность реализации стремления к самосохранению с помощью (посредством) интеллекта, а уж как этот «посредник» (интеллект) будет это дело реализовывать – это вопрос отдельный.

Например, инсталлирована в интеллект какая-то глючная программа, и вот эта программа может так «нареализовать» стремление к самосохранению, что мама не горюй (лучше бы вообще ничего не реализовывала, нежели так).

Мало того, в нас инсталлируются программы весьма легко благодаря наличию врождённого функционала (подражательный рефлекс) и врождённой психологической пластичности (обычно проявляется в виде следования моде, конформизма и готовности подчиняться).

Огромное количество таковых программ являются просто паразитическими и никак не помогают в реализации стремления к самосохранению. Хорошо если это программы безобидные (и для себя, и для общества) типа всяких навязанных привычек, навязанных желаний, навязанных моделей (как в поведенческом плане, так и в плане образа мышления) и т.д. А если это какие-то радикальные идеи (всякое там шахидство и терроризм)? Или идеи самоубийства?

Кстати, подвижники, это как раз и есть системы, которых используют, так сказать, втёмную. И очень часто в роли конечного интересанта (того, в интересах которого используют этих самых подвижников) выступает, как это ни странно, только идея (по сути, программа), а не некий организм или сообщество организмов.

Разумеется, реализация этой идеи (программы) тоже может оказаться полезной для каких-то организмов или сообщества организмов, и тогда уже они окажутся конечными интересантами (по крайней мере, мы это дело сможет так интерпретировать).

Повторю:

Подвижник – это всё во имя идеи. Служение идее – вот чему посвящена жизнь подвижника.  То есть, идея (и служение ей, и следование ей, и подчинение её, её реализация и т.д.) главнее, чем реализация собственного стремления к самосохранению (реализация личного выживания). В этом плане, подвижник не отвечает критериям собственной разумности (как, кстати, и любой, человек одержимый какой-то идеей/теорией/желанием).

Таковая идея (программа) расположена настолько высоко в иерархии интеллекта, что не может быть осознана даже на высшем уровне сознания – нет контекста из знаний, который находиться выше данной идеи.

Осознание – это процесс сравнения/сопоставления осознаваемого с имеющимися доступными знаниями.

Тут тоже всё просто, надо только вникнуть:

Цитата: АrefievPV от сентября 06, 2021, 18:21:40Теперь комплект определений, связанных с понятием сознание:

Суть сознания – это условие «со знанием».
Суть механизма сознания – это реализация данного условия «со знанием».
Суть реализации – это процесс осознания (то есть, сравнение/сопоставление со знанием).
Суть состояния в сознании – это наличие процесса осознания.

И осознание на высшем уровне как раз и подразумевает сравнение/сопоставление (оценку) осознаваемого (образа, ощущения, чувства, другой идеи, теории, данных, действий, поведения и т.д. и т.п.) с контекстом из знаний высшего уровня (знаний, которые в приоритете). Но если на высшем уровне эта самая идея, то всё остальное и будет оцениваться (сравниваться/сопоставляться) с позиции именно этой идеи.

Если заметили, то в данном случае ситуация сильно напоминает ситуации с верующими – та же приоритетность знаний просматривается.

О подобном я писал, вот здесь, например:

Цитата: АrefievPV от мая 08, 2021, 14:01:10Кстати, наблюдается также  и постоянное противопоставление веры и знаний. Типа, знания основаны на фактах, а вера основана на фантазиях. Это ложное противопоставление и ложные основания (и в первом и во втором случаях).

Во-первых, вере противопоставлено сомнение, а не знания, как таковые. Вера – это выражение приоритета одних знаний перед другими.

Во-вторых, это факты и фантазии основаны на знаниях, а не наоборот.

В-третьих, вера и религиозная концепция/парадигма/учение – это вещи разные.

Приоритетные знания есть и у верующих, и у атеистов. И, каким образом эти знания оказались в приоритете у конкретного человека, зависит не от самих знаний (типа, от их ложности или верности), а от множества условий: возраста восприятия этих знаний; окружения (в том, числе, и от социального) в котором человек рос, жил и живёт; его врождённых особенностей и т.д. и т.п.

Критическое осмысление также основывается на приоритетных знаниях – именно с позиции приоритетных знаний оцениваются другие знания.

Обычно в приоритет попадают знания наследственные/врождённые; те, что попали первыми; те, что попали в пластичный (ранний) период развития; те, которые оказались связаны с сильными эмоциями/стрессом; те, которые попали из источника, которому мы верим и т.д. и т.п.

Скажу вам по секрету (шутка), что все люди, выросшие в социуме (даже в нечеловеческом социуме), в той или иной мере, зависимы и управляемы программами, которые реализуют не их собственное стремление к самосохранению, а стремление к самосохранению системы более высокого уровня (общества, социума, группы, да хоть волчьей стаи). Получается все мы немного альтруисты.

А тех людей, которые реализуют только собственное стремление к самосохранению, обычно обзывают эгоистами. Но даже у них стремление к продолжению рода в неявной форме присутствует (программа-то врождённая) – например, в форме желания удовлетворить свою похоть. Эгоист не осознаёт на высшем уровне (и не может в принципе, поскольку эта врождённая программа в приоритете), что реализует не собственное стремление к самосохранению, а стремление к самосохранению системы более высокого уровня (вида/популяции). Он, вроде, своё желание (свою потребность) удовлетворяет, но способствует-то он выживанию вида/популяции.

Цитата: ключ от апреля 11, 2023, 21:08:48Первейшее свойство разума-неподчинение и сознательное нарушение дозволенного.

Вообще-то, это не первейшее свойство разума, это производное свойство. И это свойство не разума как такового, а свойство живой системы. Первейшим свойством, если так можно выразиться, является стремление к самосохранению. Вот из этого свойства и проистекает самостоятельность, независимость, неподчинение и пр. – всё то, что мы и обзываем субъектностью.

Разум – это способность реализовать стремление к самосохранению силами/средствами интеллекта.

Здесь же всё просто, надо только вникнуть:

Цитата: АrefievPV от сентября 06, 2021, 18:21:40Привожу комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

До кучи:

Ум системы – это локальное и актуальное проявление разума системы.

И про «сознательное нарушение дозволенного» – это в вас говорит эдакая ментальная установка о «высшести» сознания, о его трансцендентности, о его непознаваемости и т.д. Пора бы уже «скидывать с пьедестала» сознание, «приземлять» его на уровень обыденности. Про сознание я выше пояснил (и комплект определений привёл там).

Задайте себе вопрос, насколько самостоятельно сознание (механизм сознания), и сразу поймёте, что сознание (механизм сознания) – это просто исполнитель алгоритма «сравнение/сопоставление». Дело (функция) сознания – сравнить/сопоставить осознаваемое с имеющимися доступными знаниями. Всё.

При этом, на любом уровне сознания работает один и тот же алгоритм, только знания и осознаваемое разные. Понятно, что и знания (контекст из знаний), и осознаваемое – разные, в том числе, и по форме, и по сложности, и по объёму, и по прочим свойствам/качествам/параметрам.

Цитата: АrefievPV от апреля 12, 2023, 08:47:46Вообще-то, это не первейшее свойство разума, это производное свойство. И это свойство не разума как такового, а свойство живой системы. Первейшим свойством, если так можно выразиться, является стремление к самосохранению. Вот из этого свойства и проистекает самостоятельность, независимость, неподчинение и пр. – всё то, что мы и обзываем субъектностью.

И тут какой то алгоритмический тупик.
лучший способ самосохронения-не соваться никуда.Так и ведет себя большинство людей ,понимая ,что риск всегда выше предполагаемого результата. А так же -что выигрыш сиюминутный ,а последствия наказания-масштабные.
   Но это человек. Его разум может быть и не совершенен ,но его надежность отрегулирована эволюцией. Известен и допустимый процент выскочек ,и процент тех ,кому в итоге уши оборвут.

   А за чем роботу делать то ,что для него опасно? (в плане косвенных и отдаленных последствий).
Робот-камикадзе не имеет разума (что не мешает ему иметь очень сложную программу).Его действия-по сути действия его хозяина-человека и ни что иное.
   Умный робот-трус это другое.
Он и курить то не начнет , понимая  ,что это вредно.

   Тут как то... Придание машине автономности всегда ухудшает управляемость ,ограничивая её надёжностью автопилота.
   В случае с умной машиной автопилот из слуги превращается в партнера.
   Ошибка автоматики-одно ,предательство партнера-другое. То есть получаем как раз  потенциального робота-предателя.
   А почему это не разумно с его точки зрения ?

Блокируем функцию предательства-снова получается камикадзе....

Цитата: АrefievPV от апреля 12, 2023, 08:47:46Через установленные программы, можно системой управлять, использовать её в своих интересах и т.д.

Тут с людьми непонятно.
Вообще то физические интересы человека довольно стабильны. Величина потребной территории не больше ,чем та ,пометить которую хватит мочИ. А почки то обычные ,как у всех.

Какие то высокопоставленные группы всегда были. Они-скорее группа риска ,подвергаемая опасностям и лишениям. А желудки то у них тоже самые обычные ,и их переполнение-не такое уж и благо.

Так же и контроль кого то над кем то относителен и используется на какие то доли процента. Хотя и жертвы на пирамидах ,и избиения младенцев практиковались издавна. Более как способ свалить часть своей вины на Великого духа ,чем рациональные.

Использование ИИ какой то узкой группой в своих интересах как то влияют на основную популяцию?
Или только усугубляет проблемы внутри этой группы ,делая её жизнь ещё более невыносимой и основную популяцию радикально не затрагивает ?