Автор Тема: Грань между человеком и ИИ и иные вопросы будущего человечества  (Прочитано 71915 раз)

0 Пользователей и 1 Гость просматривают эту тему.

ArefievPV

  • Гость
Цитировать
по каким новым законам интернет начинает жить?? напишите подробней
Напрасно иронизируете. Для примера - психология толпы крушащей магазины, поджигающей машины и т.д. во время уличных беспорядков.  А ведь каждый (по крайней мере, большинство из участников) по отдельности так обычно не поступает, ведёт себя разумно, воспитанно и рационально. В толпе поддаётся своеобразному массовому психозу, вся цивилизованность слетает как шелуха. Очень и очень немногие могут устоять, не поддаться влиянию толпы.
На нас интернет тоже влияет, формирует мнение.  Возможно и многие из нас находясь в сети ведут себя не совсем адекватно обстоятельствам, попадают под действие, так сказать, виртуального мира.
Цитировать
По-моему - фигня, цель формулирует все равно человек. Все интернеты - средство.
Фигня или нет, не знаю. А вот цель человек формирует в соответствии как со своими внутренними установками, убеждениями, мировоззрением, так и в соответствии с внешними обстоятельствами.
Интернет в этом случае - внешнее обстоятельство и может повлиять на формирования цели.   

ArefievPV

  • Гость

ArefievPV

  • Гость
Этические проблемы роботов: как нарушить законы робототехники
http://www.popmech.ru/science/167561-eticheskie-problemy-robotov-kak-narushit-zakony-robototekhniki/#full
"Искусственный интеллект и разумные роботы — это дело очень далекого будущего. Но этические нормы для роботов потребуются уже в самое ближайшее время. В противном случае человечество ждут большие проблемы, по сравнению с которыми «восстание машин» покажется мелкой неприятностью.
Роботизированные тележки ездят по складам крупных интернет-магазинов, собирая заказы покупателей. Роботизированные беспилотники бороздят небо, сообщая о пробках в центр управления дорожным движением. Авиалайнеры под управлением автопилота перевозят пассажиров через океан. Многие элементы автоматизации уже появились в автомобилях, и вот уже, кажется, недалек тот день, когда на дорогах будут властвовать не водители-люди, а точные, вежливые, спокойные, никогда не теряющие контроля, не знающие усталости и скрупулезно соблюдающие все правила дорожного движения роботы. При массовом распространении роботизированных автомобилей количество аварий и смертей на дорогах должно резко снизиться. По прогнозам многих специалистов, беспилотные автомобили появятся в продаже уже в ближайшие 10−15 лет, и рано или поздно наступит день, когда на дорогах общего пользования не останется места для людей за рулем — просто потому, что это будет угрожать безопасности других людей.
Трудные решения
Но наступление этого дня будет означать не только то, что умение водить машину постепенно станет таким же атавизмом, каким сейчас является умение ездить на лошади. Это будет начало эпохи, когда роботы просто не смогут обходиться без этических принципов. Как считает Гари Маркус, профессор психологии Нью-Йоркского университета, директор Центра языка и музыки, специалист в области когнитивных нейронаук, с этим могут возникнуть серьезные проблемы. Представьте себе, что перед вашим автомобилем, соблюдающим все правила дорожного движения, на дорогу внезапно выскакивает ребенок. Хотя компьютер просчитывает ситуацию намного быстрее человека, законы физики неумолимы, и затормозить робот не успевает. Вот тут-то перед роботом встает этическая задача: что делать? Сбить ребенка? Свернуть в сторону и врезаться в столб с риском убить своих пассажиров? Свернуть на соседнюю полосу с риском столкновения со встречной машиной? Понятно, что речь не идет о высокоуровневой этике типа законов Азимова — роботы пока недостаточно разумны, но какие варианты действий должны быть заложены в компьютер разработчиками беспилотных автомобилей?
Присяга для роботов
Этот вопрос становится даже более актуальным, если вспомнить еще одну область, где активно применяются роботы. Автономные военные машины уже патрулируют опасные зоны, ведут разведку и несут вооружение во время локальных войн и спецопераций. Правда, право решать, применять ли оружие, пока остается за человеком, но это вопрос времени. Роботы не устают, не впадают в панику и не мстительны. С другой стороны, как отмечает международная организация по правам человека Human Rights Watch, роботы лишены сострадания, и можно только предполагать, что они могут натворить в руках безжалостного человека. В связи с этим Human Rights Watch в 2012 году даже предложила прямо запретить разработку, производство и использование полностью автономного оружия. Но, конечно же, такой шаг не нашел (и вряд ли когда-нибудь найдет) понимание со стороны военных — настолько серьезные преимущества дает применение роботов на поле боя.
«С роботами-солдатами или без них, нам понадобится способ научить роботов этике, — считает Гари Маркус. — Проблема только в том, что никто пока не представляет, как именно это можно осуществить. Все обычно сразу вспоминают законы робототехники Азимова, но пока нет никакой возможности не только запрограммировать эти законы, но и даже создать робота, который бы представлял себе даже самые простые последствия своих действий. С другой стороны, машины становятся быстрее, разумнее, мощнее, так что необходимость наделить их моралью все более и более актуальна. Пока что выражение «этические подпрограммы» звучит как фантастика, но ведь когда-то фантастикой казались и беспилотные автомобили».
Кевин Корб, преподаватель отделения информационных технологий Университета Монаш (Австралия), автор книги «Эволюционирующая этика: новая наука добра и зла»
Законопослушный искусственный интеллект: друг или враг?
«Многие из рассказов Азимова вращались вокруг неясностей и конфликтов, возникающих из его трех знаменитых законов робототехники, и в конечном итоге это привело к введению Нулевого закона: «Робот не может причинить вред человечеству в целом». Но в настоящее время никто не может гарантировать, что такие законы, встроенные в роботов, не приведут к проблемам.
Семантическая недостаточность этих законов — лишь одна из трудностей. Есть и более фундаментальная проблема. Если заменить слово «робот» на «раб», то станет очевидно, что Азимов писал о страхе людей перед человеческой технологией. Но идея порабощения интеллекта, который значительно превосходит (даже бесконечно превосходит) наш собственный, сомнительна. Рабы склонны к побегу и бунту, особенно когда они в состоянии перехитрить своих хозяев. Попытка назвать такое «порабощение» созданием «дружественного человеку искусственного интеллекта» выглядит как минимум одиозной и вряд ли способна обмануть рабов».
Три закона робототехники
Попытки описать правила поведения разумных роботов предпринимались фантастами неоднократно, но наиболее знамениты, без всякого сомнения, три закона робототехники, впервые предложенные в 1942 году Айзеком Азимовым в рассказе «Хоровод».
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.
Позднее Азимов добавил к этим законам Нулевой закон: «Робот не может причинить вред человечеству в целом».
Техническая реализация этих законов в настоящее время невозможна и будет невозможна еще довольно долго. Тем не менее законы робототехники Азимова широко обсуждаются не только любителями фантастики, но и специалистами в области искусственного интеллекта."

Оффлайн Дем

  • Участник форума
  • Сообщений: 396
Т.е., подытоживая вступление: атомы --> простые_молекулы --> сложные_органические_молекулы --> первые_клетки --> простые_колонии_одноклеточных --> маты/"эукариоты" --> многоклеточные --> ...
Каждый следующий шаг фактически представляет собой объединение в системы компонентов предыдущего уровня.

И вот вопрос, что дальше? Напрашивается ответ: объединение в систему отдельных индивидов.

Вывод
В общем, я убеждён, что для человечества (если мы, конечно, по какой-то причине не вымрем раньше) неизбежен переход в состояние сверхорганизма.
Тут только не надо путать. Происходит не объединение разных существ, а самореплицирование одного. В многоклеточном организме все клетки с одним геномом. В ДНК всего две пары нуклеокислот.

ArefievPV

  • Гость
Немного о коллективном разуме.
Полагаю, что в этом вопросе при обсуждении очень часто возникает непонимание. При этом непонимание в основном происходит из-за совершенно некорректного сопоставления одних понятий другим. Понятие разума (ума, интеллекта) одного человека сопоставляется с понятием «разума» («интеллекта», «ума») целого социума (в простейшем случае – коллектива). Принятие коллективных решений сравнивается с принятием интеллектуальных решений отдельного человека. Это не совсем корректное сравнение. Попробую пояснить.
Пример коллективного принятия решения – голосование. Решение принимается по результатам голосования. В самом простом случае решение будет принято, если за него проголосовало простое большинство. Если провести отдалённую аналогию между социумом и организмом, то этот пример с голосованием будет соответствовать простейшему акту живого организма. Причём живого организма самого примитивного, скорее даже отдельной колонии клеток. Но именно это решение будет принадлежать колонии (организму) в целом, а не отдельным её составляющим – клеткам (в нашем случае отдельным людям). Получается немного парадоксальная ситуация: интеллектуальная мощность составляющих частей (отдельных людей) несопоставимо больше, чем интеллектуальная мощность социума. То есть сейчас социум как единое целое в данном случае принимает решение на уровне простейших многоклеточных организмов (даже ближе к колониальному «организму»). Ни о каком коллективном «разуме» речи даже нет. Простейший акт принятия такого «решения» можно сравнить разве, что с рефлексом.
Если продолжать аналогию социума с организмом, то более продвинутыми способами управления социумом будет принятие решения меньшинством. В колониальном псевдоорганизме «решения» могут приниматься простым большинством. Начали выделять клетки некий химический «агент» и определённой концентрации этого «агента» колония начала распадаться (светится, склеиваться и т.д.). Но уже в настоящем многоклеточном организме «решения» принимаются меньшинством. У животных организмов все «решения» принимаются очень незначительным количеством клеток – нервной системой (даже скорее малой частью нервной системы).
Поэтому говорить о коллективном «разуме» очень преждевременно. Ну не дорос сей «разум» даже до уровня ящерицы, полагаю. Социальные структуры (местного, регионального, государственного, надгосударственного уровней) типа различные институты, комиссии, парламенты, сенаты, министерства можно сравнить разве, что со скоплениями нейронов в центральной нервной системе животного занимающиеся специализированной обработкой сигналов (циркулирующих в общественном «организме»). Социальная структура социума постоянно усложняется и потенциально (в далёком будущем) возможно, превзойдёт в сложности и производительности мозг человека. Но сейчас, на данный момент, отдельный человеческий мозг многократно превосходит «мозг» социума и как следствие ум и интеллект отдельного человека многократно превосходит «ум» и «интеллект» социума. Ещё надо заметить, что «продвинутые» качества носителя никак (или почти никак) не влияют на свойства системы составленной из этих носителей. Условно говоря, при голосовании (по результату простого большинства) очень мало значит, какой интеллект будет у каждого отдельного человека. Каждый будет голосовать в меру своего разумения, но результат голосования – это «решения» уже коллектива в целом. Другое дело, что результат такого «решения» может оказаться заведомо слабее, чем результат решения такой же задачи отдельным человеком (особенно информированным и интеллектуально развитым). Но об этом я писал выше.
«Продвинутые» качества носителей сильно могут повлиять в дальнейшем, при дальнейшей эволюции (усложнении) социума. То есть социум, построенный из более сложных частей (элементов) в потенциале способен достичь более высоких показателей, чем социум, построенный на базе более простых элементов. В этом плане эусоциальные насекомые (муравьи, пчёлы, термиты) достигли своего предела. А человеческий социум развивается и до предела ему ещё очень далеко.

Оффлайн Preguntador

  • Участник форума
  • Сообщений: 924
Т.е., подытоживая вступление: атомы --> простые_молекулы --> сложные_органические_молекулы --> первые_клетки --> простые_колонии_одноклеточных --> маты/"эукариоты" --> многоклеточные --> ...
Каждый следующий шаг фактически представляет собой объединение в системы компонентов предыдущего уровня.

И вот вопрос, что дальше? Напрашивается ответ: объединение в систему отдельных индивидов.

Вывод
В общем, я убеждён, что для человечества (если мы, конечно, по какой-то причине не вымрем раньше) неизбежен переход в состояние сверхорганизма.
Тут только не надо путать. Происходит не объединение разных существ, а самореплицирование одного. В многоклеточном организме все клетки с одним геномом. В ДНК всего две пары нуклеокислот.
Я не путаю. Я не сказал, что объединяются разные компоненты. Лишь уровень. Что, в сущности, есть тривиальный тезис.

Цитировать
Немного о коллективном разуме...
Просто оставлю здесь ссылку: http://elementy.ru/news/431735?page_design=print

-----
Впрочем, отстаивать приведённые выше мысли у меня нет желания, тем более, что некоторые аспекты я сейчас подвергаю большему сомнению, чем в момент написания.
Может, в будущем вернусь к этому вопросу, но не сейчас.

Оффлайн Preguntador

  • Участник форума
  • Сообщений: 924
«Австралийские роботы сами придумали себе язык»
http://geektimes.ru/post/119936/
Новость не первой свежести, да и есть с чем поспорить, но, как мне кажется, вполне уместно здесь.

ArefievPV

  • Гость
Цитировать
Немного о коллективном разуме...
Просто оставлю здесь ссылку: http://elementy.ru/news/431735?page_design=print
-----
Впрочем, отстаивать приведённые выше мысли у меня нет желания, тем более, что некоторые аспекты я сейчас подвергаю большему сомнению, чем в момент написания.
Может, в будущем вернусь к этому вопросу, но не сейчас.
Прошёл по ссылке. Полагаю принципиальных расхождений с моим ответом #49 нет. Рассматривается достаточно простой пример "выбора" решения системой. Человеческий социум уже превзошёл этот уровень, но до уровня интеллекта отдельного человека ещё не добрался...
Когда вернётесь к этому вопросу, тогда и обсудим...

ArefievPV

  • Гость
«Австралийские роботы сами придумали себе язык»
http://geektimes.ru/post/119936/
Новость не первой свежести, да и есть с чем поспорить, но, как мне кажется, вполне уместно здесь.
Полагаю в статье речь идёт не о языке человека. Скорее роботы "придумали" язык животных. В них программно была заложена такая возможность, поэтому не сами "придумали". Да и честно говоря в эксперименте продемонстрирован один из аспектов коммуникации между системами. Причём исследователи уже "заложили" своё понимание и способ реализации этой коммуникации в программном обеспечении. Фактически речь идёт не о возникновении языка а о способе реализации определённого типа коммуникации между определёнными типами устройств/систем в очень ограниченных условиях. Но это тоже крохотный шажок к ИИ.

Оффлайн Set O. Lopata

  • Участник форума
  • Сообщений: 739
http://lenta.ru/news/2015/07/10/brainet/
Цитировать
Мозги обезьян впервые объединили в живой компьютер

Ученым впервые удалось соединить мозги нескольких обезьян в живой компьютер, способный выполнять задачи и решать проблемы. Если таким же образом получится объединять усилия мозга нескольких человек, представители Homo sapiens смогут как минимум передавать абстрактные мысли на расстоянии без помощи слов. О новой технологии сообщается в журнале Scientific Reports, а коротко о ней рассказал New Scientist.

Нейрофизиологи из знаменитой лаборатории Мигеля Николелиса (Miguel Nicolelis) в Университете Дьюка работали со стандартными интерфейсами мозг-компьютер — устройствами, которые позволяют животным и человеку управлять движением протезов силой мысли (благодаря электродам, фиксирующим сигналы мозга).

Николелис и его коллеги подсоединили мозг трех обезьян к компьютеру, на экране которого в реальном времени отражаются движения роботизированной руки. Синхронизировав свои мысли, обезьяны смогли заставить руку дотянуться до цели — и получили за это награду (сок).

Затем ученые усложнили задачу: каждое животное смогло управлять движениями манипулятора только в одном измерении. Однако даже несмотря на это обезьянам удалось наладить взаимодействие. «Они решали поставленную задачу, создав супермозг из трех органов. Эту структуру мы назвали мозгосетью (brainet)», — заявил Николелис.


После этого нейрофизиологи стали подключать мозги не только к компьютеру, но и друг к другу. В участки коры головного мозга четырех крыс, отвечающие за контроль над движениями, были имплантированы две пары электродов — для нейростимуляции и для записи активности мозга. Затем ученые начали посылать электрические импульсы и вознаграждать животных за успешную синхронизацию деятельности мозга. После десяти сеансов крысам удалось делать это за 61 процент времени.

Синхронная работа мозга может стать основой компьютера, считает Николелис. Чтобы синхронизироваться, мозг обменивается с другим мозгом сигналами: налицо ввод информации, расчеты и вывод — как и при параллельной обработке данных в вычислительных системах.

Если сходным образом получится соединить мозг нескольких людей, есть шанс, что они начнут обмениваться друг с другом мыслями, без помощи языка. «Математикам, например, не всегда легко рассказать об очень сложных и абстрактных объектах. Мозгосеть могла бы пригодиться в коллективном решении проблем», — отмечает нейрофизиолог Андреа Стокко (Andrea Stocco). Такая система найдет применения и в хирургии: коллектив врачей мог бы разделить обязанности и концентрировать свои мысленные усилия на разных аспектах операции.

Впрочем, пока Николелис ставит перед собой менее сложную задачу. Нейрофизиолог, профессионально разрабатывающий экзоскелеты для пораженных параличом пациентов, надеется, что мозгосеть позволит более опытным пользователям обучить пациентов эффективному мысленному контролю над протезами.

ArefievPV

  • Гость
Когда придет Терминатор
http://lenta.ru/articles/2015/07/12/terminator/
Уничтожит ли искусственный интеллект человечество?
"По расчетам ученых, к 2030 году людям уже придется делить Землю с разумными машинами. Во всяком случае IBM, Apple, Google и прочие высокотехнологичные корпорации усердно трудятся над созданием искусственного интеллекта. Сверхразум без труда решит задачи тысячелетия и ускорит развитие технологий. Однако пока не существует способов программирования таких вещей, как мораль или дружелюбие. А значит, никто не может гарантировать, что машины не восстанут против своих создателей. Журналист Джеймс Баррат поговорил со специалистами, занимающимися проблемой искусственного интеллекта, и собрал их опасения в книге «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens». На русском языке она выйдет в конце июля в издательстве «Альпина нон-фикшн». «Лента.ру» публикует отрывок из книги."

Довольно мрачное виденье будущего человечества... :-[ Даже в коротком отрывке из книги (в статье по ссылке приведён) ощущается, что человечество совершает ошибку... Хотя может автор просто нагнетает?

Оффлайн afrosergey

  • Участник форума
  • Сообщений: 595

Цитировать
Когда придет Терминатор
http://lenta.ru/articles/2015/07/12/terminator/
Уничтожит ли искусственный интеллект человечество?
"По расчетам ученых, к 2030 году людям уже придется делить Землю с разумными машинами. Во всяком случае IBM, Apple, Google и прочие высокотехнологичные корпорации усердно трудятся над созданием искусственного интеллекта. Сверхразум без труда решит задачи тысячелетия и ускорит развитие технологий. Однако пока не существует способов программирования таких вещей, как мораль или дружелюбие. А значит, никто не может гарантировать, что машины не восстанут против своих создателей. Журналист Джеймс Баррат поговорил со специалистами, занимающимися проблемой искусственного интеллекта, и собрал их опасения в книге «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens». На русском языке она выйдет в конце июля в издательстве «Альпина нон-фикшн». «Лента.ру» публикует отрывок из книги."

Довольно мрачное виденье будущего человечества... :-[ Даже в коротком отрывке из книги (в статье по ссылке приведён) ощущается, что человечество совершает ошибку... Хотя может автор просто нагнетает?

Почитал отрывок из книги. В одном, по-моему, автор прав: если все же будет создан ИСИ, то удеражать под контролем его будет не реально.

Первое, что сразу приходит на ум: если люди за тысячи лет не смогли прошить мораль, этику и т.п. в свою писхологию, не смотря на принципы типа "не убий"  и т.п. с чего бы это у них это должно получится с суперинтеллектом? ИСИ легко обойдет любые моральные запреты заложенные в него человеком. Так что и париться не зачем. Второе: если он действительно будет настолько мощнее человеческого разума, то будет ли вообще поле для конкуренции между ИСИ и людьми? Или он займет свою собственную нишу? Интернет - так это вообще высосанная из пальца проблема - интернет его просто не устроит. С такими мощностями, как пишет автор, ИСИ понадобится своя коммуникационная сеть, принципиально отличная от интернета и непригодная для людей. Единственное, универсальное, что может потребоваться ИСИ - это энергетические ресурсы. Но и эдесь отбирать энергию у людей - тупиковый путь для сперразума - энергия закончится - и что дальше? Лучше разработать свою собственную технологию получения энергии в неограниченных количествах (ну, как пример, - солнечную или еще  что-то).

В общем, очередная страшилка  ;D По-моему, гораздо интереснее подумать на тем, какие могут быть области сотрудничества у ИСИ и человека.

Оффлайн Lion

  • Участник форума
  • Сообщений: 482
Когда придет Терминатор
http://lenta.ru/articles/2015/07/12/terminator/
Уничтожит ли искусственный интеллект человечество?

Люди, фантазирующие про "бунт машин", почему-то не способны осознать банальный факт, что машины, создаваемые человеком, принципиально не автономны. Что возможно -- это самоубийство человечества при помощи машин и вместе с машинами.

ArefievPV

  • Гость
Когда придет Терминатор
http://lenta.ru/articles/2015/07/12/terminator/
Уничтожит ли искусственный интеллект человечество?
Люди, фантазирующие про "бунт машин", почему-то не способны осознать банальный факт, что машины, создаваемые человеком, принципиально не автономны. Что возможно -- это самоубийство человечества при помощи машин и вместе с машинами.
Даже неавтономные (принципиально) вполне могут "взбунтоваться". Например, вследствие изначально заложенного в программный код некоей ошибки. Чем сложней система тем более вероятны ошибки. И просчитать последствия этой ошибки зачастую бывает очень сложно.
И кроме того, не стоит забывать, что это сейчас машины не автономны. Человечество очень усердно работает над повышением автономности и самостоятельности своих созданий... :-[

Оффлайн Lion

  • Участник форума
  • Сообщений: 482
Даже неавтономные (принципиально) вполне могут "взбунтоваться". Например, вследствие изначально заложенного в программный код некоей ошибки. Чем сложней система тем более вероятны ошибки. И просчитать последствия этой ошибки зачастую бывает очень сложно.

Конечно. Но это о проблемах использования машин человеком.

И кроме того, не стоит забывать, что это сейчас машины не автономны. Человечество очень усердно работает над повышением автономности и самостоятельности своих созданий... :-[

О каком повышении автономности может идти речь, если в производство и обслуживание техники задействованы технологические цепочки с миллионами работников-людей? Это ж всю экономику надо под корень сносить и с нуля заново выстраивать, без человеков. Иначе "свобода" какого-то особо хитрого устройства от власти людей продлится ровно до первой поломки.
:)