paleoforum.ru

Не убедили.

1) Надо понимать, что разум и сознание - разные вещи. Разум - это могущество. Способность добиваться поставленной цели в заранее неизвестной обстановке. Сознание (оно же душа) это форма существования разума, характерная для млекопитающих. То есть то, что смотрит через глаза из черепа наружу.

Если есть разум, то не обязательно должно быть сознание. Пример - наши любезные хозяева - палеонтологический институт, рассматриваемый как одно целое - обладает разумом, превышающий разум любого отдельного человека. В том смысле, что если поставить институту какую-нибудь задачу (пусть даже не по профилю), то он её может решить даже если она непосильна для одного учёного. Но нельзя сказать, что институт как организация обладает сознанием.

Легко можно себе представить, скажем, цивилизацию разумных муравьёв, в которой ни отдельный муравей, ни любая их группа не обладает сознанием, но большая группа муравьёв оказывается способна решать задачи, подразумевающие наличие разумности (по тем  же принципам, по которым их решает институт).

В этом смысле Тьюринг говорил именно о РАЗУМЕ, а Верн, Уэлс и Азимов просто путают одно с другим.

2) Создание искусственного сознания - задача на данный момент непосильная (да и никому не нужная). А с искусственным разумом - не всё так просто.

Интеллектуальные задачи сейчас бывают такие, с которыми лучше справляются люди, и такие, с которыми лучше справляется компьютер. Первая группа задач это либо те задачи, которые связаны с той обстановкой, к которой человеческий мозг (или, скорее, мозжечок) подготовлен миллионами лет эволюции (напр., ориентирование в трёхмерном пространстве), либо задачи, связанные со спецификой сознания как такового (напр., перевод с одного языка на другой или сочинение стихов), либо задачи, до которых компьютер ещё "не дорос" (наука, проектирование оборудования).

Чтобы начался процесс вытеснения человека, не обязательно появление компьютера, превосходящего человеческий мозг по ВСЕМ направлениям. Уже сейчас крупные организации действуют в значительной степени автоматически, хотя и состоят из людей как из элементной базы. Человек может управлять организацией только в очень узких рамках. Представьте себе, например, что директор крупной фирмы, производящей что-нибудь такое массового потребления, является патологически честным человеком. И вот он говорит: "реклама - это обман, наша фирма не будет больше использовать рекламу". Результат - фирма быстренько вытесняется другими, не столь щепетильными.

Т.е. "инициатива" на данном этапе развития человечества - не у человека, а у автоматически действующей сущности под названием "фирма" (или там "государство" и т.п.).

Только не надо сейчас говорить, что всё это уже было у Пелевина и т.д. Я и не претендую на новизну высказываемых мыслей, я их просто собираю в одну кучку.

Т.е., по мере совершенствования компьютеров, человек постепенно вытесняется с позиций, на которых он "всё решает" на позиции, на которых он всё ещё сильнее компьютера, т.е.: а) что-нибудь подать/принести, б) перевести с естественного языка на более формализованный и обратно.

3) Надо понимать, что задача проектирования новых компьютеров не относится к тем, в которых человеческий мозг имеет природное преимущество перед компьютерами. Поэтому в ближайшее время можно ожидать сведение роли человека в данном процессе практически к нулю. В результате произойдёт резкое (в сотни раз) увеличение темпов прогресса вычислительной техники. Это гипотетическое явление называется "футурологической сингулярностью" и в последнее время широко обсуждается в узких кругах тех, кто понимает, о чём идёт речь.

В таком разрезе, не вижу ничего невероятного в появлении лет через 50 компьютера, способного написать речь для кандидата в президенты лучше, чем любой имиджмейкер. Учтите, что компьютер намного более эффективно, чем имиджмейкер, может проанализировать огромный объём информации с сайтов, на которых лохи, подобные нам, трындят о политике. Это даже не учитывая, что по распространённым сейчас традициям, скажем, почтовые сервера имеют вполне законное право использовать содержимое частной переписки для "обобщённых исследований" (т.е. программа обрабатывает кучу писем и выдаёт хозяину некую интегральную характеристику - скажем, количество упоминаний слова "Путин").

4) То, что до "сингулярности" остались десятилетия - успокаивает только в том смысле, что авось помрём к тому времени. Потому что современная элементная база (процессоры) уже вполне достаточна для того, чтобы создать компьютер, обладающий разумом (не сознанием) - грубо говоря, путём объединения кучи процессоров в одну систему. Не происходит это потому что программное обеспечение отстаёт от элементной базы и не позволяет полноценный "переход количества в качество".

Легко подписать международное соглашение, запрещающее производить процессоры мощнее определённого предела - по типу нераспространения ядерного оружия. Но не могу представить, как можно уследить за тем, чтобы никто не создавал искусственный интеллект когда для него уже есть элементная база. Ситуация похожа на мир, в котором никто не догадался как делать ядерную бомбу, но плутония уже наработали столько, что им топят печку на даче.

5) Пролог - всего лишь экзотический язык, ИЗРЕДКА используемый для решения НЕКОТОРЫХ задач искусственного интеллекта.

Вот я какую картинку пытаюсь нарисовать: Разум это сила, т.е. эволюционно прогрессивное явление. А сознание (разум человеческого типа, "душа") - не обязательный атрибут разума, более того, сознание это рудимент, который скоро (в геологическом смысле) начнёт препятствовать разумным существам в борьбе за существование.

Т.е. сначала миллионы лет была эволюция биологических организмов. Потом человек победил - сейчас краткий миг когда естественный отбор на него не действует. Но если человек "выпустит власть" (а он её фактически уже выпустил лет эдак тыщи три назад), то эволюция пойдёт дальше как ни в чём не бывало (с борьбой за существование по Дарвину, но уже с социально-кибернетическими организмами, вооружёнными наукой, ракетами, атомными реакторами и т.п.). Причём у вида homo sapiens в этой борьбе нет ни малейших шансов поскольку его разум обременён наследством, доставшихся от животных ("душой") со всем из него вытекающим (напр., человеческий разум всегда дозирован - в каждой черепной коробке понемногу - и объединение интеллектуальных сил нескольких людей идёт с потерями).

Без "сингулярности" всё это - угроза для далёкого будущего. С "сингулярностью" - может случиться ещё при нашей жизни.

2 rod1gin

Если вы ещё не читали, рекомендую ознакомиться с хорошей статьёй по обсуждаемому вопросу:
http://www.aicommunity.org/reports/sukharev/need_or_not/NeedOrNot.php?fid=460

Спасибо за ссылку. Не читал. Действительно, близко к тому, что я тут хотел сказать. Приятно осознавать, что человечество топает к пропасти не с улыбкой идиота, а начинает помаленьку осознавать опасность. Так, глядишь, и выживем.

Только конец статьи слабоват. Автор забыл про такую штуку как "автоэволюция" ((C) Станислав Лем). Как только человек станет ненужен для цивилизации (даже если цивилизация останется лояльной к человеку), пропадут все силы, удерживающие человека "в форме". А поскольку уже "на подходе" такие вещи как генная инженерия и биоинженерия, изменения в культуре начнут сказываться не только на психике, но и на физической сущности человека. В каком направлении этот процесс будет двигаться - по моему, очевидно - по пути наименьшего сопротивления. Например, человек наверняка захочет избавиться от способности испытывать боль. Наверняка, если родители захотят оставить за своим будущим ребёнком такую способность, им это не разрешат (XXII век на дворе - нельзя же разрешать такой садизм и мракобесие). И пошло-поехало. А в случае выгрузки человеческого сознания в виртуальный мир этот процесс пойдёт не просто быстро, а со свистом.

Цитата: "Комбинатор"2 rod1gin

Если вы ещё не читали, рекомендую ознакомиться с хорошей статьёй по обсуждаемому вопросу:
http://www.aicommunity.org/reports/sukharev/need_or_not/NeedOrNot.php?fid=460

Замечательная статья!

rod1gin. Хотел сначала уточнить определения сознания и разума, но зачем, какая в общем разница какому определению какой ярлык приклеить. Попробую по существу.
Как я понял, основная проблема в спинозовском ограничении, "свобода, есть осознаная необходимость". Т.е. проблема не в машинах, а в том, что, чем культуры глубже интегрированы, тем меньше свободы для инициативы остаётся. Это действительно серьёзная проблема, даже если не затрагивать машины. Впрочем, если инициативы станет совсем мало, тогда и роботам нам потеснить будет проще.
Впрочем я тут оптимист, поскольку пессимистично смотрю на возможность дальнейшей кибернетизации, если можно так выразится. Уже явно наметилась логиста развития информационных технологий и закон Гордона Мура начал давать пробуксовки. И на софтветном рынке всё меньше радикальных нововведений.
И всё же я повторю, если такая проблема и возникнет, придумают соответствующие законы, точно так же, как сейчас ограничивают квоты в трудоустройстве мигрантов (кстати совершено правильно, особено сейчас).
Ведь основная функция государства вовсе не рост ВВП, а увеличение качества жизни людей, ЛЮДЕЙ, а не роботов. Кстати, если не читали, советую почитать "Левиафан" Т.Гоббса.

Далее Вы пишете об автоэволюции Лема (кстати это из "Суммы технологии", что то не припомню?") но ведь автоэволюция или автопоэз по Матуране и Вареллу, или самоорганизация по Пригожину, или положительная обратная связь по Винеру, или автокатализ по... ну понятно дальше, всё это подразумевает не только неравновесное нарастание проблемы, но и стольже неравновесное противодействие ей (например отрицательная обратная связь или гомеостаз). Все неравновесные системы обладают не только способностью к нелинейному развитию, но и к столь же нелинейному гашению всех стохастических факторов, так или иначе снижающих неравновесность. Предвижу возражение. А ведь неравновесность и не снизится вовсе, попросту мы сгниём от собственного безделия. Но ведь самосознание собственной значимости общественых групп это тоже неравновесная система!? Рост националистических движений, в ответ на рост имиграции тому подтверждение. Тоже грозит и роботам.

1) Я в курсе, что термины "сознание", "разум" и т.п. я использую неточно. Это сделано сознательно, для пущей выразительности текста, по праву человека, получившего тройку за кандидатский минимум по философии. Просто я знаю, что неграмотность мне уважаемые форумчане простят, а неудобочитаемый текст - вряд-ли.

2) Слово "автоэволюция" встречается в разных книжках Лема, в частности, в "Фиаско" и "Глас Господа". Употребил я его по той же причине - мне удобнее сделать ссылку на всеми любимого Лема, чем на редкочитаемых (в том числе мной) философов.

Кстати, в "Фиаско" описан практически тот же самый процесс, который мы сейчас обсуждаем, только там он "вырастает" не из рыночной экономики, а из гонки вооружений. При этом цивилизация остаётся лояльной к своему биологическому предку, а вопрос об "автоэволюции" остаётся открытым, поскольку до конца книжки так и не выясняется, как этот предок выглядел исходно.

3) Да, согласен, проблема на самом деле существует уже тысячи лет. Технический прогресс делает старую культуру не отвечающей требованиям времени и беззащитной перед "пассионариями" (т.е. "сволочами", в терминах старой культуры). В результате происходит гибель культуры и замещение её на новую.

Раньше это просто не было столь актуально, поскольку новая культура тоже была построена на базе людей (к тому же потомков "старых" людей), а биологическая сущность людей оставалась неизменной.

4) На государство и прочие общественные группы надежды мало. Не секрет, что существуют такие явления как лоббирование, телевизор и предвыборные технологии. А если процесс зайдёт так далеко, что компьютер научится заниматься политикой, тогда совсем безнадёжно. Слишком большое искушение для политика-неудачника - победить своих более удачливых конкурентов с помощью нечестного приёма.

Государство может помочь только если все необходимые законы будут приняты сильно заранее. А с чего бы им взяться сильно заранее если все озабочены повышением пошлин на импортные автомобили.

5) Говорить о достижении равновесия не приходится, поскольку нет обратной связи. То есть, экономика сильно влияет на человека, а человек на экономику, в перспективе, почти не влияет (даже как потребитель, потому что потребляет он то, что ему скажут по телевизору). Вплоть до того, что новая цивилизация может оказаться вообще нелояльной к человеку - в результате сбоя (типа раковой опухоли).

В конце концов неравновесный процесс, конечно, столкнётся с факторами, снижающими неравновесие, но это может произойти уже после того, как человек упростится до состояния глиста Бычьего Цепня или вообще исчезнет.

6) Насчёт программного обеспечения: Если говорить о средствах разработки программного обеспечения, то тут наблюдается вполне чёткая тенденция: Во-первых, процесс разработки программного обеспечения всё более упрощается за счёт того, что готовая программа становится всё более ресурсоёмкой и медленной (если сравнивать на одном и том же процессоре). Во-вторых, везде где можно, стараются заменить высококвалифицированного специалиста группой низкоквалифицированных (взвод солдатов из стройбата заменяет экскаватор).

7) Насчёт закона Гордона Мура трудно что-либо говорить заранее потому что есть ещё такая тема как нанотехнологии.

Цитата: "rod1gin"Говорить о достижении равновесия не приходится, поскольку нет обратной связи. То есть, экономика сильно влияет на человека, а человек на экономику, в перспективе, почти не влияет (даже как потребитель, потому что потребляет он то, что ему скажут по телевизору). Вплоть до того, что новая цивилизация может оказаться вообще нелояльной к человеку - в результате сбоя (типа раковой опухоли).

А почему обязательно обратная связь должна быть осознанной. Ведь скинхеды это тоже действие обратной связи, стремление системы защитися от неконтролируемой миграции. В экономике она также проявляется неосознанно. Люди сами того не подозревая, затягивают пояса в трудные годы, защищая тем самым кризисную экономику от перегрева. Я не экономист, но точно знаю, таких саморегуляционных петель обратной связи в экономике много. Правда она всё чаще даёт сбои, должен признать, об этом неплохо написано у Сороса в "Кризисе капитализма". Правило "невидимой руки" Адама Смита перестаёт действовать в случае монополизации экономики и особенно глобализации информационного пространства. Попросту психологический фактор может неоправданно обвалить рынок сильнее, чем обстоятельства того заслуживают. Но и это решаемая проблема, попросту нужно научиться государству направлять эту невидимую руку, когда она начинает судорожно дёргаться.

Цитата: "gleb"
Снижение рождаемости по таблицам - может быть явлением временным. Будущее покажет. А может и лавинообразно нарастать.

Это временное явление длится уже лет тридцать, как минимум!
-- Давайте искусственно снизим рождаемость!
Полноте. Она прекрасно снижается и без вашего участия!
Человечеству давно уже грозит, и очень серьёзно грозит, демографическая яма; а не пресловутый, всеми задолбаный, давно уже прошедший демографический взрыв.
Используя элементарную арифметику нетрудно подсчитать, что не позднее 2040 года рост населения планеты остановится полностью! Не более 9 млрд.  А далее численность землян пойдёт на убыль. Причём рождаемость падает повсеместно - и в развитых странах, и в развивающихся: и в Европе, и в Африке.
Разумеется, численность населения не будет сокращаться до бесконечности. Но думаю до конца века этот процесс будет происходить. Тому есть объективные причины.

Цитата: "Njkola"Человечеству давно уже грозит, и очень серьёзно грозит, демографическая яма; а не пресловутый, всеми задолбаный, давно уже прошедший демографический взрыв.

почему "грозит"?, это наоборот хорошо...

ЦитироватьЭто временное явление длится уже лет тридцать, как минимум!
Человечеству давно уже грозит, и очень серьёзно грозит, демографическая яма; а не пресловутый, всеми задолбаный, давно уже прошедший демографический взрыв.

так это же наоборот, хорошо...

ну это кому как... для медведей и иже с ними, скажем, может и хорошо, а вот Homo sapience как вид при таком раскладе может вообще исчезнуть... правда, не исчезнет, до этого не дойдёт - во-первых в европейских странах самая яма рождаемости, судя по цифрам которые я привёл, уже пройдёна, во-вторых есть страны, в основном Африка, где рождаемость всё ещё растёт, в-третьих, не исключено, что на какой-то момент начнёт действовать фактор отбора - если многодетность имеет какой-то наследственный компонент, то потомство таких семей и останется в итоге, а имеющие по 1-2 ребёнка (в среднем в нескольких поколениях, которые ещё не прошли, что затрудняет такой анализ) отсеяться... и тогда население пройдя через определённый минимум вновь начнёт расти. В этом случае основная проблема будет большое количество стариков во время этого минимума, правда при нынешней высокой производительности труда это в общем-то и не проблема, но когда высокая производительность сочетается с высоким потреблением, то в итоге в этом аспекте остаётся ноль... таким образом - il discorso sempre è quello - il consumismo. То есть - всегда та же история - потребление...

Не яма, а переход из одного режима воспроизводства народонаселения в другой. По ямам человечество проехалось в прошлом, хватит уже.  Разговоры о снижении рождаемости - одна из движущих сил этого процесса - люди получа другие помимо размножения ценности, получают навыки планирования семьи, контрацепции и т.п. :roll: Всё пучком, в общем.

Цитироватькак известно любой биологический вид рано или поздно исчезает... и Homo sapiens не исключение

с этого утверждения Odin'а началась тема.

Но почему вообще исчезает вид?
Мне известны две возможные причины:
1) В условиях медленно меняющейся окружающей среды вид специализируется до предела и... бах! - резкое изменение (оледенение, например) -> вымирание - так, вероятно, вымерли мамонты после окончания оледенения (я не верю, что их выбили древние охотники).
2) Вид остается неспециализированным, легко приспосабливается к любым, даже резким изменениям, но где-то появляется другой вид (возможно, из другого класса), который просто вытесняет первый - так попавший в Австралию предок собаки динго вытеснил местного сумчатого волка.

К Homo Sapiens'у ни первая, ни вторая причина не применимы.

Но есть и у человека возможность вымереть: Например, в условиях резкой экономической нестабильности у кого-то не выдержат нервы, дрогнет рука и начнется неконтролируемый обмен ядерными зарядами. Хотя и в этих условиях, думаю, адаптивного потенциала Человека Разумного будет достаточно, чтобы не сгинуть окончательно.

Кстати Кант видел три возможных варианта гибели человечества. Естественый, Противоестественный, Сверхестественный. Сверхестественный мы сразу отбрасываем, остаётся противоестественый, это по вине человека и естественный, это от старости, у идеалистов это исчерпание жизненных потенций, но реально специализация ведь затрагивает не только геном. Почитайте Эдгара По, "Черти на калокольне" (или вроде того, не помню точно) и поймёте, человек со временем превратится в тепличное создание и любые флуктуации его добьют.