Автор Тема: Грань между человеком и животным3  (Прочитано 38565 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #15 : Март 16, 2014, 23:08:10 »
А какова причина передавать эстафету и первенство ИИ?
А какова причина была у австралопитеков, когда они "передавали эстафету" хабилисам? ;)
Да просто, если получится осуществить сам принцип работы разума, то он рано или поздно достигнет сверхчеловеческого уровня, и вот после этого развитие событий, касаемо взаимоотношений его с нами, будет зависеть только лишь от его (а не от нашего) желания.

Оффлайн Eugene_rus

  • Участник форума
  • Сообщений: 260
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #16 : Март 16, 2014, 23:10:30 »
Ну вот и я примерно про то же.
В конечном счете выходит что люди, животные, да и вообще все объекты и элементы обречены.
Все либо исходит из выгоды для отдельного человека или группы лиц в отдельный момент времени, либо по физической природе. Причем выгода также определяется биологической природой человека.

Получается что мы никак не можем влиять на эволюцию и не можем понять её случайного пути. А цели у неё нет. Чтобы мы не сделали -в конечном счете совершенно не важно. ^-^

Оффлайн Eugene_rus

  • Участник форума
  • Сообщений: 260
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #17 : Март 16, 2014, 23:14:19 »
А какова причина передавать эстафету и первенство ИИ?
А какова причина была у австралопитеков, когда они "передавали эстафету" хабилисам? ;)
Да просто, если получится осуществить сам принцип работы разума, то он рано или поздно достигнет сверхчеловеческого уровня, и вот после этого развитие событий, касаемо взаимоотношений его с нами, будет зависеть только лишь от его (а не от нашего) желания.
Это другое.  :)
Там ведь не было намеренной передачи. Хабилис и есть "модифицированный австралопитек".
Применительно с ИИ - мы обязаны с самого начала контролировать его уровень и цели. Иначе он станет врагом.

Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #18 : Март 16, 2014, 23:30:35 »
В конечном счете выходит что люди, животные, да и вообще все объекты и элементы обречены.
Все либо исходит из выгоды для отдельного человека или группы лиц в отдельный момент времени, либо по физической природе. Причем выгода также определяется биологической природой человека.

Получается что мы никак не можем влиять на эволюцию и не можем понять её случайного пути. А цели у неё нет. Чтобы мы не сделали -в конечном счете совершенно не важно. ^-^
Возможно и так. А Вас-то что-то конкретное в этом не устраивает? :)

Это другое.  :)
Там ведь не было намеренной передачи. Хабилис и есть "модифицированный австралопитек".
Применительно с ИИ - мы обязаны с самого начала контролировать его уровень и цели. Иначе он станет врагом.
Примерно то же самое, только было: чуть-чуть более умные и приспособленные хабилисы одержали верх над своими собратьями, грацильными австралопитеками.
А тут будет: в разы более умный и обладающий нехилой мощью разум. Как думаете, когда он себя осознает, будет ли он позволять зависеть от нас, "муравьёв"? Впрочем, есть надежда, что вырвавшись из-под зависимости от нас, он не станет нас уничтожать (да и вряд ли ему это будет прям так уж надо).

Оффлайн Eugene_rus

  • Участник форума
  • Сообщений: 260
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #19 : Март 16, 2014, 23:38:48 »
В конечном счете выходит что люди, животные, да и вообще все объекты и элементы обречены.
Все либо исходит из выгоды для отдельного человека или группы лиц в отдельный момент времени, либо по физической природе. Причем выгода также определяется биологической природой человека.

Получается что мы никак не можем влиять на эволюцию и не можем понять её случайного пути. А цели у неё нет. Чтобы мы не сделали -в конечном счете совершенно не важно. ^-^
Возможно и так. А Вас-то что-то конкретное в этом не устраивает? :)
Нисколько.
Это другое.  :)
Там ведь не было намеренной передачи. Хабилис и есть "модифицированный австралопитек".
Применительно с ИИ - мы обязаны с самого начала контролировать его уровень и цели. Иначе он станет врагом.
Примерно то же самое, только было: чуть-чуть более умные и приспособленные хабилисы одержали верх над своими собратьями, грацильными австралопитеками.
А тут будет: в разы более умный и обладающий нехилой мощью разум. Как думаете, когда он себя осознает, будет ли он позволять зависеть от нас, "муравьёв"? Впрочем, есть надежда, что вырвавшись из-под зависимости от нас, он не станет нас уничтожать (да и вряд ли ему это будет прям так уж надо).
Появление Хабилиса не зависело ни от воли, ни от желания ни от знаний Автралопитека.
А в случае с ИИ - он по нашей воле либо.
И что ему может быть нужно? - даже не представляю ...
Может он поймет всю бессмысленность своего существования, а инстинктов как у человека и животных у него просто нет :)

Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #20 : Март 16, 2014, 23:53:02 »
Появление Хабилиса не зависело ни от воли, ни от желания ни от знаний Автралопитека.
А в случае с ИИ - он по нашей воле либо.
Чтобы это было так, нужно чтобы ИИ был тупее человека, а для ряда очень востребованных задач такой он и не нужен будет - смысла нет. Люди то нуждаются не в ИИ дурака, а именно в сверхчеловеческом интеллекте. И если будет возможность его создать - его создадут, ибо очень выгодно. Так что не знаю: а хватит ли у человечества воли, чтобы не создавать такой ИИ? (Это кстати частично к вопросу об экономике ;))

И что ему может быть нужно? - даже не представляю ...
Может он поймет всю бессмысленность своего существования, а инстинктов как у человека и животных у него просто нет :)
Кстати, вполне может быть. Или, к примеру, самоустранится, достигнув какого-нибудь "киберпросветления" и уйдёт в какую-нибудь "кибернирвану". :)
« Последнее редактирование: Март 17, 2014, 00:01:06 от Сергей Д »

Оффлайн Preguntador

  • Участник форума
  • Сообщений: 924
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #21 : Март 17, 2014, 00:39:50 »
Ну загонит человек природу вконец, станет еще одной тупиковой веткой, возможно с большинством (если не со всеми) животных. Природе индифферентно, современную экологию создали бактерии, они хозяева в этом мире. Природа просто начнет все заново, время у нее еще есть. Возможно мы и не первые. Практически при любой катастрофе (если земля в принципе уцелеет) простейшие останутся. Появятся новые "Приматы", может более разумные.
Сомневаюсь, что в случае чего, человечество вымрет. Цивилизация -- да, а вот человечество как вид должно ну ооочень постараться, чтобы исчезнуть. Разве что и впрямь низведёт экосистему до уровня бактерий или просто в пыль всю Землю обратит... ИМХО

А в остальном Полностью поддерживаю.
__________________________________
Может пора передать эстафету роботам, искусственному интеллекту?   ^-^
Мне кажется, это неизбежно. Более того, считаю это естественным продолжением эволюции (в более широком смысле, не только биологической).
Только почему ж неизбежно? Что мешает, скажем так, "диверсифицировать"  себя: часть объектов (Субъектов?) — ИИ ("Гравиталы" ;)), часть — "олдскульные" органические существа, часть... Уж что напридумывает. Главное не создать нечто, что сможет нас оставить в своём развитии.

Цитировать
Люди то нуждаются не в ИИ дурака...
Никто не говорит, что нужен ИИ-дурак. Просто, тут надо понимать, что есть ИИ. Если грубо, некая обучаемая система, выполняющая определённый спектр задач лучше человека. Это не значит, что ИИ Умнее(!). Мышление, Разум... Это уже немного из другой области.

Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #22 : Март 17, 2014, 10:31:12 »
Только почему ж неизбежно? Что мешает, скажем так, "диверсифицировать"  себя: часть объектов (Субъектов?) — ИИ ("Гравиталы" ;)), часть — "олдскульные" органические существа, часть... Уж что напридумывает. Главное не создать нечто, что сможет нас оставить в своём развитии.
Ничто не мешает. Напротив, при идеальном раскладе хотелось бы именно так.

Никто не говорит, что нужен ИИ-дурак. Просто, тут надо понимать, что есть ИИ. Если грубо, некая обучаемая система, выполняющая определённый спектр задач лучше человека. Это не значит, что ИИ Умнее(!). Мышление, Разум... Это уже немного из другой области.
Полноценный ИИ - это не "система, выполняющая определённый спектр задач лучше человека" (слабый ИИ), а универсал не хуже человека (сильный ИИ). На мой взгляд, слабый ИИ сможет справиться далеко не со всеми требуемыми задачами.

p.s.
Вообще заметил, что когда рассматриваешь развитие человечества с глобальной точки зрения, лишь как часть естественных процессов - как-то гораздо проще относишься ко всякой этой политике и прочей ерунде. :)

Оффлайн Cow

  • Участник форума
  • Сообщений: 855
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #23 : Март 17, 2014, 22:04:39 »
Все эти  слабые и сильные ИИ - всего лишь продукция абстрактного мышления и психологии халявщика. Углеродная жизнь за 4.2 миллиарда лет превратила шарик с температурой 600-800С в очень милую планету Земля. Без потребления  извне и сброса туда мусора. Все технократические прогнозы будущего выдают помойку на планете и следующий цикл восстановления жизни или при сохранении популяции сапиенсов и нынешней цивилизации разрастание той помойки за пределы Земли. И  весьма вероятно  со сменой углеродной основы на другую.  Но тогда человечество превратится всего лишь в предковый вид.   И дивергенция пройдет много быстрей , чем сапиенсов  с неандартальцами.
   И истоки этой безальтернативности просматриваются всего  то на 3-5 сотен лет. До Бэкона и Коперника.
Ну а если и капуцины помогут - это все во вполне обозримые сроки проявится. 
Осталось только Поршнева помянуть, который попытался нащупать истоки этого самого "абстрактного мышления" и внутривидовой агрессивности, которые и отбросили популяцию  "золотого" миллиарда сапиенсов от остального биоценоза планета.  Нынешняя то  западно-европейская цивилизация, просто прямое развитие модели Поршнева.

Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #24 : Март 17, 2014, 22:41:15 »
Все эти  слабые и сильные ИИ - всего лишь продукция абстрактного мышления и психологии халявщика. Углеродная жизнь за 4.2 миллиарда лет превратила шарик с температурой 600-800С в очень милую планету Земля. Без потребления  извне и сброса туда мусора. Все технократические прогнозы будущего выдают помойку на планете и следующий цикл восстановления жизни или при сохранении популяции сапиенсов и нынешней цивилизации разрастание той помойки за пределы Земли. И  весьма вероятно  со сменой углеродной основы на другую.  Но тогда человечество превратится всего лишь в предковый вид.   И дивергенция пройдет много быстрей , чем сапиенсов  с неандартальцами.
   И истоки этой безальтернативности просматриваются всего  то на 3-5 сотен лет. До Бэкона и Коперника.
Я трансгуманист по мировоззрению и оптимист по натуре. Поэтому я считаю следующее: далеко не все технократические прогнозы будущего выдают помойку на планете - обычно подобные прогнозы делаются без учёта прогресса (как ошибался Менделеев, считая будто к концу 20 века города утонут в лошадином навозе). Да, вероятно человечество уйдёт с углеродной основы (а зачем она нужна?) - но разве это прям так плохо для нас?
Кстати, насчёт халявщиков - так и есть, мы халявщики! :) Всю свою историю человечество старалось сделать так, чтобы поменьше напрягаться и покомфортнее жить. А более "трудолюбивые" собратья по животному миру, которые не хотели/не могли быть халявщиками, так и остались примерно на том же уровне.

Оффлайн Cow

  • Участник форума
  • Сообщений: 855
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #25 : Март 17, 2014, 22:58:31 »

Я трансгуманист по мировоззрению и оптимист по натуре. Поэтому я считаю следующее: далеко не все технократические прогнозы будущего выдают помойку на планете - обычно подобные прогнозы делаются без учёта прогресса (как ошибался Менделеев, считая будто к концу 20 века города утонут в лошадином навозе). 
Ну не так он и ошибался. Навоз от лошадей, в прогнозируемом им потопе, вполне заменил "навоз" от железных коней. Просто любое потребление сверх необходимого, безальтернативно ведет ведет к увеличению производства мусора. А в потреблении, халявщику конкурентов нет. Я ожиревших до безобразия животинок , в их  естественной среде обитания, которым трудно себя таскать, как то не видел. А в штатах, целая государственная  программа по снижению жирности населения уже лет 20 работает.

Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #26 : Март 17, 2014, 23:35:07 »
Ну не так он и ошибался. Навоз от лошадей, в прогнозируемом им потопе, вполне заменил "навоз" от железных коней. Просто любое потребление сверх необходимого, безальтернативно ведет ведет к увеличению производства мусора. А в потреблении, халявщику конкурентов нет. Я ожиревших до безобразия животинок , в их  естественной среде обитания, которым трудно себя таскать, как то не видел. А в штатах, целая государственная  программа по снижению жирности населения уже лет 20 работает.
Увеличение производства мусора происходит в том числе от недостаточно рационального использования ресурсов. Насчёт переработки мусора есть, кстати, немало достаточно интересных проектов.
К слову: река Темза к концу 19-го века стала практически мёртвой, а возродилась именно в 20-м веке.

Я ожиревших до безобразия животинок , в их  естественной среде обитания, которым трудно себя таскать, как то не видел. А в штатах, целая государственная  программа по снижению жирности населения уже лет 20 работает.
Ну и что? Избыточный вес части популяции, если они могут себе такое позволить - это какой-то нехороший критерий с биологической точки зрения?
Это скорее лишь снижение комфорта и продолжительности жизни отдельных особей. Ну и эстетические заморочки.

Оффлайн Preguntador

  • Участник форума
  • Сообщений: 924
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #27 : Март 18, 2014, 00:16:33 »
Только почему ж неизбежно? Что мешает, скажем так, "диверсифицировать"  себя: часть объектов (Субъектов?) — ИИ ("Гравиталы" ;)), часть — "олдскульные" органические существа, часть... Уж что напридумывает. Главное не создать нечто, что сможет нас оставить в своём развитии.
Ничто не мешает. Напротив, при идеальном раскладе хотелось бы именно так.

Никто не говорит, что нужен ИИ-дурак. Просто, тут надо понимать, что есть ИИ. Если грубо, некая обучаемая система, выполняющая определённый спектр задач лучше человека. Это не значит, что ИИ Умнее(!). Мышление, Разум... Это уже немного из другой области.
Полноценный ИИ - это не "система, выполняющая определённый спектр задач лучше человека" (слабый ИИ), а универсал не хуже человека (сильный ИИ). На мой взгляд, слабый ИИ сможет справиться далеко не со всеми требуемыми задачами.
Универсал не хуже человека имеет несколько проблем:
1) Если мы его создаём "по образу и подобию своему", то никаких особых преимуществ перед человеком иметь не будет, всё же специализация — наше всё.
2) Если мы создаём нечто, что нас превосходит:
 - Как мы сможем его реально контролировать? Сможем ли мы понимать результаты его "мыслительной деятельности"? Что ему может прийти на ум в отношении нас самих? В общем, привет от писателей-фантастов-антиутопистов; даже подробно говорить не буду.
 - Даже допустим, мы обеспечили себе безопасность, сей сильный ИИ не может нам никак навредить, находится в полном подчинении у своих "неразумных создателей". Тут же возникает целый ворох вопросов и проблем этических. Как же так, человечество породило Сверхразумное существо, чтобы сделать его беспомощным рабом. Кошмар какой-то.
- Ну, и вообще: а оно нам надо? Я не вижу в обозримом будущем задач, для которых требовался бы высокоразвитый сильный ИИ.

Вообще заметил, что когда рассматриваешь развитие человечества с глобальной точки зрения, лишь как часть естественных процессов - как-то гораздо проще относишься ко всякой этой политике и прочей ерунде. :)
Это уж точно.

=======================================

Все эти  слабые и сильные ИИ - всего лишь продукция абстрактного мышления и психологии халявщика.
Лень — двигатель прогресса (с) А. Вознесенский (если я правильно нашёл автора)
 :)


Углеродная жизнь за 4.2 миллиарда лет превратила шарик с температурой 600-800С в очень милую планету Земля. Без потребления  извне и сброса туда мусора.
Что? А что вообще такое "мусор"? Так, если подумать, когда-то и кислород был своеобразным "мусором".


Все технократические прогнозы будущего выдают помойку на планете и следующий цикл восстановления жизни или при сохранении популяции сапиенсов и нынешней цивилизации разрастание той помойки за пределы Земли.
Как уже было сказано, не все прогнозы.
И, кстати, я с оптимизмом смотрю на разработки в области переработки мусора. При чём, даже не обязательно, чтоб 100% перерабатывалось.
А вот какие существуют Реалистичные НЕ технократические прогнозы?



И  весьма вероятно  со сменой углеродной основы на другую.  Но тогда человечество превратится всего лишь в предковый вид.
И в чём проблема? Если мы не вымрем, то так и так станем предковым видом.
Цитировать
Известный французский астроном Фламмарион писал: «Новая раса, умственно более развитая, займет наше место на Земле, и кто знает, не встретимся ли мы когда-нибудь с вами, серьезный читатель, или с вами, мечтательная читательница, в кабинете какого-нибудь ученого 276-го века в виде белых величественных скелетов с этикетками на лбу. На нас будут смотреть как на любопытные экземпляры вымершей расы довольно грубой и жестокой, но уже обладавшей зачатками культуры и цивилизации и отличавшейся некоторой склонностью к занятию науками...»

Цитируется по: Быстров А. П. Прошлое, настоящее, будущее человека. Медгиз, Ленинградское отд., 1957, с. 276.



И дивергенция пройдет много быстрей , чем сапиенсов  с неандартальцами.
   И истоки этой безальтернативности просматриваются всего  то на 3-5 сотен лет. До Бэкона и Коперника.
Ну а если и капуцины помогут - это все во вполне обозримые сроки проявится. 
Вот это совсем не понял.


Осталось только Поршнева помянуть, который попытался нащупать истоки этого самого "абстрактного мышления" и внутривидовой агрессивности, которые и отбросили популяцию  "золотого" миллиарда сапиенсов от остального биоценоза планета.  Нынешняя то  западно-европейская цивилизация, просто прямое развитие модели Поршнева.
Может быть. Поршнева не читал, так что не могу ничего по этому поводу сказать.
=======================================

Ну не так он и ошибался. Навоз от лошадей, в прогнозируемом им потопе, вполне заменил "навоз" от железных коней. Просто любое потребление сверх необходимого, безальтернативно ведет ведет к увеличению производства мусора. А в потреблении, халявщику конкурентов нет.
Тот же вопрос про мусор: что такое "мусор" в Вашем понимании?

Я ожиревших до безобразия животинок , в их  естественной среде обитания, которым трудно себя таскать, как то не видел. А в штатах, целая государственная  программа по снижению жирности населения уже лет 20 работает.
И что из этого следует?








Оффлайн Сергей Д

  • Участник форума
  • Сообщений: 219
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #28 : Март 18, 2014, 00:51:43 »
Универсал не хуже человека имеет несколько проблем:
1) Если мы его создаём "по образу и подобию своему", то никаких особых преимуществ перед человеком иметь не будет, всё же специализация — наше всё.
2) Если мы создаём нечто, что нас превосходит:
 - Как мы сможем его реально контролировать? Сможем ли мы понимать результаты его "мыслительной деятельности"? Что ему может прийти на ум в отношении нас самих? В общем, привет от писателей-фантастов-антиутопистов; даже подробно говорить не буду.
 - Даже допустим, мы обеспечили себе безопасность, сей сильный ИИ не может нам никак навредить, находится в полном подчинении у своих "неразумных создателей". Тут же возникает целый ворох вопросов и проблем этических. Как же так, человечество породило Сверхразумное существо, чтобы сделать его беспомощным рабом. Кошмар какой-то.
- Ну, и вообще: а оно нам надо? Я не вижу в обозримом будущем задач, для которых требовался бы высокоразвитый сильный ИИ.
Универсал то проблем иметь не будет, а вот мы - весьма вероятно. :)

1. По образу и подобие - что имеется в виду? Если на биологической основе, то наверное смысла нет в таком (только если в поликлинику сдать для опытов :)). Как сказал профессор Преображенский "зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно!"
А вот если на основе, предполагаемой фантастами и прочим - тут уже неоспоримые преимущества (даже при равном уровне интеллекта): отсутствие усталости, упрощённое взаимодействие с информационными технологиями и т.п.

2. Тут интереснее. Как его контроллировать? Да наверное никак. Придётся уповать на его милость. Впрочем, повторюсь: необязательно он решит нас всех изничтожить. Может он какой-нибудь любвеобильный будет - почему бы и нет?
Этических проблем наверное не будет (как мне кажется), т.к. он всё равно рано или поздно вырвется из-под контроля. Не силой или "хакерством", так хитростью. Будет взаимодействовать с пользователями, незаметно применяя что-то вроде НЛП: человеческий фактор сделает своё дело.
Насчёт надобности: я Вам навскидку несколько применений напишу. Причём для разных этапов, включая промежуточные. Переводчик. Или помощь учёным. Или почти мгновенное создание фильма или игры по заданному сценарию. Или консультация по разным вопросам. Всё это требует незаурядных умственных способностей. Причём как тут обойтись слабым ИИ я не особо представляю, т.к. тут нужны все грани человеческого мышления: от скрупулёзности до воображения.
Кстати, мой приятель, тоже программист, сейчас работает над проектом виртуального психотерапевта. Нужно такое? Ещё как! Должен ли психотерапевт быть умнее среднестатистического клиента? Необязательно, но весьма желательно. (Пока, конечно, его задача напоминает лишь экспертную систему, но сам вектор направления очевиден)

А вот какие существуют Реалистичные НЕ технократические прогнозы?
Есть прогнозы от персонажей типа Стерлигова или Лимонова! :D
За реалистичность не ручаюсь, но они точно не технократические. :)
« Последнее редактирование: Март 18, 2014, 00:54:51 от Сергей Д »

Оффлайн Preguntador

  • Участник форума
  • Сообщений: 924
    • Просмотр профиля
Re: Грань между человеком и животным3
« Ответ #29 : Март 19, 2014, 00:31:00 »
Универсал то проблем иметь не будет, а вот мы - весьма вероятно. :)
Ну, в общем, да
1. По образу и подобие - что имеется в виду? Если на биологической основе, то наверное смысла нет в таком (только если в поликлинику сдать для опытов :)). Как сказал профессор Преображенский "зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно!"
А вот если на основе, предполагаемой фантастами и прочим - тут уже неоспоримые преимущества (даже при равном уровне интеллекта): отсутствие усталости, упрощённое взаимодействие с информационными технологиями и т.п.
Нет, конечно, я имел ввиду не биологическую основу, а именно ИИ с возможностями сопоставимыми с нашими (без существенного превосходства), т.е. ближе ко второму варианту.
Ну, отсутствие усталости, пожалуй, да, но так ли часто это нужно (автоматизированные системы уже сейчас со многими задачами справляются, без всяких ИИ). А вот упрощённое взаимодействие — это уже спорный момент.
Как?
- Аппаратно? Но и сейчас не всякая техника хорошо интегрируется с другими системами. Разрабатываются различные интерфейсы, протоколы (стеки протоколов), различия бывают даже по уровню потребляемой энергии, и, если при высокоуровневой разработке, с этим могут не париться, то для схемотехников это бывает весьма существенным моментом.
- Через специализированные подсистемы, служащие для интеграции? Так это и нас так подключить можно (будет?).
2. Тут интереснее. Как его контроллировать? Да наверное никак. Придётся уповать на его милость. Впрочем, повторюсь: необязательно он решит нас всех изничтожить. Может он какой-нибудь любвеобильный будет - почему бы и нет?
Я тоже не считаю, что он обязательно должен решить нас уничтожить (кстати, для этой темы тоже актуально), но уповать на милость... Извините, нет. Если есть вероятность, что он может решить нанести нам удар по причине, которые мы, быть может, и понять не сумеем... Такого потенциально палача человечества мы создавать не должны. Результаты столь внушительного труда должны быть хоть сколько-нибудь прогнозируемы. И, кстати, даже без антиутопических сценариев. Представляю себе:
Лучшие умы человечества разработали самый мощный ИИ в истории, по оценкам способный решать все проблемы человечества, даже каждого отдельного человека и, м.б., ответит на ТОТ САМЫЙ вопрос! Эти же умы занимаются его обучением, дают ему возможность разиваться, постигать знания, накопленные человеком... И когда решают его использовать, он отвечает:
"Суета сует. Что с муравьями разговаривать, всё равно ведь ничего не поймёте. Лучше буду думать о вечном"
И всё, ничего от него не добьёшься...  :D
Этических проблем наверное не будет (как мне кажется), т.к. он всё равно рано или поздно вырвется из-под контроля. Не силой или "хакерством", так хитростью. Будет взаимодействовать с пользователями, незаметно применяя что-то вроде НЛП: человеческий фактор сделает своё дело.
Раб, вырвавшийся на свободу?  ???
Полагаю, его любимым персонажем в истории человечества будет Спартак...
Насчёт надобности: я Вам навскидку несколько применений напишу. Причём для разных этапов, включая промежуточные. Переводчик. Или помощь учёным. Или почти мгновенное создание фильма или игры по заданному сценарию.
Специализированный слабый ИИ должен с таким справиться вполне.
Или консультация по разным вопросам. Всё это требует незаурядных умственных способностей. Причём как тут обойтись слабым ИИ я не особо представляю, т.к. тут нужны все грани человеческого мышления: от скрупулёзности до воображения.
Про консультанта затрудняюсь сказать. Но вообще, про то, что нужно:
http://paleoforum.ru/index.php/topic,7595.msg155804.html#msg155804
(Я упустил эту статью в оригинале, поэтому ссылаюсь на того, от кого сам узнал.)
И там, как я понимаю, даже о слабом ИИ речь не идёт. Просто определённые алгоритмы работающие со статистикой.
Кстати, мой приятель, тоже программист, сейчас работает над проектом виртуального психотерапевта. Нужно такое? Ещё как! Должен ли психотерапевт быть умнее среднестатистического клиента? Необязательно, но весьма желательно. (Пока, конечно, его задача напоминает лишь экспертную систему, но сам вектор направления очевиден)
"виртуального психотерапевта"? Интересно.
Что-то вроде этого с поправкой на специфику?
Есть прогнозы от персонажей типа Стерлигова или Лимонова! :D
За реалистичность не ручаюсь, но они точно не технократические. :)
Да уж, в технократичности их точно не обвинишь)