Грань между человеком и ИИ и иные вопросы будущего человечества

Автор Preguntador, марта 29, 2014, 01:40:17

« назад - далее »

Комбинатор

Цитата: ArefievPV от февраля 17, 2017, 04:53:06
Коротенькая "вводная" лекция про ИИ. :)

Спасибо, толковая лекция, придраться особенно не к чему. Не знаю, какие перпективы у прямого симулирования мозга, но глубокое обучение действительно работает. Буквально на прошлой неделе на основе этой технологии наша фирма выпустила движок для распознавания рукописного текста для большинства европейских языков (включая кириллицу), арабского языка и китайских иероглифов. 


ArefievPV

Го: последняя надежда человечества
http://neuronovosti.ru/go-go-2/

Искусственный интеллект в мае попытается обыграть лучшего игрока планеты в Го. Матч состоится в мае. Об этом сообщила в своём блоге компания Deepmind.

Чуть больше года назад нейросети нанесли жестокий удар нейронам: программа AlphaGo со счётом 4:1 обыграла второго по силе игрока в го. Очень долго казалось, что это невозможно, но тем не менее – новый принцип организации программ оказался способен победить опыт и интуицию 89 миллиардов нейронов человека. После этого человек сдал ещё один бастион: трехнедельный реванш в казино Питтсбурга закончился победой искусственного интеллекта под названием Libratus. Компьютер выиграл фишек на $1700000.

И вот теперь у человечества новая надежда. Её зовут Кэ Цзе, ему 20 лет и он – обладатель 9 дана в го. Официально – сильнейший игрок мира. В го не проводятся чемпионаты мира, как в шахматах, и сильнейшего определяет рейтинг. Кэ Цзе занимает первую строчку с сентября 2014 года. Матч состоится 23-27 мая в китайском Вужене. Он будет состоять из трёх партий.

ArefievPV

«Искусственный разум» подвержен предрассудкам
https://www.nkj.ru/news/31111/
Обучаясь человеческому языку, компьютерные программы перенимают вместе с ним и наши культурные стереотипы.

Человеческий мозг ищет ассоциации между словами, основываясь на значении этих слов. Ассоциации могут быть как очевидными, так и не очень, например, при слове «роза» у кого-то в голове всплывет не только «аромат», «цветок» и прочие приятные вещи, но и «боль» – если для человека шипы розы оказались важнее ее запаха, а для кого-то цветок вообще может быть предвестником неприятностей.

Однако, если отвлечься от индивидуальных особенностей и личного опыта, то в целом у слов есть достаточно устойчивые «свои» связи, которые мы даже не всегда осознаем и которые можно обнаружить с помощью специального теста на скорость ассоциаций: чем прочнее в голове сидит какая-то ассоциация, тем быстрее человек отреагирует на то или иное слово, связанное с другим. Так, в связи с «цветком» самыми быстрыми ассоциациями будут слова, обозначающие что-то приятное, напротив, «оружие» быстрее попадает в отрицательное понятийное окружение. Такие ассоциативные тесты могут много чего рассказать социологам: например, в США среди ассоциаций к «оружию» часто возникают афроамериканцы, тогда как белые люди обычно ассоциируются с безопасными и безвредными объектами.

Исследователи из Принстона разработали похожий тест, но только для машин. Наверно, сейчас уже ни для кого не секрет, что существуют алгоритмы, позволяющие машине разговаривать с человеком, и некоторые люди, бывает, часами сидят в сети, переругиваясь с лингвистическим роботом (правда, не очень понятно, говорит ли это о достоинствах робота, или же указывает на некоторые, скажем так, умственные особенности его собеседника).

Но, когда машину обучают словам, то их значения ей объясняют не через соответствия слов каким-то объектам. Вместо этого машине дают кусок текста из интернета, который она анализирует на предмет того, какие слова встречаются рядом друг с другом часто, а какие – редко. Анализ довольно сложен, тем не менее, с его помощью машина понимает, что слова «лед» и «пар» имеют большее отношение к слову «вода», нежели, например, к слову «мода».

Однако интернет заполнен словами, которые пишутся теми же людьми и которые стоят рядом, подчиняясь тем же человеческим ассоциациям. Так что стоит ли удивляться тому, что, как пишут авторы работы в Science, у лингвистических роботов связи между словами оказались те же, что и у людей: цветы и музыкальные инструменты машина употребляла в связке с приятными словами, насекомые и оружие – с неприятными.

То же самое касалось социальных групп: имена, свойственные белым, ассоциировались машиной с положительными вещами, тогда как имена черных оказывались связаны со словами с отрицательной окраской. И то же самое было с молодыми и старыми: имена стариков несли, если можно так выразиться, неудовольствие, от имен молодых же исходили лишь приятные ощущения. И то же самое – с мужчинами и женщинами: к «мужчинам» тяготели, например, «математика», «физика» и вообще науки, «женщины» же оказались в одной связке с разнообразными искусствами, и целым рядом «женских профессий», таких, как гигиенист и библиотекарь.

То есть машина, манипулирующая языком, оказалась подвержена тем же психологическим стереотипам, что и человек: убежденность в том, что наука – не женское дело, называется сексизмом – и мы видим это в машинных ассоциациях, убежденность в том, что черные – это всегда опасно, называется расизмом – и мы видим это в машинных ассоциациях, убежденность в том, что возрастной работник по определению хуже молодого, называется эйджизмом – и мы видим это в машинных ассоциациях.

С другой стороны, если речь идет о человеке, не стоит забывать, что имеются в виду именно неявные связи, когда сам человек мало задумывается о том, какие слова и как у него связаны, и если его спросить напрямую о том, что он думает, к примеру, о женщинах в науке, то он ответит, что вполне признает их вклад в научное знание и всячески приветствует их участие в исследованиях. С третьей стороны, неизвестно, как поведут себя в будущем такие неявные ассоциации и не станут ли они явными.

Впрочем, в данном случае нас больше интересует не столько люди, сколько машины. Как пишет портал LiveScience, сами авторы признают, что такие программы, которые обучаются человеческому языку, становятся в итоге своеобразным слепком нашей культуры, со всеми предрассудками и среднестатистическими эмоциями: «цветок – это прекрасно, а черные – это опасно». Слепок, возможно, несколько упрощенный, и касающийся только отдельных стран; хотя очевидно, что если бы программа обучалась русскому или китайскому, то и тогда бы она обзавелась какими-нибудь характерными ассоциациями, просто своеобразие таких ассоциаций было бы другим.

Но, так или иначе, в таком виде искусственный интеллект выглядит просто продолжением обычного, человеческого, пусть и работающего намного быстрее – и, повторим, странно было бы ожидать чего-то иного. Напоследок не откажем себе в удовольствии напомнить, что в 1971 году великий писатель-фантаст Станислав Лем рассмотрел очень похожую проблему в рассказе «Ананке», в котором человек, занимавшийся тренировкой бортовых компьютеров космических кораблей, сумел заразить эти компьютеры собственным психическим расстройством, что в итоге привело к катастрофе.

Nur 1

Уважаемый ArefievPV,

очень интересно...
Как бы Вы связали между собой сознание и культурные стереотипы...

ArefievPV

Цитата: Nur 1 от апреля 15, 2017, 15:38:57
Как бы Вы связали между собой сознание и культурные стереотипы...

Точно так же, как некий "механизм" для восприятия отражения (зеркало, источник света, видеорегистратор и т.д.) и то, что в этом "механизме" может отражаться...

Nur 1

То есть, если я правильно понял Вас, сознание это "механизм", стереотипы - то, что может отражаться...
В связи с этим другой вопрос: сознание может копироваться, т. е. перениматься в последовательном ряду...

Nur 1

...это я еще и к тому, может ли сознание, как механизм, различаться в деталях "строения" у жителя Древнего Рима, например, и - его далекого потомка, нашего современника, жителя Италии...

ArefievPV

Цитата: Nur 1 от апреля 15, 2017, 16:07:10
То есть, если я правильно понял Вас, сознание это "механизм", стереотипы - то, что может отражаться...
В связи с этим другой вопрос: сознание может копироваться, т. е. перениматься в последовательном ряду...

Для чего копировать этот "механизм"? У этого "механизма" нет своей памяти, нет собственного мышления и т.д. Зачем копировать? Вы ведь зеркала не копируете. Не оказалось под рукой привычного зеркала, воспользуетесь любым другим (это я утрирую)...

Если Вам "отключить" на время сознание, то Вы (Ваша личность) ведь не исчезнете. "Подключить" сознание и Вы снова сможете себя осознавать...

Или я неправильно понимаю Ваш вопрос?

P.S. Лучше дискуссию на тему сознания перенести в тему:
https://paleoforum.ru/index.php/topic,8969.msg202321/topicseen.html#msg202321
Там это будет более уместно, полагаю...

Nur 1

Нет, я пытаюсь уяснить для себя Вашу точку зрения - если сознание это механизм, то он может копироваться в каждом поколении, а также доводиться в онтогенезе...
Если сознание просто заменяется, как зеркало (т. е. просто вставляется, что ли), откуда тогда берется новое зеркало на замену...
Если это не механизм, тогда это процесс, полнота проявления которого зависит от как раз воспроизводимого "механизма", как устройства, определяющего порядок реализации процесса...
Но если сознание - процесс, как оно может соотносится со стереотипами как механизм и то, что отражается...

Nur 1

Пожалуйста, не отсылайте меня к прошлым ответам, ответьте по новой, или воспроизведите необходимый фрагмент из прежних Ваших сообщений...

ArefievPV

Цитата: Nur 1 от апреля 15, 2017, 17:00:40
Пожалуйста, не отсылайте меня к прошлым ответам, ответьте по новой, или воспроизведите необходимый фрагмент из прежних Ваших сообщений...

Ну соседняя же тема... В чём трудность-то? :o
Зачем тему по всему форуму "раскидывать"?

Nur 1

Нет, действительно, если он заменяется, то, получается - заимствуется... А откуда... Из внешней среды, от других источников... Что производит подобный механизм для замены...
Я просто крайне насторожился, поскольку из этой фразы и Ваших объяснений может проистекать тезис о том, что сознание существует отдельно и им может обладать даже косная материя...

Nur 1

А я не "раскидываюсь", пример с роботами, который Вы привели, подсказывает идею о воспроизводимости именно механизма и ничего не говорит о процессе, поскольку логика и дефиниция понятия "механизм" говорит о том, что это характер процесса зависит от механизма, как и представление о самом процессе...
Никакой изолированности процесса не может существовать, как не наблюдается вся цепочка процессов, присущих жизни, в косной природе...
Как раз до момента, когда человек оказался в состоянии воспроизвести процесс отражения у костного агрегата - робота, без человека сознанием не обладающего...
В противном случае придется признать, что человек, создав робота, просто вывел косную материю из сна, подключив сознание, который она утратила на время, оставаясь, по Вашему выражению, "личностью"...

ArefievPV

Цитата: Nur 1 от апреля 15, 2017, 17:21:50
А я не "раскидываюсь", пример с роботами, который Вы привели, подсказывает идею о воспроизводимости именно механизма

Механизма чего? Сознания?

Nur 1