Автор Тема: Грань между человеком и ИИ и иные вопросы будущего человечества  (Прочитано 41674 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн василий андреевич

  • Участник форума
  • Сообщений: 6982
    • Просмотр профиля
Закон квадрата-куба...сначала мелкая гадина мало-помалу прыгая с ветки на ветку отрастила длинный палец с кожистой перепонкой и только потом из неё вывелся огромный птеродактиль который сразу вымер при исчезновении благоприятных условий для парения в потоках обтекания прибрежных дюн и обрывов.
  Ну так и транслируйте закон (развития) квадрата-куба в сферу идей. Сначала мелкий гад выделяет премию, тому неверующему, что пролетит пятнадцать метров с помощью собственных мышц, и, о боже, велосипедист с самодельными крыльями эту премию приручил. Дальше больше: "с хорошим мотором полетит и забор", как Вы любите цитировать авиаторов, вот и раскрылись заборы антен, миновав плотные слои...
  Надобность ретроградства в том, что бы включать его мнение, как запрет. Раз нельзя за счет размывания куба по квадрату иметь сносный полет, значит, надо через энерговооруженность.

Оффлайн ArefievPV

  • Участник форума
  • Сообщений: 6471
    • Просмотр профиля
Излишняя самоуверенность нейросетям не к лицу
https://www.nkj.ru/news/34818/
Искусственный разум хотят научить отличать настоящие вопросы от бессмысленных

Хотя нейросети уже умеют успешно различать фотографии, интерпретировать тексты и находить космические радиовсплески, их «внутренний мир» остается загадкой. Даже создатели нейросети не всегда могут сказать, почему она приняла то или иное решение. Некоторые исследователи и вовсе называют нейросети «черными ящиками».

А если нейросети поручат принимать важные решения, от которых зависят жизни людей? Тогда она тем более не должна ошибаться, но чтобы избежать ошибок, мы должны знать, на какие именно детали она обращает внимание. Райан Сокласки (Ryan Soklaski) и его коллеги из Лаборатории Линкольна при Массачусетском технологическом институте предложили сделать шаг назад и вернуться к нейросетям, которые выполняют задачу за несколько приемов. Исследователи создали сеть, которая находит нужные предметы на фотографиях – например, она может отличить маленький блестящий красный шар от цилиндров или кубов.

Сначала нейросеть выискивала все маленькие предметы, затем среди маленьких находила все блестящие и т. д. Иногда нейросеть ошибалась, тогда исследователи вручную вносили коррективы. В итоге удалось добиться уникального результата – нейросеть давала правильные и быстрые ответы в 99,1% случаев, сообщают авторы в публикации на arXiv.org.

Тем временем специалисты из Мерилендского университета обнаружили, что нейросети ошибаются из-за запрограммированной самоуверенности. Они изучили поведение нейросети, способной находить ответы в частях текста или фразах. Обычно резоны таких сетей изучают, исключая слова в вопросе. Если ответ изменился, то это слово для искусственного интеллекта важно.

На сей раз поступили наоборот: стали исключать из вопроса малозначимые, по мнению электронного интеллекта, слова. В одной из фраз говорилось о командах по американскому футболу Panthers и Broncos. На вопрос о том, где тренировались Broncos, нейросеть отвечала правильно – «на стадионе Стэнфордского университета». После того, как специалисты убрали из вопроса слово «Broncos», ответ остался прежним. Нейросеть продолжала однообразно отвечать и тогда, когда в вопросе остались всего три английских слова, и когда на человеческий взгляд это была уже просто бессмыслица, говорят авторы в опубликованном докладе. По их мнению, искусственный интеллект, станет более точным, если научить его по примеру людей определять абсурдные вопросы и требовать уточнений.

P.S. Просто у этого ИИ должна быть собственная модель реальности, относительно которой он и будет выявлять осмысленность, абсурдность, рациональность и т.д.

И чтобы суждения, действия и решения этого ИИ были для людей приемлемы, то модель должна быть весьма схожей с нашей собственной. Но это не сделает систему ИИ разумной (типа, системой ИР), потому что модель реальности у него будет чужая, а не своя собственная. Своя модель реальности формируется всегда с учётом личной системы значимости, которая, в свою очередь, есть средство/инструмент самосохранения системы и, одновременно, неотъемлемая часть модели реальности.

У ИИ нет стремления самосохранится, нет стремления выжить… И все системы личной значимости не его собственные, а людей установивших ему такую систему личной значимости (что хорошо/плохо, что полезно/вредно, что опасно/безопасно и т.д.). Типа, что для нас значимо, то мы и внедрим в ИИ…

Оффлайн василий андреевич

  • Участник форума
  • Сообщений: 6982
    • Просмотр профиля
Своя модель реальности формируется всегда с учётом личной системы значимости,
  Этого недостаточно. Кроме "Я" значимы: семья, группа единомышленников, популяция, биоценоз, экосистема, биосфера ..., и, кроме того, значима история становления "Я", как эволюционирующей части всеобщего.
  ИР, в отличие от ИИ, должен не только оценивать надобность собственной сохранности, но и долю той жертвенности, на которую можно пойти ради сохранности высших иерархий. Но это последнее придет в противоречие с эмоциональной составляющей Естественного Разума.

Оффлайн Шаройко Лилия

  • Участник форума
  • Сообщений: 226
    • Просмотр профиля
    • Наука РФ и за рубежом
А может не надо машинкам человеческий фактор...

У упавшего в море "Боинга" были проблемы со спидометром (5 октября 2018)

http://www.vesti.ru/doc.html?id=3079637&cid=8

Лайнер Boeing 737 авиакомпании Lion Air, потерпевший крушение в небе над Яванским морем, имел проблемы с прибором, показывающим скорость полета. Об этом завил руководитель индонезийского Комитета по обеспечению безопасности на транспорте Суарджанто Тхаджоно, его выводы, основанные на данных с бортового самописца, приводит агентство Reuters.

Причем проблемы фиксировались во время последних четырех полетов. Однако эксперты по безопасности говорят, что еще рано определять точную причину аварии. Представители корпорации Boeing пока отказываются от комментариев.

29 октября Boeing 737 Max 8 (новейшая модификация) выполнял рейс из Джакарты в город Панкалпинанг (Индонезия). Через несколько минут после вылета из столичного аэропорта экипаж запросил экстренную посадку, но связь с ним оборвалась. Через 13 минут после взлета самолет упал в Яванское море и разрушился от сильного удара о поверхность воды. Все находившиеся на борту 189 человек погибли.

На данный момент в парках авиакомпаний находятся 219 лайнеров Boeing 737 Max 8 (новейшая модификация). Предзаказы сделаны еще на 4,56 тысячи самолетов. Катастрофа над Яванским морем — первая с самолетами такого класса.

Страница в Википедии

https://ru.wikipedia.org/wiki/Авиационные_происшествия_с_Boeing_737

Авиационные происшествия с Boeing 737
Материал из Википедии — свободной энциклопедии
Перейти к навигацииПерейти к поиску
Список катастроф и потерь Boeing 737 всех модификаций.

Всего по состоянию на 29 октября 2018 года были потеряны 209 авиалайнеров

там большая таблица в эти 209 строк с 1970 года


Аэрофлот за 60 лет примерно в таком же духе

http://aviatraveller.ru/vse-aviakatastrofy-avarii-samoletov-kompanii-aeroflot/

Для компании Аэрофлот катастрофы сложно назвать уникальным вариантом развития событий. В 2013 году авиакомпании исполнится 60 лет и уже сейчас она может «похвастаться» одним из самых высоких уровней по количеству катастроф в мире. Достаточно обратить внимание, что на сегодня с 1953 года с самолетами Аэрофлота произошло 127 крупных катастроф и аварий более мелкого ранга, задерживающих или откладывающих вылет. Правда, стоит обратить внимание, что в последние годы в катастрофы чаще всего попадали самолеты «дочек» компании. Сам Аэрофлот летает без серьезных катастроф уже около 20 лет



Статистика крушений в России за 10 лет
http://fb.ru/article/228004/statistika-krusheniy-samoletov-v-rossii-za-let

Крупнейшие катастрофы российских пассажирских самолетов № п/п
   Самолет   Год и место крушения   Число погибших   /Число выживших
1   Airbus A310-324   2006 год, аэропорт Иркутска (за пределами взлетно-посадочной полосы)   125 человек/   78 человек
 2   Ту-154М   2006 год, на территории Украины, недалеко от Донецка   170 человек   /−
 3   Boeing 737-505   2008 год, граница Свердловского и Индустриального районов Перми   88 человек/   −
 4   Boeing 737-500   2013 год, международный аэропорт Казани   50 человек/   −
5   Airbus A321-231   2015 год, Синайский полуостров   224 человека  / -
« Последнее редактирование: Ноябрь 06, 2018, 01:47:49 от Шаройко Лилия »

Оффлайн ArefievPV

  • Участник форума
  • Сообщений: 6471
    • Просмотр профиля
Нейросеть против нейросети
https://www.nkj.ru/news/34846/
Изображения, созданные с помощью методов машинного обучения, могут быть распознаны другими нейросетями, но уже не человеком.

Легко ли отличить настоящую фотографию от так называемого «фотошопа»? В каких-то случаях это может сделать каждый, уж очень явные артефакты монтажа присутствуют на изображениях. Существуют даже целые подборки забавных фотографий, где графическая редактура доведена до абсурда. Но бывают и такие снимки, где отличить, что называется, на глаз реальность от фальшивки практически невозможно. Отличить реальную фотографию от «фотошопа» помогают специальные методики. Часть из них основана на техническом анализе исходных графических данных. Дело в том, что разные графические инструменты оставляют в изображении свои невидимые отпечатки. Поэтому можно найти следы изменения изображения, или показать, что одно изображение смонтировано из нескольких отдельных кусочков, пусть даже с графической точки зрения монтаж был выполнен идеально.

Сравнительно недавно появился новый вид высококачественных «фейков» – изображения, сгенерированные с использованием методов машинного обучения. Другими словами, нейросети научились, точнее их научили, создавать изображения, которые очень и очень похожи на настоящие. Проблема их идентификации состоит в том, что в отличие от классического «фотошопа», где результат, образно говоря, склеивается из разных кусочков, нейросети могут создавать цельное изображение практически с нуля. С подобными задачами особенно хорошо справляется вид нейросетей, который называется генеративно-состязательная сеть. Такая  сеть фактически состоит из двух сетей: первая, генеративная, учится создавать изображения, а другая – дискриминативная, учится отличать изображения, созданные первой сетью, от «настоящих». В результате этой состязательной работы у генеративной сети получается создавать  такие изображения, которые человек уже в ряде случаев не может отличить от настоящих. Особенно впечатляют результаты работы нейросетей по генерации человеческих лиц.

То, что такие изображения не поддаются обычным методам анализа подлинности, может быть использовано в самых разных и не всегда благих целях. На лицо классическое противостояние брони и снаряда. И если генеративно-состязательный «снаряд» появился, то что можно ему противопоставить? Исследователи из университета штата Нью-Йорк (Корея) разработали новый метод, также основанный на методах машинного обучения, который с высокой степенью точности определит, сгенерировано ли изображение человеческого лица нейросетью или же это настоящая фотография. По крайней мере, обученная исследователями нейросеть успешно справлялась с отличием синтетических лиц от фотографий настоящих людей. Здесь возникает логичный вопрос – почему такая нейросеть может отличить результат работы тандема генеративной и дискриминативной сетей, и чем она отличается от дискриминативной сети, которую по идее должна научиться «обманывать» генеративная сеть?

Можно сказать, что результат работы генеративно-состязательной сети – это всегда некоторое компромиссное решение, направленное на то, чтобы получить качественный итоговый результат, а не 100% победу одной из сетей. В то время как сеть, которая ищет только отличия, может научиться делать это весьма эффективно, находя невидимые человеческому глазу следы работы генеративно-состязательной сети. Впрочем, это не единственная исследовательская работа на подобную тему. Другая группа исследователей относительно недавно представила метод обнаружения сгенерированных изображений, основанный на статистическом анализе распределения цветовых компонентов. Очевидно, что это только начало соревнования машинных методов генерации и определения таких изображений, и, что характерно, эти методы уже лежат за пределами возможностей человека.