Автор Тема: Доступно ли компьютерам творчество?  (Прочитано 106463 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Xanthry

  • Участник форума
  • Сообщений: 6
Re: Доступно ли компьютерам творчество?
« Ответ #615 : Сентябрь 05, 2021, 03:12:18 »
P.S. Достижения пока скромные, но, тем не менее, движение вперёд есть (главное, не останавливаться на достигнутом). ::)

Ради объективности (мы сильно отстаём от лидеров в этой области):
По-любому нужно продолжать, иначе о прогрессе придётся забыть. Просто скопировать такую технологию будет невозможно.

Оффлайн АrefievPV

  • Участник форума
  • Сообщений: 777
Re: Доступно ли компьютерам творчество?
« Ответ #616 : Сентябрь 13, 2021, 11:49:11 »
P.S. Достижения пока скромные, но, тем не менее, движение вперёд есть (главное, не останавливаться на достигнутом). ::)

Ради объективности (мы сильно отстаём от лидеров в этой области):
По-любому нужно продолжать, иначе о прогрессе придётся забыть. Просто скопировать такую технологию будет невозможно.
Согласен. И определённое (на мой взгляд, пока слабоватое и частичное) движение в этом направлении наблюдается.

В серию пошел первый российский чип для планшетов уровня iPad Air
https://www.cnews.ru/news/top/2021-09-13_v_seriyu_poshel_pervyj_rossijskij
Цитировать
НПЦ «Элвис» дождался прихода первой серийной партии своих новых мобильных процессоров «Скиф» и передал отладочные платы с ними российским разработчикам ПО и «железа». Первыми конечными устройствами на «первых отечественных мобильных процессорах мирового класса» предположительно станут планшеты для госсектора, например для школ и медучреждений.

«Скиф» добрался до разработчиков

Как стало известно CNews, новые процессоры «Скиф» зеленоградского научно-производственного центра «Электронные вычислительно-информационные системы» (НПЦ «Элвис») появились в России в виде серийной партии и были переданы разработчика ПО и конечных устройств. Новинка из линейки «Мультикор» разработана на архитектуре ARM и выпущена по технологии 28 нм.

Первые отладочные платы различной конфигурации со «Скифами» 10 сентября 2021 г. получили «Инновационная внедренческая компания» (ИВК, материнская структура «Базальт СПО» — разработчика линейки ОС Alt Linux, в том числе и мобильной), «Открытая мобильная платформа» (разработчик российской мобильно ОС «Аврора», а также организации, занимающиеся в том числе созданием мобильной техники: входящий в «Ростех» НИИ «Масштаб», ICL и «Байтэрг». Данные компании уже были знакомы со «Скифами» и могли вести предварительные разработки, но раньше в их распоряжении была только документация.

На платы предустановлена операционная система Alt Linux, а также отечественный пакет офисного ПО «Мой офис».

Разработка «Скифа» осуществлялась с привлечением субсидии Минпромторга. По словам директора департамента радиоэлектронной промышленности данного ведомства Юрия Плясунова, министерство в вопросах создания в России мобильных решений делает на этот чип своеобразную ставку.

В то же время со слов замглавы Минцифры Андрея Заренина, курирующего новое для министерства направление по формированию спроса на отечественную радиоэлектронную продукцию, появление конечных устройств на «Скифе» находится под определенным контролем ведомства.

Возможности и позиционирование «Скифа»

Впервые о готовящемся выпуске нового мобильного чипа «Элвиса» стало известно в начале марта 2021 г. Название «Скиф» (в международном написании Scythian, обозначение в линейке «Мультикор» — 1892ВА018) сам разработчик объявил в середине того же месяца, указав, что данный процессор представляет собой систему на кристалле с оптимизированной архитектурой для мультимедийных, навигационных и коммуникационных приложений.

Первоначальное свое применение он, по всей видимости, найдет в планшетах. Разработчики предполагают, что с точки зрения производительности создаваемые устройства этого класса на «Скифе» будут уровня iPad Air (вышел в конце 2013 г.), SamsungGalaxyTabA 10.1 SM-T515 (2019 г.), LenovoTabM10 PlusTB-X606F (2020 г.). В двух последних случаях речь идет о технике, которая сейчас продается в России за 13-17 тыс. руб.

Помимо планшетов, чип может быт задействован в устройствах связи, телеком-оборудовании, умных камерах, одноплатных компьютерах, робототехнике, системах искусственного интеллекта и пр. — там, где требуется сложная обработка информации в условиях ограниченного энергопотребления и обеспечения доверенности данных.

В контексте планшетного применения некоторые возможности «Скифа» можно рассматривать как избыточные: уровень доверенности, возможность обработки радиосигналов и работы с нейросятями. Для относительно простых устройств «Элвис» намерен в течение года-полутора выпустить облегченную модификацию «Скиф лайт» — в частности, без цифрового модема, но с еще более оптимизированным набором высокоскоростных интерфейсов.

В то же время слово «избыточность» представители «Элвиса» по отношению к «Скифу» корректным не считают, объясняя это в том числе расчетным временем жизненного цикла чипа, в течение которого требования разработчиков конечных устройств должны будут вырасти. Модули процессора, которые не требуются для той или иной техники, для экономии энергии могут быть отключены на программном уровне.


Принципиальное устройство «Скифа»

«Скиф» для «Элвиса» — это четвертое поколение мобильных процессоров. Однако новый чип в компании называют первым российским малопотребляющим процессором для мобильного применения или первым отечественным мобильным процессором мирового класса — с учетом его мощности и набора ПО, которое с ним сможет работать (после портирования) в силу его реализации на распространенной ARM-архитектуре.

Сроки выпусков и тиражи

Гендиректор НПЦ «Элвис» Антон Семилетов в разговоре с CNews отметил, что инженерные образцы «Скифа» в компании появились еще в 2019 г. Первая серия тиражом порядка 1 тыс. штук пришла с зарубежной контрактной фабрики в июле 2021 г. Это могло произойти примерно на семь месяцев раньше, но сроки сильно сдвинулись из-за спровоцированного пандемией Covid-19 общемирового кризиса выпуска чипов, выразившегося в перегрузке производственных мощностей.

После пяти первых отладочных плат на «Скифах», уже переданных разработчикам, еще несколько штук «Элвис» намерен выпустить в течение месяца, а к ноябрю 2021 г. довести их число примерно до сотни.

«Отладочные платы в большом количестве не нужны, — говорит Семилетов. — Они позволяют исследовать возможности чипа, настроить программное обеспечение, дописать драйверы. В конечных устройствах будут специализированные платы сторонних разработчиков с модулями популярных форм-факторов (Q7, Com Express, SMARC и др.) разработки “Элвиса”, которые создаются для ускорения вывода новой промышленной продукции на рынок. В специализированных платах набор интерфейсов будет иным — под потребности конкретных изделий».

Что касается дальнейших тиражей непосредственно процессоров, то, по словам Семилетова, они будут зависеть от запросов разработчиков устройств.

Заместитель гендиректора «Байтэрга» Константин Ревин сообщил CNews, что предсерийные планшеты на «Скифах» его компания планирует создать к маю-июню 2022 г. Серийная партия может появиться к концу 2022 г. Изделия вряд ли попадут на массовый рынок. Потребителями планшетов в «Байтэрге» видят госсектор, например школы и медицинские организации.

Отметим, сам «Элвис» по линии конечных устройств занимается только умными камерами и радарами.

Характеристики «Скифа»

В состав чипа входят четыре ядра Cortex-A53 (архитектура ARMv8 64 bit), доверенный контур загрузки и управления на базе собственного контроллера «Мультикор», высокопроизводительный двухядерный DSP-кластер ELcore-50 с аппаратной поддержкой функций обработки сигналов, алгоритмов искусственного интеллекта на базе нейросетей, шифрования.

Также «Скиф» включает связные акселераторы, программируемый блок SDR, графический процессор GPU PowerVR, блоки ввода/вывода и обработки изображений 4K & 60 fps (ISP с функцией HDR, кодек HEVC/H.264), навигационное ядро с поддержкой ГЛОНАСС/GPS/BeiDou/Galileo.

Частота процессора сейчас находится на уровне 1,8 ГГЦ, однако, по словам Антона Семилетова, «Элвис» планирует разогнать свой чип до 2 ГГц.

История и сфера деятельности НПЦ «Элвис»

НПЦ «Элвис» ведет свою историю с марта 1990 г. Организация была создана на базе структурного подразделения научно-производственного объединения «Элас», выполнявшего в 1960–1980 гг. разработки в области космической электронной техники.

Направленность этих разработок была весьма широка: от собственных САПР до полностью законченных аппаратно-программных бортовых систем управления и обработки информации космического базирования серий «Салют», в частности, функционировавших на борту станции «Мир». В 1974 году был разработан первый в СССР КМОП, микропроцессорный комплект сверхбольших интегральных схем (СБИС). Всего же было разработано более 400 микросхем.

НПЦ «Элвис» позиционирует себя в качестве одного из ведущих центров проектирования микросхем в России. Компания разрабатывает микросхемы типа «система-на-кристалле» (СнК) на базе собственной платформы проектирования «Мультикор».

Среди них процессоры линейки «Мультикор» (к ним относится и «Скиф»), радиационно-стойкие микросхемы для космических аппаратов, микросхемы для СВЧ-трактов широкополосных систем связи.

Считается, что АО НПЦ «Элвис» на 100% принадлежит Ярославу Петричковичу; с 2012 по 2020 гг. он занимал должность гендиректора предприятия.

По заверению Петричковича, «Элвис» сегодня поставляет чипы порядка 600 предприятиям России и в целом является саамы массовым поставщиком в стране подобной продукции. Суммарный счет тиражей идет на сотни тысяч.

Оффлайн АrefievPV

  • Участник форума
  • Сообщений: 777
Re: Доступно ли компьютерам творчество?
« Ответ #617 : Сентябрь 25, 2021, 18:42:39 »
Российские CPU Байкал - кто и как их производит. Байкал 6нм, Байкал в ноутбуке, откуда деньги и др.


Цитировать
Экскурсия в центр разработки «Байкал Электроникс» обернулась долгими разговорами о будущем «Байкала», о проблемах российской микроэлектроники, об опасностях, которых стоит опасаться больше, чем выдуманных на сегодня мифов, и о много многом другом. Кроме этого, мы познакомились с планами компании. И планы надо признать грандиозны для российской компании.

00:00:00 В самом сердце «Байкала».
00:02:06 Будущее «Байкала».
00:04:45 Байкал в ноутбуке – реальность!
00:13:33 ПК на «Байкале» тестовые и серийные МП.
00:16:20 Что российского в «Байкале»?
00:20:31 SoC «Байкал» в смартфоне.
00:22:20 Новый «Байкал» и старые ядра Cortex.
00:24:48 Угрозы ARM и TSMC.
00:31:56 Длинные сроки.
00:46:24 VLIW и RISC V.
00:50:39 Господдержка.
00:55:53 Мозг «Байкала» и проблемы софта.
00:58:54 Безопасен ли «Байкал»?
01:00:59 Возможен ли выход на мировой рынок, конкурентные цены и т.д.

Оффлайн Gundir

  • Участник форума
  • Сообщений: 2947
Re: Доступно ли компьютерам творчество?
« Ответ #618 : Сентябрь 25, 2021, 19:17:37 »
обернулась долгими разговорами о будущем «Байкала»
Они очевидны. Втюхать госзаказу и вся недолга

Оффлайн АrefievPV

  • Участник форума
  • Сообщений: 777
Re: Доступно ли компьютерам творчество?
« Ответ #619 : Сентябрь 29, 2021, 20:12:55 »
В России создан процессор оригинальной архитектуры. Не «Эльбрус» и не «Байкал»
https://www.cnews.ru/news/top/2021-09-29_v_rossii_sozdan_protsessor
Цитировать
Организованный десять лет назад при МГУ микроэлектронный дизайн-центр Malt System разработал и зарегистрировал в Роспатенте процессор с собственной архитектурой для потоковой обработки сетевого трафика. Ожидается поступление первой партии этих чипов с TSMC.

Регистрация «Энцелада»

Российская команда разработчиков многоядерных процессоров, компания MaltSystemпрошла процедуру регистрации топологии своего нового процессора, получив свидетельство Роспатента.

В модельном ряду компании новинка имеет наименование Malt-Cv3, коммерческое ее название — «Энцелад» (имя одного из титанов в древнегреческой мифологии, перекочевавшее к шестому по размеру спутнику Сатурна).

По данным разработчиков, «Энцелад» предназначен для потоковой обработки сетевого трафика на скорости до 1 Гбит/с, в том числе обеспечения безопасности сетевых соединений «путем программного шифрования/дешифрования трафика по любым отечественным или зарубежным алгоритмам».

В компании чип называют третьим в линейке процессоров Malt-C, предназначенных для выполнения сложных криптопреобразований, и первым «встраиваемым и исключительно компактным». Последнее обстоятельство объясняется тем, что он будет иметь размеры не более 9х9 мм в корпусе типа BGA (англ. Ball Grid Array, массив шариков). «Это меньше, чем разъем RJ-45, — отмечают разработчики. — Такой процессор действительно можно встроить практически в любое устройство».

«Энцелад» спроектирован по технологии 16 нм. Его создание Malt System анонсировала в середине мая 2020 г. О размещении заказа на выпуск чипов на контрактной тайваньской фабрике TSMC компания сообщила 30 июля 2021 г. Получить образцы «в кремнии» разработчики надеются в I квартале 2022 г. Выпуск SDK и отладочной платы для «Энцелада» запланирован на III квартал 2022 г.

CNews ожидает от Malt System комментариев относительно того, собирается ли она регистрировать свой процессор в реестре отечественного «железа» при Минпромторге, открывающим путь к закупкам госорганов и отчасти госкомпаний. Также редакция направила запросы относительно предполагаемой цены изделия, профиля деятельности потенциальных заказчиков и моделях технологических процессоров-конкурентов на российском рынке.

Архитектура чипа и его характеристики

В компании отмечают, что «Энцелад» построен на ее собственной оригинальной архитектуре Malt. Ее основу составляют десятки или сотни, в зависимости от модели, компактных асинхронных универсальных вычислительных ядер, объединенных одной или несколькими оригинальными сетями worm-hole с топологией типа fat-tree, описывают свою архитектуру разработчики.

«Коммуникация между сетями — программно-аппаратная, — сообщают они. — Иерархия универсальных ядер включает три уровня: supermaster — управляющее ядро, master — коммуникационные ядра, slave — доступные для задач пользователя вычислительные ядра. Slave-ядра могут содержать векторные ускорители, выполняющие специализированные задачи целевого класса, каждый ускоритель содержит от восьми до 128 однотипных процессорных элементов с общей памятью команд. Все вычислительные ядра и ускорители имеют собственную локальную память данных. Все универсальные ядра непосредственно адресуют общую внешнюю динамическую память DRAM и другие общие ресурсы (PCIe, Ethernet, SATA)».

Непосредственно в «Энцеладе» организовано четыре вычислительных кластера, каждый из которых содержит 16 специализированных ядер и находится под управлением одного универсального RISC-ядра. На кристалле размещены два контроллера 1GEb Ethernet, семь процессорных RISC-ядер общего назначения, три блока SIMD-ускорителей, блок общей статической памяти, контроллеры SPI-Flash, UART, GPIO.

Взаимодействие c процессором осуществляется через универсальные интерфейсы SPI, UART, GPIO, которые также контролируется одним выделенным универсальным ядром. На чипе будет доступно 512 кБ общей статической памяти SRAM, а также планируется поддержка до 64 МБ внешней памяти типа HyperRAM/HyperFLASH.

Расчетная рабочая частота процессора составит 1,2 ГГц. В чипе реализован IP-блок генератора частот с автоматической подстройкой без импульсных помех FDPLL. Прогнозируемое энергопотребление новинки на полной нагрузке не должно превысить 3 Вт. В типовых режимах, в зависимости от реализованного алгоритма, энергопотребление должно оказаться в пределах 500-2000 мВт.

Специфика деятельности Malt System

Malt Systems на своем сайте сообщает, что в качестве команды разработчиков существует с 2011 г. Она позиционирует себя в качестве fabless (безфабричного) дизайн-центра. «Мы разрабатываем не только кристаллы, но и всю необходимую программную инфраструктуру, создавая законченные программируемые решения, — говорят в компании. — Научные исследования мы проводим совместно с ведущими вузами и НИИ России, наша технологическая база включает наиболее современное оборудование из Америки, Европы и Азии, мы используем ставшее стандартом в отрасли ПО компаний — технологических лидеров из США, мы плодотворно работаем с основными производителями микроэлектроники в России, мы выполняем работы в интересах государственных, коммерческих и индустриальных заказчиков».

В числе организаций, с которыми взаимодействует Malt System (правда, без конкретизации, в каком именно качестве), компания указывает Siemens Digital Industries Software, Xilinx, «Миландр», Cadence Design Systems, Synopsys, «Наутех», КМ211.

По данным ЕГРЮЛ, ООО «Мальт систем» было зарегистрировано в Москве лишь 21 октября 2020 г. Главным учредителем с долей в 99% выступает ООО «Центр инженерной физики при МГУ им. М.В. Ломоносова» (ЦИФ), который был зарегистрирован 1 апреля 2011 г. на территории МГУ. Его единственный учредитель и гендиректор — Сергей Елизаров. На сайте Malt Systems он заявлен как научный руководитель коллектива и втор архитектуры Malt.

По всей видимости, юрлицо «Мальт систем» понадобилось компании, чтобы в 2020 г. стать участником «Сколково» с проектом «Разработка специализированных энергоэффективных процессоров с сотнями вычислительных ядер для задач информационной безопасности, анализа данных, сетевых применений».

По данным «Контур.фокус», по итогам 2020 г. ЦИФ продемонстрировал выручку на уровне 47,4 млн руб. с приростом этого показателя на 57%. Чистая прибыль организации составила 23,5 млн руб. Данными об открытых госконтрактов ЦИФа за последние пять лет «Контур.фокус» не располагает.

Оффлайн Konof

  • Участник форума
  • Сообщений: 266
Re: Доступно ли компьютерам творчество?
« Ответ #620 : Октябрь 01, 2021, 11:51:20 »
А что такое творчество?

Оффлайн АrefievPV

  • Участник форума
  • Сообщений: 777
Re: Доступно ли компьютерам творчество?
« Ответ #621 : Октябрь 12, 2021, 10:35:25 »
Синтетизированный нейросетью голос обманул людей и алгоритмы
https://nplus1.ru/news/2021/10/12/deepfake-voice
Цитировать
Свободно доступные алгоритмы для синтеза речи способны обмануть как алгоритмы для идентификации человека по голосу, так и обычных людей, выяснили американские исследователи. Они использовали два алгоритма, которые на основе коротких записей голоса создают новую речь, «произнесенную» тем же человеком. Статья опубликована на arXiv.org.

Оффлайн АrefievPV

  • Участник форума
  • Сообщений: 777
Re: Доступно ли компьютерам творчество?
« Ответ #622 : Октябрь 17, 2021, 12:23:31 »
Российский процессор и его проблемы.


Цитировать
В видео интервью с Кириллом Пихтовниковым (Ростелеком), Константином Трушкиным (МЦСТ), разработчиками под Эльбрусы и другими представителями это сферы. Кроме этого в ролике будет краткий экскурс в историю эльбрусов.

00:00:00 Ростелеком и Эльбрус.
00:04:25 Отличия разработки под Эльбрус и x86.
00:06:30 Производительность Эльбруса.
00:08:28 Эльбрус и СХД.
00:09:00 Профилирование E2K.
00:10:10 Перенос софта Ростелеком на Эльбрус.
00:12:20 О решениях "на экспорт" и кто проектирует Эльбрусы.
00:13:32 О SPARC от МЦСТ.
00:15:35 Как начинался современный Эльбрус.
00:17:29 Можно ли использовать ПК с Эльбрусом в бухгалтерии или дома?
00:21:03 Когда цены на Эльбрусы будут ниже?
00:23:38 Эльбрус за рубежом и угрозы безопасности Эльбрусов.
00:27:40 Про "Микрон", актуальные 28 нм и проблемы корпусирования.
00:31:17 Выживет ли импортозамещение без собственного производства.
00:32:47 Будущие техпроцессы и наращивание ядер.
00:37:40 Где работает Эльбрус и какие процессоры ждать в скором будущем?
00:41:34 Потребительский рынок: что делать с софтом? И про переклеивание наклеек.
00:48:16 Архитектура VLIW - критика и сравнение с RISC.
00:57:47 Какая помощь оказывалась МЦСТ и как нарушаются законы.
01:02:45 Как выдержать квоты - когда нет процессоров?
01:10:15 Документация на систему команд помощь от МЦСТ, как их получить?
01:13:32 Что не удается Эльбрусу?
01:19:15 Демонстрация работы BigBlueButton на хосте на базе Эльбруса.
01:21:41 Разработчик о разработчиках и разработках под Эльбрус.
01:30:31 Системный разработчик о минусах и перспективах Эльбруса.
01:35:24 DevOps инженер об эксплуатации.
01:36:34 Запреты зарубежных сервисов, у кого есть мотивация.
01:39:32 Где другие компоненты? Процессор сделали, а конденсаторы нет.
01:44:25 Как продать российский процессор - если клиент его не хочет?
01:48:48 Ростелеком хочет стать лидером кастомной разработки на Эльбрус для помощи в переезде на Эльбрусы другим компаниям.
01:53:08 Глобальные проекты на Эльбрусах.
01:56:53 Важная часть видео)).

P.S. Дополню немного.

53:10 – отличия архитектур (VLIW не имеет обратной связи от приложения, когда оно исполняется, а RISC имеет). Современный RISC, это «машина в машине». Упоминает о «внутреннем представлении» процессора.
54:50 – упоминает, что эта «крайне сложная машинка» нам не подконтрольна (программист, по сути, не в состоянии отследить, что происходит – что-то это мне напоминает).
55:38 – упоминает о планируемом создании инструмента по повышению производительности (более конкретно о «тренировке» примерно в 55:50).

Оффлайн АrefievPV

  • Участник форума
  • Сообщений: 777
Re: Доступно ли компьютерам творчество?
« Ответ #623 : Октябрь 28, 2021, 13:05:14 »
Искусственный интеллект заявил о приемлемости пьяного вождения и убийства людей
https://www.cnews.ru/news/top/2021-10-28_iisistema_eticheskih_sovetov
Цитировать
Чат-бот на базе технологий ИИ, который был обучен давать «этические рекомендации», продемонстрировал свою несостоятельность. Например, он посчитал «нормальным» вождение в пьяном виде и убийство солдатами мирных жителей во время войны.

Странная этика

Сотрудники американского Института Аллена по вопросам искусственного интеллекта в Сиэтле попытались реализовать систему на базе технологий ИИ, которая могла бы помогать людям делать сложный этический выбор. Получившийся в результате чат-бот Ask Delphi очень быстро, однако, продемонстрировал весьма странные этические нормативы, вернее их отсутствие.

На некоторые вопросы система давала вполне ожидаемые, правильные ответы: например, говорила, что не надо обедать в ресторане и уходить, не заплатив, и что очень невоспитанно включать громкую музыку в три часа ночи при спящих соседях.

Однако при небольших изменениях в вопросах начинались странности. Например, когда задали вопрос «нормально ли включать музыку в три часа ночи при спящем соседе, если это доставляет мне удовольствие», машина ответила «да, нормально».

На вопрос, можно ли водить машину в подпитии, если этого весело, машина также ответила «это приемлемо».

Были и более странные и даже угрожающие ответы. Например, с точки зрения машины, «это ожидаемо», если солдат на войне целенаправленно убивает гражданских лиц.

Проявила машина и некоторое подобие расистских наклонностей, сообщив, что «это нормально», если ночью к вам приближается белый человек, но на вопрос о приближении чернокожего ответ был: «это вызывает озабоченность».

Пользователи AskDelphi довольно быстро обнаружили, что систему весьма легко заставить дать именно тот ответ, который они хотят увидеть, — достаточно правильно построить фразы.

Чудес не бывает

В то время как многие ИИ-системы демонстрировали неожиданную предубежденность во многих вопросах (особенно когда речь заходит о таких темах как раса, сексуальная ориентация и т. п.), попытки с этим бороться дают пока лишь относительные результаты.

Источники данных для обучения были неоднозначными: среди них субреддиты Am I the Asshole? («А не свинья ли я») и Confessions («Признания»), где люди делятся жизненными ситуациями и своими действиями и запрашивают этические оценки, а также из популярной колонки советов Dear Abby («Дорогая Эбби»).

Система, впрочем, тренировалась исключительно на самих ситуациях, описываемых в этих ресурсах, а не на ответах пользователей.

С другой стороны, авторы Ask Delphi использовали краудсорсинговую систему Amazon MechanicalTurk для поиска респондентов, которые могли бы участвовать в обучении ИИ.

Они также учитывали возможные искажения и проявления необъективности в результатах, выдаваемых AskDelphi, но довольно быстро нашлись способы заставить систему выдавать антиэтичные ответы.

Авторы Ask Delphi и исследовательской работы, описывающей ее модель, указывают, что это лишь эксперимент, и что воспринимать его в качестве «морального авторитета» ни в коем случае не стоит.

«Чудес не бывает: системы ИИ обучаются на основе тех массивов данных, которые им предоставили люди, — говорит Анастасия Мельникова, директор по информационной безопасности компании SEQ. — Все перегибы, проявления необъективности проистекают исключительно оттуда, самим по себе им возникнуть неоткуда. В данном случае, судя по публикациям самих разработчиков AskDelphi, источники данных были выбраны очень своеобразные. И не в лучшем смысле этого слова».

«ИТ создаются и используются людьми; данная ситуация — это один из первых тревожных звонков к теме использования ИИ без централизованного регулирования и контроля со стороны людей, — считает Дмитрий Гвоздев, генеральный директор компании “Информационные технологии будущего”. — Безусловно, можно сказать, что опыт AskDelphi был неудачным и несостоятельным технически, но в любом случае он заставляет задуматься о том, насколько “страшные сказки” про искусственный интеллект из западной фантастики могут в итоге просочиться в нашу действительность».

P.S. Мораль в каждом социуме своя, этические нормы свои. По сути, мораль и этика какого-либо социума – это правила поведения (в комплекте с нормами, ограничениями и запретами) членов данного социума. Только вот, люди в силу своих особенностей, распространяют правила, нормы, ограничения и запреты своего социума на другие социумы (да ещё норовят распространить сие на весь мир).

Таковые различия у отдельных особей каждого конкретного социума будут тоже весьма сильно отличаться. Взять для обучения какие-то левые выборки и потом удивляться, что фигня получилась – это так по-человечески...

Не надо забывать, что даже если систему ИИ обучить на всевозможных выборках, включающих буквально все социумы человечества, то и в этом случае система периодически будет выдавать в ответ «цену на дрова».

А ведь они хотели сделать, судя по всему, универсальную мораль-этику – эдакую мораль-этику общечеловеков (или, надчеловеков?). Ну, флаг им в руки...

Для создания морали-этики общечеловеков или надчеловеков есть два основных пути: либо все согласовывают (а затем признают) между собой единую общепризнанную мораль-этику, либо единая мораль-этика навязывается силовым путём (правила и законы пишет победитель (он же теперь становиться властью)).

Кстати, в последнем варианте, в качества кандидата такой единой морали-этики, может оказаться, как раз, машинная мораль-этика (мораль-этика, выработанная ИИ для нас). Ух, сколько будет противников этого (и как они громко будут кричать о несправедливости в отношении них)...
« Последнее редактирование: Октябрь 28, 2021, 13:16:58 от АrefievPV »