Доступно ли компьютерам творчество?

[АrefievPV]

С помощью ИИ удалось создать нелогичные, но чрезвычайно эффективные микросхемы
https://newsstreet.ru/blog/technology/34723.html
Исследователи из Принстонского университета и Индийского технологического института использовали ИИ для сокращения времени и стоимости разработки новых чипов. Они обучили искусственный интеллект создавать сложные электромагнитные структуры и соответствующие схемы на основе заданных параметров за считанные часы.

Исследователи из Принстонского инженерного центра и Индийского технологического института использовали искусственный интеллект, чтобы сделать важный шаг к сокращению времени и затрат на разработку новых беспроводных чипов и открытию новых функций для удовлетворения растущего спроса на более высокую скорость и производительность беспроводной связи.

В статье, опубликованной 30 декабря в журнале Nature Communications, исследователи описывают свою методологию, в рамках которой ИИ создаёт сложные электромагнитные структуры и связанные с ними схемы в микрочипах на основе параметров проектирования. То, на что раньше требовались недели высококвалифицированной работы, теперь можно выполнить за несколько часов.

Искусственный интеллект, лежащий в основе новой системы, создал странные новые конструкции с необычными схемами. Каушик Сенгупта, ведущий исследователь, сказал, что эти конструкции нелогичны и вряд ли были бы разработаны человеком. Но они часто значительно превосходят даже лучшие стандартные микросхемы.

«Мы создаём сложные структуры, которые выглядят как случайные формы и при соединении с цепями они обеспечивают ранее недостижимую производительность. Люди не могут их по-настоящему понять, но они могут работать лучше», — сказал Сенгупта, профессор электротехники и вычислительной техники и содиректор NextG, программы партнёрства Принстона с промышленностью для разработки коммуникаций нового поколения.

Эти схемы можно усовершенствовать для более энергоэффективной работы или сделать их работоспособными в огромном диапазоне частот, что в настоящее время невозможно. Кроме того, этот метод позволяет синтезировать сложные структуры за считанные минуты, в то время как на создание обычных алгоритмов могут уходить недели. В некоторых случаях новая методология позволяет создавать структуры, которые невозможно синтезировать с помощью существующих методов.

Удай Ханкходже, соавтор и доцент кафедры электротехники в Индийском технологическом институте в Мадрасе, сказал, что новая технология не только повышает эффективность, но и обещает открыть новые подходы к решению задач проектирования, которые были недоступны инженерам.

«Эта работа представляет собой убедительное видение будущего, — сказал он. — ИИ не только ускоряет трудоёмкое электромагнитное моделирование, но и позволяет исследовать доселе неизведанное пространство проектирования и создавать потрясающие высокопроизводительные устройства, которые противоречат общепринятым правилам и человеческой интуиции».

Беспроводные чипы представляют собой комбинацию стандартных электронных схем, таких как те, что используются в компьютерных чипах, и электромагнитных структур, включая антенны, резонаторы, делители сигнала, сумматоры и другие элементы. Эти комбинации элементов собираются в каждом блоке схемы, тщательно разрабатываются вручную и оптимизируются для оптимальной работы.

Затем этот метод масштабируется для других схем, подсистем и систем, что делает процесс проектирования чрезвычайно сложным и трудоёмким, особенно для современных высокопроизводительных чипов, используемых в таких приложениях, как беспроводная связь, автономное вождение, радар и распознавание жестов.

«В классических конструкциях эти схемы и электромагнитные элементы тщательно соединяются друг с другом, элемент за элементом, чтобы сигнал проходил в чипе так, как мы хотим. Изменяя эти структуры, мы добавляем новые свойства, — сказал Сенгупта. — Раньше у нас был ограниченный выбор, но теперь возможностей гораздо больше».
Трудно осознать всю необъятность пространства проектирования беспроводных микросхем. Схемы в современных чипах настолько малы, а геометрия настолько детализирована, что количество возможных конфигураций чипа превышает количество атомов во Вселенной, сказал Сенгупта. Человеку невозможно понять такой уровень сложности, поэтому разработчики-люди и не пытаются. Они создают чипы снизу вверх, добавляя компоненты по мере необходимости и корректируя дизайн по мере сборки.

По словам Сенгупты, ИИ подходит к задаче с другой точки зрения. Он рассматривает чип как единое целое. Это может привести к странным, но эффективным решениям. Он сказал, что люди играют важнейшую роль в системе ИИ, отчасти потому, что ИИ может создавать как неэффективные, так и эффективные решения. ИИ может создавать элементы, которые не работают, по крайней мере, на данный момент. Это требует определённого уровня контроля со стороны человека.

«Есть подводные камни, которые по-прежнему требуют участия человека-дизайнера, — сказал Сенгупта. — Дело не в том, чтобы заменить человека-дизайнера инструментами. Дело в том, чтобы повысить производительность с помощью новых инструментов. Человеческий разум лучше всего подходит для создания или изобретения чего-то нового, а более рутинную, утилитарную работу можно переложить на эти инструменты».

Исследователи использовали ИИ для поиска и проектирования сложных электромагнитных структур, которые разрабатываются совместно с цепями для создания широкополосных усилителей. Сенгупта сказал, что будущие исследования будут включать в себя объединение нескольких структур и проектирование целых беспроводных микросхем с помощью системы ИИ.

«Теперь, когда это показало свою эффективность, мы прилагаем больше усилий, чтобы подумать о более сложных системах и конструкциях, — сказал он. — Это лишь верхушка айсберга с точки зрения того, что ждёт эту область в будущем».

[АrefievPV]

В России создан чип, работающий без электричества. На его основе будут создаваться автономные мини-роботы
https://www.cnews.ru/news/top/2025-02-10_v_rossii_sozdali_chip_dlya
Ученые Балтийского федерального университета им. И. Канта в Калининграде создали прототип химического чипа, работающий подобно нейронам мозга. Ему не нужно электричество, так как вместо электрического тока по его дорожкам бегут химические волны. Это может привести к созданию кажущихся сейчас фантастикой интеллектуальных устройств.

Чип без электропитания

Прототип первого химического чипа, который «работает подобно нейронам мозга», создали ученые Центра прикладной нелинейной динамики Балтийского федерального университета (БФУ) им. И. Канта в Калининграде, сообщили РИА «Новости».
Разработка способна производить вычисления без электропитания. Как предполагается, она ляжет в основу мягких химических роботов.

«Схема чипа в чем-то схожа с электронной микросхемой на полупроводниках, но вместо электрического тока по его дорожкам бегут химические волны. Такая передача сигналов по химическим волноводам напоминает распространение потенциала действия в аксонах живых нейронов. Если говорить совсем метафорично, то это, как если бы желе в баночке начало думать», — сказал старший научный сотрудник БФУ им. И. Канта Иван Проскуркин.

Вычислительные системы на основе реакции Белоусова-Жаботинского

Проскуркин описал чип как возбудимую реакционно-диффузионную среду реакции Белоусова-Жаботинского на основе специального полимера с вшитым катализатором.

Ученые разных стран мира разрабатывают химические вычислительные системы, основанные на реакции Белоусова-Жаботинского, с конца 1980 гг. Советский химик Борис Белоусов В 1951 г. открыл автоколебательную реакцию, опровергнув представление о том, что химические реакции могут быть только необратимыми. Позже Анатолий Жаботинский развил исследования и доказал их значимость для изучения нелинейной динамики, самоорганизации и биологических ритмов. Реакция Белоусова-Жаботинского позволяет воспроизводить спайковые (импульсные) режимы, характерные для биологических нейронов.

В БФУ им. И. Канта для изготовления чипа использовали запатентованную технологию фотопечати — нанесли на предметное стекло тонкий слой прегеля, который в течение нескольких минут экспонировался через специальную маску. Остатки прегеля удалили и на поверхности стекла осталась полимерная «интегральная схема». По словам ученых, этот процесс похож на фотолитографию, используемую в производстве кремниевых микросхем.

Химические волны, возбуждаемые в геле с помощью прикосновения серебряной проволоки, распространяются через асимметричные соединения только в одном направлении. Для этого был спроектирован специальный элемент — химический диод.

«Дизайн химического диода отличается от аналогов тем, что примыкающие части асимметричного соединения содержат разные катализаторы реакции Белоусова-Жаботинского и, как следствие, имеют разные пороги возбудимости. Результаты тестовых экспериментов и компьютерного моделирования позволяют утверждать, что такой подход существенно увеличивает надежность работы и срок службы диода», — пояснила руководитель Центра Анастасия Лаврова.

Перспективы создания химических компьютеров

«По мере усложнения нейроморфные химические чипы смогут выполнять некоторые вычислительные задачи, сохраняя при этом энергоэффективность и компактность. Эта инновация открывает перспективы для создания маленьких мягких полимерных роботов, способных самостоятельно перемещаться, манипулировать миниатюрными предметами и, возможно, даже обучаться», — отметила Лаврова.

О достижении экспериментального воплощения теоретической концепции химического нейрокомпьютера в реальное микроустройство БФУ им. И. Канта сообщил на своем сайте в октябре 2020 г.

«Мы также хотели бы, чтобы это микро-устройство работало на "химическом топливе", не используя электричества. В этом случае оно могло бы быть автономным», — сказал тогда руководитель Центра нелинейной химии БФУ им. И. Канта профессор Владимир Ванаг. Он заявил, что ученым удалось получить «первый в мире химический нейрокомпьютер с адаптивным поведением», который можно назвать химическим мозгом, а не компьютером.

Перспективы использования таких химических нейрокомпьютеров Ванаг назвал «фантастическими»: «Представьте себе полчища маленьких (около миллиметра в диаметре) разумных жучков, которые могут двигаться и совершать целенаправленные действия».

[василий андреевич]

  "совершать целенаправленные действия" - ключевое - направленное к цели. Как "жучки" научаются вырабатывать собственную цель?
  Какова цель нейрона? Химический диод должен быть сродни демону Максвелла - эдакому тепловому диоду, стоящему замок через отбор тех камней, которые случайно летят куда надо Стене.

[АrefievPV]

"совершать целенаправленные действия" - ключевое - направленное к цели. Как "жучки" научаются вырабатывать собственную цель?

Собственная цель (как и желание) вырабатывается у живой (а, следовательно, и разумной) системы, а этим «жучкам» можно задать «цель».

Например, я вот могу задать «цель» (и одновременно это будет и заданным «желанием») резиновому шнуру, растянув его. Его «целью» в растянутом состоянии будет прежнее (нерастянутое) состояние, а реализацией этой «цели» будет сокращение до нерастянутого состояния (возврат к прежнему состоянию). И для растянутого шнура направление к «цели» будет в сторону прежнего (нерастянутого) состояния. Понятно, что и желание у растянутого шнура будет одно – сократится.

И вообще, целеполагание, это просто рационализация желаний (формирование приоритета или равнодействующей между ними)  в рамках (и с позиции) какой-либо рациональной модели (мира, ситуации, жизненных приоритетов и т.д.).

Какова цель нейрона?

Свои цели/желания/стремления у него – самосохраниться, продолжать жить, выжить. А вот навязанные извне (другими клетками, межклеточным матриксом и т.д.) чужие цели/желания/стремления могут быть разные, но это будут уже не его собственные цели/желания/стремления, а цели/желания/стремления надсистемы (системы, в которой нейрон является только лишь элементом). В общем-то, такие навязанные извне чужие цели/желания/стремлению наличествуют практически у любой живой системы (особенно, находящейся в окружении других живых систем).

Химический диод должен быть сродни демону Максвелла - эдакому тепловому диоду,

Нет, не сродни – там всё происходит с затратой энергии (как и в электрическом диоде).

стоящему замок через отбор тех камней, которые случайно летят куда надо Стене.

«Куда надо», это с позиции наблюдателя. А люди, так вообще – в любой случайной и бессмысленной хрени пытаются выявить закономерность и смысл. И, что характерно, очень часто выявляют такие вот «закономерности» и умудряются наделить их «глубокими смыслами».

[василий андреевич]

Собственная цель (как и желание) вырабатывается у живой (а, следовательно, и разумной) системы, а этим «жучкам» можно задать «цель».

Еще лет десять назад на этом форуме заклевывали того, кто применит термин цель по отношению к нечеловеку, но ныне допускается. Поставить "выживание" вместо цели - своеобычно, но непродуктивно.
  По иному: поддержание симметрии при спонтанных нарушениях - ближе к понятию цельно-выживания.
  Можно и на резиновом жгуте, который эволюционирует-усложняется за счет тех спонтанных нарушений, которые залечиваются "рубцами" напряженных состояний то растянутости, то сжатости. Тогда быть в состоянии готовности противостоять неопределенным стрессам внешнего действия, значит, перераспределять области растяжения-сжатия, как минимизацию противодействия внешнему действию. Именно минимизация противодействия оставляет ту дельту энергий, которую можно присвоить.
  Получаем ту запрещенность классического мироописания, при которой тепловые флуктуации "холодного океана" утилизируются в "горячем конденсате химических реакций". Получаем представление о простейшей цели, как выборе-отборе, но лучше, перераспределении случайностей по нишам для конденсаций. Конденсация - это просто способ поглотить тепло без увеличения температуры.

  Вот и наши жучки из приведенной Вами статьи должны научаться вырабатывать обобществленную цель, как пространство с наинизшим потенциалом, "над" которым им предстоит проходить этапы усложнения в иерархические группировки, способные сделать отходы производства конденсирующимися доходами.

[АrefievPV]

Интонацию и темп речи назвали отдельным языком с правилами и «словарным запасом»
https://naked-science.ru/article/psy/intonatsiya-i-temp
Израильские исследователи обнаружили, что просодия — характеристики речи вроде интонации, темпа, ритма — напоминает отдельную систему знаков. Благодаря этому ее свойству, вероятно, получится создать искусственный интеллект, который будет «понимать» язык без слов.

[АrefievPV]

Правда о нейросетях: за ChatGPT стоят фрилансеры за $2 в час
https://habr.com/ru/articles/906236/
Все мы привыкли думать: нейросети — это магия технологий. Написал запрос — получил текст, картинку или музыку за секунды. Но мало кто задумывается: за «умом» ИИ стоят... обычные люди. И иногда — в весьма неожиданных условиях.

Кто обучает нейросети на самом деле?

ИИ не появляется сам по себе. Его нужно кормить миллионами картинок, текстов, диалогов — и всё это нужно тщательно разметить: что на картинке, где собака, где человек, какие эмоции передаёт текст. И здесь начинается самое интересное: эту работу делают реальные люди. Чаще всего — фрилансеры из стран с невысоким уровнем дохода: Кения, Индия, Филиппины, Пакистан и др. Их называют «мигрантами ИИ» — потому что они работают на глобальные корпорации, но остаются почти невидимыми для мира.

Их задача — часами сидеть за компьютером и:

размечать изображения;

проверять тексты на токсичность;

фильтровать «нежелательный» контент;

оценивать качество ответов нейросетей.

Почему об этом почти не говорят?

Во-первых, корпорациям невыгодно показывать обратную сторону блестящего ИИ-прогресса. Легенда про «самообучающиеся сети» звучит куда круче, чем реальность про тысячи людей, вручную сортирующих миллионы данных.

Во-вторых, работа «мигрантов ИИ» часто оплачивается крайне скромно: от 1 до 3 долларов в час. Многие трудятся без соцгарантий, нормальных условий труда и перспектив роста. Их труд держится в тени — хотя без них мы бы не получили ни ChatGPT, ни DALL·E, ни другие нейросети.

Например, в начале 2023 года Time опубликовал расследование о том, что OpenAI наняла работников в Кении через подрядчика Sama. Их задачей было фильтровать токсичный контент: они вручную помечали сцены насилия, расизма и злоупотреблений, чтобы ChatGPT научился быть «добрее».

Оплата? $1,32–2 в час. Работа? Смотреть на самый тяжёлый контент, который только можно представить.

Бесплатные мигранты

Кроме традиционных рабочих на платформах вроде Amazon Mechanical Turk, существуют ещё и так называемые «бесплатные мигранты». Это миллионы пользователей интернета, которые ежедневно помогают обучать нейросети, выполняя такие задачи, как разгадывание картинок, классификация изображений или ответы на вопросы, без какой-либо оплаты.

Примеры таких задач включают:

Подтверждение правильности меток изображений — например, разгадывание, что изображено на картинке: машина, человек, животное.

Классификация видео — люди могут помочь ИИ понять, что происходит на видео: например, распознавая действия в кадре.

Проверка текстов — корректировка ошибок или помощь в улучшении качества данных.

С такими задачами хоть раз соприкасался каждый из нас. Где их можно встретить:

Игры и приложения. Многие популярные игры, такие как Google's CAPTCHA, reCAPTCHA, или Microsoft's Bing, предлагают пользователям разгадывать пикчи для повышения точности нейросетей, одновременно помогая обеспечивать безопасность на веб-страницах.

Социальные сети. Например, пользователи в Facebook или Instagram часто выполняют неосознанные задания, такие как разметка контента (например, выбор фильтров на фотографиях), помогая ИИ анализировать изображённые объекты.

Сайты. Часто сайты предлагают пройти тест «Что изображено на картинке» или «Покажите все велосипеды».

Самые громкие скандалы

Одним из громких инцидентов стало расследование, проведённое TechRepublic, где выяснилось, что компания Amazon использует миллионы людей, которые работают на платформе Mechanical Turk, с оплатой значительно ниже минимального уровня для работников в США, составляющего 7,25 долларов в час.

В России на платформе «Яндекс.Толока» также возникли вопросы о справедливости оплаты труда. В отличие от Mechanical Turk, «Толока» утверждает, что их модель основана на добровольной помощи и может служить дополнительным доходом для участников. Однако на практике многие пользователи сообщают о низком уровне оплаты и неравномерных нагрузках.

Почему это важно знать?

ИИ кажется безликой машиной, но за его «разумом» стоят эмоции, страхи и надежды тысяч реальных людей. Осознание этого помогает нам трезво смотреть на развитие технологий. Да, ИИ — это круто. Но его «эволюция» построена не только на коде, но и на незаметной, тяжёлой работе людей из самых разных уголков планеты.

P.S. Угу, «самообучение» оно такое... 

Говорил неоднократно, что любую систему обучает среда. Например, адаптация (и процесс, и результат) системы к средовым условиям, это тоже обучение (и процесс, и результат) системы. То есть, система обучается средой, а не самообучается.

[АrefievPV]

DeepMind от Google представляет AlphaEvolve — систему ИИ, которая разрабатывает и оптимизирует алгоритмы
https://habr.com/ru/companies/bothub/news/909764/
У DeepMind есть новая система искусственного интеллекта, которая пишет код — не только для создания приложений, но и для решения математических задач, оптимизации собственного оборудования Google и даже для ускорения обучения таких же моделей искусственного интеллекта, как она сама. Она называется AlphaEvolve, и, возможно, это самая рекурсивная вещь, которую когда-либо создавал Google.

AlphaEvolve сочетает в себе творческую гибкость больших языковых моделей Gemini с безжалостной эволюционной петлёй и автоматизированной оценкой. В результате получается агент для программирования, который совершенствуется сам и системы, на которых он работает, с каждым поколением.

AlphaEvolve уже выполняет реальную работу по всей империи Google. Он нашёл более эффективную эвристику планирования для Borg — системы, которая управляет вычислениями в центрах обработки данных, — и восстановил в среднем 0,7% ресурсов, которые в противном случае простаивали бы. Он также предложил улучшения аппаратного уровня для схем TPU, ускорил ядра умножения матриц на 23% (сократив время обучения Gemini на 1%) и сократил время работы моделей Transformer на 32,5% за счёт оптимизации кода, сгенерированного компилятором, что редко удается даже опытным инженерам.

В отличие от своего предшественника AlphaTensor, который был создан для поиска более быстрых алгоритмов умножения матриц, AlphaEvolve — это универсальный инструмент. Он работает с любыми задачами, которые можно «автоматизировать»: математические ограничения, комбинаторные структуры, эвристические алгоритмы поиска или низкоуровневый код, который нужно ускорить. Он использует определяемую пользователем программу и функцию оценки, затем итеративно видоизменяет, оценивает и развивает ее, используя набор моделей Gemini Pro и Gemini Flash. Представьте, что это оптимизатор кода с турбонаддувом и обратной связью, который на самом деле понимает, что он пытается улучшить.

В ходе внутренних тестов AlphaEvolve улучшил результаты по 14 бенчмаркам умножения матриц, в том числе по давней нерешённой задаче 1969 года, и добился прогресса в более чем 20% из 50 с лишним нерешённых математических задач, на которых он был протестирован. Один из самых впечатляющих? Он нашёл новую нижнюю границу для числа «поцелуев» в 11 измерениях — головоломку в области геометрии, которая на протяжении веков ставила математиков в тупик.

Именно сочетание символического мышления и конкретной проверки отличает AlphaEvolve от других. В то время как многие агенты на основе LLM по-прежнему выдают полуправдоподобные решения, система DeepMind может фактически запускать написанный ею код, оценивать результаты и вносить изменения в зависимости от производительности. Возможность применять этот цикл в разных областях — от упаковки кругов до планирования центров обработки данных — намекает на универсальную новую парадигму для прикладных исследований в области ИИ.

AlphaEvolve также полезен в рекурсивном смысле: он оптимизирует Gemini, на котором работает AlphaEvolve. Несмотря на то, что результаты пока скромные, они указывают на цикл обратной связи, в котором ИИ помогает создавать более совершенный ИИ быстрее. DeepMind делает ставку на то, что эта структура — эволюция кода в ответ на прямую количественную обратную связь — может масштабироваться и, возможно, даже стать основой научных открытий.

Следующий шаг — открыть его. DeepMind заявляет, что создаёт пользовательский интерфейс и запускает программу раннего доступа для избранных академических исследователей. Хотя точных сроков публичного релиза пока нет, цель ясна: ИИ-помощник, который может генерировать идеи, реализовывать их в виде кода и доказывать, что они работают, — и всё это со скоростью машины.

Или, как выразился DeepMind: «AlphaEvolve подходит для любой задачи, решение которой можно описать в виде алгоритма и автоматически проверить». Другими словами, это не просто автоматизация ответов. Это развитие самих вопросов, которые мы можем задавать.

[АrefievPV]

Искусственный — это естественно, или Против артифобии
https://elementy.ru/nauchno-populyarnaya_biblioteka/437446/Iskusstvennyy_eto_estestvenno_ili_Protiv_artifobii#1

Рост интереса к искусственному интеллекту нельзя не заметить. Причин несколько, как объективных — разработки в области ИИ, такие как AlphaGo, Watson, GPT-4, достигли высокого уровня развития, — так и субъективных: эти программы «ведут себя» похоже на человека, достаточно умного, чтобы оказаться и полезным, и вредным. Человек чувствует, что имеет дело с могучей силой, и ему хочется, чтобы она и всё за него делала, и беспрекословно ему подчинялась. Ощущая, что это вряд ли совместимо, он начинает испытывать страх, приписывая этой силе свойственные человеку мерзости, которые видит вокруг, не понимая, что люди — участники и продукт определенной истории, а у ИИ такой истории нет.

Совершаем мы психологические ошибки и при обсуждении проблем ИИ. Эта статья посвящена анализу таких заблуждений. Мой позитив был опубликован ранее [1, 2], будет его немного и в конце этого текста.

Иногда говорят, что ИИ не создает ничего нового, но разве не станет новым партия в го или шахматы, выигранная у чемпиона мира? GPT-4 использует как источник информации Интернет и при обучении пользуется отзывами людей. Ровно так же учится любой человек — используя учебники и преподавателей (не у всех есть лабы). Поэтому, если ИИ не создает новое, то возникают сомнения в новизне и созданного человеком, или естественным интеллектом (далее — ЕИ).

При обсуждении проблем ИИ мы часто прибегаем к сравнению ИИ с человеком. Эта традиция восходит к Тьюрингу, причем под «тестом Тьюринга» часто понимается не то, что он предложил. Но дело не в этом, дело в том, что люди разные — с кем и как сравнивать? На тестах IQ и креативности ИИ выглядит достойно — в сравнении с человеком. А с обезьяной? У нее тоже есть интеллект. А может ли существовать не сверх- и не недочеловеческий, а просто нечеловеческий интеллект, другой?

Сравнивая ИИ с человеком, иногда, не замечая, переходят к сравнению с идеалом, который может и вообще не существовать. Например, автомобиль, управляемый ИИ, намного безопасней обычного, но многие требуют от него безопасности абсолютной, недостижимой в принципе.

Конструируя пугающие ситуации, авторы придумывают, скажем, ИИ-убийц, исправно уничтожающих представителей определенной демографической группы по приказам вышестоящих человеческих существ, в то время как люди в той же ситуации могут по крайней мере отказаться выполнять приказ. Но тут же проговариваются: приказ исходит от «человеческих существ». Да и исполнители, как мы видим, могут и не отказаться.

Ненадежными могут быть не только беспилотные автомобили и промышленные роботы. Любое устройство может нести в себе ошибки, допущенные его создателями или сбоями «железа». Мы к этому привыкли и как-то научились с этим справляться, хотя самолеты иногда путают верх и низ. Но и человек иногда путает своего и чужого. Только коробку с надписью «ИИ» человек боится больше, а потому предъявляет к ней требования посерьезнее. И совершенно зря — потому что сам он ошибается чаще этой программы.

Иногда самым принципиальным отличием ИИ от ЕИ считают то, что ИИ «действует по алгоритму». Но нейроны в человеческом мозге тоже действуют по алгоритму, а то, что нейронов у человека очень много, не делает их тем самым «менее алгоритмичными». Если мы все-таки свяжем интеллект с количеством нейронов, то придется отвечать на вопрос: где границы? Если мы и осмелимся провести черту, то компьютерщики придумают систему-контраргумент. Если нам скажут, что в компьютере алгоритм не меняется в отличие от человека, то можно ответить, что алгоритм в компьютере тоже может изменяться, причем само изменение может не быть определено заранее.

На аргумент о непредсказуемости происходящего в мозгу человека мы спросим: как вы отличаете непредсказуемость от простого человеческого незнания или от случайных процессов? А в ответ будет лишь закатывание глаз и произнесенные с придыханием слова «голография» и «квантовые процессы».

Тут ощущается горячее дыхание серьезной проблемы. Проблема вложенных алгоритмов — это часть «проблемы возникновения нового». Когда при усложнении структуры и алгоритмов возникает «новое» и почему?

ИИ могут «испытывать» на этических задачах, таких как «проблема вагонетки» [7
7. Пляскина А. С., Поддьяков А. Н. Визуальные репрезентации «проблемы вагонетки» в интернет-мемах: политекстуальный тематический анализ. «Вопросы психологии». №6, 2022.], которая не имеет решения — не потому, что мы его не знаем, а потому, что мы знаем их много. Причем для разных «мы» и решения разные — как на персональном уровне, так и на уровне групп (половых, возрастных, религиозных и т. д.) [8]. Индивидуальные мнения зависят от многих факторов, о которых мы и не подозреваем, а групповые — от пропаганды, и у человечества есть большой опыт разрешения этических дилемм: от межплеменных войн до голосования и других цивилизованных методов.

Проблема этики применительно к ИИ осложняется тем, что для ИИ, как кажется некоторым, надо разработать формальное решение, а это воспринимается как посягательства на человеческие прерогативы.

Однако мы знаем, что ЕИ может обучаться той или иной «этике» (в том числе предписывающей массовые убийства в отношении другой этнической группы). Наверное, так же этике может обучиться ИИ. Причем в этом случае отпадает возражение о формализации, потому что выработка формализации вообще не имеет места. Но возникнет проблема: люди в смысле «этики» очень разные, и можно предположить, что такими окажутся и ИИ. Различия могут возникать в ходе обучения, в том числе и непреднамеренно

Многие споры связаны с тем, что мы привыкли к дилемме: «ИИ или ЕИ?». Человеку проще делить все объекты на две кучки. Но любой естественный интеллект искусственен, потому что он создан влиянием окружения, а не вырос сам по себе. А любой искусственный естественен, потому что создан человеком как частью природы, т. е. природой посредством человека.

Это, конечно, трюизм, но что вы скажете о композитном собеседнике в тесте Тьюринга, который чередует реплики человека и машины или смешивает их в любом отношении, или один интеллект предлагает варианты реплики, другой — выбирает? Вариантов совместной деятельности много, примеры есть, и уже создан термин «коллаборативный интеллект», а его применение — признак определенного уровня развития. В какой момент при встраивании чипов в мозг мы скажем: вот теперь он искусственный? Можно ввести понятие «степень искусственности» [10], ведь между Е и И еще много промежуточных градаций.

Еще один аргумент: ИИ принципиально ограничен, потому что не умеет ставить цели. Так ли это? Допустим, любой выбор ветви в программе — это выбор цели, прописанной изначально, но и у человека эти выборы прописаны его внутренним содержанием и окружающим миром. Из этого не следует полная детерминированность человеческого поведения, потому что и внутри человека, и вокруг него есть случайности. Но это же относится и к ИИ [12]. Выборы, которые делает человек, связаны с внутренними причинами (психология) и внешними (обстоятельства). Разница в том, что программист, как думают непрограммисты, знает про свою программу всё, а человек, обнаружив незнание, закатывает глаза и начинает бормотать о возвышенном.

Идя по человеческому дереву причин и следствий, мы приходим к желанию жить. Это всего лишь Дарвин: те виды, у кого не было желания жить и продолжить свой род, не выжили. Регулятором была и остается боль, а у некоторых еще и любопытство: посмотреть, что будет. Поисковое поведение [13] когда-то служило групповому выживанию, потому и закрепилось. На основе желания жить у ИИ, как и у ЕИ, должна возникнуть жажда познания, продолжения рода и любовь — просто как средство выживания.

Стремление выжить и отбор есть и у компьютерных программ — хорошие программы живут, т. е. применяются людьми дольше, а конкурируя между собой, они улучшают свои параметры, человек же играет тут роль «среды». Можно заложить в ИИ способность к — случайному или закономерному — изменению параметров и запустить много таких ИИ, оказывающих человеку платные услуги — гонорар же ИИ сможет тратить на размножение и усовершенствование. Тут уж им придется делать выбор — совсем как нам.

Иногда говорят, что у ИИ не может быть эмоций, и это признак ущербности. А зачем вообще эмоции человеку? Очевидно, они управляют телом, например сжимают сосуды, чтобы избежать потери тепла. В книжках по альпинизму пишут, что страх замерзнуть увеличивает вероятность замерзания. Эмоции могут ускорить обработку информации в мозгу, возможно, ценой большего износа и возрастания ошибок.

Но управление через эмоции вполне можно реализовать и в компьютере, например меняя приоритет программ в зависимости от ситуации. Скажем, при сигнале опасности антивирусная программа может работать более «параноидально». Чем это будет отличаться от эмоций? Отсутствием осознания? Но и человек не всегда себя осознает. Особенно когда влюбляется... или дискутирует об ИИ. Кроме того, осознание в компьютере есть, любой лог — это оно; особенно если система на него как-то опирается в своих действиях.

Что касается самосознания, то люди учат людей, не зная, как работает мозг, и иногда учат успешно.

С другой стороны, программа Watson уже знает, что она что-то знает. Она сравнивает и ранжирует алгоритмы — что это, как не самосознание? В ней есть блок WatsonPaths, который показывает человеку пути, по которым программа шла к ответу.

Невозможность понять, как работает ИИ (то есть нечто, созданное нами самими) может серьезно влиять на наше к нему отношение. Впрочем, наши дети тоже созданы нами, но всегда ли мы понимаем, как они приходят к тем или иным выводам?

Понимает ли программа, что читает и слышит? Тут нужно дать определение понимания, допускающее измерение и экспериментальную проверку. Пусть понимание — это способность успешно определить, в каком смысле употреблено многозначное слово, установить связь новой информации с имеющейся, встроить новые данные в свою систему знаний. Понимание при общении — это определение субъективного смысла того или иного слова для данного собеседника и в конкретной ситуации и — опять же — встраивание. Если принять такое определение, то да, ИИ всё это может. Конечно, информация должна накапливаться. Человек должен вырасти в рамках конкретной культуры или целенаправленно ее изучить, это же может сделать — и гораздо быстрее — компьютер.

Другой, более жесткий критерий самосознания — наличие рефлексии, понимание собственных ошибок и вообще особенностей мышления, внесение корректив в мыслительную деятельность. В зависимости от критериев и момент возникновения сознания будет разным: если определить самосознание как наличие «второй сигнальной системы», то тут проходят все люди и высшие обезьяны. Если определить более жестко, по наличию рефлексии, то и люди проходят не все.

Часть психологии — юмор. Может ли он быть у ИИ? Мне кажется, что видов юмора много, но два самых частых наверняка ему доступны. Это юмор ассоциаций: большая доля шуток основана на созвучиях, на применении слов в непривычном смысле и т. п. В институтские времена мы увлекались юмором, построенным именно на формальных ассоциациях, и называли его «системно-программистским»! Другой вид — юмор нелепостей и ошибок, «комедия положений». А вот классификация, устройство, генерация и понимание разных видов юмора ЕИ — это интересная проблема. На ее сложность указывает то, что иногда, слушая, что говорят некоторые ЕИ, думаешь: «Он сошел с ума или валяет дурака?»

История человечества знает примеры, когда ради умозрительного грядущего рая люди создают конкретный сегодняшний ад. А личная биография человека, если в ней есть насилие, грязь и нет любви, приводит к тому, что человек становится строителем этого ада. Но у ИИ ничего такого нет, и можно попробовать отвлечься и подойти к будущему рационально. Тогда окажется, что опасность возникает там, где есть разделяемый ресурс. У человека и программ он есть — компьютерные мощности, — поэтому единственная реальная опасность — это то, что программа, занятая своими делами, перестанет обслуживать человека. Остается надеяться, что человек к этому моменту еще не разучится умножать два на три без калькулятора на компьютере.

[АrefievPV]

Искусственный — это естественно, или Против артифобии
https://elementy.ru/nauchno-populyarnaya_biblioteka/437446/Iskusstvennyy_eto_estestvenno_ili_Protiv_artifobii#1

Некорректную ссылку привёл, она ведёт не начало статьи, а на первый пункт из списка литературы к этой статье.

Вот корректная ссылка, которая ведёт на начало статьи:
https://elementy.ru/nauchno-populyarnaya_biblioteka/437446/Iskusstvennyy_eto_estestvenno_ili_Protiv_artifobii