Доступно ли компьютерам творчество?

[Игорь Антонов]

АrefievPV
В общем, я понял, что главные для меня вопросы - проблему генезиса организованных систем и проблему природы феномена ментальности Вы не решаете, а просто снимаете их с рассмотрения констатацией их иллюзорности.
Сильный, глубоко убедительный и достаточно универсальный  ход  для решения вообще любых проблем
Спасибо за прояснение картины.

[АrefievPV]

Или это среда сама себя обманывает?

С вами серьёзно, а вы начинаете ёрничать...

Человек много выдумал понятий для объяснения происходящего. И, зачастую, по прошествии времени он начинал понимать, что многие понятия по существу обозначают иллюзии. В рамках этой темы следует понимать, когда мы уходим в иллюзии слишком сильно (совсем мы избежать не можем). Наделение сознания и разума какими-то трансцендентными свойствами (или даже представляя их как некие трансцендентные атрибуты материи), мы скатывается в лютейшую иллюзорность. Отсюда и проистекает вывод о невозможности создания искусственной системы, обладающей сознанием и/или разумом.

Откуда берётся инициативность (проявляется как проактивность) я пояснял.

Откуда берётся новое, я пояснял: отчасти это работа механизма фантазии (работа механизма фантазии – это просто  «микс» из уже известного плюс элемент случайности), а отчасти это работа сенсорного восприятия («подглядывание» у природы и других людей).

Откуда берётся конструктивное новое, я пояснял: это результаты работы фантазии и/или восприятия, пропущенные через «фильтр» имеющихся знаний.

Откуда берётся субъектность, я тоже пояснял.

Во всех этих случаях, в конечном итоге, везде первопричиной являются действия среды. Среда создаёт системы, среда их модифицирует, среда их уничтожает. Поймите, эволюция как и естественный отбор, это не некие разумные сущности. К среде неприменимы такие понятия как разум, интеллект, сознание и т.д., эти понятия применимы только к системам. Все виды активности среды проявляются через системы. И даже такие сложные как творчество, разумность, стремление к самосохранению, проактивность и т.д., тоже, в конечном счёте, проявление среды через систему.

Например, если вы считаете, что не среда создала жизнь и живые системы, а они сами по себе возникли (как чёртик из коробочки), то мы с вами сильно расходимся во взглядах на концептуальные вещи.

В своей теме, я возникновению и эволюции живых систем посвятил много постов. Автономность живые системы повышали постепенно в результате эволюции. Но автономность не означает независимость от среды, она просто означает, что эта зависимость становится опосредованной.

P.S. Не хотел заканчивать на такой ноте, но клоунада и пустая болтовня, это не моё, наверное...

[Игорь Антонов]

работа механизма фантазии – это просто  «микс» из уже известного плюс элемент случайности

Это Ваша концептуальная ошибка.
"Микс" из уже известного плюс элемент случайности - алгоритм, не имеющий никаких проблем в отношении машинной формализации. Но он не работает на системный синтез.
Вне синтеза, синхронно и интегративно учитывающего память, актуальную потребность и текущие обстоятельства, новая семантика закономерным образом не создаётся. И способность к такому синтезу и созданию новой семантики специфична для живых систем.
Всё, что создаётся автоматизированно, создаётся по шаблонам и моделям, созданным разумными субъектами.
Алгоритмы и функциональные структуры, решающие новые проблемы, так не создаются.
Когда это будет, будет сильный ИИ (AGI). Но возможный путь к нему я уже вчера комментировал.

Что касается роли среды, то, естественно, среда участвует и присутствует во всём. 
Способность субъекта мыслить и чувствовать тоже опосредована средой, её свойствами и законами, что не отменяет существования в этой среде активных и мыслящих субъектов.

[АrefievPV]

И способность к такому синтезу и созданию новой семантики специфична для живых систем.

Заканчивайте вы с этой семантикой... Ну, ей Богу, какая там семантика у биополимеров на заре возникновения жизни? Уж на что я не биолог (только интересуюсь), но вы... Питер с вами спорил о многом и долго, но увы...

Рекомендую просмотреть хотя бы это сообщение, любопытные вещи озвучиваются (и вопрос там поднимается, как могли возникнуть генераторы случайности, и пояснения, как возникает новое):

Когда б вы знали, из какого шума растут белки, не ведая стыда...
https://elementy.ru/nauchno-populyarnaya_biblioteka/437129/Kogda_b_vy_znali_iz_kakogo_shuma_rastut_belki_ne_vedaya_styda
Интервью Бориса Штерна с Михаилом Гельфандом

P.S. Приведу несколько цитат (хотя рекомендую интервью прочитать полностью, там много образных пояснений).
...

[Игорь Антонов]

какая там семантика у биополимеров на заре возникновения жизни?

Анохин в статье "Философский смысл проблемы естественного и искусственного интеллекта" приходит к выводу, что семантика (свойство интеллектуального, организующего  реагирования на проблемы) появилась именно на заре возникновения жизни. И стала условием её дальнейшей эволюции.
Функционирование одноклеточных насыщено семантикой. В том числе, в некоторых экспериментах наблюдаются скоординированные реакции на ранее не встречавшиеся проблемы, то есть, "системогенез" по Анохину.

Мне знакомы и статьи Михаила Гельфанда, и это его интервью. То, что он хороший человек и учёный, не препятствует ему быть в некоторых вопросах редукционистом, не замечающим и не решающим системных проблем.

Сейчас всё больше биологов осознают архаизм эволюционного редукционизма, уповающего на случайную изменчивость. Я приводил недавно ссылку на лекции по теории эволюции  в СПГУ с соответствующей констатацией.

[АrefievPV]

Мне знакомы и статьи Михаила Гельфанда, и это его интервью.

Возможно, вы читали это интервью давно и чуток подзабыли?

Сейчас всё больше биологов осознают архаизм эволюционного редукционизма, уповающего на случайную изменчивость.

А Михаил Гельфанд там говорит о другой случайности:

Когда б вы знали, из какого шума растут белки, не ведая стыда...
https://elementy.ru/nauchno-populyarnaya_biblioteka/437129/Kogda_b_vy_znali_iz_kakogo_shuma_rastut_belki_ne_vedaya_styda
Интервью Бориса Штерна с Михаилом Гельфандом
...

— Я уже несколько раз об этом говорил в разных местах: есть штука очень интересная и плохо осознанная. Во-первых, роль случайности, не эволюционной случайности, когда произошла случайная мутация, потом отбор ее подобрал, а случайности программируемой.

[Игорь Антонов]

Гельфанд там говорит, что у случайного белка вдруг оказывается полезная функциональность, он подхватывается отбором, и вот из пены и шума спонтанно рождается что-то новое. Здесь ключевой вопрос  - откуда берётся новая функциональность случайного белка, если это просто молекула, включение которой в функционирование клетки должно быть согласованным в отношении времени синтеза, количества продукта, путей транспортировки, взаимодействий, в которых он участвует. От хаотичных блужданий новой молекулы никаких новых функций не возникнет. То есть, мутантный продукт организованно интегрируется в функционирование клетки. И это тоже проявление биологического уровня организации. И это не я сейчас придумал, а об этом писал еще в 80-е биолог Э.Лекявичюс в книге "Элементы общей теории адаптации".

[Игорь Антонов]

В этом году издан сборник научных статей "Organization in Biology".

В восьмой главе "The Fourth Perspective: Evolution and Organismal Agency" (Четвертая перспектива: эволюция и деятельность организмов) в качестве грядущей перспективы эволюционной теории обосновывается агентный подход, рассматривающий активность и целеустремленность живых организмов в качестве необходимого условия эволюционного процесса.

[АrefievPV]

Гельфанд там говорит, что у случайного белка вдруг оказывается полезная функциональность, он подхватывается отбором, и вот из пены и шума спонтанно рождается что-то новое.

Возникает ген, который кодирует белок:

...
А если ген возник на месте, которое до того геном не было, т. е. никакого белка не кодировало? Такие примеры есть.

И отбором, по сути, подхватывается ген, а не сам белок.

Здесь ключевой вопрос  - откуда берётся новая функциональность случайного белка

Случайно возникает ген, который кодирует белок, у которого случайно оказалась новая функциональность. А берётся новизна из шума:

...
Откуда берется это новое? Из шума.

если это просто молекула, включение которой в функционирование клетки должно быть согласованным в отношении времени синтеза, количества продукта, путей транспортировки, взаимодействий, в которых он участвует.

Там система достаточно «разболтанная», особой согласованности не требуется. И временами там куча бесполезного появляется просто так. Но иногда из такого хлама случайно появляется нечто хотя бы невредное (а если полезное, то вообще прекрасно):

...
Потому что наблюдение состоит в том, что у нас, скажем, всё время вся ДНК работает, включая ту, которой работать, вообще говоря, не нужно, так как ничего разумного она всё равно не делает. Она работает, с нее считываются эрэнковые копии, которые тут же деградируют, потому что они не нужны. Но вот из этой пены, из этого шума время от времени отбираются принципиально новые гены, которые кодируют новые белки.

От хаотичных блужданий новой молекулы никаких новых функций не возникнет.

Причём здесь блуждания?

Молекула сразу возникает со структурой, несущую какую-то функциональность.

И повторю: сначала возникает новый ген, а уж он кодирует, соответственно, новый белок.

То есть, мутантный продукт организованно интегрируется в функционирование клетки.

Мутантный ген, кодирующий белок, и, разумеется, белок с каким-то (хоть чуток полезным или хотя бы невредным) функционалом, могут интегрироваться только благодаря (процентов на 99,99, благодаря) тому, что система «разболтанная». В жёсткую и предельно оптимизированную систему не встроишься, в ней свободных мест нет:

...
Представим идеальный геном: работает то, что должно работать, а что не должно работать, того и нет. Такой организм эволюционировать не сможет.

А «разболтанная» система, где бесполезные гуманитарии пишут романы или что-то рисуют непонятно зачем, вместо того, чтобы землю пахать или хотя бы станки проектировать, — такая «разболтанная» система, в которой очень много всего делается «лишнего», способна меняться, в ней появляется что-то новое. По-моему, это очень поучительно. На уровне метафор мы это понимаем, вот на уровне конкретных биологических механизмов это было бы очень интересно посмотреть.

[Игорь Антонов]

Мутантный ген, кодирующий белок, и, разумеется, белок с каким-то (хоть чуток полезным или хотя бы невредным) функционалом, могут интегрироваться только благодаря (процентов на 99,99, благодаря) тому, что система «разболтанная». В жёсткую и предельно оптимизированную систему не встроишься, в ней свободных мест нет:

Я знаю, что гены кодируют белки, и про появление белка сформулировал для краткости, поскольку функциональную роль играет белок.
Что касается упования на то, что в разболтанной системе сама собой возникнет какая-либо новая организованность, то это упования людей, далёких от понимания системных закономерностей и системной проблематики.

[АrefievPV]

Что касается упования на то, что в разболтанной системе сама собой возникнет какая-либо новая организованность, то это упования людей, далёких от понимания системных закономерностей и системной проблематики.

Как раз в «разболтанной» системе это и может случится, в жёстко организованной системе такого не может произойти в принципе (а если произойдёт, то система разрушится). Другое дело, что эта новая организованность в «разболтанной» системе вовсе не означает более лучшую организованность, чем была прежняя.

И, судя по всему, вы постоянно подразумеваете под организованными системами именно жёстко организованные системы.

[Игорь Антонов]

И, судя по всему, вы постоянно подразумеваете под организованными системами именно жёстко организованные системы.

Нет, не только. Даже технические системы могут иметь динамически перестраиваемую структуру.
Но и для системы не жесткой, гибкой и пластичной, сохраняется необходимость поддерживать системную целостность и согласованность в своих трансформациях.
Биологическая организация включает в себя адаптивную подстройку к меняющимся условиям и Анохин считал, что функционирование мозга является продолжением  и результатом развития внутриклеточной координации.

Цитата:

Эволюция, начавшаяся с примитивного протоплазматического «предсказания», усо-
вершенствовала этот процесс в материальных явлениях мозга до такой степени, что
мозг стал органом, который в каждый данный момент своей деятельности сочетает в
себе прошлое, настоящее и будущее.
Все это не является фантазией нейрофизиолога. Микроэлектродный метод дает нам
возможность установить, что некоторые нейроны, испытывая настоящее раздражение,
включают накопленный в прошлом опыт и одновременно с этим формируют процессы,
содержащие в себе качества того результата действия, который будет получен только в
будущем. В нашей лаборатории эти нервные клетки мозга мы назвали «нейронами трех
времен».
Резюмируя обсуждение проблемы «предсказания», мы должны подчеркнуть, что
«предсказание», выявляемое на высших этапах интеллектуальной деятельности, есть
продукт наиболее совершенного развития того прототипного процесса, который про-
является уже в опережающем протоплазматическом отражении действительности.

[АrefievPV]

Эволюция, начавшаяся с примитивного протоплазматического «предсказания», усо-
вершенствовала этот процесс

Надеюсь, вы понимаете, что для того, чтобы начать совершенствоваться, надо сначала возникнуть. Как возникло примитивное протоплазматическое «предсказание»? Случайно? Закономерно?

[Игорь Антонов]

Надеюсь, вы понимаете, что для того, чтобы начать совершенствоваться, надо сначала возникнуть. Как возникло примитивное протоплазматическое «предсказание»? Случайно? Закономерно?

Видимо, закономерно, в том смысле, что первичные молекулярные комплексы, способные к саморепликации, уже обладали некоторой способностью к адаптивному самоуправлению.

Стюарт Хамерофф на недавней конференции сделал ставку на принципиально важную роль ароматических органических молекул, склонных к когерентным высокочастотным колебаниям, что, по мнению Хамероффа, позволяет ансамблям таких молекул становиться интегрированным единым целым, способным к собственному поведению. И он там рассказывает, что планирует исследовать свойства таких молекул.
А доклад назывался "Сознание предшествовало жизни. Фундаментальная причина эволюции".

[Максет]

Вы можете продолжать считать, как считаете.
Я же могу рассказать, почему я считаю иначе.
Упрощение хорошо до тех пор, пока упрощенный вариант работает.
Распознавание в смысле классификации объектов или предоставления имеющихся данных по запросу не означает осознания.
С этими задачами справляется обученный автомат. При этом те сущности, которые распознаются и предоставляются автоматом, не
являются мыслимыми им понятиями и представлениями, то есть, не осознаются им.
Почему это можно утверждать?
В отношении классических программируемых автоматов всё вообще очень просто - мы знаем, как он реализует те операции,
которые он выполняет, и знаем, что единственная его внутренняя реальность - мир чисел и операций с ними.

То же самое можно сказать и про человека, что его единственная внутренняя реальность – мир слов и операции с ними. Мы воспринимаем информацию, обрабатываем их, рисуем свои представления и выражаем их с помощью слов. Я уже говорил, что не имеет значения с помощью чего кодируется информация. Имеет значение только результат.

То, что конкретный код имеет какое-то отношение к определенным сущностям внешнего мира никак не влияет на работу автомата и ничего для него не значит.

Это зависит от функции, то есть предназначения автомата.

Автомат тревожной сигнализации тревожно сигнализирует, но ничего не знает про тревогу.

А он и не обязан этого знать. Его функция только сигнализировать.

Виртуальный экскурсовод по художественной галерее ничего не знает про картины. Он просто пересылает обезличенные для него коды.

И он тоже не обязан это знать. Его функция только озвучивать записанную информацию и при этом отличать одну картину от другой, чтобы не перепутать. И если он умеет их отличать, то значит он умеет их распознавать, то есть умеет осознавать их отличия по записанным в памяти отличительным знакам.

Безусловно, с внешней стороны принципиально иначе выглядит ситуация с искусственными нейросетями и большими языковыми моделями.
ChatGPT может оказаться гораздо более интересным и знающим собеседником чем сосед по даче. Несмотря на то, что первый - автомат,
а второй - человек разумный, который звучит гордо.
Но внутри ситуация остаётся той же. Даже для такого шедевра как ChatGPT не существует шахмат, компьютерных программ и т.д.,
как не существует тревоги для тревожного автомата и картин для виртуального гида.
Для тревожного автомата не существует тревоги, потому что тревога существует для людей, которых он оповещает. Для тревожного автомата существует только входная информация как один из признаков (сигналов) опасности, которая запускает его.

Картины, как художественное произведение, существуют для посетителей выставки, а не для виртуального гида. Для виртуального гида картины существуют только как входная информация (сигнал), запускающая воспроизведение записи об этих картинах.

У Вас есть представления об атомах и молекулах и их роли в мире, сформированные Вашим жизненным опытом.

Эти мои представления о молекулах такие же абстрактные, как и у ChatGPT, потому что я их не видел, не нюхал и на зуб не пробовал.
А вот, например, хлеб я конкретно пробовал в отличие от ChatGPT и поэтому я, в отличие от него не только знаю, но и понимаю, что такое хлеб.
Но речь идет не о понимании, а только о знании ChatGPT. И он знает о хлебе больше, чем я, но при этом совершенно не понимает, что это такое. Потому, что не видел реальный хлеб и не пробовал его. И на основании того, что он знает, что такое шахматы, я делаю вывод что он осознает, что такое шахматы. Потому, что само понятие сознание происходит от понятия знание. В шахматы ChatGPT реально играл, а значит еще и понимает, что такое шахматы. И поскольку Вы сами говорите, что для осознания объекта необходимо иметь личный опыт субъект – объектных отношений, то значит он тем более осознает шахматы как шахматы.

У ChatGPT нет представлений о мире, а есть обученная модель генерации правдоподобного текста.

Вот эти мои правдоподобные тексты также сгенерированы мной из разрозненных сведений, почерпнутых из различных источников, путем их сбора, анализа и синтеза, так же, как и у ChatGPT. И ни одного нового слова и даже буквы я здесь не придумал и не добавил.

ChatGPT и в целом большие языковые модели не смогут.  И это не только моё мнение.
Должна быть решена задача реализации активности (агентности ИИ) и пресловутой интегративности понимания и восприятия.
Я думаю, алгоритмические изыски реально эту проблему не решат.
Но возможно использование ансамблей живых нейронов в качестве носителя агентности и интегративности в технических устройствах.
Такие эксперименты уже проводятся.
Реальное мышление имеет такие свойства, которые принципиально проблематично воспроизвести средствами цифровой вычислительной техники.
Поэтому нужна другая физическая основа, которой потенциально могут оказаться квантовые компьютеры будущих поколений.

Если Вы имеете в виду, сопоставимость машинного мышления с человеческим, то проблема этого не в алгоритмических изысках (софте), а именно в физическом носителе (харде) этого софта.
Потому, что особенностью человеческого мышления является его зависимость от потребностей его носителя – человеческого тела, которое хочет есть, хочет пить, хочет жить, хочет продолжать свой род. А значит, чтобы ИИ начал мыслить как человек, надо его поселить в биологическое тело.

Смотрел. Забавно, но ничего принципиально не меняет в вышеизложенном. "Галлюцинации" ИИ - тема известная.

Ок. Из интернета: "Галлюцинации ИИ - это явление возникает, когда алгоритмы ИИ выдают неожиданные, порой абсурдные результаты, которые могут быть как весьма креативными, так и крайне неточными или даже оскорбительными".
Как видите, здесь сказано ИИ выдает неожиданные, то есть непредусмотренные алгоритмами результаты и что они бывают и весьма креативными, о чем я и говорил.