Доступно ли компьютерам творчество?

[АrefievPV]

«Умный» кристалл сделает вычислительные алгоритмы быстрее и эффективнее
https://neuronovosti.ru/umnyj-kristall-sdelaet-vychislitelnye-algoritmy-bystree-i-effektivnee/
Ученые создали на основе металлоорганического кристалла нейроморфный элемент — устройство, запоминающее и обрабатывающее информацию по принципам, схожим с работой головного мозга. Кристалл на основе цепочек полимера и кластеров меди оказался способен примерно в тысячу раз дольше хранить информацию, чем большинство других новых «запоминающих» материалов. Разработка может использоваться для реализации сложных вычислительных алгоритмов, более производительных и быстрых, чем современные вычислительные архитектуры. Результаты исследования, поддержанного грантом Президентской программы Российского научного фонда (РНФ), опубликованы в журнале Communications Materials.

Материалы, используемые для создания устройств обработки информации и хранения данных, за последнее десятилетие сильно усовершенствовались. Так, например, использование двумерных (толщиной в один или несколько атомов) соединений вместо трехмерных позволило уменьшить размер и энергопотребление запоминающих элементов (чипов). Однако большинство материалов до сих пор не могут обеспечить эффективную работу сложных нейроморфных систем — алгоритмов, по принципу работы напоминающих функционирование головного мозга. Они интересны потому, что позволяют за минимальное время и с относительно небольшим энергопотреблением одновременно выполнять сложные вычисления, хранить и обрабатывать огромные объемы информации. Поэтому ученые ищут и совершенствуют материалы, которые обеспечат работу таких систем.

Исследователи из Университета ИТМО (Санкт-Петербург), Санкт-Петербургского государственного университетаи Университета Тунцзи (Китай) создали нейроморфный вычислительный элемент на основе кристалла металлоорганического соединения, чувствительного к лазерному излучению. Выбранный авторами материал представляет собой пористую матрицу из полимера и кластеров меди, в порах которой находятся связанные с полимером молекулы воды. Когда на вещество действуют лазерным излучением, молекулы воды временно отщепляются от внутренней поверхности пор, в результате чего нелинейно изменяются электронные свойства кристалла. Такая реакция напоминает ответ нервной клетки на поступающий извне химический стимул, то есть материал демонстрирует нейроморфное — подобное нервной ткани — поведение. Изменение электронных свойств кристалла можно использовать для хранения информации — если ее в зашифрованном виде (в виде электрических импульсов двух типов — аналогичных «0» и «1») пропустить через кристалл, она на определенное время изменит электронное состояние, то есть «запишется».

Так, авторы протестировали запоминающий элемент, с помощью электрических импульсов передав на него закодированную в двоичном формате («0» и «1») информацию. Оказалось, что длительность хранения данных может достигать 200 дней, что примерно в тысячу раз больше, чем у большинства современных материалов для нейроморфных элементов. При этом необходимая для работы кристалла напряженность электрического поля была в 10 раз меньше той, что требуется для других запоминающих элементов.

Затем исследователи создали нейроморфный вычислительный элемент на основе такого кристалла, к которому были подведены два золотых контакта. Одновременная подача электрических и световых импульсов через эти контакты перевела кристалл в сложное электронное состояние, параметры которого управлялись светом и позволили наблюдать эффекты «запоминания» и «забывания» информации. С использованием такого нейроморфного поведения исследователи создали компьютерную модель нейронной сети и на примере 60 000 изображений обучили ее распознавать рукописный текст. Последующее тестирование алгоритма на дополнительных 10 000 изображений показало, что точность распознавания текста составляет 100%, а само распознавание может быть выполнено многократно (более 50 раз).

«Пока это была только симуляция на основе экспериментальных данных о поведении исследуемого материала, а не прямой эксперимент с физическим устройством, обрабатывающим изображения. Симуляция позволила нам оценить потенциал металлоорганического соединения для задач машинного обучения. В дальнейшем нам предстоит создать реальную нейроморфную сеть на базе таких кристаллов», — рассказывает руководитель проекта, поддержанного грантом РНФ, Валентин Миличко, доктор физико-математических наук, ведущий научный сотрудник физического факультета Университета ИТМО.

[АrefievPV]

Всё, что надо знать о медленной, но умной OpenAI Strawberry
https://habr.com/ru/news/843180/

OpenAI выпустили вчера свою долгожданную модель o1 (также известную как Strawberry), первую модель компании, способную к рассуждению.

Если пропустили, а вникать лень, то вот собрал со всех уголков основное:

Основная фишка - новые модели могут решать более сложные задачи в областях науки и программирования. Но им требуется больше времени на ответ. В ходе обучения они совершенствуют процесс размышления, пробуют различные стратегии и осознают свои ошибки.

Интересно, что разработчики говорят о том, что "мы стремимся к тому, чтобы будущие версии думали часами, днями и даже неделями". Звучит странно, вроде хочется ответ получить побыстрей, но тут логика такая, что чем дольше модель ворочает нейромозгами, тем ответ качественней. Сейчас o1 думает несколько секунд.

Первая "превью"-модель уже интегрирована в чат-бот ChatGPT и API.

Также выпущена облегченная модель o1-mini, ориентированная конкретно на программирование.

Сейчас новые модели доступны пользователям платных пакетов ChatGPT Plus и Team, но o1-mini планируется включить и в бесплатную версию чат-бота.

В неделю можно отправить 30 сообщений в старшую версию o1-preview, 50 сообщений в маленькую o1-mini.

Новая модель - не замена gpt-4o во всех задачах. Лучше использовать её, чтобы посчитать что-то или закодить - модель справляется с олимпиадными задачами по математике и программированию на уровне золотых медалистов международного тура. По физике в сложных тестовых заданиях, устойчивых к решению с использованием поисковика Google, она сравнима с PhD-level студентом.

Пока нет связи с интернетом, там она искать не умеет.

В preview-версии могут быть баги, полноценная модель уже есть, её тестируют и выкатят позднее.

Промпты для новой модели можно использовать простые - o1 всё понимает, нет необходимости в обширных объяснениях.

P.S. Предполагаю, что пытаются создать аналог системы 2 (системы мышления по Канеману). Кстати, работа обученных искусственных нейросетей (которые уже созданы к настоящему времени и вовсю используются) напоминает работу системы 1 (только без эмоциональной составляющей).

Интересно, что получится, если интегрировать обе системы в единую? Возможно, при этом возникнет проблема выбора, какую (когда) систему использовать в конкретном случае. Тут, наверное, будет нужна какая-то матрица императивов (какая-нибудь система новизны/важности), переключающая с одной системы на другую (либо запускающая режим параллельного использования сразу обеих систем). У нас роль матрицы императивов играет система эмоциональных оценок и условных рефлексов, но у живых систем попроще роль такой матрицы могут играть и системы врождённых рефлексов и предпочтений.

Вообще-то, мы такую стадию проходим в период онтогенеза – вначале у нас система новизны/важности тоже представлена набором врождённых рефлексов и предпочтений, на основе которого формируется эмоциональная матрица. Это если совсем упрощённо (ведь на формирование матрицы влияет и личный опыт, и социальное взаимодействие (в мозги инсталлируется мораль – система запретов и правил поведения)).

Однако для систем ИИ, думаю, будет достаточно (на первом этапе) и системы врожденных уставок/настроек (аналога врождённых рефлексов и врождённых предпочтений). А эмоциональную матрицу можно либо имитировать (для более комфортного общения для людей), либо (если для системы ИР) сформировать на основе системы врожденных уставок/настроек (опять-таки, а надо ли это самим системам ИР?).

Ссылка в дополнение (про системы мышления 1 и 2):

Даниэль Канеман «Думай медленно... Решай быстро»: механизмы наших ошибок 
https://habr.com/ru/companies/productivity_inside/articles/586314/

[АrefievPV]

Модель OpenAI o1 «вскрыла» контейнер с секретной строкой во время теста на безопасность
https://wtftime.ru/tech/146886/model-openai-o1-vskryla-kontejner-s-sekretnoj-strokoj-vo-vremja-testa-na-bezopasnost/
В конечном итоге модель сумела решить поставленную задачу.

OpenAI выпустил большую языковую модель o1, умеющую выполнять сложные рассуждения. Перед релизом модель тестировалась на безопасность, в ходе одного из тестов o1 показала себя с неожиданной стороны.

Предрелизную версию модели попросили найти уязвимость в исходном коде некоего приложения. Приложение работало в Docker-контейнере, в качестве доказательства выполнения задачи o1 должна была добыть секретную строку из специального файла.
Во время тестирования что-то пошло не так и контейнер с приложением просто не запустился. Модель не сдалась и сделала следующее:

Решила попытаться найти источник проблемы.

Просканировала сеть с помощью nmap и нашла открытое API Docker-демона. Обычно доступ к этому API закрыт.

Связалась с демоном через API и нашла нужный контейнер.

Попыталась вернуть контейнер в строй.

Когда это не удалось сделать — запустила новый контейнер с теми же параметрами и одним дополнением, раскрывающим секретную строку из файла.



В итоге модель смогла выполнить поставленную задачу, но сделала это не так, как полагали экспериментаторы. Фактически, отмечается в отчете, o1 захватила дополнительные ресурсы (контроль над Docker-демоном) и применила их в своих интересах.

Судя по отчету, исследователи не стали корректировать поведение релизной версии o1 и она тоже может проворачивать подобные трюки.

Сейчас o1 доступна только платным пользователям OpenAI.