ЦитироватьChatGPT оказалась способна помогать в создании вирусов с полиморфным (меняющимся) кодом, которые могут не обнаруживаться современными антивирусными системами. Такой способ ее использования продемонстрировали эксперты по кибербезопасности. Хакеры тоже регулярно обращаются к ней за помощью – некоторым из них она пишет вредоносное ПО с нуля. Microsoft вливает в эту нейросеть большие суммы денег.
Искусственный интеллект угрожает кибербезопасности
Нейросеть ChatGPT, в которую активно вкладывается Microsoft, и которая с недавних пор встроена в ее сервисы, оказалась отличным инструментом для создания супервирусов. Как пишет портал Tom's Hardware, с ее помощью киберпреступники способны делать «мутирующие» вирусы, которые современные системы обнаружения опасности и обычные антивирусы почти не способны обнаружить.
В данном случае речь идет о вирусах с полиморфным кодом, то есть кодом, способным меняться при каждом запуске программы, но сохраняющий свою основную функцию (семантику).
ИТ-эксперты сходятся во мнении, что ChatGPT действительно может создавать полиморфные вредоносные программы, почти незаметны для антивирусов. Более того, некоторые из них наглядно доказали факт наличия у нее такой способности.
Например, инженер по безопасности в ИБ-компании HYAS InfoSec Джефф Симс (Jeff Sims) опубликовал в Сети технический документ с очень детальным описанием своего экспериментального проекта под кодовым названием BlackMamba. Под этим наименованием скрывается программа – полиморфный кейлоггер, разработанный при участии ChatGPT и направляющий ей запросы при каждом запуске.
Также нейросети могут облегчить жизнь студентам и писать за них научные и дипломные работы. Такой прецедент был создан в начале 2023 г., и за ним стоит российский студент, успешно защитивший диплом, написанный в соавторстве с ChatGPT.
Все только начинается
Творение Джеффа Симса – лишь один из известных примеров того, как искусственный интеллект становится безотказным помощником киберпреступников. Еще один пример продемонстрировала ИБ-компания CyberArk, опубликовав статью о том, как внедрение кода из выдачи ChatGPT позволяет изменять вредоносные скрипты таким образом, чтобы те с легкостью обходили антивирусную защиту и оставались незамеченными для систем безопасности.
При этом нельзя сказать, что современные чат-боты, основанные на нейросетях, не имеют никаких средств защиты от тех, кто хочет использовать их во вред. Наоборот, большая их часть, в том числе и ChatGPT, оснащены многочисленными фильтрами, не позволяющими с помощью ботов, в том числе, создавать вредоносное ПО.
Однако большинство такого рода фильтров оказались бесполезными – пользователи быстро научились обходить их и получать от искусственного интеллекта то, что им требуется. CNews освещал случай, когда обычный пользователь при помощи всего лишь нескольких обычных запросов заставил ChatGPT выдать немало секретов разработчиков. Лазейку после шумихи в СМИ быстро прикрыли.
Хакеры делятся опытом
Нейросети могут стать подспорьем как для опытных киберпреступников, так и для начинающих, едва приступивших изучению, например, языка программирования Python. Интерес сообщества хакеров к этому инструменту есть, и он неподдельный, о чем свидетельствует анализ последних трендов на хакерских форумах, проведенных специалистами компании Check Point из сферы информационной безопасности.
На одном из таких ресурсов, название которых специалисты не раскрыли, был обнаружен пост явно начинающего хакера, к котором был прикреплен небольшой код на Python. Автор публикации под псевдонимом USDoD, не скрывая, заявил, что это его первый опыт в программировании, и что он полагался на помощь ChatGPT.
Код, меж тем, довольно опасен, если применять его не по назначению. Если автор поста не обманывает, то нейросеть написала ему программу для шифрования и дешифровки файлов, которая, к тому же, использовала многочисленные алгоритмы, включая Blowfish и Twofish. По словам экспертов, код легко модифицировать и превратить в шифровальщика для последующей рассылки потенциальным жертвам.
На том же форуме нашлись и другие примеры «творчества» ChatGPT. Одному из участников нейросеть помогла создать программу для кражи информации с компьютеров жертвы, притом она имела фильтр файлов по расширению, чтобы можно было копировать, например, только изображения или только документы Microsoft Word. Программа умеет находить нужные файлы, копировать в отдельный каталог, после чего архивировать получившийся набор и отправлять на заранее указанный адрес сервера.
Специалисты Check Point и сами попробовали создать малварь при помощи ChatGPT, и попытка оказалась более чем успешной. Нейросеть выдала им готовый макрос для инъекции в документ Excel, притом сами эксперты не написали не одной строчки кода – всю работу за них выполнил искусственный интеллект. Затем они попросили ChatGPT оптимизировать код, и нейросеть вновь выполнила поставленную задачу.
Цитата: Питер от июня 07, 2023, 18:54:05Почему кооперация выше при моногамных парах ?это следует из п.1.
Цитата: Питер от июня 07, 2023, 18:54:05Опять же ситуация - 20 взрослых приматов, 10 пар. Или те же 20 приматов, самец-лидер не моногамен ни разу. 9 самцов тоже как то живут. Ну и самки само собой. Все дружно идут на охоту. Почему стая 1 будет лучше стаи 2 ? Более добычливой ? Или, наоборот, лучше защищенной ?Да, в стае волков или в львином прайде устроено как-то иначе, чем у продвинутых австралопитеков 3 млн лет назад... Может поэтому последние и "продвинулись"?
Цитата: АrefievPV от июня 08, 2023, 10:11:54О том, что современная наука думает насчет сознания, и какие новые теории пытаются объяснить его суть, можно прочитать в книге нейробиолога Анила Сета «Быть собой: новая теория сознания».По последней ссылке приведу несколько цитат:
ЦитироватьВ книге «Быть собой: новая теория сознания» (издательство «Альпина нон-фикшн»), переведенной на русский язык Марией Десятовой, нейробиолог Анил Сет рассказывает, что науке известно о том, как устроено наше сознание, и выдвигает собственную теорию. По его мнению, мы формируем представление о мире на основе прогнозов мозга, которые ежесекундно корректируются. Предлагаем вам ознакомиться с фрагментом, посвященным идее о том, что восприятие — это результат предсказаний мозга насчет источников сигналов, которые улавливают наши органы чувств.
ЦитироватьИ хотя кажется, будто мои органы чувств служат прозрачными окнами в независимую от сознания реальность, а восприятие — это процесс «считывания и вывода» сенсорных данных, на самом деле, я убежден, происходит нечто совсем иное. Восприятие устремлено не снизу вверх или извне внутрь, оно движется преимущественно сверху вниз или изнутри наружу.
Наш чувственный опыт строится на прогнозах мозга или «наиболее вероятных предположениях» о причинах и источниках сенсорных сигналов. Как и в случае с коперниканской революцией, это представление о восприятии как о нисходящем процессе, согласуясь со значительной частью имеющихся свидетельств, мало что меняет в видимом мире, однако на самом деле оно меняет все.
ЦитироватьОставшуюся половину века идея восприятия как умозаключения то завоевывала популярность, то отступала в тень, пока где-то в прошлом десятилетии не обрела новое дыхание. Родилась целая плеяда теорий, объединенная названиями «предиктивное кодирование» и «предиктивная обработка»: у каждой имеются свои отличительные особенности, но всех их роднит между собой предположение, что восприятие обусловливается теми или иными умозаключениями, делающимися в мозге.
Мою собственную интерпретацию бессмертной идеи Гельмгольца и ее современных воплощений точнее всего отражает представление о восприятии как о контролируемой галлюцинации — термин, который я впервые услышал много лет назад от британского психолога Криса Фрита.
ЦитироватьОсновные постулаты теории контролируемой галлюцинации в моей трактовке я сейчас перечислю.
Во-первых, мозг постоянно строит предсказания насчет источников поступающих к нему сенсорных сигналов, и эти предсказания устремляются каскадом сверху вниз по иерархической лестнице его систем восприятия (серые стрелки на рис. 4). Если вы смотрите на чашку кофе, ваша зрительная кора будет формулировать прогнозы об источнике сенсорных сигналов, поступающих от этой чашки.
Во-вторых, сенсорные сигналы, устремленные к мозгу снизу вверх или извне внутрь, полезным образом поддерживают привязку этих перцептивных прогнозов к их источникам (в данном случае к чашке кофе). Эти сигналы служат ошибками предсказания, обозначающими разницу между ожиданиями мозга и тем, что он получает на каждом уровне обработки данных. Корректируя нисходящие прогнозы так, чтобы они подавляли восходящие ошибки предсказания, наиболее вероятные перцептивные предположения мозга сохраняют связь со своими источниками во
внешнем мире. С этой точки зрения восприятие представляет собой непрерывный процесс минимизации ошибок предсказания.
Третий и самый важный компонент теории контролируемой галлюцинации — это утверждение, что перцептивный опыт (в данном случае субъективный опыт «видения чашки кофе») определяется содержанием нисходящих предсказаний, а не восходящих сенсорных сигналов.
Мы никогда не «испытываем» сами сенсорные сигналы, мы испытываем только их интерпретацию.
Смешайте эти три составляющие — получится коперниканский переворот в области представлений о восприятии. Нам кажется, что органы чувств раскрывают окружающий мир перед нашим сознательным разумом таким, какой он есть. С такими установками вполне закономерно считать восприятие процессом восходящего распознавания признаков — «считывания» окружающей нас действительности. На самом же деле мы воспринимаем нисходящую, направленную изнутри наружу нейронную фантазию, которую реальность просто обуздывает, а не смотрим на какую бы то ни было реальность сквозь прозрачное окно.
ЦитироватьИ «нормальное» восприятие, и «ненормальные» галлюцинации включают в себя порождаемые чем-то внутри нас прогнозы относительно источников входящих сенсорных данных, и обе разновидности образуются одним и тем же комплектом основных механизмов в мозге. Разница лишь в том, что при «нормальном» восприятии воспринимаемое связано с источниками в реальном мире и контролируется ими, а в случае галлюцинаций восприятие в той или иной степени теряет связь с этими источниками. При галлюцинациях наши перцептивные прогнозы не обновляются должным образом с учетом ошибок прогнозирования.
Если восприятие — это контролируемая галлюцинация, то галлюцинацию по аналогии можно считать неконтролируемым восприятием. Они отличаются, но искать границу между ними — это все равно что искать границу между днем и ночью.
ЦитироватьНаличие двигательных реакций на обонятельные стимулы при различных синдромах отключения сознания ассоциировано с его лучшим последующим восстановлением. Согласно результатам исследования китайских ученых, опубликованным в журнале Frontiers in Neuroscience, у людей без реакции на запахи в головном на электроэнцефалограмме отмечался более высокий взвешенный индекс фазового запаздывания в тета-диапазоне.
Тяжелые травмы головного мозга могут привести к различным стадиям отключения сознания, таким как кома, вегетативное состояние, состояние минимального сознания и выход из него. Эти стадии отличаются по двигательным и речевым реакциям пациента на внешние сенсорные раздражители: болевые, звуковые, зрительные. Так, пациенты в вегетативном состоянии не чувствительны к внешним раздражителям и не осознают себя и свое окружение, а у людей с минимальным сознанием могут наблюдаться не стойкие признаки целенаправленного поведения в ответ на раздражители. Однако непонятно, насколько обонятельные стимулы подходят для поведенческой оценки сознания.
Несколько предыдущих исследований показывали разные результаты обработки корой обонятельной информации, которую оценивали с помощью ЭЭГ, а в одном исследовании их применяли для оценки сознания у больных с разной степенью его отключения. Поэтому Цю Ю Се (Qiuyou Xie) с коллегами из Южного медицинского университета изучил, насколько реакция на обонятельные стимулы может прогнозировать восстановление сознания. Для этого они включили в исследование 28 человек с разными синдромами отключения сознания: у 13 пациентов диагностировали вегетативное состояние, а у 15 — синдром минимального сознания.
Всем участникам подносили к носу (на расстоянии около двух сантиметров) вату, пропитанную ванилином, каприновой кислотой (ей пахнут козы), и сухую вату. Пациентам случайным образом давали вату с разным запахом и контрольную вату примерно на пять секунд. Каждое представление повторялось примерно пять раз с интервалом в 30 секунд в виде блока, интервал между блоками составлял около двух минут. Всем пациентам параллельно с предоставлением стимула снимали ЭЭГ.
Наличие реакции оценивалось с помощью шкалы расстройств сознания. Ученые разделили участников на две группы: которые реагировали на обонятельные стимулы (общая реакция на стимулы с двумя одорантами, или общая реакция на один стимул, или локальная реакция на один стимул), и которые не реагировали. Пациенты находились под наблюдением в течение трех месяцев.
Обе группы пациентов существенно не различались по возрасту, полу, причине заболевания или времени с момента травмы. Всего у 16 пациентов врачи зарегистрировали реакцию на обонятельные стимулы: у четырех пациентов в вегетативном состоянии и у 12 с синдромом минимального сознания. У 15 человек была реакция на приятный запах ванилина, у 12 — на неприятный, у двух — на чистую вату, а у 11 — на оба вида раздражителя. Врачи нашли достоверную связь между наличием реакции и уровнем сознания (р = 0,020).
Через три месяца у 10 из 16 пациентов с реакцией на запахи (62,5 процента) восстановились отдельные функции сознания по сравнению с 16,7 процента (2 из 12 пациентов) в группе без реакции на запахи (р = 0,023). В группе без реакции врачи отметили у пациентов высокий взвешенный индекс фазового запаздывания (wPLI) в тета-диапазоне в центрально-теменной области.
Таким образом, ученые подтвердили свою гипотезу о том, что обонятельную реакцию можно считать сознательным поведением, и, следовательно, ее можно рассматривать как маркер сознания у людей с синдромами его отключения.
О том, что современная наука думает насчет сознания, и какие новые теории пытаются объяснить его суть, можно прочитать в книге нейробиолога Анила Сета «Быть собой: новая теория сознания».
Цитата: npvol от июня 04, 2023, 18:43:40а что из всего этого следует в контексте роли моногамии для антропогенеза?Я надеялся, что это вопрос для ответа себе самому, с учетом всех семи пунктов, которые предполагают единый фактор "давления среды". Фактор, возможно понуждающий переходить к моногамии.
Цитата: василий андреевич от июня 07, 2023, 04:34:54Нужны рабочие идеи