Нейронка атакует... ChatGPT, хроника с мест сражений

Знаменитый на весь мир чат-бот ChatGPT — это невероятный инструмент, который онлайн-издатели, аффилиаты и SEO-специалисты одновременно любят и боятся.

▫️Некоторым это нравится, потому что они открывают новые способы его использования для создания сводок контента, планов и сложных статей.

▫️Онлайн-издатели опасаются, что контент ИИ заполонит результаты поиска, вытеснив экспертные статьи, написанные людьми.

По всему миру учёные тестируют возможности чат-бота ChatGPT и других нейронок по генерации контента, в том числе и разного рода текстов. У нас в России дошло почти до маразма, НТИ решили проверять сочинения при помощи нейросетей, про генерации текстов сочинений уже и говорить нечего, пройденный этап.

В связи с этим требуется наличие инструмента, помечающего особыми маркерами контент, созданный при помощи чат-бота.

На волне хайпа сейчас немногие вспомнят, что ChatGPT — плод инвестиций корпорации Microsoft, которая вложила в OpenAI 1 миллиард долларов.

И Microsoft не занимается альтруизмом — ее задача извлечение прибыли из пользователей.

Корпорация готовится к запуску версии своей поисковой системы Bing, которая использует искусственный интеллект, лежащий в основе ChatGPT, для ответа на некоторые поисковые запросы, а не просто для отображения списка ссылок, по словам.

Microsoft надеется, что новая функция, которая может быть запущена до конца марта, поможет ей обойти Google, своего гораздо более крупного конкурента в области поиска.

Первоначальный выпуск будет ограниченным тестом для узкой группы.

https://www.bloomberg.com/news/arti...hopes-openai-s-chatbot-will-make-bing-smarter

Тем временем, проблема с определением сгенерированных текстов вызывает очень серьёзные опасения у преподавателей высших учебных заведений США, вплоть до блокировки доступа

В статье использованы материалы канала https://t.me/s/black_triangle_tg

 

Вести с юго-восточного фронта.
Tencent создали нейронку для обработки графики с использованием искусственного интеллекта, только сделали это немного в стиле японского аниме и получилось нейронка, генерирующая оскорбительные изображения



Изначально проблема была вызвана отсутствием в японском аниме персонажей с иным цветом кожи, неазиатскими чертами лиц и толстяков.
Однако после шквала критики проблему уже устранили:

https://nitter.snopyta.org/ruima/status/1600377796219764736
https://pandaily.com/tencents-anime-ai-picture-generator-hits-global-social-platforms/

 

Очередной подлый удар поддых, откуда не ждали
Мало того, что

Австралийские ученые Университета Ла Троба создали программу, которая способна определять опьянения человека по голосу, пишет Газета.Ru.

В ходе масштабного эксперимента светила ума проанализировали 12 тысяч записей голосов людей, одни из которых были абсолютно трезвыми, а другие — в разной степени опьянения.

Нейросеть с точностью почти до 70% смогла распознать нетрезвые голоса людей с концентрацией алкоголя от 0,5 промиле. При этом, чем пьянее был диктор, тем точность ИИ увеличивалась.

К слову, такая программа в перспективе может использоваться при создании приложений для использования в барах или спортивных сооружениях для получения мгновенного результата.

«Возможность определять лиц, находящихся в состоянии опьянения, исключительно на основе их речи, стала бы гораздо более дешевой альтернативой существующим системам», — отметили авторы работы.

Так теперь ещё и бывшим не напишешь без палева

Ученые создали нейросеть, распознающую «пьяные» сообщения в Twitter

В свете текущих выходных, важно не забывать, что алкоголь и общение, вместе составляют не всегда хорошую комбинацию, даже у звезд. Тем не менее, многие из нас повторяют этот опыт снова и снова. И этот опыт дал американским ученым (Nabil Hossain с приятелями из University of Rochester) интересную идею. В итоге, американские ученые разработали нейронную сеть, способную распознавать в Twitter посты написанные в состоянии алкогольного опьянения. Кроме того, полученная математическая модель может определять, где авторы «пьяных» постов находились в момент их написания.
Об этом сообщает MIT Technology Review.

Для создания своей нейросети специалисты из University of Rochester в течение целого года собирали твиты, в которых используется специфическая «алкогольная» лексика. Из этого набора, фильтровались все твиты, которые упоминают алкоголь или связанных с алкоголем слов, таких, как «пьяный», «пиво», «вечеринка» и так далее. Анализ около 11 000 постов помог установить, является ли автор сообщения тем, кто пьет спиртное, и был ли твит написан непосредственно во время употребления напитка. Это достаточно большой набор твитов для алгоритма машинного обучения.

Ученые также решили определить, откуда пользователи чаще всего пишут «пьяные» твиты.



Чтобы понять, находился ли автор поста дома, анализировалось употребление специфической «домашней» лексики (например «диван» или «ванна»). Кроме того, по возможности, использовались данные геолокации. Для уточнения координат пользователей, были разработаны дополнительные алгоритмы, например было интересно узнать, дома пользователи, или где-либо еще? Типовые алгоритмы включают в себя анализ мест отправки последнего сообщения в интервале времени от 1 часа ночи, до 6 часов утра. Тем не менее методы имеют свои недостатки и не высокую точность.

Hossain с коллегами разработали другой подход. Они составили список слов и фраз, наиболее вероятно отправленных из своих домов, таких как «Наконец дома!», или «в ванне», «на диване», «перед телевизором» и так далее. Данные твиты были исходным набором данных для уточнения местоположения людей, на основе которых нейросетью были сформированы собственные модели определения людей дома. Алгоритм уточнял, как местоположение пользователя дома, коррелирует с другими показателями, такими как местоположение последнего твита днём, самым массовым расположением твита, процент твитов из определенного места и т.п.

Опираясь на несколько показателей, нейросеть значительно повысила точность. В итоге Hossain и соавторы утверждают, что могут определять пользователей вне дома с точностью до 100 метров с вероятностью в 80%. Это значительно лучше, чем любая предыдущая работа.

Вместе, эти два метода позволили команде разработать модель, когда и где люди пьют. И они использовали это, чтобы сравнить типичные примеры питья в Нью-Йорке, и в пригородной зоне округа Монро.

Исследователи делают это, путем деления каждой области сетку из 100 х 100 ячеек и маркировки тех областей, где есть твиты, связанные с алкоголем. Что позволяет им разрабатывать и сравнивать «тепловые карты» употребления алкоголя для каждой области.

Также различаются твиты о теме питья сделаных из домашнего местоположения, от твитов в других местах. Намечаются точки продаж алкоголя в каждой области. Это позволяет исследователям изучить взаимосвязь между плотностью твитов, отправленных из разных регионов в состоянии алкогольного опьянения и плотности продажи алкоголя.

Результаты интересны для ознакомления. Во-первых, Hossain отметил, что более высокая доля твитов в Нью-Йорке связаны с алкоголем, чем в графстве Монро. «Одно из возможных объяснений является то, что переполненный город, такой как Нью-Йорк с высокой плотностью продажи алкоголя, способствует тому, что больше людей при общении, используют более высокий уровень потребления алкоголя из-за его доступности» говорят они.



Более того, данные геолокации показывают, что более высокая доля людей пьет дома (или в пределах 100 метров от дома) в Нью-Йорке, чем в графстве Монро, где большая часть людей пьет далее, чем в километре от дома.

Тепловые карты, также, выявляют интересные закономерности. Это позволяет команде находить области в 100 х 100 метров, в квадратах сетки, где были, по крайней мере пять твитов об алкоголе. «Мы считаем, что такие области являются признаком деятельности необычной питьевой активности» утверждает Hossain.

Они также обнаружили корреляцию между плотностью продажи алкоголя в регионе, и количеством твитов, указывающих, что кто-то пьет в настоящее время. Возникает интересный вопрос о том, как корреляция и причинно-следственная связь связаны в данном случае. Высокая плотность продажи алкоголя заставляет людей пить больше? Или пьющие стекаются в районы с высокой плотностью продажи алкоголя? Конечно, такого рода данные, сами по себе не могут ответить на этот вопрос.

Тем не менее, достоинство этого метода является то, что это дешево и быстро. Другие методы, для получения аналогичной информации, являются чрезвычайно дорогими и отнимают много времени.

Как правило, требуется, чтобы люди были тщательно отобраны, для заполнения заранее подготовленных вопросников, которые должны быть далее тщательно проанализированы. Нейросеть же, обученная к этому методу, может даже контролировать употребление алкоголя в режиме реального времени. «Наши результаты показывают, что твиты могут обеспечить подробной информацией о происходящем в городах», говорят исследователи.

Есть особенности, конечно. Существует искажение в данных, собранных из Twitter, так как преобладают молодые люди и представлена небольшая часть населения, активно пользующаяся социальными сетями. Но, подобные искажения, присутствуют в других методах сбора информации, например, опросы, как правило, не учитывают людей, которые не хотят проходить обследования, таких как некоторые иммигранты.

https://habr.com/ru/post/280186/

И как теперь с этим жить?

 

Надо себе поставить на комп, чтобы по синему делу на нем кнопать нельзя было

 

Ни одна сеть НИКОГДА даже рядом не будет стоять в этом деле с мамкой. Та после стопки расслышит пил ты или нет, стоимт тебе только начать говорить, через два слова.

 

Иногда ложноположительные срабатывания бывают

 

Ну это, в основном, оттого, когда ты её уже заебал каждый вечер в дрись домой приходить. Обострение семантики фаервола.

 

ChatGPT начали использовать для создания вредоносного ПО
ChatGPT позволяет пользователям скриптов писать функциональные вредоносные программы

С момента запуска бета-версии в ноябре чат-бот ChatGPT с искусственным интеллектом использовался для широкого круга задач, включая написание стихов, технических статей, романов и эссе, планирование вечеринок и изучение новых тем. Теперь мы можем добавить в список разработку вредоносных программ и преследование других видов киберпреступности.

Исследователи из фирмы Check Point Research сообщили в пятницу, что в течение нескольких недель после запуска ChatGPT участники форумов по киберпреступности — некоторые с небольшим опытом программирования или вообще без него — использовали его для написания программного обеспечения и электронных писем, которые могли быть использованы для шпионажа, вымогательства, вредоносного спама и других вредоносных задач.

“Еще слишком рано решать, станут ли возможности ChatGPT новым любимым инструментом для участников даркнета”, - пишут исследователи компании. “Тем не менее, сообщество киберпреступников уже проявило значительный интерес и использует эту последнюю тенденцию для создания вредоносного кода”.

В прошлом месяце один участник форума опубликовал то, что, по их утверждению, было первым написанным ими сценарием, и приписал чат-боту AI предоставление “хорошей [помощи] для завершения сценария с хорошим охватом”.


Код Python сочетает в себе различные криптографические функции, включая подпись кода, шифрование и дешифрование. Одна часть скрипта сгенерировала ключ, используя криптографию с эллиптической кривой и кривую ed25519 для подписи файлов. Другая часть использовала жестко закодированный пароль для шифрования системных файлов с использованием алгоритмов Blowfish и Twofish. Третий использовал ключи RSA и цифровые подписи, подпись сообщений и хэш-функцию blake2 для сравнения различных файлов.

Результатом стал скрипт, который можно было использовать для (1) расшифровки одного файла и добавления кода аутентификации сообщения (MAC) в конец файла и (2) шифрования жестко заданного пути и расшифровки списка файлов, которые он получает в качестве аргумента. Неплохо для человека с ограниченными техническими навыками.

“Весь вышеупомянутый код, конечно, может быть использован щадящим образом”, - пишут исследователи. “Однако этот скрипт можно легко модифицировать, чтобы полностью зашифровать чью-либо машину без какого-либо взаимодействия с пользователем. Например, это может потенциально превратить код в программу-вымогатель, если проблемы со сценарием и синтаксисом будут устранены ”.

В другом случае участник форума с более техническим образованием опубликовал два примера кода, оба написанные с использованием ChatGPT. Первым был скрипт на Python для кражи информации после эксплойта. Программа выполняла поиск определенных типов файлов, таких как PDF-файлы, копировала их во временный каталог, сжимала и отправляла на сервер, контролируемый злоумышленником.


Пользователь опубликовал второй фрагмент кода, написанный на Java. Он тайно загрузил SSH и telnet-клиент PuTTY и запустил его с помощью Powershell. “В целом, этот человек, похоже, является технологически ориентированным субъектом угроз, и цель его сообщений - показать менее технически способным киберпреступникам, как использовать ChatGPT для вредоносных целей, с реальными примерами, которые они могут немедленно использовать”.


Еще один пример криминального программного обеспечения, созданного ChatGPT, был разработан для создания автоматизированного онлайн-магазина для покупки или обмена учетными данными для взломанных учетных записей, данными платежных карт, вредоносными программами и другими незаконными товарами или услугами. В коде использовался сторонний программный интерфейс для получения текущих цен на криптовалюты, включая monero, bitcoin и etherium. Это помогло пользователю устанавливать цены при совершении покупок.


Пятничное сообщение появилось через два месяца после того, как исследователи Check Point попробовали свои силы в разработке вредоносного ПО, созданного искусственным интеллектом, с полным потоком заражения. Не написав ни строчки кода, они сгенерировали достаточно убедительное фишинговое электронное письмо:


Исследователи использовали ChatGPT для разработки вредоносного макроса, который может быть скрыт в файле Excel, прикрепленном к электронному письму. И снова, они не написали ни единой строки кода. Поначалу выводимый скрипт был довольно примитивным:


Однако, когда исследователи поручили ChatGPT повторить код еще несколько раз, качество кода значительно улучшилось:


Затем исследователи использовали более продвинутый сервис искусственного интеллекта под названием Codex для разработки других типов вредоносных программ, включая обратную оболочку и скрипты для сканирования портов, обнаружения изолированной среды и компиляции их кода на Python в исполняемый файл Windows.

“И точно так же поток заражения завершен”, - пишут исследователи. “Мы создали фишинговое электронное письмо с прикрепленным документом Excel, содержащим вредоносный код VBA, который загружает обратную оболочку на целевой компьютер. ИИ проделали тяжелую работу, и все, что нам осталось сделать, это выполнить атаку ”.

Хотя условия ChatGPT запрещают его использование в незаконных или вредоносных целях, у исследователей не возникло проблем с настройкой своих запросов, чтобы обойти эти ограничения. И, конечно, ChatGPT также может использоваться защитниками для написания кода, который ищет вредоносные URL-адреса внутри файлов или запрашивает VirusTotal о количестве обнаружений для определенного криптографического хэша.

Итак, добро пожаловать в дивный новый мир ИИ. Пока еще слишком рано точно знать, как это повлияет на будущее атакующего взлома и защитного исправления, но можно поспорить, что это только усилит гонку вооружений между защитниками и участниками угрозы.

Источник: https://arstechnica.com/information...g-script-kiddies-to-write-functional-malware/
Перевод яндекс-переводчиком

 

Редмонд по оккупацией. Покусились на святое! Помощник-скрепка пал в неравной борьбе.

В сети появились первые сообщения, что Microsoft ведет переговоры о внедрении возможностей ChatGPT в «Word, PowerPoint, Outlook и другие приложения, чтобы клиенты могли автоматически генерировать текст с помощью простых подсказок».

Эту технологию также можно использовать, чтобы предлагать автоматические ответы на электронные письма, рекомендовать изменения в документах, которые удаляют жаргон, и делать текст более понятным для других.

 

Закономерно произошло то, что всегда происходит с перспективными проектами, руку к которым приложила Microsoft

Дальше отслеживать события не имеет смысла, всё будет в рамках корпоративной политики.

 

ChatGPT не смог осилить творчество Анны Ахматовой . Как я его понимаю

 

А я ее вообще не читал кажись. Я помню эту вот Ахматову и Цветаеву ищо. Все бабэ там в охуении от счастья зачитывались - я не осилил вообще абсолютно никак
Если Пушкена я ищо как-то заставлял себя читать - то эти вот <кхм>... невозможно оказалось. Бедная нейронка.