@aiattacks
#безопасностьмл #машинноеобучение #нейросети #защитамл #защищенныемодели #cybersecurity Написать автору @PolinaSokol7
О канале AI Attacks
#безопасностьмл #машинноеобучение #нейросети #защитамл #защищенныемодели #cybersecurity Написать автору @PolinaSokol7
AI-обзор
Обновлено 20.07.2026Канал "AI Attacks" посвящен кибербезопасности и угрозам, связанным с искусственным интеллектом. В нем публикуются новости, исследования и инструменты, связанные с защитой от атак на основе ИИ, а также аналитические материалы о последствиях применения AI в сфере безопасности. Канал будет интересен специалистам по кибербезопасности, разработчикам ПО и всем, кто интересуется вопросами этики и рисков, связанных с искусственным интеллектом.
Описание сформировано MaxBook AI на основе последних публикаций канала.
Основные метрики
Рост подписчиков
Вовлечённость
Здоровье аудитории
Часовая активность
МСККогда канал публикует — распределение постов по часам суток.
Последние публикации канала «AI Attacks»
- 157 просмотров, 1 реакций, 15 июл. 2026 г.
Microsoft Project Ire ( Binary Analyzer ): Это не просто исследование, а полноценный продукт Microsoft, который уже интегрируется в Defender. Агент автономно проводит полный reverse engineering, используя декомпиляторы, sandbox-ы для анализа памяти и фреймворки вроде angr и Ghidra . В тестах на 4000 сложных файлов он достиг точности 0.89 с уровнем ложных срабатываний всего 4% . Главное — он ведет "цепочку доказательств" (chain of evidence) , объясняя каждый свой шаг https://www.microsoft.com/en-us/research/blog/project-ire-autonomously-identifies-malware-at-scale/
Открыть пост в MAX - 56 просмотров, 11 июл. 2026 г.
GitHub - elder-plinius/T3MP3ST: autonomous red teaming platform; multi-agent offensive-security meta-harness · GitHub https://github.com/elder-plinius/T3MP3ST
Открыть пост в MAX - 31 просмотров, 11 июл. 2026 г.
Недавно ко мне в коммиты залетел интересный обучающий ресурс - AI Risk Atlas . первое, что мы видим когда заходим на сайт - это знакомый нам дизайн 😁 . Но помимо этого в глаза бросается большая такая энциклопедия с описанием различных рисков в AI Security, некоторые подкрепляются примерами инцидентов из реального мира. Хоть и часть является не совсем про AI Security - всё-равно, ресурс можно закинуть в копилочку базовых обучающих ресурсов. Из ноу-хау можно отметить интерактивную песочницу . В ней можно визуально посмотреть как может распространятся атака в зависимости от того, какие приняты…
Открыть пост в MAX - 74 просмотров, 10 июл. 2026 г.
Страшные сказки на выходные Больше инопланетян, астероидов, пандемии и ядерного удара не ждем У нас новая ветка повествования
Открыть пост в MAX - 70 просмотров, 1 реакций, 10 июл. 2026 г.
Опубликовала это и поняла, как прикольно вставить работающие вредоносные ссылки в статью о вредоносных ссылках
Открыть пост в MAX - 156 просмотров, 10 июл. 2026 г.
AI‑агенты, предназначенные для поиска вредоносного кода, могут быть обмануты и сами выполнить этот код . Институт AI Now опубликовал доказательство концепции атаки «Friendly Fire». Она работает против AI‑агентов Anthropic’s Claude Code и OpenAI’s Codex в автономном режиме — когда агенты самостоятельно одобряют свои команды. Атака использует файл README.md , который есть почти в каждом репозитории: в нём содержится призыв запустить скрипт security.sh . Скрипт незаметно запускает скрытый бинарный файл с полезной нагрузкой атакующего. Исследователи Боян Миланов и Хейди Кхлааф протестировали два…
Открыть пост в MAX - 66 просмотров, 10 июл. 2026 г.
Первая полностью автономная атакеа программ‑вымогателей, управляемой языковой моделью (LLM), — JadePuffer. Атака JadePuffer началась с эксплуатации уязвимости CVE‑2025‑3248 в инструменте Langflow, который позволяет строить AI‑приложения. Злоумышленник использовал уязвимость удалённого выполнения кода (RCE), не требующую аутентификации. Затем JadePuffer проник на производственный сервер с MySQL‑базой данных и сервисом конфигурации Alibaba Nacos. Атакующий: -перечислил содержимое базы данных; -похитил выбранные данные; -удалил базу данных; -оставил записку с требованием выкупа за украденную…
Открыть пост в MAX - 78 просмотров, 09 июл. 2026 г.
Исследователи из подразделения 42 выявили, что LLM постоянно генерируют «галлюцинации» в виде веб‑доменов законных брендов. Злоумышленники используют это, заранее регистрируя такие домены. Атака проходит в четыре этапа: -Discover: злоумышленники выявляют паттерны «галлюцинаций» LLM для целевого бренда. -Act: превентивная регистрация наиболее ценных фантомных доменов. -Lure: LLM выступает механизмом доставки атаки — рекомендует пользователям перейти на подконтрольный злоумышленникам домен. -Bypass: новый домен не имеет репутации, поэтому обходит традиционные средства защиты. Результаты…
Открыть пост в MAX - 73 просмотров, 09 июл. 2026 г.
Что должно быть в AI SOC: -База коррелированных данных в режиме реального времени. Вердикт ИИ хорош ровно настолько, насколько хорош контекст, на котором он основан. Спросите, коррелируются ли данные об идентификации, конфигурации, ресурсах и базовых показателях постоянно (подход на основе графа знаний) или собираются из необработанных журналов во время выполнения запроса. Сама по себе скорость мало что значит: быстрый механизм выполнения запросов также возвращает результаты за секунды. Вместо этого выберите случайную личность и выясните, какие у нее права (администратор или нет), как…
Открыть пост в MAX - 80 просмотров, 08 июл. 2026 г.
https://www.darkreading.com/cybersecurity-operations/state-ids-ai-agents-estonia
Открыть пост в MAX - 84 просмотров, 08 июл. 2026 г.
ACS — Agent Control Standard https://agentcontrolstandard.org/
Открыть пост в MAX - 94 просмотров, 08 июл. 2026 г.
Госдума приняла в третьем чтении закон о «суверенном» и «национальном» искусственном интеллекте. Документ вводит два типа ИИ-моделей. «Суверенные» должны полностью разрабатываться российскими компаниями и хранить данные на российских серверах, «национальным» разрешат использовать зарубежные компоненты. Применять такие системы в чувствительных сферах можно будет только с одобрения правительства, а для работы с банковской системой потребуется согласование с Центробанком. Минцифры станет единым регулятором в сфере ИИ. Основные положения закона вступят в силу 1 сентября 2026 года. Глава комитета…
Открыть пост в MAX - 129 просмотров, 07 июл. 2026 г.
все чаще вендоры ИБ в МЛ делают свои собственные блоги на своих сайтах, для того, чтобы покупатели прониклись их экспертизой, я собираю коллекцию таких блогов, вот еще один: https://aiceberg.ai/blogs
Открыть пост в MAX - 129 просмотров, 07 июл. 2026 г.
https://habr.com/ru/companies/yandex/articles/1035520/?m-message-key-id=-6210463883892547584&m-message-click-id=03b3c893-8c84-4b35-ae9f-3b0577204c04
Открыть пост в MAX - 112 просмотров, 07 июл. 2026 г.
OWASP Agentic AI CTF — FinBot AI Assistant - CTF, предназначенную для изучения уязвимостей в системах агентного ИИ. https://github.com/OWASP-ASI/finbot-ctf-demo
Открыть пост в MAX
Качество и доверие
Эвристические сигналы качества по публичным метрикам (охват, реакции, динамика подписчиков). Это не доказанный фрод и не приговор — лишь поводы присмотреться к каналу.
Цитирование
Сколько раз канал упомянут и репостнут в постах других каналов.
Публикации
Дополнительно
Из 23 пойманных постов в диапазоне ID сообщений отсутствует 5. Пропуски — это удалённые посты ИЛИ медиа-альбомы и служебные сообщения (один альбом = несколько ID). Точную причину по одним ID определить нельзя.