Борис_ь с ml

Последние публикации канала «Борис_ь с ml»

1. 356 просмотров, 9 реакций, 08 июл. 2026 г.

   Жили не тужили, да агентов смастерили. Значит ли это что-то для SOC? #иб_для_ml Есть мнение, что AI Security в некоторой степени хайпово: угрозы есть, но серьезные процессы кибербезопасности живут по прежним правилам. Так ли это?.. На уровне целей ИБ ответ да: защищаем конфиденциальность, целостность, доступность и устойчивость. На уровне операционных и технических деталей ответ нет. Кибербезопасность меняется, когда защищать нужно систему с ИИ. Как? 1. Меняется контрагент эксперта ИБ. Рядом с девопсом и бизнес-владельцем появляется ресерчер, математик, экспериментатор, для которого…

   Открыть пост в MAX
2. 855 просмотров, 17 июн. 2026 г.

   #праздное

   Открыть пост в MAX
3. 2.7K просмотров, 8 реакций, 03 июн. 2026 г.

   OWASP State of Agentic AI Security and Governance v2.01 #иб_для_ml Прочитал большой отчет OWASP по безопасности и управлению агентными ИИ-системами, который вышел 2 дня назад. Отвлечемся немного от сложных концепций и посмотрим на индустрию с позиции хеликоптер-хеликоптер, пара кофер - пара кофер... Главная мысль: агентная ИИ-система — это композиция из модели, агента, памяти, источников контекста, инструментов, протоколов взаимодействия, учетных данных, цепочек делегирования и среды исполнения. Поэтому защищать нужно всю эту композицию, включая действия агента во время выполнения. Самое…

   Открыть пост в MAX
4. 1.1K просмотров, 16 реакций, 27 мая 2026 г.

   Зонд безопасности #иб_для_ml Механизмы безопасности AI-агентов требуют развития - потому что обойти их уже стало если не спортивным интересом любого пользователя, то абсолютно очевидным обстоятельством для любого злоумышленника точно. Все начинают с блэклистов и оценок близости, потом приходят к BERT-моделям или легким LLM-классификаторам. Я давно слышу, что гардрейлы - это не все, и они ненадежны . Действительно, это ведь достаточно примитивная (хотя и все еще необходимая) идея - не пропустить атаку. Однако если она более сложная, неявная, и не проявляется сразу. Как APT, которая проникает в…

   Открыть пост в MAX
5. 1.1K просмотров, 55 реакций, 09 мая 2026 г.

   С Днем Победы! Память о тех воинах, что превратились в белых журавлей, вплелась навсегда в дух нашего народа. С гордостью несем воинскую волю сегодня и всегда.

   Открыть пост в MAX
6. 1.4K просмотров, 29 реакций, 23 апр. 2026 г.

   [un]prompted 2026 - интересное #иб_для_ml Добрался наконец до докладов с конференции [un]prompted. Она прошла 3–4 марта в Сан-Франциско, и посвящена целиком AI Security. Выступали все известные вендоры - от Anthropic до Zenity, а программа была разбита на 6 треков: 1. building secure AI systems 2. attacking AI systems 3. using AI for offensive security 4. using AI for defensive security 5. strategy/governance 6. practical tools Есть несколько интересных докладов, делюсь с вами (в комментах будут pdf) и рекомендую в целом ознакомиться с остальными . 1. Kinetic Risk: Securing and Governing…

   Открыть пост в MAX
7. 1.6K просмотров, 16 реакций, 03 апр. 2026 г.

   Саморазвивающиеся агенты и их угрозы #иб_для_ml Сегодня много шума вокруг Ouroboros - агента, эволюционирующего самостоятельно. Это новое для 2026 года явление, отличающееся от обычных AI-агентов и OpenClaw. Что такое саморазвивающиеся агенты? Предлагаю понять суть в сравнении. 1. Все началось с AI-агентов - кода с промптами, написанного человеком. Это управление состояниями, сессиями, обработкой сигналов и инструментами агента. OWASP Top 10 для агентов есть. 2. Следующий виток развития - агенты семейства OpenClaw. Их ключевая особенность - способность создавать себе инструменты или скиллы.…

   Открыть пост в MAX
8. 1.3K просмотров, 10 реакций, 18 мар. 2026 г.

   Почему большинство компаний не готовы к реальной атаке? #иб Как известно, в кибербезопасности можно бесконечно улучшать технологии, процессы и инструменты. Но как понять, что твоя организация готова к атаке? Ждать боевого инцидента можно долго, и не факт, что его получится отразить... Необходимо иметь возможность в условиях, приближенным к реальным, проверить свою киберустойчивость к атакам, эксплуатирующим не только целые цепочки уязвимостей, но и самое главное - человеческий фактор. Этот способ - Red Teaming, конечно же. Сможет ли атакующий дойти до критичных систем и данных? В большинстве…

   Открыть пост в MAX
9. 4.0K просмотров, 7 реакций, 04 мар. 2026 г.

   Б езопасность LoRA-адаптеров #иб_для_ml LoRA (2021) - технология дообучения GenAI-моделей (из семейства PEFT), при которой изменения хранятся в виде отдельного подключаемого адаптера (матрицы весов) при фиксированных базовых весах. Хоть самая идея отчуждаемых весов появилась раньше (2019), но именно с появлением LoRA она распространилась. Сила этой технологии в масштабируемости для разрозненных команд. Когда одна команда отвечает за сервисы базовых моделей, и множество команд придумывает свои приложения или агентов, возникает задача потоковым образом предоставлять специфично дообученные…

   Открыть пост в MAX
10. 3.5K просмотров, 20 реакций, 02 мар. 2026 г.

    Всем привет) Я опять на конфе, но на этот раз не в России) Кто тоже сегодня на SIGN China, пишите 😁 Или просто в Китае)

    Открыть пост в MAX
11. 1.8K просмотров, 12 реакций, 18 февр. 2026 г.

    Как изменилась индустрия AI Security за 2025 год? #иб_для_ml 17 января мы с Артемом (автор PWNAI ), Женей (автор "Евгений Кокуйкин - Raft" ) и Владом (автор " llm security и каланы ") провели стрим на тему изменений в AI Security за 2025 . И сейчас подготовили для вас его текстовое изложение! Приглашаю к прочтению: https://habr.com/ru/articles/1000736/ Я на стриме сфокусировался на перспективах развития индустрии на горизонте 2-3-5 лет с учетом достижений 2025. Это и появление нового класса решений по безопасности, основанных на анализе архитектуры моделей. Также был разговор про типы угроз…

    Открыть пост в MAX
12. 1.4K просмотров, 9 реакций, 17 февр. 2026 г.

    Всем привет) Кто тут - отзывайтесь)

    Открыть пост в MAX
13. 1.9K просмотров, 13 реакций, 13 февр. 2026 г.

    Схема документа в большом разрешении

    Открыть пост в MAX
14. 2.3K просмотров, 21 реакций, 13 февр. 2026 г.

    Меры защиты информационных систем с ИИ #иб_для_ml Появился проект нового методического документа, который будет дополнять требования приказа №117 ФСТЭК России. Он называется "Мероприятия и меры по защите информации, содержащейся в информационных системах" . Скорее всего, затронет очень многие организации, так как имеет довольно широкое описание субъектов, подпадающих под требования: "для обладателей информации, заказчиков, заключивших гос. контракт на создание ИС, ..." (пункт 1.4). Также, судя по документу, это будет снова для аттестации ИС на соответствие требованиям по защите информации.…

    Открыть пост в MAX
15. 7.5K просмотров, 40 реакций, 01 февр. 2026 г.

    Подходы к безопасности ИИ - регуляторика на начало 2026 #иб_для_ml Наконец-то я дописал... Начиная с прошлого лета, произошло несколько значимых изменений в области контроля ИИ в России с точки зрения кибербезопасности. И что приятно видеть, мы идем по собственному пути, не копирующему какую-либо зарубежную практику. В статье будет много про ФСТЭК, и детально разобрано, какую именно на данный момент позицию занимает регулятор касательно ИИ-решений - к кому относятся требования, что конкретно делать, и какие моменты еще не покрыты. При этом статья не просто обзор - так как с документами я…

    Открыть пост в MAX