ML&|Sec Feed

Последние публикации канала «ML&|Sec Feed»

1. 67 просмотров, 16 июл. 2026 г.

   https://spectrum.ieee.org/jailbreaking-llms

   Открыть пост в MAX
2. 78 просмотров, 16 июл. 2026 г.

   https://openai.com/index/unlocking-self-improvement-gpt-red/

   Открыть пост в MAX
3. 78 просмотров, 16 июл. 2026 г.

   пора закрывать Awesome LLMSecOps https://github.com/Xinhao-Deng/awesome-self-evolving-agent-security

   Открыть пост в MAX
4. 101 просмотров, 15 июл. 2026 г.

   В издательстве Института Китая и современной Азии РАН (ИКСА РАН) на днях вышла книга историка и корееведа Константина Асмолова «Основы источниковедения и аналитики: пособие по развитию критического мышления». «Новое издание выходит за рамки узкой регионалистики. Это практическое руководство по работе с источниками любого типа — от древних хроник до новостных лент. В центре внимания — не столько содержание, сколько процедура проверки: как распознать манипуляцию, чем отличаются факты от интерпретаций, какие приемы используют при создании фейковых нарративов и как не поддаваться на отвлекающие…

   Открыть пост в MAX
5. 106 просмотров, 15 июл. 2026 г.

   В «Росатоме» представили систему «Когнитрон» для обучения и развертывания ИИ-моделей, создания ИИ-помощников и агентов Платформа включает инструменты для поиска информации, обслуживания оборудования, технической поддержки, проверки документов и анализа рисков. Она может применяться на предприятиях атомной промышленности: выступать ИИ-помощником, работать с большими массивами документации, анализировать инциденты и отклонения и давать рекомендации. По словам разработчиков, «Когнитрон» выступает средой для взаимодействия ИИ-агентов между собой и средством интеграции ИИ с внешними системами. В…

   Открыть пост в MAX
6. 94 просмотров, 15 июл. 2026 г.

   Атака HalluSquatting использует галлюцинации ИИ для создания ботнетов Специалисты из Тель-Авивского университета, Израильского технологического института и компании Intuit продемонстрировали атаку HalluSquatting. Она строится на склонности ИИ-ассистентов «выдумывать» адреса репозиториев и других ресурсов. Эксперты показали, что атакующий может заранее зарегистрировать такой несуществующий адрес, дождаться подключения ИИ-агента и добиться выполнения вредоносного кода на машине пользователя. https://xakep.ru/2026/07/15/hallusquatting/

   Открыть пост в MAX
7. 91 просмотров, 15 июл. 2026 г.

   ⚡️ Локальные LLM стали серьёзнее: Bonsai 27B весит меньше 4 ГБ PrismML взяла модель класса 27B и сжала её через 1-bit quantization : с примерно 54 ГБ до 3.8–3.9 ГБ . Заявляют, что при таком сжатии модель сохраняет около 90% качества оригинала. Это уже размер, с которым можно думать не только про серверы, но и про ноутбуки, браузер и смартфоны. Есть и более качественная версия Ternary Bonsai 27B : около 5.9 ГБ и до 95% качества baseline. Модель поддерживает мультимодальность, reasoning, кодинг, tool calling и агентные сценарии. То есть это не просто локальный чат, а база для локальных…

   Открыть пост в MAX
8. 89 просмотров, 1 реакций, 15 июл. 2026 г.

   Microsoft Project Ire ( Binary Analyzer ): Это не просто исследование, а полноценный продукт Microsoft, который уже интегрируется в Defender. Агент автономно проводит полный reverse engineering, используя декомпиляторы, sandbox-ы для анализа памяти и фреймворки вроде angr и Ghidra . В тестах на 4000 сложных файлов он достиг точности 0.89 с уровнем ложных срабатываний всего 4% . Главное — он ведет "цепочку доказательств" (chain of evidence) , объясняя каждый свой шаг https://www.microsoft.com/en-us/research/blog/project-ire-autonomously-identifies-malware-at-scale/

   Открыть пост в MAX
9. 100 просмотров, 14 июл. 2026 г.

   Очередную модель угроз вам в ленту. Стратегических. От Гартнера... 😱 В самом правом верхнем углу дипфейки. На этом фоне интересное исследование университетов Ланкастера, Стэнфорда и Калифорнии, где обнаружили любопытный парадокс : лица, сгенерированные современными нейросетями, вызывают у людей больше доверия, чем фотографии реальных людей, что открывает для мошенников массу возможностей; не новых, но все же… #модельугроз #тенденции #биометрия

   Открыть пост в MAX
10. 118 просмотров, 14 июл. 2026 г.

    🔒 Аппарат ная уязвимость в чипе — это идеальное преступление. Ее невозможно обнаружить антивирусом, она не оставляет следов в системных логах и плевать хотела на то, насколько сложный у вас пароль. Долгое время кибербезопасность воевала на уровне софта, но этот рубеж пройден: программная защита очень важна, но главная уязвимость сместилась в «железо». Ситуация становится по-настоящему острой прямо сейчас, когда электроника массово переходит на аппаратный искусственный интеллект и нейроморфные системы. Если уязвима сама архитектура процессора, то нейросеть, управляющая авиацией, медицинским…

    Открыть пост в MAX
11. 94 просмотров, 13 июл. 2026 г.

    https://github.com/bureado/awesome-agent-runtime-security

    Открыть пост в MAX