Ethical Machines

Последние публикации канала «Ethical Machines»

1. 298 просмотров, 4 реакций, 03 июн. 2026 г.

   И делюсь с вами презентацией — думаю, она точно будет полезна тем, кто начинает разбираться в этой теме.

   Открыть пост в MAX
2. 295 просмотров, 25 реакций, 03 июн. 2026 г.

   Сегодня у меня день рождения 🙌🏼 Отметила его по-взрослому: провела день на работе с коллегами и выступила на itsec с докладом про оценку качества AI-продуктов. Кстати, если захотите сделать мне подарок, расскажите про этот канал другу или коллеге. Буду рада, если нас станет 1000 чуть больше 💗

   Открыть пост в MAX
3. 384 просмотров, 10 реакций, 22 мая 2026 г.

   AI в каждый японский дом

   Открыть пост в MAX
4. 436 просмотров, 13 реакций, 20 мая 2026 г.

   AI в Японии Путешествуя по Японии, я начала замечать на улицах баннеры с AI — в метро, магазинах и общественных пространствах (профдеформация, это ты?!). И мне стало интересно, как вообще устроен японский AI-рынок. Оказалось, что он сильно отличается от того, как развивается индустрия в США, Китае или в России. Но сначала немного контекста. Население Японии сокращается уже 16 лет подряд. Только в 2024 году страна потеряла рекордные 908 тысяч жителей . Сегодня почти 30% населения старше 65 лет, а детей младше 14 лет — всего 11%. На этом фоне нехватка рабочих рук стала для Японии одним из…

   Открыть пост в MAX
5. 373 просмотров, 11 реакций, 14 мая 2026 г.

   Как в индустрии учатся защищать AI За последние 2 года в AI Security сформировалась полноценная отрасль: только в специализированные продукты по защите LLM и агентов инвесторы вложили > $414 миллионов (при общей оценке AI Security рынка $8.5 миллиардов в 2024-2025 ), появились десятки стартапов и продукты по разным направлениям . И большАя часть решений пришла не из крупных AI-лабораторий, а из независимых команд, небольших стартапов и разного рода хакатонов и соревнований. Вот несколько примеров: 🟣 Lakera : использует открытые соревнования как инструмент развития отрасли. Их игра Gandalf…

   Открыть пост в MAX
6. 474 просмотров, 7 реакций, 16 апр. 2026 г.

   Как ускорить оценку качества AI-продуктов: топ-3 фичи Оценка качества aka Eval -s — это почти бесконечные попытки сделать работу AI-продукта точнее / безопаснее / быстрее / дешевле . И со временем этот процесс начинает отнимать у команды все больше времени, потому что: 🟣 растет трафик — например, 20+ миллионов трейсов за месяц, которые надо разгребать 🟣 нужно постоянно экспериментировать с пайплайном — чтобы он тянул нагрузку и не терял в качестве 🟣 и параллельно тестировать более легкие модели — чтобы запросы пользователей стоили дешевле Поэтому важно сделать процесс максимально удобным и…

   Открыть пост в MAX
7. 517 просмотров, 13 реакций, 23 мар. 2026 г.

   Observability & Evals AI-Продуктов: Базовый Джентльменский Набор Год назад я рассказывала об инструментах для наблюдения за AI-продуктами и оценки их качества . Картинка с тех пор особо не изменилась — появились интересные продукты и фичи, но речь о Disruptive innovation тут точно не идет. Но дело не в инструментах. Многие команды думают, что достаточно подключить инструмент — и оценка качества заработает сама. Поставил, нажал кнопку, получил дашборд. А инструмент — это только обёртка. И вся суть — в создании процесса оценки качества, который включает 5 шагов : 1️⃣ Определите, что такое…

   Открыть пост в MAX
8. 900 просмотров, 13 реакций, 27 февр. 2026 г.

   Chain - of - Thought Мониторинг как дополнительный слой AI Safety 19-20 февраля в Белграде прошла конференция OpenTalks.AI , где одним из докладов был рассказ Сергея Николенко (наверняка, многим известный) на тему AI Safety в 2026 году . Пока смотрела запись, накидала себе много полезных вещей и об одной из них хочу рассказать вам (а потом, может, и до других доберусь). Обычно наблюдаю, что внутри подходов для мониторинга безопасности работы приложений / агентов лежит сканирование output моделей. А тут исследователи ведущих организаций в области безопасности AI (Anthropic, OpenAI, Google…

   Открыть пост в MAX
9. 532 просмотров, 27 реакций, 09 февр. 2026 г.

   В субботу прошла наша T-Sync Conf Спасибо всем, кто сделал этот день насыщенным и запоминающимся 💛 🖤 Было так много классных людей и вопросов, что вот уже второй день я почти без голоса Расскажите, что вам понравилось больше всего, а что можно сделать еще лучше

   Открыть пост в MAX
10. 838 просмотров, 14 реакций, 19 янв. 2026 г.

    7 февраля пройдет T-Sync Conf — классная и правда необычная конференция. Здесь можно будет лично познакомиться с ребятами, которые делают разные продукты в T , и заглянуть на стенд LLM Platform , где вас ждет много интересного (на картинке, кстати, структура наших продуктов) 👀 Что можно будет сделать на стенде: 🟣 узнать у техлида платформы Паши, как устроены интеграции между продуктами 🟣 расспросить продакт-лида платформы Лешу про подходы к этапам разработки 🟣 обсудить с продактом RAG-платформы Пашей SOTA подходы в RAG 🟣 наконец, разобраться, что такое MCP , и узнать у продакта ARP…

    Открыть пост в MAX
11. 1.1K просмотров, 23 реакций, 16 янв. 2026 г.

    Agent-as-a-Judge: возможности и ограничения Привет! В прошлом посте я упоминала о том, что в роли судьи для оценки качества продуктов можно использовать агентов . Но зачем, если есть LLM ?! Дело в том, что использование LLM-as-a-Judge тут имеет ряд ограничений и проблем: 🟣 склонность к предвзятости aka biases (например, предпочитают более длинные ответы) 🟣 неспособность анализировать многошаговые и сложные ответы из-за single-pass reasoning 🟣 отсутствие проверки достоверности. То есть с помощью LLM оценивается только язык, а не фактическая корректность через внешние источники и инструменты…

    Открыть пост в MAX
12. 504 просмотров, 33 реакций, 31 дек. 2025 г.

    Ребята, спасибо вам, что читаете канал. Желаю в новом году крутых открытий и интересных технологий. Но в первую очередь — классных каникул 🎄 Всех с наступающим!

    Открыть пост в MAX
13. 1.3K просмотров, 19 реакций, 31 дек. 2025 г.

    Agent Assessment Framework или как оценивать агентов В конце 2025 мало кого уже заинтересуют простые LLM apps , потому что все внимание перешло к агентам . Но есть нюанс: мы научились их запускать, но мало кто умеет делать исчерпывающую оценку качества. Так происходит из-за того, что текущие подходы чаще всего фокусируются на проверке выполнения итоговой цели (end-to-end). Но упускают довольно много важных вещей (например, нарушение политик безопасности , наличие низкой полноты поиска в памяти и другое) Поэтому хочу поделиться статьей, опубликованной 2 недели назад, которая описывает…

    Открыть пост в MAX