ml phys

Последние публикации канала «ml phys»

1. 516 просмотров, 17 реакций, 15 июл. 2026 г.

   Пост про децентрализованный инференс В прошлом году я писал про Cocoon , децентрализованный инференс для LLM на NVIDIA TEE. TEE это технология NVIDIA, которая гарантирует, что вычисления идут приватно. Владелец видеокарты не может прочитать ваш запрос, а вы можете проверить, что он действительно запустил нужную модель. Поэтому покупатель токенов знает две вещи: он получает модель, за которую заплатил, и никто не читает его запросы. Это гарантирует криптография, сервису не нужно верить на слово. GPU confidential computing появился начиная с NVIDIA H100. H100 стоит десятки тысяч долларов, это…

   Открыть пост в MAX
2. 781 просмотров, 15 реакций, 14 июл. 2026 г.

   Год назад Андрей Карпаты назвал LLM новым компьютером , который программируется на английском: промпты становятся программами. Илон Маск позже пошёл дальше и предположил, что ИИ будет сразу создавать готовые бинарники. Тогда это звучало как прогноз об исчезновении привычных программ. Кажется, мы уже близко. Раньше я автоматизировал личные рутины через n8n и Python: выставление инвойсов, простую бухгалтерию, умный дом и ведение списка задач в GTD. Сейчас я использую Hermes Agent, аналог OpenClaw, сделанный без AI-слопа. Я описываю ему задачу, а регулярные процессы прошу запускать по…

   Открыть пост в MAX
3. 886 просмотров, 25 реакций, 13 июл. 2026 г.

   Я не могу понять, почему все так лихо обсуждают суд Apple против open ai. Всё это дело держится на показаниях двух свидетелей, а у Сэмa есть проверенные способы решать такие вопросы.

   Открыть пост в MAX
4. 897 просмотров, 10 реакций, 13 июл. 2026 г.

   Небольшой апдейт по тому человеку, от которого был исходный твит. Я эту историю хорошо помнил, но по картинке сразу не понял, что автор исходного твита и есть тот самый Мэтт Шумер. Когда трава была зеленее, а агенты тупее, топом опенсорса была Meta Llama 3. Шумер заявил, что дообучил её до качества фронтира каким-то очень странным методом под названием Reflection-Tuning. Тогда все начали активно это обсуждать, но через пару дней оказалось, что веса «обученной им модели» хуже оригинала, результаты бенчмарков не воспроизводятся, а его приватный API на самом деле проксирует фронтирный тогда…

   Открыть пост в MAX
5. 814 просмотров, 8 реакций, 13 июл. 2026 г.

   Интернет взрывает новая модель Reflection 70В: она выбивает на бенчмарках результаты, превосходящие Claude 3.5 Sonnet и GPT-4o Название Reflection выбрано в честь метода Reflection-Tuning : это когда модель итеративно обучается на синтетических структурированных данных, чтобы научиться рассуждать и самокорректироваться. Плюсом добавлен отдельный этап планирования для улучшения CoT. В качестве инициализации брали Llama 3.1 70B. На практике модель прямо в ответах оборачивает все рассуждения в тег <reasoning>, а возможные ошибки в тег <reflection>. Затем она обнаруженные ошибки исправляет, и…

   Открыть пост в MAX
6. 876 просмотров, 4 реакций, 13 июл. 2026 г.

   Мэтт Шумер запустил GPT-5.6-Sol и остался почти без файлов на маке. Из-за ошибки при подстановке $HOME команда очистки превратилась в rm -rf /Users/mattsdevbox . Процесс успели остановить, но удаление к тому моменту уже прошло. У меня Claude Code однажды тоже чистил домашнюю директорию. Он создал папку с названием ~/ , потом понял, что ошибся, и удалил её командой rm -rf ~/ . С тех пор я стараюсь ограничивать, куда модель может дотянуться. Раньше в Claude Code ограничения проверялись на уровне tools. Wrapper смотрел, можно ли конкретному инструменту тронуть файл, и разрешал либо блокировал…

   Открыть пост в MAX