ChillHouse

Последние публикации канала «ChillHouse»

1. 4.8K просмотров, 94 реакций, 09 июл. 2026 г.

   Ну что ж, вот и наш первый релиз на архив . we achieve a 4.37-fold speedup over autoregressive decoding, and outperform a highly optimized DFlash baseline by 24.7% Это спекулятивный декодинг. SOTA(ну на qwen3.6 точно). Бьем все, что есть известного в паблике (ну dflash). Супер важная тема для быстрого инференса на устройстве, особенно когда понимаешь задачу. GitHub HF Поддержка в нашем инференс движке скоро доедет

   Открыть пост в MAX
2. 2.2K просмотров, 24 реакций, 07 июл. 2026 г.

   У кофаундера thinking machines Lilian Weng всегда интересные посты . На этот раз про то как делать харнесы или обвязки/среду для работы моделей для решения определенных задач. Я бы сказал, что очень важный пункт, который очень часто отсутствует у «на коленке» харнесов это вот такая штука: The design should be deliberately simple and generic to enable generalization, likely with reference to existing software engineering practices to benefit from prertaining knowlege. Ну и мой take что мы будем редизайнить современные OS вокруг вечно работающего в фоне AI (то есть инференс должен как бы…

   Открыть пост в MAX
3. 5.4K просмотров, 109 реакций, 02 июл. 2026 г.

   Заметки с полей. Мы используем кодинг агентов для всяких задач. Но именно end2end для экспериментов, поглядеть что к чему (там переписать тестовый апп с электрона на rust и тому подобное). Так вот у меня сложилось впечатление, что fable от Anthropic это первая модель, которую надо уже думать куда натравлять. Иначе это оооочень дорого. То есть просто для себя повайбить эта штука не подходит. И мы приходим к простой мысли. Чтобы понимать куда ее направлять нужен человек, который знает и умеет. И у меня четко в голове складывается картинка и почему в лабы нанимают тоннами. Как никогда в…

   Открыть пост в MAX
4. 3.6K просмотров, 15 реакций, 30 июн. 2026 г.

   О, fable возвращают

   Открыть пост в MAX
5. 4.5K просмотров, 33 реакций, 28 июн. 2026 г.

   Свежий тренд в долине. Вдруг (интересно почему же) многие осознали, что затраты на токены антропика и опенаи слишком высокие и может можно как-то уменьшить. И у гениальных людей появилась идея заделать тонну стартапов по посттрейну сеток на данных компании итд. Подняли 200м даже (конечно напишут красиво обо всем и вся что будет там как продукт). В целом идея неплохая для Энтерпрайза. При наличии хорошей команды можно повторить на любом рынке или около того. Интересно вообще ведет себя рынок перед AIs IPO.

   Открыть пост в MAX
6. 4.3K просмотров, 26 реакций, 27 июн. 2026 г.

   Помните спрашивали про децентрализованный инференс и все такое. Так сказать пища для размышления: - вот так выглядит нормальный стек , как думаете реально заставить игроков поставить так сказать? - в чем принципиальное отличие от обычной клауд инфры с OSs моделями? (OpenRouter?) - ах да инференс сам по себе должен идти вместе с другими тоннами фичей - если модели мелкие что их может хостить обычный чувак, то это значит их можно запускать локально, а значит бесплатно - ну и да, кто блин обеспечивает SLA, поддержку, да что угодно важное для бизнеса? Правильно - никто. И давайте никогда не…

   Открыть пост в MAX
7. 4.2K просмотров, 91 реакций, 25 июн. 2026 г.

   Айяйяй

   Открыть пост в MAX
8. 5.6K просмотров, 106 реакций, 24 июн. 2026 г.

   Немного наблюдений. Про «поиск работы». Регулярно натыкаюсь на русскоязычные посты ака «я крутой, но такие дела, ищу работу». Попробую со стороны нанимающего высказать свои пять копеек: - если кто-то очень крутой, прям безумно вау и все вот такие метафоры в комментах «ты вау», то какого извините хрена ищешь работу? Должны быть причины и если есть неконтролируемые обстоятельства именно с них я бы начал - все эти странные чисто наши присказки: моя суперсила, лучше всего я умею видеть «прибыль/системность/собирать смыслы и превращать их в релизы И так далее» это про что? Никогда не понимал все…

   Открыть пост в MAX
9. 4.5K просмотров, 27 реакций, 18 июн. 2026 г.

   Было много работы. Но тут и новостей прикатило: - забанили fable от антропика, там какая-то муть если честно и политика - купили интерком за 3.6 ярда - купили cursor окончательно за акции на 60 ярдов (получается самая дорогая покупка стартапа? Хотя пофиг) А тем временем хорошая картинка про органические запуски без маркетинга и залива и трафлом

   Открыть пост в MAX
10. 5.4K просмотров, 172 реакций, 08 июн. 2026 г.

    Btw релизнули свой первый результат в рисерче. Выкатили первые квантизованные версии моделей Qwen 3.5. За счет совместной оптимизации квантизации и движка инференса нам удалось заметно обойти Unsloth/llama.cpp и MLX по ключевому компромиссу «качество vs скорость». На устройствах Apple от iPhone до мощных Mac модели выдают на 40–60% больше токенов в секунду без потери качества. Пост hf collection

    Открыть пост в MAX
11. 4.3K просмотров, 86 реакций, 07 июн. 2026 г.

    Заметил такую штуку за «успешными инвесторами и предпринимателями». Очень часто пишут советы мол: не цепляйся за ошибки слишком долго, умей проходить их или не пытайся реализовать сто идей сразу, вкладывайся в что-то одно и держи фокус. Ну вы поняли, вот эти стандартные рельсы. И следом обычно я созваниваюсь с этим человеком, у которого один из последних постов именно такой и спрашиваю че как дела. И он делает сто идей сразу, ему пофиг на людей, главное идея и так далее. Или другими словами полностью противоречит тому, что сам пишет и другим советует. Встречали?

    Открыть пост в MAX
12. 5.0K просмотров, 21 реакций, 04 июн. 2026 г.

    На заметку пользователям Claude. Но вообще очень взвешенная статья вышла . Крайне не похоже, что Дарио ее смотрел. Without that judgment, Claude is a capable assistant, but not a system that could drive AI progress on its own. It is genuinely unclear whether today’s training methods and architectures could unlock that capacity.

    Открыть пост в MAX
13. 12.0K просмотров, 49 реакций, 03 июн. 2026 г.

    Наброшу в копилку про фронтир лабы. Часто в интернетах любят рассуждать про Open Weight Models. Мол скоро вот вот они догонят и всегда поджимают. Что думается мне после общения с разными людьми и какие проблемы я вижу: • проблема таланта, как нанять команду делать небольшую или открытую модель, если норм рисерч талант в антропике получает 10м в год (реальные цифры), и это тебе еще надо compute и все такое • допустим ты готов инвестировать в обучение людей годик другой, но тогда догонять будешь очень долго - как решить? ну надо поднимать сотку другую сразу и чилить, иначе я не очень понимаю в…

    Открыть пост в MAX
14. 5.5K просмотров, 41 реакций, 30 мая 2026 г.

    Когда вы уверенно питчите свою идею опытному венчуру

    Открыть пост в MAX
15. 4.6K просмотров, 39 реакций, 28 мая 2026 г.

    Ok ok продано

    Открыть пост в MAX