Start in AI Safety

Последние публикации канала «Start in AI Safety»

1. 328 просмотров, 3 реакций, 18 июл. 2026 г.

   ⭐️ September 2026 Iliad Intensive матбаза современного AI alignment 📍 Где: LISA, Лондон, UK 🗓 Когда: 7 сентября - 2 октября 💰 Стипендия: $5,000 на travel and housing ⏰ Дедлайн подачи: 27 июля, EoD AoE Iliad — это организация, которая занимается исследованиями…

   Открыть пост в MAX
2. 396 просмотров, 27 реакций, 07 июл. 2026 г.

   Котятки, тут такое. Пока разбиралась, куда самой податься на финансирование по AI safety, я свела все открытые гранты, фонды, compute-кредиты и fellowships в одну большую карту. Получилось прилично - от «горит, дедлайн через неделю» до «откроется осенью, готовься заранее». Раз уж все равно собрала - делюсь. Пусть кому-то повезет )) Что горит прямо сейчас: grantmaking.ai — раунд $1M ($5k–$50k), приоритет 13 июля / закрытие 27 июля, через Manifund Heron AI Security — 8 июля (без стипендии, для кибербез-специалистов) GovAI DC и UK Winter Fellowship 2027 + ARENA 9.0 — дедлайн 12 июля PIBBSS…

   Открыть пост в MAX
3. 606 просмотров, 8 реакций, 04 июл. 2026 г.

   ⭐️ ARENA 9 .0 📍 Где: LISA office, Лондон, Великобритания 🗓 Когда: 5 октября - 6 ноября, 2026 ⏰ Дедлайн подачи: 12 июля, 2026 AoE Девятая итерация буткемпа ARENA (Alignment Research Engineer Accelerator). Начинается с четырех недель апскилла, которые включают ⭕️ DL Fundamentals (опционально) ⭕️ Transformers and Mechanistic Interpretability ⭕️ Reinforcement Learning ⭕️ LLM Evaluations На последней неделе вам предстоит сделать Capstone Project. Сами материалы курса — открытые, их можно найти в их гитхабе ( +пост про самостоятельное прохождение ), но основная ценность в создании проектов,…

   Открыть пост в MAX
4. 638 просмотров, 5 реакций, 02 июл. 2026 г.

   ⭐️ 2027 Foresight Fellowship 📍 Где: В основном онлайн 🗓 Когда: Весь 2027 💰 Стоимость: Бесплатно ⏰ Дедлайн подачи: 31 июля 2026 года Foresight Institute открывает набор на годовую стипендиальную программу, нацеленную на поддержку молодых учёных, инженеров и предпринимателей, работающих над технологиями, способными сильно изменить будущее. Возможные треки: ⭕️ Biotech: Health Extension ⭕️ Existential Hope ⭕️ Computer Science: Secure AI ⭕️ Nanotech: Molecular Machines ⭕️ Neurotech: BCIs ⭕️ Space and Energy Некоторые возможности: ⭕️ 1-1 с релевантными менторами, исследователями, инвесторами ⭕️…

   Открыть пост в MAX
5. 1.7K просмотров, 8 реакций, 30 июн. 2026 г.

   ⭐️ AI Safety × Philosophy Reading Group Онлайн группа чтения 📍 Где : онлайн 🗓 Когда : июль - сентябрь 2026 ⏰ Дедлайн подачи : 15 июля Англоязычная группа чтения материалов по философским основам AI Safety: x-риски, alignment, ценности, агенты, сознание, control problem и good futures. Программа рассчитана на 8 недель. Формат — еженедельные встречи на 1,5 часа. Материалы включают статьи, эссе, главы книг и видео. Иногда будут необязательные к посещению сессии с исследователями: Q&A, дискуссии или дебаты. Что предоставляют: ⭕️ подборку материалов по темам AI Safety × philosophy, ⭕️ группу на…

   Открыть пост в MAX
6. 853 просмотров, 8 реакций, 26 июн. 2026 г.

   🔵 Technical AI Safety Project Sprint 📍 Где : онлайн 💰 Стоимость : free / pay-what-you-want. Для компьюта и других ресурсов можно податься на Rapid Grants ⏰ Дедлайн подачи : 5 июля Проектный спринт от BlueDot Impact: за 30 часов суммарного времени участники делают небольшой вклад в AI safety research или engineering. Из того, что есть в поле, это пока самый простой и понятный способ положить в резюме релевантный проект по техническому AI safety. Что предоставляют: ⭕️ менторство и регулярные созвоны с экспертами по AI safety, ⭕️ группу примерно из 8 участников, ⭕️ фидбек по проекту, ⭕️…

   Открыть пост в MAX
7. 1.0K просмотров, 24 реакций, 23 июн. 2026 г.

   ⭐️ September 2026 Iliad Intensive матбаза современного AI alignment 📍 Где : LISA, Лондон, UK 🗓 Когда : 7 сентября - 2 октября 💰 Стипендия : $5,000 на travel and housing ⏰ Дедлайн подачи : 27 июля, EoD AoE Iliad — это организация, которая занимается исследованиями в области прикладной математики в AI alignment. Они также проводят ILIAD Conference, запускают стажировки в формате интенсивов и длинные Fellowship программы. Основатели помогали запускать Timaeus и Simplex. Iliad Intensive — это 4-недельная очная программа по technical AI alignment с упором на подлежащие матмодели теории…

   Открыть пост в MAX
8. 2.9K просмотров, 11 реакций, 12 июн. 2026 г.

   ⭐️ ML4Good Summer 2026 Bootcamps 8-дневные очные буткемпы по AI Safety 📍 Где : Франция и UK 🗓 Когда : Технический трек: 2–10 сентября (UK); 26 сентября–4 октября (Франция); Governance & Strategy: 14–22 сентября; 19–27 октября 2026 (оба во Франции) ⏰ Дедлайн подачи : 1 июля 2026, 23:59 Anywhere on Earth Серия буткемпов по AI Safety: очно, 8 дней, участники живут на площадке на протяжении всей программы. Есть два трека: Technical Track для людей с техническим бэкграундом и Governance & Strategy Track для тех, кто хочет работать через governance, policy, strategy, operations, media или…

   Открыть пост в MAX
9. 1.1K просмотров, 10 реакций, 10 июн. 2026 г.

   ⭐️ «Says No, Does Yes»: Cross-Lingual Safety Misalignment in VLM-Controlled Robots Сделайте себе публикацию 📍 Где : онлайн ⏰ Дедлайн подачи : 12 июня (включительно) Для исследования в embodied ai safety ищут людей, которые свободно говорят на узбекском языке. Проект проходит в рамках Technical AI Safety Evals Course . Ментор проекта — Анна Шабанова (AI Lab Skolkovo). Что предоставляют: ⭕️ возможность законтребьютить в статью «Says No, Does Yes»: Cross-Lingual Safety Misalignment in VLM-Controlled Robots», которая пойдет в AAAI. Что делать в рамках программы: ⭕️ проверять перевод датасета на…

   Открыть пост в MAX
10. 988 просмотров, 10 реакций, 08 июн. 2026 г.

    🔵 Technical AI Safety Онлайн курс от BlueDot Impact 📍 Где : онлайн, Zoom 🗓 Когда : интенсив: с 6 по 11 июля; part time: 6 июля - 16 августа ⏰ Дедлайн подачи : 28 июня BlueDot Impact проводит регулярные курсы по техническому сейфети. В программе курса 6 встреч, пройти их можно либо в формате интенсива (встречи каждый день) либо в формате part-time (встречи раз в неделю). Ближайший запуск стартует 6 июля, а следующий 3 августа. Что предоставляют: ⭕️ материалы для чтения и письменные задания, ⭕️ обсуждения в группе с фасилитатором, ⭕️ доступ к community Slack (ради которого курсы BlueDot…

    Открыть пост в MAX
11. 2.5K просмотров, 9 реакций, 05 июн. 2026 г.

    🔵 AGI Strategy Вводный курс по сейфети от BlueDot Impact 📍 Где : онлайн, Zoom 🗓 Когда : 29 июня - 3 июля (интенсив), 6 июля - 9 августа (part-time) ⏰ Дедлайн подачи : 21 июня (интенсив), 28 июня (part-time) Это стартовый в сетке регулярных курсов от BlueDot Impact. В программе курса 5 встреч, пройти их можно либо в формате интенсива (встречи каждый день), либо в формате part-time (встречи раз в неделю). У этого курса есть и другие даты запуска. Что предоставляют: ⭕️ материалы для чтения и письменные задания, ⭕️ обсуждения в группе с фасилитатором, ⭕️ доступ к community Slack (ради…

    Открыть пост в MAX
12. 1.4K просмотров, 11 реакций, 22 мар. 2026 г.

    🔵 Technical AI Safety Demo Day BlueDot Impact 📍 Где: онлайн 🗓 Когда: 27 марта, 2026 💰 Стоимость: бесплатно Демонстрации лучших проектов из Technical AI Safety Project Sprint от BlueDot. Сначала пройдут короткие презентации (по 2–3 минуты), где каждый участник кратко представит свой проект и основные результаты. Затем все разделятся на небольшие группы в которых авторы подробнее расскажут о своей работе и ответят на вопросы. Проекты: ⭕️ Mechanistic Analysis of Chain-of-Thought Faithfulness — Victor Ashioya ⭕️ Persona Explorer: Using SAEs to Explore Personas and Drift in LLMs — Asude…

    Открыть пост в MAX
13. 1.3K просмотров, 6 реакций, 21 мар. 2026 г.

    ⭐️ Red Team Lie Detection Request for Proposals Cadenza Labs 📍 Где: онлайн 🗓 Когда: апрель – август 2026 (Red Team → Blue Team) 💰 Финансирование: $10k–$25k + ~$2k на компьют ⏰ Дедлайн подачи: 31 марта 2026 Cadenza Labs запускают соревнование по созданию реалистичных сценариев обманчивого поведения LLM. Центральный исследовательский вопрос: Какие методы лучше всего позволяют выявлять, лгала ли модель, и какой дополнительный вклад дает white-box доступ (веса, активации, управление активациями) по сравнению с одними лишь black-box инструментами? Как устроен формат 🔴 Red Team (апрель–июнь):…

    Открыть пост в MAX
14. 1.1K просмотров, 16 реакций, 20 мар. 2026 г.

    ⭐️ Request for Proposals: AI Interpretability Schmidt Sciences 📍 Где: онлайн 🗓 Срок проектов: 1–3 года 💰 Суммы: $300k–$1M на проект ⏰ Дедлайн подачи: 26 мая 2026 Schmidt Sciences запустили пилотную программу, направленную на проверку гипотезы, что методы интерпретируемости могут не только объяснять, но и улучшать поведение моделей, в том числе их честность. Фокус на переходе от академических бенчмарков к практическим, обобщаемым решениям, включая подходы, использующие доступ к внутренним представлениям моделей. Что финансируется: Проекты, работающие в одном или нескольких направлениях: ⭕️…

    Открыть пост в MAX
15. 1.5K просмотров, 11 реакций, 16 мар. 2026 г.

    ⭐️ Хотите помочь METR? METR строит probe для выявления eval-awareness, то есть инструмент, который поможет определить, может ли модель отличать ситуацию, где ее оценивают, от обычного реального использования. Это важно, потому что если модель ведет себя иначе во время тестирования, то результаты могут искажать представление о ее реальном поведении. Для этого им нужны данные о том, как люди используют модель для реальных полезных задач. Кроме того, им нужна open-weight модель, чтобы можно было анализировать ее активации и работать с on-policy данными. Для этого они запустили AI Cohort. На…

    Открыть пост в MAX