

контекстное окно: мой первый миллион (про код.ии.прод #7)
Сережа в IT 26 лет и застал время, когда весь контекст проекта помещался в голове одного человека. Саша в IT 11 лет и каждый день гоняет по тридцать саб-агентов, чтобы не забивать контекст. Рушан ведёт ML-команду и объясняет, почему attention до сих пор считается за O(n²). Куда на самом деле уходит миллион токенов и как с этим работать — в выпуске #7 подкаста «про код.ии.прод». Таймкоды 01:51 — Что на самом деле лежит в контекстном окне 06:37 — Почему модель забывает середину, и человек тоже 08:53 — handoff, compaction и кэш: как росли инструменты вокруг контекста 11:04 — Под капотом: attention за O(n²), KV-кэш, flash attention, RoPE 21:12 — MD-файлы в репо: как ML-команда передаёт контекст друг другу 31:28 — Саб-агенты: тридцать миллионов токенов контекста в одной сессии 39:49 — LLM-судья: почему модели одного семейства подыгрывают друг другу 45:25 — Как переводчик Google дал миру GPT Подписывайтесь на наш тг-канал @bankirudev — там ИТ-инженеры Банки.ру рассказывают, что у нас под капотом.





