ИИ-шница. Управление KV-кэшем в vLLM и llama.cpp: Архитектурные различия и их последствия

Всем привет! Меня зовут Андрей Зорин и не исключено, что если вы работаете в банковском ИТ и финтехе в целом, то вы про меня слышали, были на выступлениях или учились вместе со мной.Проект - дневник личного погружения автора в тему ИИ и перестроения корпоративной разработки на абсолютно новые рельсы.ИИ как технология не способен поменять что-то сам по себе. Как и любая другая технология он должен быть встроен в производство, выдавать предсказуемый и управляемый результат, быть измеримым. Долгое время эти задачи не решались и не было понятно, как вообще можно подойти к этому вопросу на практике крупных отечественных компаний, с учетом требований защиты информации и надежности.В январе 2026 года автор смог сформулировать для себя гипотезы, как это встраивание возможно. И приступил к предметному изучению тематики.В пятницу, 13 февраля 2026 года автор прочитал про SSD (spec driven development), посмотрел материалы и осознал, что среди лошадей в потоке появился автомобиль. Революция произошла. Фарш не провернуть обратно. Весь ИТ находится в состоянии полного дисрапта и уничтожения рабочих мест.Процесс нельзя остановить. Его нужно возглавить.Автор 20 лет зарабатывает деньги в ИТ, умеет строить системы и команды. Слова: "Требования ФСТЭК, ЗОКИИ, ГОСТ по безопасной разработке" - часть ежедневного лексикона.Рассказ пойдет от лица бывалого ИТ-руководителя, для начала на примере pet-проекта, потом обогатится практикой переноса в корпоративную среду. По пути будут размышления об ИТ-архитектуре, технологиях и прочих смежных областях.Присоединяйтесь и поехали!P.S. При написании статей на проекте не пострадал, не страдает и не пострадает ни один ИИ. Только ручной контент.

ИИ меняет всё. Автор 20 лет зарабатывал деньги в ИТ, писал код, строил команды в сотни людей, делал системы из сотен микросервисов с десятками релизов в день, но революция уже здесь. Программисты будут вымирать, разработка меняется. Погружаемся.

ии меняет всё. автор 20 лет зарабатывал деньги в ит, писал код, строил команды в сотни людей, делал системы из сотен микросервисов с десятками релизов в день, но революция уже здесь. программисты будут вымирать, разработка меняется. погружаемся.