Представлен программно‑аппаратный AI KV‑cache offloading от «Тантор Лабс» с управлением в платформе «Боцман»

«Тантор Лабс» и «Платформа Боцман» представили программно-аппаратную технологию хранения KV-cache нейросетей во внешнем NVMe-хранилище без использования DRAM. По данным разработчиков,

Вышла платформа «Боцман» 3.3.0

«Платформа Боцман» (входит в «Группу Астра») выпустила версию платформы управления контейнеризированными средами «Боцман» 3.3.0. Также в веб‑интерфейсе переработан дизайн терминала,