新浪科技讯 2月24日上昼音书，在上周DeepSeek晓喻本周将是开源周（OpenSourceWeek），并将相连开源五个软件库后。本日，DeepSeek晓喻开源了开源周首款用于Hopper GPU的高效型MLA解码核——FlashMLA。

　　新浪科技小心到，在GitHub上，当今该步地照旧成绩了跨越1700star，何况领有62个Fork。

　　MLA是DeepSeek V2-V3系列大模子最为蹙迫时间改进，主要用于减少推理经由的KV Cache，进而裁减推理老本。据DeepSeek先容，FlashMLA是Hopper GPUs的有用MLA解码内核，可针对可变长度序列进行优化，当今主要发布包括：1、 BF16；2、块大小为64 的分页kvcache。

　　在基准测试性能线路上，FlashMLA在英伟达H800 SXM5 GPU上可完了3000 GB/s 的内存速率以及580TFLOPS的预计打算上限。（文猛）

海量资讯、精确解读，尽在新浪财经APP

包袱裁剪：郝欣煜 开云体育(中国)官方网站