1.Soulmate-Halo / heterogeneous-gpu-pd-lab使用稠密算力卡对稀疏大显存主机进行加速,主机包括 AI Max+ 395、M3 512G、DGX Spark 等。llama-cpppipeline-parallelismprefill-decodertx-3060strix-haloheterogeneous-gpuC++No license1.1K total165 forks+104 starsfrom 947 · score 4.65