教程演示运行并评测Saluki 27B

Sana Hassan 讲解并演示了使用原生 llama.cpp 运行、验证和评测 Underdog Saluki 27B 的工具调用能力，并与 ISTA-DASLab 的 Qwen3.8-27B 2-bit 文件进行对比；相关模型文件约 7.9 GB。 运行需要 Linux 下的 NVIDIA GPU（如 Colab T4）或 Apple 芯片 Mac。测试一次只加载一个模型，并使用同一套提示词、采样和解析框架，以减少配置差异；但小样本、贪心解码和单次运行限制了结论的确定性，因此结果区间与分数同样需要关注。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。