昆仑万维与新加坡南洋理工大学合作开发了一种名为 Q* 的新算法，这一算法能够显著提升现有大模型的推理能力。据实验结果显示，Q* 算法帮助参数量仅为 7b 的小模型达到了比其大数十倍甚至百倍模型的推理能力，显著提升了模型的性能，并显著降低了计算资源的需求。在 GSM8K 数据集上，Q* 帮助 Llama-2-7b 模型提升至 80.8% 的准确率，超越了 ChatGPT；在 MATH 数据集上，Q* 帮助 DeepSeek-Math-7b 提升至 55.4% 的准确率，超越了 Gemini Ultra；在 MBPP 数据集上，Q* 帮助 CodeQwen1.5-7b-Chat 提升至 77.0% 的准确率，缩小了与 GPT-4 的编程水平差距。这一成果在人工智能领域引起了广泛关注，被视为对 OpenAI 闭源封锁的一种突破，为国产开源模型推理能力的发展带来了新的可能性。
