ScoreFlow：一种自动化多智能体工作流生成和优化方法
ScoreFlow是什么？
ScoreFlow是一种自动化多智能体工作流生成与优化方法，它通过基于梯度的连续空间优化技术，结合Score-DPO，不断改进协作流程，从而提升模型性能。它在问答、编程、数学推理等多个基准测试中比现有的方法都更优，并支持小模型以更低推理成本超越大模型。ScoreFlow由芝加哥大学、普林斯顿大学和牛津大学的团队开发。
ScoreFlow功能特征
高效优化：利用连续空间的梯度优化技术，提升模型性能。
偏好优化：结合Score-DPO，集成了 Score-DPO，这是一种直接偏好优化方法的变体，考虑定量反馈，优化模型输出。
小模型优势：帮助小模型在性能上超越大模型，降低推理成本。
多任务支持：覆盖问答、编程、数学推理等多种应用场景。
实验结果
在六个不同的基准测试（包括问答、编码和数学推理）中，ScoreFlow 相比现有基线实现了 8.2% 的改进。
ScoreFlow 还能够在较低的推理成本下，使较小的模型超越较大的模型。
ScoreFlow应用场景
问答系统：提升问答模型的准确性和效率。
编程辅助：优化代码生成模型，提高编程效率。
数学推理：增强模型在数学问题解决中的表现。
多智能体协作：优化多智能体工作流，提升整体任务效率。
ScoreFlow使用方法
硬件准备：需要80-90GB显存。
环境设置：
使用 conda 创建一个新的虚拟环境，并安装必要的依赖项。
下载数据集并将其解压缩到项目目录中。
优化过程：
通过迭代优化模型，逐步提高性能。
使用 generate.py 和 evaluate.py 脚本进行优化。
可以通过增加迭代次数来调整优化过程。
推理：
在测试集上运行推理，评估模型的最终性能。
Github项目：https://github.com/Gen-Verse/ScoreFlow
