ToRA 入门指南 - 一款全新的数学推理工具学习代理

ToRA简介

ToRA(Tool-integrated Reasoning Agent)是微软最新发布的一系列集成外部工具的推理语言模型代理,专门用于解决具有挑战性的数学推理问题。ToRA通过与计算库和符号求解器等外部工具交互,将自然语言推理与外部工具的计算效率无缝结合,大大提升了数学问题解决的能力。

ToRA的主要特点

工具集成推理: ToRA能够在推理过程中灵活调用外部工具,将语言模型的分析能力与工具的计算效率完美融合。

强大的数学推理能力: 在GSM8k、MATH等多个数学推理基准上,ToRA展现出了优秀的表现,甚至在某些任务上超越了GPT-4。

开源可用: 微软已在GitHub上开源了ToRA的代码,并在HuggingFace上发布了多个预训练模型,方便研究者和开发者使用。

灵活的模型规模: ToRA提供了从7B到70B不同参数规模的模型版本,用户可根据需求选择合适的模型。

快速上手ToRA

环境配置

ToRA推荐使用Conda管理环境,并使用vLLM加速推理。以下是配置步骤:

git clone https://github.com/microsoft/ToRA.git && cd ToRA/srcconda create -n tora python=3.10conda activate torapip install packaging==22.0pip install torch==2.0.1 --index-url https://download.pytorch.org/whl/cu118pip install -r requirements.txt

模型推理

ToRA提供了推理脚本,只需配置MODEL_NAME_OR_PATH和DATA参数即可运行:

bash scripts/infer.sh

模型评估

使用以下命令可以评估模型在特定数据集上的表现:

python -m eval.evaluate --data_name "math" --prompt_type "tora" --file_path "outputs/llm-agents/tora-code-34b-v1.0/math/test_tora_-1_seed0_t0.0_s0_e5000.jsonl" --execute

ToRA相关资源

GitHub 仓库: 包含完整的源代码、使用说明和示例数据。HuggingFace 模型: 提供多个预训练ToRA模型供下载使用。论文: 详细介绍了ToRA的技术原理和实验结果。项目网站: 提供更多关于ToRA的信息和更新。

结语

ToRA作为一种新型的数学推理工具,为解决复杂数学问题提供了全新的思路。无论是研究人员还是开发者,都可以通过上述资源深入了解和使用ToRA,探索AI辅助数学推理的无限可能。随着ToRA的不断发展和完善,相信它将在数学教育、科研等领域发挥越来越重要的作用。