港科大与微软联合发布HarnessSQL:首个面向真实数据库的原生长程交互SQL Agent训练框架

SmartHey11月3日消息,近日,香港科技大学联合微软研究院发布业内首个专为真实数据库环境设计的原生长程交互式SQL Agent训练框架——HarnessSQL,并同步开源全部代码、可复现沙盒环境及高质量交互轨迹数据集。

实测显示,仅8B参数规模的HarnessSQL模型,在执行准确率等核心指标上反超多个32B级别的专用SQL大模型,为破解当前大模型Text-to-SQL领域长期存在的“训练与部署脱节”难题提供了全新技术路径。

在企业级数据分析实践中,传统Text-to-SQL方案多依赖单轮静态推理:用户输入自然语言问题与固定表结构,模型直接生成最终SQL。然而真实业务数据库常含上百张表、数千字段,数据结构复杂且动态性强。

资深数据分析师实际工作流程并非一蹴而就——而是先浏览表清单、探索字段含义、执行试探性查询,并根据报错持续迭代调试。这种“观察—行动—反馈—修正”的长程交互能力,正是当前主流大模型所欠缺的关键技能。

传统基于静态微调的SQL模型在Spider2.0、BIRD-Interact、LiveSQLBench等交互式评测基准中暴露明显短板:模型仅能输出预设“标准答案”,缺乏状态感知、错误识别与恢复机制,易陷入无限循环或直接失效,即典型的“训练—部署脱节(Train-Deploy Mismatch)”现象。

针对该挑战,研究团队将交互式Text-to-SQL建模为部分可观测马尔可夫决策过程(POMDP),构建高保真密闭沙盒执行环境,定义SQL专属交互契约DSH-SQL,并创新提出“长程轨迹监督微调(SFT)+ 执行导向强化学习(RL)”两阶段协同训练范式。

团队在三大权威交互数据库基准上开展系统性对比实验,涵盖通用代码大模型、专用SQL模型及多智能体系统,统一采用执行准确率(Execution Accuracy)作为核心评估指标。

在Spider 2.0-SQLite基准中,HarnessSQL-8B达45.2%执行准确率,约为同底座基线模型的3倍,显著超越OmniSQL-32B、Arctic-Text2SQL-32B及Qwen2.5-Coder-32B等32B级别竞品;当底座升级至Qwen3-14B后,准确率进一步跃升至54.8%。

跨域泛化能力同样突出:在BIRD-Interact Mini与LiveSQLBench等跨领域交互基准中,HarnessSQL-8B与14B模型性能达32B基线模型的3–4倍,验证其已习得可迁移的通用数据库探索策略,而非简单记忆Schema信息。

受控消融实验进一步揭示最优训练范式:仅靠强化学习冷启动效果有限;必须先通过完整交互轨迹SFT建立基础交互逻辑,再叠加DAPO强化学习,方能实现性能质变。

此外,实验还得出多项关键结论:训练环境与推理环境需严格对齐;全轨迹训练优于单步样本拆分;更大上下文窗口对长程探查任务至关重要;DAPO算法相较GRPO、GSPO,更适配长程SQL任务中奖励稀疏、延迟反馈的优化场景。