Cartesia发布H-Nets分层网络架构：告别BPE分词，实现字节级端到端多模态学习

SmartHey10月30日消息，语音AI公司Cartesia Research于10月28日发布技术博客，正式推出升级版Hierarchical Networks（H‑Nets，分层网络）架构。该架构彻底摒弃传统大语言模型依赖的人工设计BPE分词器，首次实现从原始字节出发的端到端自主学习，在语言、代码、DNA序列与图像等多模态任务中均验证出显著的效率与泛化能力提升。

当前主流大模型普遍采用离线BPE（Byte-Pair Encoding）字节对编码进行预分词——这是一种人工预定义的固定流程，模型本身无法参与或优化切分逻辑。这一局限在代码理解、小语种处理、生物序列建模等场景中尤为突出，导致语义割裂、长程依赖弱化及泛化性能下降。

H‑Nets的核心创新在于“动态分块”（dynamic chunking）机制：不再依赖静态token词典，而是由神经网络递归地将底层原始信号（如字节流、像素阵列、核苷酸序列）压缩为高层语义块。其中，编码器负责分块与压缩，主干网络在抽象后的语义块上高效运算，解码器则还原至原始输入格式；整套流程通过端到端联合训练完成。分块边界随上下文动态调整，更在推理阶段展现出“上下文内分词”（in-context tokenization）的涌现特性——新出现的词汇被自动细粒度切分，高频重复后则融合为统一语义块，大幅提升表示一致性与计算经济性。

在严格控制参数量与FLOPs的前提下，单阶段（1-stage）H‑Net相较基于BPE的基准Transformer模型：域内预训练算力效率提升1.28倍；下游综合评测性能提升约2倍。其中代码领域增益尤为显著——训练集内编程语言的算力效率中位数提升2.04倍；对未见过的域外编程语言（如新兴DSL或冷门脚本语言），最高可达5.37倍提升，展现出卓越的小样本与跨语言泛化能力。

进一步构建双阶段（2-stage）分层网络，并与开源模型SmolLM3‑3B开展对照实验：H‑Net总参数量为3.67B，与基准模型算力规模基本对齐；仅使用1T训练token，即达到SmolLM3‑3B消耗11.1T token所取得的下游评测分数，实现数据与算力利用效率约10倍的跃升。得益于语义自适应压缩机制，H‑Net对代码类数据的压缩率显著高于BPE，有效规避冗余计算开销。

定性分析表明，H‑Nets可自主习得符合人类认知习惯的语义切分逻辑：对中英文文本能准确识别短语与语法单元；在代码场景下，可跨越换行符与空格实现跨物理结构的语义聚合；推理过程中，反复出现的变量名、模板结构会自然合并为单一高层块——这是传统静态BPE完全无法实现的能力。

值得注意的是，H‑Nets的动态分块范式具备强跨模态可迁移性，已成功拓展至非文本原始信号：

- 生物DNA序列：直接以单个核苷酸（A/T/C/G）为输入原子，H‑Net相较普通Transformer获得6–7倍算力增益；更关键的是，其在无任何生物学先验规则注入的情况下，自发识别出基因编码区、非编码区及密码子边界，展现出真正的无监督生物学结构认知能力。

- 视觉图像：多维H‑Nets直接处理原始像素，无需预设patch尺寸或位置；可将空间上不连续但语义同源的区域（如遮挡下的同一物体部件）自动聚类为同一语义块，实现无监督语义分割，并初步展现出从2D图像推断潜在3D结构的几何理解潜力。

Cartesia团队指出，H‑Nets深度践行AI领域著名的“苦涩教训”（The Bitter Lesson）原则——即长期来看，真正可持续的进步来自扩大计算与数据规模，而非叠加人工设计规则。传统分词已成为大模型架构中为数不多仍依赖手工工程的环节；H‑Nets证明：这一环节完全可以交由模型自身学习完成。这不仅大幅简化了模型预处理流水线，更为构建真正统一、通用、原生支持多模态原始信号的基础模型开辟了全新技术路径。据悉，团队第二篇技术博文将聚焦损失缩放规律（loss scaling law），深入揭示H‑Nets性能跃升背后的内在机理。