跳到正文
热点事件持续更新

DPO计算图随机剪枝训练提速1.4倍并降内存

1 篇报道1 个报道来源17 小时前更新

先了解这件事

AI 综述

2026年10月21日,arXiv cs.AI/cs.LG 报道一个面向DPO计算图的随机剪枝统一框架。该框架分别采样打分位置、执行前缀和反向传播中的偏好分支,并在对应操作前完成选择,以省去训练各阶段的计算。报道称,分支剪枝在拼接式DPO基线之上实现1.426×单步提速,相对原始DPO训练时间减少约30%,覆盖两个模型族;位置与序列剪枝主要降低峰值内存,但平均准确率略低。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv cs.AI / cs.LG 最新
    DPO 计算图随机剪枝:训练提速 1.4 倍并降低峰值内存

    一个统一框架对 DPO 计算图做随机剪枝,分别采样打分位置、执行前缀和反向传播的偏好分支,并在对应操作前完成选择以省去训练各阶段计算。分支剪枝在拼接式 DPO 基线之上实现 1.426× 单步提速,相对原始 DPO 训练时间减少约 30%,覆盖两个模型族。位置与序列剪枝主要降低峰值内存,代价是平均准确率略低。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。