蚂蚁技术研究院李建国:扩散语言模型或成LLM新方向,生成速度可达传统模型4倍以上

专题:2026北京智源大会

蚂蚁技术研究院李建国:扩散语言模型或成LLM新方向,生成速度可达传统模型4倍以上-第1张图片

  6月12日至13日 ,2026第八届北京智源大会在北京中关村国际创新中心举行。蚂蚁技术研究院深度学习实验室负责人李建国出席并演讲。

  李建国表示,扩散模型或将成为语言模型下一阶段的重要发展方向和补充,其在生成速度和可编辑性方面展现出显著优势 。

  他解释到 ,扩散模型在图像生成领域已是主流范式,应用非常广泛。正向过程是通过对图像逐步添加噪声直至变为白噪声,反向过程是从白噪声中逐步去噪 ,恢复出原始图像。

  而在语言领域,当前主流范式是“Next Token Prediction” 。“就像打字机一样,我前面打出一个字 ,后面接着就依赖前面去产生下一个字。扩散语言模型则将图像领域的范式迁移到语言中,可以像印刷机一样批量、成批地输出词元。 ”

  李建国以今年2月发布的LLaDA 2.1模型(可编辑扩散生成)与蚂蚁百灵2.0模型(100B参数)对比为例 。LLaDA的生成速度约为1000 token/秒,而百灵2.0约为200 token/秒 ,速度相差4倍以上。

  他指出 ,从核心特性看,有两个速度,一个是传统的AR模型 ,一次只输出一个token,即使采用投机采样方法(如MTP)也只能做到2-3个。另外一个速度,就是扩散语言模型 ,起步平均能做到5-6个,在代码生成、智能体等场景中,实际观察可超过10个 ,最高可达15个 。

  此外,扩散语言模型的另一个重要特性是可改写性。例如在生成过程中某个字出现错误,可以通过“悔改”机制只修改错误的那一个位置 ,而无需重新生成整个序列。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的 ,并不意味着赞同其观点或证实其描述 。

标签:

相关推荐

  • 有色行情2014(有色2021)

    有色行情2014(有色2021)

    2014年黄金费用014年金价:周大福饰品金价(内地)3300元/克;周生生饰品金价(内地3300元/克;老凤祥足金费用3350元/克;菜百饰品金条费用3100元/克;六福饰品金价(内地3300元/克。黄金是化学元素金的单质形式,是一种软的,金黄色的,抗腐蚀的贵金属。金是较稀有、较珍贵和极被人看重的金属之一。014年黄金费用如下:周大福...

    2026/07/13
  • 黄豆费用最新行情/黄豆费用最新行情今天

    黄豆费用最新行情/黄豆费用最新行情今天

    2026年5月19日大豆收购费用行情怎么样〖壹〗、026年5月19日国内大豆收购及市场行情整体平稳,现货费用以黑龙江主产区为核心呈现区域差异,期货盘面窄幅震荡。主产区收购现货费用黑龙江作为国内大豆核心主产区,收购价整体在4500-4540元/吨区间:黑河地区报价4540元/吨,讷河为4500元/吨,嫩江、拜泉、克山三地统一为4520元/吨。〖贰〗、0...

  • 大连一地调为高风险/辽宁大连市高风险地区吗

    大连一地调为高风险/辽宁大连市高风险地区吗

    大连高风险地区是怎么定义的呢〖壹〗、高风险地区是指本行政区域内累计确诊病例超过50例,且14天内有聚集性疫情发生。具体来说,高风险地区的定义主要基于以下方面:地域:考虑的是行政区域内的整体疫情状况。时间:以14天为一个时间窗口,评估该时间段内的疫情发展。疫情:依据确诊病例的数量以及是否存在聚集性疫情来进行划分。如果累计确诊病例超过50例,并且在14天内有聚...

  • 中兵红箭:预计2026年半年度净利润3000万元-4500万元 同比扭亏为盈

    中兵红箭:预计2026年半年度净利润3000万元-4500万元 同比扭亏为盈

      中兵红箭(000519.SZ)公告称,预计2026年半年度归属于上市公司股东的净利润为3000万元-4500万元,同比扭亏为盈。业绩变动主要系特种装备产品生产交付平稳有序,超硬材料产品经营持续向好,培育钻石收入和利润大幅增加。  注:公司Q2净利润预计亏损0.1亿-亏损0.25亿,Q1净利润0.55亿,据此计算,Q2净利润预计环比由盈转亏。(文章来源:...

    2026/07/13
  • 全球最大晶圆代工厂台积电公布6月营收同比大涨68%

    全球最大晶圆代工厂台积电公布6月营收同比大涨68%

      核心要点  台积电于周一公布,6月销售额同比大涨67.9%,公司将于本周四发布第二季度完整财报。  数据显示,台积电6月单月营收4426.8亿新台币,环比上月提升6.2%;2026年上半年累计总营收2.40448万亿新台币(折合749.99亿美元),相较2025年同期增长35.6%。消息公布后,这家台湾半导体龙头企业...

    2026/07/13
  • 【看橡胶行情软件,橡胶实时费用如何查】

    【看橡胶行情软件,橡胶实时费用如何查】

    国内期货橡胶费用在哪里查询国内期货橡胶费用可以通过同花顺APP查询,具体操作步骤如下:下载并打开同花顺APP:确保手机已安装同花顺应用,若未安装,可通过应用商店搜索并下载。进入行情页面:打开APP后,点击底部导航栏的“行情”选项。选取期货国内行情:在行情页面中,点击顶部“期货”分类,再选取下方的“国内行情”。进入能源化工板块:在期货国内行情页面中,找到“板...

  • 新疆疫情最新通报(新疆疫情最新通报)

    新疆疫情最新通报(新疆疫情最新通报)

    新疆爆发的疫情首次发生地是哪里?〖壹〗、新疆疫情的主要发生地是在乌鲁木齐,在新疆的首府,首先是在乌鲁木齐市的天山区的中泉广场发生,确定的一个感染患者是一位24岁的女营业员。新疆乌鲁木齐这次发生疫情,打破了新疆149天无新增病例记录,新疆有新冠疫情的时候是在春节的时候,但是仅仅是个个案,并没有像这次的局部爆发,这就说明对于防疫措施一定要不段加强。〖贰〗、通过...

  • 世界
医学:预计2026年半年度亏损同比收窄至6300万元至6600万元

    世界 医学:预计2026年半年度亏损同比收窄至6300万元至6600万元

      7月13日,世界医学(000516)发布公告,预计2026年半年度亏损约为6300万元至6600万元,上年同期亏损1.65亿元。  公司表示,2026年半年度业绩亏损的主要原因是积极调整业务结构,实施降本增效等措施,虽然经营成效逐步显现,亏损幅度有所收窄,但营业收入总规模仍未能覆盖运营成本和期间费用。  2026年一季度,世界医学实现收入9.69亿...

    2026/07/13
  • 【邯郸疫情,邯郸疫情最新消息2025年】

    【邯郸疫情,邯郸疫情最新消息2025年】

    河北邯郸是中风险还是低风险截止2022-06-02最新数据显示,邯郸邯郸地区近来没有中、高风险区域,都是低风险地区。高风险地区:是指累计新冠病例超过了50例,而且〖Fourteen〗、天内是有聚集性疫情发生。中风险地区:14天之内有新增确诊的病例,合计新冠确诊病例未超过50例;累计新冠确诊病例有超过50例,14天以内并无出现聚集性疫情。出邯郸减少出行,非...

    2026/07/13
  • 今日玉米费用行情走势/今日玉米当前费用行情

    今日玉米费用行情走势/今日玉米当前费用行情

    锦卅港玉米费用行情〖壹〗、根据近期市场数据,锦州港玉米费用呈现稳中偏强态势,新粮(15%水分、容重720以上)主流收购价维持在2170-2180元/吨,平舱价约2220-2230元/吨。〖贰〗、借鉴相近水分费用2025年11月27日,锦州港水分25%的潮粮玉米收购价在1890-1920元/吨。通常水分每增加一个百分点,费用会相应下调30-50元/吨。若以此...

返回顶部