上海交大邓志杰:扩散语言模型如何兼顾生成速度与质量
上海交通大学副教授邓志杰在CNCC 2026演讲中梳理了扩散语言模型从LLaDA、Dream基础路线到跨块并行、后训练与推理系统优化的提速方法。MBD-LLaDA2-Mini在两张H100上达到约746 TPS,经CForce训练的LLaDA2.1-mini四项任务平均分从85.57升至86.41、平均TPF从6.94升至9.08。他还介绍了流式视频、语音修复、多模态与智能体等应用探索。
上海交通大学副教授邓志杰在CNCC 2026演讲中梳理了扩散语言模型从LLaDA、Dream基础路线到跨块并行、后训练与推理系统优化的提速方法。MBD-LLaDA2-Mini在两张H100上达到约746 TPS,经CForce训练的LLaDA2.1-mini四项任务平均分从85.57升至86.41、平均TPF从6.94升至9.08。他还介绍了流式视频、语音修复、多模态与智能体等应用探索。
AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,讲解生产级 AI 智能体的四层上下文工程:架构层用多智能体隔离上下文,提示词层限制各智能体输出 token 预算,工具层把代码和结果外置到文件系统,验证层用独立智能体复核计算与引用。
推荐理由:AWS 团队把上下文工程拆成四层,并给出开源参考实现中的具体代码与 token 节省数据。
U Mobile 基于 Amazon Bedrock AgentCore 构建了 AI-Driven Agentic Helpdesk(AiDaH),由信息系统部门联合 AWS 与 AWS Partner Axrail 打造,一年内覆盖六个业务部门的 150 多个运营场景,关键类别工单量最多下降 84.5%。
Arca 的 AI 智能体承担财富管理中的长周期任务,单个任务最长可达十天,但交易和资金流动仍由人类顾问最终决策。公司自建 harness 按内部基准自动选择模型,主要使用 Claude,并配套内部记忆系统追踪每位客户的进展与责任人。安全限制完全确定性,智能体仅做分析与方案建议,另设沙箱与格式校验防范提示词注入。
GitHub 用微调后的 ModernBERT 分类器替换原有 LLM 流水线,做上下文感知的密钥检测。新方案使推送后扫描中位执行时间降低 86%、服务成本降低 98% 以上,告警接受率提升 11.5%。流水线先用正则生成候选,再由分类器结合文件路径、变量名和周边代码判断是否为真实凭据,并已将通用密钥检测扩展到推送保护。
GitHub Copilot 应用中的 canvases 是可自定义的双向界面,用户只需在 agent 会话中输入 /create-canvas 并用自然语言描述需求,即可生成看板、发布清单或仪表盘等界面。canvas 会保存为扩展,可随项目共享或作为个人扩展复用。用户与 agent 可同时操作同一界面,点击按钮或移动卡片后状态即时同步,无需额外发送或同步步骤。