1. 今日焦点:AI圈的几件小事

这篇日报我不打算做成流水账。9月5日这一天,AI圈子里值得聊的东西其实不少,从大模型厂商的更新节奏,到开发者社区里正在讨论的工程实践,再到越来越多人开始入局的AI短剧、AI漫剧,信息量比想象中要大。我尽量挑几个我实际在关注、也认为对实践有帮助的方向展开聊聊,而不是把每天的所有动态都罗列一遍。

今天的核心关键词是“下沉”。一个明显的感受是:AI大模型的能力底座已经逐步趋稳,真正的热点正在从“模型本身”转向“模型怎么被用起来”——AI Agent、AI编程、AI应用开发、AI视频生成、AI短剧制作,这些方向不再只是技术圈内部的讨论,而是真的有团队在靠它们做事、赚钱、做产品。另一个信号是,AI产品经理、AI测试工程师、AI Infra工程师这类岗位的讨论热度居高不下,说明这个行业正在从“尝鲜期”进入“工程化期”。

先说结论:今天值得你花时间了解的,不是某个模型又刷了多少分,而是几件可以落地的事——怎么把Agent用起来、怎么用AI编程提效、怎么做AI短视频内容的低成本尝试、以及AI相关岗位到底要求什么能力。下面我们一条一条拆。

2. 大模型与应用层不再拼参数,拼“能干活”

2.1 从对话到任务执行:Agent正在成为主角

最近圈子里聊AI Agent的频率明显变高了。过去我们习惯把大模型当聊天框用,问一答一,顶多让它写写文案、改改代码。但现在的风向是,让模型自己去完成任务链条,而不是人工一步步喂指令。比如让它根据一个需求去查数据库、写SQL、生成图表、再输出结论;或者让它拿着一个bug描述,自动翻代码、定位文件、给出修复补丁。

我自己的体会是,Agent并不是把模型API一接就完事。它真正难的地方在于任务拆解和容错。你让Agent做一件事,它会先自己拆成几个子步骤,每一步调用不同的工具或接口,最后汇总结果。但模型在中间任何一步都可能理解偏、输出错,所以必须有反馈回路——让它看到结果、判断对错、重试或者修正。这套机制在设计上有点像带新人:你不能只告诉他目标,还得给他检查清单和纠错机制。

实操上,现在不少框架已经有现成的Agent编排能力,比如多智能体分工协作、规划与执行的分离、工具调用的标准化协议等。对于刚接触的人,我的建议是先别追求复杂的多Agent架构,从“单Agent + 少量工具”开始跑通一个小场景,比如写一个自动整理周报的Agent,让它自己去读Git提交记录、汇总任务、生成Markdown。等跑顺了再加工具、加并行,复杂度一点点上。直接上手分布式多Agent,大概率会被各种状态不同步、结果不可控的问题劝退。

2.2 垂直场景的模型选择:别什么都用最大的

另一个明显变化是,大家在选模型时不再无脑上最大参数版本。大模型能力强是强,但推理成本、延迟、部署难度都是实打实的代价。我在好几个团队里看到的情况是:轻度任务用7B、14B级别的开源模型就够,只有核心复杂任务才调用旗舰API。这种“混合路由”的做法,能把单月API成本压到原来的三分之一,同时响应速度快一大截。

这里有三个实际考量点:

  • 任务复杂度 :简单的文本分类、信息抽取、格式转换,小模型表现并不差;真正需要多步推理、长上下文理解的,才需要大模型。
  • 延迟要求 :面向终端用户的产品,首字响应超过2秒用户就开始流失。本地小模型在GPU上首字延迟能做到几百毫秒,云端大模型往往受网络和排队影响。
  • 数据合规与隐私 :很多企业内部数据不能出域,本地部署开源模型是唯一选择。这种情况下,“够用就好”比“最强就好”现实得多。

所以今天再说模型选型,考验的不再是你知道多少个模型名字,而是你会不会按场景做评估、定阈值、做降级方案。这也解释了为什么AI Infra和模型部署相关的话题会越来越热,后面我会专门展开。

3. AI编程与工程实践进入深水区

3.1 AI编程工具:从单点尝鲜到团队协作

AI编程是这轮AI落地最扎实的方向之一。去年大家还在讨论Copilot能不能用,今年已经有不少团队把AI编程工具嵌进了日常开发流程——从IDE插件到命令行工具,从自动补全到自动生成测试、自动修bug,甚至整仓库级别的代码理解与重构。

但也要泼一盆冷水:AI编程工具在个人开发者手里很好用,团队落地却有不少坑。我见过最典型的问题有三个。第一,AI生成的代码风格和团队规范不一致,review起来很痛苦;第二,AI在大型代码库里的上下文理解有限,改一处可能引入另一处回归;第三,团队成员水平参差,提示词写得差的人,拿到的代码质量也差,反而拖慢进度。

想解决这些问题,我的经验是三个字:定规矩。团队里要有一个“AI编程使用约定”,什么场景能用、什么场景不能用、生成代码必须过哪些检查。比如我现在的团队规定:AI生成的代码必须附带对应的测试用例,而且不允许直接合并到主分支,必须走MR让真人review。这样既保留了效率,又把风险控制住了。

另外提示词能力真的很关键。同样一个需求,有人能问出“帮我写一个带重试机制、超时控制的HTTP客户端”,有人只会说“写个http”。前者AI能给到可以直接用的代码,后者AI只能给个骨架。你不需要成为提示词工程师,但至少要学会把需求拆成功能点、约束条件和边界情况,这对AI输出的质量有决定性的影响。

3.2 从Spring AI看AI应用开发的框架化

今天有个热搜词是Spring AI,我猜是很多Java后端开发在关注。Spring这类框架在Java生态里地位特殊,Spring AI的意义在于:它把模型调用、Prompt编排、工具调用、输出解析这些能力做成了标准化组件,让习惯了Spring风格的开发者能用熟悉的方式接大模型。

实际用下来,Spring AI让我感觉舒服的地方是它的抽象层。以前接一个模型API,要自己处理请求格式、重试、超时、流式输出;换成Spring AI之后,这些都被封装好了,配置一下API Key和模型名称,业务代码里直接注入Template就能调用。它还支持多模型切换,今天用OpenAI,明天换通义、换本地模型,接口层面基本不用大改。

但这不代表引入Spring AI就万事大吉。它封装了很多东西,同时也意味着出了底层问题你要扒框架源码才能查清楚。我的建议是,中小团队、以业务开发为主的项目,用Spring AI这类框架很划算;但如果你的核心业务就是高并发调用模型、要做底层优化,那就得自己封装,别省这个功夫。

3.3 模型部署与AI Infra:真正的胜负手

很多应用聊到后面都会碰到一个问题:模型从哪来、怎么跑、怎么压成本。这已经不是算法团队单方面能解决的,需要懂工程的团队来搭建一整套基础设施,也就是大家常说的AI Infra。这个方向的热度为什么高?因为模型推理的钱和资源是实打实每天在烧的,谁先降下来谁就有利润空间。

实际操作中,降本最快的手段往往是模型量化。拿FP16模型转成INT8甚至INT4,显存占用降一半甚至更多,推理速度还有提升,精度损失在大多数任务里可以接受。代价是量化过程可能影响模型边缘case的表现,所以需要拿自己的测试集跑一遍,不能盲信通用Benchmark。

另一个性价比极高的方法是缓存。很多应用里,用户请求的相似度极高,比如AI客服、知识库问答。如果你把历史上算过的Prompt和结果存起来,命中缓存直接返回,能省掉大量重复计算。更细一点还有Prompt Cache,模型在处理长上文时,公共前缀部分是重复计算的,有的推理框架支持缓存这部分计算结果,实测在长文档问答场景能省30%以上的计算量。

关于部署框架,现在可选的东西很多,vLLM这类以推理效率见长,也有专注于低延迟场景的方案。选型的时候别只盯着吞吐量,要看自己业务的核心指标。做To B问答业务,延迟是命根子;做离线的批量数据处理,吞吐量才是关键。先把业务指标定明白,再挑技术方案,顺序别反了。

4. AI生成内容的新风口:短剧、漫剧与视频

4.1 AI短剧和AI漫剧怎么就火了

今天热搜词里有一串和AI短剧、AI漫剧相关的词,比如AI漫剧制作教程、AI短剧制作全过程。我特意关注了一下,这股风不是凭空来的。短剧市场本身就有巨大的内容需求,传统制作方式成本高、周期长,而AI生成内容恰好把门槛压低了——一个人加几款AI工具,理论上就能做出一条完整的短剧。

我拆过一个AI短剧的制作流程,大致是这样的:先用AI剧本工具生成剧本,包括台词、分场;再用AI绘画或AI视频生成工具做分镜画面;接着用配音工具合成对白和旁白;最后剪到一起、加字幕和BGM。整套流程走下来,熟练的话一条3分钟以内的短片,一两天就能出初版。这在传统剧组不可想象。

但要说“零门槛”就夸张了。AI生成内容最头疼的问题是角色一致性。同一部剧里同一个角色,第一集长这样,第三集就换脸了,观众根本看不下去。现在有些工具在处理这个概念上有一定能力,比如通过参考图锁定角色外观,但依然需要你在实际制作中反复调整。我的建议是,如果你真想入局AI短剧,第一优先级不是找最强力的视频生成工具,而是先解决“角色不漂移”这个核心问题。

另外,做之前先想清楚变现路径。AI短剧的播放量不一定比真人短剧差,但同质化严重,差异化定位很关键。有人专做历史题材,有人专做悬疑题材,有人把IP小说转成AI漫剧。技术只是手段,选题和讲故事的能力才是壁垒。

4.2 AI视频生成的门槛正在下降

几天不关注,AI视频生成能力就往前跑一段。现在文生视频、图生视频的工具已经在往“可控性”走了。所谓可控,不是随便输入一句话生成一段抽象动画,而是能指定镜头语言、主体动作、场景切换,这离商业可用就非常近了。

实操下来,我觉得提示词是个大学问。写AI视频提示词和写AI绘画提示词完全不是一回事:后者重点描述静态画面构图、风格、色彩;前者需要你描述时间线上的动作、镜头运动、场景变化和节奏。同一个提示词结构,在不同工具上出来的效果差异巨大。所以想用好视频工具,你要为它单独建一个提示词风格库,记录哪些描述有效、哪些词会引入不想要的元素。

成本上也值得算一笔账。高质量长视频的生成,用商用API价格不便宜,连续做十几条测试片花掉几百上千块很正常。新手起步,我建议先用免费额度或低成本工具验证创意,确认脚本分镜值得投入了,再花钱上高渲染质量。先验证,再重做,能省下不少试错成本。

4.3 AI绘画:从“能看”到“能用”

AI绘画的热度没有视频那么高,但它默默渗透进了很多商业场景。游戏原画、电商详情页、UI配图、漫画素材、公众号头图……我接触到的大量中小团队,已经在用AI绘画产出可用素材了。关键词是“可用”——不一定是艺术精品,但放到项目里完全够用,能把外包成本砍掉一大截。

从一个设计师和内容创作者的角度,AI绘画真正的价值是扩产。以前出一版配图要约稿、等稿、改稿,折腾一两周,现在AI生成一版之后,设计师只需要做筛选和微调,把时间花在创意和品控上。这个转变对于产出速度的提升是肉眼可见的。

商用要特别注意版权问题。不同AI绘画模型的训练数据来源和授权条款不一样,不是每一个都允许商用。我的建议非常直接:商用之前,仔细读你用的工具或模型的服务条款,保留好生成记录。另外,业界对“AI生成内容到底有没有版权”这个问题还没有统一结论,大平台可能有自己的政策。你在依赖AI内容获利之前,一定要确认自己用的产品允许这么做,别赚钱之后被告侵权。

5. 岗位生态:AI产品经理与AI测试工程师的进阶路径

5.1 AI产品经理不再只是会画原型

AI产品经理这个话题能上热搜,说明市场真的在分化。过去产品经理画原型、写PRD、跟开发,现在AI产品经理多了一个核心任务:判断模型边界。也就是你得知道哪些需求是模型能做的,哪些是它干不了的,别拿模型死磕一个它根本不擅长的任务,也别放过一个能用模型能力创造差异化的机会。

这个岗位的工作流也变了。传统的用户调研、需求分析依然要做,但多了一个关键环节:基于模型能力做快速验证。我通常会让团队先写一个提示词,把核心需求丢给模型试跑,看输出质量和稳定性。如果连小规模测试都不稳定,那就不要指望上线后能稳定。产品经理最好自己也懂一点模型评测的方法,否则会被算法团队牵着走。

AI产品经理还要关心一个很实际的问题:公域流量获取难度上升,内容成本下降,会导致大量低质AI内容冲进市场。怎么在AI产品的设计里突出真实价值、真正解决用户问题,而不是做AI噱头,是每个产品经理都要过的关卡。用户现在对“AI垃圾内容”的容忍度越来越低,这里面存在机会。

5.2 AI测试工程师:从测UI到测模型

AI测试工程师能成为热词,我很高兴。AI系统最大的特点就是不确定性,同一个输入,模型今天和明天的输出可能不一样。这对测试来说是个颠覆:传统测试是基于确定性的断言,而AI测试要做的是在不确定中找规律、定边界。

我给想做AI测试的朋友三个方向参考:

  • 模型评测 :设计评测集、制定评测指标,衡量模型在关键任务上的表现变化。每次模型升级之后,都要做回归测试,防止能力回退。
  • 数据质量测试 :训练数据决定了模型的上下限,数据里有脏数据、偏见数据、重复数据,模型输出就会出问题。数据测试是AI测试里最脏最累但最有价值的环节。
  • 系统稳定性与安全性测试 :高并发情况下模型服务的延迟抖动、超时和容错处理,以及面对恶意输入时会不会输出异常结果。这都是AI系统上线前必须验证的事情。

AI测试不是只会写脚本就行,你得懂模型的基本原理、懂数据集、懂指标。这个岗位在国内还比较新,但需求非常真实,因为它处在“技术能跑”和“产品可用”之间的关键位置。如果你正在转行的路上,这个方向值得重点关注。

6. 最后说几句实在话

日报写到这里,如果把今天的热词串起来看,背后的主线其实就一条:AI正在从拼参数、拼分数的阶段,过渡到拼落地、拼工程、拼场景、拼成本的阶段。Agent在进入工作流,AI编程在重塑开发习惯,AI短剧在探索新的内容形态,AI相关岗位在变得具体而务实。所有这些都不是孤立发生的,它们有一个共同的驱动力:大家越来越不关心模型本身有多强,更关心它能在自己手头的事情里省多少时间、赚多少钱、解决什么实际问题。

我个人实际观察下来,这个阶段最值得投入的,不是追新模型、抢新工具的速度,而是深耕一个具体场景的深度。无论你是做开发的、做产品的、做内容的还是做运营的,把AI能力和你所处行业的Know-How结合,远比追逐每一波技术浪潮更有长期价值。今天的日报就到这,明天有新变化再接着聊。

Logo

火山引擎视频云技术社区,是面向 AI 音视频开发者的技术交流平台。这里汇聚源自抖音、豆包等亿级 DAU 产品的 RTC、直播、点播、AI 媒体处理、音视频互动技术,提供接入指南、最佳实践、性能调优、场景案例、Demo 代码、开源项目、白皮书和 API 文档。社区汇聚官方工程师与一线开发者,为 AI 视频通话、数字人、AI 视频处理等应用的开发与落地提供技术支持。

更多推荐