喜马拉雅(吴阕):Gene:喜马拉雅AI智能编程助手探索与演进

2025-05-01ASPCMS社区 - fjmyhfvclm

今天分享的是:喜马拉雅(吴阕):Gene:喜马拉雅AI智能编程助手探索与演进

报告共计:30页

《Gene:喜马拉雅AI智能编程助手探索与演进》由喜马拉雅DevOps & SRE负责人吴阕分享,主要探讨AI在软件开发中的应用与挑战,以及喜马拉雅的探索实践和未来展望。

1. AI在软件开发中的应用与挑战:2023年初大语言模型需求井喷,软件开发面临诸多难题。模型种类繁多,在分类、选型、衡量上存在困难,参数增大带来部署成本、性能等问题,生态方面的二次开发和成本也需考量。同时,模型存在“幻觉”、提示影响回复质量、代码元素长依赖、响应时间要求高、代码质量不稳定、需专业Prompt等问题。

2. 喜马拉雅在AIGC研发提效的探索:传统研发存在低效、重复、质量不稳定等痛点,喜马拉雅的Gene重新定义研发流程。破题思路涵盖Prompt工程、RAG向量检索、微调与推理加速等多种技术手段。通过这些方法,在推理加速上,int4量化可实现精度丢失小于1%,速度提升16%,内存减少2倍;在单元测试效果提升上,优化后编译通过率达91.85%,单测通过率达41.34% ,各场景功能采纳率提升7%-11%,召回准确率从80%提升到97%以上,代码采纳平均率为23.27%。

3. 智能研发推进演进路线及未来展望:未来,AI Agent将发挥重要作用,涵盖通用Agent、评审智能体、BI智能体等,应用于文生文、文生图、文生音频等热门场景,如生成专辑封面、小说朗读等。在软件工程中,AI不会颠覆人,但会改变工作模式,会用AI的程序员更具优势。

喜马拉雅通过一系列技术探索和实践,在AI智能编程助手上取得一定成果,未来将继续拓展AI在软件开发中的应用,为行业发展提供了参考范例。

以下为报告节选内容

全部评论