「我在 AI」—— AI聊天智能体

共 519字,需浏览 2分钟

 ·

2026-05-18 10:19

#大模型  #推理技术研发

深耕大模型应用赛道,参与对话式交互AI工具「我在AI」APP迭代优化,聚焦自研模型优化与成本管控,持续打磨产品智能化体验,深耕技术降本增效,在模型工程化、推理优化、人性化交互方向完成多项落地实践✅

📌 核心工作:

1️⃣ 搭建模型评测体系

自主构建大模型评测平台,完成多类基础模型上线部署,覆盖Prompt管理、AB测试、数据复盘全流程,标准化输出专业评测报告,为模型迭代优化提供精准数据支撑。

2️⃣ 深耕推理加速技术

钻研模型量化、vllm框架部署技术,吃透KV Cache底层原理,优化模型推理流程,有效降低推理延迟,提升产品运行效率,实现技术层面的性能优化。

3️⃣优化拟人交互体验

引入用户情绪感知机制,依据用户情绪状态动态调整AI角色回复语气,弱化机械感,强化产品情感陪伴属性,大幅提升用户交互体验。

4️⃣ 国产化方案调研落地

实操测试昇腾全栈国产化解决方案,多维度对比性能、成本核心指标,输出完整分析报告,研判模型迁移适配可行性,为技术架构迭代提供决策依据。

持续深耕大模型工程化落地,保持技术敏感度,不断探索AI产品优化新思路,在技术迭代中沉淀经验、稳步成长。

✨ #AI研发 #大模型工程化 #国产化算力

浏览 9
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报