「我在 AI」—— AI聊天智能体
共 519字,需浏览 2分钟
·
2026-05-18 10:19
#大模型 #推理技术研发
深耕大模型应用赛道,参与对话式交互AI工具「我在AI」APP迭代优化,聚焦自研模型优化与成本管控,持续打磨产品智能化体验,深耕技术降本增效,在模型工程化、推理优化、人性化交互方向完成多项落地实践✅
📌 核心工作:
1️⃣ 搭建模型评测体系
自主构建大模型评测平台,完成多类基础模型上线部署,覆盖Prompt管理、AB测试、数据复盘全流程,标准化输出专业评测报告,为模型迭代优化提供精准数据支撑。
2️⃣ 深耕推理加速技术
钻研模型量化、vllm框架部署技术,吃透KV Cache底层原理,优化模型推理流程,有效降低推理延迟,提升产品运行效率,实现技术层面的性能优化。
3️⃣优化拟人交互体验
引入用户情绪感知机制,依据用户情绪状态动态调整AI角色回复语气,弱化机械感,强化产品情感陪伴属性,大幅提升用户交互体验。
4️⃣ 国产化方案调研落地
实操测试昇腾全栈国产化解决方案,多维度对比性能、成本核心指标,输出完整分析报告,研判模型迁移适配可行性,为技术架构迭代提供决策依据。
持续深耕大模型工程化落地,保持技术敏感度,不断探索AI产品优化新思路,在技术迭代中沉淀经验、稳步成长。
✨ #AI研发 #大模型工程化 #国产化算力
评论
