\u200E
前台聊天机器人端侧推理性能优化
发布日期:2021-09-10T11:56:31.000+0000 浏览量:1233次

案例简介

在人工智能领域,智能聊天机器人的研究已经有了很长的历史,它们都试图吸引用户不断继续聊天,通常表现为使用主导谈话的主题的手段,从而掌控谈话内容及谈话进度。用深度学习构建聊天机器人更能有效地解决多轮会话中的上下文机制问题、“安全回答”问题以及个性信息一致性问题,更大可能地实现一个真正的企业前台服务机器人。

 

page98image24754192
智能聊天示意
 

顶新国际集团应用飞桨开源深度学习框架实现前台聊天机器人端侧推理,通过 Paddle Lite 部署到 RK3399 上,体验效果较佳。

 

相关产品

Paddle Lite

 

场景分析 

功能要求

前台聊天机器人主要功能有天气查询、闲聊和 HR 问答。

性能要求

训练的模型部署到 RK3399 上,要求每次交互时间控制在平均约 10s 之内。

 

page98image24754400

前台聊天机器人流程图

 

技术方案

采用 Bi-LSTM-CRF 语义词槽填充模型和 TextCNN 实现意图识别。

 

page99image25163376
效果调优的关键过程图
 

 

上线效果

通过 Paddle Lite 使模型每次交互平均时间约 8s 左右,达到初版业务需求。

 

RK3399及前台聊天机器人效果图

 

案例企业简介

顶新国际集团旗下拥有的知名品牌有康师傅、德克士、味全、全家 Family Mart 等,同时顶新还涉及粮油、地产、 社会公益等行业。版图横跨中国大陆、中国台湾地区。顶新国际集团是中国知名的综合食品集团,集团以“培育一 流人才;创造一流产品;成就一流企业;回馈社会、永续经营”为使命,以“种子”为创意概念,象征“顶新国际集团” 是以“为人类孕育更美好的生活水平”的种子,秉持中国传统踏实耕耘与勤勉奋发的精神,不断提供社会更好的产 品与服务,并期许将企业理念落实在世界各地茁壮成长、开花结果。