1、深度学习与智能对话机器人技 术创新，变革未来目录 对话 机器人的 兴 起 爱 因互 动 的 Bot技 术 ： DeepBot及其他 对话 机器人的商 业实 践对话 机器人 简史爱 因互 动 -- APP 下 载 量比前 年下降 20%- 前 3位 APP 占据 80%时间- 过 去 2年消息平台爆 发 式增 长- 70%用 户倾 向千文本消息而非 电话- 2016.3 微 软 Bot Framework- 2016.4 Facebook Messenger 平台- 2016.5 Google Assistant- 2016.6 苹果 Siri SDKChatbot 在 Google Trend
2、s 中搜索量的 变 化主流消息平台使用增 长 情况对话 服 务 爆炸式增长爱 因互 动 -对话产业爱 因互 动 -爱 因互 动 -爱 因互 动 EIN+ 为 企 业 提供人工智能 对话 解决方案 Conversation as a Service爱 因互 动合作示例 订 餐 小秘书槽位提取意 图识别商品推荐多 轮对话回复 生成爱 因互 动 -多通道API高可用工程框架DeepBot对话 框架 融合 不同的 问题， 不同的框架， 不同的模型问题 分析 实 体 识别 亦称 为 槽位提取 序列 标 注 问题 HMM/CRF LSTM BiLSTM-CRFLQSXWHPEHGGLQJ%L-511FRQ
3、FDWHQDWHGRXWSXW ODEHOLQJ 6 2 2 2 %-1 %-7 ,-7 2 %-5 Route-Bot 领 域 /意 图检测 单轮识别 模型 RNN/CNN + DNNLQSXWHPEHGGLQJ/670IXOO FRQQHFWHGRXWSXW ! 多 轮识别 模型：多 轮对话 RNN/CNN + RNNLQSXWHPEHGGLQJVHQWHQFH 511,QWHQW WUDFNLQJRXWSXW ! ! ! ! !WUDQVLWLRQ 511 ! ! FAQ-Bot 特色 语义 匹配 问题带 背景 答复 带 参数 .%/.* 7)-,)44 PDWFK4$ PDWFK%XV
4、LQHVV/W511 匹配模型 CNN/RNN + DNN Task-Bot 系 统 框架 SLU - DST - DPO - NLG,nform(or()r_op=丁，r)staurant_nam)=云海肴，subbranch=中关村店）request(phone, name)烦请 提供下手机号及姓名哦$6567 .%/.* 6/832776 1/* 特色 任 务 包含 20+种 实体 实际项 目中包含 实 体最多的任 务Task-Bot DM: DST + DPO DRL https:/ Task-Completion Neural Dialogue SystemsRec-Bot 帮助三方
5、共赢Rec-Bot 系 统 框架： 线 下 + 近 实时 + 实时Rec-Bot 各种交互数据 I1I2I3InU1U2U3Um D1D2DkU1U2U3Um I1I2I3In U1U2U3UmU1U2U3Um Rec-Bot 代表性模型 Item/User-based kNN MF FM DNN/CNN/RNNRec-Bot 表征用 户 利用表示学 习获 得用 户 相关的各种特征，再把 这 些表示 结 果用于 预测用 户 的短期需求和 长 期需求Rec-Bot 表征 产 品 每个 产 品包含的服 务 以及价格等基本信息，可以 显 性刻画此 产 品；而用 户对产 品的 购买 等行 为 数据，可
6、以 隐 性地刻画此 产 品Rec-Bot 表征用 户 产 品 在 获 得了用 户 与 产 品的表征向量，以及用 户 的短期与 长 期需求后，使用 推荐模型从 历 史数据中学 习 模型 目 标 函数借 鉴 Learning to Rank Point-wise Pair-wise List-wiseRec-Bot 融合 （ Ensemble） 兴 起于 Netflix Prize竞赛 ，已成 业界 标 配 常用 组 合方法 预测值组 合 ： 组 合多个算法的 预测值 LinearReg, NN, GBDT, RF 特征 扩 充 ：一个算法的 输 出作 为 另一 个算法的 输 入特征 切 换 ：不
7、同算法 间 相互切 换 DT, Rule-based爱 因互 动 -Rec-Bot 准确度之外的其他指 标 覆盖面 （ Coverage） ： 被推荐的物品占所有物品的比例 多 样 性 （ Diversity） ： 覆盖用 户 各方面的 兴 趣，而不 仅 是一部分 新 颖 性 （ Novelty） ： 推荐 长 尾（小众）部分的物品 惊奇性 （ Serendipity） ： 用 户 不期望系 统 能推荐，但用 户 真感 兴 趣 多目 标 Pareto边 界：在保 证 其他目 标 在一定 约 束范 围 内， 优 化主要的一个目标 多个目 标综 合 为单 个目 标 技 术 指 标 业务 指 标Re
8、c-Bot 推荐理由 使用推荐服 务时 ，用 户 往往没有 明确需求，推荐系 统 需要提供能 说 服用 户 的理由 通 过产 品提供的服 务 通 过 服 务 消耗可以推断用 户兴 趣， 进 而 产 生推荐理由 通 过优 惠信息 通 过 具体的 节 省 计 算Chitchat-Bot 检 索 + 生成式 检 索 保 证 可靠性：允 许 客 户 添加 qa对 ，秒 级 生效 生成式 保 证 100%召回：可以回答任何 问题， 降低知 识库维护门槛 特色 使用 coverage机制保 证 生成式 语 句 不重复 使用 copy机制保 证 稀有 词 的 产 生 使用 MMI提升生成 结 果的多 样 性LQSXWHPEHGGLQJUQQDWWHQWLRQIXOO FRQQHFWHGRXWSXW HRV!0.4 0.3 0.2 0.1 0.0 JR! 改 进seq2seq 注入 额 外的信息 背景信息：主 题 关 键词sequence to backward and forward sequences
