【百度刘洋】智能语音：从 DNN 到 LSTM.pdf

《【百度刘洋】智能语音：从 DNN 到 LSTM.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、智能语音技术
刘洋
百度语音技术部
CONTENTS
·语音技术
1/语音识别
2/语音交互
3/语音合成
4/声纹验证
5/音频内容检索
·语音开放
1/开放能力
2/行业解决方案
3/开放未来
语音识别-语音识别精度不断提升
100%
v95%
vLSTM模型
90%
区分度模型
基于mel-bank的
85%
子带CNN模型
vDNN模型
80%
2012年1月
2013年1月
2014年1月
2015年1月
语音识别-LSTM声学模型
网络输出
网络输出
输出门
长短时记忆网络模型
LSTM，long-shorttermmemory

·算法优势
遗忘门

2、记忆单元
1.长时间的轨迹记忆和瞬态记忆的统一
2.模拟人脑选择性遗忘
3.更精准的轨迹建模
输入门
网络输入
·技术创新
网络输入
1.混合多层结构
传统模型单元
长短时记忆单元
2.解决海量数据训练的效率和稳定性问题
语音识别-语音识别精度不断提升
卷积层
十层全连接层
LSTM层
描述说话人频谱偏移带来的变化
提取抽象高层信息
描述时间序列变化信息
错误率降低10%
语音识别-声学并行训练平台
近百台GPU机器，每台4块GPUK40卡，加速10倍，模型取平均与异步SGD结合，双层异步SGD。
busy
wait
serverIdList
busy
Check

3、IfGPUSvrIsWait
busy
树形拓扑结构取平均
星型拓扑结构异步SGD
语音识别-声学模型自适应
个体声音积累若干句话
·用户个人帐号云
1.用户历史行为及其特征
用户ID信息
个性化声2.用户个体声学模型
音模型
数据筛选
不存在个存在个性性化模型
化模型
业界首家
深度学习自适应技术
声学深
通用声学模型
个性化模型
个性化信度学习错误率下降10~15%
息挖掘
自适应

用的越多精度越高
通用语音搜索
个性语言搜索
语音识别-海量语言模型快速更新
百度历史百度时效所搜日志
所搜日志
·T级文本快速并行训练
·百G规模语言模型
并行语言模型训练平台

4、
·模型融合兼顾覆盖度和实效性
历史模型
时效模型
·语言模型更新频率
1/历史模型每天滚动更新
模型融合
2/时效模型小时级滚动更新
最终模型
语音交互-车载语音交互
车载环境的问题
车载抗噪
·双手被占用<->handfree语音唤醒
·语音端点检测：车载噪音下起点终点的正确率均达到97%。
·车载噪音大<->车载抗噪
·抗噪识别：车载噪音下识别精度达到92%
·网络不稳定<->离在线方案



Handfree语音唤醒
离在线方案
·关窗95%，开窗90%，背景音乐92%
·行车中网络抖动时可以顺畅识别
语音交互-多轮语音交互
·智能语音检测，区分静音与语音

5、
·动态定制语音识别器
·识别器引入拒识
·精准语义识别
·易于推广的技术框架
语音合成-深度学习在语音合成中的技术创新
·LSTM应用于韵律预
测，精度94%

HTS
·LSTM应用于声学建
模，更好地捕捉共
振峰信息
LSTM
双向LSTM的网络结构
语谱图
语音合成-面向大数据与个性化的语音合成技术
大数据
基于海量粗标音频数据的自动语音合成建库
大数据明星音
大数据+个性化
个性化特定领域音库
每个人都是播音员
领域定制个性化
体验优化利用自适应技术扩展领域音库的应用范围
文本分析声学模型
韵律预测语音生成声纹验证-声纹验证解决方案
·基于随机数字串声纹

6、验证
注册
登录

·保密数字专利技术，等错误率从1%降至1‰

·系统自动更新迭代，提高安全性
数字串语音识别
mola
音频内容检索
·核心技术
1.抗通道压缩及编码处理的特征提取技术
2.海量数据实时检索的索引结构

…00F1F2…Fn00…·产品应用
1.音乐录歌识曲
2.电视视频节目检索
3.云盘暴恐音频检测
pˆi4.云盘版权保护
开放能力–语音开放平台能力(识别、合成）
语音识别
语音合成
同时开放在线和本地识别能力，不同网络环NLP
离在线自动切换，满足不同场景需要，主观境，无缝对接支持主流OS以及restfulAPI。
评测MOS打分业界领先。

7、
多语义解析方案
永久免费
全网路体验
免离在线语音识别方案
自定义
离在线语音合成方案
支持热词搜索、语音输入、LBS、多语言多音色选择
视频、音乐等12种场景
支持语法语言模型自定义
合成效果流畅自然
行业解决方案–为不同行业的企业和个人用户提供优质的语音服务
为智能手机提供语音拍照，驾驶助手，语音助手等功能。
为智能手表提供语音输入和语音搜索功能。
Smart
Smart
Phone
Watch
提供领先的车载解决方案，优化车机设备的抗噪性能。
IOT探索，万物互联
Vehicle
Smart
Device
开放未来
声纹识别
个性化TTS
音频检索
1.可

8、以选择集成