音视频技术基本知识二

《音视频技术基本知识二》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、vcloud.163.com音视频技术基本知识二网易视频云是网易倾力打造的一款基于云计算的分布式多媒体处理集群和专业音视频技术，为客户提供稳定流畅、低时延、高并发的视频直播、录制、存储、转码及点播等音视频的PaaS服务。在线教育、远程医疗、娱乐秀场、在线金融等各行业及企业用户只需经过简单的开发即可打造在线音视频平台。现在，网易视频云总结网络上的知识，与大家分享一下音视频技术基本知识。l视频的分离与合成，编码和解码对媒体流的处理分为两种：“编码（encoding）”和“解码（decoding）”。编码指的是通过一定协议或规则把一段声音或图像转化成计

2、算机数字文件的过程。而解码恰恰是编码的反面——把编码过的媒体文件重新转化成声音或图像。用来执行编码工作的软件叫“编码器”（Coder或Encoder）;用来执行解码工作的软件叫“解码器”（Decoder）“编码器”与“解码器”合称“编解码器”（“Codec”）。声音与图像是两种不同的媒体，它们分别对应人的两种不同感官。作为不同的媒体，我们只能用专门针对声音的软件或是专门针对视频的软件去分别分析处理音频流（AudioStream）与视频流（VideoStream）。用来编码音频流的软件叫作“音频编码器”（AudioEncoder）用来编码视频流的软

3、件叫作“视频编码器”（VideoEncoder）用来解码音频流的软件叫作“音频解码器”（AudioDecoder）用来解码视频流的软件叫作“视频解码器”（VideoDecoder）音频流与视频流的处理必须分别进行，即：“音频编码器”编码出单个音频文件，“视频编码器”编码出单个视频文件，vcloud.163.com“音频解码器”单独对音频文件进行解码还原，“视频解码器”单独对视频文件进行解码还原。l音视频处理的一般流程：数据采集→数据编码→数据传输(流媒体服务器)→解码数据→播放显示1、数据采集：摄像机及拾音器收集视频及音频数据，此时得到的为原始数

4、据涉及技术或协议：摄像机：CCD、CMOS拾音器：声电转换装置（咪头）、音频放大电路2、数据编码：使用相关硬件或软件对音视频原始数据进行编码处理（数字化）及加工（如音视频混合、打包封装等），得到可用的音视频数据涉及技术或协议：编码方式：CBR、VBR编码格式视频：H.265、H.264、MPEG-4等，封装容器有TS、MKV、AVI、MP4等音频：G.711μ、AAC、Opus等，封装有MP3、OGG、AAC等3、数据传输：将编码完成后的音视频数据进行传输，早期的音视频通过同轴电缆之类的线缆进行传输，IP网络发展后，使用IP网络优传输涉及技术或协

5、议：传输协议：RTP与RTCP、RTSP、RTMP、HTTP、HLS（HTTPLiveStreaming）等控制信令：SIP和SDP、SNMP等vcloud.163.com4、解码数据：使用相关硬件或软件对接收到的编码后的音视频数据进行解码，得到可以直接显示的图像/声音涉及技术或协议：一般对应的编码器都会带有相应的解码器，也有一些第三方解码插件等5、播放显示：在显示器（电视、监视屏等）或扬声器（耳机、喇叭等）里，显示相应的图像画面或声音涉及技术或协议：显示器、扬声器、3D眼镜等l常见的视频直播相关协议：1、RTMP(RealTimeMessagi

6、ngProtocol，实时消息传送协议)RTMP是AdobeSystems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放协议。它有三种变种：1）、工作在TCP之上的明文协议，使用端口1935；2）、RTMPT封装在HTTP请求之中，可穿越防火墙；3）、RTMPS类似RTMPT，但使用的是HTTPS连接；RTMP协议是被Flash用于对象、视频、音频的传输。这个协议建立在TCP协议或者轮询HTTP协议之上。RTMP协议就像一个用来装数据包的容器，这些数据既可以是AMF格式的数据，也可以是FLV中的视音频数据。一个单一的连接可以通过

7、不同的通道传输多路网络流，这些通道中的包都是按照固定大小的包传输的。2、RTSP(RealTimeStreamingProtocol，实时流传输协议)RTSP定义了一对多应用程序如何有效地通过IP网络传送多媒体数据。RTSP提供了一个可扩展框架，数据源可以包括实时数据与已有的存储的数据。该协议目的在于控制多个数据发送连接，为选择发送通道如UDP、组播UDP与TCP提供途径，并为选择基于RTP上发送机制提供方法。vcloud.163.comRTSP语法和运作跟HTTP/1.1类似，但并不特别强调时间同步，所以比较能容忍网络延迟。代理服务器的缓存功能

8、也同样适用于RTSP，并且因为RTSP具有重新导向功能，可根据实际负载情况来切换提供服务的服务器，以避免过大的负载集中于同一服务器而造成