1、第 34 卷 第 6 期2011 年 12 月电 子 器 件Chinese Journal of Electron DevicesVol34 No6Dec2011项目来源 : 江苏省自然科学基金项目 ( BK2010167)收稿日期 : 20110721 修改日期 : 20110812Design of Remote Video Monitoring Based on Android Smart Phone*CAO Xiaofang， WANG Chao*， LI Jie( College of Electronic Science and Engineering， Southeast Uni
2、versity， Nanjing 210096， China)Abstract: In order to realize mobile video monitoring， a remote video monitoring system based on smart phone ispresented This paper introduces the architecture and hardware platform of the system and the development method-ology of Android applications， and combining w
3、ith the practical system， it emphatically discusses the implementationof the client program based on Android It analyses the porting method of FFmpeg library for H264 data decodingand the use method of OpenGL ES for real-time displaying The result of experiment based on Wireless network in-dicates t
4、hat the system achieves the desired goal that realizes mobile video monitoring by smart phoneKey words: mobile monitoring; Android; H264; OpenGL ES; multithreadEEACC: 6210L; 7200 doi: 103969/j issn10059490201106025一种基于Android智能手机的远程视频监控的设计*曹晓芳 ， 王 超*， 李 杰( 东南大学电子科学与工程学院 ， 南京 210096)摘 要 : 为了实现移动视频监控
5、， 提出了一种基于智能手机的远程视频监控系统 。介绍了监控系统的体系结构和硬件平台 ，阐述了嵌入式操作系统 Android 应用程序的开发方法 ， 并结合实际的应用系统 ， 重点论述了 Android 平台上视频监控客户端的设计思路 。移植了音视频解码库 FFmpeg 进行 H264 视频解码 ， 并采用 OpenGL ES 实现实时视频显示 。在无线局域网络的环境下对视频监控终端进行测试 ， 达到了利用手机进行移动视频监控的目的 。关键词 : 移动监控 ; Android; H264; OpenGL ES; 多线程中图分类号 : TP39 文献标识码 : A 文章编号 : 10059490(
6、 2011) 06070904随着多媒体技术 、视频压缩技术以及网络传输技术的发展 ， 视频监控正朝着数字化 、网络化 、智能化方向持续发展 ， 并越来越广泛地渗透到政府 、教育 、娱乐 、医疗等领域 12。目前大部分的网络视频监控系统是基于 WEB 服务器的 ， 监控终端为 PC机 ， 用户使用浏览器获取监控服务 。由于互联网接入地点的限制 ， 普通的网络视频监控无法满足用户在任何时间 、任何地点获取监控信息的需求 34。本文介绍了一种以 Android 智能手机为终端的视频监控系统 ， 该系统将传统的视频监控与移动多媒体技术相结合 ， 真正实现了移动视频监控 。1 系统的结构本文中的视频监
7、控系统采用 C/S 体系结构 。如图 1 所示 ， 该系统由视频采集端 ( 摄像头 ) ， 视频服务器以及监控客户端等构成 。图 1 视频监控系统总体结构视频服务器是整个系统的核心部分 ， 它将摄像头采集到的原始模拟信号转换为数字信号 ， 并对视频数据进行编码压缩 ， 最后通过 Internet 将压缩后的数据传送至客户端 。客户端通过 TCP/IP 协议访问服务器 ， 通过对视频数据的接收 、解码以及显示 ，实现实时预览功能 。客户端也可以根据用户需求发送控制命令 ， 实现对前端设备的控制操作 ， 如云台控制等 。服务器部分采用 Hi3515 处理器芯片为硬件平电 子 器 件 第 34 卷台
8、 ， 并移植了嵌入式操作系统 Linux 作为整个系统运行的软件环境 。Hi3515 是一款基于 ARM9 处理器内核以及视频硬件加速引擎的高性能通信媒体处理器 ， 具有 H 264 和 MJPEG 多协议编解码能力 5。本文以基于 Hi3515 的远程视频监控系统为例 ， 重点介绍了 Android 平台上监控客户端的设计过程 。2 Android 开发介绍Android 是基于 Linux 开放性内核的操作系统 ，是 Google 公司在 2007 年 11 月 5 日公布的手机操作系统 。Android 采用软件堆层的架构 ， 主要分为三部分 : 底层以 Linux 核心为基础 ， 提供
9、基本功能 ; 中间层包括函数库和虚拟机 ; 最上层是各种应用软件 。Android 平台显著的开放性使其拥有众多的开发者 ，应用日益丰富 ， 不仅应用于智能手机 ， 也向平板电脑 、智能 MP4 方面急速扩张 。Android 应用程序用 Java 语言编写 ， 每个应用程序都拥有一个独立的 Dalvik 虚拟机实例 ， 这个实例驻留在一个由 Linux 内核管理的进程中 。Dalvik支持 Java Native Interface( JNI) 编程方式 ， Android 应用程序可以通过 JNI 调用 C/C+开发的共享库 ， 实现 “Java+C”的编程方式 。开发 Android 应
10、用程序最简捷的方式是安装 Android SDK 和 Eclipse IDE。E-clipse 提供了一个丰富的 Java 环境 ， Java 代码通过编译后 ， Android Developer Tools 会将它打包 ， 用于安装 6。图 2 客户端总体框架3 监控客户端的设计与实现基于 Android 平台的监控客户端的总体框架如图 2 所示 ， 分别由网络通讯模块 、视频解码模块以及视频显示模块等构成 。其中网络通讯模块接收来自服务器的所有数据 ， 对数据进行解析 ， 并将视频数据存入到视频缓冲区 。视频解码模块负责从视频缓冲区中读取数据并送入 H 264 解码器进行解码 。最后 ，
11、 采用 OpenGL 图形库将解码后图像绘制到屏幕上实现视频播放 。31 H264 视频解码器的实现在网络视频监控系统中 ， 视频的编码压缩是非常必要和关键的工作 ， 没有经过压缩的海量数据对网络传输系统来说是无法承受的 7。H264 是目前最先进的视频压缩算法 ， 它由视频编码层 VCL 和网络提取层NAL 两部分组成 。其中 ， VCL 进行视频编解码 ， 包括运动补偿预测 、变换编码和熵编码等 ; NAL 采用适当的格式对 VCL 视频数据进行封装打包 。H264 标准对编码效率和图像质量进行了诸多改进 ， 且抗丢包性能和抗误码性能好 ， 适应各种网络环境 ， 非常适合于对压缩率要求高
12、， 网络环境复杂的移动视频监控 89。客户端接收的数据是经过 H264 编码压缩后的数据 ， 需要经过 H264 解码还原视频图像后才能够显示 ，因此 ， H264 解码器是客户端的关键部分 。这里移植了开源的音视频解码库 FFmpeg 进行 H264 解码 。在Android 应用程序中使用 FFmpeg 的步骤如下 :( 1) 在 Linux 环境下安装 Android 原生开发工具包 NDK。( 2) 创建 jni 文件夹 ， 将 FFmpeg 工程复制到文件夹下 。创建 H264Decoder c 源文件 ， 提供 Android程序使用的接口函数 ， 文件需要包括 JNI 的操作头文
13、件 jni h， 且函数名有固定的形式 ， 如 com_ip-camera_PreView_H264Decoder 表示 com_ipcamera 包下面 PreView 类中 H264Decoder 函数 。( 3) 创建 Android mk 文件 ， 该文件包含正确构建和命名库的 MakeFile 说明 。分别在 LOCAL_SRC_FILES 和 LOCAL_C_INCLUDES 项中添加编译模块所需源文件和头文件目录 。( 4) 执行 NDK 开发包中的 ndk-build 脚本 ， 生成对应的 so 共享库 ， 并复制到 Android 工程下的 libs/armeabi 目录下
14、。( 5) 在 Android 程序中通过 System loadLibrary( “库名称 ”) 加载所需要的库 ， 加载成功后 ， 应用程序就可以使用 H264Decoder 函数进行 H264 的解码 。32 OpenGL ES 绘图为了提高绘图的效率 ， 客户端使用 OpenGL ES实现视频图像的显示 。OpenGL ES 是一个 2D/3D轻量图形库 ， 是跨平台图形库 OpenGL 的简化版 。OpenGL ES 专门针对手机 、PDA 和游戏主机等嵌入式设备而设计 ， 目的是为了充分利用硬件加速 ， 适合复杂的 、图形密集的程序 。Android 中使用 GLSurfaceVi
15、ew 来显示 OpenGL视图 10， 该类继承至 SurfaceView 并包含了一个专门用于渲染 3D 的接口 Renderer， 主要通过实现 on-DrawFrame、onSurfaceChanged 以及 onSurfaceCreated017第 6 期 曹晓芳 ， 王 超等 : 一种基于 Android 智能手机的远程视频监控的设计等方法构建所需的 Renderer。解码器解码一帧图像后 ， 调用 GLSurfaceView 的 requestRender 方法通知OpenGL ES 完成视频图像的显示 。使用 OpenGL 绘图 11的核心代码如下 :IntBuffer texB
16、uf=IntBuffer allocate( 1) ;gl glGenTextures( 1， texBuf) ; / /创建纹理texture=texBuf array( ) ;gl glBindTexture ( GL10 GL _ TEXTURE _ 2D， texture 0) ; / /绑定纹理gl glTexImage2D( GL10 GL_TEXTURE_2D， 0， GL10 GL_RGB， width， length， 0， GL10 GL_RGB， GL10 GL_UNSIGNED_SHORT_ 5 _ 6 _ 5， TextureData) ; / /生 成 纹 理 ，
17、数 据 格 式为 RGB565gl glTexParameterx( GL10 GL_TEXTURE_2D， GL10 GL_TEXTURE_MAG_FILTER， GL10 GL_NEAREST) ;gl glTexParameterx( GL10 GL_TEXTURE_2D， GL10 GL_TEXTURE_MIN_FILTER， GL10 GL_NEAREST) ; / /线性滤波gl glTexCoordPointer( 2， GL10 GL_FLOAT， 0， texCoords) ;gl glEnableClientState( GL10 GL_TEXTURE_COORD_ARRA
18、Y) ; / /指定纹理映射并开启纹理gl glDrawArrays( GL10 GL_TRIANGLE_FAN， 0， 4) ; / /绘制四边形gl glDisableClientState( ( GL10 GL_TEXTURE_COORD_ARRAY) ; / /关闭纹理33 多线程设计视频数据的接收和解码都是复杂 、持续的过程 ，如果其中一个过程出现阻塞会影响整个程序的运行 ，因此 ， 客户端使用多线程实现数据接收和视频解码的并行处理 。在整个程序运行过程中 ， 主线程响应用户操作 ， 负责屏幕刷新工作 ， 并创建两个子线程 : 数据接收和视频解码子线程 ， 处理过程如图 3 所示 。
19、图 3 子线程处理流程在 Java 中 ， 多线程的实现有两种方式 : 扩展java lang Thread 类或实现 java lang Runnable 接口 。这里通过继承 Thread 类并覆写 run( ) 方法实现两个子线程 。在多线程的应用中关键是处理好线程之间的同步问题 ， 以解决对共享存储区的访问冲突 ，避免引起线程甚至整个系统的死锁 。Java 多线程主要利用 synchronized 关键字和 wait( ) 、notify( ) 等方法实现线程间的同步 12。4 结束语目前 ， 该系统已经在实验室进行测试 ， 服务器输出 15fps CIF 格式的 H264 视频数据
20、， 客户端安装在Android 手机上 ， 通过 WIFI 接入无线局域网中与服务器建立连接 ， 用户界面如图 4 所示 ， 可实现远程视频预览 、云台控制等操作 。图 4 监控客户端随着 3G 时代的到来 ， 数据传输速度有了大幅提升 ， 为移动实时视频业务的实现创造更好的条件 。手机用户可以直接接入 3G 网络访问视频监控服务器 ， 实现移动在线的实时视频监控 。由此可见 ， 手机视频监控市场潜力巨大 ， 具有很好的发展前景 。参考文献 : 1 杨鑫 ， 牛建伟 ， 胡建平 一种基于 H 264 的智能手机监控系统设计与实现 J 微电子学与计算机 ， 2006， 23( 9) : 1181
21、19 2 杨红军 智能视频监控系统的设计研究 J 科技情报开发与经济 ， 2010， 20( 4) : 110111 3 吕雪 基于网络的视频监控系统研究 J 国外建材科技 ，2006， 27( 2) : 6465 4 范金刚 ， 陈雷霆 基于嵌入式 WEB 的网络视频监控系统的设计与实现 J 计算机与信息技术 ， 2005( 11) : 9192 5 深圳市海思半导体有限公司 Hi3515 H 264 编解码处理器用户指南 S 2010 6 韩超 ， 梁泉 Android 系统原理及开发要点详解 M 北京 : 电子工业出版社 ， 2010117电 子 器 件 第 34 卷 7 西刹子 安防天
22、下 智能网络视频监控技术详解与实践 M 北京 : 清华大学出版社 ， 2010298300 8 张新安 基于 Hi3510 的 H264 编解码器的设计与实现 J 电子技术 ， 2007( Z1) : 5860 9 毕厚杰 新一代视频压缩编码标准 H 264/AVC M 北京 : 人民邮电出版社 ， 2005 10 杨丰盛 Android 应用开发揭秘 M 北京 : 机械工业出版社 ，2010: 374390 11 胡顾飞 ， 汤文兵 ， 朱成亮 基于 Android 平台的纹理映射分析与实现 J 中国新技术新产品 ， 2011( 12) : 33 12 王巍 Java 程序设计基础教程 M 北京 : 电子工业出版社 ，1998: 136158曹晓芳 ( 1986) ， 女 ， 江苏东台人 ， 硕士 ， 东南大学硕士研究生 ， 主要研究方向为嵌入式系统的设计 ， elianecao163 com;王 超 ( 1977) ， 男 ， 博士 ， 东南大学副研究员 ， 主要研究方向为超大规模集成电路的研究与设计 ， 嵌入式系统的设计等 。217
