基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现-成都创新互联网站建设

关于创新互联

多方位宣传企业产品与服务 突出企业形象

公司简介 公司的服务 荣誉资质 新闻动态 联系我们

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

前言

 

超过十载行业经验,技术领先,服务至上的经营模式,全靠网络和口碑获得客户,为自己降低成本,也就是为客户降低成本。到目前业务范围包括了:成都网站建设、网站设计,成都网站推广,成都网站优化,整体网络托管,小程序设计,微信开发,成都app软件开发公司,同时也可以让客户的网站和网络营销和我们一样获得订单和生意!

随着前端生态的发展,Java已经不仅仅局限于作为网页开发,也越来越活跃于服务器端,移动端小程序等应用开发中。甚至通过Electron等打包工具,甚至能够开发多系统的桌面应用。其涉足的领域宽泛也使得能够实现的功能也不再是简单的UI控件制作和内容的展示,在互动娱乐,小领域也有着极大的发展前景。本文以通过Java开发一个基于浏览器摄像头的实时人物动作捕捉小程序为例,介绍一下前端在这一领域的可行性。

什么是TensorFlow

TensorFlow 最初是由Google大脑小组的研究员和工程师们开发出来,采用数据流图(Data Flow Graphs)用于机器学习和深度神经网络方面数值计算的开源软件库。其高度的可移植性和多语言性使得它可以通过各种常用编程语言编写,轻松的运行在多种平台的设备上。是一个集性能,可靠性,通用性,易用性为一体的强大开源库。

本文所使用的开源Java模型库:

l tfjs-models/posenet: 一个机器学习模型,功能为对图像或者视频中的人物进行动作捕捉,输出人体各个部位的keypoints(坐标集)。具有单一人物分析和多人物分析的特点。

l tfjs-models/body-pix: 一个机器学习模型,功能为对图像或者视频中人物和背景进行分析,将人物从背景中剥离出来,输出结果为人体24个部位在画面中的像素位置。具有将人物与背景分离的功能。

实现原理

本文所介绍的基于浏览器和网络摄像头的人物实时动作捕捉方法,其实现原理是通过Java调用

*在基本的原理中并不是必须的组成部分,但在下文中会简单介绍一种通过的图像绘制功能,提升人物捕捉精度的方法。

通过tfjs-models/posenet模型库实现人物动作捕捉

l 基本配置

· 导入JS

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

· HTML

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

· 初始化网络摄像头

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

· 生成posenet对象

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

参数说明:

architecture:分为MobileNetV1和ResNet50两个体系,其中ResNet50精度更高但处理速度较慢。

outputStride:输出结果每个像素占用字节数,数字越小结果越精确,但处理的成本和时间更多。

inputResolution:输入图像压缩后的尺寸,数字越大越精确,但处理的成本和时间更多。

multiplier:仅在MobileNetV1体系中使用,卷积运算的深度(通道数),数字越大层数越多越精确,但处理的成本和时间更多。

l 执行实时分析

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

l 结果

· 多人捕捉:多人捕捉时能够获得画面中人物的keypoints,互相之间有一定的干扰但影响并不是特别大。

· 单人捕捉:很容易被背景及身边人物干扰,导致人体keypoint定位不准确。

l 缺点

通过实际的效果可以看到,该模型可以在多人物的时候准确捕捉到各个人物的动作和身体部位的keypoints,虽然存在若干干扰和不稳定但基本能够接受,实时性效果好,但是无法区分主要人物和次要人物,需要开发者对结果数据进行处理。

其score的生成是根据形状准确度来计算,没有场景深度的分析,因此无法判断人物前后位置关系。http://u48582907.b2bname.com/

由于以上的问题,该方法在单一人物动作捕捉时被周围环境干扰的影响极大。在背景存在其他人物时会因无法判断主次人物关系,极大的降低准确率。对单一人物动作捕效果非常的不理想,需要进行改进。

改进方案

单一人物的动作捕捉被外界干扰的影响太大导致结果并不理想,因此首先要考虑的就是屏蔽掉周围干扰物体,突出主体人物。由此引入了tfjs-models/body-pix模型库。

**tfjs-models/body-pix模型库的主要功能:**实时分析人物结构,将人物从背景中剥离。其作用对象为单一捕捉对象,正好适用于上述单人捕捉结果不理想的情况。

l 基本配置

· 导入JS

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

· 生成bodyPixNet对象

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

l tfjs-models/body-pix与tfjs-models/posenet的混合使用

基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现

l 结果

tfjs-models/body-pix与tfjs-models/posenet的混合使用,虽然加大了canvas处理的负担,加大了描绘和图像处理的次数,但是由于tfjs-models/body-pix已经先将人物与背景剥离,在tfjs-models/posenet只使用用最高效但低准确度的参数配置下,也能够产生远高于使用高精确度但消耗处理性能极大的配置所不能达到的准确度。从而实现了高效,高准确度,流畅的实时单人动作捕捉功能。

结论

通过TensorFlow的开源库,能够轻松的在浏览器上通过网络摄像头实现人物动作的实时捕捉。郑州不孕不育医院有哪些:http://wapyyk.39.net/zz3/zonghe/1d427.html

由于基于图像分析,因此表现能力极大的依赖于对canvas的描绘性能,移动端由于浏览器canvas描绘能力以及硬件性能限制的原因,表现并不出色,无法做到长时间实时捕捉。甚至部分浏览器限制了网络摄像头的调用。在移动端的表现并不出色。

在单一人物的动作捕捉时,tfjs-models/body-pix与tfjs-models/posenet的混合使用能够使精确度大大提升。

由于需要对canvas进行描绘,结合其他canvas的JS库可以进行交互UI,交互小等不同场合APP的开发。


分享标题:基于TensorFlow的开源JS库的网页前端人物动作捕捉的实现
当前地址:http://kswsj.cn/article/jgicce.html

其他资讯