手势识别方法、装置及系统.pdf

本发明实施例提供一种手势识别方法、装置及系统，其中，所述方法包括：根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势；接收辅助识别设备发送的所述目标对象的控制信号；根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。本发明实施例提供的手势识别方法、装置及系统，通过视觉的方法识别目标对象在三维空间中的视觉手势，并借助辅助识别设备获取所述目标对象的控制信号，进而识别所述目标对象的在所述三维空间中的真实的手势动作，提高了中远距离场景中手势识别的可靠性，降低了手势识别的算法复杂度。

权利要求书
1.  一种手势识别方法，其特征在于，
根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势；
接收辅助识别设备发送的所述目标对象的控制信号；
根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。

2.  根据权利要求1所述的手势识别方法，其特征在于，所述视觉手势至少包括以下任意一种或者其组合：运动轨迹、空间位置、或者指向。

3.  根据权利要求2所述的手势识别方法，其特征在于，所述目标对象的控制信号包括：选定或释放的指示；并且，所述手势动作包括：选定、移动及释放目标物体。

4.  根据权利要求2所述的手势识别方法，其特征在于，所述目标对象的控制信号包括：开始书写或停止书写的指示；并且，所述手势动作包括：书写。

5.  根据权利要求2所述的手势识别方法，其特征在于，所述目标对象的控制信号包括：开始选取的指示；并且，所述手势动作包括：选取目标物体。

6.  根据权利要求1-5任一项所述的手势识别方法，其特征在于，所述根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作之后，还包括：
确定所述手势动作对应的操作命令并发送给显示设备，以使所述显示设备通过执行所述操作命令可视化的显示所述手势动作的反馈信息。

7.  一种手势识别装置，其特征在于，包括：
图像识别模块，用于根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势；
控制信号接收模块，用于接收辅助识别设备发送的所述目标对象的控制信号；
手势识别模块，用于根据所述控制信号接收模块接收的控制信号及所述图像识别模块识别的目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。

8.  根据权利要求7所述的手势识别装置，其特征在于，所述视觉手势至 少包括以下任意一种或者其组合：运动轨迹、空间位置、或者指向。

9.  根据权利要求8所述的手势识别装置，其特征在于，所述目标对象的控制信号包括：选定或释放的指示；并且，所述手势动作包括：选定、移动及释放目标物体。

10.  根据权利要求8所述的手势识别装置，其特征在于，所述目标对象的控制信号包括：开始书写或停止书写的指示；并且，所述手势动作包括：书写。

11.  根据权利要求8所述的手势识别装置，其特征在于，所述目标对象的控制信号包括：开始选取的指示；并且，所述手势动作包括：选取目标物体。

12.  根据权利要求7-11任一项所述的手势识别装置，其特征在于，所述手势识别模块，还用于确定所述手势动作对应的操作命令并发送给显示设备，以使所述显示设备通过执行所述操作命令可视化的显示所述手势动作的反馈信息。

13.  一种手势识别系统，其特征在于，包括：成像设备、辅助识别设备、显示设备、以及如权利要求7-12任一项所述的手势识别装置；
所述成像设备，用于采集目标对象的图像数据，并发送给所述手势识别装置；
所述辅助识别设备，用于向所述手势识别装置发送所述目标对象的控制信号；
所述显示设备，用于接收所述手势识别装置发送的手势动作对应的操作命令，并通过执行所述操作命令可视化的显示所述手势动作的反馈信息。

说明书手势识别方法、装置及系统
技术领域
本发明实施例涉及电子技术，尤其涉及一种手势识别方法、装置及系统。
背景技术
手势识别技术是利用各类传感器对手部（手臂）的形态、位移等进行建模，形成一个模型信息的序列帧，再将这些信息序列转换为对应的指令，用来控制实现某些操作。
人类手势的种类千变万化，最精确的方法是在系统中将手部完全重建出来，再根据手部的形态与运动来进行操控（如Leap motion等）。但是在更多情况下，不需要这么精确的信息，而是将手势信息离散化，将手势分为静态的手势（Pose）、动态手势（Gesture）、或者二者的结合，并将其“翻译”为具体的语义或操控信息；其中，静态手势是指将手势离散化为几个特定的形式（拳、剪刀、掌等），并与操控命令一一对应，更进一步的，可将手型之间的变化与操控命令一一对应（如掌变拳）；动态手势是指跟踪手部的运动轨迹，将运动轨迹与操控命令一一对应（如画圆、挥动等）；在动态手势与静态手势结合的场景中，一方面要跟踪手部的运动轨迹，另一方面又要结合手部的形态，二者状态结合判断用户的真实意图（如聋哑人手语）。
在中远距离的手势识别场景中，由于距离较远，因此，如何在跟踪手部的运动轨迹的同时，准确的判断手部的形态非常关键。现有的基于视觉的分析方法可以分为基于普通视觉的分析方法和基于深度视觉的方法：其中，基于普通视觉的分析方法，主要是通过视觉的方法跟踪手部的运动轨迹和空间位置，并采用多目视觉的方法才能识别出用户的三维姿态信息，造成算法复杂度的提高及对手势动作的识别率降低；而基于深度视觉的方法受限于设备性能或造价，无法有效解决中远距离情况下的手型识别。因此，现有的手势识别技术的算法复杂度高、对手势动作的识别率低。
发明内容
本发明实施例提供一种手势识别方法、装置及系统，以提高中远距离场景中手势识别的可靠性、降低手势识别的算法复杂度。
第一方面，本发明实施例提供一种手势识别方法，所述方法包括：
根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势；
接收辅助识别设备发送的所述目标对象的控制信号；
根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。
根据第一方面，在第一方面的第一种可能的实现方式中，所述视觉手势至少包括以下任意一种或者其组合：运动轨迹、空间位置、或者指向。
根据第一方面的第一种可能的实现方式，在第一方面的第二种可能的实现方式中，所述目标对象的控制信号包括：选定或释放的指示；并且，所述手势动作包括：选定、移动及释放目标物体。
根据第一方面的第一种可能的实现方式，在第一方面的第三种可能的实现方式中，所述目标对象的控制信号包括：开始书写或停止书写的指示；并且，所述手势动作包括：书写。
根据第一方面的第一种可能的实现方式，在第一方面的第四种可能的实现方式中，所述目标对象的控制信号包括：开始选取的指示；并且，所述手势动作包括：选取目标物体。
根据第一方面、第一方面的第一种至第四种可能的实现方式中的任意一种，在第一方面的第五种可能的实现方式中，所述根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作之后，还包括：确定所述手势动作对应的操作命令并发送给显示设备，以使所述显示设备通过执行所述操作命令可视化的显示所述手势动作的反馈信息。
第二方面，本发明实施例提供一种手势识别装置，所述手势识别装置包括：图像识别模块，用于根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势；
控制信号接收模块，用于接收辅助识别设备发送的所述目标对象的控制信号；
手势识别模块，用于根据所述控制信号接收模块接收的控制信号及所述图像识别模块识别的目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。
根据第二方面，在第二方面的第一种可能的实现方式中，所述视觉手势至少包括以下任意一种或者其组合：运动轨迹、空间位置、或者指向。
根据第二方面的第一种可能的实现方式，在第二方面的第二种可能的实现方式中，所述目标对象的控制信号包括：选定或释放的指示；并且，所述手势动作包括：选定、移动及释放目标物体。
根据第二方面的第一种可能的实现方式，在第二方面的第三种可能的实现方式中，所述目标对象的控制信号包括：开始书写或停止书写的指示；并且，所述手势动作包括：书写。
根据第二方面的第一种可能的实现方式，在第二方面的第四种可能的实现方式中，所述目标对象的控制信号包括：开始选取的指示；并且，所述手势动作包括：选取目标物体。
根据第二方面、第二方面的第一种至第四种可能的实现方式中的任意一种，在第二方面的第五种可能的实现方式中，所述手势识别模块，还用于确定所述手势动作对应的操作命令并发送给显示设备，以使所述显示设备通过执行所述操作命令可视化的显示所述手势动作的反馈信息。
第三方面，本发明实施例提供一种手势识别系统，所述手势识别系统包括：成像设备、辅助识别设备、显示设备、以及本发明任意实施例所提供的手势识别装置；所述成像设备，用于采集目标对象的图像数据，并发送给所述手势识别装置；所述辅助识别设备，用于向所述手势识别装置发送所述目标对象的控制信号；所述显示设备，用于接收所述手势识别装置发送的手势动作对应的操作命令，并通过执行所述操作命令可视化的显示所述手势动作的反馈信息。
本发明实施例提供的手势识别方法、装置及系统，通过视觉的方法识别目标对象在三维空间中的视觉手势，并借助辅助识别设备获取所述目标对象的控制信号，进而识别所述目标对象的在所述三维空间中的真实的手势动作，提高了中远距离场景中手势识别的可靠性，降低了手势识别的算法复杂度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的手势识别方法的流程图；
图2为本发明实施例提供的手势识别方法的应用场景图；
图3为本发明实施例提供的手势识别方法的另一应用场景图；
图4为本发明实施例提供的手势识别方法的又一应用场景图；
图5为本发明实施例提供的手势识别装置的结构示意图；
图6为本发明实施例提供的手势识别系统的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1为本发明实施例提供的手势识别方法的流程图。本发明实施例提供的手势识别方法可以用于中远距离场景中的手势识别。如图1所示，所述方法包括：
101、根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势。
102、接收辅助识别设备发送的所述目标对象的控制信号。
103、根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。
具体地，本发明实施例提供的手势识别方法的执行主体可以为手势识别装置，并且，所述手势识别装置与所述成像设备、辅助识别设备均为手势识别系统的组合部分。所述成像设备，例如可以是普通红绿蓝（RGB）摄像头、体感器（Kinect）等图像采集设备。所述辅助识别设备，例如可以是穿戴式/ 手持设备等输入设备、也可以是具有无线信号收发功能的设备（例如手机、开关型指环设备）等。所述目标对象可以是手掌、手指、或者可以借以完成手势动作的对象。
本发明实施例提供的手势识别方法，通过视觉的方法识别目标对象在三维空间中的视觉手势，并借助辅助识别设备获取所述目标对象的控制信号，进而识别所述目标对象的在所述三维空间中的真实的手势动作，提高了中远距离场景中手势识别的可靠性，降低了手势识别的算法复杂度。
在上述实施例的基础上，所述手势识别装置在根据所述控制信号及所述目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作之后：所述手势识别装置确定所述手势动作对应的操作命令并发送给显示设备；显示设备接收所述手势识别装置发送的手势动作对应的操作命令，并通过执行所述操作命令可视化的显示所述手势动作的反馈信息。
在上述实施例的基础上，所述视觉手势至少包括以下任意一种或者其组合：运动轨迹、空间位置、或者指向。可选的，所述根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势，具体为：在所述成像设备发送的图像数据中实时检测所述目标对象在所述三维空间中的空间位置，并根据所述位置信息识别所述目标对象在三维空间中的视觉手势。
图2为本发明实施例提供的手势识别方法的应用场景图。如图2所示，当用户1（即目标对象）需要通过在三维空间中的手势动作实现挪动显示设备（大屏幕4）上的一个圆形物体5时：可选的，所述目标对象的控制信号包括：选定或释放的指示；并且，所述手势动作包括：选定、移动及释放目标物体；可选的，辅助识别设备例如可以为信号收发设备2；一种可行的实现方案是：
用户1首先做出指向大屏幕4上圆形物体5的手势动作；
成像设备3实时采集用户1的图像数据，并发送给所述手势识别装置6；
手势识别装置6根据所述图像数据，判断用户1的指向位置（例如指向坐标），并且在大屏幕4上的对应位置处可视化的显示一个虚拟的指向点，从而使得用户1可以看到该指向位置；进一步，当手势识别装置6判断用户1的指向坐标落在所述圆形物体5的有效范围内时，可以在大屏幕4上显示指向点为所述圆形物体5。
用户1手持信号收发设备2，当用户1看到大屏幕4上显示指向点为所述圆形物体5时，按压所述信号收发设备2上的有效位置，通过所述信号收发设备2向手势识别装置6发送控制信号，所述控制信号携带有选定所述圆形物体5的指示；
所述手势识别装置6根据所述控制信号选定所述圆形物体5；
用户1持续按压所述信号收发设备2上的有效位置，并且通过改变指向位置以移动所述圆形物体5，当将所述圆形物体5移动到目标位置后，用户1停止按压所述信号收发设备2上的有效位置，则所述手势识别装置6在所述目标位置释放所述圆形物体5。
可见，本发明实施例提供的手势识别方法，根据成像设备3实时采集的用户1的图像数据，判断用户1的指向位置，并且在大屏幕4上的对应位置处可视化的显示一个虚拟的指向点，从而使得用户1可以看到该指向位置；当用户1看到大屏幕4上显示指向点为所述圆形物体5时，通过按压信号收发设备2上的有效位置以向手势识别装置6发送控制信号；手势识别装置6根据所述控制信号以及用户1的指向位置，识别用户1在三维空间中的真实的手势动作，降低了中远距离场景中手势识别的算法复杂度，并提高了手势识别的可靠性。
图3为本发明实施例提供的手势识别方法的另一应用场景图。如图3所示，当用户1（即目标对象）需要通过在三维空间中的手势动作实现在显示设备（大屏幕4）上进行书写操作时：可选的，所述目标对象的控制信号包括：开始书写或停止书写的指示；并且，所述手势动作包括：书写；可选的，辅助识别设备例如可以为开关型指环设备7；一种可行的实现方案是：
在用户1书写时，需要根据比划不停的断开，比如书写两个汉字“专利”，一边根据比划移动手指，一边按下开关型指环设备7以向手势识别装置6发送指示开始书写的控制信号；手势识别装置6接到控制信号后，在手指指向位置显示书写的比划；停笔时，用户停止按压开关型指环设备7以向手势识别装置6发送停止书写的指示，此时，尽管有手指指向，但是无需在显示设备上显示。与传统的通过视觉方法完成书写的技术相比，本发明实施例提供的手势识别方法通过手势识别装置6综合考虑所述控制信号以及用户1的指向位置，识别用户1在三维空间中的真实的书写动作，提高了手势识别的实 时性和可靠性。
图4为本发明实施例提供的手势识别方法的又一应用场景图。如图4所示，当用户1（即目标对象）需要通过在三维空间中的手势动作实现在虚拟三维场景8中用虚拟手9来选取物体时：可选的，所述目标对象的控制信号包括：开始选取的指示；并且，所述手势动作包括：选取目标物体；可选的，辅助识别设备例如可以为开关型指环设备7；一种可行的实现方案是：
在用户1需要操作虚拟三维场景8中的目标物体时，当用户1目测自己的虚拟手9已经接近或接触到了需要操作的目标物体时，按下开关型指环设备7以向手势识别装置6发送开始选取的指示；手势识别装置6接到携带开始选取的指示的控制信号后，比较视觉算法实时检测到的虚拟手9的位置与三维场景8中物体的位置数据，选择与虚拟手9最接近的物体为当前手势选中的物体。与传统的通过视觉的方法在虚拟三维场景中模拟真实世界中手对物体的操作的技术相比，本发明实施例提供的手势识别方法通过手势识别装置6综合考虑所述控制信号以及用户1的指向位置，识别用户1在三维空间中的真实的手势动作，降低了算法复杂度，提高了手势识别的可靠性。
图5为本发明实施例提供的手势识别装置的结构示意图。如图5所示，本发明实施例提供的手势识别装置500，包括：图像识别模块501、控制信号接收模块502和手势识别模块503，其中：
所述图像识别模块501，用于根据成像设备发送的图像数据，识别目标对象在三维空间中的视觉手势；
所述控制信号接收模块502，用于接收辅助识别设备发送的所述目标对象的控制信号；
所述手势识别模块503，用于根据所述控制信号接收模块接收的控制信号及所述图像识别模块识别的目标对象在所述三维空间中的视觉手势，识别所述目标对象在所述三维空间中的手势动作。
本发明实施例提供的手势识别装置500可以用于执行图1所示方法实施例所提供的技术方案，其实现原理和技术效果类似，在此不再赘述。
可选的，所述视觉手势至少包括以下任意一种或者其组合：运动轨迹、空间位置、或者指向。
进一步，所述目标对象的控制信号包括：选定或释放的指示；并且，所 述手势动作包括：选定、移动及释放目标物体。
或者，进一步，所述目标对象的控制信号包括：开始书写或停止书写的指示；并且，所述手势动作包括：书写。
或者，进一步，所述目标对象的控制信号包括：开始选取的指示；并且，所述手势动作包括：选取目标物体。
可选的，所述手势识别模块503，还用于确定所述手势动作对应的操作命令并发送给显示设备，以使所述显示设备通过执行所述操作命令可视化的显示所述手势动作的反馈信息。
图6为本发明实施例提供的手势识别系统的结构示意图。如图6所示，本发明实施例提供的手势识别系统600，包括：成像设备601、辅助识别设备602、显示设备603、及本发明任意实施例所提供的手势识别装置500，其中：
所述成像设备601，用于采集目标对象A的图像数据，并发送给所述手势识别装置500；
所述辅助识别设备602，用于向所述手势识别装置500发送所述目标对象A的控制信号；
所述显示设备603，用于接收所述手势识别装置500发送的手势动作对应的操作命令，并通过执行所述操作命令可视化的显示所述手势动作的反馈信息。
本发明实施例提供的手势识别系统，通过视觉的方法识别目标对象在三维空间中的视觉手势，并借助辅助识别设备获取所述目标对象的控制信号，进而识别所述目标对象的在所述三维空间中的真实的手势动作，提高了中远距离场景中手势识别的可靠性，降低了手势识别的算法复杂度。
在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作 为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）或处理器（processor）执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。