《用于增强现实表示的二维图像获取.pdf》由会员分享,可在线阅读,更多相关《用于增强现实表示的二维图像获取.pdf(30页完整版)》请在专利查询网上搜索。
1、(10)申请公布号 CN 103582893 A (43)申请公布日 2014.02.12 CN 103582893 A (21)申请号 201180071219.5 (22)申请日 2011.06.08 G06K 9/36(2006.01) (71)申请人 英派尔科技开发有限公司 地址 美国特拉华州 (72)发明人 E克鲁格里克 (74)专利代理机构 北京三友知识产权代理有限 公司 11127 代理人 吕俊刚 刘久亮 (54) 发明名称 用于增强现实表示的二维图像获取 (57) 摘要 总体上公开了获取用于增强现实表示的二维 图像的技术和实现。 (85)PCT国际申请进入国家阶段日 2013.。
2、11.27 (86)PCT国际申请的申请数据 PCT/US2011/039639 2011.06.08 (87)PCT国际申请的公布数据 WO2012/170023 EN 2012.12.13 (51)Int.Cl. 权利要求书 3 页 说明书 15 页 附图 11 页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书3页 说明书15页 附图11页 (10)申请公布号 CN 103582893 A CN 103582893 A 1/3 页 2 1. 一种方法, 该方法包括以下步骤 : 由电子图像获取装置至少部分地基于对对象的一个或更多个二维图像的分析来确定 所述对象的增强。
3、现实表示, 其中, 所述增强现实表示包括多个表面假设 ; 确定与各个表面假设相关联的一个或更多个可靠性值 ; 将所述一个或更多个可靠性值与一个或更多个阈值可靠性标准进行比较, 以从所述多 个表面假设中识别一个或更多个感兴趣表面区域 ; 以及 经由所述电子图像获取装置的显示器来显示与获取所述对象的一个或更多个附加的 二维图像有关的引导, 其中, 所述引导是至少部分地基于所识别的感兴趣表面区域的。 2. 根据权利要求 1 所述的方法, 该方法还包括以下步骤 : 确定与各个感兴趣表面区域相关联的一个或更多个视角锥 ; 以及 至少部分地基于质量水平输入来确定与所述一个或更多个视角锥相关联的观看范围 和。
4、方向, 其中, 所述引导是至少部分地基于与所述一个或更多个视角锥相关联的所述观看范围 和方向的。 3. 根据权利要求 2 所述的方法, 其中, 所述一个或更多个视角锥各自包括由限定的视 角界定并且以表面法向向量为中心的限定的观看区域。 4. 根据权利要求 1 所述的方法, 该方法还包括以下步骤 : 监测实时视频数据 ; 以及 至少部分地基于所述实时视频数据来确定所述电子图像获取装置与所述对象之间的 实时相对位置和方向, 其中, 所述引导是至少部分地基于所述电子图像获取装置与所述对象之间的所确定的 实时相对位置和方向的。 5. 根据权利要求 1 所述的方法, 其中, 所述增强现实表示包括所述对象。
5、的三维图像。 6. 根据权利要求 1 所述的方法, 其中, 采用随机抽样一致性表面提取 (RANSAC) 算法来 计算所述多个表面假设。 7. 根据权利要求 1 所述的方法, 其中, 所述一个或更多个阈值可靠性标准包括以下标 准中的一个或更多个 : 每面积像素阈值、 不完整的图像数据阈值和 / 或缺少的图像数据阈 值。 8. 根据权利要求 1 所述的方法, 其中, 所述引导指示用于获取所述对象的所述一个或 更多个附加的二维图像的一个或更多个有利位置。 9. 根据权利要求 1 所述的方法, 其中, 所述引导指示与各个表面假设相关联的所述可 靠性值。 10. 根据权利要求 1 所述的方法, 该方法。
6、还包括以下步骤 : 从用户接收已经选择所述对 象的一个或更多个二维图像的指示, 其中, 由电子图像获取装置确定所述对象的所述增强 现实表示的步骤是至少部分地基于来自所述用户的指示的。 11. 一种电子图像获取装置, 该电子图像获取装置包括 : 光学传感器, 其被配置为获取对象的二维图像并且获取实时视频数据 ; 以及 控制单元, 其被配置为 : 至少部分地基于对所述对象的一个或更多个二维图像的分析来确定所述对象的增强 权 利 要 求 书 CN 103582893 A 2 2/3 页 3 现实表示, 其中, 所述增强现实表示包括多个表面假设 ; 确定与各个表面假设相关联的一个或更多个可靠性值 ; 。
7、将所述一个或更多个可靠性值与一个或更多个阈值可靠性标准进行比较, 以从所述多 个表面假设中识别一个或更多个感兴趣表面区域 ; 并且 经由所述电子图像获取装置的显示器来确定与获取所述对象的一个或更多个附加的 二维图像有关的引导, 其中, 所述引导是至少部分地基于所识别的感兴趣表面区域的。 12. 根据权利要求 11 所述的电子图像获取装置, 其中, 所述控制单元还被配置为 : 确定与各个感兴趣表面区域相关联的一个或更多个视角锥 ; 并且 至少部分地基于质量水平输入来确定与所述一个或更多个视角锥相关联的观看范围 和方向, 其中, 所述引导是至少部分地基于与所述一个或更多个视角锥相关联的所述观看范围。
8、 和方向的。 13. 根据权利要求 12 所述的电子图像获取装置, 其中, 所述一个或更多个视角锥各自 包括由限定的视角界定并且以表面法向向量为中心的限定的观看区域。 14. 根据权利要求 11 所述的电子图像获取装置, 其中, 所述控制单元还被配置为 : 监测实时视频数据 ; 并且 至少部分地基于所述实时视频数据来确定所述电子图像获取装置与所述对象之间的 实时相对位置和方向, 其中, 所述引导是至少部分地基于所述电子图像获取装置与所述对象之间的所确定的 实时相对位置和方向的。 15. 根据权利要求 11 所述的电子图像获取装置, 其中, 所述增强现实表示包括所述对 象的三维图像。 16. 根。
9、据权利要求 11 所述的电子图像获取装置, 其中, 采用随机抽样一致性表面提取 (RANSAC) 算法来计算所述多个表面假设。 17. 根据权利要求 11 所述的电子图像获取装置, 其中, 所述一个或更多个阈值可靠性 标准包括以下标准中的一个或更多个 : 每面积像素阈值、 不完整的图像数据阈值和 / 或缺 少的图像数据阈值。 18. 根据权利要求 11 所述的电子图像获取装置, 其中, 所述引导指示用于获取所述对 象的所述一个或更多个附加的二维图像的一个或更多个有利位置。 19. 根据权利要求 11 所述的电子图像获取装置, 其中, 所述引导指示与各个表面假设 相关联的所述可靠性值。 20. 。
10、根据权利要求 11 所述的电子图像获取装置, 其中, 所述电子图像获取装置包括数 字相机、 蜂窝电话、 个人数字助理、 移动计算平板电脑、 个人媒体播放器装置或无线网络观 看装置。 21. 一种产品, 该产品包括 : 信号承载介质, 该信号承载介质包括上面存储的机器可读指令, 所述机器可读指令在 由一个或更多个处理器执行时可操作地使得计算装置 : 至少部分地基于对对象的一个或更多个二维图像的分析来确定所述对象的增强现实 表示, 其中, 所述增强现实表示包括多个表面假设 ; 权 利 要 求 书 CN 103582893 A 3 3/3 页 4 确定与各个表面假设相关联的一个或更多个可靠性值 ; 。
11、将所述一个或更多个可靠性值与一个或更多个阈值可靠性标准进行比较, 以从所述多 个表面假设中识别一个或更多个感兴趣表面区域 ; 并且 经由所述电子图像获取装置的显示器来确定与获取所述对象的一个或更多个附加的 二维图像有关的引导, 其中, 所述引导是至少部分地基于所识别的感兴趣表面区域的。 权 利 要 求 书 CN 103582893 A 4 1/15 页 5 用于增强现实表示的二维图像获取 背景技术 0001 除非本文另有指示, 否则该部分中描述的方法不是针对本申请中的权利要求的现 有技术, 并且不能由于包括在该部分中而被认为是现有技术。 0002 一些图像处理服务可以将多个图像合并成虚拟旅游。。
12、 这些虚拟旅游可以尝试模拟 尽可能多的三维 (3D) 体验。此外, 其它系统可以将一系列二维 (2D) 图像转换成 3D。 0003 生成的 3D 模型或 3D 合成的质量可能取决于照片的定位和分辨率。例如, 当使用 照片到 3D 转换时, 可能会去掉 (wind up) 缺乏足够的共享上下文或边缘的丢失表面和 / 或 图像的一些组合, 以使得能够将照片集成到这种 3D 模型中。 0004 由于增强现实表示 (例如, 3D 图像) 可以用于越来越多的目的, 所以一般的家庭用 户可能希望能够拍照对象和场所的照片, 并且生成这些照片的良好质量的 3D 模型。 发明内容 0005 本文描述的一些示例。
13、性方法、 设备和系统可以涉及获取用于增强现实表示的二维 图像。 0006 与获取用于增强现实表示的二维图像有关的一些示例性方法、 设备和系统可以在 电子图像获取装置中实现。 一些方法可以包括由电子图像获取装置至少部分地基于对对象 的一个或更多个二维图像的分析来确定所述对象的增强现实表示。 这种增强现实表示可以 包括多个表面假设。可以确定与各个表面假设相关联的一个或更多个可靠性值。可以将所 述一个或更多个可靠性值与一个或更多个阈值可靠性标准进行比较, 以从所述多个表面假 设识别一个或更多个感兴趣表面区域。 可以经由所述电子图像获取装置的显示器来显示与 获取所述对象的一个或更多个附加的二维图像有关。
14、的引导。 这种引导可以至少部分地基于 所识别的感兴趣表面区域。 0007 与获取用于增强现实表示的二维图像有关的一些示例性方法、 设备和系统可以在 电子图像获取装置中实现。这种电子图像获取装置可以包括光学传感器和控制单元。这种 光学传感器可以被配置为获取对象的二维图像并且获取实时视频数据。 这种控制单元可以 被配置为至少部分地基于对所述对象的一个或更多个二维图像的分析来确定所述对象的 增强现实表示。这种增强现实表示可以包括多个表面假设。可以由所述控制单元来确定与 各个表面假设相关联的一个或更多个可靠性值。 可以将所述一个或更多个可靠性值与一个 或更多个阈值可靠性标准进行比较, 以从所述多个表面。
15、假设识别一个或更多个感兴趣表面 区域。 可以经由所述电子图像获取装置的显示器来确定与获取所述对象的一个或更多个附 加的二维图像有关的引导。这种引导可以至少部分地基于所识别的感兴趣表面区域。 0008 前面的概述仅是例示性的并且不旨在以任何方式进行限制。 除了上述的例示性方 面、 实施方式和特征之外, 通过参照附图和下面的详细描述, 其它方面、 实施方式和特征将 变得明显。 附图说明 说 明 书 CN 103582893 A 5 2/15 页 6 0009 在本说明书的结论部分中特别地指出并且明确地要求保护主题。 根据结合附图进 行的以下描述和所附权利要求书, 本公开的以上和其它特征将变得更充分。
16、地显而易见。要 理解的是, 这些附图仅描述了根据本公开的多个实施方式, 因此不能被认为是对本公开的 范围的限制, 将通过使用附图来利用附加的特征和细节描述本公开。 0010 附图中 : 0011 图 1 例示根据本公开的至少一些实施方式布置的示例性电子图像获取装置 ; 0012 图 2 例示根据本公开的至少一些实施方式布置的获取对象的一个或更多个二维 图像的示例性电子图像获取装置 ; 0013 图 3 例示根据本公开的至少一些实施方式布置的获取用于增强现实表示的二维 图像的示例性处理 ; 0014 图 4 例示根据本公开的至少一些实施方式布置的获取用于增强现实表示的二维 图像的另一个示例性处理。
17、 ; 0015 图 5 例示根据本公开的至少一些实施方式布置的包括多个表面假设的示例性增 强现实表示 ; 0016 图 6 例示根据本公开的至少一些实施方式布置的与增强现实表示相关联的示例 性视角锥 ; 0017 图 7 例示根据本公开的至少一些实施方式布置的与多个表面假设中的感兴趣表 面区域相关联的示例性视角锥 ; 0018 图 8 例示根据本公开的至少一些实施方式布置的用于基于视角锥来获得关于感 兴趣表面区域的数据的示例性选择 ; 0019 图 9 例示根据本公开的至少一些实施方式布置的示例性屏幕快照 ; 0020 图 10 是根据本公开的至少一些实施方式布置的示例性计算机程序产品的例示 。
18、; 以及 0021 图 11 是根据本公开的至少一些实施方式布置的计算装置的例示性实施方式的框 图。 具体实施方式 0022 以下描述连同具体细节一起阐述各种示例, 以提供对要求保护的主题的深入理 解。 然而, 本领域技术人员将要理解的是, 要求保护的主题也可以在没有本文公开的一些或 更多具体细节的情况下实践。 此外, 在一些情况下, 为了避免对要求保护的主题的不必要混 淆, 没有详细描述公知的方法、 处理、 系统、 部件和 / 或电路。 0023 在下面的详细说明中, 参照附图, 这些附图形成了本说明书的一部分。在附图中, 除非上下文另行说明, 否则相似的符号通常标识相似的部件。 在具体说明。
19、书、 附图和权利要 求中描述的例示性实施方式不意味着为限制。 在不脱离本文表现的主题的精神或范围的情 况下, 可利用其它实施方式, 并且可以进行其它改变。容易理解的是, 如本文总体描述的和 附图例示的本公开的各个方面, 可以按照各种不同的配置来布置、 替换、 组合和设计, 本公 开的各个方面全部被明确设想并构成本公开的一部分。 0024 除其它因素外, 本公开被描绘为与对用于增强现实表示的二维图像进行获取有关 的方法、 设备和系统。 说 明 书 CN 103582893 A 6 3/15 页 7 0025 以下针对计算拍摄的有利视角以便于构建增强现实表示 (例如, 3D 模型) 并且在用 户的。
20、电子图像获取装置上向用户显示这些视角, 描述了方法、 设备和系统。例如, 智能电话 型电子图像获取装置可以显示优选的有利位置, 该优选的有利位置示出建议用户进行拍摄 的目标视图。这种优选的有利位置可被计算, 以针对增强现实表示的具有低质量数据的部 分或者增强现实表示的不能直接观看但是理论上存在的部分来提供附加的图像数据。 0026 图 1 例示根据本公开的至少一些实施方式布置的示例性电子图像获取装置 100。 电子图像获取装置 100 可用于执行下面结合图 3 和 / 或图 4 讨论的各种功能中的一些或全 部。电子图像获取装置 100 可以包括能够承担数字图像获取的任何装置或装置的集合。本 文。
21、使用的术语 “电子图像获取装置” 可以指代能够进行数字图像拍摄的外形较小的便携式 电子装置, 诸如, 例如数字相机、 蜂窝电话、 个人数字助理 (PDA)、 移动计算平板、 个人媒体播 放器装置、 无线网络观看装置、 应用特定装置等, 以及 / 或者上述装置的组合。 0027 在所例示的示例中, 电子图像获取装置 100 可以包括光学传感器 102、 控制单元 104 和 / 或显示器 160。这种光学传感器 102 可以被配置为获取对象 (没有示出) 的二维图 像并且获取实时视频数据。 0028 控制单元104可以被配置为确定由光学传感器102获取的这种对象的增强现实表 示。例如, 控制单元。
22、 104 可以被配置为至少部分地基于对象的一个或更多个二维图像的分 析来确定增强现实表示。本文使用的术语 “增强现实表示” 可以指代对物理的、 真实世界的 对象的实时直接观看或间接观看, 诸如对象的三维图像等。可以诸如通过经由显示器 106 传递的视觉引导来向用户提供与获取对象的一个或更多个附加二维图像有关的引导。 控制 单元 104 可以利用对象的这种附加二维图像来更新这种对象的增强现实表示。 0029 此外, 电子图像获取装置 100 还可以包括诸如存储器、 处理器、 网络接口逻辑等的 附加项, 出于简洁的目的, 没有在图 1 中示出这些附加项。例如, 电子图像获取装置 100 还 可以包。
23、括诸如参照下面的图 10 描述的附加项。在一些示例中, 显示器 106 可以被容纳在电 子图像获取装置 100 中, 或者显示器 106 可以是独立的显示器 (例如, 诸如平视显示器或辅 助显示装置) 。 0030 图2例示根据本公开的至少一些实施方式布置的获取对象200的一个或更多个二 维图像的电子图像获取装置100。 在所例示的示例中, 电子图像获取装置100可以获取对象 200 的取自第一位置 202 的二维图像。电子图像获取装置 100 可以被配置为至少部分地基 于对对象 200 的取自第一位置 202 的二维图像的分析来确定增强现实表示。 0031 可以经由电子图像获取装置100向用。
24、户204提供与获取对象的一个或更多个附加 二维图像有关的引导。例如, 电子图像获取装置 100 可以引导用户 204 获取对象 200 的取 自第二位置 206 的另一个二维图像。电子图像获取装置 100 可以被配置为至少部分地基于 对对象 200 的取自第二位置 206 的二维图像的分析来更新增强现实表示。 0032 图 3 例示根据本公开的至少一些实施方式布置的获取用于增强现实表示的二维 图像的示例性处理300。 在所例示的示例中, 处理300以及这里描述的其它处理阐述了可以 被描述为处理步骤、 功能操作、 事件和 / 或动作等 (其可以由硬件、 软件和 / 或固件执行) 的 各种功能块或。
25、动作。本领域技术人员将从本公开认识到 : 可以在各种实现中实践针对图 3 所示的功能块的多个另选例。例如, 尽管处理 300(如图 3 所示) 可以包括块或动作的一个 特定顺序, 但是这些块或动作出现的顺序不一定将要求保护的主题限制于任何特定顺序。 说 明 书 CN 103582893 A 7 4/15 页 8 同样, 在不脱离要求保护的主题的范围的情况下, 可以采用图 3 中没有示出的中间动作和 / 或图 3 中没有示出的附加动作, 并且 / 或者可以消除图 3 中示出的动作中的一些。处理 300 可以包括通过示例性操作 302、 304、 306 和 / 或 308 指示的功能操作中的一个。
26、或更多个。 0033 如图所示, 可以实现处理 300 以获取可以在电子图像获取装置 (参见例如图 1) 中 实现的用于增强现实表示的二维图像。在一些示例中, 可以分析对象的一个或更多个二维 图像, 以形成用于对象的增强现实表示的表面假设 (例如, 3D建模) 。 这种表面假设可用于确 定感兴趣表面区域 (例如, 丢失的表面或图像质量低于阈值可靠性标准的表面) 。例如, 这些 感兴趣表面区域可用于确定与获取一个或更多个附加二维图像相关的引导, 诸如将提供需 要填写的特征以按照目标质量提供完整模型的观看位置。 可以向用户提供这种引导 (例如, 观看位置和 / 或方向) , 使得附加的二维图像可以。
27、被获取并且增强现实表示可以被更新。 0034 处理可以开始于操作 302,“确定包括多个表面假设的增强现实表示” , 其中包括多 个表面假设的增强现实表示可以被确定。例如, 可以至少部分地基于分析对象的一个或更 多个二维图像来确定所述对象的这种增强现实表示。 这种增强现实表示可以包括多个表面 假设。在一些示例中,“姿势匹配” (等) 可以用于确定二维图像如何与增强现实表示 (例如, 3D 场景) 相适合。 0035 在一些示例中, 可以采用随机抽样一致性表面提取 (RANSAC) 算法等或者其组合 来计算表面假设。例如, RANSAC 可以采取点云并且使表面假设适合于点云。可以将整体 方法描述。
28、为生成在满足各种假设的同时使表面与点云的最小二乘差异最小化的表面。参 见例如 Martin A.Fischler 和 Robert C.Bolles 的 “随机抽样一致性 : 应用于图像分析和 自动制图的模型拟合的范例 (Random sample consensus:A paradigm for model fitting with applications to image analysis and automated cartography) ” ,Commun. ACM,24(6):381395,1981。该假设可以包括类似对平整度和线性特征的预期的东西 (架 构公用) , 并且当没有。
29、被数据排除时, 被识别为对称的假设可以持续到没有被检测的区域。 RANSAC 可适合于各种输入, 诸如对称或者来自可能的图像识别击中的建议的几何形状。 RANSAC( 或者其它适合的通用 “错误估计” 技术 ) 可以基于来自多个二维图像或视频流的 3D提取, 与图像中的线或边缘条件结合使用。 例如, 可以在电子图像获取装置中从视频粗略 提取边缘, 并且然后, RANSAC 可以使用跟踪点来最终确定形状、 纹理和 / 或边缘和平面的位 置。 0036 在一些示例中, 增强现实表示可以具有这样一组表面假设, 该组表面假设仍然不 具有表面图像质量差的图像。 这些表面假设可能是未被观测到的, 但是, 。
30、至少部分地基于这 些表面无法存在的位置 (例如, 这些表面无法存在的位置或者它已经被看到的位置) 的知识 和 / 或基于增强现实表示的其它要素的假设 (诸如对称或表面连续) , 可以针对增强现实表 示开发一些类型的几何形状。 0037 处理可以从操作 302 继续到操作 304,“确定与各个表面假设相关联的一个或更多 个可靠性值” , 其中, 可以确定与各个表面假设相关联的一个或更多个可靠性值。 例如, 这些 可靠性值可以对表面假设的质量进行量化 (例如, 每面积单位的像素等) 。在这种示例中, 这 些可靠性值可以至少部分地基于与各个表面假设相关联的每面积单位 (例如, 以平方英尺 等计) 可。
31、用的像素来确定。可以利用这些可靠性值来确定哪些表面假设可能不满足质量标 准 (例如, 因为这些表面以高入射角成像) 。 说 明 书 CN 103582893 A 8 5/15 页 9 0038 处理可以从操作 304 继续到操作 306,“识别一个或更多个感兴趣表面区域” , 其 中, 可以识别一个或更多个感兴趣表面区域。 例如, 所述一个或更多个可靠性值可以与一个 或更多个阈值可靠性标准进行比较, 以从表面假设识别一个或更多个感兴趣表面区域。例 如, 这种阈值可靠性标准可以包括如下标准中的一个或更多个 : 每面积像素阈值、 不完整图 像数据阈值、 缺少的图像数据阈值、 交叠处不匹配的图像、 。
32、图像模糊程度、 伽玛校正 (例如, 在视频或静止图像系统中匹配亮度或三色值) 等和 / 或它们的组合。例如, 与各个表面假设 相关联的单位面积像素类型的可靠性值可以与单位面积像素类型的阈值可靠性标准进行 比较, 以确定是否应当将该各个表面假设识别为感兴趣表面区域。 0039 为了评估表面假设的质量, 可以执行正交变换, 以得到表面看起来像是从垂直线 看到的那样的图像 (例如, 该图像不需要显示, 仅用于计算) , 然后, 可以将图像质量评估应 用于该图像。可以针对度量测试质量评估, 以按照是否足够对各个表面进行分类。 0040 在一些示例中, 增强现实表示的表面假设可以包括 : 基于现有图像数。
33、据提取的较 高质量的表面假设和可能不存在现有图像数据的较低质量的多边形 “孔” 。这些 “孔” (例 如, 在不存在现有图像数据的位置处) 会使得零以外的任何度量自动失败, 并且被识别为感 兴趣表面区域。 0041 处理可以从操作 306 继续到操作 308,“确定与获取一个或更多个附加的二维图像 有关的引导” , 其中, 可以确定与获取一个或更多个附加的二维图像有关的引导。 例如, 可以 经由电子图像获取装置的显示器来显示与获取一个或更多个附加的二维图像有关的引导。 例如, 这种引导可以至少部分地基于所识别的感兴趣表面区域。处理 300 可以利用对象的 这些附加的二维图像来更新增强现实表示。。
34、 0042 如下面将针对图 9 更详细地讨论的, 在一些示例中, 这种引导可以指示用于获取 所述对象的一个或更多个附加的二维图像的一个或更多个有利位置。另外地或另选地, 这 种引导可以指示与各个表面假设相关联的可靠性值。 0043 与处理 300 有关的一些附加的和 / 或另选的细节可以在下文针对图 4 更详细地讨 论的实现的一个或更多个示例中例示。 0044 图 4 例示根据本公开的至少一些实施方式布置的、 获取用于增强现实表示的二维 图像的另一个示例性处理400。 在所例示的示例中, 处理400可以包括由操作402、 404、 406、 408、 410、 412、 414 和 / 或 4。
35、16 例示的一个或更多个操作。 0045 处理可以开始于操作 402,“确定包括多个表面假设的增强现实表示” , 其中, 可以 确定包括多个表面假设的增强现实表示。例如, 可以至少部分地基于对对象的一个或更多 个二维图像的分析来确定所述对象的这种增强现实表示。 这种增强现实表示可以包括多个 表面假设。 0046 另外地或另选地, 在操作 402 之前, 可以选择对象的一个或更多个二维图像, 以确 定该对象的增强现实表示。例如, 用户可以指示已经拍摄的图像, 或者可以启用相机模式, 以建立当前视口 (viewport) 正在对用户希望建模的事物取景。 0047 处理可以从操作 402 继续到操作。
36、 404,“确定与各个表面假设相关联的一个或更多 个可靠性值” , 其中, 可以确定与各个表面假设相关联的一个或更多个可靠性值。 0048 处理可以从操作 404 继续到操作 406,“识别一个或更多个感兴趣表面区域” , 其 中, 可以识别一个或更多个感兴趣表面区域。 例如, 所述一个或更多个可靠性值可以与一个 说 明 书 CN 103582893 A 9 6/15 页 10 或更多个阈值可靠性标准进行比较, 以从多个表面假设中识别一个或更多个感兴趣表面区 域。 0049 处理可以从操作 406 继续到操作 408,“确定一个或更多个视角锥” , 其中, 可以确 定一个或更多个视角锥。例如,。
37、 可以确定与各个感兴趣表面区域相关联的一个或更多个视 角锥。如本文中所使用的, 术语 “视角锥” 可以指代由限定的视角界定且以表面法向向量为 中心的限定的观看区域。 0050 例如, 可以从各个表面假设来得到表面法向向量和视角 (例如, 视角锥) 。这种视角 锥可以提供能够引导用户观察感兴趣表面区域的一组位置和视角。 在用户达到该位置和视 角并且没有观察感兴趣表面区域的情况下, 可以获取附加的二维图像, 更新增强现实表示 和感兴趣表面区域。另选地, 在用户达到该位置和视角并且没有观察感兴趣表面区域的情 况下, 该用户可以选择与另一个感兴趣表面区域相关联的另一个位置和视角。 0051 在一些示例。
38、中, 低质量的小区域可能会生成过多 (例如, 数十个或数千个) 感兴趣 表面区域和相关的视角锥。在这些示例中, 可以将这些过多的感兴趣表面区域的视角锥合 并到最小交叉点, 以选择可用于提供一些或全部丢失信息的一个或一系列的较少的附加二 维图像。 在一些示例中, 将视角锥合并为用于建立较少的离散二维图像的组中以进行拍摄, 这可以实现为规划背包问题的一个版本, 其解决方案可以包括贪婪算法、 线性规划 (例如, 由于几何限制, 在一些情况下线性规划可能是适当的) 等和 / 或它们的组合。 0052 另外地或另选地, 还可以应用滤波器, 来在证明获取附加的二维图像之前要求最 小的增强现实表示影响。 这。
39、种滤波器可以防止微小的过度表面或眩光表面生成大量感兴趣 表面区域。 0053 处理可以从操作 408 继续到操作 410,“确定观看范围和方向” , 其中, 可以确定观 看范围和方向。例如, 可以至少部分地基于质量水平输入来确定与一个或更多个视角锥相 关联的观看范围和方向。 0054 在一些示例中, 这种质量水平输入可以具有预设的缺省设置和 / 或可以基于用户 输入来调节的设置。 例如, 用户可以指示期望的整体图像质量 (例如, 高质量、 中等质量或低 质量等) 。另外地或另选地, 在一些示例中, 为了允许这种源要求特定质量的增强现实表示, 可以从另一个源 (例如, 可以采用 3D 模型作为输。
40、入的游戏或发布或程序) 获得质量水平输 入。另外地或另选地, 这种质量水平输入可以根据相关的各个表面假设的位置和 / 或表示 的对象的类型而变化。例如, 所述对象可以是车辆 (例如, 其可以由电子图像获取装置独立 地识别或者可以通过用户输入来指示) 。与这种车辆型对象的下侧有关的数据可能根本不 需要, 或者与车辆型对象的其它部分相比, 可以具有相对低的相关质量水平输入。因此, 这 种质量水平输入可以根据相关的各个表面假设的位置和 / 或表示的对象的类型而变化。在 一些示例中, 这种质量水平输入可以与阈值可靠性标准进行比较或者可以调节阈值可靠性 标准。 0055 返回参照图 2, 例如, 可以确。
41、定电子图像获取装置 100 与对象 200 之间的观看范围 207, 其在最佳距离处同时也达到期望的质量。例如, 这种期望的质量可以至少部分地基于 按照单位面积像素的质量水平输入 (例如, 诸如像素遍布区域210) 。 这种也达到了期望质量 的最佳距离可以至少部分地基于镜头角度 208 和电子图像获取装置 100 的分辨率。这种镜 头角度 208 可来自镜头设置程度和 / 或框架中的对象 200 的对角。例如, 观察范围 207 可 说 明 书 CN 103582893 A 10 7/15 页 11 与质量水平输入成反比, 与镜头角度208成反比, 并且与电子图像获取装置100的分辨率成 正比。
42、。 0056 因此, 返回参照图 4, 这种对观察范围和方向的确定可能会受到电子图像获取装置 100 的分辨率、 镜头角度和 / 或质量水平输入 (例如, 期望的质量) 的影响。如果仅期望粗略 轮廓, 则由于像素密度不需要很大 (并且可能存在视角锥的多个交叠 - 潜在地需要更少的 图像) , 所以得到的观看范围和 / 或方向可能随着观看范围和方向角变得大得多而不同。例 如, 这种得到的观看范围和 / 或方向可以至少部分地基于质量水平输入与特定距离和 / 或 镜头设置下的像素的大小的比较。因此, 至少部分地基于质量水平输入和 / 或分辨率来调 节与一个或更多个视角锥相关联的观看范围和方向可以增大。
43、或减小被投影的附加二维图 像的数量 (例如, 实现所需要的最少数量的被投影的附加二维图像) 。 0057 处理可以从操作 410 继续到操作 412,“监测实时视频数据” , 其中, 可以监测实时 视频数据。 例如, 为了跟踪电子图像获取装置与对象之间的相对位置和方向, 可以通过电子 图像获取装置来监测实时视频数据。 0058 处理可以从操作 412 继续到操作 414,“确定实时相对位置和方向” , 其中, 可以确 定实时相对位置和方向。例如, 可以至少部分地基于实时视频数据来确定电子图像获取装 置与对象之间的实时相对位置和方向。例如, 可以将实时视频数据与当前的增强现实表示 进行比较, 以。
44、确认当前正在监测的对象和 / 或确定电子图像获取装置与对象之间的相对位 置和方向。例如, 可以经由 “姿势匹配” (等) 将实时视频数据与当前的增强现实表示进行比 较 ; 其中, 这种姿势匹配可以用于确定如何将二维图像与增强现实表示 ( 例如, 3D 场景 ) 进 行比较。 例如, 参见Lingyun Liu.、 Stamos I.的 “用于城市环境中的2D图像到3D范围配准 的系统方法 (A systematic approach for2D-image to3D-range registration in urban environments) ” .IEEE ICCV,1-8,2007。。
45、 0059 处理可以从操作 414 继续到操作 416,“确定与获取一个或更多个附加二维图像有 关的引导” , 其中, 可以确定与获取一个或更多个附加二维图像有关的引导。 例如, 可以经由 电子图像获取装置的显示器来显示与获取对象的一个或更多个附加二维图像有关的引导。 例如, 这种引导可以至少部分地基于所识别的感兴趣表面区域。 在一些示例中, 这种引导可 以至少部分地基于与一个或更多个视角锥相关联的观看范围和方向。 0060 在一些示例中, 这种引导可以包括被显示与各个感兴趣表面区域相关联的视角锥 并且被要求填充视角锥的用户。在一些示例中, 这种引导可以包括被显示一组位置和视角 的用户, 该组。
46、位置和视角可以引导用户占据以观察感兴趣表面区域 (例如, 至少部分地基于 对应的视角锥) 。在这种示例中, 可能存在大量的可能交叠的视角锥 (例如, 参见图 8) , 并且 特定的引导位置和观看角度可以被确定为是最有利的 (例如, 也许特定的引导位置和观看 角度在多个视角锥内) 。另外地或另选地, 这种引导可以包括被显示特定类型的交叠的用 户, 所述交叠指示与各个感兴趣表面区域相关联的可靠性值 (或者将可靠性值与阈值可靠 性标准进行比较的指示) 或者与各个视角锥 (例如, 各个潜在的拍摄位置) 相关联的可靠性 值, 使得用户可以决定在哪里拍摄附加的二维图像, 以填充在增强现实表示中。 0061。
47、 然后, 由于将与特定的感兴趣表面区域或者特性的视角锥相关联的图像识别为被 获取, 这种引导可以与所拍摄的各个二维图像一起发展 (evolve) 。在这种示例中, 然后, 由 于可以在获取附加的二维图像时更新增强现实表示, 使得当获取到对应的二维图像时, 可 说 明 书 CN 103582893 A 11 8/15 页 12 以从指示中移除这种特定的感兴趣表面区域或特定的视角锥, 这种引导可以与所拍摄的各 个二维图像一起发展。另外地或另选地, 这种引导可以至少部分地基于由电子图像获取装 置从实时视频数据中获取的图像来发展。 0062 在一些示例中, 这种引导可以仅显示顶部的一个、 两个或三个视。
48、角锥, 其可以在从 这种视角锥中的一个获取图像时被更新。 另外地或另选地, 然后, 由于可以在获取附加的二 维图像时更新增强现实表示, 这种引导可以与所拍摄的各个二维图像一起发展, 这可以导 致一组新的感兴趣表面区域和 / 或视角锥。 0063 如下面将针对图 9 更详细地讨论的, 在一些示例中, 引导可以至少部分地基于与 一个或更多个视角锥相关联的观看范围和方向, 如上面针对操作408和410讨论的那样。 附 加地或另选地, 引导可以至少部分地基于所确定的电子图像获取装置与对象之间的实时相 对位置和方向, 如上面针对操作 412 和 414 讨论的。 0064 返回参照图 1, 如参照图 3。
49、 和图 4 的处理 300 和 / 或 400 描述的, 增强现实表示可 以包括多个表面假设。一个或更多个可靠性值可以与各个表面假设相关联, 并且该一个或 更多个可靠性值可以由控制单元 104 来确定。一个或更多个可靠性值可以与一个或更多个 阈值可靠性标准进行比较, 以从多个表面假设识别一个或更多个感兴趣表面区域。可以诸 如通过经由显示器 106 传送的视觉引导来向用户提供与获取对象的一个或更多个附加二 维图像有关的引导。 这种引导可以至少部分地基于所识别的感兴趣表面区域来确定。 例如, 这种引导可以促使用户获取对象的一个或更多个附加二维图像, 以获得与所识别的感兴趣 表面区域有关的附加数据。 0065 图 5 例示根据本公开的至少一些实施方式布置的、 包括多个表面假设的示例性增 强现实表示 500。在所例示的示例中, 通过第一视图 502、 第二视图 504 和第三视图 506 例 示增强现实表示 500。 0066 可以采用多个不同的方法来确定期望的位置, 以获取一个或更多个附加二维图 像, 以便覆盖感兴趣表面区域。