估计图像中的运动
图像型运动估计是一种分析连续图像帧、并确定图像的每个区域如何从一帧移动到下一帧的技术。该类技术能够跟踪图像帧之间的物体运动,具有种类繁多的应用和用例(包括空间扭曲型帧外推),可用于游戏和空间计算设备,提高数字体验的顺畅性。之前已经在此链接说明了由Adreno图形处理器提供动力的本公司Adreno运动引擎支持。
孔径问题
运动估计面临的一项共同挑战是被称为孔径问题的现象。由于运动的跟踪依赖于两幅图像之间对应特征的匹配,因此如果局部区域的内容以强线条或粗线条为主,则线条特征往往会在特征匹配的评分中占据主导地位。这一点存在问题,因为线条在其长度范围内的任何点上几乎完全相同,因此很难通过算法准确地确定该线条上的哪一个点真正属于运动匹配,哪些点只是非常相似。线条特征的主导性质导致较模糊的特征和纹理很难提供足够强的真实运动迹象,以便与线条内容进行竞争。
当这一问题出现时,可能会产生错误的运动矢量,而用这些错误的运动矢量执行帧外推时,就会出现抖动或跳跃的伪影,其中部分图像会沿着这些线条进行散发性移动,与场景中的真实运动无关。
检测与校正
为专门处理该类孔径问题,我们已经对本公司的Adreno运动引擎进行了改进。在进行运动估计的过程中,我们交织各种算法,以来检测这些存在问题的区域并校正错误的运动。这种联锁解决方案在早期阶段消除了这一问题,防止错误矢量在管道的后期阶段影响整体运动估计,并且在不需要应用程序或平台对数据进行任何额外后处理的情况下解决了这一问题。检测和校正的效率非常高,与原始解决方案相比,只需要5%的额外周期。
图形处理器运动估计
左图:注意沿黑色线条上的抖动。右图:外推帧稳定,并利用经过改进的高通运动估计跟踪真实运动。(点击查看视频)
图形处理器运动估计
各项改进的可视化显示(点击查看视频)
结论
通过增强高通公司Adreno运动引擎的功能,显著提高了运动矢量的质量以及各种解决方案的视觉质量,例如由其驱动的帧外推。本公司在游戏、空间计算和扩展现实等领域的客户目前均受益于此类改进,从而能够为他们的用户提供更高质量的体验。
如要获得Adreno运动引擎启用高质量帧外推的范例,请访问Home | Virtual Desktop网址,以查看视觉桌面的同步空间扭曲功能,其中包括v1.30.3版本的增强功能。
您是否有兴趣了解更多关于骁龙XR2芯片的内容?请务必查看骁龙XR2头戴式显示器参考设计。
如要阅读更多内容,请查看本公司开发人员博客中的虚拟现实与游戏图形博客。