Unity3D WebCamTexture 取帧渲染、像素读取的终端适配

发表于2017-07-07
评论0 2.8k浏览

想免费获取内部独家PPT资料库?观看行业大牛直播?点击加入腾讯游戏学院游戏程序行业精英群

711501594

Unity3D可以通过WebCamTexture获取摄像头的像素数据,用于渲染到纹理或者图像相关计算。

由于Win/Mac/Adnroid/iOS等各系统平台和硬件环境下,WebCamTexture 用于渲染和图像计算时表现不完全一致,很容易造成图像渲染或者计算不正确,给调试带来很大麻烦,所以在这里总结一下。

纹理渲染和OpenCV图像计算的像素坐标系

用一张3*3像素的图片来表示,Unity3D纹理渲染像素顺序如下:

7 8 9
4 5 6
1 2 3

左下角为原点,向上和向右为正方向排布像素点

OpenCV进行图像计算的时候,像素顺序如下:

1 2 3
4 5 6
7 8 9

左上角为原点,向下和向右为正方向

WebCamTexture 在各平台下的表现

Windows

渲染时像素顺序:

7 8 9
4 5 6
1 2 3

获取的像素点数组排布顺序:

7 8 9
4 5 6
1 2 3

OpenCV读入像素计算时,将图像在y方向上翻转就可以了

Android 后置摄像头

同Windows

Android 前置摄像头

同Windows。

但是此处有一点要注意的是,前置摄像头需要的实际上是左右调换的镜面成像,所以实际上需要的像素点排布顺序是:

9 8 7
6 5 4
3 2 1

在纹理渲染和图像计算时,最好是同时做一个x方向上的翻转,以得到上边的像素点顺序

iOS后置摄像头

iOS后置摄像头获取的像素顺序与OpenCV计算时的顺序一致,若直接渲染会上下颠倒。

其像素点排布顺序是:

1 2 3
4 5 6
7 8 9

所以在使用iOS后置摄像头获取帧并渲染时,应注意在y方向上对图像做翻转

iOS前置摄像头

iOS前置摄像头获取的像素点排布顺序是:

9 8 7
6 5 4
3 2 1

渲染时可不对图像做任何处理,这就是前置摄像头需要的左右镜面效果

OpenCV读取时,按照与Windwos一致的读取方式,将图像读取为

3 2 1
6 5 4
9 8 7

即可

rbga读取顺序

从WebCamTexture 中获取的像素点用Color32数组来表示

    // 摘要: 
    //     Representation of RGBA colors in 32 bit format.
    [IL2CPPStructAlignment(Align = 4)]
    [UsedByNativeCode]
    public struct Color32
    {
        // 摘要: 
        //     Alpha component of the color.
        public byte a;
        //
        // 摘要: 
        //     Blue component of the color.
        public byte b;
        //
        // 摘要: 
        //     Green component of the color.
        public byte g;
        //
        // 摘要: 
        //     Red component of the color.
        public byte r;

        //
        // 摘要: 
        //     Constructs a new Color32 with given r, g, b, a components.
        //
        // 参数: 
        //   r:
        //
        //   g:
        //
        //   b:
        //
        //   a:
        public Color32(byte r, byte g, byte b, byte a);
    }

OpenCV读取该数组内存地址的像素点数据,在所有平台下,读取的顺序都是 r-g-b-a

该文章同时发布与我的个人站http://zoucz.com/blog/2017/06/27/unity-webcamtexture-adaptation/

如社区发表内容存在侵权行为,您可以点击这里查看侵权投诉指引

游戏学院公众号二维码
腾讯游戏学院
微信公众号

提供更专业的游戏知识学习平台