1. 技术文章
  2. 【Android Camera】之 Preview

【Android Camera】之 Preview

由 与世无争的帅哥 提交于 2019-12-17 17:28:53

【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>>

Android Camera小系统：



嗯……直接看Camera HAL层，它实现是主要的工作, 它一般通过ioctl调用V4L2 command ①从linux kernel中的camera driver①得到preview数据. 然后交给surface(或overlay)显示或者保存为文件.在HAL层需要打开对应的设备文件,并通过ioctrl访问camera driver. Android通过这个HAL层来保证底层硬件(驱动)改变,只需修改对应的HAL层代码,FrameWork层与JAVA Ap的都不用改变.

      注释：①V4L2(video 4 linux 2)

      备注：①这个驱动并不是camera本身而是控制camera的主设备，这个camera控制器在linux里被抽象成为v4l2层通用，最后由(*attach)连接到具体每个不同的camera设备驱动里。camera=camera控制器+外接的camera sensor，控制器集成在cpu里,linux下的设备结点就是/dev/video0.

preview数据的显示过程:

简

单

概

括

为

Java app 呼叫 ② Jni ，Jni调用各种.so ：

libandroid_runtime.so ---> libcamera_client.so ---> Binder IPC---> libcameraservice.so ---> libcamera.so

     注释：②请原谅我用【呼叫】这个动词，实在想不出更加形象的词汇了。


详

细

说

明

      1.打开linux kernel中的camera driver的设备文件，调用CameraHardwareInterface.h 中定义的openCameraHardware(),打开camera driver的设备文件(例如/dev/video0).

     2.CameraHardwareInterface.h 中定义的 setParameters()函数,传参告诉camera HAL使用哪一个硬件摄像头,以及它工作的参数(size, format等等),并在HAL层分配存储preview数据的buffers(如果buffers是在linux kernel中的camera driver中分配的,并拿到这些buffers mmap后的地址指针).

     3.如果不使用overlay那设置显示目标就在libcameraservice.so 中,不会进Camera HAL动态库.并将上一步拿到的preview数据buffers地址注册到surface中. 如果使用overlay那在libcameraservice.so 中会通过传进来的Isurface创建Overlay类的实例,然后调用CameraHardwareInterface.h 中定义的 setOverlay()设置到Camera HAL动态库中.

     4.开始preview，调用到CameraHardwareInterface.h 中定义的 startPreview()函数.startPreviewMode会处理preview的显示介质，如果使用Overlay显示，会设置相应的Overlay，同时调用mHardware->startPreview()以启动preview；否则先调用mHardware->startPreview()启动preview，然后设置buffer：调用函数registerPreviewBuffers()，它会调用mHardware->getPreviewHeap()，从HAL层获得preview的buffer，将其设置给Surface去显示preview的结果。


Preview数据可以通过Overlay和Surface两种介质去显示

1.使用Overlay显示

     overlay 一般用在 camera preview, 视频播放等需要高帧率的地方, 还有可能 UI 界面设计的需求,如 map 地图查看软件需两层显示信息. overlay需要硬件与驱动的支持.Overlay 没有 java 层的 code, 也就没有 JNI 调用. 一般都在 native 中使用.

     如果要使用Overlay，底层硬件必须支持Overlay。在CameraService::Client的构造函数中，有相应的判断。 

CameraService::Client::Client(const sp<CameraService>& cameraService,const sp<ICameraClient>& cameraClient, pid_t clientPid){}

若mUseOverlay = mHardware->useOverlay()；返回值为true，则表示硬件支持Overlay；否则只能使用Surface显示。

 

Android系统中提供了Overlay的接口，其具体实现需要自己做.

  

    关于多层 overlay:例如需要同时支持 overlay1 与 overlay2.需在overlay hal 的 overlay_control_device_t 中要添加 overlay1 与 overlay2 的结构.如: 

struct overlay_control_context_t {
    struct overlay_control_device_t device;
    /* our private state goes below here */
    struct overlay_t* overlay_video1;//overlay1
    struct overlay_t* overlay_video2;//overlay2
};

每个 overlay_t 代表一层 overlay, 每层 ovelay 有自己的 handle.可以使用自定义参数调用 overlay_control_device_t:: setParameter()来指明. Hal 层具体来实现，通过 Overlay object 来拿到 overlay1 与 overlay2 的 buffer 指针.

2、 使用Surface显示

     如果使用Surface，会调用函数registerPreviewBuffers()向Surface注册buffers。 

ISurface::BufferHeap buffers(w, h, w, h,PIXEL_FORMAT_YCbCr_420_SP,transform,0,mHardware->getPreviewHeap());
status_t ret = mSurface->registerBuffers(buffers);

其将mHardware的preview heap传递给了Surface。

关于Previewdata callback:

     上层Java 中 调用setPreviewCallback, 这个方法调用的是android_hardware_Camera_setHasPreviewCallback，最终实现落到 JNICameraContext::copyAndPost()身上。 

void JNICameraContext::copyAndPost(JNIEnv* env, const sp<IMemory>& dataPtr, int msgType)
{
    jbyteArray obj = NULL;
 
    // allocate Java byte array and copy data
    if (dataPtr != NULL) {
        ssize_t offset;
        size_t size;
        sp<IMemoryHeap> heap = dataPtr->getMemory(&offset, &size);
        LOGV("postData: off=%d, size=%d", offset, size);
        uint8_t *heapBase = (uint8_t*)heap->base();
 
        if (heapBase != NULL) {
            const jbyte* data = reinterpret_cast<const jbyte*>(heapBase + offset);
            obj = env->NewByteArray(size);
            if (obj == NULL) {
                LOGE("Couldn't allocate byte array for JPEG data");
                env->ExceptionClear();
            } else {
                env->SetByteArrayRegion(obj, 0, size, data);
            }
        } else {
            LOGE("image heap is NULL");
        }
    }
 
    // post image data to Java
    env->CallStaticVoidMethod(mCameraJClass, fields.post_event,
            mCameraJObjectWeak, msgType, 0, 0, obj);
    if (obj) {
        env->DeleteLocalRef(obj);
    }
}

其中 obj = env->NewByteArray(size); 每次都分配ByteArray .

    按frame 480×320 pixels计算 ，意味着  230kb per call ，然后花费大量的时间去释放这些资源。 为了优化preview大量数据的回调，有人提出引入：
 

static Mutex sPostDataLock; // A mutex that synchronizes calls to sCameraPreviewArrayGlobal
static jbyteArray sCameraPreviewArrayGlobal; // Buffer that is reused
static size_t sCameraPreviewArraySize=0; // Size of the buffer (or 0 if the buffer is not yet used)

为的是只申请一次空间，每帧重复使用ByteArray。 

void JNICameraContext::copyAndPost(JNIEnv* env, const sp<IMemory>& dataPtr, int msgType) {
    if (dataPtr != NULL) {
        ssize_t offset;
        size_t size;
        sp<IMemoryHeap> heap = dataPtr->getMemory(&offset, &size);
        LOGV("postData: off=%d, size=%d", offset, size);
        uint8_t *heapBase = (uint8_t*)heap->base();
 
        if (heapBase != NULL) {
            const jbyte* data = reinterpret_cast<const jbyte*>(heapBase + offset);
            //HACK
            if ((sCameraPreviewArraySize==0)
 || (sCameraPreviewArraySize!=size)) {
                if(sCameraPreviewArraySize!=0) env->DeleteGlobalRef(sCameraPreviewArrayGlobal);
                sCameraPreviewArraySize=size;
                jbyteArray mCameraPreviewArray = env->NewByteArray(size);
                sCameraPreviewArrayGlobal=(jbyteArray)env->NewGlobalRef(mCameraPreviewArray);
                env->DeleteLocalRef(mCameraPreviewArray);
            }
            if (sCameraPreviewArrayGlobal == NULL) {
                LOGE("Couldn't allocate byte array for JPEG data");
                env->ExceptionClear();
            } else {
                env->SetByteArrayRegion(sCameraPreviewArrayGlobal, 0, size, data);
            }
        } else {
            LOGE("image heap is NULL");
        }
    }
    // post image data to Java
    env->CallStaticVoidMethod(mCameraJClass, fields.post_event, mCameraJObjectWeak, msgType, 0, 0, sCameraPreviewArrayGlobal);
}


我又看了Android 2.3是如何处理的

让我感叹，长远性的策略思考，和实践中的优化完善多么重要。如果我们平时写程序，仅仅是为了实现某某功能，解决某某BUG，那么真的实属下等了…… 

void JNICameraContext::copyAndPost(JNIEnv* env, const sp<IMemory>& dataPtr, int msgType)   
{   
    jbyteArray obj = NULL;   
  
    // allocate Java byte array and copy data   
    if (dataPtr != NULL) {   
        ssize_t offset;   
        size_t size;   
        sp<IMemoryHeap> heap = dataPtr->getMemory(&offset, &size);   
        LOGV("postData: off=%d, size=%d", offset, size);   
        uint8_t *heapBase = (uint8_t*)heap->base();   
  
        if (heapBase != NULL) {   
            const jbyte* data = reinterpret_cast<const jbyte*>(heapBase + offset);   
  
            if (!mManualBufferMode) {   
                LOGV("Allocating callback buffer");   
                obj = env->NewByteArray(size);   
            } else {   
                // Vector access should be protected by lock in postData()   
                if(!mCallbackBuffers.isEmpty()) {   
                    LOGV("Using callback buffer from queue of length %d", mCallbackBuffers.size());   
                    jbyteArray globalBuffer = mCallbackBuffers.itemAt(0);   
                    mCallbackBuffers.removeAt(0);   
  
                    obj = (jbyteArray)env->NewLocalRef(globalBuffer);   
                    env->DeleteGlobalRef(globalBuffer);   
  
                    if (obj != NULL) {   
                        jsize bufferLength = env->GetArrayLength(obj);   
                        if ((int)bufferLength < (int)size) {   
                            LOGE("Manually set buffer was too small! Expected %d bytes, but got %d!",   
                                 size, bufferLength);   
                            env->DeleteLocalRef(obj);   
                            return;   
                        }   
                    }   
                }   
  
                if(mCallbackBuffers.isEmpty()) {   
                    LOGV("Out of buffers, clearing callback!");   
                    mCamera->setPreviewCallbackFlags(FRAME_CALLBACK_FLAG_NOOP);   
                    mManualCameraCallbackSet = false;   
  
                    if (obj == NULL) {   
                        return;   
                    }   
                }   
            }   
  
            if (obj == NULL) {   
                LOGE("Couldn't allocate byte array for JPEG data");   
                env->ExceptionClear();   
            } else {   
                env->SetByteArrayRegion(obj, 0, size, data);   
            }   
        } else {   
            LOGE("image heap is NULL");   
        }   
    }   
  
    // post image data to Java   
    env->CallStaticVoidMethod(mCameraJClass, fields.post_event,   
            mCameraJObjectWeak, msgType, 0, 0, obj);   
    if (obj) {   
        env->DeleteLocalRef(obj);   
    }   
}
标签
android
camera
preview
易学教程内所有资源均来自网络或用户发布的内容，如有违反法律规定的内容欢迎反馈！
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!