Android MediaCodec硬件解码视频播放
迪丽瓦拉
2024-02-03 17:33:11
0

1.MediaCodec 是什么

MediaCodec类可以访问底层媒体编解码器框架(StageFright 或 OpenMAX),即编解码组件。是Android 的低层多媒体基础设施的一部分(通常与MediaExtractor、MediaSync、MediaMuxer、Image、Surface和AudioTrack一起使用),它本身并不具备Codec能力,通过调动底层编解码组件获得了Codec的能力。

2.创建MediaCodec的方式

2.1按照格式创建
  • createDecoderByType(String type):创建解码器
  • createEncoderByType(String type):创建编码器

type是数据解析阶段的mimeType,如"video/avc"

2.2按照名字创建

createByCodecName(String name)

OMX.google.h264.decoder: 软解码

OMX.MTK.VIDEO.DECODER>AVC:硬解码

3.MediaCode 硬件解码并进行播放实例

    private String mFilePath="/sdcard/DCIM/189017886849403.mp4";private DecodeThread mDecodeThread;@Overrideprotected void onCreate(Bundle savedInstanceState) {super.onCreate(savedInstanceState);
//        setContentView(R.layout.activity_media_codec_decode);SurfaceView surfaceView=new SurfaceView(this);/*不自己维护缓冲区,等待屏幕的渲染引擎 将内容推送到用户前面*/surfaceView.getHolder().setType(SurfaceHolder.SURFACE_TYPE_PUSH_BUFFERS);surfaceView.getHolder().addCallback(this);setContentView(surfaceView);}
  • 定义播放的视频路径
  • 定义解码的线程
  • 创建SurfaceView,并设置Callback
@Override
public void surfaceCreated(@NonNull SurfaceHolder holder) {}@Override
public void surfaceChanged(@NonNull SurfaceHolder holder, int format, int width, int height) {if (mDecodeThread ==null){mDecodeThread =new DecodeThread(holder.getSurface());mDecodeThread.start();}}@Override
public void surfaceDestroyed(@NonNull SurfaceHolder holder) {if (mDecodeThread !=null){mDecodeThread.interrupt();   //停止线程的正确姿势}
}
  • 在SurfaceView的回调函数surfaceChanged 开启线程
  • 在SurfaceView的回调函数surfaceDestroyed 打断线程
 private class DecodeThread extends Thread{private MediaExtractor mMediaExtractor;private MediaCodec mMediaCodec;private Surface mSurface;/*通过构造方法将surface传递进来*/public DecodeThread(Surface surface){mSurface = surface;}@Overridepublic void run() {super.run();mMediaExtractor = new MediaExtractor();try {mMediaExtractor.setDataSource(mFilePath);} catch (IOException e) {e.printStackTrace();}int trackCount = mMediaExtractor.getTrackCount();//从媒体提取器中拿到了 MIME 以及MediaFormat   通过MIME 创建的硬件解码器   通过MediaFormat配置的硬件解码器for (int i = 0; i < trackCount; i++) {MediaFormat trackFormat = mMediaExtractor.getTrackFormat(i);Log.d("lpf","trackFormat is "+trackFormat);String mime=trackFormat.getString(MediaFormat.KEY_MIME);Log.d("lpf","mime is "+mime);if (mime.startsWith("video/")){mMediaExtractor.selectTrack(i);try {mMediaCodec=MediaCodec.createDecoderByType(mime);} catch (IOException e) {e.printStackTrace();}//这样配置之后,解码之后的数据就会 直接显示在mSurface 上边  这里是核心点mMediaCodec.configure(trackFormat,mSurface,null,0);break;}}if (mMediaCodec == null){return;}//调用Start 如果没有异常信息,表示成功构建组件mMediaCodec.start();ByteBuffer[] inputBuffers = mMediaCodec.getInputBuffers();ByteBuffer[] outputBuffers = mMediaCodec.getOutputBuffers();//每个Buffer的元数据包括具体的范围以及偏移大小,以及数据中心相关解码的bufferMediaCodec.BufferInfo info=new MediaCodec.BufferInfo();boolean isEOF=false;long startMs=System.currentTimeMillis();while (!Thread.interrupted()){//只要线程不中断if (!isEOF){//返回有效的buffer 索引,如果没有相关的Buffer可用,就返回-1//传入的timeoutUs为0表示立即返回
//                    如果数据的buffer可用,将无限期等待timeUs的单位是纳秒int index =mMediaCodec.dequeueInputBuffer(10000);if (index >= 0){ByteBuffer byteBuffer=inputBuffers[index];Log.d("lpf","bytebuffer is "+byteBuffer);int sampleSize=mMediaExtractor.readSampleData(byteBuffer,0);Log.d("lpf","sampleSize is "+sampleSize);if (sampleSize < 0){Log.d("lpf","inputBuffer is BUFFER_FLAG_END_OF_STREAMING");mMediaCodec.queueInputBuffer(index,0,0,0,MediaCodec.BUFFER_FLAG_END_OF_STREAM);isEOF=true;}else{mMediaCodec.queueInputBuffer(index,0,sampleSize,mMediaExtractor.getSampleTime(),0);mMediaExtractor.advance();  //下一帧数据}}}int outIndex=mMediaCodec.dequeueOutputBuffer(info,100000);switch (outIndex){case MediaCodec.INFO_OUTPUT_BUFFERS_CHANGED://当buffer变化时,必须重新指向新的bufferoutputBuffers=mMediaCodec.getOutputBuffers();break;case MediaCodec.INFO_OUTPUT_FORMAT_CHANGED://当Buffer的封装格式发生变化的时候,需重新指向新的buffer格式Log.d("lpf","output  buffer changed");break;case MediaCodec.INFO_TRY_AGAIN_LATER://dequeueOutputBuffer 超时的时候会到这个caseLog.d("lpf","dequeueOutputBuffer timeout");break;default:ByteBuffer buffer=outputBuffers[outIndex];//由于配置的时候 将Surface 传进去了  所以解码的时候 将数据直接交给了Surface进行显示了//使用简单的时钟的方式保持视频的fps(每秒显示的帧数),不然视频会播放的比较快Log.d("lpf","解码之后的 buffer数据="+buffer);while (info.presentationTimeUs/1000>System.currentTimeMillis()-startMs){try {Thread.sleep(10);} catch (InterruptedException e) {e.printStackTrace();}}mMediaCodec.releaseOutputBuffer(outIndex,true);break;}if ((info.flags & MediaCodec.BUFFER_FLAG_END_OF_STREAM) != 0){Log.d("lpf","outputBuffer BUFFER_FLAG_END_OF_STREAM");break;}}mMediaCodec.stop();mMediaCodec.release();// 释放组件mMediaExtractor.release();}}
  • 定义媒体提取器:MediaExtractor,通过媒体提取器,得到视频的MIME以及MediaFormat数据
  • 通过媒体提取器拿到的MIME 类型来创建硬件解码器MediaCodec,再通过上一步拿到的额MediaFormat来配置硬件解码器。
  • 配置完成后,调用硬件解码器的start函数,解码器就开始工作了
  • 从解码器上拿到输入和输出Buffer数组,用于解码使用
  • dequeueInputBuffer通过这个函数得到待解码的数据index,然后通过index拿到ByteBuffer
  • 然后mMediaExtractor调用readSampleData来读取数据,将数据得到ByteBuffer中去
  • 接下来将数据丢入编码队列,这个队列在MediaCodec中
  • 然后就可以从硬件解码器中获取数据了,由于配置的时候将Surface当做参数配置给了MediaCodec,所以数据会直接通过SurfaceView进行显示。

4.MediaCodec 异步解码进行播放

public void startSyncPlay(Surface surface){mMediaExtractor = new MediaExtractor();try {mMediaExtractor.setDataSource(mFilePath);} catch (IOException e) {e.printStackTrace();}int trackCount = mMediaExtractor.getTrackCount();//从媒体提取器中拿到了 MIME 以及MediaFormat   通过MIME 创建的硬件解码器   通过MediaFormat配置的硬件解码器for (int i = 0; i < trackCount; i++) {MediaFormat trackFormat = mMediaExtractor.getTrackFormat(i);Log.d("lpf","trackFormat is "+trackFormat);String mime=trackFormat.getString(MediaFormat.KEY_MIME);Log.d("lpf","mime is "+mime);if (mime.startsWith("video/")) {mMediaExtractor.selectTrack(i);try {mMediaCodec=MediaCodec.createDecoderByType(mime);if (mMediaCodec == null){return;}//这样配置之后,解码之后的数据就会 直接显示在mSurface 上边  这里是核心点mMediaCodec.configure(trackFormat,surface,null,0);mMediaCodec.setCallback(new MediaCodec.Callback() {@Overridepublic void onInputBufferAvailable(@NonNull MediaCodec codec, int index) {ByteBuffer inputBuffer = codec.getInputBuffer(index);int sampleSize=mMediaExtractor.readSampleData(inputBuffer,0);if (sampleSize>0) {codec.queueInputBuffer(index,0,sampleSize,mMediaExtractor.getSampleTime(),0);mMediaExtractor.advance();  //下一帧数据}else {codec.queueInputBuffer(index,0,0,0,MediaCodec.BUFFER_FLAG_END_OF_STREAM);}}@Overridepublic void onOutputBufferAvailable(@NonNull MediaCodec codec, int index, @NonNull MediaCodec.BufferInfo info) {if ((info.flags & MediaCodec.BUFFER_FLAG_END_OF_STREAM) != 0){Log.d("lpf","outputBuffer BUFFER_FLAG_END_OF_STREAM");codec.stop();codec.release();// 释放组件mMediaExtractor.release();return;}if (index>0){if (startMs==-1){startMs=System.currentTimeMillis();}sleepRender(info,startMs);}codec.releaseOutputBuffer(index,true);  //释放缓冲区,并交给Surface 进行播放}@Overridepublic void onError(@NonNull MediaCodec codec, @NonNull MediaCodec.CodecException e) {}@Overridepublic void onOutputFormatChanged(@NonNull MediaCodec codec, @NonNull MediaFormat format) {}});//调用Start 如果没有异常信息,表示成功构建组件mMediaCodec.start();} catch (IOException e) {e.printStackTrace();}}}}

异步的方式进行解码操作,比较简单,推荐使用这个方式

  • onInputBufferAvailable,将需要编码的数据从这个回调方法中添加到解码队列
  • onOutputBufferAvailable 在这个回调方法中就能拿到编码好的数据,可以说非常便利,思路也比同步的时候更加简洁。

相关内容