ちょっと探したらffmpegの古い情報↓みたいのがあった
VAAPI
https://trac.ffmpeg.org/wiki/Hardware/VAAPI

AMF(ただしAMFはLinuxでまだ使えない?時の古い情報?)
https://trac.ffmpeg.org/wiki/HWAccelIntro

でもdockerだったらDRIデバイスをパススルーでアタッチ?とかしなきゃいけないんじゃないのかな...
可能なのかもわからないけど...
個人の録画サーバでdocker使う意味ってなんなんだろ... appImageとかでもいいような