x264の設定に関する情報を掘り起こしたりまとめたりする

いちいち同じサイトを探すために検索するのも面倒なので記述を掘り起こします。
言うて余程何かをこだわらない限り今だとx265なり各種次世代のエンコーダがあるからどこまで今掘り起こす価値があるかというと微妙ですが。

オプションの適用順

1. 各オプションのデフォルト値指定
2. --preset 設定適用
3. --tune 設定適用
4. ユーザー設定値適用
5. マルチパスの1パス目かつ--slow-firstpass未指定 (ターボモード) 時、オプションを--no-8x8dct --me dia --partitions none --ref 1 --trellis 0 --first-pskip (subme2以上時はさらに--subme 2) に変更
6. --profile 設定適用
7. --level 設定適用

プリセット --preset

デフォルト：medium

ultrafast

--no-8x8dct --aq-mode 0 --b-adapt 0 --bframes --no-cabac --no-deblock --no-mbtree --me dia --no-mixed-refs --partitions none --rc-lookahead 0 --ref 1 --scenecut 0 --subme 0 --trellis 0 --no-weightb --weightp 0

superfast

--no-mbtree --me dia --no-mixed-refs --partitions i8x8,i4x4 --rc-lookahead 0 --ref 1 --subme 1 --trellis 0 --weightp 1

verydast

--no-mixed-refs --rc-lookahead 10 --ref 1 --subme 2 --trellis 0 --weightp 1

faster

--no-mixed-refs --rc-lookahead 20 --ref 2 --subme 4 --weightp 1

fast

--rc-lookahead 30 --ref 2 --subme 6 --weightp 1

medium

(変更なし)

slow

--direct auto --rc-lookahead 50 --ref 5 --subme 8 --trellis 2

slower

--b-adapt 2 --direct auto --me unh --merange 24 --partitions all --rc-lookahead 60 --ref 8 --subme 9 --trellis 2

veryslow

--b-adapt 2 --bframes 8 --direct auto --me umh --merange 24 --partitions all --ref 16 --subme 10 --trellis 2 --rc-lookahead 60

placebo

--bframes 16 --b-adapt 2 --direct auto --no-fast-pskip --me tesa --merange 24 --partitions all --rc-lookahead 60 --ref 16 --subme 11 --trellis 2、マルチパス時はさらに--slow-firstpass

チューニング --tune

デフォルト：none

film (実写)

deblock -1:-1 psy-rd <unset>:0.15

animation (アニメ)

ref 設定値2倍 (最小値1、最大値16 ⇔ λn.min(1,max(16,2n)))、deblock 1:1 psy-rd 0.4:<unset> aq-strength 0.6、bframesの設定値+2 (最大16)

grain (グレインのある映像)

--deblock -2:-2 --psy-rd <unset>:0.25 --no-dct-decimate --ipratio 1.1 --pbratio 1.1 --aq-strength 0.5 --deadzone-intra 6 --deadzone-inter 6 --qcomp 0.8

stillimage (静止画)

--deblock -3:-3 --psy-rd 2.0:0.7 --aq-strength 1.2

psnr (PSNR最大化)

--aq-mode 0 --no-psy

ssim (SSIM最大化)

--aq-mode 2 --no-psy

touhou (東方)

--aq-strength 1.3 --deblock -1:-1 --psy-rd <unset&>:0.2、--partition p8x8が設定されている場合p4x4も追加、ref 設定値2倍 (最小値1、最大値16)

fastdecode (再生負荷軽減)

--no-deblock --no-cabac --no-weightb --weightp 0

zerolatency (レイテンシ最小化)

--bframes 0 --force-cfr --no-mbtree --sync-lookahead 0 --sliced-threads --rc-lookahead 0

プロファイル --profile

デフォルト：high

--crf 0または--qp 0 (ロスレス) のとき、設定無視。また、highプロファイル必須の設定がいくつかある。

baseline

--no-8x8dct --bframes 0 --cqm flat --weightp 0

main

--no-8x8dct --cqm flat

high

変更なし

レベル --level

レベルはデコード速度やフレームサイズの上限、動画ビットレートの上限を制限する。--levelを指定するとその制限に収まるようにパラメータの調整がなされる。

参照：Advanced Video Coding#Levels (Wikipedia (en))

自己流設定一覧

ネットに転がってる資料を見つつ、フィーリングで調整しているため参考以上にはなりません。なんなら動画ごとに設定を都度いじっているため参考にすらならないかもしれません。

※YouTube用動画には下記に加えて--colormatrix bt709 --colorprim bt709 --transfer bt709を必ず指定します。

中間素材用ロスレス出力

--preset faster --crf 0 --aq-strength 0.2 --psy-rd 0:0 --no-psy --keyint -1 --no-cabac --b-adapt 2 --no-deblock --direct auto --ref 3 --no-dct-decimate

1080p動画基本設定

--preset slow --crf 13 --qcomp 0.85 --aq-strength 0.75 --psy-rd 0.4:0 --keyint -1 --bframes 2 --ref 3

デレステのMV用にプリセット登録していたもの

細かい設定経緯を完全に忘れたから何も説明できない
--preset slower --tune grain --crf 0 --qpstep 8 --aq-mode 2 --aq-strength 1.25 --scenecut 60 --keyint -1 --merange 32 --ref 10

うらめしヤッホーの切り抜きの設定 (niconico用)

--preset slow --crf 13 --qcomp 0.7 --aq-mode 3 --psy-rd 0.3:0 --deblock -3:-1 --me umh --merange 32 --colormatrix bt709 --colorprim bt709 --transfer bt709

沼の深い設定

視覚心理適応QP

マクロブロック単位でQPを補正する機能らしいです。細かい仕様についてはこのブログ記事 (archive) などに書かれています。

--aq-mode

デフォルト：1

不使用 (0)・VAQ (1)・AutoVAQ (2)・MixVAQ (3) の4種類のモードがある。mb-treeレート制御がかかっていて--aq-mode 0が設定されていた場合、強制的に--aq-mode 1に修正される。

VAQとAutoVAQの違いについて、nicowikiには「ビットレート配分をさらにメリハリをつけたものにする」、MeGUIマニュアル (wikibooks) には「Allow AQ to redistribute bits within each frame.」(VAQ)、「Allow AQ to redistribute bits across the whole video.」(AutoVAQ) とありました。どうやらフレーム単位で計算するか時間方向の計算を加えるかの差のようなんですが、計算式が違いすぎてちょっとよくわかりませんでした。

MixVAQモードはAutoVAQに加えて、暗いシーンに対する補正項が加えられています。逆に言えば暗いシーンがそんなにない楽譜動画とか切り抜き動画とか作る時はあんまり気にしなくていいっぽい……のかな……？

• --preset ultrafast、または--tune psnr で 0 指定
• --tune ssim で2指定

--aq-strength

デフォルト：1.00

名前の通り、AQを動作させる強さのパラメータです。もっと言うと係数にそのまま比例しています (値に1.0397倍したものが係数)。強度0で無効と同等になります。

以下nicowikiからの転載：

0でモード無効と同様の結果になる。
アニメ等ディテールに乏しく低周波成分が多いものには0～0.6くらいの弱めの数値を選ぶのが一般的。
FPS等のゲーム動画で壁や地面に発生するブロックノイズに悩まされてる人は、
AutoVAQでここを1.0～1.5くらいにしてみるのもいいかもしれない。

• --tune grain で0.5指定
• --tune stillimage で1.2指定
• --tune touhou で1.3指定

視覚心理最適化 Psy-RD

--psy-rd

デフォルト：1.0:0.0

subme6以上必須。視覚心理的に重要でない、劣化を感じにくい場所のqp値を下げてデータの節約を行う。なんもわからん。

なんもわからんので設定値から雰囲気でいつも設定している。

• --tune grain のとき --psy-rd <unset>:0.25 指定
• --tune stillimage のとき --psy-rd 2.0:0.7 指定
• --tune psnr および --tune ssim のとき --no-psy 指定
• --tune touhou のとき --psy-rd <unset>:0.2 指定

実写ならRDO値が1前後あっても大丈夫っぽいですが、アニメーション系とは相性が悪い設定らしいです。