Skip to content

GitLab

A
aom-rav1e
Commit dc024c46 authored by Debargha Mukherjee's avatar Debargha Mukherjee
Browse files
Options

Adjust dq_type 1/2 parameters 

Change-Id: I5e205150c62f07049187ddd61b670ad5197c1645
parent ed25a610
Hide whitespace changes
Inline Side-by-side
Showing with 31 additions and 31 deletions
av1/common/quant_common.c
View file @ dc024c46
......@@ -40,85 +40,85 @@ static const qprofile_type nuq[QUANT_PROFILES][2] = {
// dq_type = 1
{
// Y/intra, dq_type 1, low quality
{ 66, 12 }, // dc
{ 66, 12 }, // ac
{ 64, 4 }, // dc
{ 64, 6 }, // ac
},
{
// Y/intra, dq_type 1, high quality
{ 66, 6 }, // dc
{ 66, 6 }, // ac
{ 64, 2 }, // dc
{ 64, 3 }, // ac
},
{
// UV/intra, dq_type 1, low quality
{ 66, 12 }, // dc
{ 66, 12 }, // ac
{ 64, 4 }, // dc
{ 64, 6 }, // ac
},
{
// UV/intra, dq_type 1, high quality
{ 66, 6 }, // dc
{ 66, 6 }, // ac
{ 64, 2 }, // dc
{ 64, 3 }, // ac
},
{
// Y/inter, dq_type 1, low quality
{ 66, 12 }, // dc
{ 66, 12 }, // ac
{ 64, 4 }, // dc
{ 64, 6 }, // ac
},
{
// Y/inter, dq_type 1, high quality
{ 66, 6 }, // dc
{ 66, 6 }, // ac
{ 64, 3 }, // dc
{ 64, 4 }, // ac
},
{
// UV/inter, dq_type 1, low quality
{ 66, 12 }, // dc
{ 66, 12 }, // ac
{ 64, 4 }, // dc
{ 64, 6 }, // ac
},
{
// UV/inter, dq_type 1, high quality
{ 66, 6 }, // dc
{ 66, 6 }, // ac
{ 64, 3 }, // dc
{ 64, 4 }, // ac
},
// dq_type = 2
{
// Y/intra, dq_type 2, low quality
{ 72, 12 }, // dc
{ 72, 12 }, // ac
{ 72, 14 }, // ac
},
{
// Y/intra, dq_type 2, high quality
{ 72, 6 }, // dc
{ 72, 6 }, // ac
{ 72, 8 }, // ac
},
{
// UV/intra, dq_type 2, low quality
{ 72, 12 }, // dc
{ 72, 12 }, // ac
{ 72, 14 }, // dc
{ 72, 16 }, // ac
},
{
// UV/intra, dq_type 2, high quality
{ 72, 6 }, // dc
{ 72, 6 }, // ac
{ 72, 8 }, // dc
{ 72, 10 }, // ac
},
{
// Y/inter, dq_type 2, low quality
{ 72, 12 }, // dc
{ 72, 12 }, // ac
{ 72, 16 }, // dc
{ 72, 18 }, // ac
},
{
// Y/inter, dq_type 2, high quality
{ 72, 6 }, // dc
{ 72, 6 }, // ac
{ 72, 10 }, // dc
{ 72, 12 }, // ac
},
{
// UV/inter, dq_type 2, low quality
{ 72, 12 }, // dc
{ 72, 12 }, // ac
{ 72, 18 }, // dc
{ 72, 20 }, // ac
},
{
// UV/inter, dq_type 2, high quality
{ 72, 6 }, // dc
{ 72, 6 }, // ac
{ 72, 12 }, // dc
{ 72, 14 }, // ac
},
// dq_type = 3
......
av1/encoder/encodeframe.c
View file @ dc024c46
......@@ -4103,7 +4103,7 @@ void av1_encode_frame(AV1_COMP *cpi) {
#if CONFIG_NEW_QUANT
switch (cpi->sf.optimize_coefficients) {
case NO_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET3; break;
case FINAL_PASS_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET2; break;
case FINAL_PASS_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET3; break;
case FULL_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET1; break;
}
#endif // CONFIG_NEW_QUANT
......
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment