Commit 858475a0 authored by John Koleszar's avatar John Koleszar
Browse files

Fix loopfilter of leftmost 4x4 edges in SB

For cases where there's no transform set in bit 0 (the left edge of
the SB) but bit 0 of mask_4x4_int is set (the edge 4 pixels from the
left edge needs filtering), it was incorrectly being skipped before.
This situation only happens on the leftmost edge of the image, as
the edge at column 0 is intentionally skipped since there aren't
pixels to the left to read.

Change-Id: Ib2fbbcb40166e90af31b1a0e13b85b68c226cbd3
parent 0c8e13d2
This diff is collapsed.
This diff is collapsed.
......@@ -60,93 +60,74 @@ const char *kVP8TestVectors[] = {
#endif
#if CONFIG_VP9_DECODER
const char *kVP9TestVectors[] = {
"vp90-00-akiyo-200.webm", "vp90-00-akiyo-300.webm",
"vp90-00-akiyo-50.webm", "vp90-00-bowing-150.webm",
"vp90-00-bowing-25.webm", "vp90-00-bowing-400.webm",
"vp90-00-bus-100.webm", "vp90-00-bus-2000.webm",
"vp90-00-bus-300.webm", "vp90-00-bus-4400.webm",
"vp90-00-bus-800.webm", "vp90-00-cheer-1600.webm",
"vp90-00-cheer-2800.webm", "vp90-00-cheer-400.webm",
"vp90-00-cheer-600.webm", "vp90-00-city-1200.webm",
"vp90-00-city-2000.webm", "vp90-00-city-300.webm",
"vp90-00-city-600.webm", "vp90-00-coastguard-1200.webm",
"vp90-00-coastguard-200.webm", "vp90-00-coastguard-3600.webm",
"vp90-00-coastguard-5200.webm", "vp90-00-container-1000.webm",
"vp90-00-container-200.webm", "vp90-00-container-50.webm",
"vp90-00-deadline-1000.webm", "vp90-00-deadline-200.webm",
"vp90-00-deadline-50.webm", "vp90-00-flower-100.webm",
"vp90-00-flower-2000.webm", "vp90-00-flower-300.webm",
"vp90-00-flower-4400.webm", "vp90-00-flower-800.webm",
"vp90-00-football-1600.webm", "vp90-00-football-2800.webm",
"vp90-00-football-400.webm", "vp90-00-football-600.webm",
"vp90-00-foreman-1200.webm", "vp90-00-foreman-2000.webm",
"vp90-00-foreman-300.webm", "vp90-00-foreman-600.webm",
"vp90-00-hallmonitor-1200.webm", "vp90-00-hallmonitor-2000.webm",
"vp90-00-hallmonitor-300.webm", "vp90-00-hallmonitor-600.webm",
"vp90-00-harbour-1200.webm", "vp90-00-harbour-200.webm",
"vp90-00-harbour-3600.webm", "vp90-00-harbour-5200.webm",
"vp90-00-highway-100.webm", "vp90-00-highway-1600.webm",
"vp90-00-highway-2800.webm", "vp90-00-highway-50.webm",
"vp90-00-husky-100.webm", "vp90-00-husky-2000.webm",
"vp90-00-husky-300.webm", "vp90-00-husky-4400.webm",
"vp90-00-husky-800.webm", "vp90-00-ice-150.webm",
"vp90-00-ice-400.webm", "vp90-00-ice-800.webm",
"vp90-00-mobile-1600.webm", "vp90-00-mobile-2800.webm",
"vp90-00-mobile-400.webm", "vp90-00-mobile-600.webm",
"vp90-00-motherdaughter-100.webm", "vp90-00-motherdaughter-300.webm",
"vp90-00-motherdaughter-600.webm", "vp90-00-news-100.webm",
"vp90-00-news-300.webm", "vp90-00-news-600.webm",
"vp90-00-pamphlet-150.webm", "vp90-00-pamphlet-25.webm",
"vp90-00-pamphlet-400.webm", "vp90-00-paris-1000.webm",
"vp90-00-paris-200.webm", "vp90-00-paris-50.webm",
"vp90-00-signirene-1000.webm", "vp90-00-signirene-200.webm",
"vp90-00-signirene-50.webm", "vp90-00-silent-1000.webm",
"vp90-00-silent-200.webm", "vp90-00-silent-50.webm",
"vp90-00-soccer-100.webm", "vp90-00-soccer-2000.webm",
"vp90-00-soccer-300.webm", "vp90-00-soccer-4400.webm",
"vp90-00-soccer-800.webm", "vp90-00-stefan-1600.webm",
"vp90-00-stefan-2800.webm", "vp90-00-stefan-400.webm",
"vp90-00-stefan-600.webm", "vp90-00-students-100.webm",
"vp90-00-students-300.webm", "vp90-00-students-600.webm",
"vp90-00-tempete-1200.webm", "vp90-00-tempete-200.webm",
"vp90-00-tempete-3600.webm", "vp90-00-tempete-5200.webm",
"vp90-00-tennis-100.webm", "vp90-00-tennis-2000.webm",
"vp90-00-tennis-300.webm", "vp90-00-tennis-4400.webm",
"vp90-00-tennis-800.webm", "vp90-00-waterfall-150.webm",
"vp90-00-waterfall-200.webm", "vp90-00-waterfall-400.webm",
"vp90-00-waterfall-800.webm",
"vp90-01-size-10x10.webm", "vp90-01-size-10x16.webm",
"vp90-01-size-10x18.webm", "vp90-01-size-10x32.webm",
"vp90-01-size-10x34.webm", "vp90-01-size-10x64.webm",
"vp90-01-size-10x66.webm", "vp90-01-size-10x8.webm",
"vp90-01-size-16x10.webm", "vp90-01-size-16x16.webm",
"vp90-01-size-16x18.webm", "vp90-01-size-16x32.webm",
"vp90-01-size-16x34.webm", "vp90-01-size-16x64.webm",
"vp90-01-size-16x66.webm", "vp90-01-size-16x8.webm",
"vp90-01-size-18x10.webm", "vp90-01-size-18x16.webm",
"vp90-01-size-18x18.webm", "vp90-01-size-18x32.webm",
"vp90-01-size-18x34.webm", "vp90-01-size-18x64.webm",
"vp90-01-size-18x66.webm", "vp90-01-size-18x8.webm",
"vp90-01-size-32x10.webm", "vp90-01-size-32x16.webm",
"vp90-01-size-32x18.webm", "vp90-01-size-32x32.webm",
"vp90-01-size-32x34.webm", "vp90-01-size-32x64.webm",
"vp90-01-size-32x66.webm", "vp90-01-size-32x8.webm",
"vp90-01-size-34x10.webm", "vp90-01-size-34x16.webm",
"vp90-01-size-34x18.webm", "vp90-01-size-34x32.webm",
"vp90-01-size-34x34.webm", "vp90-01-size-34x64.webm",
"vp90-01-size-34x66.webm", "vp90-01-size-34x8.webm",
"vp90-01-size-64x10.webm", "vp90-01-size-64x16.webm",
"vp90-01-size-64x18.webm", "vp90-01-size-64x32.webm",
"vp90-01-size-64x34.webm", "vp90-01-size-64x64.webm",
"vp90-01-size-64x66.webm", "vp90-01-size-64x8.webm",
"vp90-01-size-66x10.webm", "vp90-01-size-66x16.webm",
"vp90-01-size-66x18.webm", "vp90-01-size-66x32.webm",
"vp90-01-size-66x34.webm", "vp90-01-size-66x64.webm",
"vp90-01-size-66x66.webm", "vp90-01-size-66x8.webm",
"vp90-01-size-8x10.webm", "vp90-01-size-8x16.webm",
"vp90-01-size-8x18.webm", "vp90-01-size-8x32.webm",
"vp90-01-size-8x34.webm", "vp90-01-size-8x64.webm",
"vp90-01-size-8x66.webm", "vp90-01-size-8x8.webm",
"vp90-00-quantizer-00.webm", "vp90-00-quantizer-01.webm",
"vp90-00-quantizer-02.webm", "vp90-00-quantizer-03.webm",
"vp90-00-quantizer-04.webm", "vp90-00-quantizer-05.webm",
"vp90-00-quantizer-06.webm", "vp90-00-quantizer-07.webm",
"vp90-00-quantizer-08.webm", "vp90-00-quantizer-09.webm",
"vp90-00-quantizer-10.webm", "vp90-00-quantizer-11.webm",
"vp90-00-quantizer-12.webm", "vp90-00-quantizer-13.webm",
"vp90-00-quantizer-14.webm", "vp90-00-quantizer-15.webm",
"vp90-00-quantizer-16.webm", "vp90-00-quantizer-17.webm",
"vp90-00-quantizer-18.webm", "vp90-00-quantizer-19.webm",
"vp90-00-quantizer-20.webm", "vp90-00-quantizer-21.webm",
"vp90-00-quantizer-22.webm", "vp90-00-quantizer-23.webm",
"vp90-00-quantizer-24.webm", "vp90-00-quantizer-25.webm",
"vp90-00-quantizer-26.webm", "vp90-00-quantizer-27.webm",
"vp90-00-quantizer-28.webm", "vp90-00-quantizer-29.webm",
"vp90-00-quantizer-30.webm", "vp90-00-quantizer-31.webm",
"vp90-00-quantizer-32.webm", "vp90-00-quantizer-33.webm",
"vp90-00-quantizer-34.webm", "vp90-00-quantizer-35.webm",
"vp90-00-quantizer-36.webm", "vp90-00-quantizer-37.webm",
"vp90-00-quantizer-38.webm", "vp90-00-quantizer-39.webm",
"vp90-00-quantizer-40.webm", "vp90-00-quantizer-41.webm",
"vp90-00-quantizer-42.webm", "vp90-00-quantizer-43.webm",
"vp90-00-quantizer-44.webm", "vp90-00-quantizer-45.webm",
"vp90-00-quantizer-46.webm", "vp90-00-quantizer-47.webm",
"vp90-00-quantizer-48.webm", "vp90-00-quantizer-49.webm",
"vp90-00-quantizer-50.webm", "vp90-00-quantizer-51.webm",
"vp90-00-quantizer-52.webm", "vp90-00-quantizer-53.webm",
"vp90-00-quantizer-54.webm", "vp90-00-quantizer-55.webm",
"vp90-00-quantizer-56.webm", "vp90-00-quantizer-57.webm",
"vp90-00-quantizer-58.webm", "vp90-00-quantizer-59.webm",
"vp90-00-quantizer-60.webm", "vp90-00-quantizer-61.webm",
"vp90-00-quantizer-62.webm", "vp90-00-quantizer-63.webm",
"vp90-01-sharpness-1.webm", "vp90-01-sharpness-2.webm",
"vp90-01-sharpness-3.webm", "vp90-01-sharpness-4.webm",
"vp90-01-sharpness-5.webm", "vp90-01-sharpness-6.webm",
"vp90-01-sharpness-7.webm", "vp90-02-size-08x08.webm",
"vp90-02-size-08x10.webm", "vp90-02-size-08x16.webm",
"vp90-02-size-08x18.webm", "vp90-02-size-08x32.webm",
"vp90-02-size-08x34.webm", "vp90-02-size-08x64.webm",
"vp90-02-size-08x66.webm", "vp90-02-size-10x08.webm",
"vp90-02-size-10x10.webm", "vp90-02-size-10x16.webm",
"vp90-02-size-10x18.webm", "vp90-02-size-10x32.webm",
"vp90-02-size-10x34.webm", "vp90-02-size-10x64.webm",
"vp90-02-size-10x66.webm", "vp90-02-size-16x08.webm",
"vp90-02-size-16x10.webm", "vp90-02-size-16x16.webm",
"vp90-02-size-16x18.webm", "vp90-02-size-16x32.webm",
"vp90-02-size-16x34.webm", "vp90-02-size-16x64.webm",
"vp90-02-size-16x66.webm", "vp90-02-size-18x08.webm",
"vp90-02-size-18x10.webm", "vp90-02-size-18x16.webm",
"vp90-02-size-18x18.webm", "vp90-02-size-18x32.webm",
"vp90-02-size-18x34.webm", "vp90-02-size-18x64.webm",
"vp90-02-size-18x66.webm", "vp90-02-size-32x08.webm",
"vp90-02-size-32x10.webm", "vp90-02-size-32x16.webm",
"vp90-02-size-32x18.webm", "vp90-02-size-32x32.webm",
"vp90-02-size-32x34.webm", "vp90-02-size-32x64.webm",
"vp90-02-size-32x66.webm", "vp90-02-size-34x08.webm",
"vp90-02-size-34x10.webm", "vp90-02-size-34x16.webm",
"vp90-02-size-34x18.webm", "vp90-02-size-34x32.webm",
"vp90-02-size-34x34.webm", "vp90-02-size-34x64.webm",
"vp90-02-size-34x66.webm", "vp90-02-size-64x08.webm",
"vp90-02-size-64x10.webm", "vp90-02-size-64x16.webm",
"vp90-02-size-64x18.webm", "vp90-02-size-64x32.webm",
"vp90-02-size-64x34.webm", "vp90-02-size-64x64.webm",
"vp90-02-size-64x66.webm", "vp90-02-size-66x08.webm",
"vp90-02-size-66x10.webm", "vp90-02-size-66x16.webm",
"vp90-02-size-66x18.webm", "vp90-02-size-66x32.webm",
"vp90-02-size-66x34.webm", "vp90-02-size-66x64.webm",
"vp90-02-size-66x66.webm",
};
#endif
......
......@@ -201,11 +201,10 @@ static void filter_selectively_vert(uint8_t *s, int pitch,
} else {
assert(0);
}
if (mask_4x4_int & 1)
vp9_loop_filter_vertical_edge(s + 4, pitch, lfi->mblim, lfi->lim,
lfi->hev_thr, 1);
}
if (mask_4x4_int & 1)
vp9_loop_filter_vertical_edge(s + 4, pitch, lfi->mblim, lfi->lim,
lfi->hev_thr, 1);
s += 8;
lfi++;
mask_16x16 >>= 1;
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment