Skip to content
GitLab
Menu
Projects
Groups
Snippets
Help
Help
Support
Community forum
Keyboard shortcuts
?
Submit feedback
Contribute to GitLab
Sign in / Register
Toggle navigation
Menu
Open sidebar
Xiph.Org
aom-rav1e
Commits
6f938489
Commit
6f938489
authored
Feb 10, 2017
by
Angie Chiang
Browse files
Use 6-tap filters for smooth and smooth2 filter
Change-Id: I1bf9c2fcd664fb4012d67e420cac613eaca735a8
parent
5d0b310b
Changes
1
Hide whitespace changes
Inline
Side-by-side
av1/common/filter.c
View file @
6f938489
...
...
@@ -98,28 +98,28 @@ DECLARE_ALIGNED(256, static const int16_t,
DECLARE_ALIGNED
(
256
,
static
const
InterpKernel
,
sub_pel_filters_8smooth2
[
SUBPEL_SHIFTS
])
=
{
// freqmultiplier = 0.
35
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
-
1
,
8
,
3
1
,
4
7
,
3
4
,
1
0
,
0
,
-
1
},
{
-
1
,
7
,
2
9
,
4
6
,
3
6
,
12
,
0
,
-
1
},
{
-
1
,
6
,
2
8
,
4
6
,
3
7
,
13
,
0
,
-
1
},
{
-
1
,
5
,
26
,
4
6
,
3
8
,
14
,
1
,
-
1
},
{
-
1
,
4
,
2
5
,
4
5
,
3
9
,
16
,
1
,
-
1
},
{
-
1
,
4
,
23
,
4
4
,
41
,
17
,
1
,
-
1
},
{
-
1
,
3
,
21
,
4
4
,
4
2
,
1
8
,
2
,
-
1
},
{
-
1
,
2
,
20
,
4
3
,
4
3
,
20
,
2
,
-
1
},
{
-
1
,
2
,
1
8
,
4
2
,
4
4
,
21
,
3
,
-
1
},
{
-
1
,
1
,
17
,
41
,
4
4
,
23
,
4
,
-
1
},
{
-
1
,
1
,
16
,
3
9
,
4
5
,
2
5
,
4
,
-
1
},
{
-
1
,
1
,
14
,
3
8
,
4
6
,
26
,
5
,
-
1
},
{
-
1
,
0
,
13
,
3
7
,
4
6
,
2
8
,
6
,
-
1
},
{
-
1
,
0
,
12
,
3
6
,
4
6
,
2
9
,
7
,
-
1
},
{
-
1
,
0
,
1
0
,
3
4
,
4
7
,
3
1
,
8
,
-
1
},
// freqmultiplier = 0.
2
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
9
,
3
0
,
4
4
,
3
2
,
1
1
,
2
,
0
},
{
0
,
8
,
2
8
,
4
4
,
3
4
,
12
,
2
,
0
},
{
0
,
7
,
2
7
,
4
4
,
3
5
,
13
,
2
,
0
},
{
0
,
6
,
26
,
4
3
,
3
7
,
14
,
2
,
0
},
{
0
,
5
,
2
4
,
4
3
,
3
8
,
16
,
2
,
0
},
{
0
,
5
,
23
,
4
2
,
38
,
17
,
3
,
0
},
{
0
,
4
,
21
,
4
1
,
4
0
,
1
9
,
3
,
0
},
{
0
,
4
,
20
,
4
0
,
4
0
,
20
,
4
,
0
},
{
0
,
3
,
1
9
,
4
0
,
4
1
,
21
,
4
,
0
},
{
0
,
3
,
17
,
38
,
4
2
,
23
,
5
,
0
},
{
0
,
2
,
16
,
3
8
,
4
3
,
2
4
,
5
,
0
},
{
0
,
2
,
14
,
3
7
,
4
3
,
26
,
6
,
0
},
{
0
,
2
,
13
,
3
5
,
4
4
,
2
7
,
7
,
0
},
{
0
,
2
,
12
,
3
4
,
4
4
,
2
8
,
8
,
0
},
{
0
,
2
,
1
1
,
3
2
,
4
4
,
3
0
,
9
,
0
},
};
DECLARE_ALIGNED
(
256
,
static
const
InterpKernel
,
sub_pel_filters_8smooth
[
SUBPEL_SHIFTS
])
=
{
// freqmultiplier = 0.
75
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
2
,
-
10
,
1
9
,
95
,
31
,
-
11
,
2
,
0
},
{
2
,
-
9
,
14
,
94
,
3
7
,
-
12
,
2
,
0
},
{
2
,
-
8
,
9
,
9
2
,
4
3
,
-
12
,
1
,
1
},
{
2
,
-
7
,
5
,
9
0
,
4
9
,
-
12
,
1
,
0
},
{
2
,
-
5
,
1
,
86
,
5
5
,
-
12
,
0
,
1
},
{
1
,
-
4
,
-
2
,
8
2
,
61
,
-
11
,
0
,
1
},
{
1
,
-
3
,
-
5
,
7
7
,
6
7
,
-
9
,
-
1
,
1
},
{
1
,
-
2
,
-
7
,
72
,
72
,
-
7
,
-
2
,
1
},
{
1
,
-
1
,
-
9
,
6
7
,
7
7
,
-
5
,
-
3
,
1
},
{
1
,
0
,
-
11
,
61
,
8
2
,
-
2
,
-
4
,
1
},
{
1
,
0
,
-
12
,
5
5
,
86
,
1
,
-
5
,
2
},
{
0
,
1
,
-
12
,
4
9
,
9
0
,
5
,
-
7
,
2
},
{
1
,
1
,
-
12
,
43
,
9
2
,
9
,
-
8
,
2
},
{
0
,
2
,
-
12
,
3
7
,
94
,
14
,
-
9
,
2
},
{
0
,
2
,
-
11
,
31
,
95
,
1
9
,
-
10
,
2
},
// freqmultiplier = 0.
8
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
-
5
,
1
3
,
102
,
24
,
-
7
,
1
,
0
},
{
0
,
-
4
,
8
,
100
,
3
1
,
-
8
,
1
,
0
},
{
0
,
-
3
,
4
,
9
7
,
3
7
,
-
8
,
1
,
0
},
{
0
,
-
2
,
0
,
9
4
,
4
4
,
-
9
,
1
,
0
},
{
0
,
-
2
,
-
3
,
90
,
5
1
,
-
9
,
1
,
0
},
{
0
,
-
1
,
-
5
,
8
4
,
59
,
-
9
,
0
,
0
},
{
0
,
0
,
-
7
,
7
9
,
6
5
,
-
9
,
0
,
0
},
{
0
,
0
,
-
8
,
72
,
72
,
-
8
,
0
,
0
},
{
0
,
0
,
-
9
,
6
5
,
7
9
,
-
7
,
0
,
0
},
{
0
,
0
,
-
9
,
59
,
8
4
,
-
5
,
-
1
,
0
},
{
0
,
1
,
-
9
,
5
1
,
90
,
-
3
,
-
2
,
0
},
{
0
,
1
,
-
9
,
4
4
,
9
4
,
0
,
-
2
,
0
},
{
0
,
1
,
-
8
,
37
,
9
7
,
4
,
-
3
,
0
},
{
0
,
1
,
-
8
,
3
1
,
100
,
8
,
-
4
,
0
},
{
0
,
1
,
-
7
,
24
,
102
,
1
3
,
-
5
,
0
},
};
#else // CONFIG_DUAL_FILTER
...
...
Write
Preview
Supports
Markdown
0%
Try again
or
attach a new file
.
Attach a file
Cancel
You are about to add
0
people
to the discussion. Proceed with caution.
Finish editing this message first!
Cancel
Please
register
or
sign in
to comment