Skip to content
GitLab
Menu
Projects
Groups
Snippets
Loading...
Help
Help
Support
Community forum
Keyboard shortcuts
?
Submit feedback
Contribute to GitLab
Sign in / Register
Toggle navigation
Menu
Open sidebar
Xiph.Org
aom-rav1e
Commits
f3b5e7f4
Commit
f3b5e7f4
authored
May 30, 2017
by
Arild Fuldseth (arilfuld)
Browse files
Use 7-bit smooth and regular filters with DUAL_FILTER
Change-Id: If8f8e1a0032e914beb3ec3bcde221fe4a5605139
parent
78bfc285
Changes
1
Hide whitespace changes
Inline
Side-by-side
av1/common/filter.c
View file @
f3b5e7f4
...
...
@@ -51,6 +51,16 @@ DECLARE_ALIGNED(16, static const int16_t,
#if CONFIG_DUAL_FILTER
DECLARE_ALIGNED
(
256
,
static
const
InterpKernel
,
sub_pel_filters_8
[
SUBPEL_SHIFTS
])
=
{
#if CONFIG_FILTER_7BIT
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
2
,
-
6
,
126
,
8
,
-
2
,
0
,
0
},
{
0
,
2
,
-
10
,
122
,
18
,
-
4
,
0
,
0
},
{
0
,
2
,
-
12
,
116
,
28
,
-
8
,
2
,
0
},
{
0
,
2
,
-
14
,
110
,
38
,
-
10
,
2
,
0
},
{
0
,
2
,
-
14
,
102
,
48
,
-
12
,
2
,
0
},
{
0
,
2
,
-
16
,
94
,
58
,
-
12
,
2
,
0
},
{
0
,
2
,
-
14
,
84
,
66
,
-
12
,
2
,
0
},
{
0
,
2
,
-
14
,
76
,
76
,
-
14
,
2
,
0
},
{
0
,
2
,
-
12
,
66
,
84
,
-
14
,
2
,
0
},
{
0
,
2
,
-
12
,
58
,
94
,
-
16
,
2
,
0
},
{
0
,
2
,
-
12
,
48
,
102
,
-
14
,
2
,
0
},
{
0
,
2
,
-
10
,
38
,
110
,
-
14
,
2
,
0
},
{
0
,
2
,
-
8
,
28
,
116
,
-
12
,
2
,
0
},
{
0
,
0
,
-
4
,
18
,
122
,
-
10
,
2
,
0
},
{
0
,
0
,
-
2
,
8
,
126
,
-
6
,
2
,
0
}
#else
// intfilt 0.575
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
1
,
-
5
,
126
,
8
,
-
3
,
1
,
0
},
{
-
1
,
3
,
-
10
,
123
,
18
,
-
6
,
2
,
-
1
},
{
-
1
,
4
,
-
14
,
118
,
27
,
-
9
,
3
,
0
},
...
...
@@ -60,10 +70,21 @@ DECLARE_ALIGNED(256, static const InterpKernel,
{
-
1
,
5
,
-
17
,
58
,
97
,
-
19
,
6
,
-
1
},
{
-
1
,
4
,
-
14
,
48
,
105
,
-
18
,
5
,
-
1
},
{
-
1
,
4
,
-
12
,
37
,
112
,
-
16
,
5
,
-
1
},
{
0
,
3
,
-
9
,
27
,
118
,
-
14
,
4
,
-
1
},
{
-
1
,
2
,
-
6
,
18
,
123
,
-
10
,
3
,
-
1
},
{
0
,
1
,
-
3
,
8
,
126
,
-
5
,
1
,
0
},
#endif
};
DECLARE_ALIGNED
(
256
,
static
const
InterpKernel
,
sub_pel_filters_regular_uv
[
SUBPEL_SHIFTS
])
=
{
#if CONFIG_FILTER_7BIT
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
2
,
-
6
,
126
,
8
,
-
2
,
0
,
0
},
{
0
,
2
,
-
10
,
122
,
18
,
-
4
,
0
,
0
},
{
0
,
2
,
-
12
,
116
,
28
,
-
8
,
2
,
0
},
{
0
,
2
,
-
14
,
110
,
38
,
-
10
,
2
,
0
},
{
0
,
2
,
-
14
,
102
,
48
,
-
12
,
2
,
0
},
{
0
,
2
,
-
16
,
94
,
58
,
-
12
,
2
,
0
},
{
0
,
2
,
-
14
,
84
,
66
,
-
12
,
2
,
0
},
{
0
,
2
,
-
14
,
76
,
76
,
-
14
,
2
,
0
},
{
0
,
2
,
-
12
,
66
,
84
,
-
14
,
2
,
0
},
{
0
,
2
,
-
12
,
58
,
94
,
-
16
,
2
,
0
},
{
0
,
2
,
-
12
,
48
,
102
,
-
14
,
2
,
0
},
{
0
,
2
,
-
10
,
38
,
110
,
-
14
,
2
,
0
},
{
0
,
2
,
-
8
,
28
,
116
,
-
12
,
2
,
0
},
{
0
,
0
,
-
4
,
18
,
122
,
-
10
,
2
,
0
},
{
0
,
0
,
-
2
,
8
,
126
,
-
6
,
2
,
0
}
#else
// intfilt 0.575
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
1
,
-
5
,
126
,
8
,
-
3
,
1
,
0
},
{
-
1
,
3
,
-
10
,
123
,
18
,
-
6
,
2
,
-
1
},
{
-
1
,
4
,
-
14
,
118
,
27
,
-
9
,
3
,
0
},
...
...
@@ -73,6 +94,7 @@ DECLARE_ALIGNED(256, static const InterpKernel,
{
-
1
,
5
,
-
17
,
58
,
97
,
-
19
,
6
,
-
1
},
{
-
1
,
4
,
-
14
,
48
,
105
,
-
18
,
5
,
-
1
},
{
-
1
,
4
,
-
12
,
37
,
112
,
-
16
,
5
,
-
1
},
{
0
,
3
,
-
9
,
27
,
118
,
-
14
,
4
,
-
1
},
{
-
1
,
2
,
-
6
,
18
,
123
,
-
10
,
3
,
-
1
},
{
0
,
1
,
-
3
,
8
,
126
,
-
5
,
1
,
0
},
#endif
};
#if USE_12TAP_FILTER
...
...
@@ -162,6 +184,16 @@ DECLARE_ALIGNED(256, static const InterpKernel,
DECLARE_ALIGNED
(
256
,
static
const
InterpKernel
,
sub_pel_filters_8smooth
[
SUBPEL_SHIFTS
])
=
{
#if CONFIG_FILTER_7BIT
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
2
,
28
,
62
,
34
,
2
,
0
,
0
},
{
0
,
0
,
26
,
62
,
36
,
4
,
0
,
0
},
{
0
,
0
,
22
,
62
,
40
,
4
,
0
,
0
},
{
0
,
0
,
20
,
60
,
42
,
6
,
0
,
0
},
{
0
,
0
,
18
,
58
,
44
,
8
,
0
,
0
},
{
0
,
0
,
16
,
56
,
46
,
10
,
0
,
0
},
{
0
,
-
2
,
16
,
54
,
48
,
12
,
0
,
0
},
{
0
,
-
2
,
14
,
52
,
52
,
14
,
-
2
,
0
},
{
0
,
0
,
12
,
48
,
54
,
16
,
-
2
,
0
},
{
0
,
0
,
10
,
46
,
56
,
16
,
0
,
0
},
{
0
,
0
,
8
,
44
,
58
,
18
,
0
,
0
},
{
0
,
0
,
6
,
42
,
60
,
20
,
0
,
0
},
{
0
,
0
,
4
,
40
,
62
,
22
,
0
,
0
},
{
0
,
0
,
4
,
36
,
62
,
26
,
0
,
0
},
{
0
,
0
,
2
,
34
,
62
,
28
,
2
,
0
}
#else
// freqmultiplier = 0.8
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
-
5
,
13
,
102
,
24
,
-
7
,
1
,
0
},
{
0
,
-
4
,
8
,
100
,
31
,
-
8
,
1
,
0
},
{
0
,
-
3
,
4
,
97
,
37
,
-
8
,
1
,
0
},
...
...
@@ -171,10 +203,21 @@ DECLARE_ALIGNED(256, static const InterpKernel,
{
0
,
0
,
-
9
,
59
,
84
,
-
5
,
-
1
,
0
},
{
0
,
1
,
-
9
,
51
,
90
,
-
3
,
-
2
,
0
},
{
0
,
1
,
-
9
,
44
,
94
,
0
,
-
2
,
0
},
{
0
,
1
,
-
8
,
37
,
97
,
4
,
-
3
,
0
},
{
0
,
1
,
-
8
,
31
,
100
,
8
,
-
4
,
0
},
{
0
,
1
,
-
7
,
24
,
102
,
13
,
-
5
,
0
},
#endif
};
DECLARE_ALIGNED
(
256
,
static
const
InterpKernel
,
sub_pel_filters_smooth_uv
[
SUBPEL_SHIFTS
])
=
{
#if CONFIG_FILTER_7BIT
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
2
,
28
,
62
,
34
,
2
,
0
,
0
},
{
0
,
0
,
26
,
62
,
36
,
4
,
0
,
0
},
{
0
,
0
,
22
,
62
,
40
,
4
,
0
,
0
},
{
0
,
0
,
20
,
60
,
42
,
6
,
0
,
0
},
{
0
,
0
,
18
,
58
,
44
,
8
,
0
,
0
},
{
0
,
0
,
16
,
56
,
46
,
10
,
0
,
0
},
{
0
,
-
2
,
16
,
54
,
48
,
12
,
0
,
0
},
{
0
,
-
2
,
14
,
52
,
52
,
14
,
-
2
,
0
},
{
0
,
0
,
12
,
48
,
54
,
16
,
-
2
,
0
},
{
0
,
0
,
10
,
46
,
56
,
16
,
0
,
0
},
{
0
,
0
,
8
,
44
,
58
,
18
,
0
,
0
},
{
0
,
0
,
6
,
42
,
60
,
20
,
0
,
0
},
{
0
,
0
,
4
,
40
,
62
,
22
,
0
,
0
},
{
0
,
0
,
4
,
36
,
62
,
26
,
0
,
0
},
{
0
,
0
,
2
,
34
,
62
,
28
,
2
,
0
}
#else
// freqmultiplier = 0.8
{
0
,
0
,
0
,
128
,
0
,
0
,
0
,
0
},
{
0
,
-
5
,
13
,
102
,
24
,
-
7
,
1
,
0
},
{
0
,
-
4
,
8
,
100
,
31
,
-
8
,
1
,
0
},
{
0
,
-
3
,
4
,
97
,
37
,
-
8
,
1
,
0
},
...
...
@@ -184,6 +227,7 @@ DECLARE_ALIGNED(256, static const InterpKernel,
{
0
,
0
,
-
9
,
59
,
84
,
-
5
,
-
1
,
0
},
{
0
,
1
,
-
9
,
51
,
90
,
-
3
,
-
2
,
0
},
{
0
,
1
,
-
9
,
44
,
94
,
0
,
-
2
,
0
},
{
0
,
1
,
-
8
,
37
,
97
,
4
,
-
3
,
0
},
{
0
,
1
,
-
8
,
31
,
100
,
8
,
-
4
,
0
},
{
0
,
1
,
-
7
,
24
,
102
,
13
,
-
5
,
0
},
#endif
};
#else // CONFIG_DUAL_FILTER
...
...
Write
Preview
Markdown
is supported
0%
Try again
or
attach a new file
.
Attach a file
Cancel
You are about to add
0
people
to the discussion. Proceed with caution.
Finish editing this message first!
Cancel
Please
register
or
sign in
to comment