Skip to content
GitLab
Projects
Groups
Snippets
Help
Loading...
Help
What's new
10
Help
Support
Community forum
Keyboard shortcuts
?
Submit feedback
Contribute to GitLab
Sign in / Register
Toggle navigation
Open sidebar
Xiph.Org
aom-rav1e
Commits
5d3327e8
Commit
5d3327e8
authored
Dec 03, 2015
by
hui su
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
Remove palette from VP10
Store it in nextgenv2 for now. Change-Id: Iab0af0e15246758e3b6e8bde4a74b13c410576fc
parent
623e988a
Changes
23
Hide whitespace changes
Inline
Side-by-side
Showing
23 changed files
with
0 additions
and
1218 deletions
+0
-1218
vp10/common/blockd.h
vp10/common/blockd.h
+0
-15
vp10/common/entropymode.c
vp10/common/entropymode.c
+0
-436
vp10/common/entropymode.h
vp10/common/entropymode.h
+0
-22
vp10/common/enums.h
vp10/common/enums.h
+0
-23
vp10/common/onyxc_int.h
vp10/common/onyxc_int.h
+0
-2
vp10/common/reconintra.c
vp10/common/reconintra.c
+0
-34
vp10/decoder/decodeframe.c
vp10/decoder/decodeframe.c
+0
-5
vp10/decoder/decodemv.c
vp10/decoder/decodemv.c
+0
-41
vp10/decoder/detokenize.c
vp10/decoder/detokenize.c
+0
-27
vp10/decoder/detokenize.h
vp10/decoder/detokenize.h
+0
-2
vp10/encoder/bitstream.c
vp10/encoder/bitstream.c
+0
-73
vp10/encoder/block.h
vp10/encoder/block.h
+0
-9
vp10/encoder/encodeframe.c
vp10/encoder/encodeframe.c
+0
-19
vp10/encoder/encoder.c
vp10/encoder/encoder.c
+0
-14
vp10/encoder/encoder.h
vp10/encoder/encoder.h
+0
-6
vp10/encoder/ethread.c
vp10/encoder/ethread.c
+0
-7
vp10/encoder/palette.c
vp10/encoder/palette.c
+0
-194
vp10/encoder/palette.h
vp10/encoder/palette.h
+0
-35
vp10/encoder/rd.c
vp10/encoder/rd.c
+0
-19
vp10/encoder/rdopt.c
vp10/encoder/rdopt.c
+0
-197
vp10/encoder/tokenize.c
vp10/encoder/tokenize.c
+0
-33
vp10/encoder/tokenize.h
vp10/encoder/tokenize.h
+0
-3
vp10/vp10cx.mk
vp10/vp10cx.mk
+0
-2
No files found.
vp10/common/blockd.h
View file @
5d3327e8
...
...
@@ -63,20 +63,6 @@ typedef struct {
#define MAX_REF_FRAMES 4
typedef
int8_t
MV_REFERENCE_FRAME
;
typedef
struct
{
// Number of base colors for Y (0) and UV (1)
uint8_t
palette_size
[
2
];
// Value of base colors for Y, U, and V
#if CONFIG_VP9_HIGHBITDEPTH
uint16_t
palette_colors
[
3
*
PALETTE_MAX_SIZE
];
#else
uint8_t
palette_colors
[
3
*
PALETTE_MAX_SIZE
];
#endif // CONFIG_VP9_HIGHBITDEPTH
// Only used by encoder to store the color index of the top left pixel.
// TODO(huisu): move this to encoder
uint8_t
palette_first_color_idx
[
2
];
}
PALETTE_MODE_INFO
;
// This structure now relates to 8x8 block regions.
typedef
struct
{
// Common for both INTER and INTRA blocks
...
...
@@ -92,7 +78,6 @@ typedef struct {
// Only for INTRA blocks
PREDICTION_MODE
uv_mode
;
PALETTE_MODE_INFO
palette_mode_info
;
// Only for INTER blocks
INTERP_FILTER
interp_filter
;
...
...
vp10/common/entropymode.c
View file @
5d3327e8
...
...
@@ -279,442 +279,6 @@ static const struct tx_probs default_tx_probs = {
{
66
}
}
};
const
vpx_tree_index
vp10_palette_size_tree
[
TREE_SIZE
(
PALETTE_SIZES
)]
=
{
-
TWO_COLORS
,
2
,
-
THREE_COLORS
,
4
,
-
FOUR_COLORS
,
6
,
-
FIVE_COLORS
,
8
,
-
SIX_COLORS
,
10
,
-
SEVEN_COLORS
,
-
EIGHT_COLORS
,
};
// TODO(huisu): tune these probs
const
vpx_prob
vp10_default_palette_y_size_prob
[
PALETTE_BLOCK_SIZES
][
PALETTE_SIZES
-
1
]
=
{
{
96
,
89
,
100
,
64
,
77
,
130
},
{
22
,
15
,
44
,
16
,
34
,
82
},
{
30
,
19
,
57
,
18
,
38
,
86
},
{
94
,
36
,
104
,
23
,
43
,
92
},
{
116
,
76
,
107
,
46
,
65
,
105
},
{
112
,
82
,
94
,
40
,
70
,
112
},
{
147
,
124
,
123
,
58
,
69
,
103
},
{
180
,
113
,
136
,
49
,
45
,
114
},
{
107
,
70
,
87
,
49
,
154
,
156
},
{
98
,
105
,
142
,
63
,
64
,
152
},
};
const
vpx_prob
vp10_default_palette_uv_size_prob
[
PALETTE_BLOCK_SIZES
][
PALETTE_SIZES
-
1
]
=
{
{
160
,
196
,
228
,
213
,
175
,
230
},
{
87
,
148
,
208
,
141
,
166
,
163
},
{
72
,
151
,
204
,
139
,
155
,
161
},
{
78
,
135
,
171
,
104
,
120
,
173
},
{
59
,
92
,
131
,
78
,
92
,
142
},
{
75
,
118
,
149
,
84
,
90
,
128
},
{
89
,
87
,
92
,
66
,
66
,
128
},
{
67
,
53
,
54
,
55
,
66
,
93
},
{
120
,
130
,
83
,
171
,
75
,
214
},
{
72
,
55
,
66
,
68
,
79
,
107
},
};
const
vpx_prob
vp10_default_palette_y_mode_prob
[
PALETTE_BLOCK_SIZES
][
PALETTE_Y_MODE_CONTEXTS
]
=
{
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
{
240
,
180
,
100
,
},
};
const
vpx_prob
default_uv_palette_mode_prob
[
2
]
=
{
253
,
229
};
const
vpx_tree_index
vp10_palette_color_tree
[
PALETTE_MAX_SIZE
-
1
][
TREE_SIZE
(
PALETTE_COLORS
)]
=
{
{
// 2 colors
-
PALETTE_COLOR_ONE
,
-
PALETTE_COLOR_TWO
,
},
{
// 3 colors
-
PALETTE_COLOR_ONE
,
2
,
-
PALETTE_COLOR_TWO
,
-
PALETTE_COLOR_THREE
,
},
{
// 4 colors
-
PALETTE_COLOR_ONE
,
2
,
-
PALETTE_COLOR_TWO
,
4
,
-
PALETTE_COLOR_THREE
,
-
PALETTE_COLOR_FOUR
,
},
{
// 5 colors
-
PALETTE_COLOR_ONE
,
2
,
-
PALETTE_COLOR_TWO
,
4
,
-
PALETTE_COLOR_THREE
,
6
,
-
PALETTE_COLOR_FOUR
,
-
PALETTE_COLOR_FIVE
,
},
{
// 6 colors
-
PALETTE_COLOR_ONE
,
2
,
-
PALETTE_COLOR_TWO
,
4
,
-
PALETTE_COLOR_THREE
,
6
,
-
PALETTE_COLOR_FOUR
,
8
,
-
PALETTE_COLOR_FIVE
,
-
PALETTE_COLOR_SIX
,
},
{
// 7 colors
-
PALETTE_COLOR_ONE
,
2
,
-
PALETTE_COLOR_TWO
,
4
,
-
PALETTE_COLOR_THREE
,
6
,
-
PALETTE_COLOR_FOUR
,
8
,
-
PALETTE_COLOR_FIVE
,
10
,
-
PALETTE_COLOR_SIX
,
-
PALETTE_COLOR_SEVEN
,
},
{
// 8 colors
-
PALETTE_COLOR_ONE
,
2
,
-
PALETTE_COLOR_TWO
,
4
,
-
PALETTE_COLOR_THREE
,
6
,
-
PALETTE_COLOR_FOUR
,
8
,
-
PALETTE_COLOR_FIVE
,
10
,
-
PALETTE_COLOR_SIX
,
12
,
-
PALETTE_COLOR_SEVEN
,
-
PALETTE_COLOR_EIGHT
,
},
};
const
vpx_prob
vp10_default_palette_y_color_prob
[
PALETTE_MAX_SIZE
-
1
][
PALETTE_COLOR_CONTEXTS
][
PALETTE_COLORS
-
1
]
=
{
{
// 2 colors
{
230
,
255
,
128
,
128
,
128
,
128
,
128
},
{
214
,
255
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
240
,
255
,
128
,
128
,
128
,
128
,
128
},
{
73
,
255
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
130
,
255
,
128
,
128
,
128
,
128
,
128
},
{
227
,
255
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
188
,
255
,
128
,
128
,
128
,
128
,
128
},
{
75
,
255
,
128
,
128
,
128
,
128
,
128
},
{
250
,
255
,
128
,
128
,
128
,
128
,
128
},
{
223
,
255
,
128
,
128
,
128
,
128
,
128
},
{
252
,
255
,
128
,
128
,
128
,
128
,
128
},
},
{
// 3 colors
{
229
,
137
,
255
,
128
,
128
,
128
,
128
},
{
197
,
120
,
255
,
128
,
128
,
128
,
128
},
{
107
,
195
,
255
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
27
,
151
,
255
,
128
,
128
,
128
,
128
},
{
230
,
130
,
255
,
128
,
128
,
128
,
128
},
{
37
,
230
,
255
,
128
,
128
,
128
,
128
},
{
67
,
221
,
255
,
128
,
128
,
128
,
128
},
{
124
,
230
,
255
,
128
,
128
,
128
,
128
},
{
195
,
109
,
255
,
128
,
128
,
128
,
128
},
{
99
,
122
,
255
,
128
,
128
,
128
,
128
},
{
205
,
208
,
255
,
128
,
128
,
128
,
128
},
{
40
,
235
,
255
,
128
,
128
,
128
,
128
},
{
251
,
132
,
255
,
128
,
128
,
128
,
128
},
{
237
,
186
,
255
,
128
,
128
,
128
,
128
},
{
253
,
112
,
255
,
128
,
128
,
128
,
128
},
},
{
// 4 colors
{
195
,
87
,
128
,
255
,
128
,
128
,
128
},
{
143
,
100
,
123
,
255
,
128
,
128
,
128
},
{
94
,
124
,
119
,
255
,
128
,
128
,
128
},
{
77
,
91
,
130
,
255
,
128
,
128
,
128
},
{
39
,
114
,
178
,
255
,
128
,
128
,
128
},
{
222
,
94
,
125
,
255
,
128
,
128
,
128
},
{
44
,
203
,
132
,
255
,
128
,
128
,
128
},
{
68
,
175
,
122
,
255
,
128
,
128
,
128
},
{
110
,
187
,
124
,
255
,
128
,
128
,
128
},
{
152
,
91
,
128
,
255
,
128
,
128
,
128
},
{
70
,
109
,
181
,
255
,
128
,
128
,
128
},
{
133
,
113
,
164
,
255
,
128
,
128
,
128
},
{
47
,
205
,
133
,
255
,
128
,
128
,
128
},
{
247
,
94
,
136
,
255
,
128
,
128
,
128
},
{
205
,
122
,
146
,
255
,
128
,
128
,
128
},
{
251
,
100
,
141
,
255
,
128
,
128
,
128
},
},
{
// 5 colors
{
195
,
65
,
84
,
125
,
255
,
128
,
128
},
{
150
,
76
,
84
,
121
,
255
,
128
,
128
},
{
94
,
110
,
81
,
117
,
255
,
128
,
128
},
{
79
,
85
,
91
,
139
,
255
,
128
,
128
},
{
26
,
102
,
139
,
127
,
255
,
128
,
128
},
{
220
,
73
,
91
,
119
,
255
,
128
,
128
},
{
38
,
203
,
86
,
127
,
255
,
128
,
128
},
{
61
,
186
,
72
,
124
,
255
,
128
,
128
},
{
132
,
199
,
84
,
128
,
255
,
128
,
128
},
{
172
,
52
,
62
,
120
,
255
,
128
,
128
},
{
102
,
89
,
121
,
122
,
255
,
128
,
128
},
{
182
,
48
,
69
,
186
,
255
,
128
,
128
},
{
36
,
206
,
87
,
126
,
255
,
128
,
128
},
{
249
,
55
,
67
,
122
,
255
,
128
,
128
},
{
218
,
88
,
75
,
122
,
255
,
128
,
128
},
{
253
,
64
,
80
,
119
,
255
,
128
,
128
},
},
{
// 6 colors
{
182
,
54
,
64
,
75
,
118
,
255
,
128
},
{
126
,
67
,
70
,
76
,
116
,
255
,
128
},
{
79
,
92
,
67
,
85
,
120
,
255
,
128
},
{
63
,
61
,
81
,
118
,
132
,
255
,
128
},
{
21
,
80
,
105
,
83
,
119
,
255
,
128
},
{
215
,
72
,
74
,
74
,
111
,
255
,
128
},
{
50
,
176
,
63
,
79
,
120
,
255
,
128
},
{
72
,
148
,
66
,
77
,
120
,
255
,
128
},
{
105
,
177
,
57
,
78
,
130
,
255
,
128
},
{
150
,
66
,
66
,
80
,
127
,
255
,
128
},
{
81
,
76
,
109
,
85
,
116
,
255
,
128
},
{
113
,
81
,
62
,
96
,
148
,
255
,
128
},
{
54
,
179
,
69
,
82
,
121
,
255
,
128
},
{
244
,
47
,
48
,
67
,
118
,
255
,
128
},
{
198
,
83
,
53
,
65
,
121
,
255
,
128
},
{
250
,
42
,
51
,
69
,
110
,
255
,
128
},
},
{
// 7 colors
{
182
,
45
,
54
,
62
,
74
,
113
,
255
},
{
124
,
63
,
57
,
62
,
77
,
114
,
255
},
{
77
,
80
,
56
,
66
,
76
,
117
,
255
},
{
63
,
57
,
69
,
98
,
85
,
131
,
255
},
{
19
,
81
,
98
,
63
,
80
,
116
,
255
},
{
215
,
56
,
60
,
63
,
68
,
105
,
255
},
{
50
,
174
,
50
,
60
,
79
,
118
,
255
},
{
68
,
151
,
50
,
58
,
73
,
117
,
255
},
{
104
,
182
,
53
,
57
,
79
,
127
,
255
},
{
156
,
50
,
51
,
63
,
77
,
111
,
255
},
{
88
,
67
,
97
,
59
,
82
,
120
,
255
},
{
114
,
81
,
46
,
65
,
103
,
132
,
255
},
{
55
,
166
,
57
,
66
,
82
,
120
,
255
},
{
245
,
34
,
38
,
43
,
63
,
114
,
255
},
{
203
,
68
,
45
,
47
,
60
,
118
,
255
},
{
250
,
35
,
37
,
47
,
66
,
110
,
255
},
},
{
// 8 colors
{
180
,
43
,
46
,
50
,
56
,
69
,
109
},
{
116
,
53
,
51
,
49
,
57
,
73
,
115
},
{
79
,
70
,
49
,
50
,
59
,
74
,
117
},
{
60
,
54
,
57
,
70
,
62
,
83
,
129
},
{
20
,
73
,
85
,
52
,
66
,
81
,
119
},
{
213
,
56
,
52
,
49
,
53
,
62
,
104
},
{
48
,
161
,
41
,
45
,
56
,
77
,
116
},
{
68
,
139
,
40
,
47
,
54
,
71
,
116
},
{
123
,
166
,
42
,
43
,
52
,
76
,
130
},
{
153
,
44
,
44
,
47
,
54
,
79
,
129
},
{
87
,
64
,
83
,
49
,
60
,
75
,
127
},
{
131
,
68
,
43
,
48
,
73
,
96
,
130
},
{
55
,
152
,
45
,
51
,
64
,
77
,
113
},
{
243
,
30
,
28
,
33
,
41
,
65
,
114
},
{
202
,
56
,
35
,
36
,
42
,
63
,
123
},
{
249
,
31
,
29
,
32
,
45
,
68
,
111
},
}
};
const
vpx_prob
vp10_default_palette_uv_color_prob
[
PALETTE_MAX_SIZE
-
1
][
PALETTE_COLOR_CONTEXTS
][
PALETTE_COLORS
-
1
]
=
{
{
// 2 colors
{
228
,
255
,
128
,
128
,
128
,
128
,
128
},
{
195
,
255
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
228
,
255
,
128
,
128
,
128
,
128
,
128
},
{
71
,
255
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
129
,
255
,
128
,
128
,
128
,
128
,
128
},
{
206
,
255
,
128
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
136
,
255
,
128
,
128
,
128
,
128
,
128
},
{
98
,
255
,
128
,
128
,
128
,
128
,
128
},
{
236
,
255
,
128
,
128
,
128
,
128
,
128
},
{
222
,
255
,
128
,
128
,
128
,
128
,
128
},
{
249
,
255
,
128
,
128
,
128
,
128
,
128
},
},
{
// 3 colors
{
198
,
136
,
255
,
128
,
128
,
128
,
128
},
{
178
,
105
,
255
,
128
,
128
,
128
,
128
},
{
100
,
206
,
255
,
128
,
128
,
128
,
128
},
{
128
,
128
,
128
,
128
,
128
,
128
,
128
},
{
12
,
136
,
255
,
128
,
128
,
128
,
128
},
{
219
,
134
,
255
,
128
,
128
,
128
,
128
},
{
50
,
198
,
255
,
128
,
128
,
128
,
128
},
{
61
,
231
,
255
,
128
,
128
,
128
,
128
},
{
110
,
209
,
255
,
128
,
128
,
128
,
128
},
{
173
,
106
,
255
,
128
,
128
,
128
,
128
},
{
145
,
166
,
255
,
128
,
128
,
128
,
128
},
{
156
,
175
,
255
,
128
,
128
,
128
,
128
},
{
69
,
183
,
255
,
128
,
128
,
128
,
128
},
{
241
,
163
,
255
,
128
,
128
,
128
,
128
},
{
224
,
160
,
255
,
128
,
128
,
128
,
128
},
{
246
,
154
,
255
,
128
,
128
,
128
,
128
},
},
{
// 4 colors
{
173
,
88
,
143
,
255
,
128
,
128
,
128
},
{
146
,
81
,
127
,
255
,
128
,
128
,
128
},
{
84
,
134
,
102
,
255
,
128
,
128
,
128
},
{
69
,
138
,
140
,
255
,
128
,
128
,
128
},
{
31
,
103
,
200
,
255
,
128
,
128
,
128
},
{
217
,
101
,
139
,
255
,
128
,
128
,
128
},
{
51
,
174
,
121
,
255
,
128
,
128
,
128
},
{
64
,
177
,
109
,
255
,
128
,
128
,
128
},
{
96
,
179
,
145
,
255
,
128
,
128
,
128
},
{
164
,
77
,
114
,
255
,
128
,
128
,
128
},
{
87
,
94
,
156
,
255
,
128
,
128
,
128
},
{
105
,
57
,
173
,
255
,
128
,
128
,
128
},
{
63
,
158
,
137
,
255
,
128
,
128
,
128
},
{
236
,
102
,
156
,
255
,
128
,
128
,
128
},
{
197
,
115
,
153
,
255
,
128
,
128
,
128
},
{
245
,
106
,
154
,
255
,
128
,
128
,
128
},
},
{
// 5 colors
{
179
,
64
,
97
,
129
,
255
,
128
,
128
},
{
137
,
56
,
88
,
125
,
255
,
128
,
128
},
{
82
,
107
,
61
,
118
,
255
,
128
,
128
},
{
59
,
113
,
86
,
115
,
255
,
128
,
128
},
{
23
,
88
,
118
,
130
,
255
,
128
,
128
},
{
213
,
66
,
90
,
125
,
255
,
128
,
128
},
{
37
,
181
,
103
,
121
,
255
,
128
,
128
},
{
47
,
188
,
61
,
131
,
255
,
128
,
128
},
{
104
,
185
,
103
,
144
,
255
,
128
,
128
},
{
163
,
39
,
76
,
112
,
255
,
128
,
128
},
{
94
,
74
,
131
,
126
,
255
,
128
,
128
},
{
142
,
42
,
103
,
163
,
255
,
128
,
128
},
{
53
,
162
,
99
,
149
,
255
,
128
,
128
},
{
239
,
54
,
84
,
108
,
255
,
128
,
128
},
{
203
,
84
,
110
,
147
,
255
,
128
,
128
},
{
248
,
70
,
105
,
151
,
255
,
128
,
128
},
},
{
// 6 colors
{
189
,
50
,
67
,
90
,
130
,
255
,
128
},
{
114
,
50
,
55
,
90
,
123
,
255
,
128
},
{
66
,
76
,
54
,
82
,
128
,
255
,
128
},
{
43
,
69
,
69
,
80
,
129
,
255
,
128
},
{
22
,
59
,
87
,
88
,
141
,
255
,
128
},
{
203
,
49
,
68
,
87
,
122
,
255
,
128
},
{
43
,
157
,
74
,
104
,
146
,
255
,
128
},
{
54
,
138
,
51
,
95
,
138
,
255
,
128
},
{
82
,
171
,
58
,
102
,
146
,
255
,
128
},
{
129
,
38
,
59
,
64
,
168
,
255
,
128
},
{
56
,
67
,
119
,
92
,
112
,
255
,
128
},
{
96
,
62
,
53
,
132
,
82
,
255
,
128
},
{
60
,
147
,
77
,
108
,
145
,
255
,
128
},
{
238
,
76
,
73
,
93
,
148
,
255
,
128
},
{
189
,
86
,
73
,
103
,
157
,
255
,
128
},
{
246
,
62
,
75
,
83
,
167
,
255
,
128
},
},
{
// 7 colors
{
179
,
42
,
51
,
73
,
99
,
134
,
255
},
{
119
,
52
,
52
,
61
,
64
,
114
,
255
},
{
53
,
77
,
35
,
65
,
71
,
131
,
255
},
{
38
,
70
,
51
,
68
,
89
,
144
,
255
},
{
23
,
65
,
128
,
73
,
97
,
131
,
255
},
{
210
,
47
,
52
,
63
,
81
,
143
,
255
},
{
42
,
159
,
57
,
68
,
98
,
143
,
255
},
{
49
,
153
,
45
,
82
,
93
,
143
,
255
},
{
81
,
169
,
52
,
72
,
113
,
151
,
255
},
{
136
,
46
,
35
,
56
,
75
,
96
,
255
},
{
57
,
84
,
109
,
47
,
107
,
131
,
255
},
{
128
,
78
,
57
,
36
,
128
,
85
,
255
},
{
54
,
149
,
68
,
77
,
94
,
153
,
255
},
{
243
,
58
,
50
,
71
,
81
,
167
,
255
},
{
189
,
92
,
64
,
70
,
121
,
173
,
255
},
{
248
,
35
,
38
,
51
,
82
,
201
,
255
},
},
{
// 8 colors
{
201
,
40
,
36
,
42
,
64
,
92
,
123
},
{
116
,
43
,
33
,
43
,
73
,
102
,
128
},
{
46
,
77
,
37
,
69
,
62
,
78
,
150
},
{
40
,
65
,
52
,
50
,
76
,
89
,
133
},
{
28
,
48
,
91
,
17
,
64
,
77
,
133
},
{
218
,
43
,
43
,
37
,
56
,
72
,
163
},
{
41
,
155
,
44
,
83
,
82
,
129
,
180
},
{
44
,
141
,
29
,
55
,
64
,
89
,
147
},
{
92
,
166
,
48
,
45
,
59
,
126
,
179
},
{
169
,
35
,
49
,
41
,
36
,
99
,
139
},
{
55
,
77
,
77
,
56
,
60
,
75
,
156
},
{
155
,
81
,
51
,
64
,
57
,
182
,
255
},
{
60
,
134
,
49
,
49
,
93
,
128
,
174
},
{
244
,
98
,
51
,
46
,
22
,
73
,
238
},
{
189
,
70
,
40
,
87
,
93
,
79
,
201
},
{
248
,
54
,
49
,
40
,
29
,
42
,
227
},
}
};
static
const
int
palette_color_context_lookup
[
PALETTE_COLOR_CONTEXTS
]
=
{
// (3, 0, 0, 0), (3, 2, 0, 0), (3, 3, 2, 0), (3, 3, 2, 2),
3993
,
4235
,
4378
,
4380
,
// (4, 3, 3, 0), (5, 0, 0, 0), (5, 3, 0, 0), (5, 3, 2, 0),
5720
,
6655
,
7018
,
7040
,
// (5, 5, 0, 0), (6, 2, 0, 0), (6, 2, 2, 0), (6, 4, 0, 0),
7260
,
8228
,
8250
,
8470
,
// (7, 3, 0, 0), (8, 0, 0, 0), (8, 2, 0, 0), (10, 0, 0, 0)
9680
,
10648
,
10890
,
13310
};
int
vp10_get_palette_color_context
(
const
uint8_t
*
color_map
,
int
cols
,
int
r
,
int
c
,
int
n
,
int
*
color_order
)
{
int
i
,
j
,
max
,
max_idx
,
temp
;
int
scores
[
PALETTE_MAX_SIZE
+
10
];
int
weights
[
4
]
=
{
3
,
2
,
3
,
2
};
int
color_ctx
=
0
;
int
color_neighbors
[
4
];
assert
(
n
<=
PALETTE_MAX_SIZE
);
if
(
c
-
1
>=
0
)
color_neighbors
[
0
]
=
color_map
[
r
*
cols
+
c
-
1
];
else
color_neighbors
[
0
]
=
-
1
;
if
(
c
-
1
>=
0
&&
r
-
1
>=
0
)
color_neighbors
[
1
]
=
color_map
[(
r
-
1
)
*
cols
+
c
-
1
];
else
color_neighbors
[
1
]
=
-
1
;
if
(
r
-
1
>=
0
)
color_neighbors
[
2
]
=
color_map
[(
r
-
1
)
*
cols
+
c
];
else
color_neighbors
[
2
]
=
-
1
;
if
(
r
-
1
>=
0
&&
c
+
1
<=
cols
-
1
)
color_neighbors
[
3
]
=
color_map
[(
r
-
1
)
*
cols
+
c
+
1
];
else
color_neighbors
[
3
]
=
-
1
;
for
(
i
=
0
;
i
<
PALETTE_MAX_SIZE
;
++
i
)
color_order
[
i
]
=
i
;
memset
(
scores
,
0
,
PALETTE_MAX_SIZE
*
sizeof
(
scores
[
0
]));
for
(
i
=
0
;
i
<
4
;
++
i
)
{
if
(
color_neighbors
[
i
]
>=
0
)
scores
[
color_neighbors
[
i
]]
+=
weights
[
i
];
}
for
(
i
=
0
;
i
<
4
;
++
i
)
{
max
=
scores
[
i
];
max_idx
=
i
;
j
=
i
+
1
;
while
(
j
<
n
)
{
if
(
scores
[
j
]
>
max
)
{
max
=
scores
[
j
];
max_idx
=
j
;
}
++
j
;
}
if
(
max_idx
!=
i
)
{
temp
=
scores
[
i
];
scores
[
i
]
=
scores
[
max_idx
];
scores
[
max_idx
]
=
temp
;
temp
=
color_order
[
i
];
color_order
[
i
]
=
color_order
[
max_idx
];
color_order
[
max_idx
]
=
temp
;
}
}
for
(
i
=
0
;
i
<
4
;
++
i
)
color_ctx
=
color_ctx
*
11
+
scores
[
i
];
for
(
i
=
0
;
i
<
PALETTE_COLOR_CONTEXTS
;
++
i
)
if
(
color_ctx
==
palette_color_context_lookup
[
i
])
{
color_ctx
=
i
;
break
;
}
if
(
color_ctx
>=
PALETTE_COLOR_CONTEXTS
)
color_ctx
=
0
;
return
color_ctx
;
}
void
vp10_tx_counts_to_branch_counts_32x32
(
const
unsigned
int
*
tx_count_32x32p
,
unsigned
int
(
*
ct_32x32p
)[
2
])
{
ct_32x32p
[
0
][
0
]
=
tx_count_32x32p
[
TX_4X4
];
...
...
vp10/common/entropymode.h
View file @
5d3327e8
...
...
@@ -27,12 +27,6 @@ extern "C" {
#define INTER_OFFSET(mode) ((mode) - NEARESTMV)
#define PALETTE_COLOR_CONTEXTS 16
#define PALETTE_MAX_SIZE 8
#define PALETTE_BLOCK_SIZES (BLOCK_64X64 - BLOCK_8X8 + 1)
#define PALETTE_Y_MODE_CONTEXTS 3
struct
VP10Common
;
struct
tx_probs
{
...
...
@@ -105,25 +99,12 @@ extern const vpx_prob vp10_kf_uv_mode_prob[INTRA_MODES][INTRA_MODES - 1];
extern
const
vpx_prob
vp10_kf_partition_probs
[
PARTITION_CONTEXTS
]
[
PARTITION_TYPES
-
1
];
#endif
extern
const
vpx_prob
vp10_default_palette_y_mode_prob
[
PALETTE_BLOCK_SIZES
][
PALETTE_Y_MODE_CONTEXTS
];
extern
const
vpx_prob
vp10_default_palette_y_size_prob
[
PALETTE_BLOCK_SIZES
][
PALETTE_SIZES
-
1
];
extern
const
vpx_prob
vp10_default_palette_uv_size_prob
[
PALETTE_BLOCK_SIZES
][
PALETTE_SIZES
-
1
];
extern
const
vpx_prob
vp10_default_palette_y_color_prob
[
PALETTE_MAX_SIZE
-
1
][
PALETTE_COLOR_CONTEXTS
][
PALETTE_COLORS
-
1
];
extern
const
vpx_prob
vp10_default_palette_uv_color_prob
[
PALETTE_MAX_SIZE
-
1
][
PALETTE_COLOR_CONTEXTS
][
PALETTE_COLORS
-
1
];
extern
const
vpx_tree_index
vp10_intra_mode_tree
[
TREE_SIZE
(
INTRA_MODES
)];
extern
const
vpx_tree_index
vp10_inter_mode_tree
[
TREE_SIZE
(
INTER_MODES
)];
extern
const
vpx_tree_index
vp10_partition_tree
[
TREE_SIZE
(
PARTITION_TYPES
)];
extern
const
vpx_tree_index
vp10_switchable_interp_tree
[
TREE_SIZE
(
SWITCHABLE_FILTERS
)];
extern
const
vpx_tree_index
vp10_palette_size_tree
[
TREE_SIZE
(
PALETTE_SIZES
)];
extern
const
vpx_tree_index
vp10_palette_color_tree
[
PALETTE_MAX_SIZE
-
1
][
TREE_SIZE
(
PALETTE_COLORS
)];
void
vp10_setup_past_independence
(
struct
VP10Common
*
cm
);
...
...
@@ -147,9 +128,6 @@ static INLINE int vp10_ceil_log2(int n) {
return
i
;
}
int
vp10_get_palette_color_context
(
const
uint8_t
*
color_map
,
int
cols
,
int
r
,
int
c
,
int
n
,
int
*
color_order
);
#ifdef __cplusplus
}
// extern "C"
#endif
...
...
vp10/common/enums.h
View file @
5d3327e8
...
...
@@ -109,29 +109,6 @@ typedef enum {
PLANE_TYPES
}
PLANE_TYPE
;
typedef
enum
{
TWO_COLORS
,
THREE_COLORS
,
FOUR_COLORS
,
FIVE_COLORS
,
SIX_COLORS
,
SEVEN_COLORS
,
EIGHT_COLORS
,
PALETTE_SIZES
}
PALETTE_SIZE
;
typedef
enum
{
PALETTE_COLOR_ONE
,
PALETTE_COLOR_TWO
,
PALETTE_COLOR_THREE
,
PALETTE_COLOR_FOUR
,
PALETTE_COLOR_FIVE
,
PALETTE_COLOR_SIX
,
PALETTE_COLOR_SEVEN
,
PALETTE_COLOR_EIGHT
,
PALETTE_COLORS
}
PALETTE_COLOR
;
#define DC_PRED 0 // Average of above and left pixels
#define V_PRED 1 // Vertical
#define H_PRED 2 // Horizontal
...
...
vp10/common/onyxc_int.h
View file @
5d3327e8
...
...
@@ -185,8 +185,6 @@ typedef struct VP10Common {
int
allow_high_precision_mv
;
int
allow_screen_content_tools
;
// Flag signaling which frame contexts should be reset to default values.
RESET_FRAME_CONTEXT_MODE
reset_frame_context
;
...
...
vp10/common/reconintra.c
View file @
5d3327e8
...
...
@@ -753,40 +753,6 @@ void vp10_predict_intra_block(const MACROBLOCKD *xd, int bwl_in, int bhl_in,
const
int
have_right
=
(
aoff
+
txw
)
<
bw
;
#endif // CONFIG_MISC_FIXES
if
(
xd
->
mi
[
0
]
->
mbmi
.
palette_mode_info
.
palette_size
[
plane
!=
0
]
>
0
)
{
const
int
bs
=
4
*
(
1
<<
tx_size
);