source: 3DVCSoftware/branches/HTM-DEV-2.0-dev0/source/Lib/TLibCommon/ContextTables.h

Last change on this file was 601, checked in by tech, 11 years ago

Merged dev3: DEV-2.0-DEV3-KWU@589
  • Property svn:eol-style set to native
File size: 14.8 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     ContextTables.h
35    \brief    Defines constants and tables for SBAC
36    \todo     number of context models is not matched to actual use, should be fixed
37*/
38
39#ifndef __CONTEXTTABLES__
40#define __CONTEXTTABLES__
41
42//! \ingroup TLibCommon
43//! \{
44#define FIX827 1 ///< Fix for issue #827: CABAC init tables
45#define FIX712 1 ///< Fix for issue #712: CABAC init tables
46
47// ====================================================================================================================
48// Constants
49// ====================================================================================================================
50
51#define MAX_NUM_CTX_MOD             512       ///< maximum number of supported contexts
52
53#define NUM_SPLIT_FLAG_CTX            3       ///< number of context models for split flag
54#define NUM_SKIP_FLAG_CTX             3       ///< number of context models for skip flag
55
56#define NUM_MERGE_FLAG_EXT_CTX        1       ///< number of context models for merge flag of merge extended
57#define NUM_MERGE_IDX_EXT_CTX         1       ///< number of context models for merge index of merge extended
58
59#define NUM_PART_SIZE_CTX             4       ///< number of context models for partition size
60#define NUM_CU_AMP_CTX                1       ///< number of context models for partition size (AMP)
61#define NUM_PRED_MODE_CTX             1       ///< number of context models for prediction mode
62
63#define NUM_ADI_CTX                   1       ///< number of context models for intra prediction
64
65#define NUM_CHROMA_PRED_CTX           2       ///< number of context models for intra prediction (chroma)
66#define NUM_INTER_DIR_CTX             5       ///< number of context models for inter prediction direction
67#define NUM_MV_RES_CTX                2       ///< number of context models for motion vector difference
68
69#define NUM_REF_NO_CTX                2       ///< number of context models for reference index
70#define NUM_TRANS_SUBDIV_FLAG_CTX     3       ///< number of context models for transform subdivision flags
71#define NUM_QT_CBF_CTX                5       ///< number of context models for QT CBF
72#define NUM_QT_ROOT_CBF_CTX           1       ///< number of context models for QT ROOT CBF
73#define NUM_DELTA_QP_CTX              3       ///< number of context models for dQP
74
75#define NUM_SIG_CG_FLAG_CTX           2       ///< number of context models for MULTI_LEVEL_SIGNIFICANCE
76
77#define NUM_SIG_FLAG_CTX              42      ///< number of context models for sig flag
78#define NUM_SIG_FLAG_CTX_LUMA         27      ///< number of context models for luma sig flag
79#define NUM_SIG_FLAG_CTX_CHROMA       15      ///< number of context models for chroma sig flag
80
81#define NUM_CTX_LAST_FLAG_XY          15      ///< number of context models for last coefficient position
82
83#define NUM_ONE_FLAG_CTX              24      ///< number of context models for greater than 1 flag
84#define NUM_ONE_FLAG_CTX_LUMA         16      ///< number of context models for greater than 1 flag of luma
85#define NUM_ONE_FLAG_CTX_CHROMA        8      ///< number of context models for greater than 1 flag of chroma
86#define NUM_ABS_FLAG_CTX               6      ///< number of context models for greater than 2 flag
87#define NUM_ABS_FLAG_CTX_LUMA          4      ///< number of context models for greater than 2 flag of luma
88#define NUM_ABS_FLAG_CTX_CHROMA        2      ///< number of context models for greater than 2 flag of chroma
89
90#define NUM_MVP_IDX_CTX               2       ///< number of context models for MVP index
91
92#define NUM_SAO_MERGE_FLAG_CTX        1       ///< number of context models for SAO merge flags
93#define NUM_SAO_TYPE_IDX_CTX          1       ///< number of context models for SAO type index
94
95#define NUM_TRANSFORMSKIP_FLAG_CTX    1       ///< number of context models for transform skipping
96#define NUM_CU_TRANSQUANT_BYPASS_FLAG_CTX  1
97
98#if H_3D_ARP
99#define NUM_ARPW_CTX                  4       ///< number of context models for weighting factor index used by advanced residual prediction
100#endif
101
102#if H_3D_IC
103#define NUM_IC_FLAG_CTX               3       ///< number of context models for illumination compensation flag
104#endif
105
106#define CNU                          154      ///< dummy initialization value for unused context models 'Context model Not Used'
107
108#if H_3D_DIM
109#define NUM_DEPTH_INTRA_MODE_CTX      8       ///< number of context models for depth intra modes
110#define NUM_DDC_FLAG_CTX              2       ///< number of context models for deltaDC flag (DMM or RBC)
111#define NUM_DDC_DATA_CTX              2       ///< number of context models for deltaDC data (DMM or RBC)
112#if H_3D_DIM_DMM
113#define NUM_DMM1_DATA_CTX             1       ///< number of context models for DMM1 data
114#if !SEC_DMM2_E0146
115#define NUM_DMM2_DATA_CTX             1       ///< number of context models for DMM2 data
116#endif
117#define NUM_DMM3_DATA_CTX             1       ///< number of context models for DMM3 data
118#endif
119#if H_3D_DIM_RBC
120#define NUM_RBC_DATA_CTX              1       ///< number of context models for RBC data
121#endif
122#endif
123
124#if H_3D_DIM_SDC
125#define SDC_NUM_RESIDUAL_FLAG_CTX        1
126#define SDC_NUM_RESIDUAL_CTX             1
127#endif
128
129#if LGE_INTER_SDC_E0156
130#define NUM_INTER_SDC_FLAG_CTX        1      ///< number of context models for inter SDC flag
131#define NUM_INTER_SDC_SIGN_FLAG_CTX   1      ///< number of context models for sign of inter SDC residual
132#define NUM_INTER_SDC_RESIDUAL_CTX    1      ///< number of context models for abs of inter SDC residual
133#endif
134// ====================================================================================================================
135// Tables
136// ====================================================================================================================
137
138// initial probability for cu_transquant_bypass flag
139static const UChar
140INIT_CU_TRANSQUANT_BYPASS_FLAG[3][NUM_CU_TRANSQUANT_BYPASS_FLAG_CTX] =
141{
142  { 154 }, 
143  { 154 }, 
144  { 154 }, 
145};
146
147// initial probability for split flag
148static const UChar
149INIT_SPLIT_FLAG[3][NUM_SPLIT_FLAG_CTX] = 
150{
151  { 107,  139,  126, },
152  { 107,  139,  126, }, 
153  { 139,  141,  157, }, 
154};
155
156static const UChar
157INIT_SKIP_FLAG[3][NUM_SKIP_FLAG_CTX] = 
158{
159  { 197,  185,  201, }, 
160  { 197,  185,  201, }, 
161  { CNU,  CNU,  CNU, }, 
162};
163
164static const UChar
165INIT_MERGE_FLAG_EXT[3][NUM_MERGE_FLAG_EXT_CTX] = 
166{
167  { 154, }, 
168  { 110, }, 
169  { CNU, }, 
170};
171
172static const UChar
173INIT_MERGE_IDX_EXT[3][NUM_MERGE_IDX_EXT_CTX] = 
174{
175  { 137, }, 
176  { 122, }, 
177  { CNU, }, 
178};
179
180static const UChar
181INIT_PART_SIZE[3][NUM_PART_SIZE_CTX] = 
182{
183  { 154,  139,  CNU,  CNU, }, 
184  { 154,  139,  CNU,  CNU, }, 
185  { 184,  CNU,  CNU,  CNU, }, 
186};
187
188static const UChar
189INIT_CU_AMP_POS[3][NUM_CU_AMP_CTX] = 
190{
191  { 154, }, 
192  { 154, }, 
193  { CNU, }, 
194};
195
196static const UChar
197INIT_PRED_MODE[3][NUM_PRED_MODE_CTX] = 
198{
199  { 134, }, 
200  { 149, }, 
201  { CNU, }, 
202};
203
204static const UChar
205INIT_INTRA_PRED_MODE[3][NUM_ADI_CTX] = 
206{
207  { 183, }, 
208  { 154, }, 
209  { 184, }, 
210};
211
212static const UChar
213INIT_CHROMA_PRED_MODE[3][NUM_CHROMA_PRED_CTX] = 
214{
215  { 152,  139, }, 
216  { 152,  139, }, 
217  {  63,  139, }, 
218};
219
220static const UChar
221INIT_INTER_DIR[3][NUM_INTER_DIR_CTX] = 
222{
223  {  95,   79,   63,   31,  31, }, 
224  {  95,   79,   63,   31,  31, }, 
225  { CNU,  CNU,  CNU,  CNU, CNU, }, 
226};
227
228static const UChar
229INIT_MVD[3][NUM_MV_RES_CTX] = 
230{
231  { 169,  198, }, 
232  { 140,  198, }, 
233  { CNU,  CNU, }, 
234};
235
236static const UChar
237INIT_REF_PIC[3][NUM_REF_NO_CTX] = 
238{
239  { 153,  153 }, 
240  { 153,  153 }, 
241  { CNU,  CNU }, 
242};
243
244static const UChar
245INIT_DQP[3][NUM_DELTA_QP_CTX] = 
246{
247  { 154,  154,  154, }, 
248  { 154,  154,  154, }, 
249  { 154,  154,  154, }, 
250};
251
252static const UChar
253INIT_QT_CBF[3][2*NUM_QT_CBF_CTX] = 
254{
255  { 153,  111,  CNU,  CNU,  CNU,  149,   92,  167,  CNU,  CNU, }, 
256  { 153,  111,  CNU,  CNU,  CNU,  149,  107,  167,  CNU,  CNU, }, 
257  { 111,  141,  CNU,  CNU,  CNU,   94,  138,  182,  CNU,  CNU, }, 
258};
259
260static const UChar
261INIT_QT_ROOT_CBF[3][NUM_QT_ROOT_CBF_CTX] = 
262{
263  {  79, }, 
264  {  79, }, 
265  { CNU, }, 
266};
267
268static const UChar
269INIT_LAST[3][2*NUM_CTX_LAST_FLAG_XY] = 
270{
271  { 125,  110,  124,  110,   95,   94,  125,  111,  111,   79,  125,  126,  111,  111,   79,
272    108,  123,   93,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU, 
273  }, 
274  { 125,  110,   94,  110,   95,   79,  125,  111,  110,   78,  110,  111,  111,   95,   94,
275    108,  123,  108,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,
276  }, 
277  { 110,  110,  124,  125,  140,  153,  125,  127,  140,  109,  111,  143,  127,  111,   79, 
278    108,  123,   63,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU, 
279  }, 
280};
281
282static const UChar
283INIT_SIG_CG_FLAG[3][2 * NUM_SIG_CG_FLAG_CTX] = 
284{
285  { 121,  140, 
286    61,  154, 
287  }, 
288  { 121,  140, 
289    61,  154, 
290  }, 
291  {  91,  171, 
292    134,  141, 
293  }, 
294};
295
296static const UChar
297INIT_SIG_FLAG[3][NUM_SIG_FLAG_CTX] = 
298{
299  { 170,  154,  139,  153,  139,  123,  123,   63,  124,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  170,  153,  138,  138,  122,  121,  122,  121,  167,  151,  183,  140,  151,  183,  140,  }, 
300  { 155,  154,  139,  153,  139,  123,  123,   63,  153,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  170,  153,  123,  123,  107,  121,  107,  121,  167,  151,  183,  140,  151,  183,  140,  }, 
301  { 111,  111,  125,  110,  110,   94,  124,  108,  124,  107,  125,  141,  179,  153,  125,  107,  125,  141,  179,  153,  125,  107,  125,  141,  179,  153,  125,  140,  139,  182,  182,  152,  136,  152,  136,  153,  136,  139,  111,  136,  139,  111,  }, 
302};
303
304static const UChar
305INIT_ONE_FLAG[3][NUM_ONE_FLAG_CTX] = 
306{
307  { 154,  196,  167,  167,  154,  152,  167,  182,  182,  134,  149,  136,  153,  121,  136,  122,  169,  208,  166,  167,  154,  152,  167,  182, }, 
308  { 154,  196,  196,  167,  154,  152,  167,  182,  182,  134,  149,  136,  153,  121,  136,  137,  169,  194,  166,  167,  154,  167,  137,  182, }, 
309  { 140,   92,  137,  138,  140,  152,  138,  139,  153,   74,  149,   92,  139,  107,  122,  152,  140,  179,  166,  182,  140,  227,  122,  197, }, 
310};
311
312static const UChar
313INIT_ABS_FLAG[3][NUM_ABS_FLAG_CTX] = 
314{
315  { 107,  167,   91,  107,  107,  167, }, 
316  { 107,  167,   91,  122,  107,  167, }, 
317  { 138,  153,  136,  167,  152,  152, }, 
318};
319
320static const UChar
321INIT_MVP_IDX[3][NUM_MVP_IDX_CTX] = 
322{
323  { 168,  CNU, }, 
324  { 168,  CNU, }, 
325  { CNU,  CNU, }, 
326};
327
328static const UChar
329INIT_SAO_MERGE_FLAG[3][NUM_SAO_MERGE_FLAG_CTX] = 
330{
331  { 153,  }, 
332  { 153,  }, 
333  { 153,  }, 
334};
335
336static const UChar
337INIT_SAO_TYPE_IDX[3][NUM_SAO_TYPE_IDX_CTX] = 
338{
339#if FIX827
340  { 160, },
341  { 185, },
342  { 200, },
343#else
344  { 200, },
345  { 185, }, 
346  { 160, },
347#endif
348};
349
350static const UChar
351INIT_TRANS_SUBDIV_FLAG[3][NUM_TRANS_SUBDIV_FLAG_CTX] =
352{
353#if FIX712
354  { 224,  167,  122, },
355  { 124,  138,   94, },
356  { 153,  138,  138, },
357#else
358  { 153,  138,  138, },
359  { 124,  138,   94, },
360  { 224,  167,  122, },
361#endif
362};
363
364static const UChar
365INIT_TRANSFORMSKIP_FLAG[3][2*NUM_TRANSFORMSKIP_FLAG_CTX] = 
366{
367  { 139,  139}, 
368  { 139,  139}, 
369  { 139,  139}, 
370};
371
372#if H_3D_ARP
373static const UChar
374INIT_ARPW[3][NUM_ARPW_CTX] = 
375{
376  { 154, 154, 154, 154 }, 
377  { 154, 154, 154, 154 }, 
378  { 154, 154, 154, 154 }, 
379};
380#endif
381
382#if H_3D_IC
383static const UChar
384INIT_IC_FLAG[3][NUM_IC_FLAG_CTX] = 
385{
386  { CNU,  CNU,  CNU, }, 
387  { 197,  185,  201, }, 
388  { 197,  185,  201, }, 
389};
390#endif
391#if H_3D_DIM
392#if ZJU_DEPTH_INTRA_MODE_E0204
393static const UChar
394INIT_DEPTH_INTRA_MODE[3][NUM_DEPTH_INTRA_MODE_CTX] =
395{
396    {0,  0,  64, 168, 168, 124, CNU, 0},
397    {0, 64,   0, 183, CNU, 108,   0, 0},
398    {64, 0, CNU, CNU, 168, 109,   0, 0}
399};
400#else
401static const UChar
402INIT_DEPTH_INTRA_MODE[3][NUM_DEPTH_INTRA_MODE_CTX] =
403{
404  {0,  0,  64,   0, CNU,   0, CNU, 0},
405  {0, 64,   0, CNU,   0, CNU,   0, 0},
406  {64, 0, CNU,   0, CNU,   0,   0, 0}
407};
408#endif
409static const UChar
410INIT_DDC_FLAG[3][NUM_DDC_FLAG_CTX] =
411{
412  {0 , CNU},
413  {0 , CNU},
414  {64, CNU}
415};
416static const UChar
417INIT_DDC_DATA[3][NUM_DDC_DATA_CTX] = 
418{
419  { CNU, CNU }, 
420  { CNU, CNU }, 
421  { CNU, CNU }, 
422};
423#if H_3D_DIM_DMM
424static const UChar
425INIT_DMM1_DATA[3][NUM_DMM1_DATA_CTX] = 
426{
427  { CNU }, 
428  { CNU }, 
429  { CNU }, 
430};
431#if !SEC_DMM2_E0146
432static const UChar
433INIT_DMM2_DATA[3][NUM_DMM2_DATA_CTX] = 
434{
435  { CNU }, 
436  { CNU }, 
437  { CNU }, 
438};
439#endif
440static const UChar
441INIT_DMM3_DATA[3][NUM_DMM3_DATA_CTX] = 
442{
443  { CNU }, 
444  { CNU }, 
445  { CNU }, 
446};
447#endif
448#if H_3D_DIM_RBC
449static const UChar
450INIT_RBC_DATA[3][NUM_RBC_DATA_CTX] = 
451{
452  { CNU }, 
453  { CNU }, 
454  { CNU }, 
455};
456#endif
457#if H_3D_DIM_SDC
458static const UChar
459INIT_SDC_RESIDUAL_FLAG[3][SDC_NUM_RESIDUAL_FLAG_CTX] =
460{
461  { CNU },
462  { CNU },
463  { CNU },
464};
465static const UChar
466INIT_SDC_RESIDUAL[3][SDC_NUM_RESIDUAL_CTX] =
467{
468  { 155 },
469  { 155 },
470  { 155 },
471};
472#endif
473#endif
474
475#if LGE_INTER_SDC_E0156
476static const UChar
477INIT_INTER_SDC_FLAG[3][NUM_INTER_SDC_FLAG_CTX] =
478{
479  { CNU }, 
480  { 154 },
481  { 154 },
482};
483
484static const UChar
485INIT_INTER_SDC_SIGN_FLAG[3][NUM_INTER_SDC_SIGN_FLAG_CTX] =
486{
487  { CNU }, 
488  { 154 },
489  { 154 },
490};
491
492static const UChar
493INIT_INTER_SDC_RESIDUAL[3][NUM_INTER_SDC_RESIDUAL_CTX] =
494{
495  { CNU }, 
496  { 154 },
497  { 154 },
498};
499#endif
500//! \}
501
502
503#endif
Note: See TracBrowser for help on using the repository browser.