source: 3DVCSoftware/branches/HTM-13.1-dev1-Samsung/source/Lib/TLibCommon/ContextTables.h

Last change on this file was 1145, checked in by samsung-htm, 10 years ago

Integration of K0033: Depth intra skip (DIS) mode
  • Property svn:eol-style set to native
File size: 13.8 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6* Copyright (c) 2010-2014, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     ContextTables.h
35    \brief    Defines constants and tables for SBAC
36    \todo     number of context models is not matched to actual use, should be fixed
37*/
38
39#ifndef __CONTEXTTABLES__
40#define __CONTEXTTABLES__
41
42//! \ingroup TLibCommon
43//! \{
44
45// ====================================================================================================================
46// Constants
47// ====================================================================================================================
48
49#define MAX_NUM_CTX_MOD             512       ///< maximum number of supported contexts
50
51#define NUM_SPLIT_FLAG_CTX            3       ///< number of context models for split flag
52#define NUM_SKIP_FLAG_CTX             3       ///< number of context models for skip flag
53#if SEC_DEPTH_INTRA_SKIP_MODE_K0033
54#define NUM_DIS_FLAG_CTX              1
55#define NUM_DIS_TYPE_CTX              1       
56#else
57#if H_3D_SINGLE_DEPTH
58#define NUM_SINGLEDEPTH_FLAG_CTX                     1
59#define NUM_SINGLE_DEPTH_VALUE_DATA_CTX              1       
60#endif
61#endif
62#define NUM_MERGE_FLAG_EXT_CTX        1       ///< number of context models for merge flag of merge extended
63#define NUM_MERGE_IDX_EXT_CTX         1       ///< number of context models for merge index of merge extended
64
65#define NUM_PART_SIZE_CTX             4       ///< number of context models for partition size
66#define NUM_PRED_MODE_CTX             1       ///< number of context models for prediction mode
67
68#define NUM_ADI_CTX                   1       ///< number of context models for intra prediction
69
70#define NUM_CHROMA_PRED_CTX           2       ///< number of context models for intra prediction (chroma)
71#define NUM_INTER_DIR_CTX             5       ///< number of context models for inter prediction direction
72#define NUM_MV_RES_CTX                2       ///< number of context models for motion vector difference
73
74#define NUM_REF_NO_CTX                2       ///< number of context models for reference index
75#define NUM_TRANS_SUBDIV_FLAG_CTX     3       ///< number of context models for transform subdivision flags
76#define NUM_QT_CBF_CTX                4       ///< number of context models for QT CBF
77#define NUM_QT_ROOT_CBF_CTX           1       ///< number of context models for QT ROOT CBF
78#define NUM_DELTA_QP_CTX              3       ///< number of context models for dQP
79
80#define NUM_SIG_CG_FLAG_CTX           2       ///< number of context models for MULTI_LEVEL_SIGNIFICANCE
81
82#define NUM_SIG_FLAG_CTX              42      ///< number of context models for sig flag
83#define NUM_SIG_FLAG_CTX_LUMA         27      ///< number of context models for luma sig flag
84#define NUM_SIG_FLAG_CTX_CHROMA       15      ///< number of context models for chroma sig flag
85
86#define NUM_CTX_LAST_FLAG_XY          15      ///< number of context models for last coefficient position
87
88#define NUM_ONE_FLAG_CTX              24      ///< number of context models for greater than 1 flag
89#define NUM_ONE_FLAG_CTX_LUMA         16      ///< number of context models for greater than 1 flag of luma
90#define NUM_ONE_FLAG_CTX_CHROMA        8      ///< number of context models for greater than 1 flag of chroma
91#define NUM_ABS_FLAG_CTX               6      ///< number of context models for greater than 2 flag
92#define NUM_ABS_FLAG_CTX_LUMA          4      ///< number of context models for greater than 2 flag of luma
93#define NUM_ABS_FLAG_CTX_CHROMA        2      ///< number of context models for greater than 2 flag of chroma
94
95#define NUM_MVP_IDX_CTX               1       ///< number of context models for MVP index
96
97#define NUM_SAO_MERGE_FLAG_CTX        1       ///< number of context models for SAO merge flags
98#define NUM_SAO_TYPE_IDX_CTX          1       ///< number of context models for SAO type index
99
100#define NUM_TRANSFORMSKIP_FLAG_CTX    1       ///< number of context models for transform skipping
101#define NUM_CU_TRANSQUANT_BYPASS_FLAG_CTX  1
102
103#if H_3D_ARP
104#define NUM_ARPW_CTX                  3       ///< number of context models for weighting factor index used by advanced residual prediction
105#endif
106
107#if H_3D_IC
108#define NUM_IC_FLAG_CTX               1       ///< number of context models for illumination compensation flag
109#endif
110
111#define CNU                          154      ///< dummy initialization value for unused context models 'Context model Not Used'
112
113#if H_3D_DIM
114#define NUM_DEPTH_INTRA_MODE_CTX      1       ///< number of context models for depth intra modes
115#define NUM_DDC_FLAG_CTX              2       ///< number of context models for deltaDC flag (DMM or RBC)
116#define NUM_DDC_DATA_CTX              1       ///< number of context models for deltaDC data (DMM or RBC)
117#if H_3D_DIM_DMM
118#define NUM_DMM1_DATA_CTX             1       ///< number of context models for DMM1 data
119#endif
120#define NUM_ANGLE_FLAG_CTX            1
121#endif
122
123#if H_3D_DIM_SDC
124#define SDC_NUM_RESIDUAL_FLAG_CTX     1
125#define SDC_NUM_RESIDUAL_CTX          1
126#define NUM_SDC_FLAG_CTX              1      ///< number of context
127#endif
128#if H_3D_DBBP
129#define DBBP_NUM_FLAG_CTX                 1
130#endif
131// ====================================================================================================================
132// Tables
133// ====================================================================================================================
134
135// initial probability for cu_transquant_bypass flag
136static const UChar
137INIT_CU_TRANSQUANT_BYPASS_FLAG[3][NUM_CU_TRANSQUANT_BYPASS_FLAG_CTX] =
138{
139  { 154 }, 
140  { 154 }, 
141  { 154 }, 
142};
143
144// initial probability for split flag
145static const UChar
146INIT_SPLIT_FLAG[3][NUM_SPLIT_FLAG_CTX] = 
147{
148  { 107,  139,  126, },
149  { 107,  139,  126, }, 
150  { 139,  141,  157, }, 
151};
152
153static const UChar
154INIT_SKIP_FLAG[3][NUM_SKIP_FLAG_CTX] = 
155{
156  { 197,  185,  201, }, 
157  { 197,  185,  201, }, 
158  { CNU,  CNU,  CNU, }, 
159};
160#if SEC_DEPTH_INTRA_SKIP_MODE_K0033
161static const UChar
162INIT_DIS_FLAG[3][NUM_DIS_FLAG_CTX] = 
163{
164    { 185 }, 
165    { 185 }, 
166    { 185 },
167};
168static const UChar
169INIT_DIS_TYPE[3][NUM_DIS_TYPE_CTX] = 
170{
171    { 137 }, 
172    { 137 }, 
173    { 137 }, 
174};
175#else
176#if H_3D_SINGLE_DEPTH
177static const UChar
178INIT_SINGLEDEPTH_FLAG[3][NUM_SINGLEDEPTH_FLAG_CTX] = 
179{
180  { 185 }, 
181  { 185 }, 
182  { 185 }, 
183};
184static const UChar
185INIT_SINGLE_DEPTH_VALUE_DATA[3][NUM_SINGLE_DEPTH_VALUE_DATA_CTX] = 
186{
187  { 137 }, 
188  { 137 }, 
189  { 137 }, 
190};
191#endif
192#endif
193static const UChar
194INIT_MERGE_FLAG_EXT[3][NUM_MERGE_FLAG_EXT_CTX] = 
195{
196  { 154, }, 
197  { 110, }, 
198  { CNU, }, 
199};
200
201static const UChar
202INIT_MERGE_IDX_EXT[3][NUM_MERGE_IDX_EXT_CTX] = 
203{
204  { 137, }, 
205  { 122, }, 
206  { CNU, }, 
207};
208
209static const UChar
210INIT_PART_SIZE[3][NUM_PART_SIZE_CTX] = 
211{
212  { 154,  139,  154,  154 },
213  { 154,  139,  154,  154 },
214  { 184,  CNU,  CNU,  CNU },
215};
216
217static const UChar
218INIT_PRED_MODE[3][NUM_PRED_MODE_CTX] = 
219{
220  { 134, }, 
221  { 149, }, 
222  { CNU, }, 
223};
224
225static const UChar
226INIT_INTRA_PRED_MODE[3][NUM_ADI_CTX] = 
227{
228  { 183, }, 
229  { 154, }, 
230  { 184, }, 
231};
232
233static const UChar
234INIT_CHROMA_PRED_MODE[3][NUM_CHROMA_PRED_CTX] = 
235{
236  { 152,  139, }, 
237  { 152,  139, }, 
238  {  63,  139, }, 
239};
240
241static const UChar
242INIT_INTER_DIR[3][NUM_INTER_DIR_CTX] = 
243{
244  {  95,   79,   63,   31,  31, }, 
245  {  95,   79,   63,   31,  31, }, 
246  { CNU,  CNU,  CNU,  CNU, CNU, }, 
247};
248
249static const UChar
250INIT_MVD[3][NUM_MV_RES_CTX] = 
251{
252  { 169,  198, }, 
253  { 140,  198, }, 
254  { CNU,  CNU, }, 
255};
256
257static const UChar
258INIT_REF_PIC[3][NUM_REF_NO_CTX] = 
259{
260  { 153,  153 }, 
261  { 153,  153 }, 
262  { CNU,  CNU }, 
263};
264
265static const UChar
266INIT_DQP[3][NUM_DELTA_QP_CTX] = 
267{
268  { 154,  154,  154, }, 
269  { 154,  154,  154, }, 
270  { 154,  154,  154, }, 
271};
272
273static const UChar
274INIT_QT_CBF[3][2*NUM_QT_CBF_CTX] = 
275{
276  { 153,  111,  CNU,  CNU,   149,   92,  167,  154 },
277  { 153,  111,  CNU,  CNU,   149,  107,  167,  154 },
278  { 111,  141,  CNU,  CNU,    94,  138,  182,  154 },
279};
280
281static const UChar
282INIT_QT_ROOT_CBF[3][NUM_QT_ROOT_CBF_CTX] = 
283{
284  {  79, }, 
285  {  79, }, 
286  { CNU, }, 
287};
288
289static const UChar
290INIT_LAST[3][2*NUM_CTX_LAST_FLAG_XY] = 
291{
292  { 125,  110,  124,  110,   95,   94,  125,  111,  111,   79,  125,  126,  111,  111,   79,
293    108,  123,   93,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU, 
294  }, 
295  { 125,  110,   94,  110,   95,   79,  125,  111,  110,   78,  110,  111,  111,   95,   94,
296    108,  123,  108,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,
297  }, 
298  { 110,  110,  124,  125,  140,  153,  125,  127,  140,  109,  111,  143,  127,  111,   79, 
299    108,  123,   63,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU,  CNU, 
300  }, 
301};
302
303static const UChar
304INIT_SIG_CG_FLAG[3][2 * NUM_SIG_CG_FLAG_CTX] = 
305{
306  { 121,  140, 
307    61,  154, 
308  }, 
309  { 121,  140, 
310    61,  154, 
311  }, 
312  {  91,  171, 
313    134,  141, 
314  }, 
315};
316
317static const UChar
318INIT_SIG_FLAG[3][NUM_SIG_FLAG_CTX] = 
319{
320  { 170,  154,  139,  153,  139,  123,  123,   63,  124,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  170,  153,  138,  138,  122,  121,  122,  121,  167,  151,  183,  140,  151,  183,  140,  }, 
321  { 155,  154,  139,  153,  139,  123,  123,   63,  153,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  166,  183,  140,  136,  153,  154,  170,  153,  123,  123,  107,  121,  107,  121,  167,  151,  183,  140,  151,  183,  140,  }, 
322  { 111,  111,  125,  110,  110,   94,  124,  108,  124,  107,  125,  141,  179,  153,  125,  107,  125,  141,  179,  153,  125,  107,  125,  141,  179,  153,  125,  140,  139,  182,  182,  152,  136,  152,  136,  153,  136,  139,  111,  136,  139,  111,  }, 
323};
324
325static const UChar
326INIT_ONE_FLAG[3][NUM_ONE_FLAG_CTX] = 
327{
328  { 154,  196,  167,  167,  154,  152,  167,  182,  182,  134,  149,  136,  153,  121,  136,  122,  169,  208,  166,  167,  154,  152,  167,  182, }, 
329  { 154,  196,  196,  167,  154,  152,  167,  182,  182,  134,  149,  136,  153,  121,  136,  137,  169,  194,  166,  167,  154,  167,  137,  182, }, 
330  { 140,   92,  137,  138,  140,  152,  138,  139,  153,   74,  149,   92,  139,  107,  122,  152,  140,  179,  166,  182,  140,  227,  122,  197, }, 
331};
332
333static const UChar
334INIT_ABS_FLAG[3][NUM_ABS_FLAG_CTX] = 
335{
336  { 107,  167,   91,  107,  107,  167, }, 
337  { 107,  167,   91,  122,  107,  167, }, 
338  { 138,  153,  136,  167,  152,  152, }, 
339};
340
341static const UChar
342INIT_MVP_IDX[3][NUM_MVP_IDX_CTX] = 
343{
344  { 168 },
345  { 168 },
346  { CNU }, 
347};
348
349static const UChar
350INIT_SAO_MERGE_FLAG[3][NUM_SAO_MERGE_FLAG_CTX] = 
351{
352  { 153,  }, 
353  { 153,  }, 
354  { 153,  }, 
355};
356
357static const UChar
358INIT_SAO_TYPE_IDX[3][NUM_SAO_TYPE_IDX_CTX] = 
359{
360  { 160, },
361  { 185, },
362  { 200, },
363};
364
365static const UChar
366INIT_TRANS_SUBDIV_FLAG[3][NUM_TRANS_SUBDIV_FLAG_CTX] =
367{
368  { 224,  167,  122, },
369  { 124,  138,   94, },
370  { 153,  138,  138, },
371};
372
373static const UChar
374INIT_TRANSFORMSKIP_FLAG[3][2*NUM_TRANSFORMSKIP_FLAG_CTX] = 
375{
376  { 139,  139}, 
377  { 139,  139}, 
378  { 139,  139}, 
379};
380
381#if H_3D_ARP
382static const UChar
383INIT_ARPW[3][NUM_ARPW_CTX] = 
384{
385    { 162, 153, 162 },
386    { 162, 153, 162 },
387    { 162, 153, 162 },
388};
389
390#endif
391#if H_3D_IC
392static const UChar
393INIT_IC_FLAG[3][NUM_IC_FLAG_CTX] = 
394{
395    { 154 },
396    { 154 },
397    { 154 },
398};
399
400#endif
401#if H_3D_DIM
402static const UChar
403INIT_DEPTH_INTRA_MODE[3][NUM_DEPTH_INTRA_MODE_CTX] =
404{
405  { 154, },
406  { 154, },
407  { 154, }
408};
409
410static const UChar
411INIT_ANGLE_FLAG[3][NUM_ANGLE_FLAG_CTX] =
412{
413  { 154 },
414  { 141 },
415  { 155 },
416};
417
418static const UChar
419INIT_DDC_FLAG[3][NUM_DDC_FLAG_CTX] =
420{
421  {0 , CNU},
422  {0 , CNU},
423  {64, CNU}
424};
425static const UChar
426INIT_DDC_DATA[3][NUM_DDC_DATA_CTX] = 
427{
428  { 154 }, 
429  { 154 }, 
430  { 154 }, 
431};
432#if H_3D_DIM_DMM
433static const UChar
434INIT_DMM1_DATA[3][NUM_DMM1_DATA_CTX] = 
435{
436  { CNU }, 
437  { CNU }, 
438  { CNU }, 
439};
440#endif
441#if H_3D_DIM_SDC
442static const UChar
443INIT_SDC_RESIDUAL_FLAG[3][SDC_NUM_RESIDUAL_FLAG_CTX] =
444{
445  { CNU },
446  { CNU },
447  { CNU },
448};
449static const UChar
450INIT_SDC_RESIDUAL[3][SDC_NUM_RESIDUAL_CTX] =
451{
452  { 155 },
453  { 155 },
454  { 155 },
455};
456#endif
457#endif
458
459
460//! \}
461#if H_3D_DIM_SDC
462static const UChar
463INIT_SDC_FLAG[3][NUM_SDC_FLAG_CTX] =
464{
465  { 154 }, 
466  { 154 },
467  { 154 },
468};
469#endif
470
471#if H_3D_DBBP
472static const UChar INIT_DBBP_FLAG[3][DBBP_NUM_FLAG_CTX] =
473{
474  { CNU },
475  { CNU },
476  { CNU },
477};
478#endif
479
480#endif
Note: See TracBrowser for help on using the repository browser.