source: 3DVCSoftware/branches/HTM-12.0-dev1/source/Lib/TLibCommon/TComRom.h @ 1060

Last change on this file since 1060 was 1060, checked in by tech, 10 years ago

Added

  • Fix PTL
  • Support auxiliary pictures.
  • Property svn:eol-style set to native
File size: 15.9 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6* Copyright (c) 2010-2014, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TComRom.h
35    \brief    global variables & functions (header)
36*/
37
38#ifndef __TCOMROM__
39#define __TCOMROM__
40
41#include "CommonDef.h"
42#include "TypeDef.h"
43
44#include<stdio.h>
45#include<iostream>
46
47#if H_3D_DIM
48#include "TComWedgelet.h"
49#endif
50
51//! \ingroup TLibCommon
52//! \{
53
54// ====================================================================================================================
55// Macros
56// ====================================================================================================================
57
58#define     MAX_CU_DEPTH            6                           // log2(LCUSize)
59#define     MAX_CU_SIZE             (1<<(MAX_CU_DEPTH))         // maximum allowable size of CU
60#define     MIN_PU_SIZE             4
61#define     MAX_NUM_SPU_W           (MAX_CU_SIZE/MIN_PU_SIZE)   // maximum number of SPU in horizontal line
62
63// ====================================================================================================================
64// Initialize / destroy functions
65// ====================================================================================================================
66
67Void         initROM();
68Void         destroyROM();
69Void         initSigLastScan(UInt* pBuffD, UInt* pBuffH, UInt* pBuffV, Int iWidth, Int iHeight);
70// ====================================================================================================================
71// Data structure related table & variable
72// ====================================================================================================================
73
74// flexible conversion from relative to absolute index
75extern       UInt   g_auiZscanToRaster[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
76extern       UInt   g_auiRasterToZscan[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
77
78Void         initZscanToRaster ( Int iMaxDepth, Int iDepth, UInt uiStartVal, UInt*& rpuiCurrIdx );
79Void         initRasterToZscan ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth         );
80
81// conversion of partition index to picture pel position
82extern       UInt   g_auiRasterToPelX[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
83extern       UInt   g_auiRasterToPelY[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
84
85Void         initRasterToPelXY ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth );
86
87// global variable (LCU width/height, max. CU depth)
88extern       UInt g_uiMaxCUWidth;
89extern       UInt g_uiMaxCUHeight;
90extern       UInt g_uiMaxCUDepth;
91extern       UInt g_uiAddCUDepth;
92
93#define MAX_TS_WIDTH  4
94#define MAX_TS_HEIGHT 4
95
96extern       UInt g_auiPUOffset[8];
97
98#define QUANT_IQUANT_SHIFT    20 // Q(QP%6) * IQ(QP%6) = 2^20
99#define QUANT_SHIFT           14 // Q(4) = 2^14
100#define SCALE_BITS            15 // Inherited from TMuC, pressumably for fractional bit estimates in RDOQ
101#define MAX_TR_DYNAMIC_RANGE  15 // Maximum transform dynamic range (excluding sign bit)
102
103#define SHIFT_INV_1ST          7 // Shift after first inverse transform stage
104#define SHIFT_INV_2ND         12 // Shift after second inverse transform stage
105
106extern Int g_quantScales[6];             // Q(QP%6) 
107extern Int g_invQuantScales[6];          // IQ(QP%6)
108extern const Short g_aiT4[4][4];
109extern const Short g_aiT8[8][8];
110extern const Short g_aiT16[16][16];
111extern const Short g_aiT32[32][32];
112
113// ====================================================================================================================
114// Luma QP to Chroma QP mapping
115// ====================================================================================================================
116
117extern const UChar  g_aucChromaScale      [58];
118
119// ====================================================================================================================
120// Scanning order & context mapping table
121// ====================================================================================================================
122
123extern       UInt*  g_auiSigLastScan[ 3 ][ MAX_CU_DEPTH ];  // raster index from scanning index (diag, hor, ver)
124
125extern const UInt   g_uiGroupIdx[ 32 ];
126extern const UInt   g_uiMinInGroup[ 10 ];
127
128extern const UInt   g_sigLastScan8x8[ 3 ][ 4 ];           //!< coefficient group scan order for 8x8 TUs
129extern       UInt   g_sigLastScanCG32x32[ 64 ];
130
131// ====================================================================================================================
132// ADI table
133// ====================================================================================================================
134
135extern const UChar  g_aucIntraModeNumFast[ MAX_CU_DEPTH ];
136
137// ====================================================================================================================
138// Bit-depth
139// ====================================================================================================================
140
141extern        Int g_bitDepthY;
142extern        Int g_bitDepthC;
143extern       UInt g_uiPCMBitDepthLuma;
144extern       UInt g_uiPCMBitDepthChroma;
145
146// ====================================================================================================================
147// Texture type to integer mapping
148// ====================================================================================================================
149
150extern const UChar g_aucConvertTxtTypeToIdx[4];
151
152#if H_3D_DIM
153// ====================================================================================================================
154// Depth coding modes
155// ====================================================================================================================
156__inline Void mapDepthModeToIntraDir( UInt& intraMode ) { if( isDimMode( intraMode ) ) intraMode = DC_IDX; }
157__inline Void mapDepthModeToIntraDir(  Int& intraMode ) { if( isDimMode( intraMode ) ) intraMode = DC_IDX; }
158
159#if H_3D_DIM_SDC || H_3D_DIM_DLT
160__inline UInt numBitsForValue( UInt value ) { UInt bits = 0; while (value != 0) { value >>= 1; bits++; } return bits; };
161#endif
162
163#if H_3D_DIM_DMM
164extern const WedgeResolution                                 g_dmmWedgeResolution [6];
165extern const UChar                                           g_dmm1TabIdxBits     [6];
166extern const UChar                                           g_dmm3IntraTabIdxBits[6];
167
168#if SHARP_DMM1_I0110
169extern Bool                                                  g_wedgePattern[32*32];
170#endif
171
172extern       std::vector< std::vector<TComWedgelet> >        g_dmmWedgeLists;
173extern       std::vector< std::vector<TComWedgeRef> >        g_dmmWedgeRefLists;
174extern       std::vector< std::vector<TComWedgeNode> >       g_dmmWedgeNodeLists;
175
176Void initWedgeLists( Bool initNodeList = false );
177Void createWedgeList( UInt uiWidth, UInt uiHeight, std::vector<TComWedgelet> &racWedgeList, std::vector<TComWedgeRef> &racWedgeRefList, WedgeResolution eWedgeRes );
178Void addWedgeletToList( TComWedgelet cWedgelet, std::vector<TComWedgelet> &racWedgeList, std::vector<TComWedgeRef> &racWedgeRefList );
179#endif
180#endif
181
182// ==========================================
183// Mode-Dependent DST Matrices
184extern const Short g_as_DST_MAT_4 [4][4];
185extern const UChar g_aucDCTDSTMode_Vert[NUM_INTRA_MODE];
186extern const UChar g_aucDCTDSTMode_Hor[NUM_INTRA_MODE];
187// ==========================================
188
189#if H_MV_HLS_PTL_LIMITS
190class TComGeneralTierAndLevelLimits
191{
192public:
193  TComGeneralTierAndLevelLimits::TComGeneralTierAndLevelLimits
194  ( Int maxLumaPs, 
195    Int maxCPBMainTier, 
196    Int maxCPBHighTier, 
197    Int maxSliceSegmentsPerPicture, 
198    Int maxTileRows, 
199    Int maxTileCols )
200  : m_maxLumaPs                 ( maxLumaPs                     ),
201    m_maxCPBMainTier            ( maxCPBMainTier                ),
202    m_maxCPBHighTier            ( maxCPBHighTier                ),
203    m_maxSliceSegmentsPerPicture( maxSliceSegmentsPerPicture    ),
204    m_maxTileRows               ( maxTileRows                   ),
205    m_maxTileCols               ( maxTileCols                   );
206  {};
207
208  Int getMaxLumaPs                 ( ) { return m_maxLumaPs                 ; };
209  Int getMaxCPBMainTier            ( ) { return m_maxCPBMainTier            ; };
210  Int getMaxCPBHighTier            ( ) { return m_maxCPBHighTier            ; };
211  Int getMaxSliceSegmentsPerPicture( ) { return m_maxSliceSegmentsPerPicture; };
212  Int getMaxTileRows               ( ) { return m_maxTileRows               ; };
213  Int getMaxTileCols               ( ) { return m_maxTileCols               ; };
214
215private:
216  const Int m_maxLumaPs;
217  const Int m_maxCPBMainTier; 
218  const Int m_maxCPBHighTier;
219  const Int m_maxSliceSegmentsPerPicture; 
220  const Int m_maxTileRows; 
221  const Int m_maxTileCols; 
222};
223
224extern std::map< Level::Name, TComGeneralTierAndLevelLimits > g_generalTierAndLevelLimits;   
225
226#endif
227// ====================================================================================================================
228// Misc.
229// ====================================================================================================================
230
231extern       Char   g_aucConvertToBit  [ MAX_CU_SIZE+1 ];   // from width to log2(width)-2
232#if !MTK_LOW_LATENCY_IC_ENCODING_H0086_FIX
233#if H_3D_IC
234extern UInt g_aICEnableCANDIDATE[10];
235extern UInt g_aICEnableNUM[ 10 ]; //10 layers
236extern Int  g_lastlayer;
237#endif
238#endif
239
240#ifndef ENC_DEC_TRACE
241#define ENC_DEC_TRACE   1
242#endif
243
244#if ENC_DEC_TRACE
245extern FILE*  g_hTrace;
246extern Bool   g_bJustDoIt;
247extern const Bool g_bEncDecTraceEnable;
248extern const Bool g_bEncDecTraceDisable;
249extern Bool   g_HLSTraceEnable;
250extern UInt64 g_nSymbolCounter;
251
252#define COUNTER_START    1
253#define COUNTER_END      0 //( UInt64(1) << 63 )
254
255#define DTRACE_CABAC_F(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%f", x );
256#define DTRACE_CABAC_V(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%d", x );
257#define DTRACE_CABAC_VL(x)    if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%lld", x );
258#define DTRACE_CABAC_T(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%s", x );
259#define DTRACE_CABAC_X(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%x", x );
260#define DTRACE_CABAC_R( x,y ) if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, x,    y );
261#define DTRACE_CABAC_N        if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "\n"    );
262
263#if H_MV_ENC_DEC_TRAC
264 extern Bool   g_traceCU; 
265 extern Bool   g_tracePU; 
266 extern Bool   g_traceTU; 
267 extern Bool   g_disableHLSTrace;       // USE g_HLSTraceEnable to toggle HLS trace. Not this one!
268 extern UInt64 g_stopAtCounter;         // Counter to set breakpoint.
269 extern Bool   g_traceCopyBack;         // Output samples on copy back 
270 extern Bool   g_decTraceDispDer;       // Trace derived disparity vectors (decoder only)
271 extern Bool   g_decTraceMvFromMerge;   // Trace motion vectors obtained from merge (decoder only)
272 extern Bool   g_decTracePicOutput;     // Trace output of pictures
273 extern Bool   g_stopAtPos;             // Stop at position
274 extern Bool   g_outputPos;             // Output position
275
276#define DTRACE_CU(x,y)             writeToTraceFile( x,y, g_traceCU );
277#define DTRACE_PU(x,y)             writeToTraceFile( x,y, g_tracePU );
278#define DTRACE_TU(x,y)             writeToTraceFile( x,y, g_traceTU );
279#define DTRACE_CU_S(x)             writeToTraceFile( x,   g_traceCU );
280#define DTRACE_PU_S(x)             writeToTraceFile( x,   g_tracePU );
281#define DTRACE_TU_S(x)             writeToTraceFile( x,   g_traceTU );
282
283 Void           writeToTraceFile( const Char* symbolName, Int val, Bool doIt );
284 Void           writeToTraceFile( const Char* symbolName, Bool doIt );
285 Void           stopAtPos       ( Int poc, Int layerId, Int cuPelX, Int cuPelY, Int cuWidth, Int cuHeight );
286#endif
287#else
288
289#define DTRACE_CABAC_F(x)
290#define DTRACE_CABAC_V(x)
291#define DTRACE_CABAC_VL(x)
292#define DTRACE_CABAC_T(x)
293#define DTRACE_CABAC_X(x)
294#define DTRACE_CABAC_R( x,y )
295#define DTRACE_CABAC_N
296
297#if H_MV_ENC_DEC_TRAC
298#define DTRACE_CU(x,y)             
299#define DTRACE_PU(x,y)             
300#define DTRACE_TU(x,y)             
301
302#define DTRACE_CU_S(x)             
303#define DTRACE_PU_S(x)             
304#define DTRACE_TU_S(x)             
305
306#endif
307#endif
308
309
310#define SCALING_LIST_NUM 6         ///< list number for quantization matrix
311#define SCALING_LIST_NUM_32x32 2   ///< list number for quantization matrix 32x32
312#define SCALING_LIST_REM_NUM 6     ///< remainder of QP/6
313#define SCALING_LIST_START_VALUE 8 ///< start value for dpcm mode
314#define MAX_MATRIX_COEF_NUM 64     ///< max coefficient number for quantization matrix
315#define MAX_MATRIX_SIZE_NUM 8      ///< max size number for quantization matrix
316#define SCALING_LIST_DC 16         ///< default DC value
317enum ScalingListSize
318{
319  SCALING_LIST_4x4 = 0,
320  SCALING_LIST_8x8,
321  SCALING_LIST_16x16,
322  SCALING_LIST_32x32,
323  SCALING_LIST_SIZE_NUM
324};
325static const Char MatrixType[4][6][20] =
326{
327  {
328  "INTRA4X4_LUMA",
329  "INTRA4X4_CHROMAU",
330  "INTRA4X4_CHROMAV",
331  "INTER4X4_LUMA",
332  "INTER4X4_CHROMAU",
333  "INTER4X4_CHROMAV"
334  },
335  {
336  "INTRA8X8_LUMA",
337  "INTRA8X8_CHROMAU", 
338  "INTRA8X8_CHROMAV", 
339  "INTER8X8_LUMA",
340  "INTER8X8_CHROMAU", 
341  "INTER8X8_CHROMAV" 
342  },
343  {
344  "INTRA16X16_LUMA",
345  "INTRA16X16_CHROMAU", 
346  "INTRA16X16_CHROMAV", 
347  "INTER16X16_LUMA",
348  "INTER16X16_CHROMAU", 
349  "INTER16X16_CHROMAV" 
350  },
351  {
352  "INTRA32X32_LUMA",
353  "INTER32X32_LUMA",
354  },
355};
356static const Char MatrixType_DC[4][12][22] =
357{
358  {
359  },
360  {
361  },
362  {
363  "INTRA16X16_LUMA_DC",
364  "INTRA16X16_CHROMAU_DC", 
365  "INTRA16X16_CHROMAV_DC", 
366  "INTER16X16_LUMA_DC",
367  "INTER16X16_CHROMAU_DC", 
368  "INTER16X16_CHROMAV_DC" 
369  },
370  {
371  "INTRA32X32_LUMA_DC",
372  "INTER32X32_LUMA_DC",
373  },
374};
375extern Int g_quantIntraDefault8x8[64];
376extern Int g_quantIntraDefault16x16[256];
377extern Int g_quantIntraDefault32x32[1024];
378extern Int g_quantInterDefault8x8[64];
379extern Int g_quantInterDefault16x16[256];
380extern Int g_quantInterDefault32x32[1024];
381extern Int g_quantTSDefault4x4[16];
382extern UInt g_scalingListSize [SCALING_LIST_SIZE_NUM];
383extern UInt g_scalingListSizeX[SCALING_LIST_SIZE_NUM];
384extern UInt g_scalingListNum  [SCALING_LIST_SIZE_NUM];
385extern Int  g_eTTable[4];
386//! \}
387
388#endif  //__TCOMROM__
389
Note: See TracBrowser for help on using the repository browser.