source: 3DVCSoftware/branches/HTM-16.0-dev1/source/Lib/TLibCommon/TComRom.h @ 1391

Last change on this file since 1391 was 1386, checked in by tech, 9 years ago

Merged 15.1-dev1@1381.
  • Property svn:eol-style set to native
File size: 14.1 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2015, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33/** \file     TComRom.h
34    \brief    global variables & functions (header)
35*/
36#ifndef __TCOMROM__
37#define __TCOMROM__
38#include "CommonDef.h"
39#include<stdio.h>
40#include<iostream>
41#if NH_3D_DMM
42#include "TComWedgelet.h"
43#endif
44//! \ingroup TLibCommon
45//! \{
46// ====================================================================================================================
47// Initialize / destroy functions
48// ====================================================================================================================
49Void         initROM();
50Void         destroyROM();
51// ====================================================================================================================
52// Data structure related table & variable
53// ====================================================================================================================
54// flexible conversion from relative to absolute index
55extern       UInt   g_auiZscanToRaster[ MAX_NUM_PART_IDXS_IN_CTU_WIDTH*MAX_NUM_PART_IDXS_IN_CTU_WIDTH ];
56extern       UInt   g_auiRasterToZscan[ MAX_NUM_PART_IDXS_IN_CTU_WIDTH*MAX_NUM_PART_IDXS_IN_CTU_WIDTH ];
57extern       UInt*  g_scanOrder[SCAN_NUMBER_OF_GROUP_TYPES][SCAN_NUMBER_OF_TYPES][ MAX_CU_DEPTH ][ MAX_CU_DEPTH ];
58Void         initZscanToRaster ( Int iMaxDepth, Int iDepth, UInt uiStartVal, UInt*& rpuiCurrIdx );
59Void         initRasterToZscan ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth         );
60// conversion of partition index to picture pel position
61extern       UInt   g_auiRasterToPelX[ MAX_NUM_PART_IDXS_IN_CTU_WIDTH*MAX_NUM_PART_IDXS_IN_CTU_WIDTH ];
62extern       UInt   g_auiRasterToPelY[ MAX_NUM_PART_IDXS_IN_CTU_WIDTH*MAX_NUM_PART_IDXS_IN_CTU_WIDTH ];
63Void         initRasterToPelXY ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth );
64extern const UInt g_auiPUOffset[NUMBER_OF_PART_SIZES];
65extern const Int g_quantScales[SCALING_LIST_REM_NUM];             // Q(QP%6)
66extern const Int g_invQuantScales[SCALING_LIST_REM_NUM];          // IQ(QP%6)
67#if RExt__HIGH_PRECISION_FORWARD_TRANSFORM
68static const Int g_transformMatrixShift[TRANSFORM_NUMBER_OF_DIRECTIONS] = { 14, 6 };
69#else
70static const Int g_transformMatrixShift[TRANSFORM_NUMBER_OF_DIRECTIONS] = {  6, 6 };
71#endif
72extern const TMatrixCoeff g_aiT4 [TRANSFORM_NUMBER_OF_DIRECTIONS][4][4];
73extern const TMatrixCoeff g_aiT8 [TRANSFORM_NUMBER_OF_DIRECTIONS][8][8];
74extern const TMatrixCoeff g_aiT16[TRANSFORM_NUMBER_OF_DIRECTIONS][16][16];
75extern const TMatrixCoeff g_aiT32[TRANSFORM_NUMBER_OF_DIRECTIONS][32][32];
76// ====================================================================================================================
77// Luma QP to Chroma QP mapping
78// ====================================================================================================================
79static const Int chromaQPMappingTableSize = 58;
80extern const UChar  g_aucChromaScale[NUM_CHROMA_FORMAT][chromaQPMappingTableSize];
81// ====================================================================================================================
82// Scanning order & context mapping table
83// ====================================================================================================================
84extern const UInt   ctxIndMap4x4[4*4];
85extern const UInt   g_uiGroupIdx[ MAX_TU_SIZE ];
86extern const UInt   g_uiMinInGroup[ LAST_SIGNIFICANT_GROUPS ];
87// ====================================================================================================================
88// Intra prediction table
89// ====================================================================================================================
90extern const UChar  g_aucIntraModeNumFast_UseMPM[MAX_CU_DEPTH];
91extern const UChar  g_aucIntraModeNumFast_NotUseMPM[MAX_CU_DEPTH];
92extern const UChar  g_chroma422IntraAngleMappingTable[NUM_INTRA_MODE];
93#if NH_3D_DMM
94// ====================================================================================================================
95// Depth coding modes
96// ====================================================================================================================
97extern const WedgeResolution                                 g_dmmWedgeResolution [6];
98extern const UChar                                           g_dmm1TabIdxBits     [6];
99extern Bool                                                  g_wedgePattern[32*32];
100extern       std::vector< std::vector<TComWedgelet> >        g_dmmWedgeLists;
101extern       std::vector< std::vector<TComWedgeNode> >       g_dmmWedgeNodeLists;
102Void initWedgeLists( Bool initNodeList = false );
103Void createWedgeList( UInt uiWidth, UInt uiHeight, std::vector<TComWedgelet> &racWedgeList, std::vector<TComWedgeRef> &racWedgeRefList, WedgeResolution eWedgeRes );
104Void addWedgeletToList( TComWedgelet cWedgelet, std::vector<TComWedgelet> &racWedgeList, std::vector<TComWedgeRef> &racWedgeRefList );
105WedgeList*     getWedgeListScaled    ( UInt blkSize );
106WedgeNodeList* getWedgeNodeListScaled( UInt blkSize );
107__inline Void mapDmmToIntraDir( UInt& intraMode ) { if( isDmmMode( intraMode ) ) intraMode = DC_IDX; }
108__inline Void mapDmmToIntraDir(  Int& intraMode ) { if( isDmmMode( intraMode ) ) intraMode = DC_IDX; }
109#endif
110// ====================================================================================================================
111// Mode-Dependent DST Matrices
112// ====================================================================================================================
113extern const TMatrixCoeff g_as_DST_MAT_4 [TRANSFORM_NUMBER_OF_DIRECTIONS][4][4];
114#if NH_MV_HLS_PTL_LIMITS
115class TComGeneralTierAndLevelLimits
116{
117public:
118  TComGeneralTierAndLevelLimits::TComGeneralTierAndLevelLimits
119  ( Int maxLumaPs, 
120    Int maxCPBMainTier, 
121    Int maxCPBHighTier, 
122    Int maxSliceSegmentsPerPicture, 
123    Int maxTileRows, 
124    Int maxTileCols )
125  : m_maxLumaPs                 ( maxLumaPs                     ),
126    m_maxCPBMainTier            ( maxCPBMainTier                ),
127    m_maxCPBHighTier            ( maxCPBHighTier                ),
128    m_maxSliceSegmentsPerPicture( maxSliceSegmentsPerPicture    ),
129    m_maxTileRows               ( maxTileRows                   ),
130    m_maxTileCols               ( maxTileCols                   );
131  {};
132  Int getMaxLumaPs                 ( ) { return m_maxLumaPs                 ; };
133  Int getMaxCPBMainTier            ( ) { return m_maxCPBMainTier            ; };
134  Int getMaxCPBHighTier            ( ) { return m_maxCPBHighTier            ; };
135  Int getMaxSliceSegmentsPerPicture( ) { return m_maxSliceSegmentsPerPicture; };
136  Int getMaxTileRows               ( ) { return m_maxTileRows               ; };
137  Int getMaxTileCols               ( ) { return m_maxTileCols               ; };
138private:
139  const Int m_maxLumaPs;
140  const Int m_maxCPBMainTier; 
141  const Int m_maxCPBHighTier;
142  const Int m_maxSliceSegmentsPerPicture; 
143  const Int m_maxTileRows; 
144  const Int m_maxTileCols; 
145};
146extern std::map< Level::Name, TComGeneralTierAndLevelLimits > g_generalTierAndLevelLimits;   
147#endif
148// ====================================================================================================================
149// Misc.
150// ====================================================================================================================
151extern       SChar   g_aucConvertToBit  [ MAX_CU_SIZE+1 ];   // from width to log2(width)-2
152#if NH_MV
153// Change later
154#ifndef ENC_DEC_TRACE
155#define ENC_DEC_TRACE 0
156#endif
157#endif
158#if ENC_DEC_TRACE
159extern FILE*  g_hTrace;
160extern Bool   g_bJustDoIt;
161extern const Bool g_bEncDecTraceEnable;
162extern const Bool g_bEncDecTraceDisable;
163extern Bool   g_HLSTraceEnable;
164extern UInt64 g_nSymbolCounter;
165#define COUNTER_START    1
166#define COUNTER_END      0 //( UInt64(1) << 63 )
167#define DTRACE_CABAC_F(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%f", x );
168#define DTRACE_CABAC_V(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%d", x );
169#define DTRACE_CABAC_VL(x)    if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%lld", x );
170#define DTRACE_CABAC_T(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%s", x );
171#define DTRACE_CABAC_X(x)     if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "%x", x );
172#define DTRACE_CABAC_R( x,y ) if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, x,    y );
173#define DTRACE_CABAC_N        if ( ( g_nSymbolCounter >= COUNTER_START && g_nSymbolCounter <= COUNTER_END )|| g_bJustDoIt ) fprintf( g_hTrace, "\n"    );
174#if NH_MV_ENC_DEC_TRAC
175 extern Bool   g_traceCU; 
176 extern Bool   g_tracePU ; 
177 extern Bool   g_traceTU; 
178 extern Bool   g_disableHLSTrace;       // USE g_HLSTraceEnable to toggle HLS trace. Not this one!
179 extern Bool   g_disableNumbering;      // Don't print numbers to trace file
180 extern UInt64 g_stopAtCounter;         // Counter to set breakpoint.
181 extern Bool   g_traceCopyBack;         // Output samples on copy back 
182 extern Bool   g_decTraceDispDer;       // Trace derived disparity vectors (decoder only)
183 extern Bool   g_decTraceMvFromMerge;   // Trace motion vectors obtained from merge (decoder only)
184 extern Bool   g_decTracePicOutput;     // Trace output of pictures
185 extern Bool   g_startStopTrace;             // Stop at position
186 extern Bool   g_outputPos;             // Output position
187 extern Bool   g_traceCameraParameters; // Trace camera parameters
188 extern Bool   g_encNumberOfWrittenBits;// Trace number of written bits
189 extern Bool   g_traceEncFracBits;      // Trace fractional bits
190 extern Bool   g_traceIntraSearchCost;  // Trace intra mode cost
191 extern Bool   g_traceRDCost;         
192 extern Bool   g_traceModeCheck; 
193 extern Bool   g_traceSAOCost; 
194 extern UInt   g_indent; 
195extern Bool   g_traceMotionInfoBeforUniPred; 
196 extern Bool   g_traceMergeCandListConst; 
197 extern Bool   g_traceSubPBMotion; 
198 extern Bool   g_traceBitsRead;
199#define DTRACE_CU(x,y)             writeToTraceFile( x,y, g_traceCU );
200#define DTRACE_PU(x,y)             writeToTraceFile( x,y, g_tracePU );
201#define DTRACE_TU(x,y)             writeToTraceFile( x,y, g_traceTU );
202#define DTRACE_CU_S(x)             writeToTraceFile( x,   g_traceCU );
203#define DTRACE_PU_S(x)             writeToTraceFile( x,   g_tracePU );
204#define DTRACE_TU_S(x)             writeToTraceFile( x,   g_traceTU );
205#define D_DEC_INDENT( b )            decIndent        ( b );
206#define D_PRINT_INC_INDENT( b, str ) prinStrIncIndent( b, str );
207#define D_PRINT_INDENT( b, str )     printStrIndent   ( b, str);
208 Void           tracePSHeader   ( const TChar* psName, Int layerId ); 
209 Void           writeToTraceFile( const TChar* symbolName, Int val, Bool doIt );
210 Void           writeToTraceFile( const TChar* symbolName, Bool doIt );
211 UInt64         incSymbolCounter();         
212 Void           stopAtPos       ( Int poc, Int layerId, Int cuPelX, Int cuPelY, Int cuWidth, Int cuHeight );           
213 Void           printStr         ( std::string str );
214 Void           printStrIndent   ( Bool b, std::string str );
215 Void           prinStrIncIndent ( Bool b, std::string str );
216 Void           decIndent        ( Bool b );
217 template <typename T>
218 std::string n2s ( T Number )
219 {
220   std::ostringstream ss;
221   ss << Number;
222   return ss.str();
223 };
224#endif
225#else
226#define DTRACE_CABAC_F(x)
227#define DTRACE_CABAC_V(x)
228#define DTRACE_CABAC_VL(x)
229#define DTRACE_CABAC_T(x)
230#define DTRACE_CABAC_X(x)
231#define DTRACE_CABAC_R( x,y )
232#define DTRACE_CABAC_N
233#if NH_MV
234#define DTRACE_CU(x,y) ;             
235#define DTRACE_PU(x,y) ;           
236#define DTRACE_TU(x,y) ;           
237#define DTRACE_CU_S(x) ;           
238#define DTRACE_PU_S(x) ;           
239#define DTRACE_TU_S(x) ;           
240#define D_DEC_INDENT( b ) ;
241#define D_PRINT_INC_INDENT( b, str );
242#define D_PRINT_INDENT( b, str );
243#endif
244#endif
245const TChar* nalUnitTypeToString(NalUnitType type);
246
247extern const TChar *MatrixType[SCALING_LIST_SIZE_NUM][SCALING_LIST_NUM];
248extern const TChar *MatrixType_DC[SCALING_LIST_SIZE_NUM][SCALING_LIST_NUM];
249extern const Int g_quantTSDefault4x4[4*4];
250extern const Int g_quantIntraDefault8x8[8*8];
251extern const Int g_quantInterDefault8x8[8*8];
252extern const UInt g_scalingListSize [SCALING_LIST_SIZE_NUM];
253extern const UInt g_scalingListSizeX[SCALING_LIST_SIZE_NUM];
254//! \}
255#endif  //__TCOMROM__
Note: See TracBrowser for help on using the repository browser.