source: 3DVCSoftware/branches/HTM-4.1-dev1-HHI/source/Lib/TLibCommon/TComDataCU.h @ 360

Last change on this file since 360 was 175, checked in by tech, 12 years ago

Fixed wrong data types in RDO (FIX_RDO_NEGDIST)

  • Property svn:eol-style set to native
File size: 53.3 KB
RevLine 
[5]1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
[56]4 * granted under this license. 
[5]5 *
[56]6 * Copyright (c) 2010-2012, ITU/ISO/IEC
[5]7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
[56]17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
[5]18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
[2]33
34/** \file     TComDataCU.h
35    \brief    CU data structure (header)
36    \todo     not all entities are documented
37*/
38
39#ifndef _TCOMDATACU_
40#define _TCOMDATACU_
41
42#include <assert.h>
43
44// Include files
45#include "CommonDef.h"
46#include "TComMotionInfo.h"
47#include "TComSlice.h"
48#include "TComRdCost.h"
49#include "TComPattern.h"
[56]50
51#if HHI_INTER_VIEW_RESIDUAL_PRED
[2]52#include "TComYuv.h"
[56]53#endif
[2]54
55#include <algorithm>
56#include <vector>
57
[56]58//! \ingroup TLibCommon
59//! \{
60
[2]61// ====================================================================================================================
[56]62// Non-deblocking in-loop filter processing block data structure
63// ====================================================================================================================
64
65/// Non-deblocking filter processing block border tag
66enum NDBFBlockBorderTag
67{
68  SGU_L = 0,
69  SGU_R,
70  SGU_T,
71  SGU_B,
72  SGU_TL,
73  SGU_TR,
74  SGU_BL,
75  SGU_BR,
76  NUM_SGU_BORDER
77};
78
79/// Non-deblocking filter processing block information
80struct NDBFBlockInfo
81{
82  Int   tileID;   //!< tile ID
83  Int   sliceID;  //!< slice ID
84  UInt  startSU;  //!< starting SU z-scan address in LCU
85  UInt  endSU;    //!< ending SU z-scan address in LCU
86  UInt  widthSU;  //!< number of SUs in width
87  UInt  heightSU; //!< number of SUs in height
88  UInt  posX;     //!< top-left X coordinate in picture
89  UInt  posY;     //!< top-left Y coordinate in picture
90  UInt  width;    //!< number of pixels in width
91  UInt  height;   //!< number of pixels in height
92  Bool  isBorderAvailable[NUM_SGU_BORDER];  //!< the border availabilities
93#if LCU_SYNTAX_ALF
94  Bool  allBordersAvailable;
95#endif
96
97  NDBFBlockInfo():tileID(0), sliceID(0), startSU(0), endSU(0) {} //!< constructor
98  const NDBFBlockInfo& operator= (const NDBFBlockInfo& src);  //!< "=" operator
99};
100
101
102// ====================================================================================================================
[2]103// Class definition
104// ====================================================================================================================
105
106/// CU data structure class
107class TComDataCU
108{
109private:
110 
111  // -------------------------------------------------------------------------------------------------------------------
112  // class pointers
113  // -------------------------------------------------------------------------------------------------------------------
114 
115  TComPic*      m_pcPic;              ///< picture class pointer
116  TComSlice*    m_pcSlice;            ///< slice header pointer
117  TComPattern*  m_pcPattern;          ///< neighbour access class pointer
118 
119  // -------------------------------------------------------------------------------------------------------------------
120  // CU description
121  // -------------------------------------------------------------------------------------------------------------------
122 
123  UInt          m_uiCUAddr;           ///< CU address in a slice
124  UInt          m_uiAbsIdxInLCU;      ///< absolute address in a CU. It's Z scan order
125  UInt          m_uiCUPelX;           ///< CU position in a pixel (X)
126  UInt          m_uiCUPelY;           ///< CU position in a pixel (Y)
127  UInt          m_uiNumPartition;     ///< total number of minimum partitions in a CU
128  UChar*        m_puhWidth;           ///< array of widths
129  UChar*        m_puhHeight;          ///< array of heights
130  UChar*        m_puhDepth;           ///< array of depths
[56]131  Int           m_unitSize;           ///< size of a "minimum partition"
[5]132#if HHI_MPI
[56]133  Int*          m_piTextureModeDepth; ///< at which depth are prediction data inherited from texture picture ( -1 : none )
[5]134#endif
[2]135 
136  // -------------------------------------------------------------------------------------------------------------------
137  // CU data
138  // -------------------------------------------------------------------------------------------------------------------
139 
[56]140  Char*         m_pePartSize;         ///< array of partition sizes
141#if HHI_INTERVIEW_SKIP
142  Bool*         m_pbRenderable;        ///< array of merge flags
143#endif
144  Char*         m_pePredMode;         ///< array of prediction modes
145#if H0736_AVC_STYLE_QP_RANGE
146  Char*         m_phQP;               ///< array of QP values
147#else
[2]148  UChar*        m_phQP;               ///< array of QP values
[56]149#endif
[2]150  UChar*        m_puhTrIdx;           ///< array of transform indices
[56]151  UChar*        m_nsqtPartIdx;        ///< array of absPartIdx mapping table, map zigzag to NSQT
[2]152  UChar*        m_puhCbf[3];          ///< array of coded block flags (CBF)
153  TComCUMvField m_acCUMvField[2];     ///< array of motion vectors
154  TCoeff*       m_pcTrCoeffY;         ///< transformed coefficient buffer (Y)
155  TCoeff*       m_pcTrCoeffCb;        ///< transformed coefficient buffer (Cb)
156  TCoeff*       m_pcTrCoeffCr;        ///< transformed coefficient buffer (Cr)
[56]157#if ADAPTIVE_QP_SELECTION
158  Int*          m_pcArlCoeffY;        ///< ARL coefficient buffer (Y)
159  Int*          m_pcArlCoeffCb;       ///< ARL coefficient buffer (Cb)
160  Int*          m_pcArlCoeffCr;       ///< ARL coefficient buffer (Cr)
[121]161#if FIX_MEM_LEAKS
162  Bool          m_ArlCoeffIsAliasedAllocation; ///< ARL coefficient buffer is an alias of the global buffer and must not be free()'d
163#endif
[56]164
165  static Int*   m_pcGlbArlCoeffY;     ///< ARL coefficient buffer (Y)
166  static Int*   m_pcGlbArlCoeffCb;    ///< ARL coefficient buffer (Cb)
167  static Int*   m_pcGlbArlCoeffCr;    ///< ARL coefficient buffer (Cr)
[121]168
[56]169#endif
[2]170 
[56]171  Pel*          m_pcIPCMSampleY;      ///< PCM sample buffer (Y)
172  Pel*          m_pcIPCMSampleCb;     ///< PCM sample buffer (Cb)
173  Pel*          m_pcIPCMSampleCr;     ///< PCM sample buffer (Cr)
174
175  Int*          m_piSliceSUMap;       ///< pointer of slice ID map
176  std::vector<NDBFBlockInfo> m_vNDFBlock;
177
[2]178  // -------------------------------------------------------------------------------------------------------------------
179  // neighbour access variables
180  // -------------------------------------------------------------------------------------------------------------------
181 
182  TComDataCU*   m_pcCUAboveLeft;      ///< pointer of above-left CU
183  TComDataCU*   m_pcCUAboveRight;     ///< pointer of above-right CU
184  TComDataCU*   m_pcCUAbove;          ///< pointer of above CU
185  TComDataCU*   m_pcCULeft;           ///< pointer of left CU
186  TComDataCU*   m_apcCUColocated[2];  ///< pointer of temporally colocated CU's for both directions
187  TComMvField   m_cMvFieldA;          ///< motion vector of position A
188  TComMvField   m_cMvFieldB;          ///< motion vector of position B
189  TComMvField   m_cMvFieldC;          ///< motion vector of position C
190  TComMv        m_cMvPred;            ///< motion vector predictor
191 
192  // -------------------------------------------------------------------------------------------------------------------
193  // coding tool information
194  // -------------------------------------------------------------------------------------------------------------------
195 
196  Bool*         m_pbMergeFlag;        ///< array of merge flags
197  UChar*        m_puhMergeIndex;      ///< array of merge candidate indices
[56]198#if AMP_MRG
199  Bool          m_bIsMergeAMP;
200#endif
201  UChar*        m_puhLumaIntraDir;    ///< array of intra directions (luma)
202  UChar*        m_puhChromaIntraDir;  ///< array of intra directions (chroma)
203  UChar*        m_puhInterDir;        ///< array of inter directions
204  Char*         m_apiMVPIdx[2];       ///< array of motion vector predictor candidates
205  Char*         m_apiMVPNum[2];       ///< array of number of possible motion vectors predictors
206  Bool*         m_puiAlfCtrlFlag;     ///< array of ALF flags
207  Bool*         m_puiTmpAlfCtrlFlag;  ///< temporal array of ALF flags
208 
209  Bool*         m_pbIPCMFlag;         ///< array of intra_pcm flags
210
211#if BURST_IPCM
212  Int           m_numSucIPCM;         ///< the number of succesive IPCM blocks associated with the current log2CUSize
213  Bool          m_lastCUSucIPCMFlag;  ///< True indicates that the last CU is IPCM and shares the same root as the current CU. 
214#endif
[5]215#if HHI_INTER_VIEW_RESIDUAL_PRED
[2]216  Bool*         m_pbResPredAvailable; ///< array of residual prediction available flags
217  Bool*         m_pbResPredFlag;      ///< array of residual prediction flags
[5]218#endif
[56]219
[100]220#if LGE_EDGE_INTRA
221  UChar*        m_pucEdgeCode;          ///< array of edge code
222  UChar*        m_pucEdgeNumber;        ///< total number of edge
223  UChar*        m_pucEdgeStartPos;      ///< starting point position
224  Bool*         m_pbEdgeLeftFirst;      ///< true if edge should be checked in left boundary first
225  Bool*         m_pbEdgePartition;      ///< true if it belongs to region 1, otherwise, region 0
226#if LGE_EDGE_INTRA_DELTA_DC
227  Int*          m_piEdgeDeltaDC0;
228  Int*          m_piEdgeDeltaDC1;
229#endif
230#endif
231
[56]232  // -------------------------------------------------------------------------------------------------------------------
233  // misc. variables
234  // -------------------------------------------------------------------------------------------------------------------
235 
236  Bool          m_bDecSubCu;          ///< indicates decoder-mode
237  Double        m_dTotalCost;         ///< sum of partition RD costs
[175]238#if FIX_RDO_NEGDIST
239  Dist          m_uiTotalDistortion;  ///< sum of partition distortion
240#else
[56]241  UInt          m_uiTotalDistortion;  ///< sum of partition distortion
[175]242#endif
[56]243  UInt          m_uiTotalBits;        ///< sum of partition bits
244  UInt          m_uiTotalBins;       ///< sum of partition bins
245  UInt*         m_uiSliceStartCU;    ///< Start CU address of current slice
246  UInt*         m_uiEntropySliceStartCU; ///< Start CU address of current slice
[115]247
[116]248#if OL_DEPTHLIMIT_A0044
[115]249  //add a variable to store the partition information
[116]250  //a 2D array in uidepth, part_symbol format
[115]251  UInt          m_uiPartInfo[OL_PART_BUF_SIZE][2];
252  UInt          m_uiPartNum;
[118]253  Bool          m_dumpPartInfo;
[115]254#endif
[56]255 
256  // -------------------------------------------------------------------------------------------------------------------
257  // depth model mode data
258  // -------------------------------------------------------------------------------------------------------------------
[5]259#if HHI_DMM_WEDGE_INTRA
[2]260  UInt*         m_puiWedgeFullTabIdx;
261  Int*          m_piWedgeFullDeltaDC1;
262  Int*          m_piWedgeFullDeltaDC2;
263
264  UInt*         m_puiWedgePredDirTabIdx;
265  Int*          m_piWedgePredDirDeltaDC1;
266  Int*          m_piWedgePredDirDeltaDC2;
267  Int*          m_piWedgePredDirDeltaEnd;
[5]268#endif
269#if HHI_DMM_PRED_TEX
[2]270  UInt*         m_puiWedgePredTexTabIdx;
271  Int*          m_piWedgePredTexDeltaDC1;
272  Int*          m_piWedgePredTexDeltaDC2;
273
274  Int*          m_piContourPredTexDeltaDC1;
275  Int*          m_piContourPredTexDeltaDC2;
276#endif
[56]277
[2]278protected:
279 
280  /// add possible motion vector predictor candidates
281  Bool          xAddMVPCand           ( AMVPInfo* pInfo, RefPicList eRefPicList, Int iRefIdx, UInt uiPartUnitIdx, MVP_DIR eDir );
282  Bool          xAddMVPCandOrder      ( AMVPInfo* pInfo, RefPicList eRefPicList, Int iRefIdx, UInt uiPartUnitIdx, MVP_DIR eDir );
283
284  Void          deriveRightBottomIdx        ( PartSize eCUMode, UInt uiPartIdx, UInt& ruiPartIdxRB );
285  Bool          xGetColMVP( RefPicList eRefPicList, Int uiCUAddr, Int uiPartUnitIdx, TComMv& rcMv, Int& riRefIdx );
[100]286#if QC_MULTI_DIS_CAN
287  Bool          xGetColDisMV( RefPicList eRefPicList, Int refidx, Int uiCUAddr, Int uiPartUnitIdx, TComMv& rcMv, Int & iTargetViewIdx, Int & iStartViewIdx );
288#endif
[2]289 
[56]290#if !AMVP_PRUNING_SIMPLIFICATION
[2]291  /// remove redundant candidates
292  Void          xUniqueMVPCand        ( AMVPInfo* pInfo );
[56]293#endif
[2]294
295  Void xCheckCornerCand( TComDataCU* pcCorner, UInt uiCornerIdx, UInt uiIter, Bool& rbValidCand );
296  /// compute required bits to encode MVD (used in AMVP)
297  UInt          xGetMvdBits           ( TComMv cMvd );
298  UInt          xGetComponentBits     ( Int iVal );
299 
300  /// compute scaling factor from POC difference
301  Int           xGetDistScaleFactor   ( Int iCurrPOC, Int iCurrRefPOC, Int iColPOC, Int iColRefPOC );
302 
303  Void xDeriveCenterIdx( PartSize eCUMode, UInt uiPartIdx, UInt& ruiPartIdxCenter );
304  Bool xGetCenterCol( UInt uiPartIdx, RefPicList eRefPicList, int iRefIdx, TComMv *pcMv );
[56]305 
306  Void xCheckDuplicateCand(TComMvField* pcMvFieldNeighbours, UChar* puhInterDirNeighbours, bool* pbCandIsInter, UInt& ruiArrayAddr);
307
308#if !BURST_IPCM
309  Int           getLastValidPartIdx   ( Int iAbsPartIdx );
[2]310#endif
[56]311
[2]312public:
313  TComDataCU();
314  virtual ~TComDataCU();
315 
316  // -------------------------------------------------------------------------------------------------------------------
317  // create / destroy / initialize / copy
318  // -------------------------------------------------------------------------------------------------------------------
319 
[56]320  Void          create                ( UInt uiNumPartition, UInt uiWidth, UInt uiHeight, Bool bDecSubCu, Int unitSize
321#if ADAPTIVE_QP_SELECTION
322    , Bool bGlobalRMARLBuffer = false
323#endif 
324    );
[2]325  Void          destroy               ();
326 
327  Void          initCU                ( TComPic* pcPic, UInt uiCUAddr );
[56]328#if H0736_AVC_STYLE_QP_RANGE
329  Void          initEstData           ( UInt uiDepth, Int qp );
330  Void          initSubCU             ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth, Int qp );
331#else
332  Void          initEstData           ( UInt uiDepth, UInt uiQP );
333  Void          initSubCU             ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth, UInt uiQP );
334#endif
335  Void          setOutsideCUPart      ( UInt uiAbsPartIdx, UInt uiDepth );
336
[2]337  Void          copySubCU             ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth );
338  Void          copyInterPredInfoFrom ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefPicList );
339  Void          copyPartFrom          ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth );
340 
341  Void          copyToPic             ( UChar uiDepth );
342  Void          copyToPic             ( UChar uiDepth, UInt uiPartIdx, UInt uiPartDepth );
343 
344  // -------------------------------------------------------------------------------------------------------------------
345  // member functions for CU description
346  // -------------------------------------------------------------------------------------------------------------------
347 
348  TComPic*      getPic                ()                        { return m_pcPic;           }
349  TComSlice*    getSlice              ()                        { return m_pcSlice;         }
350  UInt&         getAddr               ()                        { return m_uiCUAddr;        }
351  UInt&         getZorderIdxInCU      ()                        { return m_uiAbsIdxInLCU; }
[56]352  UInt          getSCUAddr            ();
[2]353  UInt          getCUPelX             ()                        { return m_uiCUPelX;        }
354  UInt          getCUPelY             ()                        { return m_uiCUPelY;        }
355  TComPattern*  getPattern            ()                        { return m_pcPattern;       }
356 
357  UChar*        getDepth              ()                        { return m_puhDepth;        }
358  UChar         getDepth              ( UInt uiIdx )            { return m_puhDepth[uiIdx]; }
359  Void          setDepth              ( UInt uiIdx, UChar  uh ) { m_puhDepth[uiIdx] = uh;   }
360 
[56]361  Void          setDepthSubParts      ( UInt uiDepth, UInt uiAbsPartIdx );
362  Void          getPosInPic           ( UInt uiAbsPartIndex, Int& riPosX, Int& riPosY );
[5]363#if HHI_MPI
[2]364  Int*          getTextureModeDepth   ()                        { return m_piTextureModeDepth; }
365  Int           getTextureModeDepth   ( UInt uiIdx )            { return m_piTextureModeDepth[uiIdx]; }
366  Void          setTextureModeDepth   ( UInt uiIdx, Int iTextureModeDepth ){ m_piTextureModeDepth[uiIdx] = iTextureModeDepth; }
367  Void          setTextureModeDepthSubParts( Int iTextureModeDepth, UInt uiAbsPartIdx, UInt uiDepth );
368  Void          copyTextureMotionDataFrom( TComDataCU* pcCU, UInt uiDepth, UInt uiAbsPartIdxSrc, UInt uiAbsPartIdxDst = 0 );
[5]369#endif
[2]370 
371  // -------------------------------------------------------------------------------------------------------------------
372  // member functions for CU data
373  // -------------------------------------------------------------------------------------------------------------------
374 
[56]375  Char*         getPartitionSize      ()                        { return m_pePartSize;        }
376  PartSize      getPartitionSize      ( UInt uiIdx )            { return static_cast<PartSize>( m_pePartSize[uiIdx] ); }
[2]377  Void          setPartitionSize      ( UInt uiIdx, PartSize uh){ m_pePartSize[uiIdx] = uh;   }
378  Void          setPartSizeSubParts   ( PartSize eMode, UInt uiAbsPartIdx, UInt uiDepth );
379 
[56]380#if HHI_INTERVIEW_SKIP
381  Bool*         getRenderable          ()                        { return m_pbRenderable;               }
382    Bool          getRenderable          ( UInt uiIdx )            { return m_pbRenderable[uiIdx];        }
383    Void          setRenderable          ( UInt uiIdx, Bool b )    { m_pbRenderable[uiIdx] = b;           }
384    Void          setRenderableSubParts  ( Bool bRenderable, UInt uiAbsPartIdx, UInt uiDepth );
385#endif
386 
387  Char*         getPredictionMode     ()                        { return m_pePredMode;        }
388  PredMode      getPredictionMode     ( UInt uiIdx )            { return static_cast<PredMode>( m_pePredMode[uiIdx] ); }
[2]389  Void          setPredictionMode     ( UInt uiIdx, PredMode uh){ m_pePredMode[uiIdx] = uh;   }
390  Void          setPredModeSubParts   ( PredMode eMode, UInt uiAbsPartIdx, UInt uiDepth );
391 
392  UChar*        getWidth              ()                        { return m_puhWidth;          }
393  UChar         getWidth              ( UInt uiIdx )            { return m_puhWidth[uiIdx];   }
394  Void          setWidth              ( UInt uiIdx, UChar  uh ) { m_puhWidth[uiIdx] = uh;     }
395 
396  UChar*        getHeight             ()                        { return m_puhHeight;         }
397  UChar         getHeight             ( UInt uiIdx )            { return m_puhHeight[uiIdx];  }
398  Void          setHeight             ( UInt uiIdx, UChar  uh ) { m_puhHeight[uiIdx] = uh;    }
399 
400  Void          setSizeSubParts       ( UInt uiWidth, UInt uiHeight, UInt uiAbsPartIdx, UInt uiDepth );
401 
[56]402#if H0736_AVC_STYLE_QP_RANGE
403  Char*         getQP                 ()                        { return m_phQP;              }
404  Char          getQP                 ( UInt uiIdx )            { return m_phQP[uiIdx];       }
405  Void          setQP                 ( UInt uiIdx, Char value ){ m_phQP[uiIdx] =  value;     }
406  Void          setQPSubParts         ( Int qp,   UInt uiAbsPartIdx, UInt uiDepth );
407#if BURST_IPCM
408  Int           getLastValidPartIdx   ( Int iAbsPartIdx );
409#endif
410  Char          getLastCodedQP        ( UInt uiAbsPartIdx );
411#else
[2]412  UChar*        getQP                 ()                        { return m_phQP;              }
413  UChar         getQP                 ( UInt uiIdx )            { return m_phQP[uiIdx];       }
414  Void          setQP                 ( UInt uiIdx, UChar  uh ) { m_phQP[uiIdx] = uh;         }
415  Void          setQPSubParts         ( UInt uiQP,   UInt uiAbsPartIdx, UInt uiDepth );
[56]416#if BURST_IPCM
417  Int           getLastValidPartIdx   ( Int iAbsPartIdx );
418#endif
419  UChar         getLastCodedQP        ( UInt uiAbsPartIdx );
420#endif
421
422#if LOSSLESS_CODING
423  Bool          isLosslessCoded(UInt absPartIdx);
424#endif
425  UChar*        getNSQTPartIdx        ()                        { return m_nsqtPartIdx;        }
426  UChar         getNSQTPartIdx        ( UInt idx )              { return m_nsqtPartIdx[idx];   }
427  Void          setNSQTIdxSubParts    ( UInt absPartIdx, UInt depth );
428  Void          setNSQTIdxSubParts    ( UInt log2TrafoSize, UInt absPartIdx, UInt absTUPartIdx, UInt trMode );
[2]429 
430  UChar*        getTransformIdx       ()                        { return m_puhTrIdx;          }
431  UChar         getTransformIdx       ( UInt uiIdx )            { return m_puhTrIdx[uiIdx];   }
432  Void          setTrIdxSubParts      ( UInt uiTrIdx, UInt uiAbsPartIdx, UInt uiDepth );
433 
[56]434  UInt          getQuadtreeTULog2MinSizeInCU( UInt absPartIdx );
[2]435 
436  TComCUMvField* getCUMvField         ( RefPicList e )          { return  &m_acCUMvField[e];  }
437 
438  TCoeff*&      getCoeffY             ()                        { return m_pcTrCoeffY;        }
439  TCoeff*&      getCoeffCb            ()                        { return m_pcTrCoeffCb;       }
440  TCoeff*&      getCoeffCr            ()                        { return m_pcTrCoeffCr;       }
[56]441#if ADAPTIVE_QP_SELECTION
442  Int*&         getArlCoeffY          ()                        { return m_pcArlCoeffY;       }
443  Int*&         getArlCoeffCb         ()                        { return m_pcArlCoeffCb;      }
444  Int*&         getArlCoeffCr         ()                        { return m_pcArlCoeffCr;      }
445#endif
[2]446 
[56]447  Pel*&         getPCMSampleY         ()                        { return m_pcIPCMSampleY;     }
448  Pel*&         getPCMSampleCb        ()                        { return m_pcIPCMSampleCb;    }
449  Pel*&         getPCMSampleCr        ()                        { return m_pcIPCMSampleCr;    }
450
[2]451  UChar         getCbf    ( UInt uiIdx, TextType eType )                  { return m_puhCbf[g_aucConvertTxtTypeToIdx[eType]][uiIdx];  }
452  UChar*        getCbf    ( TextType eType )                              { return m_puhCbf[g_aucConvertTxtTypeToIdx[eType]];         }
453  UChar         getCbf    ( UInt uiIdx, TextType eType, UInt uiTrDepth )  { return ( ( getCbf( uiIdx, eType ) >> uiTrDepth ) & 0x1 ); }
454  Void          setCbf    ( UInt uiIdx, TextType eType, UChar uh )        { m_puhCbf[g_aucConvertTxtTypeToIdx[eType]][uiIdx] = uh;    }
455  Void          clearCbf  ( UInt uiIdx, TextType eType, UInt uiNumParts );
456  UChar         getQtRootCbf          ( UInt uiIdx )                      { return getCbf( uiIdx, TEXT_LUMA, 0 ) || getCbf( uiIdx, TEXT_CHROMA_U, 0 ) || getCbf( uiIdx, TEXT_CHROMA_V, 0 ); }
457 
458  Void          setCbfSubParts        ( UInt uiCbfY, UInt uiCbfU, UInt uiCbfV, UInt uiAbsPartIdx, UInt uiDepth          );
459  Void          setCbfSubParts        ( UInt uiCbf, TextType eTType, UInt uiAbsPartIdx, UInt uiDepth                    );
460  Void          setCbfSubParts        ( UInt uiCbf, TextType eTType, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth    );
461 
462  // -------------------------------------------------------------------------------------------------------------------
463  // member functions for coding tool information
464  // -------------------------------------------------------------------------------------------------------------------
465 
466  Bool*         getMergeFlag          ()                        { return m_pbMergeFlag;               }
467  Bool          getMergeFlag          ( UInt uiIdx )            { return m_pbMergeFlag[uiIdx];        }
468  Void          setMergeFlag          ( UInt uiIdx, Bool b )    { m_pbMergeFlag[uiIdx] = b;           }
469  Void          setMergeFlagSubParts  ( Bool bMergeFlag, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
470
471  UChar*        getMergeIndex         ()                        { return m_puhMergeIndex;                         }
472  UChar         getMergeIndex         ( UInt uiIdx )            { return m_puhMergeIndex[uiIdx];                  }
473  Void          setMergeIndex         ( UInt uiIdx, UInt uiMergeIndex ) { m_puhMergeIndex[uiIdx] = uiMergeIndex;  }
474  Void          setMergeIndexSubParts ( UInt uiMergeIndex, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
[56]475  template <typename T>
476  Void          setSubPart            ( T bParameter, T* pbBaseLCU, UInt uiCUAddr, UInt uiCUDepth, UInt uiPUIdx );
[2]477
[56]478#if AMP_MRG
479  Void          setMergeAMP( Bool b )      { m_bIsMergeAMP = b; }
480  Bool          getMergeAMP( )             { return m_bIsMergeAMP; }
[5]481#endif
[2]482
483  UChar*        getLumaIntraDir       ()                        { return m_puhLumaIntraDir;           }
484  UChar         getLumaIntraDir       ( UInt uiIdx )            { return m_puhLumaIntraDir[uiIdx];    }
485  Void          setLumaIntraDir       ( UInt uiIdx, UChar  uh ) { m_puhLumaIntraDir[uiIdx] = uh;      }
486  Void          setLumaIntraDirSubParts( UInt uiDir,  UInt uiAbsPartIdx, UInt uiDepth );
487 
488  UChar*        getChromaIntraDir     ()                        { return m_puhChromaIntraDir;         }
489  UChar         getChromaIntraDir     ( UInt uiIdx )            { return m_puhChromaIntraDir[uiIdx];  }
490  Void          setChromaIntraDir     ( UInt uiIdx, UChar  uh ) { m_puhChromaIntraDir[uiIdx] = uh;    }
491  Void          setChromIntraDirSubParts( UInt uiDir,  UInt uiAbsPartIdx, UInt uiDepth );
492 
493  UChar*        getInterDir           ()                        { return m_puhInterDir;               }
494  UChar         getInterDir           ( UInt uiIdx )            { return m_puhInterDir[uiIdx];        }
495  Void          setInterDir           ( UInt uiIdx, UChar  uh ) { m_puhInterDir[uiIdx] = uh;          }
496  Void          setInterDirSubParts   ( UInt uiDir,  UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
497 
[56]498  Bool*         getAlfCtrlFlag        ()                        { return m_puiAlfCtrlFlag;            }
499  Bool          getAlfCtrlFlag        ( UInt uiIdx )            { return m_puiAlfCtrlFlag[uiIdx];     }
500  Void          setAlfCtrlFlag        ( UInt uiIdx, Bool uiFlag){ m_puiAlfCtrlFlag[uiIdx] = uiFlag;   }
501  Void          setAlfCtrlFlagSubParts( Bool uiFlag, UInt uiAbsPartIdx, UInt uiDepth );
[2]502 
503  Void          createTmpAlfCtrlFlag  ();
504  Void          destroyTmpAlfCtrlFlag ();
505  Void          copyAlfCtrlFlagToTmp  ();
506  Void          copyAlfCtrlFlagFromTmp();
507 
[56]508  Bool*         getIPCMFlag           ()                        { return m_pbIPCMFlag;               }
509  Bool          getIPCMFlag           (UInt uiIdx )             { return m_pbIPCMFlag[uiIdx];        }
510  Void          setIPCMFlag           (UInt uiIdx, Bool b )     { m_pbIPCMFlag[uiIdx] = b;           }
511  Void          setIPCMFlagSubParts   (Bool bIpcmFlag, UInt uiAbsPartIdx, UInt uiDepth);
[2]512
[56]513#if BURST_IPCM
514  Int           getNumSucIPCM         ()                        { return m_numSucIPCM;             }
515  Void          setNumSucIPCM         ( Int num )               { m_numSucIPCM = num;              }
516  Bool          getLastCUSucIPCMFlag  ()                        { return m_lastCUSucIPCMFlag;        }
517  Void          setLastCUSucIPCMFlag  ( Bool flg )              { m_lastCUSucIPCMFlag = flg;         }
[5]518#endif
[2]519
[56]520  /// get slice ID for SU
521  Int           getSUSliceID          (UInt uiIdx)              {return m_piSliceSUMap[uiIdx];      } 
[2]522
[56]523  /// get the pointer of slice ID map
524  Int*          getSliceSUMap         ()                        {return m_piSliceSUMap;             }
[2]525
[56]526  /// set the pointer of slice ID map
527  Void          setSliceSUMap         (Int *pi)                 {m_piSliceSUMap = pi;               }
[2]528
[56]529  std::vector<NDBFBlockInfo>* getNDBFilterBlocks()      {return &m_vNDFBlock;}
530  Void setNDBFilterBlockBorderAvailability(UInt numLCUInPicWidth, UInt numLCUInPicHeight, UInt numSUInLCUWidth, UInt numSUInLCUHeight, UInt picWidth, UInt picHeight
531                                          ,Bool bIndependentSliceBoundaryEnabled
532                                          ,Bool bTopTileBoundary, Bool bDownTileBoundary, Bool bLeftTileBoundary, Bool bRightTileBoundary
533                                          ,Bool bIndependentTileBoundaryEnabled );
[2]534
[5]535#if HHI_INTER_VIEW_MOTION_PRED
[100]536#if !QC_MULTI_DIS_CAN
[2]537  Int           getPdmMergeCandidate( UInt uiPartIdx, Int* paiPdmRefIdx, TComMv* pacPdmMv );
538  Bool          getPdmMvPred( UInt uiPartIdx, RefPicList eRefPicList, Int iRefIdx, TComMv& rcMv, Bool bMerge = false );
[100]539#else
540  Bool          getPdmMvPredDisCan( UInt uiPartIdx, RefPicList eRefPicList, Int iRefIdx, TComMv& rcMv, DisInfo* pDInfo, Bool bMerge = false );
[169]541  Int           getPdmMergeCandidateDisCan( UInt uiPartIdx, Int* paiPdmRefIdx, TComMv* pacPdmMv, DisInfo* pDInfo
542#if QC_MRG_CANS_B0048
543    , Int* iPdm
544#endif
545  );
[100]546  Void          getDisMvpCand        ( UInt uiPartIdx, UInt uiPartAddr, DisInfo* pDInfo );
547#if LGE_DVMCP
[167]548#if QC_SIMPLE_NBDV_B0047
549  Void          getDisMvpCand2( UInt uiPartIdx, UInt uiPartAddr, DisInfo* pDInfo
550#if LGE_IVMP_PARALLEL_MERGE_B0136
551    , Bool bParMerg = false
552#endif
553    );
554#else
[163]555  Void          getDisMvpCand2( UInt uiPartIdx, UInt uiPartAddr, DisInfo* pDInfo, Bool bMerge=false, RefPicList eRefPicList=REF_PIC_LIST_X, Int iRefIdx=-1
556#if LGE_IVMP_PARALLEL_MERGE_B0136
557    , Bool bParMerg = false
[100]558#endif
[163]559    );
560#endif
[167]561#endif
[100]562
563#endif
[2]564  Bool          getIViewOrgDepthMvPred( UInt uiPartIdx, RefPicList eRefPicList, Int iRefIdx, TComMv& rcMv );
[5]565#endif
566#if HHI_INTER_VIEW_RESIDUAL_PRED
[56]567  Bool*         getResPredAvail         ()                        { return m_pbResPredAvailable;        }
568  Bool          getResPredAvail         ( UInt uiIdx )            { return m_pbResPredAvailable[uiIdx]; }
569  Void          setResPredAvail         ( UInt uiIdx, Bool b )    { m_pbResPredAvailable[uiIdx] = b;    }
570  Void          setResPredAvailSubParts ( Bool b, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
571
572  Bool*         getResPredFlag          ()                        { return m_pbResPredFlag;        }
573  Bool          getResPredFlag          ( UInt uiIdx )            { return m_pbResPredFlag[uiIdx]; }
574  Void          setResPredFlag          ( UInt uiIdx, Bool b )    { m_pbResPredFlag[uiIdx] = b;    }
575  Void          setResPredFlagSubParts  ( Bool b, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
576
577  Void          setResPredIndicator     ( Bool bAv, Bool bRP )    { m_pbResPredAvailable[0] = bAv; m_pbResPredFlag[0] = bRP; }
578#endif
579#if HHI_INTER_VIEW_RESIDUAL_PRED
[77]580  Bool          getResidualSamples( UInt uiPartIdx, 
581#if QC_SIMPLIFIEDIVRP_M24938
582    Bool bRecon ,
[5]583#endif
[77]584    TComYuv* pcYuv = 0 );
585#endif
[2]586  // -------------------------------------------------------------------------------------------------------------------
587  // member functions for accessing partition information
588  // -------------------------------------------------------------------------------------------------------------------
[77]589#if LG_RESTRICTEDRESPRED_M24766
590  Void          getPartIndexAndSize( UInt uiPartIdx, UInt& ruiPartAddr, Int& riWidth, Int& riHeight, UInt uiAbsPartIdx = 0, Bool bLCU = false);
591#else
[2]592  Void          getPartIndexAndSize   ( UInt uiPartIdx, UInt& ruiPartAddr, Int& riWidth, Int& riHeight );
[77]593#endif
594#if LG_RESTRICTEDRESPRED_M24766
595  Int           getResiPredMode(UInt uiPartAddr);
596  Void          getPUResiPredShift (Int *iPUPredResiShift, UInt uiAbsPartIndex);
597#endif
[2]598  UChar         getNumPartInter       ();
599  Bool          isFirstAbsZorderIdxInDepth (UInt uiAbsPartIdx, UInt uiDepth);
600 
601  // -------------------------------------------------------------------------------------------------------------------
602  // member functions for motion vector
603  // -------------------------------------------------------------------------------------------------------------------
604 
605  Void          getMvField            ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefPicList, TComMvField& rcMvField );
606 
607  AMVP_MODE     getAMVPMode           ( UInt uiIdx );
[154]608#if SHARP_INTERVIEW_DECOUPLE_B0111
609  Void          fillMvpCandBase       ( UInt uiPartIdx, UInt uiPartAddr, RefPicList eRefPicList, Int iRefIdx, AMVPInfo* pInfo );
610  Void          fillMvpCand           ( UInt uiPartIdx, UInt uiPartAddr, RefPicList eRefPicList, Int iRefIdx, AMVPInfo* pInfo , Int iMVPIdx=-1);
611#else
[2]612  Void          fillMvpCand           ( UInt uiPartIdx, UInt uiPartAddr, RefPicList eRefPicList, Int iRefIdx, AMVPInfo* pInfo );
[154]613#endif
[56]614#if PARALLEL_MERGE
615  Bool          isDiffMER             ( Int xN, Int yN, Int xP, Int yP);
616  Void          getPartPosition       ( UInt partIdx, Int& xP, Int& yP, Int& nPSW, Int& nPSH);
617#endif
[2]618  Void          setMVPIdx             ( RefPicList eRefPicList, UInt uiIdx, Int iMVPIdx)  { m_apiMVPIdx[eRefPicList][uiIdx] = iMVPIdx;  }
619  Int           getMVPIdx             ( RefPicList eRefPicList, UInt uiIdx)               { return m_apiMVPIdx[eRefPicList][uiIdx];     }
[56]620  Char*         getMVPIdx             ( RefPicList eRefPicList )                          { return m_apiMVPIdx[eRefPicList];            }
621
[2]622  Void          setMVPNum             ( RefPicList eRefPicList, UInt uiIdx, Int iMVPNum ) { m_apiMVPNum[eRefPicList][uiIdx] = iMVPNum;  }
623  Int           getMVPNum             ( RefPicList eRefPicList, UInt uiIdx )              { return m_apiMVPNum[eRefPicList][uiIdx];     }
[56]624  Char*         getMVPNum             ( RefPicList eRefPicList )                          { return m_apiMVPNum[eRefPicList];            }
[2]625 
626  Void          setMVPIdxSubParts     ( Int iMVPIdx, RefPicList eRefPicList, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
627  Void          setMVPNumSubParts     ( Int iMVPNum, RefPicList eRefPicList, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
628 
629  Void          clipMv                ( TComMv&     rcMv     );
630  Void          getMvPredLeft         ( TComMv&     rcMvPred )   { rcMvPred = m_cMvFieldA.getMv(); }
631  Void          getMvPredAbove        ( TComMv&     rcMvPred )   { rcMvPred = m_cMvFieldB.getMv(); }
632  Void          getMvPredAboveRight   ( TComMv&     rcMvPred )   { rcMvPred = m_cMvFieldC.getMv(); }
633 
634  Void          compressMV            ();
[115]635
[116]636#if OL_DEPTHLIMIT_A0044
637  Void        resetPartInfo     () {m_uiPartNum = 0;};
638  Void        incrementPartInfo () {m_uiPartNum ++;};
639  Void        updatePartInfo(UInt uiSymbol, UInt uiDepth) { m_uiPartInfo[m_uiPartNum][0] = uiSymbol; m_uiPartInfo[m_uiPartNum][1] = uiDepth;};
640  UInt*       readPartInfo()                              { return (UInt*)m_uiPartInfo;};
[118]641  Void        setPartDumpFlag(Bool flag)                  { m_dumpPartInfo = flag; };
642  Bool        getPartDumpFlag()                           { return m_dumpPartInfo; };
[115]643#endif
[2]644 
645  // -------------------------------------------------------------------------------------------------------------------
646  // utility functions for neighbouring information
647  // -------------------------------------------------------------------------------------------------------------------
648 
649  TComDataCU*   getCULeft                   () { return m_pcCULeft;       }
650  TComDataCU*   getCUAbove                  () { return m_pcCUAbove;      }
651  TComDataCU*   getCUAboveLeft              () { return m_pcCUAboveLeft;  }
652  TComDataCU*   getCUAboveRight             () { return m_pcCUAboveRight; }
653  TComDataCU*   getCUColocated              ( RefPicList eRefPicList ) { return m_apcCUColocated[eRefPicList]; }
[56]654
655
656  TComDataCU*   getPULeft                   ( UInt&  uiLPartUnitIdx , UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true
657                                            , Bool bEnforceTileRestriction=true 
658                                            );
659
660  TComDataCU*   getPUAbove                  ( UInt&  uiAPartUnitIdx , UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true, Bool MotionDataCompresssion = false
661                                            , Bool planarAtLCUBoundary = false 
662                                            , Bool bEnforceTileRestriction=true 
663                                            );
664
665  TComDataCU*   getPUAboveLeft              ( UInt&  uiALPartUnitIdx, UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true, Bool MotionDataCompresssion = false );
666  TComDataCU*   getPUAboveRight             ( UInt&  uiARPartUnitIdx, UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true, Bool MotionDataCompresssion = false );
[2]667  TComDataCU*   getPUBelowLeft              ( UInt& uiBLPartUnitIdx, UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true );
668
[56]669  TComDataCU*   getQpMinCuLeft              ( UInt&  uiLPartUnitIdx , UInt uiCurrAbsIdxInLCU, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true );
670#if H0204_QP_PREDICTION
671  TComDataCU*   getQpMinCuAbove             ( UInt&  aPartUnitIdx , UInt currAbsIdxInLCU, Bool enforceSliceRestriction=true, Bool enforceEntropySliceRestriction=true );
672#endif
673#if H0736_AVC_STYLE_QP_RANGE
674  Char          getRefQP                    ( UInt   uiCurrAbsIdxInLCU                       );
675#else
676  UChar         getRefQP                    ( UInt   uiCurrAbsIdxInLCU                       );
677#endif
678
[2]679  TComDataCU*   getPUAboveRightAdi          ( UInt&  uiARPartUnitIdx, UInt uiPuWidth, UInt uiCurrPartUnitIdx, UInt uiPartUnitOffset = 1, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true );
680  TComDataCU*   getPUBelowLeftAdi           ( UInt& uiBLPartUnitIdx, UInt uiPuHeight, UInt uiCurrPartUnitIdx, UInt uiPartUnitOffset = 1, Bool bEnforceSliceRestriction=true, Bool bEnforceEntropySliceRestriction=true );
681 
682  Void          deriveLeftRightTopIdx       ( PartSize eCUMode, UInt uiPartIdx, UInt& ruiPartIdxLT, UInt& ruiPartIdxRT );
683  Void          deriveLeftBottomIdx         ( PartSize eCUMode, UInt uiPartIdx, UInt& ruiPartIdxLB );
684 
685  Void          deriveLeftRightTopIdxAdi    ( UInt& ruiPartIdxLT, UInt& ruiPartIdxRT, UInt uiPartOffset, UInt uiPartDepth );
686  Void          deriveLeftBottomIdxAdi      ( UInt& ruiPartIdxLB, UInt  uiPartOffset, UInt uiPartDepth );
687 
688  Bool          hasEqualMotion              ( UInt uiAbsPartIdx, TComDataCU* pcCandCU, UInt uiCandAbsPartIdx );
[56]689#if SIMP_MRG_PRUN
690  Void          getInterMergeCandidates       ( UInt uiAbsPartIdx, UInt uiPUIdx, UInt uiDepth, TComMvField* pcMFieldNeighbours, UChar* puhInterDirNeighbours, Int& numValidMergeCand, Int mrgCandIdx = -1 );
691#else
692  Void          getInterMergeCandidates       ( UInt uiAbsPartIdx, UInt uiPUIdx, UInt uiDepth, TComMvField* pcMFieldNeighbours, UChar* puhInterDirNeighbours, Int& numValidMergeCand );
693#endif
[2]694  Void          deriveLeftRightTopIdxGeneral  ( PartSize eCUMode, UInt uiAbsPartIdx, UInt uiPartIdx, UInt& ruiPartIdxLT, UInt& ruiPartIdxRT );
695  Void          deriveLeftBottomIdxGeneral    ( PartSize eCUMode, UInt uiAbsPartIdx, UInt uiPartIdx, UInt& ruiPartIdxLB );
696 
697 
698  // -------------------------------------------------------------------------------------------------------------------
699  // member functions for modes
700  // -------------------------------------------------------------------------------------------------------------------
701 
702  Bool          isIntra   ( UInt uiPartIdx )  { return m_pePredMode[ uiPartIdx ] == MODE_INTRA; }
703  Bool          isSkipped ( UInt uiPartIdx );                                                     ///< SKIP (no residual)
704 
705  // -------------------------------------------------------------------------------------------------------------------
706  // member functions for symbol prediction (most probable / mode conversion)
707  // -------------------------------------------------------------------------------------------------------------------
708 
709  UInt          getIntraSizeIdx                 ( UInt uiAbsPartIdx                                       );
710  Void          convertTransIdx                 ( UInt uiAbsPartIdx, UInt uiTrIdx, UInt& ruiLumaTrMode, UInt& ruiChromaTrMode );
711 
[56]712  Void          getAllowedChromaDir             ( UInt uiAbsPartIdx, UInt* uiModeList );
713  Int           getIntraDirLumaPredictor        ( UInt uiAbsPartIdx, Int* uiIntraDirPred, Int* piMode = NULL );
[2]714 
715  // -------------------------------------------------------------------------------------------------------------------
716  // member functions for SBAC context
717  // -------------------------------------------------------------------------------------------------------------------
718 
719  UInt          getCtxSplitFlag                 ( UInt   uiAbsPartIdx, UInt uiDepth                   );
720  UInt          getCtxQtCbf                     ( UInt   uiAbsPartIdx, TextType eType, UInt uiTrDepth );
[56]721
[2]722  UInt          getCtxSkipFlag                  ( UInt   uiAbsPartIdx                                 );
723  UInt          getCtxInterDir                  ( UInt   uiAbsPartIdx                                 );
[56]724
725#if HHI_INTER_VIEW_RESIDUAL_PRED
726  UInt          getCtxResPredFlag               ( UInt   uiAbsPartIdx                                 );
727#endif
[2]728 
[56]729  UInt          getSliceStartCU         ( UInt pos )                  { return m_uiSliceStartCU[pos-m_uiAbsIdxInLCU];                                                                                          }
730  UInt          getEntropySliceStartCU  ( UInt pos )                  { return m_uiEntropySliceStartCU[pos-m_uiAbsIdxInLCU];                                                                                   }
731  UInt&         getTotalBins            ()                            { return m_uiTotalBins;                                                                                                  }
[100]732
733#if LGE_EDGE_INTRA
734  UInt          getCtxEdgeIntra ( UInt uiAbsPartIdx );
735#endif
736
[2]737  // -------------------------------------------------------------------------------------------------------------------
738  // member functions for RD cost storage
739  // -------------------------------------------------------------------------------------------------------------------
740 
741  Double&       getTotalCost()                  { return m_dTotalCost;        }
[175]742#if FIX_RDO_NEGDIST
743  Dist&         getTotalDistortion()            { return m_uiTotalDistortion; }
744#else
[56]745  UInt&         getTotalDistortion()            { return m_uiTotalDistortion; }
[175]746#endif
[2]747  UInt&         getTotalBits()                  { return m_uiTotalBits;       }
748  UInt&         getTotalNumPart()               { return m_uiNumPartition;    }
749
750  UInt          getCoefScanIdx(UInt uiAbsPartIdx, UInt uiWidth, Bool bIsLuma, Bool bIsIntra);
751
[56]752  Bool          useNonSquareTrans( UInt uiTrMode, Int absPartIdx );
753  Void          getNSQTSize(Int trMode, Int absPartIdx, Int &trWidth, Int &trHeight);
754  Bool          useNonSquarePU   ( UInt absPartIdx);
755  UInt          getInterTUSplitDirection ( Int width, Int height, Int trLastWidth, Int trLastHeight );
756  UInt          getNSAbsPartIdx  ( UInt log2TrafoSize, UInt absPartIdx, UInt absTUPartIdx, UInt innerQuadIdx, UInt trMode );
757  UInt          getNSAddrChroma   ( UInt uiLog2TrSizeC, UInt uiTrModeC, UInt uiQuadrant, UInt absTUPartIdx );
758 
759// -------------------------------------------------------------------------------------------------------------------
760  // member functions for depth model modes
761  // -------------------------------------------------------------------------------------------------------------------
762#if HHI_DMM_WEDGE_INTRA
763  UInt* getWedgeFullTabIdx                ()                      { return m_puiWedgeFullTabIdx;              }
764  UInt  getWedgeFullTabIdx                ( UInt uiIdx )          { return m_puiWedgeFullTabIdx[uiIdx];       }
765  Void  setWedgeFullTabIdx                ( UInt uiIdx, UInt uh ) { m_puiWedgeFullTabIdx[uiIdx] = uh;         }
766  Void  setWedgeFullTabIdxSubParts        ( UInt uiTIdx, UInt uiAbsPartIdx, UInt uiDepth );
767  Int*  getWedgeFullDeltaDC1              ()                      { return m_piWedgeFullDeltaDC1;             }
768  Int   getWedgeFullDeltaDC1              ( UInt uiIdx )          { return m_piWedgeFullDeltaDC1[uiIdx];      }
769  Void  setWedgeFullDeltaDC1              ( UInt uiIdx, Int i )   { m_piWedgeFullDeltaDC1[uiIdx] = i;         }
770  Void  setWedgeFullDeltaDC1SubParts      ( Int iDC1, UInt uiAbsPartIdx, UInt uiDepth );
771  Int*  getWedgeFullDeltaDC2              ()                      { return m_piWedgeFullDeltaDC2;             }
772  Int   getWedgeFullDeltaDC2              ( UInt uiIdx )          { return m_piWedgeFullDeltaDC2[uiIdx];      }
773  Void  setWedgeFullDeltaDC2              ( UInt uiIdx, Int i )   { m_piWedgeFullDeltaDC2[uiIdx] = i;         }
774  Void  setWedgeFullDeltaDC2SubParts      ( Int iDC2, UInt uiAbsPartIdx, UInt uiDepth );
775
776  UInt* getWedgePredDirTabIdx             ()                      { return m_puiWedgePredDirTabIdx;           }
777  UInt  getWedgePredDirTabIdx             ( UInt uiIdx )          { return m_puiWedgePredDirTabIdx[uiIdx];    }
778  Void  setWedgePredDirTabIdx             ( UInt uiIdx, UInt uh ) { m_puiWedgePredDirTabIdx[uiIdx] = uh;      }
779  Void  setWedgePredDirTabIdxSubParts     ( UInt uiTIdx, UInt uiAbsPartIdx, UInt uiDepth );
780  Int*  getWedgePredDirDeltaDC1           ()                      { return m_piWedgePredDirDeltaDC1;          }
781  Int   getWedgePredDirDeltaDC1           ( UInt uiIdx )          { return m_piWedgePredDirDeltaDC1[uiIdx];   }
782  Void  setWedgePredDirDeltaDC1           ( UInt uiIdx, Int i )   { m_piWedgePredDirDeltaDC1[uiIdx] = i;      }
783  Void  setWedgePredDirDeltaDC1SubParts   ( Int iDC1, UInt uiAbsPartIdx, UInt uiDepth );
784  Int*  getWedgePredDirDeltaDC2           ()                      { return m_piWedgePredDirDeltaDC2;          }
785  Int   getWedgePredDirDeltaDC2           ( UInt uiIdx )          { return m_piWedgePredDirDeltaDC2[uiIdx];   }
786  Void  setWedgePredDirDeltaDC2           ( UInt uiIdx, Int i )   { m_piWedgePredDirDeltaDC2[uiIdx] = i;      }
787  Void  setWedgePredDirDeltaDC2SubParts   ( Int iDC2, UInt uiAbsPartIdx, UInt uiDepth );
788  Int*  getWedgePredDirDeltaEnd           ()                      { return m_piWedgePredDirDeltaEnd;          }
789  Int   getWedgePredDirDeltaEnd           ( UInt uiIdx )          { return m_piWedgePredDirDeltaEnd[uiIdx];   }
790  Void  setWedgePredDirDeltaEnd           ( UInt uiIdx, Int iD )  { m_piWedgePredDirDeltaEnd[uiIdx] = iD;     }
791  Void  setWedgePredDirDeltaEndSubParts   ( Int iDelta, UInt uiAbsPartIdx, UInt uiDepth );
792#endif
793#if HHI_DMM_PRED_TEX
794  UInt* getWedgePredTexTabIdx             ()                      { return m_puiWedgePredTexTabIdx;           }
795  UInt  getWedgePredTexTabIdx             ( UInt uiIdx )          { return m_puiWedgePredTexTabIdx[uiIdx];    }
796  Void  setWedgePredTexTabIdx             ( UInt uiIdx, UInt uh ) { m_puiWedgePredTexTabIdx[uiIdx] = uh;      }
797  Void  setWedgePredTexTabIdxSubParts     ( UInt uiTIdx, UInt uiAbsPartIdx, UInt uiDepth );
798  Int*  getWedgePredTexDeltaDC1           ()                      { return m_piWedgePredTexDeltaDC1;          }
799  Int   getWedgePredTexDeltaDC1           ( UInt uiIdx )          { return m_piWedgePredTexDeltaDC1[uiIdx];   }
800  Void  setWedgePredTexDeltaDC1           ( UInt uiIdx, Int i )   { m_piWedgePredTexDeltaDC1[uiIdx] = i;      }
801  Void  setWedgePredTexDeltaDC1SubParts   ( Int iDC1, UInt uiAbsPartIdx, UInt uiDepth );
802  Int*  getWedgePredTexDeltaDC2           ()                      { return m_piWedgePredTexDeltaDC2;          }
803  Int   getWedgePredTexDeltaDC2           ( UInt uiIdx )          { return m_piWedgePredTexDeltaDC2[uiIdx];   }
804  Void  setWedgePredTexDeltaDC2           ( UInt uiIdx, Int i )   { m_piWedgePredTexDeltaDC2[uiIdx] = i;      }
805  Void  setWedgePredTexDeltaDC2SubParts   ( Int iDC2, UInt uiAbsPartIdx, UInt uiDepth );
806
807  Int*  getContourPredTexDeltaDC1         ()                      { return m_piContourPredTexDeltaDC1;        }
808  Int   getContourPredTexDeltaDC1         ( UInt uiIdx )          { return m_piContourPredTexDeltaDC1[uiIdx]; }
809  Void  setContourPredTexDeltaDC1         ( UInt uiIdx, Int i )   { m_piContourPredTexDeltaDC1[uiIdx] = i;    }
810  Void  setContourPredTexDeltaDC1SubParts ( Int iDC1, UInt uiAbsPartIdx, UInt uiDepth );
811  Int*  getContourPredTexDeltaDC2         ()                      { return m_piContourPredTexDeltaDC2;        }
812  Int   getContourPredTexDeltaDC2         ( UInt uiIdx )          { return m_piContourPredTexDeltaDC2[uiIdx]; }
813  Void  setContourPredTexDeltaDC2         ( UInt uiIdx, Int i )   { m_piContourPredTexDeltaDC2[uiIdx] = i;    }
814  Void  setContourPredTexDeltaDC2SubParts ( Int iDC2, UInt uiAbsPartIdx, UInt uiDepth );
815#endif
[100]816
817#if LGE_EDGE_INTRA
818  UChar*        getEdgeCode( UInt uiIdx )                 { return &m_pucEdgeCode[uiIdx * LGE_EDGE_INTRA_MAX_EDGE_NUM_PER_4x4]; }
819  UChar*        getEdgeNumber( )                          { return m_pucEdgeNumber;           }
820  UChar         getEdgeNumber( UInt uiIdx )               { return m_pucEdgeNumber[uiIdx];    }
821  Void          setEdgeNumber( UInt uiIdx, UChar val )    { m_pucEdgeNumber[uiIdx] = val;     }
822  UChar*        getEdgeStartPos( )                        { return m_pucEdgeStartPos;         }
823  UChar         getEdgeStartPos( UInt uiIdx )             { return m_pucEdgeStartPos[uiIdx];  }
824  Void          setEdgeStartPos( UInt uiIdx, UChar val )  { m_pucEdgeStartPos[uiIdx] = val;   }
825  Bool*         getEdgeLeftFirst( )                       { return m_pbEdgeLeftFirst;         }
826  Bool          getEdgeLeftFirst( UInt uiIdx )            { return m_pbEdgeLeftFirst[uiIdx];  }
827  Void          setEdgeLeftFirst( UInt uiIdx, Bool val )  { m_pbEdgeLeftFirst[uiIdx] = val;   }
828  Bool*         getEdgePartition( UInt uiIdx )              { return &m_pbEdgePartition[uiIdx * 16]; }
829  Void          reconPartition( UInt uiAbsPartIdx, UInt uiDepth, Bool bLeft, UChar ucStartPos, UChar ucNumEdge, UChar* pucEdgeCode, Bool* pbRegion );
830
831#if LGE_EDGE_INTRA_DELTA_DC
832  Int*          getEdgeDeltaDC0( )                          { return m_piEdgeDeltaDC0; }
833  Int*          getEdgeDeltaDC1( )                          { return m_piEdgeDeltaDC1; }
834  Int           getEdgeDeltaDC0( UInt uiIdx )               { return m_piEdgeDeltaDC0[uiIdx]; }
835  Int           getEdgeDeltaDC1( UInt uiIdx )               { return m_piEdgeDeltaDC1[uiIdx]; }
836  Void          setEdgeDeltaDC0( UInt uiIdx, Int val )      { m_piEdgeDeltaDC0[uiIdx] = val;  }
837  Void          setEdgeDeltaDC1( UInt uiIdx, Int val )      { m_piEdgeDeltaDC1[uiIdx] = val;  }
838#endif
839#endif
[2]840};
841
[56]842namespace RasterAddress
843{
844  /** Check whether 2 addresses point to the same column
845   * \param addrA          First address in raster scan order
846   * \param addrB          Second address in raters scan order
847   * \param numUnitsPerRow Number of units in a row
848   * \return Result of test
849   */
850  static inline Bool isEqualCol( Int addrA, Int addrB, Int numUnitsPerRow )
851  {
852    // addrA % numUnitsPerRow == addrB % numUnitsPerRow
853    return (( addrA ^ addrB ) &  ( numUnitsPerRow - 1 ) ) == 0;
854  }
855 
856  /** Check whether 2 addresses point to the same row
857   * \param addrA          First address in raster scan order
858   * \param addrB          Second address in raters scan order
859   * \param numUnitsPerRow Number of units in a row
860   * \return Result of test
861   */
862  static inline Bool isEqualRow( Int addrA, Int addrB, Int numUnitsPerRow )
863  {
864    // addrA / numUnitsPerRow == addrB / numUnitsPerRow
865    return (( addrA ^ addrB ) &~ ( numUnitsPerRow - 1 ) ) == 0;
866  }
867 
868  /** Check whether 2 addresses point to the same row or column
869   * \param addrA          First address in raster scan order
870   * \param addrB          Second address in raters scan order
871   * \param numUnitsPerRow Number of units in a row
872   * \return Result of test
873   */
874  static inline Bool isEqualRowOrCol( Int addrA, Int addrB, Int numUnitsPerRow )
875  {
876    return isEqualCol( addrA, addrB, numUnitsPerRow ) | isEqualRow( addrA, addrB, numUnitsPerRow );
877  }
878 
879  /** Check whether one address points to the first column
880   * \param addr           Address in raster scan order
881   * \param numUnitsPerRow Number of units in a row
882   * \return Result of test
883   */
884  static inline Bool isZeroCol( Int addr, Int numUnitsPerRow )
885  {
886    // addr % numUnitsPerRow == 0
887    return ( addr & ( numUnitsPerRow - 1 ) ) == 0;
888  }
889 
890  /** Check whether one address points to the first row
891   * \param addr           Address in raster scan order
892   * \param numUnitsPerRow Number of units in a row
893   * \return Result of test
894   */
895  static inline Bool isZeroRow( Int addr, Int numUnitsPerRow )
896  {
897    // addr / numUnitsPerRow == 0
898    return ( addr &~ ( numUnitsPerRow - 1 ) ) == 0;
899  }
900 
901  /** Check whether one address points to a column whose index is smaller than a given value
902   * \param addr           Address in raster scan order
903   * \param val            Given column index value
904   * \param numUnitsPerRow Number of units in a row
905   * \return Result of test
906   */
907  static inline Bool lessThanCol( Int addr, Int val, Int numUnitsPerRow )
908  {
909    // addr % numUnitsPerRow < val
910    return ( addr & ( numUnitsPerRow - 1 ) ) < val;
911  }
912 
913  /** Check whether one address points to a row whose index is smaller than a given value
914   * \param addr           Address in raster scan order
915   * \param val            Given row index value
916   * \param numUnitsPerRow Number of units in a row
917   * \return Result of test
918   */
919  static inline Bool lessThanRow( Int addr, Int val, Int numUnitsPerRow )
920  {
921    // addr / numUnitsPerRow < val
922    return addr < val * numUnitsPerRow;
923  }
924};
925
926//! \}
927
[2]928#endif
Note: See TracBrowser for help on using the repository browser.