source: 3DVCSoftware/branches/HTM-DEV-0.3-dev2/source/Lib/TLibCommon/TComDataCU.h @ 530

Last change on this file since 530 was 530, checked in by mitsubishi-htm, 11 years ago

-VSP remaining stuff wrapped up.
-4x4 VSP in effect.

  • Property svn:eol-style set to native
File size: 39.9 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TComDataCU.h
35    \brief    CU data structure (header)
36    \todo     not all entities are documented
37*/
38
39#ifndef _TCOMDATACU_
40#define _TCOMDATACU_
41
42#include <assert.h>
43
44// Include files
45#include "CommonDef.h"
46#include "TComMotionInfo.h"
47#include "TComSlice.h"
48#include "TComRdCost.h"
49#include "TComPattern.h"
50
51#if H_3D_ARP
52#include "TComYuv.h"
53#endif
54
55#include <algorithm>
56#include <vector>
57
58//! \ingroup TLibCommon
59//! \{
60
61// ====================================================================================================================
62// Non-deblocking in-loop filter processing block data structure
63// ====================================================================================================================
64
65/// Non-deblocking filter processing block border tag
66enum NDBFBlockBorderTag
67{
68  SGU_L = 0,
69  SGU_R,
70  SGU_T,
71  SGU_B,
72  SGU_TL,
73  SGU_TR,
74  SGU_BL,
75  SGU_BR,
76  NUM_SGU_BORDER
77};
78
79/// Non-deblocking filter processing block information
80struct NDBFBlockInfo
81{
82  Int   tileID;   //!< tile ID
83  Int   sliceID;  //!< slice ID
84  UInt  startSU;  //!< starting SU z-scan address in LCU
85  UInt  endSU;    //!< ending SU z-scan address in LCU
86  UInt  widthSU;  //!< number of SUs in width
87  UInt  heightSU; //!< number of SUs in height
88  UInt  posX;     //!< top-left X coordinate in picture
89  UInt  posY;     //!< top-left Y coordinate in picture
90  UInt  width;    //!< number of pixels in width
91  UInt  height;   //!< number of pixels in height
92  Bool  isBorderAvailable[NUM_SGU_BORDER];  //!< the border availabilities
93  Bool  allBordersAvailable;
94
95  NDBFBlockInfo():tileID(0), sliceID(0), startSU(0), endSU(0) {} //!< constructor
96  const NDBFBlockInfo& operator= (const NDBFBlockInfo& src);  //!< "=" operator
97};
98
99
100// ====================================================================================================================
101// Class definition
102// ====================================================================================================================
103
104/// CU data structure class
105class TComDataCU
106{
107private:
108 
109  // -------------------------------------------------------------------------------------------------------------------
110  // class pointers
111  // -------------------------------------------------------------------------------------------------------------------
112 
113  TComPic*      m_pcPic;              ///< picture class pointer
114  TComSlice*    m_pcSlice;            ///< slice header pointer
115  TComPattern*  m_pcPattern;          ///< neighbour access class pointer
116 
117  // -------------------------------------------------------------------------------------------------------------------
118  // CU description
119  // -------------------------------------------------------------------------------------------------------------------
120 
121  UInt          m_uiCUAddr;           ///< CU address in a slice
122  UInt          m_uiAbsIdxInLCU;      ///< absolute address in a CU. It's Z scan order
123  UInt          m_uiCUPelX;           ///< CU position in a pixel (X)
124  UInt          m_uiCUPelY;           ///< CU position in a pixel (Y)
125  UInt          m_uiNumPartition;     ///< total number of minimum partitions in a CU
126  UChar*        m_puhWidth;           ///< array of widths
127  UChar*        m_puhHeight;          ///< array of heights
128  UChar*        m_puhDepth;           ///< array of depths
129  Int           m_unitSize;           ///< size of a "minimum partition"
130 
131  // -------------------------------------------------------------------------------------------------------------------
132  // CU data
133  // -------------------------------------------------------------------------------------------------------------------
134  Bool*         m_skipFlag;           ///< array of skip flags
135  Char*         m_pePartSize;         ///< array of partition sizes
136  Char*         m_pePredMode;         ///< array of prediction modes
137  Bool*         m_CUTransquantBypass;   ///< array of cu_transquant_bypass flags
138  Char*         m_phQP;               ///< array of QP values
139  UChar*        m_puhTrIdx;           ///< array of transform indices
140  UChar*        m_puhTransformSkip[3];///< array of transform skipping flags
141  UChar*        m_puhCbf[3];          ///< array of coded block flags (CBF)
142  TComCUMvField m_acCUMvField[2];     ///< array of motion vectors
143  TCoeff*       m_pcTrCoeffY;         ///< transformed coefficient buffer (Y)
144  TCoeff*       m_pcTrCoeffCb;        ///< transformed coefficient buffer (Cb)
145  TCoeff*       m_pcTrCoeffCr;        ///< transformed coefficient buffer (Cr)
146#if ADAPTIVE_QP_SELECTION
147  Int*          m_pcArlCoeffY;        ///< ARL coefficient buffer (Y)
148  Int*          m_pcArlCoeffCb;       ///< ARL coefficient buffer (Cb)
149  Int*          m_pcArlCoeffCr;       ///< ARL coefficient buffer (Cr)
150  Bool          m_ArlCoeffIsAliasedAllocation; ///< ARL coefficient buffer is an alias of the global buffer and must not be free()'d
151
152  static Int*   m_pcGlbArlCoeffY;     ///< ARL coefficient buffer (Y)
153  static Int*   m_pcGlbArlCoeffCb;    ///< ARL coefficient buffer (Cb)
154  static Int*   m_pcGlbArlCoeffCr;    ///< ARL coefficient buffer (Cr)
155#endif
156 
157  Pel*          m_pcIPCMSampleY;      ///< PCM sample buffer (Y)
158  Pel*          m_pcIPCMSampleCb;     ///< PCM sample buffer (Cb)
159  Pel*          m_pcIPCMSampleCr;     ///< PCM sample buffer (Cr)
160
161  Int*          m_piSliceSUMap;       ///< pointer of slice ID map
162  std::vector<NDBFBlockInfo> m_vNDFBlock;
163
164  // -------------------------------------------------------------------------------------------------------------------
165  // neighbour access variables
166  // -------------------------------------------------------------------------------------------------------------------
167 
168  TComDataCU*   m_pcCUAboveLeft;      ///< pointer of above-left CU
169  TComDataCU*   m_pcCUAboveRight;     ///< pointer of above-right CU
170  TComDataCU*   m_pcCUAbove;          ///< pointer of above CU
171  TComDataCU*   m_pcCULeft;           ///< pointer of left CU
172  TComDataCU*   m_apcCUColocated[2];  ///< pointer of temporally colocated CU's for both directions
173  TComMvField   m_cMvFieldA;          ///< motion vector of position A
174  TComMvField   m_cMvFieldB;          ///< motion vector of position B
175  TComMvField   m_cMvFieldC;          ///< motion vector of position C
176  TComMv        m_cMvPred;            ///< motion vector predictor
177 
178  // -------------------------------------------------------------------------------------------------------------------
179  // coding tool information
180  // -------------------------------------------------------------------------------------------------------------------
181 
182  Bool*         m_pbMergeFlag;        ///< array of merge flags
183  UChar*        m_puhMergeIndex;      ///< array of merge candidate indices
184#if AMP_MRG
185  Bool          m_bIsMergeAMP;
186#endif
187  UChar*        m_puhLumaIntraDir;    ///< array of intra directions (luma)
188  UChar*        m_puhChromaIntraDir;  ///< array of intra directions (chroma)
189  UChar*        m_puhInterDir;        ///< array of inter directions
190  Char*         m_apiMVPIdx[2];       ///< array of motion vector predictor candidates
191  Char*         m_apiMVPNum[2];       ///< array of number of possible motion vectors predictors
192  Bool*         m_pbIPCMFlag;         ///< array of intra_pcm flags
193#if H_3D_NBDV
194  DisInfo*      m_pDvInfo;
195#endif
196#if H_3D_VSP
197  Char*         m_piVSPFlag;          ///< array of VSP flags to indicate whehter a block uses VSP or not
198                                      ///< 0: non-VSP; 1: VSP
199#endif
200#if H_3D_ARP
201  UChar*        m_puhARPW;
202#endif
203#if H_3D_IC
204  Bool*         m_pbICFlag;           ///< array of IC flags
205#endif
206  // -------------------------------------------------------------------------------------------------------------------
207  // misc. variables
208  // -------------------------------------------------------------------------------------------------------------------
209 
210  Bool          m_bDecSubCu;          ///< indicates decoder-mode
211  Double        m_dTotalCost;         ///< sum of partition RD costs
212#if H_3D_VSO
213  Dist          m_uiTotalDistortion;  ///< sum of partition distortion
214#else
215  UInt          m_uiTotalDistortion;  ///< sum of partition distortion
216#endif
217  UInt          m_uiTotalBits;        ///< sum of partition bits
218  UInt          m_uiTotalBins;       ///< sum of partition bins
219  UInt*         m_sliceStartCU;    ///< Start CU address of current slice
220  UInt*         m_sliceSegmentStartCU; ///< Start CU address of current slice
221  Char          m_codedQP;
222protected:
223 
224  /// add possible motion vector predictor candidates
225  Bool          xAddMVPCand           ( AMVPInfo* pInfo, RefPicList eRefPicList, Int iRefIdx, UInt uiPartUnitIdx, MVP_DIR eDir );
226  Bool          xAddMVPCandOrder      ( AMVPInfo* pInfo, RefPicList eRefPicList, Int iRefIdx, UInt uiPartUnitIdx, MVP_DIR eDir );
227#if H_3D_VSP
228  Bool          xAddVspCand( UChar ucVspMergePos, Int mrgCandIdx, DisInfo* pDInfo, Int& iCount,
229                             Bool* abCandIsInter, TComMvField* pcMvFieldNeighbours, UChar* puhInterDirNeighbours, Int* vspFlag );
230#endif
231
232  Void          deriveRightBottomIdx        ( UInt uiPartIdx, UInt& ruiPartIdxRB );
233  Bool          xGetColMVP( RefPicList eRefPicList, Int uiCUAddr, Int uiPartUnitIdx, TComMv& rcMv, Int& riRefIdx
234#if H_3D_TMVP
235  ,
236  Bool bMRG = true
237#endif
238  );
239 
240  /// compute required bits to encode MVD (used in AMVP)
241  UInt          xGetMvdBits           ( TComMv cMvd );
242  UInt          xGetComponentBits     ( Int iVal );
243 
244  /// compute scaling factor from POC difference
245#if !H_3D_ARP
246  Int           xGetDistScaleFactor   ( Int iCurrPOC, Int iCurrRefPOC, Int iColPOC, Int iColRefPOC );
247#endif
248
249  Void xDeriveCenterIdx( UInt uiPartIdx, UInt& ruiPartIdxCenter );
250
251public:
252  TComDataCU();
253  virtual ~TComDataCU();
254 
255  // -------------------------------------------------------------------------------------------------------------------
256  // create / destroy / initialize / copy
257  // -------------------------------------------------------------------------------------------------------------------
258#if H_3D_ARP
259  Int           xGetDistScaleFactor   ( Int iCurrPOC, Int iCurrRefPOC, Int iColPOC, Int iColRefPOC );
260#endif
261  Void          create                ( UInt uiNumPartition, UInt uiWidth, UInt uiHeight, Bool bDecSubCu, Int unitSize
262#if ADAPTIVE_QP_SELECTION
263    , Bool bGlobalRMARLBuffer = false
264#endif 
265    );
266  Void          destroy               ();
267 
268  Void          initCU                ( TComPic* pcPic, UInt uiCUAddr );
269  Void          initEstData           ( UInt uiDepth, Int qp );
270  Void          initSubCU             ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth, Int qp );
271  Void          setOutsideCUPart      ( UInt uiAbsPartIdx, UInt uiDepth );
272#if H_3D_NBDV
273  Void          copyDVInfoFrom (TComDataCU* pcCU, UInt uiAbsPartIdx);
274#endif
275  Void          copySubCU             ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth );
276  Void          copyInterPredInfoFrom ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefPicList
277#if H_3D_NBDV
278  , Bool bNBDV = false
279#endif
280  );
281  Void          copyPartFrom          ( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth );
282 
283  Void          copyToPic             ( UChar uiDepth );
284  Void          copyToPic             ( UChar uiDepth, UInt uiPartIdx, UInt uiPartDepth );
285 
286  // -------------------------------------------------------------------------------------------------------------------
287  // member functions for CU description
288  // -------------------------------------------------------------------------------------------------------------------
289 
290  TComPic*      getPic                ()                        { return m_pcPic;           }
291  TComSlice*    getSlice              ()                        { return m_pcSlice;         }
292  UInt&         getAddr               ()                        { return m_uiCUAddr;        }
293  UInt&         getZorderIdxInCU      ()                        { return m_uiAbsIdxInLCU; }
294  UInt          getSCUAddr            ();
295  UInt          getCUPelX             ()                        { return m_uiCUPelX;        }
296  UInt          getCUPelY             ()                        { return m_uiCUPelY;        }
297  TComPattern*  getPattern            ()                        { return m_pcPattern;       }
298 
299  UChar*        getDepth              ()                        { return m_puhDepth;        }
300  UChar         getDepth              ( UInt uiIdx )            { return m_puhDepth[uiIdx]; }
301  Void          setDepth              ( UInt uiIdx, UChar  uh ) { m_puhDepth[uiIdx] = uh;   }
302 
303  Void          setDepthSubParts      ( UInt uiDepth, UInt uiAbsPartIdx );
304#if H_3D
305  Void          getPosInPic           ( UInt uiAbsPartIndex, Int& riPosX, Int& riPosY );
306#endif
307 
308  // -------------------------------------------------------------------------------------------------------------------
309  // member functions for CU data
310  // -------------------------------------------------------------------------------------------------------------------
311 
312  Char*         getPartitionSize      ()                        { return m_pePartSize;        }
313  PartSize      getPartitionSize      ( UInt uiIdx )            { return static_cast<PartSize>( m_pePartSize[uiIdx] ); }
314  Void          setPartitionSize      ( UInt uiIdx, PartSize uh){ m_pePartSize[uiIdx] = uh;   }
315  Void          setPartSizeSubParts   ( PartSize eMode, UInt uiAbsPartIdx, UInt uiDepth );
316  Void          setCUTransquantBypassSubParts( Bool flag, UInt uiAbsPartIdx, UInt uiDepth );
317 
318  Bool*        getSkipFlag            ()                        { return m_skipFlag;          }
319  Bool         getSkipFlag            (UInt idx)                { return m_skipFlag[idx];     }
320  Void         setSkipFlag           ( UInt idx, Bool skip)     { m_skipFlag[idx] = skip;   }
321  Void         setSkipFlagSubParts   ( Bool skip, UInt absPartIdx, UInt depth );
322
323  Char*         getPredictionMode     ()                        { return m_pePredMode;        }
324  PredMode      getPredictionMode     ( UInt uiIdx )            { return static_cast<PredMode>( m_pePredMode[uiIdx] ); }
325  Bool*         getCUTransquantBypass ()                        { return m_CUTransquantBypass;        }
326  Bool          getCUTransquantBypass( UInt uiIdx )             { return m_CUTransquantBypass[uiIdx]; }
327  Void          setPredictionMode     ( UInt uiIdx, PredMode uh){ m_pePredMode[uiIdx] = uh;   }
328  Void          setPredModeSubParts   ( PredMode eMode, UInt uiAbsPartIdx, UInt uiDepth );
329 
330  UChar*        getWidth              ()                        { return m_puhWidth;          }
331  UChar         getWidth              ( UInt uiIdx )            { return m_puhWidth[uiIdx];   }
332  Void          setWidth              ( UInt uiIdx, UChar  uh ) { m_puhWidth[uiIdx] = uh;     }
333 
334  UChar*        getHeight             ()                        { return m_puhHeight;         }
335  UChar         getHeight             ( UInt uiIdx )            { return m_puhHeight[uiIdx];  }
336  Void          setHeight             ( UInt uiIdx, UChar  uh ) { m_puhHeight[uiIdx] = uh;    }
337 
338  Void          setSizeSubParts       ( UInt uiWidth, UInt uiHeight, UInt uiAbsPartIdx, UInt uiDepth );
339 
340  Char*         getQP                 ()                        { return m_phQP;              }
341  Char          getQP                 ( UInt uiIdx )            { return m_phQP[uiIdx];       }
342  Void          setQP                 ( UInt uiIdx, Char value ){ m_phQP[uiIdx] =  value;     }
343  Void          setQPSubParts         ( Int qp,   UInt uiAbsPartIdx, UInt uiDepth );
344  Int           getLastValidPartIdx   ( Int iAbsPartIdx );
345  Char          getLastCodedQP        ( UInt uiAbsPartIdx );
346  Void          setQPSubCUs           ( Int qp, TComDataCU* pcCU, UInt absPartIdx, UInt depth, Bool &foundNonZeroCbf );
347  Void          setCodedQP            ( Char qp )               { m_codedQP = qp;             }
348  Char          getCodedQP            ()                        { return m_codedQP;           }
349
350  Bool          isLosslessCoded(UInt absPartIdx);
351 
352  UChar*        getTransformIdx       ()                        { return m_puhTrIdx;          }
353  UChar         getTransformIdx       ( UInt uiIdx )            { return m_puhTrIdx[uiIdx];   }
354  Void          setTrIdxSubParts      ( UInt uiTrIdx, UInt uiAbsPartIdx, UInt uiDepth );
355
356  UChar*        getTransformSkip      ( TextType eType)    { return m_puhTransformSkip[g_aucConvertTxtTypeToIdx[eType]];}
357  UChar         getTransformSkip      ( UInt uiIdx,TextType eType)    { return m_puhTransformSkip[g_aucConvertTxtTypeToIdx[eType]][uiIdx];}
358  Void          setTransformSkipSubParts  ( UInt useTransformSkip, TextType eType, UInt uiAbsPartIdx, UInt uiDepth); 
359  Void          setTransformSkipSubParts  ( UInt useTransformSkipY, UInt useTransformSkipU, UInt useTransformSkipV, UInt uiAbsPartIdx, UInt uiDepth );
360
361  UInt          getQuadtreeTULog2MinSizeInCU( UInt absPartIdx );
362 
363  TComCUMvField* getCUMvField         ( RefPicList e )          { return  &m_acCUMvField[e];  }
364 
365  TCoeff*&      getCoeffY             ()                        { return m_pcTrCoeffY;        }
366  TCoeff*&      getCoeffCb            ()                        { return m_pcTrCoeffCb;       }
367  TCoeff*&      getCoeffCr            ()                        { return m_pcTrCoeffCr;       }
368#if ADAPTIVE_QP_SELECTION
369  Int*&         getArlCoeffY          ()                        { return m_pcArlCoeffY;       }
370  Int*&         getArlCoeffCb         ()                        { return m_pcArlCoeffCb;      }
371  Int*&         getArlCoeffCr         ()                        { return m_pcArlCoeffCr;      }
372#endif
373 
374  Pel*&         getPCMSampleY         ()                        { return m_pcIPCMSampleY;     }
375  Pel*&         getPCMSampleCb        ()                        { return m_pcIPCMSampleCb;    }
376  Pel*&         getPCMSampleCr        ()                        { return m_pcIPCMSampleCr;    }
377
378  UChar         getCbf    ( UInt uiIdx, TextType eType )                  { return m_puhCbf[g_aucConvertTxtTypeToIdx[eType]][uiIdx];  }
379  UChar*        getCbf    ( TextType eType )                              { return m_puhCbf[g_aucConvertTxtTypeToIdx[eType]];         }
380  UChar         getCbf    ( UInt uiIdx, TextType eType, UInt uiTrDepth )  { return ( ( getCbf( uiIdx, eType ) >> uiTrDepth ) & 0x1 ); }
381  Void          setCbf    ( UInt uiIdx, TextType eType, UChar uh )        { m_puhCbf[g_aucConvertTxtTypeToIdx[eType]][uiIdx] = uh;    }
382  Void          clearCbf  ( UInt uiIdx, TextType eType, UInt uiNumParts );
383  UChar         getQtRootCbf          ( UInt uiIdx )                      { return getCbf( uiIdx, TEXT_LUMA, 0 ) || getCbf( uiIdx, TEXT_CHROMA_U, 0 ) || getCbf( uiIdx, TEXT_CHROMA_V, 0 ); }
384 
385  Void          setCbfSubParts        ( UInt uiCbfY, UInt uiCbfU, UInt uiCbfV, UInt uiAbsPartIdx, UInt uiDepth          );
386  Void          setCbfSubParts        ( UInt uiCbf, TextType eTType, UInt uiAbsPartIdx, UInt uiDepth                    );
387  Void          setCbfSubParts        ( UInt uiCbf, TextType eTType, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth    );
388 
389  // -------------------------------------------------------------------------------------------------------------------
390  // member functions for coding tool information
391  // -------------------------------------------------------------------------------------------------------------------
392 
393  Bool*         getMergeFlag          ()                        { return m_pbMergeFlag;               }
394  Bool          getMergeFlag          ( UInt uiIdx )            { return m_pbMergeFlag[uiIdx];        }
395  Void          setMergeFlag          ( UInt uiIdx, Bool b )    { m_pbMergeFlag[uiIdx] = b;           }
396  Void          setMergeFlagSubParts  ( Bool bMergeFlag, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
397
398  UChar*        getMergeIndex         ()                        { return m_puhMergeIndex;                         }
399  UChar         getMergeIndex         ( UInt uiIdx )            { return m_puhMergeIndex[uiIdx];                  }
400  Void          setMergeIndex         ( UInt uiIdx, UInt uiMergeIndex ) { m_puhMergeIndex[uiIdx] = uiMergeIndex;  }
401  Void          setMergeIndexSubParts ( UInt uiMergeIndex, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
402  template <typename T>
403  Void          setSubPart            ( T bParameter, T* pbBaseLCU, UInt uiCUAddr, UInt uiCUDepth, UInt uiPUIdx );
404
405#if AMP_MRG
406  Void          setMergeAMP( Bool b )      { m_bIsMergeAMP = b; }
407  Bool          getMergeAMP( )             { return m_bIsMergeAMP; }
408#endif
409
410  UChar*        getLumaIntraDir       ()                        { return m_puhLumaIntraDir;           }
411  UChar         getLumaIntraDir       ( UInt uiIdx )            { return m_puhLumaIntraDir[uiIdx];    }
412  Void          setLumaIntraDir       ( UInt uiIdx, UChar  uh ) { m_puhLumaIntraDir[uiIdx] = uh;      }
413  Void          setLumaIntraDirSubParts( UInt uiDir,  UInt uiAbsPartIdx, UInt uiDepth );
414 
415  UChar*        getChromaIntraDir     ()                        { return m_puhChromaIntraDir;         }
416  UChar         getChromaIntraDir     ( UInt uiIdx )            { return m_puhChromaIntraDir[uiIdx];  }
417  Void          setChromaIntraDir     ( UInt uiIdx, UChar  uh ) { m_puhChromaIntraDir[uiIdx] = uh;    }
418  Void          setChromIntraDirSubParts( UInt uiDir,  UInt uiAbsPartIdx, UInt uiDepth );
419 
420  UChar*        getInterDir           ()                        { return m_puhInterDir;               }
421  UChar         getInterDir           ( UInt uiIdx )            { return m_puhInterDir[uiIdx];        }
422  Void          setInterDir           ( UInt uiIdx, UChar  uh ) { m_puhInterDir[uiIdx] = uh;          }
423  Void          setInterDirSubParts   ( UInt uiDir,  UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
424  Bool*         getIPCMFlag           ()                        { return m_pbIPCMFlag;               }
425  Bool          getIPCMFlag           (UInt uiIdx )             { return m_pbIPCMFlag[uiIdx];        }
426  Void          setIPCMFlag           (UInt uiIdx, Bool b )     { m_pbIPCMFlag[uiIdx] = b;           }
427  Void          setIPCMFlagSubParts   (Bool bIpcmFlag, UInt uiAbsPartIdx, UInt uiDepth);
428#if H_3D_NBDV
429  Void          setDvInfoSubParts     ( DisInfo cDvInfo, UInt uiAbsPartIdx, UInt uiDepth );
430  DisInfo*      getDvInfo             ()                        { return m_pDvInfo;                 }
431  DisInfo       getDvInfo             (UInt uiIdx)              { return m_pDvInfo[uiIdx];          }
432#endif
433  /// get slice ID for SU
434  Int           getSUSliceID          (UInt uiIdx)              {return m_piSliceSUMap[uiIdx];      } 
435
436  /// get the pointer of slice ID map
437  Int*          getSliceSUMap         ()                        {return m_piSliceSUMap;             }
438
439  /// set the pointer of slice ID map
440  Void          setSliceSUMap         (Int *pi)                 {m_piSliceSUMap = pi;               }
441
442  std::vector<NDBFBlockInfo>* getNDBFilterBlocks()      {return &m_vNDFBlock;}
443  Void setNDBFilterBlockBorderAvailability(UInt numLCUInPicWidth, UInt numLCUInPicHeight, UInt numSUInLCUWidth, UInt numSUInLCUHeight, UInt picWidth, UInt picHeight
444                                          ,std::vector<Bool>& LFCrossSliceBoundary
445                                          ,Bool bTopTileBoundary, Bool bDownTileBoundary, Bool bLeftTileBoundary, Bool bRightTileBoundary
446                                          ,Bool bIndependentTileBoundaryEnabled );
447#if H_3D_NBDV
448  Void          xDeriveRightBottomNbIdx(Int &uiLCUIdxRBNb, Int &uiPartIdxRBNb );
449  Bool          xCheckSpatialNBDV (TComDataCU* pcTmpCU, UInt uiIdx, DisInfo* pNbDvInfo, Bool bSearchForMvpDv, IDVInfo* paMvpDvInfo,
450                                   UInt uiMvpDvPos
451#if H_3D_NBDV_REF
452  , Bool bDepthRefine = false
453#endif
454  );
455  Bool          xGetColDisMV      ( RefPicList eRefPicList, Int refidx, Int uiCUAddr, Int uiPartUnitIdx, TComMv& rcMv, Int & iTargetViewIdx, Int & iStartViewIdx );
456  Bool          getDisMvpCandNBDV ( DisInfo* pDInfo
457#if H_3D_NBDV_REF
458   , Bool bDepthRefine = false
459#endif
460   ); 
461   
462#if H_3D_NBDV_REF
463  Pel           getMcpFromDM(TComPicYuv* pcBaseViewDepthPicYuv, TComMv* mv, Int iBlkX, Int iBlkY, Int iWidth, Int iHeight, Int* aiShiftLUT );
464  Void          estimateDVFromDM(Int refViewIdx, UInt uiPartIdx, TComPic* picDepth, UInt uiPartAddr, TComMv* cMvPred );
465#endif //H_3D_NBDV_REF
466#endif
467#if H_3D_IV_MERGE
468  Bool          getInterViewMergeCands          ( UInt uiPartIdx, Int* paiPdmRefIdx, TComMv* pacPdmMv, DisInfo* pDInfo, Int* availableMcDc );   
469#endif
470#if H_3D_ARP
471  UChar*        getARPW            ()                        { return m_puhARPW;               }
472  UChar         getARPW            ( UInt uiIdx )            { return m_puhARPW[uiIdx];        }
473  Void          setARPW            ( UInt uiIdx, UChar w )   { m_puhARPW[uiIdx] = w;           }
474  Void          setARPWSubParts    ( UChar w, UInt uiAbsPartIdx, UInt uiDepth );
475  Double        getARPWFactor      ( UInt uiIdx );
476#endif
477#if H_3D_IC
478  Bool*         getICFlag          ()                        { return m_pbICFlag;               }
479  Bool          getICFlag          ( UInt uiIdx )            { return m_pbICFlag[uiIdx];        }
480  Void          setICFlag          ( UInt uiIdx, Bool  uh )  { m_pbICFlag[uiIdx] = uh;          }
481  Void          setICFlagSubParts  ( Bool bICFlag,  UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
482  Bool          isICFlagRequired   ( UInt uiAbsPartIdx );
483  Void          getPartIndexAndSize( UInt uiPartIdx, UInt& ruiPartAddr, Int& riWidth, Int& riHeight, UInt uiAbsPartIdx = 0, Bool bLCU = false);
484#else
485  // -------------------------------------------------------------------------------------------------------------------
486  // member functions for accessing partition information
487  // -------------------------------------------------------------------------------------------------------------------
488 
489  Void          getPartIndexAndSize   ( UInt uiPartIdx, UInt& ruiPartAddr, Int& riWidth, Int& riHeight );
490#endif
491  UChar         getNumPartInter       ();
492  Bool          isFirstAbsZorderIdxInDepth (UInt uiAbsPartIdx, UInt uiDepth);
493 
494  // -------------------------------------------------------------------------------------------------------------------
495  // member functions for motion vector
496  // -------------------------------------------------------------------------------------------------------------------
497 
498  Void          getMvField            ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefPicList, TComMvField& rcMvField );
499 
500  Void          fillMvpCand           ( UInt uiPartIdx, UInt uiPartAddr, RefPicList eRefPicList, Int iRefIdx, AMVPInfo* pInfo );
501  Bool          isDiffMER             ( Int xN, Int yN, Int xP, Int yP);
502  Void          getPartPosition       ( UInt partIdx, Int& xP, Int& yP, Int& nPSW, Int& nPSH);
503  Void          setMVPIdx             ( RefPicList eRefPicList, UInt uiIdx, Int iMVPIdx)  { m_apiMVPIdx[eRefPicList][uiIdx] = iMVPIdx;  }
504  Int           getMVPIdx             ( RefPicList eRefPicList, UInt uiIdx)               { return m_apiMVPIdx[eRefPicList][uiIdx];     }
505  Char*         getMVPIdx             ( RefPicList eRefPicList )                          { return m_apiMVPIdx[eRefPicList];            }
506
507  Void          setMVPNum             ( RefPicList eRefPicList, UInt uiIdx, Int iMVPNum ) { m_apiMVPNum[eRefPicList][uiIdx] = iMVPNum;  }
508  Int           getMVPNum             ( RefPicList eRefPicList, UInt uiIdx )              { return m_apiMVPNum[eRefPicList][uiIdx];     }
509  Char*         getMVPNum             ( RefPicList eRefPicList )                          { return m_apiMVPNum[eRefPicList];            }
510 
511  Void          setMVPIdxSubParts     ( Int iMVPIdx, RefPicList eRefPicList, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
512  Void          setMVPNumSubParts     ( Int iMVPNum, RefPicList eRefPicList, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
513 
514  Void          clipMv                ( TComMv&     rcMv     );
515  Void          getMvPredLeft         ( TComMv&     rcMvPred )   { rcMvPred = m_cMvFieldA.getMv(); }
516  Void          getMvPredAbove        ( TComMv&     rcMvPred )   { rcMvPred = m_cMvFieldB.getMv(); }
517  Void          getMvPredAboveRight   ( TComMv&     rcMvPred )   { rcMvPred = m_cMvFieldC.getMv(); }
518 
519  Void          compressMV            ();
520 
521  // -------------------------------------------------------------------------------------------------------------------
522  // utility functions for neighbouring information
523  // -------------------------------------------------------------------------------------------------------------------
524 
525  TComDataCU*   getCULeft                   () { return m_pcCULeft;       }
526  TComDataCU*   getCUAbove                  () { return m_pcCUAbove;      }
527  TComDataCU*   getCUAboveLeft              () { return m_pcCUAboveLeft;  }
528  TComDataCU*   getCUAboveRight             () { return m_pcCUAboveRight; }
529  TComDataCU*   getCUColocated              ( RefPicList eRefPicList ) { return m_apcCUColocated[eRefPicList]; }
530
531
532  TComDataCU*   getPULeft                   ( UInt&  uiLPartUnitIdx, 
533                                              UInt uiCurrPartUnitIdx, 
534                                              Bool bEnforceSliceRestriction=true, 
535                                              Bool bEnforceTileRestriction=true );
536  TComDataCU*   getPUAbove                  ( UInt&  uiAPartUnitIdx,
537                                              UInt uiCurrPartUnitIdx, 
538                                              Bool bEnforceSliceRestriction=true, 
539                                              Bool planarAtLCUBoundary = false,
540                                              Bool bEnforceTileRestriction=true );
541  TComDataCU*   getPUAboveLeft              ( UInt&  uiALPartUnitIdx, UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true );
542  TComDataCU*   getPUAboveRight             ( UInt&  uiARPartUnitIdx, UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true );
543  TComDataCU*   getPUBelowLeft              ( UInt&  uiBLPartUnitIdx, UInt uiCurrPartUnitIdx, Bool bEnforceSliceRestriction=true );
544
545  TComDataCU*   getQpMinCuLeft              ( UInt&  uiLPartUnitIdx , UInt uiCurrAbsIdxInLCU );
546  TComDataCU*   getQpMinCuAbove             ( UInt&  aPartUnitIdx , UInt currAbsIdxInLCU );
547  Char          getRefQP                    ( UInt   uiCurrAbsIdxInLCU                       );
548
549  TComDataCU*   getPUAboveRightAdi          ( UInt&  uiARPartUnitIdx, UInt uiCurrPartUnitIdx, UInt uiPartUnitOffset = 1, Bool bEnforceSliceRestriction=true );
550  TComDataCU*   getPUBelowLeftAdi           ( UInt&  uiBLPartUnitIdx, UInt uiCurrPartUnitIdx, UInt uiPartUnitOffset = 1, Bool bEnforceSliceRestriction=true );
551 
552  Void          deriveLeftRightTopIdx       ( UInt uiPartIdx, UInt& ruiPartIdxLT, UInt& ruiPartIdxRT );
553  Void          deriveLeftBottomIdx         ( UInt uiPartIdx, UInt& ruiPartIdxLB );
554 
555  Void          deriveLeftRightTopIdxAdi    ( UInt& ruiPartIdxLT, UInt& ruiPartIdxRT, UInt uiPartOffset, UInt uiPartDepth );
556  Void          deriveLeftBottomIdxAdi      ( UInt& ruiPartIdxLB, UInt  uiPartOffset, UInt uiPartDepth );
557 
558  Bool          hasEqualMotion              ( UInt uiAbsPartIdx, TComDataCU* pcCandCU, UInt uiCandAbsPartIdx );
559  Void          getInterMergeCandidates     ( UInt uiAbsPartIdx, UInt uiPUIdx, TComMvField* pcMFieldNeighbours, UChar* puhInterDirNeighbours
560#if H_3D_VSP
561                                            , Int* vspFlag
562#endif
563                                            , Int& numValidMergeCand, Int mrgCandIdx = -1 );
564#if H_3D_VSP
565  Char*         getVSPFlag        ()                        { return m_piVSPFlag;          }
566  Char          getVSPFlag        ( UInt uiIdx )            { return m_piVSPFlag[uiIdx];   }
567  Void          setVSPFlag        ( UInt uiIdx, Int n )     { m_piVSPFlag[uiIdx] = n;      }
568  Void          setVSPFlagSubParts( Char iVSPFlag, UInt uiAbsPartIdx, UInt uiPartIdx, UInt uiDepth );
569#endif
570  Void          deriveLeftRightTopIdxGeneral  ( UInt uiAbsPartIdx, UInt uiPartIdx, UInt& ruiPartIdxLT, UInt& ruiPartIdxRT );
571  Void          deriveLeftBottomIdxGeneral    ( UInt uiAbsPartIdx, UInt uiPartIdx, UInt& ruiPartIdxLB );
572 
573 
574  // -------------------------------------------------------------------------------------------------------------------
575  // member functions for modes
576  // -------------------------------------------------------------------------------------------------------------------
577 
578  Bool          isIntra   ( UInt uiPartIdx )  { return m_pePredMode[ uiPartIdx ] == MODE_INTRA; }
579  Bool          isSkipped ( UInt uiPartIdx );                                                     ///< SKIP (no residual)
580  Bool          isBipredRestriction( UInt puIdx );
581
582  // -------------------------------------------------------------------------------------------------------------------
583  // member functions for symbol prediction (most probable / mode conversion)
584  // -------------------------------------------------------------------------------------------------------------------
585 
586  UInt          getIntraSizeIdx                 ( UInt uiAbsPartIdx                                       );
587 
588  Void          getAllowedChromaDir             ( UInt uiAbsPartIdx, UInt* uiModeList );
589  Int           getIntraDirLumaPredictor        ( UInt uiAbsPartIdx, Int* uiIntraDirPred, Int* piMode = NULL );
590 
591  // -------------------------------------------------------------------------------------------------------------------
592  // member functions for SBAC context
593  // -------------------------------------------------------------------------------------------------------------------
594 
595  UInt          getCtxSplitFlag                 ( UInt   uiAbsPartIdx, UInt uiDepth                   );
596  UInt          getCtxQtCbf                     ( TextType eType, UInt uiTrDepth );
597
598  UInt          getCtxSkipFlag                  ( UInt   uiAbsPartIdx                                 );
599  UInt          getCtxInterDir                  ( UInt   uiAbsPartIdx                                 );
600 
601#if H_3D_ARP
602  UInt          getCTXARPWFlag                  ( UInt   uiAbsPartIdx                                 );
603#endif 
604#if H_3D_IC
605  UInt          getCtxICFlag                    ( UInt   uiAbsPartIdx                                 );
606#endif
607  UInt          getSliceStartCU         ( UInt pos )                  { return m_sliceStartCU[pos-m_uiAbsIdxInLCU];                                                                                          }
608  UInt          getSliceSegmentStartCU  ( UInt pos )                  { return m_sliceSegmentStartCU[pos-m_uiAbsIdxInLCU];                                                                                   }
609  UInt&         getTotalBins            ()                            { return m_uiTotalBins;                                                                                                  }
610  // -------------------------------------------------------------------------------------------------------------------
611  // member functions for RD cost storage
612  // -------------------------------------------------------------------------------------------------------------------
613 
614  Double&       getTotalCost()                  { return m_dTotalCost;        }
615#if H_3D_VSO
616  Dist&         getTotalDistortion()            { return m_uiTotalDistortion; }
617#else
618  UInt&         getTotalDistortion()            { return m_uiTotalDistortion; }
619#endif
620  UInt&         getTotalBits()                  { return m_uiTotalBits;       }
621  UInt&         getTotalNumPart()               { return m_uiNumPartition;    }
622
623  UInt          getCoefScanIdx(UInt uiAbsPartIdx, UInt uiWidth, Bool bIsLuma, Bool bIsIntra);
624
625};
626
627namespace RasterAddress
628{
629  /** Check whether 2 addresses point to the same column
630   * \param addrA          First address in raster scan order
631   * \param addrB          Second address in raters scan order
632   * \param numUnitsPerRow Number of units in a row
633   * \return Result of test
634   */
635  static inline Bool isEqualCol( Int addrA, Int addrB, Int numUnitsPerRow )
636  {
637    // addrA % numUnitsPerRow == addrB % numUnitsPerRow
638    return (( addrA ^ addrB ) &  ( numUnitsPerRow - 1 ) ) == 0;
639  }
640 
641  /** Check whether 2 addresses point to the same row
642   * \param addrA          First address in raster scan order
643   * \param addrB          Second address in raters scan order
644   * \param numUnitsPerRow Number of units in a row
645   * \return Result of test
646   */
647  static inline Bool isEqualRow( Int addrA, Int addrB, Int numUnitsPerRow )
648  {
649    // addrA / numUnitsPerRow == addrB / numUnitsPerRow
650    return (( addrA ^ addrB ) &~ ( numUnitsPerRow - 1 ) ) == 0;
651  }
652 
653  /** Check whether 2 addresses point to the same row or column
654   * \param addrA          First address in raster scan order
655   * \param addrB          Second address in raters scan order
656   * \param numUnitsPerRow Number of units in a row
657   * \return Result of test
658   */
659  static inline Bool isEqualRowOrCol( Int addrA, Int addrB, Int numUnitsPerRow )
660  {
661    return isEqualCol( addrA, addrB, numUnitsPerRow ) | isEqualRow( addrA, addrB, numUnitsPerRow );
662  }
663 
664  /** Check whether one address points to the first column
665   * \param addr           Address in raster scan order
666   * \param numUnitsPerRow Number of units in a row
667   * \return Result of test
668   */
669  static inline Bool isZeroCol( Int addr, Int numUnitsPerRow )
670  {
671    // addr % numUnitsPerRow == 0
672    return ( addr & ( numUnitsPerRow - 1 ) ) == 0;
673  }
674 
675  /** Check whether one address points to the first row
676   * \param addr           Address in raster scan order
677   * \param numUnitsPerRow Number of units in a row
678   * \return Result of test
679   */
680  static inline Bool isZeroRow( Int addr, Int numUnitsPerRow )
681  {
682    // addr / numUnitsPerRow == 0
683    return ( addr &~ ( numUnitsPerRow - 1 ) ) == 0;
684  }
685 
686  /** Check whether one address points to a column whose index is smaller than a given value
687   * \param addr           Address in raster scan order
688   * \param val            Given column index value
689   * \param numUnitsPerRow Number of units in a row
690   * \return Result of test
691   */
692  static inline Bool lessThanCol( Int addr, Int val, Int numUnitsPerRow )
693  {
694    // addr % numUnitsPerRow < val
695    return ( addr & ( numUnitsPerRow - 1 ) ) < val;
696  }
697 
698  /** Check whether one address points to a row whose index is smaller than a given value
699   * \param addr           Address in raster scan order
700   * \param val            Given row index value
701   * \param numUnitsPerRow Number of units in a row
702   * \return Result of test
703   */
704  static inline Bool lessThanRow( Int addr, Int val, Int numUnitsPerRow )
705  {
706    // addr / numUnitsPerRow < val
707    return addr < val * numUnitsPerRow;
708  }
709};
710
711//! \}
712
713#endif
Note: See TracBrowser for help on using the repository browser.