source: 3DVCSoftware/branches/HTM-DEV-0.3-dev2/source/Lib/TLibDecoder/TDecEntropy.cpp @ 510

Last change on this file since 510 was 510, checked in by mitsubishi-htm, 12 years ago

-VSP compensation part migration, not fully tested, intermediate version

  • Property svn:eol-style set to native
File size: 21.6 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TDecEntropy.cpp
35    \brief    entropy decoder class
36*/
37
38#include "TDecEntropy.h"
39
40//! \ingroup TLibDecoder
41//! \{
42
43Void TDecEntropy::setEntropyDecoder         ( TDecEntropyIf* p )
44{
45  m_pcEntropyDecoderIf = p;
46}
47
48#include "TLibCommon/TComSampleAdaptiveOffset.h"
49
50Void TDecEntropy::decodeSkipFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
51{
52  m_pcEntropyDecoderIf->parseSkipFlag( pcCU, uiAbsPartIdx, uiDepth );
53}
54
55Void TDecEntropy::decodeCUTransquantBypassFlag(TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
56{
57  m_pcEntropyDecoderIf->parseCUTransquantBypassFlag( pcCU, uiAbsPartIdx, uiDepth );
58}
59
60/** decode merge flag
61 * \param pcSubCU
62 * \param uiAbsPartIdx
63 * \param uiDepth
64 * \param uiPUIdx
65 * \returns Void
66 */
67Void TDecEntropy::decodeMergeFlag( TComDataCU* pcSubCU, UInt uiAbsPartIdx, UInt uiDepth, UInt uiPUIdx )
68{ 
69  // at least one merge candidate exists
70  m_pcEntropyDecoderIf->parseMergeFlag( pcSubCU, uiAbsPartIdx, uiDepth, uiPUIdx );
71}
72
73/** decode merge index
74 * \param pcCU
75 * \param uiPartIdx
76 * \param uiAbsPartIdx
77 * \param puhInterDirNeighbours pointer to list of inter direction from the casual neighbours
78 * \param pcMvFieldNeighbours pointer to list of motion vector field from the casual neighbours
79 * \param uiDepth
80 * \returns Void
81 */
82Void TDecEntropy::decodeMergeIndex( TComDataCU* pcCU, UInt uiPartIdx, UInt uiAbsPartIdx, UInt uiDepth )
83{
84  UInt uiMergeIndex = 0;
85  m_pcEntropyDecoderIf->parseMergeIndex( pcCU, uiMergeIndex );
86  pcCU->setMergeIndexSubParts( uiMergeIndex, uiAbsPartIdx, uiPartIdx, uiDepth );
87}
88
89#if H_3D_ARP
90Void TDecEntropy::decodeARPW( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
91{
92  if( !pcCU->getSlice()->getARPStepNum() || pcCU->isIntra( uiAbsPartIdx ) )
93  {
94    return;
95  }
96
97  if( pcCU->getPartitionSize(uiAbsPartIdx) != SIZE_2Nx2N )
98  {
99    pcCU->setARPWSubParts( 0 , uiAbsPartIdx, uiDepth );
100  }
101  else
102  {
103    m_pcEntropyDecoderIf->parseARPW( pcCU , uiAbsPartIdx , uiDepth );
104  }
105}
106#endif
107
108#if H_3D_IC
109Void TDecEntropy::decodeICFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
110{
111  pcCU->setICFlagSubParts( false , uiAbsPartIdx, 0, uiDepth );
112
113  if ( pcCU->isIntra( uiAbsPartIdx ) || ( pcCU->getSlice()->getViewIndex() == 0 ) )
114  {
115    return;
116  }
117
118  if( !pcCU->getSlice()->getApplyIC() )
119    return;
120
121  if( pcCU->isICFlagRequired( uiAbsPartIdx ) )
122    m_pcEntropyDecoderIf->parseICFlag( pcCU, uiAbsPartIdx, uiDepth );
123}
124#endif
125
126Void TDecEntropy::decodeSplitFlag   ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
127{
128  m_pcEntropyDecoderIf->parseSplitFlag( pcCU, uiAbsPartIdx, uiDepth );
129}
130
131Void TDecEntropy::decodePredMode( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
132{
133  m_pcEntropyDecoderIf->parsePredMode( pcCU, uiAbsPartIdx, uiDepth );
134}
135
136Void TDecEntropy::decodePartSize( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
137{
138  m_pcEntropyDecoderIf->parsePartSize( pcCU, uiAbsPartIdx, uiDepth );
139}
140
141Void TDecEntropy::decodePredInfo    ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, TComDataCU* pcSubCU )
142{
143  if( pcCU->isIntra( uiAbsPartIdx ) )                                 // If it is Intra mode, encode intra prediction mode.
144  {
145    decodeIntraDirModeLuma  ( pcCU, uiAbsPartIdx, uiDepth );
146    decodeIntraDirModeChroma( pcCU, uiAbsPartIdx, uiDepth );
147  }
148  else                                                                // if it is Inter mode, encode motion vector and reference index
149  {
150    decodePUWise( pcCU, uiAbsPartIdx, uiDepth, pcSubCU );
151  }
152}
153
154/** Parse I_PCM information.
155 * \param pcCU  pointer to CUpointer to CU
156 * \param uiAbsPartIdx CU index
157 * \param uiDepth CU depth
158 * \returns Void
159 */
160Void TDecEntropy::decodeIPCMInfo( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
161{
162  if(!pcCU->getSlice()->getSPS()->getUsePCM()
163    || pcCU->getWidth(uiAbsPartIdx) > (1<<pcCU->getSlice()->getSPS()->getPCMLog2MaxSize())
164    || pcCU->getWidth(uiAbsPartIdx) < (1<<pcCU->getSlice()->getSPS()->getPCMLog2MinSize()) )
165  {
166    return;
167  }
168 
169  m_pcEntropyDecoderIf->parseIPCMInfo( pcCU, uiAbsPartIdx, uiDepth );
170}
171
172Void TDecEntropy::decodeIntraDirModeLuma  ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
173{
174  m_pcEntropyDecoderIf->parseIntraDirLumaAng( pcCU, uiAbsPartIdx, uiDepth );
175}
176
177Void TDecEntropy::decodeIntraDirModeChroma( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
178{
179  m_pcEntropyDecoderIf->parseIntraDirChroma( pcCU, uiAbsPartIdx, uiDepth );
180}
181
182/** decode motion information for every PU block.
183 * \param pcCU
184 * \param uiAbsPartIdx
185 * \param uiDepth
186 * \param pcSubCU
187 * \returns Void
188 */
189Void TDecEntropy::decodePUWise( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, TComDataCU* pcSubCU )
190{
191  PartSize ePartSize = pcCU->getPartitionSize( uiAbsPartIdx );
192  UInt uiNumPU = ( ePartSize == SIZE_2Nx2N ? 1 : ( ePartSize == SIZE_NxN ? 4 : 2 ) );
193  UInt uiPUOffset = ( g_auiPUOffset[UInt( ePartSize )] << ( ( pcCU->getSlice()->getSPS()->getMaxCUDepth() - uiDepth ) << 1 ) ) >> 4;
194
195#if H_3D_IV_MERGE
196  TComMvField cMvFieldNeighbours[MRG_MAX_NUM_CANDS_MEM << 1]; // double length for mv of both lists
197  UChar uhInterDirNeighbours[MRG_MAX_NUM_CANDS_MEM];
198#else
199  TComMvField cMvFieldNeighbours[MRG_MAX_NUM_CANDS << 1]; // double length for mv of both lists
200  UChar uhInterDirNeighbours[MRG_MAX_NUM_CANDS];
201#endif
202
203  for ( UInt ui = 0; ui < pcCU->getSlice()->getMaxNumMergeCand(); ui++ )
204  {
205    uhInterDirNeighbours[ui] = 0;
206  }
207  Int numValidMergeCand = 0;
208  Bool isMerged = false;
209
210  pcSubCU->copyInterPredInfoFrom( pcCU, uiAbsPartIdx, REF_PIC_LIST_0 );
211  pcSubCU->copyInterPredInfoFrom( pcCU, uiAbsPartIdx, REF_PIC_LIST_1 );
212#if H_3D_IV_MERGE
213  pcSubCU->copyDVInfoFrom( pcCU, uiAbsPartIdx);
214#endif
215  for ( UInt uiPartIdx = 0, uiSubPartIdx = uiAbsPartIdx; uiPartIdx < uiNumPU; uiPartIdx++, uiSubPartIdx += uiPUOffset )
216  {
217    decodeMergeFlag( pcCU, uiSubPartIdx, uiDepth, uiPartIdx );
218    if ( pcCU->getMergeFlag( uiSubPartIdx ) )
219    {
220      decodeMergeIndex( pcCU, uiPartIdx, uiSubPartIdx, uiDepth );
221      UInt uiMergeIndex = pcCU->getMergeIndex(uiSubPartIdx);
222      if ( pcCU->getSlice()->getPPS()->getLog2ParallelMergeLevelMinus2() && ePartSize != SIZE_2Nx2N && pcSubCU->getWidth( 0 ) <= 8 ) 
223      {
224        pcSubCU->setPartSizeSubParts( SIZE_2Nx2N, 0, uiDepth );
225        if ( !isMerged )
226        {
227#if H_3D_VSP
228          Int vspFlag[MRG_MAX_NUM_CANDS_MEM];
229          memset(vspFlag, 0, sizeof(Int)*MRG_MAX_NUM_CANDS_MEM);
230          pcSubCU->getInterMergeCandidates( 0, 0, cMvFieldNeighbours, uhInterDirNeighbours, vspFlag, numValidMergeCand );
231          pcCU->setVSPFlagSubParts( vspFlag[uiMergeIndex], uiSubPartIdx, uiPartIdx, uiDepth );
232#else
233          pcSubCU->getInterMergeCandidates( 0, 0, cMvFieldNeighbours, uhInterDirNeighbours, numValidMergeCand );
234#endif
235          isMerged = true;
236        }
237        pcSubCU->setPartSizeSubParts( ePartSize, 0, uiDepth );
238      }
239      else
240      {
241        uiMergeIndex = pcCU->getMergeIndex(uiSubPartIdx); // Redundant line
242#if H_3D_VSP
243        Int vspFlag[MRG_MAX_NUM_CANDS_MEM];
244        memset(vspFlag, 0, sizeof(Int)*MRG_MAX_NUM_CANDS_MEM);
245        pcSubCU->getInterMergeCandidates( uiSubPartIdx-uiAbsPartIdx, uiPartIdx, cMvFieldNeighbours, uhInterDirNeighbours, vspFlag, numValidMergeCand, uiMergeIndex );
246        pcCU->setVSPFlagSubParts( vspFlag[uiMergeIndex], uiSubPartIdx, uiPartIdx, uiDepth );
247#else
248        pcSubCU->getInterMergeCandidates( uiSubPartIdx-uiAbsPartIdx, uiPartIdx, cMvFieldNeighbours, uhInterDirNeighbours, numValidMergeCand, uiMergeIndex );
249#endif
250      }
251      pcCU->setInterDirSubParts( uhInterDirNeighbours[uiMergeIndex], uiSubPartIdx, uiPartIdx, uiDepth );
252
253      TComMv cTmpMv( 0, 0 );
254      for ( UInt uiRefListIdx = 0; uiRefListIdx < 2; uiRefListIdx++ )
255      {       
256        if ( pcCU->getSlice()->getNumRefIdx( RefPicList( uiRefListIdx ) ) > 0 )
257        {
258          pcCU->setMVPIdxSubParts( 0, RefPicList( uiRefListIdx ), uiSubPartIdx, uiPartIdx, uiDepth);
259          pcCU->setMVPNumSubParts( 0, RefPicList( uiRefListIdx ), uiSubPartIdx, uiPartIdx, uiDepth);
260          pcCU->getCUMvField( RefPicList( uiRefListIdx ) )->setAllMvd( cTmpMv, ePartSize, uiSubPartIdx, uiDepth, uiPartIdx );
261          pcCU->getCUMvField( RefPicList( uiRefListIdx ) )->setAllMvField( cMvFieldNeighbours[ 2*uiMergeIndex + uiRefListIdx ], ePartSize, uiSubPartIdx, uiDepth, uiPartIdx );
262        }
263      }
264    }
265    else
266    {
267      decodeInterDirPU( pcCU, uiSubPartIdx, uiDepth, uiPartIdx );
268      for ( UInt uiRefListIdx = 0; uiRefListIdx < 2; uiRefListIdx++ )
269      {       
270        if ( pcCU->getSlice()->getNumRefIdx( RefPicList( uiRefListIdx ) ) > 0 )
271        {
272          decodeRefFrmIdxPU( pcCU,    uiSubPartIdx,              uiDepth, uiPartIdx, RefPicList( uiRefListIdx ) );
273          decodeMvdPU      ( pcCU,    uiSubPartIdx,              uiDepth, uiPartIdx, RefPicList( uiRefListIdx ) );
274          decodeMVPIdxPU   ( pcSubCU, uiSubPartIdx-uiAbsPartIdx, uiDepth, uiPartIdx, RefPicList( uiRefListIdx ) );
275        }
276      }
277    }
278    if ( (pcCU->getInterDir(uiSubPartIdx) == 3) && pcSubCU->isBipredRestriction(uiPartIdx) )
279    {
280      pcCU->getCUMvField( REF_PIC_LIST_1 )->setAllMv( TComMv(0,0), ePartSize, uiSubPartIdx, uiDepth, uiPartIdx);
281      pcCU->getCUMvField( REF_PIC_LIST_1 )->setAllRefIdx( -1, ePartSize, uiSubPartIdx, uiDepth, uiPartIdx);
282      pcCU->setInterDirSubParts( 1, uiSubPartIdx, uiPartIdx, uiDepth);
283    }
284  }
285  return;
286}
287
288/** decode inter direction for a PU block
289 * \param pcCU
290 * \param uiAbsPartIdx
291 * \param uiDepth
292 * \param uiPartIdx
293 * \returns Void
294 */
295Void TDecEntropy::decodeInterDirPU( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, UInt uiPartIdx )
296{
297  UInt uiInterDir;
298
299  if ( pcCU->getSlice()->isInterP() )
300  {
301    uiInterDir = 1;
302  }
303  else
304  {
305    m_pcEntropyDecoderIf->parseInterDir( pcCU, uiInterDir, uiAbsPartIdx );
306  }
307
308  pcCU->setInterDirSubParts( uiInterDir, uiAbsPartIdx, uiPartIdx, uiDepth );
309}
310
311Void TDecEntropy::decodeRefFrmIdxPU( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, UInt uiPartIdx, RefPicList eRefList )
312{
313  Int iRefFrmIdx = 0;
314  Int iParseRefFrmIdx = pcCU->getInterDir( uiAbsPartIdx ) & ( 1 << eRefList );
315
316  if ( pcCU->getSlice()->getNumRefIdx( eRefList ) > 1 && iParseRefFrmIdx )
317  {
318    m_pcEntropyDecoderIf->parseRefFrmIdx( pcCU, iRefFrmIdx, eRefList );
319  }
320  else if ( !iParseRefFrmIdx )
321  {
322    iRefFrmIdx = NOT_VALID;
323  }
324  else
325  {
326    iRefFrmIdx = 0;
327  }
328
329  PartSize ePartSize = pcCU->getPartitionSize( uiAbsPartIdx );
330  pcCU->getCUMvField( eRefList )->setAllRefIdx( iRefFrmIdx, ePartSize, uiAbsPartIdx, uiDepth, uiPartIdx );
331}
332
333/** decode motion vector difference for a PU block
334 * \param pcCU
335 * \param uiAbsPartIdx
336 * \param uiDepth
337 * \param uiPartIdx
338 * \param eRefList
339 * \returns Void
340 */
341Void TDecEntropy::decodeMvdPU( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, UInt uiPartIdx, RefPicList eRefList )
342{
343  if ( pcCU->getInterDir( uiAbsPartIdx ) & ( 1 << eRefList ) )
344  {
345    m_pcEntropyDecoderIf->parseMvd( pcCU, uiAbsPartIdx, uiPartIdx, uiDepth, eRefList );
346  }
347}
348
349Void TDecEntropy::decodeMVPIdxPU( TComDataCU* pcSubCU, UInt uiPartAddr, UInt uiDepth, UInt uiPartIdx, RefPicList eRefList )
350{
351  Int iMVPIdx = -1;
352
353  TComMv cZeroMv( 0, 0 );
354  TComMv cMv     = cZeroMv;
355  Int    iRefIdx = -1;
356
357  TComCUMvField* pcSubCUMvField = pcSubCU->getCUMvField( eRefList );
358  AMVPInfo* pAMVPInfo = pcSubCUMvField->getAMVPInfo();
359
360  iRefIdx = pcSubCUMvField->getRefIdx(uiPartAddr);
361  cMv = cZeroMv;
362
363  if ( (pcSubCU->getInterDir(uiPartAddr) & ( 1 << eRefList )) )
364  {
365    m_pcEntropyDecoderIf->parseMVPIdx( iMVPIdx );
366  }
367  pcSubCU->fillMvpCand(uiPartIdx, uiPartAddr, eRefList, iRefIdx, pAMVPInfo);
368  pcSubCU->setMVPNumSubParts(pAMVPInfo->iN, eRefList, uiPartAddr, uiPartIdx, uiDepth);
369  pcSubCU->setMVPIdxSubParts( iMVPIdx, eRefList, uiPartAddr, uiPartIdx, uiDepth );
370  if ( iRefIdx >= 0 )
371  {
372    m_pcPrediction->getMvPredAMVP( pcSubCU, uiPartIdx, uiPartAddr, eRefList, cMv);
373    cMv += pcSubCUMvField->getMvd( uiPartAddr );
374  }
375
376  PartSize ePartSize = pcSubCU->getPartitionSize( uiPartAddr );
377  pcSubCU->getCUMvField( eRefList )->setAllMv(cMv, ePartSize, uiPartAddr, 0, uiPartIdx);
378}
379
380Void TDecEntropy::xDecodeTransform( TComDataCU* pcCU, UInt offsetLuma, UInt offsetChroma, UInt uiAbsPartIdx, UInt uiDepth, UInt width, UInt height, UInt uiTrIdx, Bool& bCodeDQP)
381{
382  UInt uiSubdiv;
383  const UInt uiLog2TrafoSize = g_aucConvertToBit[pcCU->getSlice()->getSPS()->getMaxCUWidth()]+2 - uiDepth;
384
385  if(uiTrIdx==0)
386  {
387    m_bakAbsPartIdxCU = uiAbsPartIdx;
388  }
389  if( uiLog2TrafoSize == 2 )
390  {
391    UInt partNum = pcCU->getPic()->getNumPartInCU() >> ( ( uiDepth - 1 ) << 1 );
392    if( ( uiAbsPartIdx % partNum ) == 0 )
393    {
394      m_uiBakAbsPartIdx   = uiAbsPartIdx;
395      m_uiBakChromaOffset = offsetChroma;
396    }
397  }
398  if( pcCU->getPredictionMode(uiAbsPartIdx) == MODE_INTRA && pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_NxN && uiDepth == pcCU->getDepth(uiAbsPartIdx) )
399  {
400    uiSubdiv = 1;
401  }
402  else if( (pcCU->getSlice()->getSPS()->getQuadtreeTUMaxDepthInter() == 1) && (pcCU->getPredictionMode(uiAbsPartIdx) == MODE_INTER) && ( pcCU->getPartitionSize(uiAbsPartIdx) != SIZE_2Nx2N ) && (uiDepth == pcCU->getDepth(uiAbsPartIdx)) )
403  {
404    uiSubdiv = (uiLog2TrafoSize > pcCU->getQuadtreeTULog2MinSizeInCU(uiAbsPartIdx));
405  }
406  else if( uiLog2TrafoSize > pcCU->getSlice()->getSPS()->getQuadtreeTULog2MaxSize() )
407  {
408    uiSubdiv = 1;
409  }
410  else if( uiLog2TrafoSize == pcCU->getSlice()->getSPS()->getQuadtreeTULog2MinSize() )
411  {
412    uiSubdiv = 0;
413  }
414  else if( uiLog2TrafoSize == pcCU->getQuadtreeTULog2MinSizeInCU(uiAbsPartIdx) )
415  {
416    uiSubdiv = 0;
417  }
418  else
419  {
420    assert( uiLog2TrafoSize > pcCU->getQuadtreeTULog2MinSizeInCU(uiAbsPartIdx) );
421    m_pcEntropyDecoderIf->parseTransformSubdivFlag( uiSubdiv, 5 - uiLog2TrafoSize );
422  }
423 
424  const UInt uiTrDepth = uiDepth - pcCU->getDepth( uiAbsPartIdx );
425  {
426    const Bool bFirstCbfOfCU = uiTrDepth == 0;
427    if( bFirstCbfOfCU )
428    {
429      pcCU->setCbfSubParts( 0, TEXT_CHROMA_U, uiAbsPartIdx, uiDepth );
430      pcCU->setCbfSubParts( 0, TEXT_CHROMA_V, uiAbsPartIdx, uiDepth );
431    }
432    if( bFirstCbfOfCU || uiLog2TrafoSize > 2 )
433    {
434      if( bFirstCbfOfCU || pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepth - 1 ) )
435      {
436        m_pcEntropyDecoderIf->parseQtCbf( pcCU, uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepth, uiDepth );
437      }
438      if( bFirstCbfOfCU || pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepth - 1 ) )
439      {
440        m_pcEntropyDecoderIf->parseQtCbf( pcCU, uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepth, uiDepth );
441      }
442    }
443    else
444    {
445      pcCU->setCbfSubParts( pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepth - 1 ) << uiTrDepth, TEXT_CHROMA_U, uiAbsPartIdx, uiDepth );
446      pcCU->setCbfSubParts( pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepth - 1 ) << uiTrDepth, TEXT_CHROMA_V, uiAbsPartIdx, uiDepth );
447    }
448  }
449 
450  if( uiSubdiv )
451  {
452    UInt size;
453    width  >>= 1;
454    height >>= 1;
455    size = width*height;
456    uiTrIdx++;
457    ++uiDepth;
458    const UInt uiQPartNum = pcCU->getPic()->getNumPartInCU() >> (uiDepth << 1);
459    const UInt uiStartAbsPartIdx = uiAbsPartIdx;
460    UInt uiYCbf = 0;
461    UInt uiUCbf = 0;
462    UInt uiVCbf = 0;
463   
464    for( Int i = 0; i < 4; i++ )
465    {
466      xDecodeTransform( pcCU, offsetLuma, offsetChroma, uiAbsPartIdx, uiDepth, width, height, uiTrIdx, bCodeDQP );
467      uiYCbf |= pcCU->getCbf( uiAbsPartIdx, TEXT_LUMA, uiTrDepth+1 );
468      uiUCbf |= pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepth+1 );
469      uiVCbf |= pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepth+1 );
470      uiAbsPartIdx += uiQPartNum;
471      offsetLuma += size;  offsetChroma += (size>>2);
472    }
473   
474    for( UInt ui = 0; ui < 4 * uiQPartNum; ++ui )
475    {
476      pcCU->getCbf( TEXT_LUMA     )[uiStartAbsPartIdx + ui] |= uiYCbf << uiTrDepth;
477      pcCU->getCbf( TEXT_CHROMA_U )[uiStartAbsPartIdx + ui] |= uiUCbf << uiTrDepth;
478      pcCU->getCbf( TEXT_CHROMA_V )[uiStartAbsPartIdx + ui] |= uiVCbf << uiTrDepth;
479    }
480  }
481  else
482  {
483    assert( uiDepth >= pcCU->getDepth( uiAbsPartIdx ) );
484    pcCU->setTrIdxSubParts( uiTrDepth, uiAbsPartIdx, uiDepth );
485   
486    {
487      DTRACE_CABAC_VL( g_nSymbolCounter++ );
488      DTRACE_CABAC_T( "\tTrIdx: abspart=" );
489      DTRACE_CABAC_V( uiAbsPartIdx );
490      DTRACE_CABAC_T( "\tdepth=" );
491      DTRACE_CABAC_V( uiDepth );
492      DTRACE_CABAC_T( "\ttrdepth=" );
493      DTRACE_CABAC_V( uiTrDepth );
494      DTRACE_CABAC_T( "\n" );
495    }
496   
497    pcCU->setCbfSubParts ( 0, TEXT_LUMA, uiAbsPartIdx, uiDepth );
498    if( pcCU->getPredictionMode(uiAbsPartIdx) != MODE_INTRA && uiDepth == pcCU->getDepth( uiAbsPartIdx ) && !pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, 0 ) && !pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, 0 ) )
499    {
500      pcCU->setCbfSubParts( 1 << uiTrDepth, TEXT_LUMA, uiAbsPartIdx, uiDepth );
501    }
502    else
503    {
504      m_pcEntropyDecoderIf->parseQtCbf( pcCU, uiAbsPartIdx, TEXT_LUMA, uiTrDepth, uiDepth );
505    }
506
507
508    // transform_unit begin
509    UInt cbfY = pcCU->getCbf( uiAbsPartIdx, TEXT_LUMA    , uiTrIdx );
510    UInt cbfU = pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrIdx );
511    UInt cbfV = pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrIdx );
512    if( uiLog2TrafoSize == 2 )
513    {
514      UInt partNum = pcCU->getPic()->getNumPartInCU() >> ( ( uiDepth - 1 ) << 1 );
515      if( ( uiAbsPartIdx % partNum ) == (partNum - 1) )
516      {
517        cbfU = pcCU->getCbf( m_uiBakAbsPartIdx, TEXT_CHROMA_U, uiTrIdx );
518        cbfV = pcCU->getCbf( m_uiBakAbsPartIdx, TEXT_CHROMA_V, uiTrIdx );
519      }
520    }
521    if ( cbfY || cbfU || cbfV )
522    {
523      // dQP: only for LCU
524      if ( pcCU->getSlice()->getPPS()->getUseDQP() )
525      {
526        if ( bCodeDQP )
527        {
528          decodeQP( pcCU, m_bakAbsPartIdxCU);
529          bCodeDQP = false;
530        }
531      }
532    }
533    if( cbfY )
534    {
535      Int trWidth = width;
536      Int trHeight = height;
537      m_pcEntropyDecoderIf->parseCoeffNxN( pcCU, (pcCU->getCoeffY()+offsetLuma), uiAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_LUMA );
538    }
539    if( uiLog2TrafoSize > 2 )
540    {
541      Int trWidth = width >> 1;
542      Int trHeight = height >> 1;
543      if( cbfU )
544      {
545        m_pcEntropyDecoderIf->parseCoeffNxN( pcCU, (pcCU->getCoeffCb()+offsetChroma), uiAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_U );
546      }
547      if( cbfV )
548      {
549        m_pcEntropyDecoderIf->parseCoeffNxN( pcCU, (pcCU->getCoeffCr()+offsetChroma), uiAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_V );
550      }
551    }
552    else
553    {
554      UInt partNum = pcCU->getPic()->getNumPartInCU() >> ( ( uiDepth - 1 ) << 1 );
555      if( ( uiAbsPartIdx % partNum ) == (partNum - 1) )
556      {
557        Int trWidth = width;
558        Int trHeight = height;
559        if( cbfU )
560        {
561          m_pcEntropyDecoderIf->parseCoeffNxN( pcCU, (pcCU->getCoeffCb()+m_uiBakChromaOffset), m_uiBakAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_U );
562        }
563        if( cbfV )
564        {
565          m_pcEntropyDecoderIf->parseCoeffNxN( pcCU, (pcCU->getCoeffCr()+m_uiBakChromaOffset), m_uiBakAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_V );
566        }
567      }
568    }
569    // transform_unit end
570  }
571}
572
573Void TDecEntropy::decodeQP          ( TComDataCU* pcCU, UInt uiAbsPartIdx )
574{
575  if ( pcCU->getSlice()->getPPS()->getUseDQP() )
576  {
577    m_pcEntropyDecoderIf->parseDeltaQP( pcCU, uiAbsPartIdx, pcCU->getDepth( uiAbsPartIdx ) );
578  }
579}
580
581
582/** decode coefficients
583 * \param pcCU
584 * \param uiAbsPartIdx
585 * \param uiDepth
586 * \param uiWidth
587 * \param uiHeight
588 * \returns Void
589 */
590Void TDecEntropy::decodeCoeff( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, UInt uiWidth, UInt uiHeight, Bool& bCodeDQP )
591{
592  UInt uiMinCoeffSize = pcCU->getPic()->getMinCUWidth()*pcCU->getPic()->getMinCUHeight();
593  UInt uiLumaOffset   = uiMinCoeffSize*uiAbsPartIdx;
594  UInt uiChromaOffset = uiLumaOffset>>2;
595 
596  if( pcCU->isIntra(uiAbsPartIdx) )
597  {
598  }
599  else
600  {
601    UInt uiQtRootCbf = 1;
602    if( !( pcCU->getPartitionSize( uiAbsPartIdx) == SIZE_2Nx2N && pcCU->getMergeFlag( uiAbsPartIdx ) ) )
603    {
604      m_pcEntropyDecoderIf->parseQtRootCbf( uiAbsPartIdx, uiQtRootCbf );
605    }
606    if ( !uiQtRootCbf )
607    {
608      pcCU->setCbfSubParts( 0, 0, 0, uiAbsPartIdx, uiDepth );
609      pcCU->setTrIdxSubParts( 0 , uiAbsPartIdx, uiDepth );
610      return;
611    }
612   
613  }
614  xDecodeTransform( pcCU, uiLumaOffset, uiChromaOffset, uiAbsPartIdx, uiDepth, uiWidth, uiHeight, 0, bCodeDQP );
615}
616
617//! \}
Note: See TracBrowser for help on using the repository browser.