source: 3DVCSoftware/branches/HTM-11.2-dev1-Sharp/source/Lib/TLibEncoder/TEncEntropy.cpp @ 1314

Last change on this file since 1314 was 991, checked in by samsung-htm, 10 years ago

Integration of JCT3V-I0078: Disallowing DBBP in 8x8 CU

  • Property svn:eol-style set to native
File size: 23.7 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6* Copyright (c) 2010-2014, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TEncEntropy.cpp
35    \brief    entropy encoder class
36*/
37
38#include "TEncEntropy.h"
39#include "TLibCommon/TypeDef.h"
40#include "TLibCommon/TComSampleAdaptiveOffset.h"
41
42//! \ingroup TLibEncoder
43//! \{
44
45Void TEncEntropy::setEntropyCoder ( TEncEntropyIf* e, TComSlice* pcSlice )
46{
47  m_pcEntropyCoderIf = e;
48  m_pcEntropyCoderIf->setSlice ( pcSlice );
49}
50
51Void TEncEntropy::encodeSliceHeader ( TComSlice* pcSlice )
52{
53  m_pcEntropyCoderIf->codeSliceHeader( pcSlice );
54  return;
55}
56
57Void  TEncEntropy::encodeTilesWPPEntryPoint( TComSlice* pSlice )
58{
59  m_pcEntropyCoderIf->codeTilesWPPEntryPoint( pSlice );
60}
61
62Void TEncEntropy::encodeTerminatingBit      ( UInt uiIsLast )
63{
64  m_pcEntropyCoderIf->codeTerminatingBit( uiIsLast );
65 
66  return;
67}
68
69Void TEncEntropy::encodeSliceFinish()
70{
71  m_pcEntropyCoderIf->codeSliceFinish();
72}
73
74Void TEncEntropy::encodePPS( TComPPS* pcPPS )
75{
76  m_pcEntropyCoderIf->codePPS( pcPPS );
77  return;
78}
79
80#if H_3D
81Void TEncEntropy::encodeSPS( TComSPS* pcSPS, Int viewIndex, Bool depthFlag )
82{
83  m_pcEntropyCoderIf->codeSPS( pcSPS, viewIndex, depthFlag );
84  return;
85}
86#else
87Void TEncEntropy::encodeSPS( TComSPS* pcSPS )
88{
89  m_pcEntropyCoderIf->codeSPS( pcSPS );
90  return;
91}
92#endif
93
94Void TEncEntropy::encodeCUTransquantBypassFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
95{
96  if( bRD )
97  {
98    uiAbsPartIdx = 0;
99  }
100  m_pcEntropyCoderIf->codeCUTransquantBypassFlag( pcCU, uiAbsPartIdx );
101}
102
103Void TEncEntropy::encodeVPS( TComVPS* pcVPS )
104{
105  m_pcEntropyCoderIf->codeVPS( pcVPS );
106  return;
107}
108
109Void TEncEntropy::encodeSkipFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
110{
111  if ( pcCU->getSlice()->isIntra() )
112  {
113    return;
114  }
115  if( bRD )
116  {
117    uiAbsPartIdx = 0;
118  }
119  m_pcEntropyCoderIf->codeSkipFlag( pcCU, uiAbsPartIdx );
120}
121
122/** encode merge flag
123 * \param pcCU
124 * \param uiAbsPartIdx
125 * \returns Void
126 */
127Void TEncEntropy::encodeMergeFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
128{ 
129  // at least one merge candidate exists
130  m_pcEntropyCoderIf->codeMergeFlag( pcCU, uiAbsPartIdx );
131}
132
133/** encode merge index
134 * \param pcCU
135 * \param uiAbsPartIdx
136 * \param uiPUIdx
137 * \param bRD
138 * \returns Void
139 */
140Void TEncEntropy::encodeMergeIndex( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
141{
142  if( bRD )
143  {
144    uiAbsPartIdx = 0;
145    assert( pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_2Nx2N );
146  }
147  m_pcEntropyCoderIf->codeMergeIndex( pcCU, uiAbsPartIdx );
148}
149
150#if H_3D_IC
151Void TEncEntropy::encodeICFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
152{
153  if ( pcCU->isIntra( uiAbsPartIdx ) || ( pcCU->getSlice()->getViewIndex() == 0 ) || pcCU->getSlice()->getIsDepth() || pcCU->getARPW( uiAbsPartIdx ) > 0 )
154  {
155    return;
156  }
157
158  if( !pcCU->getSlice()->getApplyIC() )
159  {
160    return;
161  }
162
163  if( bRD )
164  {
165    uiAbsPartIdx = 0;
166  }
167  else
168  {
169    g_aICEnableCANDIDATE[pcCU->getSlice()->getDepth()]++;
170    if(pcCU->getICFlag(uiAbsPartIdx))
171    {
172      g_aICEnableNUM[pcCU->getSlice()->getDepth()]++;
173    }
174  }
175  if( pcCU->isICFlagRequired( uiAbsPartIdx ) )
176  {
177    m_pcEntropyCoderIf->codeICFlag( pcCU, uiAbsPartIdx );
178  }
179}
180#endif
181
182#if H_3D_ARP
183Void TEncEntropy::encodeARPW( TComDataCU* pcCU, UInt uiAbsPartIdx )
184{
185  if( !pcCU->getSlice()->getARPStepNum() || pcCU->isIntra( uiAbsPartIdx ) ) 
186  {
187    return;
188  }
189
190  if ( pcCU->getPartitionSize(uiAbsPartIdx)!=SIZE_2Nx2N )
191  {
192    assert(pcCU->getARPW (uiAbsPartIdx) == 0);
193  }
194  else
195  {
196    m_pcEntropyCoderIf->codeARPW( pcCU, uiAbsPartIdx );
197  }
198}
199#endif
200
201/** encode prediction mode
202 * \param pcCU
203 * \param uiAbsPartIdx
204 * \param bRD
205 * \returns Void
206 */
207Void TEncEntropy::encodePredMode( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
208{
209  if( bRD )
210  {
211    uiAbsPartIdx = 0;
212  }
213  if ( pcCU->getSlice()->isIntra() )
214  {
215    return;
216  }
217
218  m_pcEntropyCoderIf->codePredMode( pcCU, uiAbsPartIdx );
219}
220
221// Split mode
222Void TEncEntropy::encodeSplitFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, Bool bRD )
223{
224  if( bRD )
225  {
226    uiAbsPartIdx = 0;
227  }
228  m_pcEntropyCoderIf->codeSplitFlag( pcCU, uiAbsPartIdx, uiDepth );
229}
230
231/** encode partition size
232 * \param pcCU
233 * \param uiAbsPartIdx
234 * \param uiDepth
235 * \param bRD
236 * \returns Void
237 */
238Void TEncEntropy::encodePartSize( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, Bool bRD )
239{
240  if( bRD )
241  {
242    uiAbsPartIdx = 0;
243  }
244 
245#if H_3D_DBBP
246#if! SEC_DBBP_EXPLICIT_SIG_I0077
247  PartSize eVirtualPartSize = pcCU->getPartitionSize(uiAbsPartIdx);
248  if( pcCU->getDBBPFlag(uiAbsPartIdx) )
249  {
250    AOF( pcCU->getSlice()->getVPS()->getUseDBBP(pcCU->getSlice()->getLayerIdInVps()) );
251   
252    // temporarily change partition size for DBBP blocks
253    pcCU->setPartSizeSubParts(RWTH_DBBP_PACK_MODE, uiAbsPartIdx, uiDepth);
254  }
255#endif
256#endif
257 
258  m_pcEntropyCoderIf->codePartSize( pcCU, uiAbsPartIdx, uiDepth );
259 
260#if H_3D_DBBP
261#if SEC_DBBP_EXPLICIT_SIG_I0077
262#if SEC_DBBP_DISALLOW_8x8_I0078
263  if( pcCU->getSlice()->getVPS()->getUseDBBP(pcCU->getSlice()->getLayerIdInVps()) && (pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_2NxN || pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_Nx2N) && pcCU->getWidth(uiAbsPartIdx) > 8 )
264#else
265  if( pcCU->getSlice()->getVPS()->getUseDBBP(pcCU->getSlice()->getLayerIdInVps()) && (pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_2NxN || pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_Nx2N) )
266#endif
267#else
268#if SEC_DBBP_DISALLOW_8x8_I0078
269  if( pcCU->getSlice()->getVPS()->getUseDBBP(pcCU->getSlice()->getLayerIdInVps()) && pcCU->getWidth(uiAbsPartIdx) > 8 )
270#else
271  if( pcCU->getSlice()->getVPS()->getUseDBBP(pcCU->getSlice()->getLayerIdInVps()) )
272#endif
273#endif
274  {
275    encodeDBBPFlag(pcCU, uiAbsPartIdx, bRD);
276#if !SEC_DBBP_EXPLICIT_SIG_I0077
277    if( pcCU->getDBBPFlag(uiAbsPartIdx) )
278    {
279      // restore virtual partition size for DBBP blocks
280      pcCU->setPartSizeSubParts(eVirtualPartSize, uiAbsPartIdx, uiDepth);
281    }
282#endif
283  }
284#endif
285}
286
287/** Encode I_PCM information.
288 * \param pcCU pointer to CU
289 * \param uiAbsPartIdx CU index
290 * \param bRD flag indicating estimation or encoding
291 * \returns Void
292 */
293Void TEncEntropy::encodeIPCMInfo( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
294{
295  if(!pcCU->getSlice()->getSPS()->getUsePCM()
296    || pcCU->getWidth(uiAbsPartIdx) > (1<<pcCU->getSlice()->getSPS()->getPCMLog2MaxSize())
297    || pcCU->getWidth(uiAbsPartIdx) < (1<<pcCU->getSlice()->getSPS()->getPCMLog2MinSize()))
298  {
299    return;
300  }
301 
302  if( bRD )
303  {
304    uiAbsPartIdx = 0;
305  }
306 
307  m_pcEntropyCoderIf->codeIPCMInfo ( pcCU, uiAbsPartIdx );
308}
309
310Void TEncEntropy::xEncodeTransform( TComDataCU* pcCU,UInt offsetLuma, UInt offsetChroma, UInt uiAbsPartIdx, UInt uiDepth, UInt width, UInt height, UInt uiTrIdx, Bool& bCodeDQP )
311{
312  const UInt uiSubdiv = pcCU->getTransformIdx( uiAbsPartIdx ) + pcCU->getDepth( uiAbsPartIdx ) > uiDepth;
313  const UInt uiLog2TrafoSize = g_aucConvertToBit[pcCU->getSlice()->getSPS()->getMaxCUWidth()]+2 - uiDepth;
314  UInt cbfY = pcCU->getCbf( uiAbsPartIdx, TEXT_LUMA    , uiTrIdx );
315  UInt cbfU = pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrIdx );
316  UInt cbfV = pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrIdx );
317
318  if(uiTrIdx==0)
319  {
320    m_bakAbsPartIdxCU = uiAbsPartIdx;
321  }
322  if( uiLog2TrafoSize == 2 )
323  {
324    UInt partNum = pcCU->getPic()->getNumPartInCU() >> ( ( uiDepth - 1 ) << 1 );
325    if( ( uiAbsPartIdx % partNum ) == 0 )
326    {
327      m_uiBakAbsPartIdx   = uiAbsPartIdx;
328      m_uiBakChromaOffset = offsetChroma;
329    }
330    else if( ( uiAbsPartIdx % partNum ) == (partNum - 1) )
331    {
332      cbfU = pcCU->getCbf( m_uiBakAbsPartIdx, TEXT_CHROMA_U, uiTrIdx );
333      cbfV = pcCU->getCbf( m_uiBakAbsPartIdx, TEXT_CHROMA_V, uiTrIdx );
334    }
335  }
336 
337  if( pcCU->getPredictionMode(uiAbsPartIdx) == MODE_INTRA && pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_NxN && uiDepth == pcCU->getDepth(uiAbsPartIdx) )
338  {
339    assert( uiSubdiv );
340  }
341  else if( pcCU->getPredictionMode(uiAbsPartIdx) == MODE_INTER && (pcCU->getPartitionSize(uiAbsPartIdx) != SIZE_2Nx2N) && uiDepth == pcCU->getDepth(uiAbsPartIdx) &&  (pcCU->getSlice()->getSPS()->getQuadtreeTUMaxDepthInter() == 1) )
342  {
343    if ( uiLog2TrafoSize > pcCU->getQuadtreeTULog2MinSizeInCU(uiAbsPartIdx) )
344    {
345      assert( uiSubdiv );
346    }
347    else
348    {
349      assert(!uiSubdiv );
350    }
351  }
352  else if( uiLog2TrafoSize > pcCU->getSlice()->getSPS()->getQuadtreeTULog2MaxSize() )
353  {
354    assert( uiSubdiv );
355  }
356  else if( uiLog2TrafoSize == pcCU->getSlice()->getSPS()->getQuadtreeTULog2MinSize() )
357  {
358    assert( !uiSubdiv );
359  }
360  else if( uiLog2TrafoSize == pcCU->getQuadtreeTULog2MinSizeInCU(uiAbsPartIdx) )
361  {
362    assert( !uiSubdiv );
363  }
364  else
365  {
366    assert( uiLog2TrafoSize > pcCU->getQuadtreeTULog2MinSizeInCU(uiAbsPartIdx) );
367    m_pcEntropyCoderIf->codeTransformSubdivFlag( uiSubdiv, 5 - uiLog2TrafoSize );
368  }
369
370  const UInt uiTrDepthCurr = uiDepth - pcCU->getDepth( uiAbsPartIdx );
371  const Bool bFirstCbfOfCU = uiTrDepthCurr == 0;
372  if( bFirstCbfOfCU || uiLog2TrafoSize > 2 )
373  {
374    if( bFirstCbfOfCU || pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepthCurr - 1 ) )
375    {
376      m_pcEntropyCoderIf->codeQtCbf( pcCU, uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepthCurr );
377    }
378    if( bFirstCbfOfCU || pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepthCurr - 1 ) )
379    {
380      m_pcEntropyCoderIf->codeQtCbf( pcCU, uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepthCurr );
381    }
382  }
383  else if( uiLog2TrafoSize == 2 )
384  {
385    assert( pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepthCurr ) == pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, uiTrDepthCurr - 1 ) );
386    assert( pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepthCurr ) == pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, uiTrDepthCurr - 1 ) );
387  }
388 
389  if( uiSubdiv )
390  {
391    UInt size;
392    width  >>= 1;
393    height >>= 1;
394    size = width*height;
395    uiTrIdx++;
396    ++uiDepth;
397    const UInt partNum = pcCU->getPic()->getNumPartInCU() >> (uiDepth << 1);
398   
399    xEncodeTransform( pcCU, offsetLuma, offsetChroma, uiAbsPartIdx, uiDepth, width, height, uiTrIdx, bCodeDQP );
400
401    uiAbsPartIdx += partNum;  offsetLuma += size;  offsetChroma += (size>>2);
402    xEncodeTransform( pcCU, offsetLuma, offsetChroma, uiAbsPartIdx, uiDepth, width, height, uiTrIdx, bCodeDQP );
403
404    uiAbsPartIdx += partNum;  offsetLuma += size;  offsetChroma += (size>>2);
405    xEncodeTransform( pcCU, offsetLuma, offsetChroma, uiAbsPartIdx, uiDepth, width, height, uiTrIdx, bCodeDQP );
406
407    uiAbsPartIdx += partNum;  offsetLuma += size;  offsetChroma += (size>>2);
408    xEncodeTransform( pcCU, offsetLuma, offsetChroma, uiAbsPartIdx, uiDepth, width, height, uiTrIdx, bCodeDQP );
409  }
410  else
411  {
412#if !H_MV_ENC_DEC_TRAC
413    {
414      DTRACE_CABAC_VL( g_nSymbolCounter++ );
415      DTRACE_CABAC_T( "\tTrIdx: abspart=" );
416      DTRACE_CABAC_V( uiAbsPartIdx );
417      DTRACE_CABAC_T( "\tdepth=" );
418      DTRACE_CABAC_V( uiDepth );
419      DTRACE_CABAC_T( "\ttrdepth=" );
420      DTRACE_CABAC_V( pcCU->getTransformIdx( uiAbsPartIdx ) );
421      DTRACE_CABAC_T( "\n" );
422    }
423#endif
424   
425    if( pcCU->getPredictionMode(uiAbsPartIdx) != MODE_INTRA && uiDepth == pcCU->getDepth( uiAbsPartIdx ) && !pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_U, 0 ) && !pcCU->getCbf( uiAbsPartIdx, TEXT_CHROMA_V, 0 ) )
426    {
427      assert( pcCU->getCbf( uiAbsPartIdx, TEXT_LUMA, 0 ) );
428      //      printf( "saved one bin! " );
429    }
430    else
431    {
432      m_pcEntropyCoderIf->codeQtCbf( pcCU, uiAbsPartIdx, TEXT_LUMA, pcCU->getTransformIdx( uiAbsPartIdx ) );
433    }
434
435
436    if ( cbfY || cbfU || cbfV )
437    {
438      // dQP: only for LCU once
439      if ( pcCU->getSlice()->getPPS()->getUseDQP() )
440      {
441        if ( bCodeDQP )
442        {
443          encodeQP( pcCU, m_bakAbsPartIdxCU );
444          bCodeDQP = false;
445        }
446      }
447    }
448    if( cbfY )
449    {
450      Int trWidth = width;
451      Int trHeight = height;
452      m_pcEntropyCoderIf->codeCoeffNxN( pcCU, (pcCU->getCoeffY()+offsetLuma), uiAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_LUMA );
453    }
454    if( uiLog2TrafoSize > 2 )
455    {
456      Int trWidth = width >> 1;
457      Int trHeight = height >> 1;
458      if( cbfU )
459      {
460        m_pcEntropyCoderIf->codeCoeffNxN( pcCU, (pcCU->getCoeffCb()+offsetChroma), uiAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_U );
461      }
462      if( cbfV )
463      {
464        m_pcEntropyCoderIf->codeCoeffNxN( pcCU, (pcCU->getCoeffCr()+offsetChroma), uiAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_V );
465      }
466    }
467    else
468    {
469      UInt partNum = pcCU->getPic()->getNumPartInCU() >> ( ( uiDepth - 1 ) << 1 );
470      if( ( uiAbsPartIdx % partNum ) == (partNum - 1) )
471      {
472        Int trWidth = width;
473        Int trHeight = height;
474        if( cbfU )
475        {
476          m_pcEntropyCoderIf->codeCoeffNxN( pcCU, (pcCU->getCoeffCb()+m_uiBakChromaOffset), m_uiBakAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_U );
477        }
478        if( cbfV )
479        {
480          m_pcEntropyCoderIf->codeCoeffNxN( pcCU, (pcCU->getCoeffCr()+m_uiBakChromaOffset), m_uiBakAbsPartIdx, trWidth, trHeight, uiDepth, TEXT_CHROMA_V );
481        }
482      }
483    }
484  }
485}
486
487// Intra direction for Luma
488Void TEncEntropy::encodeIntraDirModeLuma  ( TComDataCU* pcCU, UInt absPartIdx, Bool isMultiplePU )
489{
490  m_pcEntropyCoderIf->codeIntraDirLumaAng( pcCU, absPartIdx , isMultiplePU);
491}
492
493// Intra direction for Chroma
494Void TEncEntropy::encodeIntraDirModeChroma( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
495{
496  if( bRD )
497  {
498    uiAbsPartIdx = 0;
499  }
500 
501  m_pcEntropyCoderIf->codeIntraDirChroma( pcCU, uiAbsPartIdx );
502}
503
504Void TEncEntropy::encodePredInfo( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
505{
506  if( bRD )
507  {
508    uiAbsPartIdx = 0;
509  }
510  if( pcCU->isIntra( uiAbsPartIdx ) )                                 // If it is Intra mode, encode intra prediction mode.
511  {
512    encodeIntraDirModeLuma  ( pcCU, uiAbsPartIdx,true );
513#if H_3D_DIM_SDC
514    if(!pcCU->getSDCFlag(uiAbsPartIdx))
515#endif
516    encodeIntraDirModeChroma( pcCU, uiAbsPartIdx, bRD );
517  }
518  else                                                                // if it is Inter mode, encode motion vector and reference index
519  {
520    encodePUWise( pcCU, uiAbsPartIdx, bRD );
521  }
522}
523
524/** encode motion information for every PU block
525 * \param pcCU
526 * \param uiAbsPartIdx
527 * \param bRD
528 * \returns Void
529 */
530Void TEncEntropy::encodePUWise( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
531{
532  if ( bRD )
533  {
534    uiAbsPartIdx = 0;
535  }
536 
537  PartSize ePartSize = pcCU->getPartitionSize( uiAbsPartIdx );
538  UInt uiNumPU = ( ePartSize == SIZE_2Nx2N ? 1 : ( ePartSize == SIZE_NxN ? 4 : 2 ) );
539  UInt uiDepth = pcCU->getDepth( uiAbsPartIdx );
540  UInt uiPUOffset = ( g_auiPUOffset[UInt( ePartSize )] << ( ( pcCU->getSlice()->getSPS()->getMaxCUDepth() - uiDepth ) << 1 ) ) >> 4;
541
542  for ( UInt uiPartIdx = 0, uiSubPartIdx = uiAbsPartIdx; uiPartIdx < uiNumPU; uiPartIdx++, uiSubPartIdx += uiPUOffset )
543  {
544#if H_MV_ENC_DEC_TRAC
545    DTRACE_PU_S("=========== prediction_unit ===========\n")
546       //Todo:
547      //DTRACE_PU("x0", uiLPelX)
548      //DTRACE_PU("x1", uiTPelY)
549#endif
550    encodeMergeFlag( pcCU, uiSubPartIdx );
551    if ( pcCU->getMergeFlag( uiSubPartIdx ) )
552    {
553      encodeMergeIndex( pcCU, uiSubPartIdx );
554    }
555    else
556    {
557      encodeInterDirPU( pcCU, uiSubPartIdx );
558      for ( UInt uiRefListIdx = 0; uiRefListIdx < 2; uiRefListIdx++ )
559      {
560        if ( pcCU->getSlice()->getNumRefIdx( RefPicList( uiRefListIdx ) ) > 0 )
561        {
562          encodeRefFrmIdxPU ( pcCU, uiSubPartIdx, RefPicList( uiRefListIdx ) );
563          encodeMvdPU       ( pcCU, uiSubPartIdx, RefPicList( uiRefListIdx ) );
564          encodeMVPIdxPU    ( pcCU, uiSubPartIdx, RefPicList( uiRefListIdx ) );
565        }
566      }
567    }
568  }
569
570  return;
571}
572
573Void TEncEntropy::encodeInterDirPU( TComDataCU* pcCU, UInt uiAbsPartIdx )
574{
575  if ( !pcCU->getSlice()->isInterB() )
576  {
577    return;
578  }
579
580  m_pcEntropyCoderIf->codeInterDir( pcCU, uiAbsPartIdx );
581  return;
582}
583
584/** encode reference frame index for a PU block
585 * \param pcCU
586 * \param uiAbsPartIdx
587 * \param eRefList
588 * \returns Void
589 */
590Void TEncEntropy::encodeRefFrmIdxPU( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
591{
592  assert( !pcCU->isIntra( uiAbsPartIdx ) );
593  {
594    if ( ( pcCU->getSlice()->getNumRefIdx( eRefList ) == 1 ) )
595    {
596      return;
597    }
598
599    if ( pcCU->getInterDir( uiAbsPartIdx ) & ( 1 << eRefList ) )
600    {
601      m_pcEntropyCoderIf->codeRefFrmIdx( pcCU, uiAbsPartIdx, eRefList );
602    }
603  }
604
605  return;
606}
607
608/** encode motion vector difference for a PU block
609 * \param pcCU
610 * \param uiAbsPartIdx
611 * \param eRefList
612 * \returns Void
613 */
614Void TEncEntropy::encodeMvdPU( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
615{
616  assert( !pcCU->isIntra( uiAbsPartIdx ) );
617
618  if ( pcCU->getInterDir( uiAbsPartIdx ) & ( 1 << eRefList ) )
619  {
620    m_pcEntropyCoderIf->codeMvd( pcCU, uiAbsPartIdx, eRefList );
621  }
622  return;
623}
624
625Void TEncEntropy::encodeMVPIdxPU( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
626{
627  if ( (pcCU->getInterDir( uiAbsPartIdx ) & ( 1 << eRefList )) )
628  {
629    m_pcEntropyCoderIf->codeMVPIdx( pcCU, uiAbsPartIdx, eRefList );
630  }
631
632  return;
633}
634
635Void TEncEntropy::encodeQtCbf( TComDataCU* pcCU, UInt uiAbsPartIdx, TextType eType, UInt uiTrDepth )
636{
637  m_pcEntropyCoderIf->codeQtCbf( pcCU, uiAbsPartIdx, eType, uiTrDepth );
638}
639
640Void TEncEntropy::encodeTransformSubdivFlag( UInt uiSymbol, UInt uiCtx )
641{
642  m_pcEntropyCoderIf->codeTransformSubdivFlag( uiSymbol, uiCtx );
643}
644
645Void TEncEntropy::encodeQtRootCbf( TComDataCU* pcCU, UInt uiAbsPartIdx )
646{
647  m_pcEntropyCoderIf->codeQtRootCbf( pcCU, uiAbsPartIdx );
648}
649
650Void TEncEntropy::encodeQtCbfZero( TComDataCU* pcCU, TextType eType, UInt uiTrDepth )
651{
652  m_pcEntropyCoderIf->codeQtCbfZero( pcCU, eType, uiTrDepth );
653}
654Void TEncEntropy::encodeQtRootCbfZero( TComDataCU* pcCU )
655{
656  m_pcEntropyCoderIf->codeQtRootCbfZero( pcCU );
657}
658
659// dQP
660Void TEncEntropy::encodeQP( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
661{
662  if( bRD )
663  {
664    uiAbsPartIdx = 0;
665  }
666 
667  if ( pcCU->getSlice()->getPPS()->getUseDQP() )
668  {
669    m_pcEntropyCoderIf->codeDeltaQP( pcCU, uiAbsPartIdx );
670  }
671}
672
673
674// texture
675/** encode coefficients
676 * \param pcCU
677 * \param uiAbsPartIdx
678 * \param uiDepth
679 * \param uiWidth
680 * \param uiHeight
681 */
682Void TEncEntropy::encodeCoeff( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, UInt uiWidth, UInt uiHeight, Bool& bCodeDQP )
683{
684  UInt uiMinCoeffSize = pcCU->getPic()->getMinCUWidth()*pcCU->getPic()->getMinCUHeight();
685  UInt uiLumaOffset   = uiMinCoeffSize*uiAbsPartIdx;
686  UInt uiChromaOffset = uiLumaOffset>>2;
687#if H_3D_DIM_SDC
688  if( pcCU->getSDCFlag( uiAbsPartIdx ) && pcCU->isIntra( uiAbsPartIdx ) )
689  {
690    assert( pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_2Nx2N );
691    assert( pcCU->getTransformIdx(uiAbsPartIdx) == 0 );
692    assert( pcCU->getCbf(uiAbsPartIdx, TEXT_LUMA) == 1 );
693    assert( pcCU->getCbf(uiAbsPartIdx, TEXT_CHROMA_U) == 1 );
694    assert( pcCU->getCbf(uiAbsPartIdx, TEXT_CHROMA_V) == 1 );
695  }
696
697  if( pcCU->getSDCFlag( uiAbsPartIdx ) && !pcCU->isIntra( uiAbsPartIdx ) )
698  {
699    assert( !pcCU->isSkipped( uiAbsPartIdx ) );
700    assert( !pcCU->isIntra( uiAbsPartIdx) );
701    assert( pcCU->getSlice()->getIsDepth() );
702  }
703
704  if( pcCU->getSlice()->getIsDepth() && ( pcCU->getSDCFlag( uiAbsPartIdx ) || pcCU->isIntra( uiAbsPartIdx ) ) )
705  {
706    Int iPartNum = ( pcCU->isIntra( uiAbsPartIdx ) && pcCU->getPartitionSize( uiAbsPartIdx ) == SIZE_NxN ) ? 4 : 1;
707    UInt uiPartOffset = ( pcCU->getPic()->getNumPartInCU() >> ( pcCU->getDepth( uiAbsPartIdx ) << 1 ) ) >> 2;
708   
709    if( !pcCU->getSDCFlag( uiAbsPartIdx ) )
710    {
711      for( Int iPart = 0; iPart < iPartNum; iPart++ )
712      {
713        if( getDimType( pcCU->getLumaIntraDir( uiAbsPartIdx + uiPartOffset*iPart ) ) < DIM_NUM_TYPE ) 
714        {
715          m_pcEntropyCoderIf->codeDeltaDC( pcCU, uiAbsPartIdx + uiPartOffset*iPart );
716        }
717      }
718    }
719    else
720    {
721      m_pcEntropyCoderIf->codeDeltaDC( pcCU, uiAbsPartIdx );
722      return;
723    }
724  }
725#endif
726
727  if( pcCU->isIntra(uiAbsPartIdx) )
728  {
729#if !H_MV
730    DTRACE_CABAC_VL( g_nSymbolCounter++ )
731    DTRACE_CABAC_T( "\tdecodeTransformIdx()\tCUDepth=" )
732    DTRACE_CABAC_V( uiDepth )
733    DTRACE_CABAC_T( "\n" )
734#endif
735  }
736  else
737  {
738    if( !(pcCU->getMergeFlag( uiAbsPartIdx ) && pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_2Nx2N ) )
739    {
740      m_pcEntropyCoderIf->codeQtRootCbf( pcCU, uiAbsPartIdx );
741    }
742    if ( !pcCU->getQtRootCbf( uiAbsPartIdx ) )
743    {
744      return;
745    }
746  }
747 
748  xEncodeTransform( pcCU, uiLumaOffset, uiChromaOffset, uiAbsPartIdx, uiDepth, uiWidth, uiHeight, 0, bCodeDQP);
749}
750
751Void TEncEntropy::encodeCoeffNxN( TComDataCU* pcCU, TCoeff* pcCoeff, UInt uiAbsPartIdx, UInt uiTrWidth, UInt uiTrHeight, UInt uiDepth, TextType eType )
752{
753  // This is for Transform unit processing. This may be used at mode selection stage for Inter.
754  m_pcEntropyCoderIf->codeCoeffNxN( pcCU, pcCoeff, uiAbsPartIdx, uiTrWidth, uiTrHeight, uiDepth, eType );
755}
756
757Void TEncEntropy::estimateBit (estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, TextType eTType)
758{ 
759  eTType = eTType == TEXT_LUMA ? TEXT_LUMA : TEXT_CHROMA;
760 
761  m_pcEntropyCoderIf->estBit ( pcEstBitsSbac, width, height, eTType );
762}
763
764Int TEncEntropy::countNonZeroCoeffs( TCoeff* pcCoef, UInt uiSize )
765{
766  Int count = 0;
767 
768  for ( Int i = 0; i < uiSize; i++ )
769  {
770    count += pcCoef[i] != 0;
771  }
772 
773  return count;
774}
775
776/** encode quantization matrix
777 * \param scalingList quantization matrix information
778 */
779Void TEncEntropy::encodeScalingList( TComScalingList* scalingList )
780{
781  m_pcEntropyCoderIf->codeScalingList( scalingList );
782}
783
784#if H_3D_INTER_SDC
785Void TEncEntropy::encodeDeltaDC  ( TComDataCU* pcCU, UInt absPartIdx )
786{
787  m_pcEntropyCoderIf->codeDeltaDC( pcCU, absPartIdx );
788}
789
790Void TEncEntropy::encodeSDCFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
791{
792  if( ( !pcCU->isIntra( uiAbsPartIdx ) && !pcCU->getSlice()->getVPS()->getInterSDCFlag( pcCU->getSlice()->getLayerIdInVps() ) ) || 
793    ( pcCU->isIntra( uiAbsPartIdx ) && !pcCU->getSlice()->getVPS()->getVpsDepthModesFlag( pcCU->getSlice()->getLayerIdInVps() ) ) )
794  {
795    return;
796  }
797
798  if( !pcCU->getSlice()->getIsDepth() || pcCU->getPartitionSize( uiAbsPartIdx ) != SIZE_2Nx2N || pcCU->isSkipped( uiAbsPartIdx ) )
799  {
800    return;
801  }
802
803  assert( pcCU->getPartitionSize( uiAbsPartIdx ) == SIZE_2Nx2N || ( !pcCU->isIntra( uiAbsPartIdx ) && !pcCU->isSkipped( uiAbsPartIdx ) ) );
804
805  if( bRD )
806  {
807    uiAbsPartIdx = 0;
808  }
809
810  m_pcEntropyCoderIf->codeSDCFlag( pcCU, uiAbsPartIdx );
811}
812
813#endif
814#if H_3D_DBBP
815Void TEncEntropy::encodeDBBPFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD )
816{
817  if( bRD )
818  {
819    uiAbsPartIdx = 0;
820  }
821  m_pcEntropyCoderIf->codeDBBPFlag( pcCU, uiAbsPartIdx );
822}
823#endif
824//! \}
Note: See TracBrowser for help on using the repository browser.