source: SHVCSoftware/branches/SHM-dev/source/Lib/TLibEncoder/TEncSbac.cpp @ 1547

Last change on this file since 1547 was 1502, checked in by seregin, 9 years ago

infer parameters in SPS after activation, fixing chroma scaling for non 4:2:0

  • Property svn:eol-style set to native
File size: 70.6 KB
RevLine 
[313]1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
[1029]4 * granted under this license.
[313]5 *
[1259]6 * Copyright (c) 2010-2015, ITU/ISO/IEC
[313]7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TEncSbac.cpp
35    \brief    SBAC encoder class
36*/
37
38#include "TEncTop.h"
39#include "TEncSbac.h"
[1029]40#include "TLibCommon/TComTU.h"
[313]41
42#include <map>
43#include <algorithm>
44
[1029]45#if ENVIRONMENT_VARIABLE_DEBUG_AND_TEST
46#include "../TLibCommon/Debug.h"
47#endif
48
49
[313]50//! \ingroup TLibEncoder
51//! \{
52
53// ====================================================================================================================
54// Constructor / destructor / create / destroy
55// ====================================================================================================================
56
57TEncSbac::TEncSbac()
58// new structure here
[1029]59: m_pcBitIf                            ( NULL )
60, m_pcBinIf                            ( NULL )
61, m_numContextModels                   ( 0 )
62, m_cCUSplitFlagSCModel                ( 1,             1,                      NUM_SPLIT_FLAG_CTX                   , m_contextModels + m_numContextModels, m_numContextModels)
63, m_cCUSkipFlagSCModel                 ( 1,             1,                      NUM_SKIP_FLAG_CTX                    , m_contextModels + m_numContextModels, m_numContextModels)
64, m_cCUMergeFlagExtSCModel             ( 1,             1,                      NUM_MERGE_FLAG_EXT_CTX               , m_contextModels + m_numContextModels, m_numContextModels)
65, m_cCUMergeIdxExtSCModel              ( 1,             1,                      NUM_MERGE_IDX_EXT_CTX                , m_contextModels + m_numContextModels, m_numContextModels)
66, m_cCUPartSizeSCModel                 ( 1,             1,                      NUM_PART_SIZE_CTX                    , m_contextModels + m_numContextModels, m_numContextModels)
67, m_cCUPredModeSCModel                 ( 1,             1,                      NUM_PRED_MODE_CTX                    , m_contextModels + m_numContextModels, m_numContextModels)
[1315]68, m_cCUIntraPredSCModel                ( 1,             1,                      NUM_INTRA_PREDICT_CTX                , m_contextModels + m_numContextModels, m_numContextModels)
[1029]69, m_cCUChromaPredSCModel               ( 1,             1,                      NUM_CHROMA_PRED_CTX                  , m_contextModels + m_numContextModels, m_numContextModels)
70, m_cCUDeltaQpSCModel                  ( 1,             1,                      NUM_DELTA_QP_CTX                     , m_contextModels + m_numContextModels, m_numContextModels)
71, m_cCUInterDirSCModel                 ( 1,             1,                      NUM_INTER_DIR_CTX                    , m_contextModels + m_numContextModels, m_numContextModels)
72, m_cCURefPicSCModel                   ( 1,             1,                      NUM_REF_NO_CTX                       , m_contextModels + m_numContextModels, m_numContextModels)
73, m_cCUMvdSCModel                      ( 1,             1,                      NUM_MV_RES_CTX                       , m_contextModels + m_numContextModels, m_numContextModels)
74, m_cCUQtCbfSCModel                    ( 1,             NUM_QT_CBF_CTX_SETS,    NUM_QT_CBF_CTX_PER_SET               , m_contextModels + m_numContextModels, m_numContextModels)
75, m_cCUTransSubdivFlagSCModel          ( 1,             1,                      NUM_TRANS_SUBDIV_FLAG_CTX            , m_contextModels + m_numContextModels, m_numContextModels)
76, m_cCUQtRootCbfSCModel                ( 1,             1,                      NUM_QT_ROOT_CBF_CTX                  , m_contextModels + m_numContextModels, m_numContextModels)
77, m_cCUSigCoeffGroupSCModel            ( 1,             2,                      NUM_SIG_CG_FLAG_CTX                  , m_contextModels + m_numContextModels, m_numContextModels)
78, m_cCUSigSCModel                      ( 1,             1,                      NUM_SIG_FLAG_CTX                     , m_contextModels + m_numContextModels, m_numContextModels)
79, m_cCuCtxLastX                        ( 1,             NUM_CTX_LAST_FLAG_SETS, NUM_CTX_LAST_FLAG_XY                 , m_contextModels + m_numContextModels, m_numContextModels)
80, m_cCuCtxLastY                        ( 1,             NUM_CTX_LAST_FLAG_SETS, NUM_CTX_LAST_FLAG_XY                 , m_contextModels + m_numContextModels, m_numContextModels)
81, m_cCUOneSCModel                      ( 1,             1,                      NUM_ONE_FLAG_CTX                     , m_contextModels + m_numContextModels, m_numContextModels)
82, m_cCUAbsSCModel                      ( 1,             1,                      NUM_ABS_FLAG_CTX                     , m_contextModels + m_numContextModels, m_numContextModels)
83, m_cMVPIdxSCModel                     ( 1,             1,                      NUM_MVP_IDX_CTX                      , m_contextModels + m_numContextModels, m_numContextModels)
84, m_cSaoMergeSCModel                   ( 1,             1,                      NUM_SAO_MERGE_FLAG_CTX               , m_contextModels + m_numContextModels, m_numContextModels)
85, m_cSaoTypeIdxSCModel                 ( 1,             1,                      NUM_SAO_TYPE_IDX_CTX                 , m_contextModels + m_numContextModels, m_numContextModels)
86, m_cTransformSkipSCModel              ( 1,             MAX_NUM_CHANNEL_TYPE,   NUM_TRANSFORMSKIP_FLAG_CTX           , m_contextModels + m_numContextModels, m_numContextModels)
87, m_CUTransquantBypassFlagSCModel      ( 1,             1,                      NUM_CU_TRANSQUANT_BYPASS_FLAG_CTX    , m_contextModels + m_numContextModels, m_numContextModels)
88, m_explicitRdpcmFlagSCModel           ( 1,             MAX_NUM_CHANNEL_TYPE,   NUM_EXPLICIT_RDPCM_FLAG_CTX          , m_contextModels + m_numContextModels, m_numContextModels)
89, m_explicitRdpcmDirSCModel            ( 1,             MAX_NUM_CHANNEL_TYPE,   NUM_EXPLICIT_RDPCM_DIR_CTX           , m_contextModels + m_numContextModels, m_numContextModels)
90, m_cCrossComponentPredictionSCModel   ( 1,             1,                      NUM_CROSS_COMPONENT_PREDICTION_CTX   , m_contextModels + m_numContextModels, m_numContextModels)
91, m_ChromaQpAdjFlagSCModel             ( 1,             1,                      NUM_CHROMA_QP_ADJ_FLAG_CTX           , m_contextModels + m_numContextModels, m_numContextModels)
92, m_ChromaQpAdjIdcSCModel              ( 1,             1,                      NUM_CHROMA_QP_ADJ_IDC_CTX            , m_contextModels + m_numContextModels, m_numContextModels)
[313]93{
94  assert( m_numContextModels <= MAX_NUM_CTX_MOD );
95}
96
97TEncSbac::~TEncSbac()
98{
99}
100
101// ====================================================================================================================
102// Public member functions
103// ====================================================================================================================
104
[1291]105Void TEncSbac::resetEntropy           (const TComSlice *pSlice)
[313]106{
[1291]107  Int  iQp              = pSlice->getSliceQp();
108  SliceType eSliceType  = pSlice->getSliceType();
[1029]109
[1291]110  SliceType encCABACTableIdx = pSlice->getEncCABACTableIdx();
111  if (!pSlice->isIntra() && (encCABACTableIdx==B_SLICE || encCABACTableIdx==P_SLICE) && pSlice->getPPS()->getCabacInitPresentFlag())
[313]112  {
[1235]113    eSliceType = encCABACTableIdx;
[313]114  }
115
[1029]116  m_cCUSplitFlagSCModel.initBuffer                ( eSliceType, iQp, (UChar*)INIT_SPLIT_FLAG );
117  m_cCUSkipFlagSCModel.initBuffer                 ( eSliceType, iQp, (UChar*)INIT_SKIP_FLAG );
118  m_cCUMergeFlagExtSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_MERGE_FLAG_EXT);
119  m_cCUMergeIdxExtSCModel.initBuffer              ( eSliceType, iQp, (UChar*)INIT_MERGE_IDX_EXT);
120  m_cCUPartSizeSCModel.initBuffer                 ( eSliceType, iQp, (UChar*)INIT_PART_SIZE );
121  m_cCUPredModeSCModel.initBuffer                 ( eSliceType, iQp, (UChar*)INIT_PRED_MODE );
122  m_cCUIntraPredSCModel.initBuffer                ( eSliceType, iQp, (UChar*)INIT_INTRA_PRED_MODE );
123  m_cCUChromaPredSCModel.initBuffer               ( eSliceType, iQp, (UChar*)INIT_CHROMA_PRED_MODE );
124  m_cCUInterDirSCModel.initBuffer                 ( eSliceType, iQp, (UChar*)INIT_INTER_DIR );
125  m_cCUMvdSCModel.initBuffer                      ( eSliceType, iQp, (UChar*)INIT_MVD );
126  m_cCURefPicSCModel.initBuffer                   ( eSliceType, iQp, (UChar*)INIT_REF_PIC );
127  m_cCUDeltaQpSCModel.initBuffer                  ( eSliceType, iQp, (UChar*)INIT_DQP );
128  m_cCUQtCbfSCModel.initBuffer                    ( eSliceType, iQp, (UChar*)INIT_QT_CBF );
129  m_cCUQtRootCbfSCModel.initBuffer                ( eSliceType, iQp, (UChar*)INIT_QT_ROOT_CBF );
130  m_cCUSigCoeffGroupSCModel.initBuffer            ( eSliceType, iQp, (UChar*)INIT_SIG_CG_FLAG );
131  m_cCUSigSCModel.initBuffer                      ( eSliceType, iQp, (UChar*)INIT_SIG_FLAG );
132  m_cCuCtxLastX.initBuffer                        ( eSliceType, iQp, (UChar*)INIT_LAST );
133  m_cCuCtxLastY.initBuffer                        ( eSliceType, iQp, (UChar*)INIT_LAST );
134  m_cCUOneSCModel.initBuffer                      ( eSliceType, iQp, (UChar*)INIT_ONE_FLAG );
135  m_cCUAbsSCModel.initBuffer                      ( eSliceType, iQp, (UChar*)INIT_ABS_FLAG );
136  m_cMVPIdxSCModel.initBuffer                     ( eSliceType, iQp, (UChar*)INIT_MVP_IDX );
137  m_cCUTransSubdivFlagSCModel.initBuffer          ( eSliceType, iQp, (UChar*)INIT_TRANS_SUBDIV_FLAG );
138  m_cSaoMergeSCModel.initBuffer                   ( eSliceType, iQp, (UChar*)INIT_SAO_MERGE_FLAG );
139  m_cSaoTypeIdxSCModel.initBuffer                 ( eSliceType, iQp, (UChar*)INIT_SAO_TYPE_IDX );
140  m_cTransformSkipSCModel.initBuffer              ( eSliceType, iQp, (UChar*)INIT_TRANSFORMSKIP_FLAG );
141  m_CUTransquantBypassFlagSCModel.initBuffer      ( eSliceType, iQp, (UChar*)INIT_CU_TRANSQUANT_BYPASS_FLAG );
142  m_explicitRdpcmFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_EXPLICIT_RDPCM_FLAG);
143  m_explicitRdpcmDirSCModel.initBuffer            ( eSliceType, iQp, (UChar*)INIT_EXPLICIT_RDPCM_DIR);
144  m_cCrossComponentPredictionSCModel.initBuffer   ( eSliceType, iQp, (UChar*)INIT_CROSS_COMPONENT_PREDICTION  );
145  m_ChromaQpAdjFlagSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_CHROMA_QP_ADJ_FLAG );
146  m_ChromaQpAdjIdcSCModel.initBuffer              ( eSliceType, iQp, (UChar*)INIT_CHROMA_QP_ADJ_IDC );
147
148  for (UInt statisticIndex = 0; statisticIndex < RExt__GOLOMB_RICE_ADAPTATION_STATISTICS_SETS ; statisticIndex++)
149  {
150    m_golombRiceAdaptationStatistics[statisticIndex] = 0;
151  }
152
[313]153  m_pcBinIf->start();
[1029]154
[313]155  return;
156}
157
[1029]158/** The function does the following:
159 * If current slice type is P/B then it determines the distance of initialisation type 1 and 2 from the current CABAC states and
[313]160 * stores the index of the closest table.  This index is used for the next P/B slice when cabac_init_present_flag is true.
161 */
[1291]162SliceType TEncSbac::determineCabacInitIdx(const TComSlice *pSlice)
[313]163{
[1291]164  Int  qp              = pSlice->getSliceQp();
[313]165
[1291]166  if (!pSlice->isIntra())
[313]167  {
168    SliceType aSliceTypeChoices[] = {B_SLICE, P_SLICE};
169
170    UInt bestCost             = MAX_UINT;
171    SliceType bestSliceType   = aSliceTypeChoices[0];
172    for (UInt idx=0; idx<2; idx++)
173    {
174      UInt curCost          = 0;
175      SliceType curSliceType  = aSliceTypeChoices[idx];
176
[1029]177      curCost  = m_cCUSplitFlagSCModel.calcCost                ( curSliceType, qp, (UChar*)INIT_SPLIT_FLAG );
178      curCost += m_cCUSkipFlagSCModel.calcCost                 ( curSliceType, qp, (UChar*)INIT_SKIP_FLAG );
179      curCost += m_cCUMergeFlagExtSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_MERGE_FLAG_EXT);
180      curCost += m_cCUMergeIdxExtSCModel.calcCost              ( curSliceType, qp, (UChar*)INIT_MERGE_IDX_EXT);
181      curCost += m_cCUPartSizeSCModel.calcCost                 ( curSliceType, qp, (UChar*)INIT_PART_SIZE );
182      curCost += m_cCUPredModeSCModel.calcCost                 ( curSliceType, qp, (UChar*)INIT_PRED_MODE );
183      curCost += m_cCUIntraPredSCModel.calcCost                ( curSliceType, qp, (UChar*)INIT_INTRA_PRED_MODE );
184      curCost += m_cCUChromaPredSCModel.calcCost               ( curSliceType, qp, (UChar*)INIT_CHROMA_PRED_MODE );
185      curCost += m_cCUInterDirSCModel.calcCost                 ( curSliceType, qp, (UChar*)INIT_INTER_DIR );
186      curCost += m_cCUMvdSCModel.calcCost                      ( curSliceType, qp, (UChar*)INIT_MVD );
187      curCost += m_cCURefPicSCModel.calcCost                   ( curSliceType, qp, (UChar*)INIT_REF_PIC );
188      curCost += m_cCUDeltaQpSCModel.calcCost                  ( curSliceType, qp, (UChar*)INIT_DQP );
189      curCost += m_cCUQtCbfSCModel.calcCost                    ( curSliceType, qp, (UChar*)INIT_QT_CBF );
190      curCost += m_cCUQtRootCbfSCModel.calcCost                ( curSliceType, qp, (UChar*)INIT_QT_ROOT_CBF );
191      curCost += m_cCUSigCoeffGroupSCModel.calcCost            ( curSliceType, qp, (UChar*)INIT_SIG_CG_FLAG );
192      curCost += m_cCUSigSCModel.calcCost                      ( curSliceType, qp, (UChar*)INIT_SIG_FLAG );
193      curCost += m_cCuCtxLastX.calcCost                        ( curSliceType, qp, (UChar*)INIT_LAST );
194      curCost += m_cCuCtxLastY.calcCost                        ( curSliceType, qp, (UChar*)INIT_LAST );
195      curCost += m_cCUOneSCModel.calcCost                      ( curSliceType, qp, (UChar*)INIT_ONE_FLAG );
196      curCost += m_cCUAbsSCModel.calcCost                      ( curSliceType, qp, (UChar*)INIT_ABS_FLAG );
197      curCost += m_cMVPIdxSCModel.calcCost                     ( curSliceType, qp, (UChar*)INIT_MVP_IDX );
198      curCost += m_cCUTransSubdivFlagSCModel.calcCost          ( curSliceType, qp, (UChar*)INIT_TRANS_SUBDIV_FLAG );
199      curCost += m_cSaoMergeSCModel.calcCost                   ( curSliceType, qp, (UChar*)INIT_SAO_MERGE_FLAG );
200      curCost += m_cSaoTypeIdxSCModel.calcCost                 ( curSliceType, qp, (UChar*)INIT_SAO_TYPE_IDX );
201      curCost += m_cTransformSkipSCModel.calcCost              ( curSliceType, qp, (UChar*)INIT_TRANSFORMSKIP_FLAG );
202      curCost += m_CUTransquantBypassFlagSCModel.calcCost      ( curSliceType, qp, (UChar*)INIT_CU_TRANSQUANT_BYPASS_FLAG );
203      curCost += m_explicitRdpcmFlagSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_EXPLICIT_RDPCM_FLAG);
204      curCost += m_explicitRdpcmDirSCModel.calcCost            ( curSliceType, qp, (UChar*)INIT_EXPLICIT_RDPCM_DIR);
205      curCost += m_cCrossComponentPredictionSCModel.calcCost   ( curSliceType, qp, (UChar*)INIT_CROSS_COMPONENT_PREDICTION );
206      curCost += m_ChromaQpAdjFlagSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_CHROMA_QP_ADJ_FLAG );
207      curCost += m_ChromaQpAdjIdcSCModel.calcCost              ( curSliceType, qp, (UChar*)INIT_CHROMA_QP_ADJ_IDC );
208
[313]209      if (curCost < bestCost)
210      {
211        bestSliceType = curSliceType;
212        bestCost      = curCost;
213      }
214    }
[1235]215    return bestSliceType;
[313]216  }
217  else
218  {
[1235]219    return I_SLICE;
[1029]220  }
[313]221}
222
[1307]223Void TEncSbac::codeVPS( const TComVPS* /*pcVPS*/ )
[313]224{
225  assert (0);
226  return;
227}
228
[1307]229Void TEncSbac::codeSPS( const TComSPS* /*pcSPS*/ )
[313]230{
231  assert (0);
232  return;
233}
234
[1212]235#if CGS_3D_ASYMLUT
[1307]236Void TEncSbac::codePPS( const TComPPS* /*pcPPS*/, TEnc3DAsymLUT * pc3DAsymLUT )
[1235]237#else
[1307]238Void TEncSbac::codePPS( const TComPPS* /*pcPPS*/ )
[713]239#endif
[313]240{
241  assert (0);
242  return;
243}
244
[1307]245Void TEncSbac::codeSliceHeader( TComSlice* /*pcSlice*/ )
[313]246{
247  assert (0);
248  return;
249}
250
[1307]251Void TEncSbac::codeTilesWPPEntryPoint( TComSlice* /*pSlice*/ )
[313]252{
253  assert (0);
254  return;
255}
256
257Void TEncSbac::codeTerminatingBit( UInt uilsLast )
258{
259  m_pcBinIf->encodeBinTrm( uilsLast );
260}
261
262Void TEncSbac::codeSliceFinish()
263{
264  m_pcBinIf->finish();
265}
266
267Void TEncSbac::xWriteUnarySymbol( UInt uiSymbol, ContextModel* pcSCModel, Int iOffset )
268{
269  m_pcBinIf->encodeBin( uiSymbol ? 1 : 0, pcSCModel[0] );
[1029]270
[313]271  if( 0 == uiSymbol)
272  {
273    return;
274  }
[1029]275
[313]276  while( uiSymbol-- )
277  {
278    m_pcBinIf->encodeBin( uiSymbol ? 1 : 0, pcSCModel[ iOffset ] );
279  }
[1029]280
[313]281  return;
282}
283
284Void TEncSbac::xWriteUnaryMaxSymbol( UInt uiSymbol, ContextModel* pcSCModel, Int iOffset, UInt uiMaxSymbol )
285{
286  if (uiMaxSymbol == 0)
287  {
288    return;
289  }
[1029]290
[313]291  m_pcBinIf->encodeBin( uiSymbol ? 1 : 0, pcSCModel[ 0 ] );
[1029]292
[313]293  if ( uiSymbol == 0 )
294  {
295    return;
296  }
[1029]297
[313]298  Bool bCodeLast = ( uiMaxSymbol > uiSymbol );
[1029]299
[313]300  while( --uiSymbol )
301  {
302    m_pcBinIf->encodeBin( 1, pcSCModel[ iOffset ] );
303  }
304  if( bCodeLast )
305  {
306    m_pcBinIf->encodeBin( 0, pcSCModel[ iOffset ] );
307  }
[1029]308
[313]309  return;
310}
311
312Void TEncSbac::xWriteEpExGolomb( UInt uiSymbol, UInt uiCount )
313{
314  UInt bins = 0;
315  Int numBins = 0;
[1029]316
[313]317  while( uiSymbol >= (UInt)(1<<uiCount) )
318  {
319    bins = 2 * bins + 1;
320    numBins++;
321    uiSymbol -= 1 << uiCount;
322    uiCount  ++;
323  }
324  bins = 2 * bins + 0;
325  numBins++;
[1029]326
[313]327  bins = (bins << uiCount) | uiSymbol;
328  numBins += uiCount;
[1029]329
[313]330  assert( numBins <= 32 );
331  m_pcBinIf->encodeBinsEP( bins, numBins );
332}
333
[1029]334
[313]335/** Coding of coeff_abs_level_minus3
[1260]336 * \param symbol                  value of coeff_abs_level_minus3
337 * \param rParam                  reference to Rice parameter
338 * \param useLimitedPrefixLength
[1305]339 * \param maxLog2TrDynamicRange
[313]340 */
[1305]341Void TEncSbac::xWriteCoefRemainExGolomb ( UInt symbol, UInt &rParam, const Bool useLimitedPrefixLength, const Int maxLog2TrDynamicRange )
[313]342{
343  Int codeNumber  = (Int)symbol;
344  UInt length;
[1029]345
[313]346  if (codeNumber < (COEF_REMAIN_BIN_REDUCTION << rParam))
347  {
348    length = codeNumber>>rParam;
349    m_pcBinIf->encodeBinsEP( (1<<(length+1))-2 , length+1);
350    m_pcBinIf->encodeBinsEP((codeNumber%(1<<rParam)),rParam);
351  }
[1029]352  else if (useLimitedPrefixLength)
353  {
[1285]354    const UInt maximumPrefixLength = (32 - (COEF_REMAIN_BIN_REDUCTION + maxLog2TrDynamicRange));
[1029]355
356    UInt prefixLength = 0;
357    UInt suffixLength = MAX_UINT;
358    UInt codeValue    = (symbol >> rParam) - COEF_REMAIN_BIN_REDUCTION;
359
360    if (codeValue >= ((1 << maximumPrefixLength) - 1))
361    {
362      prefixLength = maximumPrefixLength;
[1285]363      suffixLength = maxLog2TrDynamicRange - rParam;
[1029]364    }
365    else
366    {
367      while (codeValue > ((2 << prefixLength) - 2))
368      {
369        prefixLength++;
370      }
371
372      suffixLength = prefixLength + 1; //+1 for the separator bit
373    }
374
375    const UInt suffix = codeValue - ((1 << prefixLength) - 1);
376
377    const UInt totalPrefixLength = prefixLength + COEF_REMAIN_BIN_REDUCTION;
378    const UInt prefix            = (1 << totalPrefixLength) - 1;
379    const UInt rParamBitMask     = (1 << rParam) - 1;
380
381    m_pcBinIf->encodeBinsEP(  prefix,                                        totalPrefixLength      ); //prefix
382    m_pcBinIf->encodeBinsEP(((suffix << rParam) | (symbol & rParamBitMask)), (suffixLength + rParam)); //separator, suffix, and rParam bits
383  }
[313]384  else
385  {
386    length = rParam;
387    codeNumber  = codeNumber - ( COEF_REMAIN_BIN_REDUCTION << rParam);
[1029]388
[313]389    while (codeNumber >= (1<<length))
390    {
[1029]391      codeNumber -=  (1<<(length++));
[313]392    }
[1029]393
[313]394    m_pcBinIf->encodeBinsEP((1<<(COEF_REMAIN_BIN_REDUCTION+length+1-rParam))-2,COEF_REMAIN_BIN_REDUCTION+length+1-rParam);
395    m_pcBinIf->encodeBinsEP(codeNumber,length);
396  }
397}
398
399// SBAC RD
[1029]400Void  TEncSbac::load ( const TEncSbac* pSrc)
[313]401{
402  this->xCopyFrom(pSrc);
403}
404
[1029]405Void  TEncSbac::loadIntraDirMode( const TEncSbac* pSrc, const ChannelType chType )
[313]406{
407  m_pcBinIf->copyState( pSrc->m_pcBinIf );
[1029]408  if (isLuma(chType))
[1246]409  {
[1029]410    this->m_cCUIntraPredSCModel      .copyFrom( &pSrc->m_cCUIntraPredSCModel       );
[1246]411  }
[1029]412  else
[1246]413  {
[1029]414    this->m_cCUChromaPredSCModel     .copyFrom( &pSrc->m_cCUChromaPredSCModel      );
[1246]415  }
[313]416}
417
418
[1029]419Void  TEncSbac::store( TEncSbac* pDest) const
[313]420{
421  pDest->xCopyFrom( this );
422}
423
424
[1029]425Void TEncSbac::xCopyFrom( const TEncSbac* pSrc )
[313]426{
427  m_pcBinIf->copyState( pSrc->m_pcBinIf );
[1029]428  xCopyContextsFrom(pSrc);
[313]429}
430
431Void TEncSbac::codeMVPIdx ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
432{
433  Int iSymbol = pcCU->getMVPIdx(eRefList, uiAbsPartIdx);
434  Int iNum = AMVP_MAX_NUM_CANDS;
435
436  xWriteUnaryMaxSymbol(iSymbol, m_cMVPIdxSCModel.get(0), 1, iNum-1);
437}
438
439Void TEncSbac::codePartSize( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
440{
441  PartSize eSize         = pcCU->getPartitionSize( uiAbsPartIdx );
[1290]442  const UInt log2DiffMaxMinCodingBlockSize = pcCU->getSlice()->getSPS()->getLog2DiffMaxMinCodingBlockSize();
[1029]443
[313]444  if ( pcCU->isIntra( uiAbsPartIdx ) )
445  {
[1290]446    if( uiDepth == log2DiffMaxMinCodingBlockSize )
[313]447    {
448      m_pcBinIf->encodeBin( eSize == SIZE_2Nx2N? 1 : 0, m_cCUPartSizeSCModel.get( 0, 0, 0 ) );
449    }
450    return;
451  }
[1029]452
[313]453  switch(eSize)
454  {
455    case SIZE_2Nx2N:
456    {
457      m_pcBinIf->encodeBin( 1, m_cCUPartSizeSCModel.get( 0, 0, 0) );
458      break;
459    }
460    case SIZE_2NxN:
461    case SIZE_2NxnU:
462    case SIZE_2NxnD:
463    {
464      m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 0) );
465      m_pcBinIf->encodeBin( 1, m_cCUPartSizeSCModel.get( 0, 0, 1) );
[1290]466      if ( pcCU->getSlice()->getSPS()->getUseAMP() && uiDepth < log2DiffMaxMinCodingBlockSize )
[313]467      {
468        if (eSize == SIZE_2NxN)
469        {
[595]470          m_pcBinIf->encodeBin(1, m_cCUPartSizeSCModel.get( 0, 0, 3 ));
[313]471        }
472        else
473        {
[595]474          m_pcBinIf->encodeBin(0, m_cCUPartSizeSCModel.get( 0, 0, 3 ));
[313]475          m_pcBinIf->encodeBinEP((eSize == SIZE_2NxnU? 0: 1));
476        }
477      }
478      break;
479    }
480    case SIZE_Nx2N:
481    case SIZE_nLx2N:
482    case SIZE_nRx2N:
483    {
484      m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 0) );
485      m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 1) );
[1029]486
[1290]487      if( uiDepth == log2DiffMaxMinCodingBlockSize && !( pcCU->getWidth(uiAbsPartIdx) == 8 && pcCU->getHeight(uiAbsPartIdx) == 8 ) )
[313]488      {
489        m_pcBinIf->encodeBin( 1, m_cCUPartSizeSCModel.get( 0, 0, 2) );
490      }
[1029]491
[1290]492      if ( pcCU->getSlice()->getSPS()->getUseAMP() && uiDepth < log2DiffMaxMinCodingBlockSize )
[313]493      {
494        if (eSize == SIZE_Nx2N)
495        {
[595]496          m_pcBinIf->encodeBin(1, m_cCUPartSizeSCModel.get( 0, 0, 3 ));
[313]497        }
498        else
499        {
[595]500          m_pcBinIf->encodeBin(0, m_cCUPartSizeSCModel.get( 0, 0, 3 ));
[313]501          m_pcBinIf->encodeBinEP((eSize == SIZE_nLx2N? 0: 1));
502        }
503      }
504      break;
505    }
506    case SIZE_NxN:
507    {
[1290]508      if( uiDepth == log2DiffMaxMinCodingBlockSize && !( pcCU->getWidth(uiAbsPartIdx) == 8 && pcCU->getHeight(uiAbsPartIdx) == 8 ) )
[313]509      {
510        m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 0) );
511        m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 1) );
512        m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 2) );
513      }
514      break;
515    }
516    default:
517    {
518      assert(0);
[1029]519      break;
[313]520    }
521  }
522}
523
[1029]524
[313]525/** code prediction mode
526 * \param pcCU
[1029]527 * \param uiAbsPartIdx
[313]528 * \returns Void
529 */
530Void TEncSbac::codePredMode( TComDataCU* pcCU, UInt uiAbsPartIdx )
531{
532  // get context function is here
[1029]533  m_pcBinIf->encodeBin( pcCU->isIntra( uiAbsPartIdx ) ? 1 : 0, m_cCUPredModeSCModel.get( 0, 0, 0 ) );
[313]534}
535
536Void TEncSbac::codeCUTransquantBypassFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
537{
538  UInt uiSymbol = pcCU->getCUTransquantBypass(uiAbsPartIdx);
539  m_pcBinIf->encodeBin( uiSymbol, m_CUTransquantBypassFlagSCModel.get( 0, 0, 0 ) );
540}
541
542/** code skip flag
543 * \param pcCU
[1029]544 * \param uiAbsPartIdx
[313]545 * \returns Void
546 */
547Void TEncSbac::codeSkipFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
548{
549  // get context function is here
550  UInt uiSymbol = pcCU->isSkipped( uiAbsPartIdx ) ? 1 : 0;
551  UInt uiCtxSkip = pcCU->getCtxSkipFlag( uiAbsPartIdx ) ;
552  m_pcBinIf->encodeBin( uiSymbol, m_cCUSkipFlagSCModel.get( 0, 0, uiCtxSkip ) );
553  DTRACE_CABAC_VL( g_nSymbolCounter++ );
554  DTRACE_CABAC_T( "\tSkipFlag" );
555  DTRACE_CABAC_T( "\tuiCtxSkip: ");
556  DTRACE_CABAC_V( uiCtxSkip );
557  DTRACE_CABAC_T( "\tuiSymbol: ");
558  DTRACE_CABAC_V( uiSymbol );
559  DTRACE_CABAC_T( "\n");
560}
561
562/** code merge flag
563 * \param pcCU
[1029]564 * \param uiAbsPartIdx
[313]565 * \returns Void
566 */
567Void TEncSbac::codeMergeFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
568{
569  const UInt uiSymbol = pcCU->getMergeFlag( uiAbsPartIdx ) ? 1 : 0;
570  m_pcBinIf->encodeBin( uiSymbol, *m_cCUMergeFlagExtSCModel.get( 0 ) );
571
572  DTRACE_CABAC_VL( g_nSymbolCounter++ );
573  DTRACE_CABAC_T( "\tMergeFlag: " );
574  DTRACE_CABAC_V( uiSymbol );
575  DTRACE_CABAC_T( "\tAddress: " );
[1029]576  DTRACE_CABAC_V( pcCU->getCtuRsAddr() );
[313]577  DTRACE_CABAC_T( "\tuiAbsPartIdx: " );
578  DTRACE_CABAC_V( uiAbsPartIdx );
579  DTRACE_CABAC_T( "\n" );
580}
581
582/** code merge index
583 * \param pcCU
[1029]584 * \param uiAbsPartIdx
[313]585 * \returns Void
586 */
587Void TEncSbac::codeMergeIndex( TComDataCU* pcCU, UInt uiAbsPartIdx )
588{
589  UInt uiUnaryIdx = pcCU->getMergeIndex( uiAbsPartIdx );
590  UInt uiNumCand = pcCU->getSlice()->getMaxNumMergeCand();
591  if ( uiNumCand > 1 )
592  {
593    for( UInt ui = 0; ui < uiNumCand - 1; ++ui )
594    {
595      const UInt uiSymbol = ui == uiUnaryIdx ? 0 : 1;
596      if ( ui==0 )
597      {
598        m_pcBinIf->encodeBin( uiSymbol, m_cCUMergeIdxExtSCModel.get( 0, 0, 0 ) );
599      }
600      else
601      {
602        m_pcBinIf->encodeBinEP( uiSymbol );
603      }
604      if( uiSymbol == 0 )
605      {
606        break;
607      }
608    }
609  }
610  DTRACE_CABAC_VL( g_nSymbolCounter++ );
611  DTRACE_CABAC_T( "\tparseMergeIndex()" );
612  DTRACE_CABAC_T( "\tuiMRGIdx= " );
613  DTRACE_CABAC_V( pcCU->getMergeIndex( uiAbsPartIdx ) );
614  DTRACE_CABAC_T( "\n" );
615}
616
617Void TEncSbac::codeSplitFlag   ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
618{
[1290]619  if( uiDepth == pcCU->getSlice()->getSPS()->getLog2DiffMaxMinCodingBlockSize() )
[1246]620  {
[313]621    return;
[1246]622  }
[1029]623
[313]624  UInt uiCtx           = pcCU->getCtxSplitFlag( uiAbsPartIdx, uiDepth );
625  UInt uiCurrSplitFlag = ( pcCU->getDepth( uiAbsPartIdx ) > uiDepth ) ? 1 : 0;
[1029]626
[313]627  assert( uiCtx < 3 );
628  m_pcBinIf->encodeBin( uiCurrSplitFlag, m_cCUSplitFlagSCModel.get( 0, 0, uiCtx ) );
629  DTRACE_CABAC_VL( g_nSymbolCounter++ )
630  DTRACE_CABAC_T( "\tSplitFlag\n" )
631  return;
632}
633
634Void TEncSbac::codeTransformSubdivFlag( UInt uiSymbol, UInt uiCtx )
635{
636  m_pcBinIf->encodeBin( uiSymbol, m_cCUTransSubdivFlagSCModel.get( 0, 0, uiCtx ) );
637  DTRACE_CABAC_VL( g_nSymbolCounter++ )
638  DTRACE_CABAC_T( "\tparseTransformSubdivFlag()" )
639  DTRACE_CABAC_T( "\tsymbol=" )
640  DTRACE_CABAC_V( uiSymbol )
641  DTRACE_CABAC_T( "\tctx=" )
642  DTRACE_CABAC_V( uiCtx )
643  DTRACE_CABAC_T( "\n" )
644}
645
[1029]646
[313]647Void TEncSbac::codeIntraDirLumaAng( TComDataCU* pcCU, UInt absPartIdx, Bool isMultiple)
648{
649  UInt dir[4],j;
[1029]650  Int preds[4][NUM_MOST_PROBABLE_MODES] = {{-1, -1, -1},{-1, -1, -1},{-1, -1, -1},{-1, -1, -1}};
[1244]651  Int predIdx[4] ={ -1,-1,-1,-1};
[313]652  PartSize mode = pcCU->getPartitionSize( absPartIdx );
653  UInt partNum = isMultiple?(mode==SIZE_NxN?4:1):1;
[1029]654  UInt partOffset = ( pcCU->getPic()->getNumPartitionsInCtu() >> ( pcCU->getDepth(absPartIdx) << 1 ) ) >> 2;
[313]655  for (j=0;j<partNum;j++)
656  {
[1029]657    dir[j] = pcCU->getIntraDir( CHANNEL_TYPE_LUMA, absPartIdx+partOffset*j );
[1244]658    pcCU->getIntraDirPredictor(absPartIdx+partOffset*j, preds[j], COMPONENT_Y);
659    for(UInt i = 0; i < NUM_MOST_PROBABLE_MODES; i++)
[313]660    {
661      if(dir[j] == preds[j][i])
662      {
663        predIdx[j] = i;
664      }
665    }
666    m_pcBinIf->encodeBin((predIdx[j] != -1)? 1 : 0, m_cCUIntraPredSCModel.get( 0, 0, 0 ) );
[1029]667  }
[313]668  for (j=0;j<partNum;j++)
669  {
670    if(predIdx[j] != -1)
671    {
672      m_pcBinIf->encodeBinEP( predIdx[j] ? 1 : 0 );
673      if (predIdx[j])
674      {
675        m_pcBinIf->encodeBinEP( predIdx[j]-1 );
676      }
677    }
678    else
679    {
680      if (preds[j][0] > preds[j][1])
[1029]681      {
682        std::swap(preds[j][0], preds[j][1]);
[313]683      }
684      if (preds[j][0] > preds[j][2])
685      {
686        std::swap(preds[j][0], preds[j][2]);
687      }
688      if (preds[j][1] > preds[j][2])
689      {
690        std::swap(preds[j][1], preds[j][2]);
691      }
[1244]692      for(Int i = (Int(NUM_MOST_PROBABLE_MODES) - 1); i >= 0; i--)
[313]693      {
694        dir[j] = dir[j] > preds[j][i] ? dir[j] - 1 : dir[j];
695      }
696      m_pcBinIf->encodeBinsEP( dir[j], 5 );
697    }
698  }
699  return;
700}
701
702Void TEncSbac::codeIntraDirChroma( TComDataCU* pcCU, UInt uiAbsPartIdx )
703{
[1029]704  UInt uiIntraDirChroma = pcCU->getIntraDir( CHANNEL_TYPE_CHROMA, uiAbsPartIdx );
[313]705
[1029]706  if( uiIntraDirChroma == DM_CHROMA_IDX )
[313]707  {
708    m_pcBinIf->encodeBin( 0, m_cCUChromaPredSCModel.get( 0, 0, 0 ) );
709  }
710  else
[1029]711  {
712    m_pcBinIf->encodeBin( 1, m_cCUChromaPredSCModel.get( 0, 0, 0 ) );
713
[313]714    UInt uiAllowedChromaDir[ NUM_CHROMA_MODE ];
715    pcCU->getAllowedChromaDir( uiAbsPartIdx, uiAllowedChromaDir );
716
717    for( Int i = 0; i < NUM_CHROMA_MODE - 1; i++ )
718    {
719      if( uiIntraDirChroma == uiAllowedChromaDir[i] )
720      {
721        uiIntraDirChroma = i;
722        break;
723      }
724    }
725
726    m_pcBinIf->encodeBinsEP( uiIntraDirChroma, 2 );
727  }
[1029]728
[313]729  return;
730}
731
[1029]732
[313]733Void TEncSbac::codeInterDir( TComDataCU* pcCU, UInt uiAbsPartIdx )
734{
735  const UInt uiInterDir = pcCU->getInterDir( uiAbsPartIdx ) - 1;
736  const UInt uiCtx      = pcCU->getCtxInterDir( uiAbsPartIdx );
737  ContextModel *pCtx    = m_cCUInterDirSCModel.get( 0 );
[1029]738
[313]739  if (pcCU->getPartitionSize(uiAbsPartIdx) == SIZE_2Nx2N || pcCU->getHeight(uiAbsPartIdx) != 8 )
740  {
741    m_pcBinIf->encodeBin( uiInterDir == 2 ? 1 : 0, *( pCtx + uiCtx ) );
742  }
[1029]743
[313]744  if (uiInterDir < 2)
745  {
746    m_pcBinIf->encodeBin( uiInterDir, *( pCtx + 4 ) );
747  }
[1029]748
[313]749  return;
750}
751
752Void TEncSbac::codeRefFrmIdx( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
753{
[1029]754  Int iRefFrame = pcCU->getCUMvField( eRefList )->getRefIdx( uiAbsPartIdx );
755  ContextModel *pCtx = m_cCURefPicSCModel.get( 0 );
756  m_pcBinIf->encodeBin( ( iRefFrame == 0 ? 0 : 1 ), *pCtx );
757
758  if( iRefFrame > 0 )
[313]759  {
[1029]760    UInt uiRefNum = pcCU->getSlice()->getNumRefIdx( eRefList ) - 2;
761    pCtx++;
762    iRefFrame--;
763    for( UInt ui = 0; ui < uiRefNum; ++ui )
[313]764    {
[1029]765      const UInt uiSymbol = ui == iRefFrame ? 0 : 1;
766      if( ui == 0 )
[313]767      {
[1029]768        m_pcBinIf->encodeBin( uiSymbol, *pCtx );
[313]769      }
[1029]770      else
771      {
772        m_pcBinIf->encodeBinEP( uiSymbol );
773      }
774      if( uiSymbol == 0 )
775      {
776        break;
777      }
[313]778    }
779  }
780  return;
781}
782
783Void TEncSbac::codeMvd( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
784{
785  if(pcCU->getSlice()->getMvdL1ZeroFlag() && eRefList == REF_PIC_LIST_1 && pcCU->getInterDir(uiAbsPartIdx)==3)
786  {
787    return;
788  }
789
790  const TComCUMvField* pcCUMvField = pcCU->getCUMvField( eRefList );
791  const Int iHor = pcCUMvField->getMvd( uiAbsPartIdx ).getHor();
792  const Int iVer = pcCUMvField->getMvd( uiAbsPartIdx ).getVer();
793  ContextModel* pCtx = m_cCUMvdSCModel.get( 0 );
794
795  m_pcBinIf->encodeBin( iHor != 0 ? 1 : 0, *pCtx );
796  m_pcBinIf->encodeBin( iVer != 0 ? 1 : 0, *pCtx );
797
798  const Bool bHorAbsGr0 = iHor != 0;
799  const Bool bVerAbsGr0 = iVer != 0;
800  const UInt uiHorAbs   = 0 > iHor ? -iHor : iHor;
801  const UInt uiVerAbs   = 0 > iVer ? -iVer : iVer;
802  pCtx++;
803
804  if( bHorAbsGr0 )
805  {
806    m_pcBinIf->encodeBin( uiHorAbs > 1 ? 1 : 0, *pCtx );
807  }
808
809  if( bVerAbsGr0 )
810  {
811    m_pcBinIf->encodeBin( uiVerAbs > 1 ? 1 : 0, *pCtx );
812  }
813
814  if( bHorAbsGr0 )
815  {
816    if( uiHorAbs > 1 )
817    {
818      xWriteEpExGolomb( uiHorAbs-2, 1 );
819    }
820
821    m_pcBinIf->encodeBinEP( 0 > iHor ? 1 : 0 );
822  }
823
824  if( bVerAbsGr0 )
825  {
826    if( uiVerAbs > 1 )
827    {
828      xWriteEpExGolomb( uiVerAbs-2, 1 );
829    }
830
831    m_pcBinIf->encodeBinEP( 0 > iVer ? 1 : 0 );
832  }
[1029]833
[313]834  return;
835}
836
[1029]837Void TEncSbac::codeCrossComponentPrediction( TComTU &rTu, ComponentID compID )
838{
839  TComDataCU *pcCU = rTu.getCU();
840
[1316]841  if( isLuma(compID) || !pcCU->getSlice()->getPPS()->getPpsRangeExtension().getCrossComponentPredictionEnabledFlag() )
[1246]842  {
843    return;
844  }
[1029]845
846  const UInt uiAbsPartIdx = rTu.GetAbsPartIdxTU();
847
848  if (!pcCU->isIntra(uiAbsPartIdx) || (pcCU->getIntraDir( CHANNEL_TYPE_CHROMA, uiAbsPartIdx ) == DM_CHROMA_IDX))
849  {
850    DTRACE_CABAC_VL( g_nSymbolCounter++ )
851    DTRACE_CABAC_T("\tparseCrossComponentPrediction()")
852    DTRACE_CABAC_T( "\tAddr=" )
853    DTRACE_CABAC_V( compID )
854    DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
855    DTRACE_CABAC_V( uiAbsPartIdx )
856
857    Int alpha = pcCU->getCrossComponentPredictionAlpha( uiAbsPartIdx, compID );
858    ContextModel *pCtx = m_cCrossComponentPredictionSCModel.get(0, 0) + ((compID == COMPONENT_Cr) ? (NUM_CROSS_COMPONENT_PREDICTION_CTX >> 1) : 0);
859    m_pcBinIf->encodeBin(((alpha != 0) ? 1 : 0), pCtx[0]);
860
861    if (alpha != 0)
862    {
863      static const Int log2AbsAlphaMinus1Table[8] = { 0, 1, 1, 2, 2, 2, 3, 3 };
864      assert(abs(alpha) <= 8);
865
866      if (abs(alpha)>1)
867      {
868        m_pcBinIf->encodeBin(1, pCtx[1]);
869        xWriteUnaryMaxSymbol( log2AbsAlphaMinus1Table[abs(alpha) - 1] - 1, (pCtx + 2), 1, 2 );
870      }
871      else
872      {
873        m_pcBinIf->encodeBin(0, pCtx[1]);
874      }
875      m_pcBinIf->encodeBin( ((alpha < 0) ? 1 : 0), pCtx[4] );
876    }
877    DTRACE_CABAC_T( "\tAlpha=" )
878    DTRACE_CABAC_V( pcCU->getCrossComponentPredictionAlpha( uiAbsPartIdx, compID ) )
879    DTRACE_CABAC_T( "\n" )
880  }
881}
882
[313]883Void TEncSbac::codeDeltaQP( TComDataCU* pcCU, UInt uiAbsPartIdx )
884{
[1502]885  Int iDQp  = pcCU->getQP( uiAbsPartIdx ) - pcCU->getRefQP( uiAbsPartIdx ); 
[1029]886  Int qpBdOffsetY =  pcCU->getSlice()->getSPS()->getQpBDOffset(CHANNEL_TYPE_LUMA);
[313]887  iDQp = (iDQp + 78 + qpBdOffsetY + (qpBdOffsetY/2)) % (52 + qpBdOffsetY) - 26 - (qpBdOffsetY/2);
888
889  UInt uiAbsDQp = (UInt)((iDQp > 0)? iDQp  : (-iDQp));
890  UInt TUValue = min((Int)uiAbsDQp, CU_DQP_TU_CMAX);
891  xWriteUnaryMaxSymbol( TUValue, &m_cCUDeltaQpSCModel.get( 0, 0, 0 ), 1, CU_DQP_TU_CMAX);
892  if( uiAbsDQp >= CU_DQP_TU_CMAX )
893  {
894    xWriteEpExGolomb( uiAbsDQp - CU_DQP_TU_CMAX, CU_DQP_EG_k );
895  }
896
897  if ( uiAbsDQp > 0)
898  {
899    UInt uiSign = (iDQp > 0 ? 0 : 1);
900    m_pcBinIf->encodeBinEP(uiSign);
901  }
902
903  return;
904}
905
[1029]906/** code chroma qp adjustment, converting from the internal table representation
907 * \returns Void
908 */
909Void TEncSbac::codeChromaQpAdjustment( TComDataCU* cu, UInt absPartIdx )
[313]910{
[1029]911  Int internalIdc = cu->getChromaQpAdj( absPartIdx );
[1316]912  Int chromaQpOffsetListLen = cu->getSlice()->getPPS()->getPpsRangeExtension().getChromaQpOffsetListLen();
[1029]913  /* internal_idc == 0 => flag = 0
914   * internal_idc > 1 => code idc value (if table size warrents) */
915  m_pcBinIf->encodeBin( internalIdc > 0, m_ChromaQpAdjFlagSCModel.get( 0, 0, 0 ) );
916
[1316]917  if (internalIdc > 0 && chromaQpOffsetListLen > 1)
[1029]918  {
[1316]919    xWriteUnaryMaxSymbol( internalIdc - 1, &m_ChromaQpAdjIdcSCModel.get( 0, 0, 0 ), 0, chromaQpOffsetListLen - 1 );
[1029]920  }
[313]921}
922
[1029]923Void TEncSbac::codeQtCbf( TComTU &rTu, const ComponentID compID, const Bool lowestLevel )
[313]924{
[1029]925  TComDataCU* pcCU = rTu.getCU();
926
927  const UInt absPartIdx   = rTu.GetAbsPartIdxTU(compID);
928  const UInt TUDepth      = rTu.GetTransformDepthRel();
929        UInt uiCtx        = pcCU->getCtxQtCbf( rTu, toChannelType(compID) );
930  const UInt contextSet   = toChannelType(compID);
931
932  const UInt width        = rTu.getRect(compID).width;
933  const UInt height       = rTu.getRect(compID).height;
934  const Bool canQuadSplit = (width >= (MIN_TU_SIZE * 2)) && (height >= (MIN_TU_SIZE * 2));
935
936  //             Since the CBF for chroma is coded at the highest level possible, if sub-TUs are
937  //             to be coded for a 4x8 chroma TU, their CBFs must be coded at the highest 4x8 level
938  //             (i.e. where luma TUs are 8x8 rather than 4x4)
939  //    ___ ___
940  //   |   |   | <- 4 x (8x8 luma + 4x8 4:2:2 chroma)
941  //   |___|___|    each quadrant has its own chroma CBF
942  //   |   |   | _ _ _ _
943  //   |___|___|        |
944  //   <--16--->        V
945  //                   _ _
946  //                  |_|_| <- 4 x 4x4 luma + 1 x 4x8 4:2:2 chroma
947  //                  |_|_|    no chroma CBF is coded - instead the parent CBF is inherited
948  //                  <-8->    if sub-TUs are present, their CBFs had to be coded at the parent level
949
950  const UInt lowestTUDepth = TUDepth + ((!lowestLevel && !canQuadSplit) ? 1 : 0); //unsplittable TUs inherit their parent's CBF
951
952  if ((width != height) && (lowestLevel || !canQuadSplit)) //if sub-TUs are present
953  {
954    const UInt subTUDepth        = lowestTUDepth + 1;                      //if this is the lowest level of the TU-tree, the sub-TUs are directly below. Otherwise, this must be the level above the lowest level (as specified above)
955    const UInt partIdxesPerSubTU = rTu.GetAbsPartIdxNumParts(compID) >> 1;
956
957    for (UInt subTU = 0; subTU < 2; subTU++)
958    {
959      const UInt subTUAbsPartIdx = absPartIdx + (subTU * partIdxesPerSubTU);
960      const UInt uiCbf           = pcCU->getCbf(subTUAbsPartIdx, compID, subTUDepth);
961
962      m_pcBinIf->encodeBin(uiCbf, m_cCUQtCbfSCModel.get(0, contextSet, uiCtx));
963
964      DTRACE_CABAC_VL( g_nSymbolCounter++ )
965      DTRACE_CABAC_T( "\tparseQtCbf()" )
966      DTRACE_CABAC_T( "\tsub-TU=" )
967      DTRACE_CABAC_V( subTU )
968      DTRACE_CABAC_T( "\tsymbol=" )
969      DTRACE_CABAC_V( uiCbf )
970      DTRACE_CABAC_T( "\tctx=" )
971      DTRACE_CABAC_V( uiCtx )
972      DTRACE_CABAC_T( "\tetype=" )
973      DTRACE_CABAC_V( compID )
974      DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
975      DTRACE_CABAC_V( subTUAbsPartIdx )
976      DTRACE_CABAC_T( "\n" )
977    }
978  }
979  else
980  {
981    const UInt uiCbf = pcCU->getCbf( absPartIdx, compID, lowestTUDepth );
982    m_pcBinIf->encodeBin( uiCbf , m_cCUQtCbfSCModel.get( 0, contextSet, uiCtx ) );
983
984
985    DTRACE_CABAC_VL( g_nSymbolCounter++ )
986    DTRACE_CABAC_T( "\tparseQtCbf()" )
987    DTRACE_CABAC_T( "\tsymbol=" )
988    DTRACE_CABAC_V( uiCbf )
989    DTRACE_CABAC_T( "\tctx=" )
990    DTRACE_CABAC_V( uiCtx )
991    DTRACE_CABAC_T( "\tetype=" )
992    DTRACE_CABAC_V( compID )
993    DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
994    DTRACE_CABAC_V( rTu.GetAbsPartIdxTU(compID) )
995    DTRACE_CABAC_T( "\n" )
996  }
997}
998
999
1000Void TEncSbac::codeTransformSkipFlags (TComTU &rTu, ComponentID component )
1001{
1002  TComDataCU* pcCU=rTu.getCU();
1003  const UInt uiAbsPartIdx=rTu.GetAbsPartIdxTU();
1004
[313]1005  if (pcCU->getCUTransquantBypass(uiAbsPartIdx))
1006  {
1007    return;
1008  }
[1029]1009
[1316]1010  if (!TUCompRectHasAssociatedTransformSkipFlag(rTu.getRect(component), pcCU->getSlice()->getPPS()->getPpsRangeExtension().getLog2MaxTransformSkipBlockSize()))
[313]1011  {
1012    return;
1013  }
1014
[1029]1015  UInt useTransformSkip = pcCU->getTransformSkip( uiAbsPartIdx,component);
1016  m_pcBinIf->encodeBin( useTransformSkip, m_cTransformSkipSCModel.get( 0, toChannelType(component), 0 ) );
1017
[313]1018  DTRACE_CABAC_VL( g_nSymbolCounter++ )
1019  DTRACE_CABAC_T("\tparseTransformSkip()");
1020  DTRACE_CABAC_T( "\tsymbol=" )
1021  DTRACE_CABAC_V( useTransformSkip )
1022  DTRACE_CABAC_T( "\tAddr=" )
[1029]1023  DTRACE_CABAC_V( pcCU->getCtuRsAddr() )
[313]1024  DTRACE_CABAC_T( "\tetype=" )
[1029]1025  DTRACE_CABAC_V( component )
[313]1026  DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
[1029]1027  DTRACE_CABAC_V( rTu.GetAbsPartIdxTU() )
[313]1028  DTRACE_CABAC_T( "\n" )
1029}
1030
[1029]1031
[313]1032/** Code I_PCM information.
1033 * \param pcCU pointer to CU
1034 * \param uiAbsPartIdx CU index
1035 * \returns Void
1036 */
1037Void TEncSbac::codeIPCMInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
1038{
1039  UInt uiIPCM = (pcCU->getIPCMFlag(uiAbsPartIdx) == true)? 1 : 0;
1040
1041  Bool writePCMSampleFlag = pcCU->getIPCMFlag(uiAbsPartIdx);
1042
1043  m_pcBinIf->encodeBinTrm (uiIPCM);
1044
1045  if (writePCMSampleFlag)
1046  {
1047    m_pcBinIf->encodePCMAlignBits();
1048
[1029]1049    const UInt minCoeffSizeY = pcCU->getPic()->getMinCUWidth() * pcCU->getPic()->getMinCUHeight();
1050    const UInt offsetY       = minCoeffSizeY * uiAbsPartIdx;
1051    for (UInt ch=0; ch < pcCU->getPic()->getNumberValidComponents(); ch++)
[313]1052    {
[1029]1053      const ComponentID compID = ComponentID(ch);
1054      const UInt offset = offsetY >> (pcCU->getPic()->getComponentScaleX(compID) + pcCU->getPic()->getComponentScaleY(compID));
1055      Pel * pPCMSample  = pcCU->getPCMSample(compID) + offset;
1056      const UInt width  = pcCU->getWidth (uiAbsPartIdx) >> pcCU->getPic()->getComponentScaleX(compID);
1057      const UInt height = pcCU->getHeight(uiAbsPartIdx) >> pcCU->getPic()->getComponentScaleY(compID);
1058      const UInt sampleBits = pcCU->getSlice()->getSPS()->getPCMBitDepth(toChannelType(compID));
1059      for (UInt y=0; y<height; y++)
[313]1060      {
[1029]1061        for (UInt x=0; x<width; x++)
1062        {
1063          UInt sample = pPCMSample[x];
1064          m_pcBinIf->xWritePCMCode(sample, sampleBits);
1065        }
1066        pPCMSample += width;
[313]1067      }
1068    }
1069
1070    m_pcBinIf->resetBac();
1071  }
1072}
1073
1074Void TEncSbac::codeQtRootCbf( TComDataCU* pcCU, UInt uiAbsPartIdx )
1075{
1076  UInt uiCbf = pcCU->getQtRootCbf( uiAbsPartIdx );
1077  UInt uiCtx = 0;
1078  m_pcBinIf->encodeBin( uiCbf , m_cCUQtRootCbfSCModel.get( 0, 0, uiCtx ) );
1079  DTRACE_CABAC_VL( g_nSymbolCounter++ )
1080  DTRACE_CABAC_T( "\tparseQtRootCbf()" )
1081  DTRACE_CABAC_T( "\tsymbol=" )
1082  DTRACE_CABAC_V( uiCbf )
1083  DTRACE_CABAC_T( "\tctx=" )
1084  DTRACE_CABAC_V( uiCtx )
1085  DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
1086  DTRACE_CABAC_V( uiAbsPartIdx )
1087  DTRACE_CABAC_T( "\n" )
1088}
1089
[1029]1090Void TEncSbac::codeQtCbfZero( TComTU & rTu, const ChannelType chType )
[313]1091{
1092  // this function is only used to estimate the bits when cbf is 0
1093  // and will never be called when writing the bistream. do not need to write log
1094  UInt uiCbf = 0;
[1029]1095  UInt uiCtx = rTu.getCU()->getCtxQtCbf( rTu, chType );
1096
1097  m_pcBinIf->encodeBin( uiCbf , m_cCUQtCbfSCModel.get( 0, chType, uiCtx ) );
[313]1098}
1099
[1307]1100Void TEncSbac::codeQtRootCbfZero( )
[313]1101{
1102  // this function is only used to estimate the bits when cbf is 0
1103  // and will never be called when writing the bistream. do not need to write log
1104  UInt uiCbf = 0;
1105  UInt uiCtx = 0;
1106  m_pcBinIf->encodeBin( uiCbf , m_cCUQtRootCbfSCModel.get( 0, 0, uiCtx ) );
1107}
1108
1109/** Encode (X,Y) position of the last significant coefficient
[1260]1110 * \param uiPosX     X component of last coefficient
1111 * \param uiPosY     Y component of last coefficient
1112 * \param width      Block width
1113 * \param height     Block height
1114 * \param component  chroma component ID
1115 * \param uiScanIdx  scan type (zig-zag, hor, ver)
[313]1116 * This method encodes the X and Y component within a block of the last significant coefficient.
1117 */
[1029]1118Void TEncSbac::codeLastSignificantXY( UInt uiPosX, UInt uiPosY, Int width, Int height, ComponentID component, UInt uiScanIdx )
1119{
[313]1120  // swap
1121  if( uiScanIdx == SCAN_VER )
1122  {
1123    swap( uiPosX, uiPosY );
[1029]1124    swap( width,  height );
[313]1125  }
1126
1127  UInt uiCtxLast;
1128  UInt uiGroupIdxX    = g_uiGroupIdx[ uiPosX ];
1129  UInt uiGroupIdxY    = g_uiGroupIdx[ uiPosY ];
1130
[1029]1131  ContextModel *pCtxX = m_cCuCtxLastX.get( 0, toChannelType(component) );
1132  ContextModel *pCtxY = m_cCuCtxLastY.get( 0, toChannelType(component) );
[313]1133
1134  Int blkSizeOffsetX, blkSizeOffsetY, shiftX, shiftY;
[1029]1135  getLastSignificantContextParameters(component, width, height, blkSizeOffsetX, blkSizeOffsetY, shiftX, shiftY);
1136
1137  //------------------
1138
[313]1139  // posX
[1029]1140
[313]1141  for( uiCtxLast = 0; uiCtxLast < uiGroupIdxX; uiCtxLast++ )
1142  {
[1029]1143    m_pcBinIf->encodeBin( 1, *( pCtxX + blkSizeOffsetX + (uiCtxLast >>shiftX) ) );
[313]1144  }
1145  if( uiGroupIdxX < g_uiGroupIdx[ width - 1 ])
1146  {
[1029]1147    m_pcBinIf->encodeBin( 0, *( pCtxX + blkSizeOffsetX + (uiCtxLast >>shiftX) ) );
[313]1148  }
1149
1150  // posY
[1029]1151
[313]1152  for( uiCtxLast = 0; uiCtxLast < uiGroupIdxY; uiCtxLast++ )
1153  {
1154    m_pcBinIf->encodeBin( 1, *( pCtxY + blkSizeOffsetY + (uiCtxLast >>shiftY) ) );
1155  }
1156  if( uiGroupIdxY < g_uiGroupIdx[ height - 1 ])
1157  {
1158    m_pcBinIf->encodeBin( 0, *( pCtxY + blkSizeOffsetY + (uiCtxLast >>shiftY) ) );
1159  }
[1029]1160
1161  // EP-coded part
1162
[313]1163  if ( uiGroupIdxX > 3 )
[1029]1164  {
[313]1165    UInt uiCount = ( uiGroupIdxX - 2 ) >> 1;
1166    uiPosX       = uiPosX - g_uiMinInGroup[ uiGroupIdxX ];
1167    for (Int i = uiCount - 1 ; i >= 0; i-- )
1168    {
1169      m_pcBinIf->encodeBinEP( ( uiPosX >> i ) & 1 );
1170    }
1171  }
1172  if ( uiGroupIdxY > 3 )
[1029]1173  {
[313]1174    UInt uiCount = ( uiGroupIdxY - 2 ) >> 1;
1175    uiPosY       = uiPosY - g_uiMinInGroup[ uiGroupIdxY ];
1176    for ( Int i = uiCount - 1 ; i >= 0; i-- )
1177    {
1178      m_pcBinIf->encodeBinEP( ( uiPosY >> i ) & 1 );
1179    }
1180  }
1181}
1182
[1029]1183
1184Void TEncSbac::codeCoeffNxN( TComTU &rTu, TCoeff* pcCoef, const ComponentID compID )
[313]1185{
[1029]1186  TComDataCU* pcCU=rTu.getCU();
1187  const UInt uiAbsPartIdx=rTu.GetAbsPartIdxTU(compID);
1188  const TComRectangle &tuRect=rTu.getRect(compID);
1189  const UInt uiWidth=tuRect.width;
1190  const UInt uiHeight=tuRect.height;
[1290]1191  const TComSPS &sps=*(pcCU->getSlice()->getSPS());
[1029]1192
[313]1193  DTRACE_CABAC_VL( g_nSymbolCounter++ )
1194  DTRACE_CABAC_T( "\tparseCoeffNxN()\teType=" )
[1029]1195  DTRACE_CABAC_V( compID )
[313]1196  DTRACE_CABAC_T( "\twidth=" )
1197  DTRACE_CABAC_V( uiWidth )
1198  DTRACE_CABAC_T( "\theight=" )
1199  DTRACE_CABAC_V( uiHeight )
1200  DTRACE_CABAC_T( "\tdepth=" )
[1029]1201//  DTRACE_CABAC_V( rTu.GetTransformDepthTotalAdj(compID) )
1202  DTRACE_CABAC_V( rTu.GetTransformDepthTotal() )
[313]1203  DTRACE_CABAC_T( "\tabspartidx=" )
1204  DTRACE_CABAC_V( uiAbsPartIdx )
1205  DTRACE_CABAC_T( "\ttoCU-X=" )
1206  DTRACE_CABAC_V( pcCU->getCUPelX() )
1207  DTRACE_CABAC_T( "\ttoCU-Y=" )
1208  DTRACE_CABAC_V( pcCU->getCUPelY() )
1209  DTRACE_CABAC_T( "\tCU-addr=" )
[1029]1210  DTRACE_CABAC_V(  pcCU->getCtuRsAddr() )
[313]1211  DTRACE_CABAC_T( "\tinCU-X=" )
[1029]1212//  DTRACE_CABAC_V( g_auiRasterToPelX[ g_auiZscanToRaster[uiAbsPartIdx] ] )
1213  DTRACE_CABAC_V( g_auiRasterToPelX[ g_auiZscanToRaster[rTu.GetAbsPartIdxTU(compID)] ] )
[313]1214  DTRACE_CABAC_T( "\tinCU-Y=" )
[1029]1215// DTRACE_CABAC_V( g_auiRasterToPelY[ g_auiZscanToRaster[uiAbsPartIdx] ] )
1216  DTRACE_CABAC_V( g_auiRasterToPelY[ g_auiZscanToRaster[rTu.GetAbsPartIdxTU(compID)] ] )
[313]1217  DTRACE_CABAC_T( "\tpredmode=" )
1218  DTRACE_CABAC_V(  pcCU->getPredictionMode( uiAbsPartIdx ) )
1219  DTRACE_CABAC_T( "\n" )
1220
[1029]1221  //--------------------------------------------------------------------------------------------------
1222
[1290]1223  if( uiWidth > sps.getMaxTrSize() )
[313]1224  {
[1029]1225    std::cerr << "ERROR: codeCoeffNxN was passed a TU with dimensions larger than the maximum allowed size" << std::endl;
1226    assert(false);
1227    exit(1);
[313]1228  }
[1029]1229
[313]1230  // compute number of significant coefficients
[1029]1231  UInt uiNumSig = TEncEntropy::countNonZeroCoeffs(pcCoef, uiWidth * uiHeight);
1232
[313]1233  if ( uiNumSig == 0 )
1234  {
[1029]1235    std::cerr << "ERROR: codeCoeffNxN called for empty TU!" << std::endl;
1236    assert(false);
1237    exit(1);
[313]1238  }
[1029]1239
1240  //--------------------------------------------------------------------------------------------------
1241
1242  //set parameters
1243
1244  const ChannelType  chType            = toChannelType(compID);
1245  const UInt         uiLog2BlockWidth  = g_aucConvertToBit[ uiWidth  ] + 2;
1246  const UInt         uiLog2BlockHeight = g_aucConvertToBit[ uiHeight ] + 2;
1247
1248  const ChannelType  channelType       = toChannelType(compID);
[1316]1249  const Bool         extendedPrecision = sps.getSpsRangeExtension().getExtendedPrecisionProcessingFlag();
[1029]1250
[1316]1251  const Bool         alignCABACBeforeBypass = sps.getSpsRangeExtension().getCabacBypassAlignmentEnabledFlag();
[1290]1252  const Int          maxLog2TrDynamicRange  = sps.getMaxLog2TrDynamicRange(channelType);
[1029]1253
[313]1254  Bool beValid;
[1029]1255
[313]1256  {
[1029]1257    Int uiIntraMode = -1;
1258    const Bool       bIsLuma = isLuma(compID);
1259    Int isIntra = pcCU->isIntra(uiAbsPartIdx) ? 1 : 0;
1260    if ( isIntra )
1261    {
1262      uiIntraMode = pcCU->getIntraDir( toChannelType(compID), uiAbsPartIdx );
[313]1263
[1290]1264      const UInt partsPerMinCU = 1<<(2*(sps.getMaxTotalCUDepth() - sps.getLog2DiffMaxMinCodingBlockSize()));
1265      uiIntraMode = (uiIntraMode==DM_CHROMA_IDX && !bIsLuma) ? pcCU->getIntraDir(CHANNEL_TYPE_LUMA, getChromasCorrespondingPULumaIdx(uiAbsPartIdx, rTu.GetChromaFormat(), partsPerMinCU)) : uiIntraMode;
[1029]1266      uiIntraMode = ((rTu.GetChromaFormat() == CHROMA_422) && !bIsLuma) ? g_chroma422IntraAngleMappingTable[uiIntraMode] : uiIntraMode;
1267    }
[313]1268
[1029]1269    Int transformSkip = pcCU->getTransformSkip( uiAbsPartIdx,compID) ? 1 : 0;
1270    Bool rdpcm_lossy = ( transformSkip && isIntra && ( (uiIntraMode == HOR_IDX) || (uiIntraMode == VER_IDX) ) ) && pcCU->isRDPCMEnabled(uiAbsPartIdx);
1271
1272    if ( (pcCU->getCUTransquantBypass(uiAbsPartIdx)) || rdpcm_lossy )
[313]1273    {
[1029]1274      beValid = false;
1275      if ( (!pcCU->isIntra(uiAbsPartIdx)) && pcCU->isRDPCMEnabled(uiAbsPartIdx))
[1246]1276      {
[1029]1277        codeExplicitRdpcmMode( rTu, compID);
[1246]1278      }
[313]1279    }
[1029]1280    else
[313]1281    {
[1230]1282      beValid = pcCU->getSlice()->getPPS()->getSignHideFlag();
[313]1283    }
1284  }
1285
[1029]1286  //--------------------------------------------------------------------------------------------------
[313]1287
[1029]1288  if(pcCU->getSlice()->getPPS()->getUseTransformSkip())
1289  {
1290    codeTransformSkipFlags(rTu, compID);
1291    if(pcCU->getTransformSkip(uiAbsPartIdx, compID) && !pcCU->isIntra(uiAbsPartIdx) && pcCU->isRDPCMEnabled(uiAbsPartIdx))
[313]1292    {
[1029]1293      //  This TU has coefficients and is transform skipped. Check whether is inter coded and if yes encode the explicit RDPCM mode
1294      codeExplicitRdpcmMode( rTu, compID);
[313]1295
[1029]1296      if(pcCU->getExplicitRdpcmMode(compID, uiAbsPartIdx) != RDPCM_OFF)
[313]1297      {
[1029]1298        //  Sign data hiding is avoided for horizontal and vertical explicit RDPCM modes
1299        beValid = false;
[313]1300      }
[1029]1301    }
1302  }
[313]1303
[1029]1304  //--------------------------------------------------------------------------------------------------
1305
[1316]1306  const Bool  bUseGolombRiceParameterAdaptation = sps.getSpsRangeExtension().getPersistentRiceAdaptationEnabledFlag();
[1029]1307        UInt &currentGolombRiceStatistic        = m_golombRiceAdaptationStatistics[rTu.getGolombRiceStatisticsIndex(compID)];
1308
1309  //select scans
1310  TUEntropyCodingParameters codingParameters;
1311  getTUEntropyCodingParameters(codingParameters, rTu, compID);
1312
1313  //----- encode significance map -----
1314
1315  // Find position of last coefficient
1316  Int scanPosLast = -1;
1317  Int posLast;
1318
1319
1320  UInt uiSigCoeffGroupFlag[ MLS_GRP_NUM ];
1321
1322  memset( uiSigCoeffGroupFlag, 0, sizeof(UInt) * MLS_GRP_NUM );
1323  do
1324  {
1325    posLast = codingParameters.scan[ ++scanPosLast ];
1326
1327    if( pcCoef[ posLast ] != 0 )
1328    {
1329      // get L1 sig map
1330      UInt uiPosY   = posLast >> uiLog2BlockWidth;
1331      UInt uiPosX   = posLast - ( uiPosY << uiLog2BlockWidth );
1332
1333      UInt uiBlkIdx = (codingParameters.widthInGroups * (uiPosY >> MLS_CG_LOG2_HEIGHT)) + (uiPosX >> MLS_CG_LOG2_WIDTH);
1334      uiSigCoeffGroupFlag[ uiBlkIdx ] = 1;
1335
1336      uiNumSig--;
[313]1337    }
[1246]1338  } while ( uiNumSig > 0 );
[313]1339
1340  // Code position of last coefficient
[1029]1341  Int posLastY = posLast >> uiLog2BlockWidth;
1342  Int posLastX = posLast - ( posLastY << uiLog2BlockWidth );
1343  codeLastSignificantXY(posLastX, posLastY, uiWidth, uiHeight, compID, codingParameters.scanType);
1344
[313]1345  //===== code significance flag =====
[1029]1346  ContextModel * const baseCoeffGroupCtx = m_cCUSigCoeffGroupSCModel.get( 0, chType );
1347  ContextModel * const baseCtx = m_cCUSigSCModel.get( 0, 0 ) + getSignificanceMapContextOffset(compID);
[313]1348
[1029]1349  const Int  iLastScanSet  = scanPosLast >> MLS_CG_SIZE;
[313]1350
[1029]1351  UInt c1                  = 1;
1352  UInt uiGoRiceParam       = 0;
1353  Int  iScanPosSig         = scanPosLast;
[313]1354
1355  for( Int iSubSet = iLastScanSet; iSubSet >= 0; iSubSet-- )
1356  {
1357    Int numNonZero = 0;
[1029]1358    Int  iSubPos   = iSubSet << MLS_CG_SIZE;
1359    uiGoRiceParam  = currentGolombRiceStatistic / RExt__GOLOMB_RICE_INCREMENT_DIVISOR;
1360    Bool updateGolombRiceStatistics = bUseGolombRiceParameterAdaptation; //leave the statistics at 0 when not using the adaptation system
[313]1361    UInt coeffSigns = 0;
1362
[1029]1363    Int absCoeff[1 << MLS_CG_SIZE];
[313]1364
[1029]1365    Int lastNZPosInCG  = -1;
1366    Int firstNZPosInCG = 1 << MLS_CG_SIZE;
1367
1368    Bool escapeDataPresentInGroup = false;
1369
[313]1370    if( iScanPosSig == scanPosLast )
1371    {
[1029]1372      absCoeff[ 0 ] = Int(abs( pcCoef[ posLast ] ));
[313]1373      coeffSigns    = ( pcCoef[ posLast ] < 0 );
1374      numNonZero    = 1;
1375      lastNZPosInCG  = iScanPosSig;
1376      firstNZPosInCG = iScanPosSig;
1377      iScanPosSig--;
1378    }
1379
[1029]1380    // encode significant_coeffgroup_flag
1381    Int iCGBlkPos = codingParameters.scanCG[ iSubSet ];
1382    Int iCGPosY   = iCGBlkPos / codingParameters.widthInGroups;
1383    Int iCGPosX   = iCGBlkPos - (iCGPosY * codingParameters.widthInGroups);
1384
1385    if( iSubSet == iLastScanSet || iSubSet == 0)
1386    {
1387      uiSigCoeffGroupFlag[ iCGBlkPos ] = 1;
1388    }
1389    else
1390    {
1391      UInt uiSigCoeffGroup   = (uiSigCoeffGroupFlag[ iCGBlkPos ] != 0);
1392      UInt uiCtxSig  = TComTrQuant::getSigCoeffGroupCtxInc( uiSigCoeffGroupFlag, iCGPosX, iCGPosY, codingParameters.widthInGroups, codingParameters.heightInGroups );
1393      m_pcBinIf->encodeBin( uiSigCoeffGroup, baseCoeffGroupCtx[ uiCtxSig ] );
1394    }
1395
1396    // encode significant_coeff_flag
1397    if( uiSigCoeffGroupFlag[ iCGBlkPos ] )
1398    {
1399      const Int patternSigCtx = TComTrQuant::calcPatternSigCtx(uiSigCoeffGroupFlag, iCGPosX, iCGPosY, codingParameters.widthInGroups, codingParameters.heightInGroups);
1400
1401      UInt uiBlkPos, uiSig, uiCtxSig;
1402      for( ; iScanPosSig >= iSubPos; iScanPosSig-- )
[313]1403      {
[1029]1404        uiBlkPos  = codingParameters.scan[ iScanPosSig ];
1405        uiSig     = (pcCoef[ uiBlkPos ] != 0);
1406        if( iScanPosSig > iSubPos || iSubSet == 0 || numNonZero )
[313]1407        {
[1029]1408          uiCtxSig  = TComTrQuant::getSigCtxInc( patternSigCtx, codingParameters, iScanPosSig, uiLog2BlockWidth, uiLog2BlockHeight, chType );
1409          m_pcBinIf->encodeBin( uiSig, baseCtx[ uiCtxSig ] );
1410        }
1411        if( uiSig )
1412        {
1413          absCoeff[ numNonZero ] = Int(abs( pcCoef[ uiBlkPos ] ));
1414          coeffSigns = 2 * coeffSigns + ( pcCoef[ uiBlkPos ] < 0 );
1415          numNonZero++;
1416          if( lastNZPosInCG == -1 )
[313]1417          {
[1029]1418            lastNZPosInCG = iScanPosSig;
[313]1419          }
[1029]1420          firstNZPosInCG = iScanPosSig;
[313]1421        }
1422      }
[1029]1423    }
1424    else
1425    {
1426      iScanPosSig = iSubPos - 1;
1427    }
[313]1428
1429    if( numNonZero > 0 )
1430    {
1431      Bool signHidden = ( lastNZPosInCG - firstNZPosInCG >= SBH_THRESHOLD );
[1029]1432
1433      const UInt uiCtxSet = getContextSetIndex(compID, iSubSet, (c1 == 0));
[313]1434      c1 = 1;
[1029]1435
1436      ContextModel *baseCtxMod = m_cCUOneSCModel.get( 0, 0 ) + (NUM_ONE_FLAG_CTX_PER_SET * uiCtxSet);
1437
[313]1438      Int numC1Flag = min(numNonZero, C1FLAG_NUMBER);
1439      Int firstC2FlagIdx = -1;
1440      for( Int idx = 0; idx < numC1Flag; idx++ )
1441      {
1442        UInt uiSymbol = absCoeff[ idx ] > 1;
1443        m_pcBinIf->encodeBin( uiSymbol, baseCtxMod[c1] );
1444        if( uiSymbol )
1445        {
1446          c1 = 0;
1447
1448          if (firstC2FlagIdx == -1)
1449          {
1450            firstC2FlagIdx = idx;
1451          }
[1029]1452          else //if a greater-than-one has been encountered already this group
1453          {
1454            escapeDataPresentInGroup = true;
1455          }
[313]1456        }
1457        else if( (c1 < 3) && (c1 > 0) )
1458        {
1459          c1++;
1460        }
1461      }
[1029]1462
[313]1463      if (c1 == 0)
1464      {
[1029]1465        baseCtxMod = m_cCUAbsSCModel.get( 0, 0 ) + (NUM_ABS_FLAG_CTX_PER_SET * uiCtxSet);
[313]1466        if ( firstC2FlagIdx != -1)
1467        {
1468          UInt symbol = absCoeff[ firstC2FlagIdx ] > 2;
1469          m_pcBinIf->encodeBin( symbol, baseCtxMod[0] );
[1029]1470          if (symbol != 0)
1471          {
1472            escapeDataPresentInGroup = true;
1473          }
[313]1474        }
1475      }
[1029]1476
1477      escapeDataPresentInGroup = escapeDataPresentInGroup || (numNonZero > C1FLAG_NUMBER);
1478
1479      if (escapeDataPresentInGroup && alignCABACBeforeBypass)
1480      {
1481        m_pcBinIf->align();
1482      }
1483
[313]1484      if( beValid && signHidden )
1485      {
1486        m_pcBinIf->encodeBinsEP( (coeffSigns >> 1), numNonZero-1 );
1487      }
1488      else
1489      {
1490        m_pcBinIf->encodeBinsEP( coeffSigns, numNonZero );
1491      }
[1029]1492
1493      Int iFirstCoeff2 = 1;
1494      if (escapeDataPresentInGroup)
[313]1495      {
1496        for ( Int idx = 0; idx < numNonZero; idx++ )
1497        {
1498          UInt baseLevel  = (idx < C1FLAG_NUMBER)? (2 + iFirstCoeff2 ) : 1;
1499
1500          if( absCoeff[ idx ] >= baseLevel)
1501          {
[1029]1502            const UInt escapeCodeValue = absCoeff[idx] - baseLevel;
1503
[1305]1504            xWriteCoefRemainExGolomb( escapeCodeValue, uiGoRiceParam, extendedPrecision, maxLog2TrDynamicRange );
[1029]1505
1506            if (absCoeff[idx] > (3 << uiGoRiceParam))
[313]1507            {
[1029]1508              uiGoRiceParam = bUseGolombRiceParameterAdaptation ? (uiGoRiceParam + 1) : (std::min<UInt>((uiGoRiceParam + 1), 4));
[313]1509            }
[1029]1510
1511            if (updateGolombRiceStatistics)
1512            {
1513              const UInt initialGolombRiceParameter = currentGolombRiceStatistic / RExt__GOLOMB_RICE_INCREMENT_DIVISOR;
1514
1515              if (escapeCodeValue >= (3 << initialGolombRiceParameter))
1516              {
1517                currentGolombRiceStatistic++;
1518              }
1519              else if (((escapeCodeValue * 2) < (1 << initialGolombRiceParameter)) && (currentGolombRiceStatistic > 0))
1520              {
1521                currentGolombRiceStatistic--;
1522              }
1523
1524              updateGolombRiceStatistics = false;
1525            }
[313]1526          }
[1029]1527
1528          if(absCoeff[ idx ] >= 2)
[313]1529          {
1530            iFirstCoeff2 = 0;
1531          }
[1029]1532        }
[313]1533      }
1534    }
1535  }
[1029]1536#if ENVIRONMENT_VARIABLE_DEBUG_AND_TEST
[1286]1537  printSBACCoeffData(posLastX, posLastY, uiWidth, uiHeight, compID, uiAbsPartIdx, codingParameters.scanType, pcCoef, pcCU->getSlice()->getFinalized());
[1029]1538#endif
[313]1539
1540  return;
1541}
1542
1543/** code SAO offset sign
1544 * \param code sign value
1545 */
1546Void TEncSbac::codeSAOSign( UInt code )
1547{
1548  m_pcBinIf->encodeBinEP( code );
1549}
1550
1551Void TEncSbac::codeSaoMaxUvlc    ( UInt code, UInt maxSymbol )
1552{
1553  if (maxSymbol == 0)
1554  {
1555    return;
1556  }
1557
1558  Int i;
1559  Bool bCodeLast = ( maxSymbol > code );
1560
1561  if ( code == 0 )
1562  {
1563    m_pcBinIf->encodeBinEP( 0 );
1564  }
1565  else
1566  {
1567    m_pcBinIf->encodeBinEP( 1 );
1568    for ( i=0; i<code-1; i++ )
1569    {
1570      m_pcBinIf->encodeBinEP( 1 );
1571    }
1572    if( bCodeLast )
1573    {
1574      m_pcBinIf->encodeBinEP( 0 );
1575    }
1576  }
1577}
1578
[1029]1579/** Code SAO EO class or BO band position
[313]1580 */
1581Void TEncSbac::codeSaoUflc       ( UInt uiLength, UInt uiCode )
1582{
[1029]1583  m_pcBinIf->encodeBinsEP ( uiCode, uiLength );
[313]1584}
[1029]1585
[313]1586/** Code SAO merge flags
1587 */
1588Void TEncSbac::codeSaoMerge       ( UInt uiCode )
1589{
[1029]1590  m_pcBinIf->encodeBin(((uiCode == 0) ? 0 : 1),  m_cSaoMergeSCModel.get( 0, 0, 0 ));
[313]1591}
[1029]1592
1593/** Code SAO type index
[313]1594 */
1595Void TEncSbac::codeSaoTypeIdx       ( UInt uiCode)
1596{
1597  if (uiCode == 0)
1598  {
1599    m_pcBinIf->encodeBin( 0, m_cSaoTypeIdxSCModel.get( 0, 0, 0 ) );
1600  }
1601  else
1602  {
1603    m_pcBinIf->encodeBin( 1, m_cSaoTypeIdxSCModel.get( 0, 0, 0 ) );
[540]1604    m_pcBinIf->encodeBinEP( uiCode == 1 ? 0 : 1 );
[313]1605  }
1606}
[1287]1607
1608Void TEncSbac::codeSAOOffsetParam(ComponentID compIdx, SAOOffset& ctbParam, Bool sliceEnabled, const Int channelBitDepth)
[1029]1609{
1610  UInt uiSymbol;
1611  if(!sliceEnabled)
1612  {
1613    assert(ctbParam.modeIdc == SAO_MODE_OFF);
1614    return;
1615  }
1616  const Bool bIsFirstCompOfChType = (getFirstComponentOfChannel(toChannelType(compIdx)) == compIdx);
1617
1618  //type
1619  if(bIsFirstCompOfChType)
1620  {
1621    //sao_type_idx_luma or sao_type_idx_chroma
1622    if(ctbParam.modeIdc == SAO_MODE_OFF)
1623    {
1624      uiSymbol =0;
1625    }
1626    else if(ctbParam.typeIdc == SAO_TYPE_BO) //BO
1627    {
1628      uiSymbol = 1;
1629    }
1630    else
1631    {
1632      assert(ctbParam.typeIdc < SAO_TYPE_START_BO); //EO
1633      uiSymbol = 2;
1634    }
1635    codeSaoTypeIdx(uiSymbol);
1636  }
1637
1638  if(ctbParam.modeIdc == SAO_MODE_NEW)
1639  {
1640    Int numClasses = (ctbParam.typeIdc == SAO_TYPE_BO)?4:NUM_SAO_EO_CLASSES;
1641    Int offset[4];
1642    Int k=0;
1643    for(Int i=0; i< numClasses; i++)
1644    {
1645      if(ctbParam.typeIdc != SAO_TYPE_BO && i == SAO_CLASS_EO_PLAIN)
1646      {
1647        continue;
1648      }
1649      Int classIdx = (ctbParam.typeIdc == SAO_TYPE_BO)?(  (ctbParam.typeAuxInfo+i)% NUM_SAO_BO_CLASSES   ):i;
1650      offset[k] = ctbParam.offset[classIdx];
1651      k++;
1652    }
1653
[1287]1654    const Int  maxOffsetQVal = TComSampleAdaptiveOffset::getMaxOffsetQVal(channelBitDepth);
[1029]1655    for(Int i=0; i< 4; i++)
1656    {
[1287]1657      codeSaoMaxUvlc((offset[i]<0)?(-offset[i]):(offset[i]),  maxOffsetQVal ); //sao_offset_abs
[1029]1658    }
1659
1660
1661    if(ctbParam.typeIdc == SAO_TYPE_BO)
1662    {
1663      for(Int i=0; i< 4; i++)
1664      {
1665        if(offset[i] != 0)
1666        {
1667          codeSAOSign((offset[i]< 0)?1:0);
1668        }
1669      }
1670
1671      codeSaoUflc(NUM_SAO_BO_CLASSES_LOG2, ctbParam.typeAuxInfo ); //sao_band_position
1672    }
1673    else //EO
1674    {
1675      if(bIsFirstCompOfChType)
1676      {
1677        assert(ctbParam.typeIdc - SAO_TYPE_START_EO >=0);
1678        codeSaoUflc(NUM_SAO_EO_TYPES_LOG2, ctbParam.typeIdc - SAO_TYPE_START_EO ); //sao_eo_class_luma or sao_eo_class_chroma
1679      }
1680    }
1681
1682  }
1683}
1684
1685
[1287]1686Void TEncSbac::codeSAOBlkParam(SAOBlkParam& saoBlkParam, const BitDepths &bitDepths
[1029]1687                              , Bool* sliceEnabled
1688                              , Bool leftMergeAvail
1689                              , Bool aboveMergeAvail
1690                              , Bool onlyEstMergeInfo // = false
1691                              )
1692{
1693
1694  Bool isLeftMerge = false;
1695  Bool isAboveMerge= false;
1696
1697  if(leftMergeAvail)
1698  {
1699    isLeftMerge = ((saoBlkParam[COMPONENT_Y].modeIdc == SAO_MODE_MERGE) && (saoBlkParam[COMPONENT_Y].typeIdc == SAO_MERGE_LEFT));
1700    codeSaoMerge( isLeftMerge?1:0  ); //sao_merge_left_flag
1701  }
1702
1703  if( aboveMergeAvail && !isLeftMerge)
1704  {
1705    isAboveMerge = ((saoBlkParam[COMPONENT_Y].modeIdc == SAO_MODE_MERGE) && (saoBlkParam[COMPONENT_Y].typeIdc == SAO_MERGE_ABOVE));
1706    codeSaoMerge( isAboveMerge?1:0  ); //sao_merge_left_flag
1707  }
1708
1709  if(onlyEstMergeInfo)
1710  {
1711    return; //only for RDO
1712  }
1713
1714  if(!isLeftMerge && !isAboveMerge) //not merge mode
1715  {
1716    for(Int compIdx=0; compIdx < MAX_NUM_COMPONENT; compIdx++)
1717    {
[1287]1718      codeSAOOffsetParam(ComponentID(compIdx), saoBlkParam[compIdx], sliceEnabled[compIdx], bitDepths.recon[toChannelType(ComponentID(compIdx))]);
[1029]1719    }
1720  }
1721}
1722
[313]1723/*!
1724 ****************************************************************************
1725 * \brief
1726 *   estimate bit cost for CBP, significant map and significant coefficients
1727 ****************************************************************************
1728 */
[1029]1729Void TEncSbac::estBit( estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, ChannelType chType )
[313]1730{
1731  estCBFBit( pcEstBitsSbac );
1732
[1029]1733  estSignificantCoeffGroupMapBit( pcEstBitsSbac, chType );
1734
[313]1735  // encode significance map
[1029]1736  estSignificantMapBit( pcEstBitsSbac, width, height, chType );
1737
1738  // encode last significant position
1739  estLastSignificantPositionBit( pcEstBitsSbac, width, height, chType );
1740
[313]1741  // encode significant coefficients
[1029]1742  estSignificantCoefficientsBit( pcEstBitsSbac, chType );
1743
1744  memcpy(pcEstBitsSbac->golombRiceAdaptationStatistics, m_golombRiceAdaptationStatistics, (sizeof(UInt) * RExt__GOLOMB_RICE_ADAPTATION_STATISTICS_SETS));
[313]1745}
1746
1747/*!
1748 ****************************************************************************
1749 * \brief
1750 *    estimate bit cost for each CBP bit
1751 ****************************************************************************
1752 */
1753Void TEncSbac::estCBFBit( estBitsSbacStruct* pcEstBitsSbac )
1754{
1755  ContextModel *pCtx = m_cCUQtCbfSCModel.get( 0 );
1756
[1029]1757  for( UInt uiCtxInc = 0; uiCtxInc < (NUM_QT_CBF_CTX_SETS * NUM_QT_CBF_CTX_PER_SET); uiCtxInc++ )
[313]1758  {
1759    pcEstBitsSbac->blockCbpBits[ uiCtxInc ][ 0 ] = pCtx[ uiCtxInc ].getEntropyBits( 0 );
1760    pcEstBitsSbac->blockCbpBits[ uiCtxInc ][ 1 ] = pCtx[ uiCtxInc ].getEntropyBits( 1 );
1761  }
1762
1763  pCtx = m_cCUQtRootCbfSCModel.get( 0 );
[1029]1764
[313]1765  for( UInt uiCtxInc = 0; uiCtxInc < 4; uiCtxInc++ )
1766  {
1767    pcEstBitsSbac->blockRootCbpBits[ uiCtxInc ][ 0 ] = pCtx[ uiCtxInc ].getEntropyBits( 0 );
1768    pcEstBitsSbac->blockRootCbpBits[ uiCtxInc ][ 1 ] = pCtx[ uiCtxInc ].getEntropyBits( 1 );
1769  }
1770}
1771
1772
1773/*!
1774 ****************************************************************************
1775 * \brief
1776 *    estimate SAMBAC bit cost for significant coefficient group map
1777 ****************************************************************************
1778 */
[1029]1779Void TEncSbac::estSignificantCoeffGroupMapBit( estBitsSbacStruct* pcEstBitsSbac, ChannelType chType )
[313]1780{
1781  Int firstCtx = 0, numCtx = NUM_SIG_CG_FLAG_CTX;
1782
1783  for ( Int ctxIdx = firstCtx; ctxIdx < firstCtx + numCtx; ctxIdx++ )
1784  {
1785    for( UInt uiBin = 0; uiBin < 2; uiBin++ )
1786    {
[1029]1787      pcEstBitsSbac->significantCoeffGroupBits[ ctxIdx ][ uiBin ] = m_cCUSigCoeffGroupSCModel.get(  0, chType, ctxIdx ).getEntropyBits( uiBin );
[313]1788    }
1789  }
1790}
1791
1792
1793/*!
1794 ****************************************************************************
1795 * \brief
1796 *    estimate SAMBAC bit cost for significant coefficient map
1797 ****************************************************************************
1798 */
[1029]1799Void TEncSbac::estSignificantMapBit( estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, ChannelType chType )
[313]1800{
[1029]1801  //--------------------------------------------------------------------------------------------------
1802
1803  //set up the number of channels and context variables
1804
1805  const UInt firstComponent = ((isLuma(chType)) ? (COMPONENT_Y) : (COMPONENT_Cb));
1806  const UInt lastComponent  = ((isLuma(chType)) ? (COMPONENT_Y) : (COMPONENT_Cb));
1807
1808  //----------------------------------------------------------
1809
1810  Int firstCtx = MAX_INT;
1811  Int numCtx   = MAX_INT;
1812
1813  if      ((width == 4) && (height == 4))
[313]1814  {
[1029]1815    firstCtx = significanceMapContextSetStart[chType][CONTEXT_TYPE_4x4];
1816    numCtx   = significanceMapContextSetSize [chType][CONTEXT_TYPE_4x4];
[313]1817  }
[1029]1818  else if ((width == 8) && (height == 8))
[313]1819  {
[1029]1820    firstCtx = significanceMapContextSetStart[chType][CONTEXT_TYPE_8x8];
1821    numCtx   = significanceMapContextSetSize [chType][CONTEXT_TYPE_8x8];
[313]1822  }
[1029]1823  else
[313]1824  {
[1029]1825    firstCtx = significanceMapContextSetStart[chType][CONTEXT_TYPE_NxN];
1826    numCtx   = significanceMapContextSetSize [chType][CONTEXT_TYPE_NxN];
1827  }
[313]1828
[1029]1829  //--------------------------------------------------------------------------------------------------
1830
1831  //fill the data for the significace map
1832
1833  for (UInt component = firstComponent; component <= lastComponent; component++)
1834  {
1835    const UInt contextOffset = getSignificanceMapContextOffset(ComponentID(component));
1836
1837    if (firstCtx > 0)
[313]1838    {
[1029]1839      for( UInt bin = 0; bin < 2; bin++ ) //always get the DC
[313]1840      {
[1029]1841        pcEstBitsSbac->significantBits[ contextOffset ][ bin ] = m_cCUSigSCModel.get( 0, 0, contextOffset ).getEntropyBits( bin );
[313]1842      }
1843    }
[1029]1844
1845    // This could be made optional, but would require this function to have knowledge of whether the
1846    // TU is transform-skipped or transquant-bypassed and whether the SPS flag is set
[313]1847    for( UInt bin = 0; bin < 2; bin++ )
1848    {
[1029]1849      const Int ctxIdx = significanceMapContextSetStart[chType][CONTEXT_TYPE_SINGLE];
1850      pcEstBitsSbac->significantBits[ contextOffset + ctxIdx ][ bin ] = m_cCUSigSCModel.get( 0, 0, (contextOffset + ctxIdx) ).getEntropyBits( bin );
[313]1851    }
[1029]1852
[313]1853    for ( Int ctxIdx = firstCtx; ctxIdx < firstCtx + numCtx; ctxIdx++ )
1854    {
1855      for( UInt uiBin = 0; uiBin < 2; uiBin++ )
1856      {
[1029]1857        pcEstBitsSbac->significantBits[ contextOffset + ctxIdx ][ uiBin ] = m_cCUSigSCModel.get(  0, 0, (contextOffset + ctxIdx) ).getEntropyBits( uiBin );
[313]1858      }
1859    }
1860  }
1861
[1029]1862  //--------------------------------------------------------------------------------------------------
[313]1863}
1864
[1029]1865
[313]1866/*!
1867 ****************************************************************************
1868 * \brief
1869 *    estimate bit cost of significant coefficient
1870 ****************************************************************************
1871 */
[1029]1872
1873Void TEncSbac::estLastSignificantPositionBit( estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, ChannelType chType )
[313]1874{
[1029]1875  //--------------------------------------------------------------------------------------------------.
1876
1877  //set up the number of channels
1878
1879  const UInt firstComponent = ((isLuma(chType)) ? (COMPONENT_Y) : (COMPONENT_Cb));
1880  const UInt lastComponent  = ((isLuma(chType)) ? (COMPONENT_Y) : (COMPONENT_Cb));
1881
1882  //--------------------------------------------------------------------------------------------------
1883
1884  //fill the data for the last-significant-coefficient position
1885
1886  for (UInt componentIndex = firstComponent; componentIndex <= lastComponent; componentIndex++)
[313]1887  {
[1029]1888    const ComponentID component = ComponentID(componentIndex);
[313]1889
[1029]1890    Int iBitsX = 0, iBitsY = 0;
[313]1891
[1029]1892    Int blkSizeOffsetX, blkSizeOffsetY, shiftX, shiftY;
1893    getLastSignificantContextParameters(ComponentID(component), width, height, blkSizeOffsetX, blkSizeOffsetY, shiftX, shiftY);
1894
1895    Int ctx;
1896
1897    const ChannelType channelType = toChannelType(ComponentID(component));
1898
1899    ContextModel *const pCtxX = m_cCuCtxLastX.get( 0, channelType );
1900    ContextModel *const pCtxY = m_cCuCtxLastY.get( 0, channelType );
1901    Int          *const lastXBitsArray = pcEstBitsSbac->lastXBits[channelType];
1902    Int          *const lastYBitsArray = pcEstBitsSbac->lastYBits[channelType];
1903
1904    //------------------------------------------------
1905
1906    //X-coordinate
1907
1908    for (ctx = 0; ctx < g_uiGroupIdx[ width - 1 ]; ctx++)
[313]1909    {
[1029]1910      Int ctxOffset = blkSizeOffsetX + (ctx >>shiftX);
1911      lastXBitsArray[ ctx ] = iBitsX + pCtxX[ ctxOffset ].getEntropyBits( 0 );
1912      iBitsX += pCtxX[ ctxOffset ].getEntropyBits( 1 );
[313]1913    }
1914
[1029]1915    lastXBitsArray[ctx] = iBitsX;
1916
1917    //------------------------------------------------
1918
1919    //Y-coordinate
1920
1921    for (ctx = 0; ctx < g_uiGroupIdx[ height - 1 ]; ctx++)
[313]1922    {
[1029]1923      Int ctxOffset = blkSizeOffsetY + (ctx >>shiftY);
1924      lastYBitsArray[ ctx ] = iBitsY + pCtxY[ ctxOffset ].getEntropyBits( 0 );
1925      iBitsY += pCtxY[ ctxOffset ].getEntropyBits( 1 );
[313]1926    }
1927
[1029]1928    lastYBitsArray[ctx] = iBitsY;
1929
1930  } //end of component loop
1931
1932  //--------------------------------------------------------------------------------------------------
1933}
1934
1935
1936/*!
1937 ****************************************************************************
1938 * \brief
1939 *    estimate bit cost of significant coefficient
1940 ****************************************************************************
1941 */
1942Void TEncSbac::estSignificantCoefficientsBit( estBitsSbacStruct* pcEstBitsSbac, ChannelType chType )
1943{
1944  ContextModel *ctxOne = m_cCUOneSCModel.get(0, 0);
1945  ContextModel *ctxAbs = m_cCUAbsSCModel.get(0, 0);
1946
1947  const UInt oneStartIndex = ((isLuma(chType)) ? (0)                     : (NUM_ONE_FLAG_CTX_LUMA));
1948  const UInt oneStopIndex  = ((isLuma(chType)) ? (NUM_ONE_FLAG_CTX_LUMA) : (NUM_ONE_FLAG_CTX));
1949  const UInt absStartIndex = ((isLuma(chType)) ? (0)                     : (NUM_ABS_FLAG_CTX_LUMA));
1950  const UInt absStopIndex  = ((isLuma(chType)) ? (NUM_ABS_FLAG_CTX_LUMA) : (NUM_ABS_FLAG_CTX));
1951
1952  for (Int ctxIdx = oneStartIndex; ctxIdx < oneStopIndex; ctxIdx++)
1953  {
1954    pcEstBitsSbac->m_greaterOneBits[ ctxIdx ][ 0 ] = ctxOne[ ctxIdx ].getEntropyBits( 0 );
1955    pcEstBitsSbac->m_greaterOneBits[ ctxIdx ][ 1 ] = ctxOne[ ctxIdx ].getEntropyBits( 1 );
[313]1956  }
[1029]1957
1958  for (Int ctxIdx = absStartIndex; ctxIdx < absStopIndex; ctxIdx++)
1959  {
1960    pcEstBitsSbac->m_levelAbsBits[ ctxIdx ][ 0 ] = ctxAbs[ ctxIdx ].getEntropyBits( 0 );
1961    pcEstBitsSbac->m_levelAbsBits[ ctxIdx ][ 1 ] = ctxAbs[ ctxIdx ].getEntropyBits( 1 );
1962  }
[313]1963}
1964
1965/**
1966 - Initialize our context information from the nominated source.
1967 .
1968 \param pSrc From where to copy context information.
1969 */
[1029]1970Void TEncSbac::xCopyContextsFrom( const TEncSbac* pSrc )
1971{
[313]1972  memcpy(m_contextModels, pSrc->m_contextModels, m_numContextModels*sizeof(m_contextModels[0]));
[1029]1973  memcpy(m_golombRiceAdaptationStatistics, pSrc->m_golombRiceAdaptationStatistics, (sizeof(UInt) * RExt__GOLOMB_RICE_ADAPTATION_STATISTICS_SETS));
[313]1974}
1975
[1029]1976Void  TEncSbac::loadContexts ( const TEncSbac* pSrc)
[313]1977{
[1029]1978  xCopyContextsFrom(pSrc);
[313]1979}
1980
[1029]1981/** Performs CABAC encoding of the explicit RDPCM mode
1982 * \param rTu current TU data structure
1983 * \param compID component identifier
1984 */
1985Void TEncSbac::codeExplicitRdpcmMode( TComTU &rTu, const ComponentID compID )
[540]1986{
[1029]1987  TComDataCU *cu = rTu.getCU();
1988  const TComRectangle &rect = rTu.getRect(compID);
1989  const UInt absPartIdx   = rTu.GetAbsPartIdxTU(compID);
1990  const UInt tuHeight = g_aucConvertToBit[rect.height];
1991  const UInt tuWidth  = g_aucConvertToBit[rect.width];
1992
1993  assert(tuHeight == tuWidth);
1994  assert(tuHeight < 4);
1995
1996  UInt explicitRdpcmMode = cu->getExplicitRdpcmMode(compID, absPartIdx);
1997
1998  if( explicitRdpcmMode == RDPCM_OFF )
[540]1999  {
[1029]2000    m_pcBinIf->encodeBin (0, m_explicitRdpcmFlagSCModel.get (0, toChannelType(compID), 0));
[540]2001  }
[1029]2002  else if( explicitRdpcmMode == RDPCM_HOR || explicitRdpcmMode == RDPCM_VER )
[540]2003  {
[1029]2004    m_pcBinIf->encodeBin (1, m_explicitRdpcmFlagSCModel.get (0, toChannelType(compID), 0));
2005    if(explicitRdpcmMode == RDPCM_HOR)
[540]2006    {
[1029]2007      m_pcBinIf->encodeBin ( 0, m_explicitRdpcmDirSCModel.get(0, toChannelType(compID), 0));
[540]2008    }
2009    else
2010    {
[1029]2011      m_pcBinIf->encodeBin ( 1, m_explicitRdpcmDirSCModel.get(0, toChannelType(compID), 0));
[540]2012    }
2013  }
[1029]2014  else
[540]2015  {
[1029]2016    assert(0);
[540]2017  }
2018}
2019
[1207]2020#if SVC_EXTENSION
2021Void TEncSbac::codeSliceHeaderExtn( TComSlice* pSlice, Int shBitsWrittenTillNow )
[540]2022{
[1029]2023  assert (0);
2024  return;
2025}
[644]2026#endif
[540]2027
[313]2028//! \}
Note: See TracBrowser for help on using the repository browser.