source: 3DVCSoftware/branches/HTM-4.0.1-VSP-dev0/source/Lib/TLibEncoder/TEncSbac.cpp @ 166

Last change on this file since 166 was 166, checked in by mitsubishi-htm, 12 years ago

Initial integration of VSP into HTM 4.0.1. The version used for JCT3V-B0102 at Shanghai meeting.

  • VC9 project/solution files updated. Other Visual C++ project/solution files are not updated.
  • Linux make file updated.

TODO

  • A second release is expected to include some bug fix and improvements on the interface, e.g. to move switches from macro definition to the configuration file.
  • A third release is expected after being integrated within HTM 5.x, which is to be used for CE1.h anchor.
  • Property svn:eol-style set to native
File size: 83.8 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2012, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TEncSbac.cpp
35    \brief    SBAC encoder class
36*/
37
38#include "TEncTop.h"
39#include "TEncSbac.h"
40
41#include <map>
42#include <algorithm>
43
44//! \ingroup TLibEncoder
45//! \{
46
47// ====================================================================================================================
48// Constructor / destructor / create / destroy
49// ====================================================================================================================
50
51TEncSbac::TEncSbac()
52// new structure here
53: m_pcBitIf                   ( NULL )
54, m_pcSlice                   ( NULL )
55, m_pcBinIf                   ( NULL )
56, m_bAlfCtrl                  ( false )
57, m_uiCoeffCost               ( 0 )
58, m_uiMaxAlfCtrlDepth         ( 0 )
59, m_numContextModels          ( 0 )
60, m_cCUSplitFlagSCModel       ( 1,             1,               NUM_SPLIT_FLAG_CTX            , m_contextModels + m_numContextModels, m_numContextModels )
61, m_cCUSkipFlagSCModel        ( 1,             1,               NUM_SKIP_FLAG_CTX             , m_contextModels + m_numContextModels, m_numContextModels)
62, m_cCUMergeFlagExtSCModel    ( 1,             1,               NUM_MERGE_FLAG_EXT_CTX        , m_contextModels + m_numContextModels, m_numContextModels)
63, m_cCUMergeIdxExtSCModel     ( 1,             1,               NUM_MERGE_IDX_EXT_CTX         , m_contextModels + m_numContextModels, m_numContextModels)
64#if HHI_INTER_VIEW_RESIDUAL_PRED
65, m_cResPredFlagSCModel       ( 1,             1,               NUM_RES_PRED_FLAG_CTX         , m_contextModels + m_numContextModels, m_numContextModels)
66#endif
67, m_cCUPartSizeSCModel        ( 1,             1,               NUM_PART_SIZE_CTX             , m_contextModels + m_numContextModels, m_numContextModels)
68, m_cCUPredModeSCModel        ( 1,             1,               NUM_PRED_MODE_CTX             , m_contextModels + m_numContextModels, m_numContextModels)
69, m_cCUAlfCtrlFlagSCModel     ( 1,             1,               NUM_ALF_CTRL_FLAG_CTX         , m_contextModels + m_numContextModels, m_numContextModels)
70, m_cCUIntraPredSCModel       ( 1,             1,               NUM_ADI_CTX                   , m_contextModels + m_numContextModels, m_numContextModels)
71, m_cCUChromaPredSCModel      ( 1,             1,               NUM_CHROMA_PRED_CTX           , m_contextModels + m_numContextModels, m_numContextModels)
72, m_cCUDeltaQpSCModel         ( 1,             1,               NUM_DELTA_QP_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
73, m_cCUInterDirSCModel        ( 1,             1,               NUM_INTER_DIR_CTX             , m_contextModels + m_numContextModels, m_numContextModels)
74, m_cCURefPicSCModel          ( 1,             1,               NUM_REF_NO_CTX                , m_contextModels + m_numContextModels, m_numContextModels)
75, m_cCUMvdSCModel             ( 1,             1,               NUM_MV_RES_CTX                , m_contextModels + m_numContextModels, m_numContextModels)
76, m_cCUQtCbfSCModel           ( 1,             2,               NUM_QT_CBF_CTX                , m_contextModels + m_numContextModels, m_numContextModels)
77, m_cCUTransSubdivFlagSCModel ( 1,             1,               NUM_TRANS_SUBDIV_FLAG_CTX     , m_contextModels + m_numContextModels, m_numContextModels)
78, m_cCUQtRootCbfSCModel       ( 1,             1,               NUM_QT_ROOT_CBF_CTX           , m_contextModels + m_numContextModels, m_numContextModels)
79, m_cCUSigCoeffGroupSCModel   ( 1,             2,               NUM_SIG_CG_FLAG_CTX           , m_contextModels + m_numContextModels, m_numContextModels)
80, m_cCUSigSCModel             ( 1,             1,               NUM_SIG_FLAG_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
81, m_cCuCtxLastX               ( 1,             2,               NUM_CTX_LAST_FLAG_XY          , m_contextModels + m_numContextModels, m_numContextModels)
82, m_cCuCtxLastY               ( 1,             2,               NUM_CTX_LAST_FLAG_XY          , m_contextModels + m_numContextModels, m_numContextModels)
83, m_cCUOneSCModel             ( 1,             1,               NUM_ONE_FLAG_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
84, m_cCUAbsSCModel             ( 1,             1,               NUM_ABS_FLAG_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
85, m_cMVPIdxSCModel            ( 1,             1,               NUM_MVP_IDX_CTX               , m_contextModels + m_numContextModels, m_numContextModels)
86, m_cALFFlagSCModel           ( 1,             1,               NUM_ALF_FLAG_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
87, m_cALFUvlcSCModel           ( 1,             1,               NUM_ALF_UVLC_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
88, m_cALFSvlcSCModel           ( 1,             1,               NUM_ALF_SVLC_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
89#if AMP_CTX
90, m_cCUAMPSCModel             ( 1,             1,               NUM_CU_AMP_CTX                , m_contextModels + m_numContextModels, m_numContextModels)
91#else
92, m_cCUXPosiSCModel           ( 1,             1,               NUM_CU_X_POS_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
93, m_cCUYPosiSCModel           ( 1,             1,               NUM_CU_Y_POS_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
94#endif
95, m_cSaoFlagSCModel           ( 1,             1,               NUM_SAO_FLAG_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
96, m_cSaoUvlcSCModel           ( 1,             1,               NUM_SAO_UVLC_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
97, m_cSaoSvlcSCModel           ( 1,             1,               NUM_SAO_SVLC_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
98#if SAO_UNIT_INTERLEAVING
99, m_cSaoMergeLeftSCModel      ( 1,             1,               NUM_SAO_MERGE_LEFT_FLAG_CTX   , m_contextModels + m_numContextModels, m_numContextModels)
100, m_cSaoMergeUpSCModel        ( 1,             1,               NUM_SAO_MERGE_UP_FLAG_CTX     , m_contextModels + m_numContextModels, m_numContextModels)
101, m_cSaoTypeIdxSCModel        ( 1,             1,               NUM_SAO_TYPE_IDX_CTX          , m_contextModels + m_numContextModels, m_numContextModels)
102#endif
103#if HHI_DMM_WEDGE_INTRA || HHI_DMM_PRED_TEX
104, m_cDmmFlagSCModel           ( 1,             1,               NUM_DMM_FLAG_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
105, m_cDmmModeSCModel           ( 1,             1,               NUM_DMM_MODE_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
106, m_cDmmDataSCModel           ( 1,             1,               NUM_DMM_DATA_CTX              , m_contextModels + m_numContextModels, m_numContextModels)
107#endif
108#if LGE_EDGE_INTRA
109, m_cEdgeIntraSCModel         ( 1,             1,               NUM_EDGE_INTRA_CTX            , m_contextModels + m_numContextModels, m_numContextModels)
110#if LGE_EDGE_INTRA_DELTA_DC
111, m_cEdgeIntraDeltaDCSCModel  ( 1,             1,               NUM_EDGE_INTRA_DELTA_DC_CTX   , m_contextModels + m_numContextModels, m_numContextModels)
112#endif
113#endif
114{
115  assert( m_numContextModels <= MAX_NUM_CTX_MOD );
116  m_iSliceGranularity = 0;
117}
118
119TEncSbac::~TEncSbac()
120{
121}
122
123// ====================================================================================================================
124// Public member functions
125// ====================================================================================================================
126
127Void TEncSbac::resetEntropy           ()
128{
129  Int  iQp              = m_pcSlice->getSliceQp();
130  SliceType eSliceType  = m_pcSlice->getSliceType();
131 
132#if CABAC_INIT_FLAG
133  Int  encCABACTableIdx = m_pcSlice->getPPS()->getEncCABACTableIdx();
134  if (!m_pcSlice->isIntra() && (encCABACTableIdx==B_SLICE || encCABACTableIdx==P_SLICE) && m_pcSlice->getPPS()->getCabacInitPresentFlag())
135  {
136    eSliceType = (SliceType) encCABACTableIdx;
137  }
138#endif
139
140  m_cCUSplitFlagSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_SPLIT_FLAG );
141 
142  m_cCUSkipFlagSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_SKIP_FLAG );
143  m_cCUAlfCtrlFlagSCModel.initBuffer     ( eSliceType, iQp, (UChar*)INIT_ALF_CTRL_FLAG );
144  m_cCUMergeFlagExtSCModel.initBuffer    ( eSliceType, iQp, (UChar*)INIT_MERGE_FLAG_EXT);
145  m_cCUMergeIdxExtSCModel.initBuffer     ( eSliceType, iQp, (UChar*)INIT_MERGE_IDX_EXT);
146#if HHI_INTER_VIEW_RESIDUAL_PRED
147  m_cResPredFlagSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_RES_PRED_FLAG );
148#endif
149  m_cCUPartSizeSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_PART_SIZE );
150#if AMP_CTX
151  m_cCUAMPSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_CU_AMP_POS );
152#else
153  m_cCUXPosiSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_CU_X_POS );
154  m_cCUYPosiSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_CU_Y_POS );
155#endif
156  m_cCUPredModeSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_PRED_MODE );
157  m_cCUIntraPredSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_INTRA_PRED_MODE );
158  m_cCUChromaPredSCModel.initBuffer      ( eSliceType, iQp, (UChar*)INIT_CHROMA_PRED_MODE );
159  m_cCUInterDirSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_INTER_DIR );
160  m_cCUMvdSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_MVD );
161  m_cCURefPicSCModel.initBuffer          ( eSliceType, iQp, (UChar*)INIT_REF_PIC );
162  m_cCUDeltaQpSCModel.initBuffer         ( eSliceType, iQp, (UChar*)INIT_DQP );
163  m_cCUQtCbfSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_QT_CBF );
164  m_cCUQtRootCbfSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_QT_ROOT_CBF );
165  m_cCUSigCoeffGroupSCModel.initBuffer   ( eSliceType, iQp, (UChar*)INIT_SIG_CG_FLAG );
166  m_cCUSigSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_SIG_FLAG );
167  m_cCuCtxLastX.initBuffer               ( eSliceType, iQp, (UChar*)INIT_LAST );
168  m_cCuCtxLastY.initBuffer               ( eSliceType, iQp, (UChar*)INIT_LAST );
169  m_cCUOneSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_ONE_FLAG );
170  m_cCUAbsSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_ABS_FLAG );
171  m_cMVPIdxSCModel.initBuffer            ( eSliceType, iQp, (UChar*)INIT_MVP_IDX );
172  m_cALFFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_ALF_FLAG );
173  m_cALFUvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_ALF_UVLC );
174  m_cALFSvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_ALF_SVLC );
175  m_cCUTransSubdivFlagSCModel.initBuffer ( eSliceType, iQp, (UChar*)INIT_TRANS_SUBDIV_FLAG );
176  m_cSaoFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_SAO_FLAG );
177  m_cSaoUvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_SAO_UVLC );
178  m_cSaoSvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_SAO_SVLC );
179#if SAO_UNIT_INTERLEAVING
180  m_cSaoMergeLeftSCModel.initBuffer      ( eSliceType, iQp, (UChar*)INIT_SAO_MERGE_LEFT_FLAG );
181  m_cSaoMergeUpSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_SAO_MERGE_UP_FLAG );
182  m_cSaoTypeIdxSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_SAO_TYPE_IDX );
183#endif
184#if HHI_DMM_WEDGE_INTRA || HHI_DMM_PRED_TEX
185  m_cDmmFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_DMM_FLAG );
186  m_cDmmModeSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_DMM_MODE );
187  m_cDmmDataSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_DMM_DATA );
188#endif
189#if LGE_EDGE_INTRA
190  m_cEdgeIntraSCModel.initBuffer         ( eSliceType, iQp, (UChar*)INIT_EDGE_INTRA );
191#if LGE_EDGE_INTRA_DELTA_DC
192  m_cEdgeIntraDeltaDCSCModel.initBuffer  ( eSliceType, iQp, (UChar*)INIT_EDGE_INTRA_DELTA_DC );
193#endif
194#endif
195
196  // new structure
197  m_uiLastQp = iQp;
198 
199  m_pcBinIf->start();
200 
201  return;
202}
203
204#if CABAC_INIT_FLAG
205/** The function does the following:
206 * If current slice type is P/B then it determines the distance of initialisation type 1 and 2 from the current CABAC states and
207 * stores the index of the closest table.  This index is used for the next P/B slice when cabac_init_present_flag is true.
208 */
209Void TEncSbac::determineCabacInitIdx()
210{
211  Int  qp              = m_pcSlice->getSliceQp();
212
213  if (!m_pcSlice->isIntra())
214  {
215    SliceType aSliceTypeChoices[] = {B_SLICE, P_SLICE};
216
217    UInt bestCost             = MAX_UINT;
218    SliceType bestSliceType   = aSliceTypeChoices[0];
219    for (UInt idx=0; idx<2; idx++)
220    {
221      UInt curCost          = 0;
222      SliceType curSliceType  = aSliceTypeChoices[idx];
223
224      curCost  = m_cCUSplitFlagSCModel.calcCost       ( curSliceType, qp, (UChar*)INIT_SPLIT_FLAG );
225      curCost += m_cCUSkipFlagSCModel.calcCost        ( curSliceType, qp, (UChar*)INIT_SKIP_FLAG );
226      curCost += m_cCUAlfCtrlFlagSCModel.calcCost     ( curSliceType, qp, (UChar*)INIT_ALF_CTRL_FLAG );
227      curCost += m_cCUMergeFlagExtSCModel.calcCost    ( curSliceType, qp, (UChar*)INIT_MERGE_FLAG_EXT);
228      curCost += m_cCUMergeIdxExtSCModel.calcCost     ( curSliceType, qp, (UChar*)INIT_MERGE_IDX_EXT);
229#if HHI_INTER_VIEW_RESIDUAL_PRED
230      curCost += m_cResPredFlagSCModel.calcCost       ( curSliceType, qp, (UChar*)INIT_RES_PRED_FLAG);
231#endif
232      curCost += m_cCUPartSizeSCModel.calcCost        ( curSliceType, qp, (UChar*)INIT_PART_SIZE );
233#if AMP_CTX
234      curCost += m_cCUAMPSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_CU_AMP_POS );
235#else
236      curCost += m_cCUXPosiSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_CU_X_POS );
237      curCost += m_cCUYPosiSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_CU_Y_POS );
238#endif
239      curCost += m_cCUPredModeSCModel.calcCost        ( curSliceType, qp, (UChar*)INIT_PRED_MODE );
240      curCost += m_cCUIntraPredSCModel.calcCost       ( curSliceType, qp, (UChar*)INIT_INTRA_PRED_MODE );
241      curCost += m_cCUChromaPredSCModel.calcCost      ( curSliceType, qp, (UChar*)INIT_CHROMA_PRED_MODE );
242      curCost += m_cCUInterDirSCModel.calcCost        ( curSliceType, qp, (UChar*)INIT_INTER_DIR );
243      curCost += m_cCUMvdSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_MVD );
244      curCost += m_cCURefPicSCModel.calcCost          ( curSliceType, qp, (UChar*)INIT_REF_PIC );
245      curCost += m_cCUDeltaQpSCModel.calcCost         ( curSliceType, qp, (UChar*)INIT_DQP );
246      curCost += m_cCUQtCbfSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_QT_CBF );
247      curCost += m_cCUQtRootCbfSCModel.calcCost       ( curSliceType, qp, (UChar*)INIT_QT_ROOT_CBF );
248      curCost += m_cCUSigCoeffGroupSCModel.calcCost   ( curSliceType, qp, (UChar*)INIT_SIG_CG_FLAG );
249      curCost += m_cCUSigSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_SIG_FLAG );
250      curCost += m_cCuCtxLastX.calcCost               ( curSliceType, qp, (UChar*)INIT_LAST );
251      curCost += m_cCuCtxLastY.calcCost               ( curSliceType, qp, (UChar*)INIT_LAST );
252      curCost += m_cCUOneSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_ONE_FLAG );
253      curCost += m_cCUAbsSCModel.calcCost             ( curSliceType, qp, (UChar*)INIT_ABS_FLAG );
254      curCost += m_cMVPIdxSCModel.calcCost            ( curSliceType, qp, (UChar*)INIT_MVP_IDX );
255      curCost += m_cALFFlagSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_ALF_FLAG );
256      curCost += m_cALFUvlcSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_ALF_UVLC );
257      curCost += m_cALFSvlcSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_ALF_SVLC );
258      curCost += m_cCUTransSubdivFlagSCModel.calcCost ( curSliceType, qp, (UChar*)INIT_TRANS_SUBDIV_FLAG );
259      curCost += m_cSaoFlagSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_SAO_FLAG );
260      curCost += m_cSaoUvlcSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_SAO_UVLC );
261      curCost += m_cSaoSvlcSCModel.calcCost           ( curSliceType, qp, (UChar*)INIT_SAO_SVLC );
262#if SAO_UNIT_INTERLEAVING
263      curCost += m_cSaoMergeLeftSCModel.calcCost      ( curSliceType, qp, (UChar*)INIT_SAO_MERGE_LEFT_FLAG );
264      curCost += m_cSaoMergeUpSCModel.calcCost        ( curSliceType, qp, (UChar*)INIT_SAO_MERGE_UP_FLAG );
265      curCost += m_cSaoTypeIdxSCModel.calcCost        ( curSliceType, qp, (UChar*)INIT_SAO_TYPE_IDX );
266#endif
267
268      if (curCost < bestCost)
269      {
270        bestSliceType = curSliceType;
271        bestCost      = curCost;
272      }
273    }
274    m_pcSlice->getPPS()->setEncCABACTableIdx( bestSliceType );
275  }
276  else
277  {
278    m_pcSlice->getPPS()->setEncCABACTableIdx( I_SLICE );
279  } 
280
281  #if CABAC_INIT_FLAG && POZNAN_CABAC_INIT_FLAG_FIX
282    m_pcSlice->getPPS()->setEncPrevPOC( m_pcSlice->getPOC() );
283  #endif
284}
285#endif
286
287
288/** The function does the followng: Write out terminate bit. Flush CABAC. Intialize CABAC states. Start CABAC.
289 */
290Void TEncSbac::updateContextTables( SliceType eSliceType, Int iQp, Bool bExecuteFinish )
291{
292  m_pcBinIf->encodeBinTrm(1);
293  if (bExecuteFinish) m_pcBinIf->finish();
294  m_cCUSplitFlagSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_SPLIT_FLAG );
295 
296  m_cCUSkipFlagSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_SKIP_FLAG );
297  m_cCUAlfCtrlFlagSCModel.initBuffer     ( eSliceType, iQp, (UChar*)INIT_ALF_CTRL_FLAG );
298  m_cCUMergeFlagExtSCModel.initBuffer    ( eSliceType, iQp, (UChar*)INIT_MERGE_FLAG_EXT);
299  m_cCUMergeIdxExtSCModel.initBuffer     ( eSliceType, iQp, (UChar*)INIT_MERGE_IDX_EXT);
300#if HHI_INTER_VIEW_RESIDUAL_PRED
301  m_cResPredFlagSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_RES_PRED_FLAG );
302#endif
303  m_cCUPartSizeSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_PART_SIZE );
304#if AMP_CTX
305  m_cCUAMPSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_CU_AMP_POS );
306#else
307  m_cCUXPosiSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_CU_X_POS );
308  m_cCUYPosiSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_CU_Y_POS );
309#endif
310  m_cCUPredModeSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_PRED_MODE );
311  m_cCUIntraPredSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_INTRA_PRED_MODE );
312  m_cCUChromaPredSCModel.initBuffer      ( eSliceType, iQp, (UChar*)INIT_CHROMA_PRED_MODE );
313  m_cCUInterDirSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_INTER_DIR );
314  m_cCUMvdSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_MVD );
315  m_cCURefPicSCModel.initBuffer          ( eSliceType, iQp, (UChar*)INIT_REF_PIC );
316  m_cCUDeltaQpSCModel.initBuffer         ( eSliceType, iQp, (UChar*)INIT_DQP );
317  m_cCUQtCbfSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_QT_CBF );
318  m_cCUQtRootCbfSCModel.initBuffer       ( eSliceType, iQp, (UChar*)INIT_QT_ROOT_CBF );
319  m_cCUSigCoeffGroupSCModel.initBuffer   ( eSliceType, iQp, (UChar*)INIT_SIG_CG_FLAG );
320  m_cCUSigSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_SIG_FLAG );
321  m_cCuCtxLastX.initBuffer               ( eSliceType, iQp, (UChar*)INIT_LAST );
322  m_cCuCtxLastY.initBuffer               ( eSliceType, iQp, (UChar*)INIT_LAST );
323  m_cCUOneSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_ONE_FLAG );
324  m_cCUAbsSCModel.initBuffer             ( eSliceType, iQp, (UChar*)INIT_ABS_FLAG );
325  m_cMVPIdxSCModel.initBuffer            ( eSliceType, iQp, (UChar*)INIT_MVP_IDX );
326  m_cALFFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_ALF_FLAG );
327  m_cALFUvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_ALF_UVLC );
328  m_cALFSvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_ALF_SVLC );
329  m_cCUTransSubdivFlagSCModel.initBuffer ( eSliceType, iQp, (UChar*)INIT_TRANS_SUBDIV_FLAG );
330  m_cSaoFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_SAO_FLAG );
331  m_cSaoUvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_SAO_UVLC );
332  m_cSaoSvlcSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_SAO_SVLC );
333#if SAO_UNIT_INTERLEAVING
334  m_cSaoMergeLeftSCModel.initBuffer      ( eSliceType, iQp, (UChar*)INIT_SAO_MERGE_LEFT_FLAG );
335  m_cSaoMergeUpSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_SAO_MERGE_UP_FLAG );
336  m_cSaoTypeIdxSCModel.initBuffer        ( eSliceType, iQp, (UChar*)INIT_SAO_TYPE_IDX );
337#endif
338#if HHI_DMM_WEDGE_INTRA || HHI_DMM_PRED_TEX
339  m_cDmmFlagSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_DMM_FLAG );
340  m_cDmmModeSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_DMM_MODE );
341  m_cDmmDataSCModel.initBuffer           ( eSliceType, iQp, (UChar*)INIT_DMM_DATA );
342#endif
343 
344  m_pcBinIf->start();
345}
346
347Void TEncSbac::writeTileMarker( UInt uiTileIdx, UInt uiBitsUsed )
348{
349  for (Int iShift=uiBitsUsed-1; iShift>=0; iShift--)
350  {
351    m_pcBinIf->encodeBinEP ( (uiTileIdx & (1 << iShift)) >> iShift );
352  }
353}
354
355void TEncSbac::codeSEI(const SEI&)
356{
357  assert(0);
358}
359
360#if VIDYO_VPS_INTEGRATION
361Void TEncSbac::codeVPS( TComVPS* pcVPS )
362{
363  assert (0);
364  return;
365}
366#endif
367
368#if HHI_MPI
369Void TEncSbac::codeSPS( TComSPS* pcSPS, Bool bIsDepth )
370#else
371Void TEncSbac::codeSPS( TComSPS* pcSPS )
372#endif
373{
374  assert (0);
375  return;
376}
377
378Void TEncSbac::codePPS( TComPPS* pcPPS )
379{
380  assert (0);
381  return;
382}
383
384Void TEncSbac::codeSliceHeader( TComSlice* pcSlice )
385{
386  assert (0);
387  return;
388}
389
390#if TILES_WPP_ENTRY_POINT_SIGNALLING
391Void TEncSbac::codeTilesWPPEntryPoint( TComSlice* pSlice )
392{
393  assert (0);
394  return;
395}
396#else
397Void TEncSbac::codeSliceHeaderSubstreamTable( TComSlice* pcSlice )
398{
399  assert (0);
400}
401#endif
402
403Void TEncSbac::codeTerminatingBit( UInt uilsLast )
404{
405  m_pcBinIf->encodeBinTrm( uilsLast );
406}
407
408Void TEncSbac::codeSliceFinish()
409{
410  m_pcBinIf->finish();
411}
412
413#if OL_FLUSH
414Void TEncSbac::codeFlush()
415{
416  m_pcBinIf->flush();
417}
418
419Void TEncSbac::encodeStart()
420{
421  m_pcBinIf->start();
422}
423#endif
424
425Void TEncSbac::xWriteUnarySymbol( UInt uiSymbol, ContextModel* pcSCModel, Int iOffset )
426{
427  m_pcBinIf->encodeBin( uiSymbol ? 1 : 0, pcSCModel[0] );
428 
429  if( 0 == uiSymbol)
430  {
431    return;
432  }
433 
434  while( uiSymbol-- )
435  {
436    m_pcBinIf->encodeBin( uiSymbol ? 1 : 0, pcSCModel[ iOffset ] );
437  }
438 
439  return;
440}
441
442Void TEncSbac::xWriteUnaryMaxSymbol( UInt uiSymbol, ContextModel* pcSCModel, Int iOffset, UInt uiMaxSymbol )
443{
444  if (uiMaxSymbol == 0)
445  {
446    return;
447  }
448 
449  m_pcBinIf->encodeBin( uiSymbol ? 1 : 0, pcSCModel[ 0 ] );
450 
451  if ( uiSymbol == 0 )
452  {
453    return;
454  }
455 
456  Bool bCodeLast = ( uiMaxSymbol > uiSymbol );
457 
458  while( --uiSymbol )
459  {
460    m_pcBinIf->encodeBin( 1, pcSCModel[ iOffset ] );
461  }
462  if( bCodeLast )
463  {
464    m_pcBinIf->encodeBin( 0, pcSCModel[ iOffset ] );
465  }
466 
467  return;
468}
469
470Void TEncSbac::xWriteEpExGolomb( UInt uiSymbol, UInt uiCount )
471{
472  UInt bins = 0;
473  Int numBins = 0;
474 
475  while( uiSymbol >= (UInt)(1<<uiCount) )
476  {
477    bins = 2 * bins + 1;
478    numBins++;
479    uiSymbol -= 1 << uiCount;
480    uiCount  ++;
481  }
482  bins = 2 * bins + 0;
483  numBins++;
484 
485  bins = (bins << uiCount) | uiSymbol;
486  numBins += uiCount;
487 
488  assert( numBins <= 32 );
489  m_pcBinIf->encodeBinsEP( bins, numBins );
490}
491
492/** Coding of coeff_abs_level_minus3
493 * \param uiSymbol value of coeff_abs_level_minus3
494 * \param ruiGoRiceParam reference to Rice parameter
495 * \returns Void
496 */
497Void TEncSbac::xWriteGoRiceExGolomb( UInt uiSymbol, UInt &ruiGoRiceParam )
498{
499  UInt uiMaxVlc     = g_auiGoRiceRange[ ruiGoRiceParam ];
500  Bool bExGolomb    = ( uiSymbol > uiMaxVlc );
501  UInt uiCodeWord   = min<UInt>( uiSymbol, ( uiMaxVlc + 1 ) );
502  UInt uiQuotient   = uiCodeWord >> ruiGoRiceParam;
503  UInt uiMaxPreLen  = g_auiGoRicePrefixLen[ ruiGoRiceParam ];
504 
505  UInt binValues;
506  Int numBins;
507 
508  if ( uiQuotient >= uiMaxPreLen )
509  {
510    numBins = uiMaxPreLen;
511    binValues = ( 1 << numBins ) - 1;
512  }
513  else
514  {
515    numBins = uiQuotient + 1;
516    binValues = ( 1 << numBins ) - 2;
517  }
518 
519  m_pcBinIf->encodeBinsEP( ( binValues << ruiGoRiceParam ) + uiCodeWord - ( uiQuotient << ruiGoRiceParam ), numBins + ruiGoRiceParam );
520 
521#if EIGHT_BITS_RICE_CODE
522  ruiGoRiceParam = g_aauiGoRiceUpdate[ ruiGoRiceParam ][ min<UInt>( uiSymbol, 23 ) ];
523#else
524  ruiGoRiceParam = g_aauiGoRiceUpdate[ ruiGoRiceParam ][ min<UInt>( uiSymbol, 15 ) ];
525#endif
526 
527  if( bExGolomb )
528  {
529    uiSymbol -= uiMaxVlc + 1;
530    xWriteEpExGolomb( uiSymbol, 0 );
531  }
532}
533
534// SBAC RD
535Void  TEncSbac::load ( TEncSbac* pSrc)
536{
537  this->xCopyFrom(pSrc);
538}
539
540Void  TEncSbac::loadIntraDirModeLuma( TEncSbac* pSrc)
541{
542  m_pcBinIf->copyState( pSrc->m_pcBinIf );
543 
544  this->m_cCUIntraPredSCModel      .copyFrom( &pSrc->m_cCUIntraPredSCModel       );
545}
546
547
548Void  TEncSbac::store( TEncSbac* pDest)
549{
550  pDest->xCopyFrom( this );
551}
552
553
554Void TEncSbac::xCopyFrom( TEncSbac* pSrc )
555{
556  m_pcBinIf->copyState( pSrc->m_pcBinIf );
557 
558  this->m_uiCoeffCost = pSrc->m_uiCoeffCost;
559  this->m_uiLastQp    = pSrc->m_uiLastQp;
560 
561  memcpy( m_contextModels, pSrc->m_contextModels, m_numContextModels * sizeof( ContextModel ) );
562}
563
564#if HHI_INTER_VIEW_MOTION_PRED
565Void TEncSbac::codeMVPIdx ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList, Int iNum )
566#else
567Void TEncSbac::codeMVPIdx ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
568#endif
569{
570  Int iSymbol = pcCU->getMVPIdx(eRefList, uiAbsPartIdx);
571#if HHI_INTER_VIEW_MOTION_PRED
572#else
573  Int iNum = AMVP_MAX_NUM_CANDS;
574#endif
575
576  xWriteUnaryMaxSymbol(iSymbol, m_cMVPIdxSCModel.get(0), 1, iNum-1);
577}
578
579Void TEncSbac::codePartSize( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
580{
581  PartSize eSize         = pcCU->getPartitionSize( uiAbsPartIdx );
582  if ( pcCU->isIntra( uiAbsPartIdx ) )
583  {
584    if( uiDepth == g_uiMaxCUDepth - g_uiAddCUDepth )
585    {
586      m_pcBinIf->encodeBin( eSize == SIZE_2Nx2N? 1 : 0, m_cCUPartSizeSCModel.get( 0, 0, 0 ) );
587    }
588    return;
589  }
590 
591  switch(eSize)
592  {
593    case SIZE_2Nx2N:
594    {
595      m_pcBinIf->encodeBin( 1, m_cCUPartSizeSCModel.get( 0, 0, 0) );
596      break;
597    }
598    case SIZE_2NxN:
599    case SIZE_2NxnU:
600    case SIZE_2NxnD:
601    {
602      m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 0) );
603      m_pcBinIf->encodeBin( 1, m_cCUPartSizeSCModel.get( 0, 0, 1) );
604      if ( pcCU->getSlice()->getSPS()->getAMPAcc( uiDepth ) )
605      {
606        if (eSize == SIZE_2NxN)
607        {
608#if AMP_CTX           
609          m_pcBinIf->encodeBin(1, m_cCUAMPSCModel.get( 0, 0, 0 ));
610#else
611          m_pcBinIf->encodeBin(1, m_cCUYPosiSCModel.get( 0, 0, 0 ));
612#endif
613        }
614        else
615        {
616#if AMP_CTX
617          m_pcBinIf->encodeBin(0, m_cCUAMPSCModel.get( 0, 0, 0 ));         
618          m_pcBinIf->encodeBinEP((eSize == SIZE_2NxnU? 0: 1));
619#else
620          m_pcBinIf->encodeBin(0, m_cCUYPosiSCModel.get( 0, 0, 0 ));
621          m_pcBinIf->encodeBin((eSize == SIZE_2NxnU? 0: 1), m_cCUYPosiSCModel.get( 0, 0, 1 ));
622#endif
623        }
624      }
625      break;
626    }
627    case SIZE_Nx2N:
628    case SIZE_nLx2N:
629    case SIZE_nRx2N:
630    {
631      m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 0) );
632      m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 1) );
633      if( uiDepth == g_uiMaxCUDepth - g_uiAddCUDepth && !( pcCU->getSlice()->getSPS()->getDisInter4x4() && pcCU->getWidth(uiAbsPartIdx) == 8 && pcCU->getHeight(uiAbsPartIdx) == 8 ) )
634      {
635        m_pcBinIf->encodeBin( 1, m_cCUPartSizeSCModel.get( 0, 0, 2) );
636      }
637      if ( pcCU->getSlice()->getSPS()->getAMPAcc( uiDepth ) )
638      {
639        if (eSize == SIZE_Nx2N)
640        {
641#if AMP_CTX
642          m_pcBinIf->encodeBin(1, m_cCUAMPSCModel.get( 0, 0, 0 ));
643#else
644          m_pcBinIf->encodeBin(1, m_cCUXPosiSCModel.get( 0, 0, 0 ));
645#endif
646        }
647        else
648        {
649#if AMP_CTX
650          m_pcBinIf->encodeBin(0, m_cCUAMPSCModel.get( 0, 0, 0 ));
651          m_pcBinIf->encodeBinEP((eSize == SIZE_nLx2N? 0: 1));
652#else
653          m_pcBinIf->encodeBin(0, m_cCUXPosiSCModel.get( 0, 0, 0 ));
654          m_pcBinIf->encodeBin((eSize == SIZE_nLx2N? 0: 1), m_cCUXPosiSCModel.get( 0, 0, 1 ));
655#endif
656        }
657      }
658      break;
659    }
660    case SIZE_NxN:
661    {
662      if( uiDepth == g_uiMaxCUDepth - g_uiAddCUDepth && !( pcCU->getSlice()->getSPS()->getDisInter4x4() && pcCU->getWidth(uiAbsPartIdx) == 8 && pcCU->getHeight(uiAbsPartIdx) == 8 ) )
663      {
664        m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 0) );
665        m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 1) );
666        m_pcBinIf->encodeBin( 0, m_cCUPartSizeSCModel.get( 0, 0, 2) );
667      }
668      break;
669    }
670    default:
671    {
672      assert(0);
673    }
674  }
675}
676
677/** code prediction mode
678 * \param pcCU
679 * \param uiAbsPartIdx 
680 * \returns Void
681 */
682Void TEncSbac::codePredMode( TComDataCU* pcCU, UInt uiAbsPartIdx )
683{
684  // get context function is here
685  Int iPredMode = pcCU->getPredictionMode( uiAbsPartIdx );
686  m_pcBinIf->encodeBin( iPredMode == MODE_INTER ? 0 : 1, m_cCUPredModeSCModel.get( 0, 0, 0 ) );
687}
688
689Void TEncSbac::codeAlfCtrlFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
690{
691  if (!m_bAlfCtrl)
692    return;
693 
694  if( pcCU->getDepth(uiAbsPartIdx) > m_uiMaxAlfCtrlDepth && !pcCU->isFirstAbsZorderIdxInDepth(uiAbsPartIdx, m_uiMaxAlfCtrlDepth))
695  {
696    return;
697  }
698 
699  const UInt uiSymbol = pcCU->getAlfCtrlFlag( uiAbsPartIdx ) ? 1 : 0;
700  m_pcBinIf->encodeBin( uiSymbol, *m_cCUAlfCtrlFlagSCModel.get( 0 ) );
701}
702
703Void TEncSbac::codeAlfCtrlDepth()
704{
705  if (!m_bAlfCtrl)
706    return;
707 
708  UInt uiDepth = m_uiMaxAlfCtrlDepth;
709  xWriteUnaryMaxSymbol(uiDepth, m_cALFUvlcSCModel.get(0), 1, g_uiMaxCUDepth-1);
710}
711
712/** code skip flag
713 * \param pcCU
714 * \param uiAbsPartIdx
715 * \returns Void
716 */
717Void TEncSbac::codeSkipFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
718{
719  // get context function is here
720#if FORCE_REF_VSP==1
721  UInt uiSymbol = (pcCU->isSkipped( uiAbsPartIdx ) || pcCU->isVspMode( uiAbsPartIdx )) ? 1 : 0;
722#else
723  UInt uiSymbol = pcCU->isSkipped( uiAbsPartIdx ) ? 1 : 0;
724#endif
725  UInt uiCtxSkip = pcCU->getCtxSkipFlag( uiAbsPartIdx ) ;
726  m_pcBinIf->encodeBin( uiSymbol, m_cCUSkipFlagSCModel.get( 0, 0, uiCtxSkip ) );
727  DTRACE_CABAC_VL( g_nSymbolCounter++ );
728  DTRACE_CABAC_T( "\tSkipFlag" );
729  DTRACE_CABAC_T( "\tuiCtxSkip: ");
730  DTRACE_CABAC_V( uiCtxSkip );
731  DTRACE_CABAC_T( "\tuiSymbol: ");
732  DTRACE_CABAC_V( uiSymbol );
733  DTRACE_CABAC_T( "\n");
734}
735
736#if FORCE_REF_VSP==1
737Void TEncSbac::codeVspFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
738{
739  // get context function is here
740  UInt uiSymbol = (UInt)pcCU->isVspMode( uiAbsPartIdx );
741  UInt uiCtxSkip = pcCU->getCtxSkipFlag( uiAbsPartIdx ) ;
742  m_pcBinIf->encodeBin( uiSymbol, m_cCUSkipFlagSCModel.get( 0, 0, uiCtxSkip ) );
743  DTRACE_CABAC_VL( g_nSymbolCounter++ );
744  DTRACE_CABAC_T( "\tVspFlag" );
745  DTRACE_CABAC_T( "\tuiCtxSkip: ");
746  DTRACE_CABAC_V( uiCtxSkip );
747  DTRACE_CABAC_T( "\tuiSymbol: ");
748  DTRACE_CABAC_V( uiSymbol );
749  DTRACE_CABAC_T( "\n");
750}
751#endif
752
753/** code merge flag
754 * \param pcCU
755 * \param uiAbsPartIdx
756 * \returns Void
757 */
758Void TEncSbac::codeMergeFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
759{
760  const UInt uiSymbol = pcCU->getMergeFlag( uiAbsPartIdx ) ? 1 : 0;
761  m_pcBinIf->encodeBin( uiSymbol, *m_cCUMergeFlagExtSCModel.get( 0 ) );
762
763  DTRACE_CABAC_VL( g_nSymbolCounter++ );
764  DTRACE_CABAC_T( "\tMergeFlag: " );
765  DTRACE_CABAC_V( uiSymbol );
766  DTRACE_CABAC_T( "\tAddress: " );
767  DTRACE_CABAC_V( pcCU->getAddr() );
768  DTRACE_CABAC_T( "\tuiAbsPartIdx: " );
769  DTRACE_CABAC_V( uiAbsPartIdx );
770  DTRACE_CABAC_T( "\n" );
771}
772
773/** code merge index
774 * \param pcCU
775 * \param uiAbsPartIdx
776 * \returns Void
777 */
778Void TEncSbac::codeMergeIndex( TComDataCU* pcCU, UInt uiAbsPartIdx )
779{
780  UInt uiNumCand = MRG_MAX_NUM_CANDS;
781#if !MRG_IDX_CTX_RED
782  UInt auiCtx[4] = { 0, 1, 2, 3 };
783#endif
784  UInt uiUnaryIdx = pcCU->getMergeIndex( uiAbsPartIdx );
785  uiNumCand = pcCU->getSlice()->getMaxNumMergeCand();
786#if HHI_MPI
787#if VSP_TEXT_ONLY
788  TComDataCU* pcTextCU = pcCU->getSlice()->getSPS()->getUseMVI() ? pcCU->getSlice()->getTexturePic()->getCU( pcCU->getAddr() ) : NULL;
789  Int aiRefIdxVsp[2] = { pcTextCU ? pcTextCU->getCUMvField( RefPicList(0) )->getRefIdx( uiAbsPartIdx ) : -1,
790                         pcTextCU ? pcTextCU->getCUMvField( RefPicList(1) )->getRefIdx( uiAbsPartIdx ) : -1 };
791  const Bool bMVIAvailable = pcCU->getSlice()->getSPS()->getUseMVI() && pcCU->getSlice()->getSliceType() != I_SLICE
792    && !( aiRefIdxVsp[0] >= 0 && pcTextCU->getSlice()->getRefViewId( RefPicList(0), aiRefIdxVsp[0] ) == NUM_VIEW_VSP )
793    && !( aiRefIdxVsp[1] >= 0 && pcTextCU->getSlice()->getRefViewId( RefPicList(1), aiRefIdxVsp[1] ) == NUM_VIEW_VSP );
794#else
795  const Bool bMVIAvailable = pcCU->getSlice()->getSPS()->getUseMVI() && pcCU->getSlice()->getSliceType() != I_SLICE;
796#endif
797  if( bMVIAvailable )
798  {
799    const Bool bUseMVI = pcCU->getTextureModeDepth( uiAbsPartIdx ) != -1;
800    if( bUseMVI )
801    {
802      uiUnaryIdx = (UInt)HHI_MPI_MERGE_POS;
803    }
804    else if( (Int)uiUnaryIdx >= (Int)HHI_MPI_MERGE_POS )
805    {
806      uiUnaryIdx++;
807    }
808  }
809#endif
810  if ( uiNumCand > 1 )
811  {
812    for( UInt ui = 0; ui < uiNumCand - 1; ++ui )
813    {
814      const UInt uiSymbol = ui == uiUnaryIdx ? 0 : 1;
815#if MRG_IDX_CTX_RED
816      if ( ui==0 )
817      {
818        m_pcBinIf->encodeBin( uiSymbol, m_cCUMergeIdxExtSCModel.get( 0, 0, 0 ) );
819      }
820      else
821      {
822        m_pcBinIf->encodeBinEP( uiSymbol );
823      }
824#else
825      m_pcBinIf->encodeBin( uiSymbol, m_cCUMergeIdxExtSCModel.get( 0, 0, auiCtx[ui] ) );
826#endif
827      if( uiSymbol == 0 )
828      {
829        break;
830      }
831    }
832  }
833  DTRACE_CABAC_VL( g_nSymbolCounter++ );
834  DTRACE_CABAC_T( "\tparseMergeIndex()" );
835  DTRACE_CABAC_T( "\tuiMRGIdx= " );
836  DTRACE_CABAC_V( pcCU->getMergeIndex( uiAbsPartIdx ) );
837  DTRACE_CABAC_T( "\n" );
838}
839
840#if HHI_INTER_VIEW_RESIDUAL_PRED
841Void
842TEncSbac::codeResPredFlag( TComDataCU* pcCU, UInt uiAbsPartIdx )
843{
844  UInt  uiCtx     = pcCU->getCtxResPredFlag( uiAbsPartIdx );
845  UInt  uiSymbol  = ( pcCU->getResPredFlag( uiAbsPartIdx ) ? 1 : 0 );
846  m_pcBinIf->encodeBin( uiSymbol, m_cResPredFlagSCModel.get( 0, 0, uiCtx ) );
847}
848#endif
849
850Void TEncSbac::codeSplitFlag   ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth )
851{
852  if( uiDepth == g_uiMaxCUDepth - g_uiAddCUDepth )
853    return;
854 
855  UInt uiCtx           = pcCU->getCtxSplitFlag( uiAbsPartIdx, uiDepth );
856  UInt uiCurrSplitFlag = ( pcCU->getDepth( uiAbsPartIdx ) > uiDepth ) ? 1 : 0;
857 
858  assert( uiCtx < 3 );
859  m_pcBinIf->encodeBin( uiCurrSplitFlag, m_cCUSplitFlagSCModel.get( 0, 0, uiCtx ) );
860  DTRACE_CABAC_VL( g_nSymbolCounter++ )
861  DTRACE_CABAC_T( "\tSplitFlag\n" )
862  return;
863}
864
865Void TEncSbac::codeTransformSubdivFlag( UInt uiSymbol, UInt uiCtx )
866{
867  m_pcBinIf->encodeBin( uiSymbol, m_cCUTransSubdivFlagSCModel.get( 0, 0, uiCtx ) );
868  DTRACE_CABAC_VL( g_nSymbolCounter++ )
869  DTRACE_CABAC_T( "\tparseTransformSubdivFlag()" )
870  DTRACE_CABAC_T( "\tsymbol=" )
871  DTRACE_CABAC_V( uiSymbol )
872  DTRACE_CABAC_T( "\tctx=" )
873  DTRACE_CABAC_V( uiCtx )
874  DTRACE_CABAC_T( "\n" )
875}
876
877#if LGE_EDGE_INTRA
878Void TEncSbac::xCodeEdgeIntraInfo( TComDataCU* pcCU, UInt uiPartIdx )
879{
880  UInt   uiDepth        = pcCU->getDepth( uiPartIdx ) + (pcCU->getPartitionSize( uiPartIdx ) == SIZE_NxN ? 1 : 0);
881  UInt   uiCtxEdgeIntra = pcCU->getCtxEdgeIntra( uiPartIdx );
882  UChar* pucSymbolList  = pcCU->getEdgeCode( uiPartIdx );
883  UChar  ucEdgeNumber   = pcCU->getEdgeNumber( uiPartIdx );
884  Bool   bLeft          = pcCU->getEdgeLeftFirst( uiPartIdx );
885  UChar  ucStart        = pcCU->getEdgeStartPos( uiPartIdx );
886  UInt   uiSymbol;
887
888  // 1. Top(0) or Left(1)
889  uiSymbol = (bLeft == false) ? 0 : 1;
890  m_pcBinIf->encodeBinEP( uiSymbol );
891
892  // 2. Start position (lowest bit first)
893  uiSymbol = ucStart;
894  for( UInt ui = 6; ui > uiDepth; ui-- ) // 64(0)->6, 32(1)->5, 16(2)->4, 8(3)->3, 4(4)->2
895  {
896    m_pcBinIf->encodeBinEP( uiSymbol & 0x1 );
897    uiSymbol >>= 1;
898  }
899
900  // 3. Number of edges
901  uiSymbol = ucEdgeNumber > 0 ? ucEdgeNumber - 1 : 0;
902  for( UInt ui = 7; ui > uiDepth; ui-- ) // 64(0)->7, 32(1)->6, 16(2)->5, 8(3)->4, 4(4)->3
903  {
904    m_pcBinIf->encodeBinEP( uiSymbol & 0x1 );
905    uiSymbol >>= 1;
906  }
907
908  if(uiSymbol != 0)
909  {
910    printf(" ucEdgeNumber %d at depth %d\n",ucEdgeNumber, uiDepth);
911    assert(false);
912  }
913
914  // 4. Edges
915  for( Int iPtr2 = 0; iPtr2 < ucEdgeNumber; iPtr2++ )
916  {
917    UInt uiReorderSymbol = pucSymbolList[iPtr2];
918
919    //printf ("Ptr = %d, Symbol = %d\n", iPtr2, uiSymbol);
920
921    // Left-friendly direction (Top start)
922    // 0 (   0deg) => 0
923    // 1 (  45deg) => 10
924    // 2 ( -45deg) => 110
925    // 3 (  90deg) => 1110
926    // 4 ( -90deg) => 11110
927    // 5 ( 135deg) => 111110
928    // 6 (-135deg) => 111111
929    // Right-friendly direction (Left start)
930    // 0 (   0deg) => 0
931    // 2 ( -45deg) => 10
932    // 1 (  45deg) => 110
933    // 4 ( -90deg) => 1110
934    // 3 (  90deg) => 11110
935    // 6 (-135deg) => 111110
936    // 5 ( 135deg) => 111111
937
938    // refer to a paper "An efficient chain code with Huffman coding"
939
940    for( UInt ui = 0; ui < uiReorderSymbol; ui++ )
941    {
942      m_pcBinIf->encodeBin( 1, m_cEdgeIntraSCModel.get( 0, 0, uiCtxEdgeIntra ) );
943    }
944
945    if( uiReorderSymbol != 6 )
946      m_pcBinIf->encodeBin( 0, m_cEdgeIntraSCModel.get( 0, 0, uiCtxEdgeIntra ) );
947  }
948}
949#endif
950
951Void TEncSbac::codeIntraDirLumaAng( TComDataCU* pcCU, UInt uiAbsPartIdx )
952{
953  UInt uiDir         = pcCU->getLumaIntraDir( uiAbsPartIdx );
954
955#if HHI_DMM_WEDGE_INTRA || HHI_DMM_PRED_TEX
956  if( pcCU->getSlice()->getSPS()->getUseDMM() && pcCU->getWidth( uiAbsPartIdx ) <= DMM_WEDGEMODEL_MAX_SIZE )
957  {
958#if LGE_EDGE_INTRA
959    m_pcBinIf->encodeBin( uiDir >= NUM_INTRA_MODE && uiDir < EDGE_INTRA_IDX, m_cDmmFlagSCModel.get(0, 0, 0) );
960#else
961    m_pcBinIf->encodeBin( uiDir >= NUM_INTRA_MODE, m_cDmmFlagSCModel.get(0, 0, 0) );
962#endif
963  }
964#if LGE_EDGE_INTRA
965  if( uiDir >= NUM_INTRA_MODE && uiDir < EDGE_INTRA_IDX )
966#else
967  if( uiDir >= NUM_INTRA_MODE )
968#endif
969  {
970    assert( pcCU->getWidth( uiAbsPartIdx ) <= DMM_WEDGEMODEL_MAX_SIZE );
971    UInt uiDMMode = uiDir - NUM_INTRA_MODE;
972
973#if HHI_DMM_WEDGE_INTRA && HHI_DMM_PRED_TEX
974    m_pcBinIf->encodeBin( (uiDMMode & 0x01),      m_cDmmModeSCModel.get(0, 0, 0) );
975    m_pcBinIf->encodeBin( (uiDMMode & 0x02) >> 1, m_cDmmModeSCModel.get(0, 0, 0) );
976
977    if( pcCU->getPartitionSize( uiAbsPartIdx ) != SIZE_NxN && pcCU->getWidth( uiAbsPartIdx ) > 4 )
978    {
979      m_pcBinIf->encodeBin( (uiDMMode & 0x04) >> 2, m_cDmmModeSCModel.get(0, 0, 0) );
980    }
981#else
982    m_pcBinIf->encodeBin( (uiDMMode & 0x01),      m_cDmmModeSCModel.get(0, 0, 0) );
983
984    if( pcCU->getPartitionSize( uiAbsPartIdx ) != SIZE_NxN && pcCU->getWidth( uiAbsPartIdx ) > 4 )
985    {
986      m_pcBinIf->encodeBin( (uiDMMode & 0x02) >> 1, m_cDmmModeSCModel.get(0, 0, 0) );
987    }
988#endif
989#if HHI_DMM_WEDGE_INTRA
990    if( uiDir == DMM_WEDGE_FULL_IDX )          { xCodeWedgeFullInfo          ( pcCU, uiAbsPartIdx ); }
991    if( uiDir == DMM_WEDGE_FULL_D_IDX )        { xCodeWedgeFullDeltaInfo     ( pcCU, uiAbsPartIdx ); }
992    if( uiDir == DMM_WEDGE_PREDDIR_IDX )       { xCodeWedgePredDirInfo       ( pcCU, uiAbsPartIdx ); }
993    if( uiDir == DMM_WEDGE_PREDDIR_D_IDX )     { xCodeWedgePredDirDeltaInfo  ( pcCU, uiAbsPartIdx ); }
994#endif
995#if HHI_DMM_PRED_TEX
996    if( uiDir == DMM_WEDGE_PREDTEX_D_IDX )     { xCodeWedgePredTexDeltaInfo  ( pcCU, uiAbsPartIdx ); }
997    if( uiDir == DMM_CONTOUR_PREDTEX_D_IDX )   { xCodeContourPredTexDeltaInfo( pcCU, uiAbsPartIdx ); }
998#endif
999  }
1000  else
1001#if LGE_EDGE_INTRA
1002    if ( uiDir >= EDGE_INTRA_IDX)
1003    {
1004      m_pcBinIf->encodeBin( 0, m_cCUIntraPredSCModel.get( 0, 0, 0 ) );
1005      m_pcBinIf->encodeBinsEP( 63, 6 );
1006      xCodeEdgeIntraInfo( pcCU, uiAbsPartIdx );
1007#if LGE_EDGE_INTRA_DELTA_DC
1008      m_pcBinIf->encodeBin( (uiDir == EDGE_INTRA_DELTA_IDX), m_cEdgeIntraDeltaDCSCModel.get(0, 0, 0) );
1009      if( uiDir == EDGE_INTRA_DELTA_IDX )
1010      {
1011        Int iDeltaDC0 = pcCU->getEdgeDeltaDC0( uiAbsPartIdx );
1012        Int iDeltaDC1 = pcCU->getEdgeDeltaDC1( uiAbsPartIdx );
1013
1014        xWriteExGolombLevel( UInt( abs( iDeltaDC0 ) ), m_cEdgeIntraDeltaDCSCModel.get(0, 0, 1) );
1015        if ( iDeltaDC0 != 0 )
1016        {
1017          UInt uiSign = iDeltaDC0 > 0 ? 0 : 1;
1018          m_pcBinIf->encodeBinEP( uiSign );
1019        }
1020        xWriteExGolombLevel( UInt( abs( iDeltaDC1 ) ), m_cEdgeIntraDeltaDCSCModel.get(0, 0, 1) );
1021        if ( iDeltaDC1 != 0 )
1022        {
1023          UInt uiSign = iDeltaDC1 > 0 ? 0 : 1;
1024          m_pcBinIf->encodeBinEP( uiSign );
1025        }
1026      }
1027#endif
1028    }
1029    else
1030#endif // LGE_EDGE_INTRA
1031  {
1032#endif
1033#if !LOGI_INTRA_NAME_3MPM
1034  Int iIntraIdx = pcCU->getIntraSizeIdx(uiAbsPartIdx);
1035#endif
1036#if LGE_EDGE_INTRA
1037  Bool bCodeEdgeIntra = false;
1038  if( pcCU->getSlice()->getSPS()->isDepth() )
1039  {
1040    UInt uiPUWidth = pcCU->getWidth( uiAbsPartIdx ) >> (pcCU->getPartitionSize( uiAbsPartIdx ) == SIZE_NxN ? 1 : 0);
1041    if( uiPUWidth <= LGE_EDGE_INTRA_MAX_SIZE && uiPUWidth >= LGE_EDGE_INTRA_MIN_SIZE )
1042      bCodeEdgeIntra = true;
1043  }
1044#endif
1045 
1046#if LOGI_INTRA_NAME_3MPM
1047  Int uiPreds[3] = {-1, -1, -1};
1048#else
1049  Int uiPreds[2] = {-1, -1};
1050#endif
1051  Int uiPredNum = pcCU->getIntraDirLumaPredictor(uiAbsPartIdx, uiPreds); 
1052
1053  Int uiPredIdx = -1;
1054
1055  for(UInt i = 0; i < uiPredNum; i++)
1056  {
1057    if(uiDir == uiPreds[i])
1058    {
1059      uiPredIdx = i;
1060    }
1061  }
1062 
1063  if(uiPredIdx != -1)
1064  {
1065    m_pcBinIf->encodeBin( 1, m_cCUIntraPredSCModel.get( 0, 0, 0 ) );
1066#if LOGI_INTRA_NAME_3MPM
1067    m_pcBinIf->encodeBinEP( uiPredIdx ? 1 : 0 );
1068    if (uiPredIdx)
1069    {
1070      m_pcBinIf->encodeBinEP( uiPredIdx-1 );
1071    }
1072#else
1073    m_pcBinIf->encodeBinEP( uiPredIdx );
1074#endif
1075  }
1076  else
1077  {
1078    m_pcBinIf->encodeBin( 0, m_cCUIntraPredSCModel.get( 0, 0, 0 ) );
1079 
1080#if LOGI_INTRA_NAME_3MPM
1081    if (uiPreds[0] > uiPreds[1])
1082    { 
1083      std::swap(uiPreds[0], uiPreds[1]); 
1084    }
1085    if (uiPreds[0] > uiPreds[2])
1086    {
1087      std::swap(uiPreds[0], uiPreds[2]);
1088    }
1089    if (uiPreds[1] > uiPreds[2])
1090    {
1091      std::swap(uiPreds[1], uiPreds[2]);
1092    }
1093#endif
1094
1095    for(Int i = (uiPredNum - 1); i >= 0; i--)
1096    {
1097      uiDir = uiDir > uiPreds[i] ? uiDir - 1 : uiDir;
1098    }
1099
1100#if LOGI_INTRA_NAME_3MPM
1101    m_pcBinIf->encodeBinsEP( uiDir, 5 );
1102#if LGE_EDGE_INTRA
1103  if (bCodeEdgeIntra)
1104    if (uiDir == 31) m_pcBinIf->encodeBinsEP(0,1);
1105#endif
1106#else
1107    if ( uiDir < 31 )
1108    {
1109      m_pcBinIf->encodeBinsEP( uiDir, g_aucIntraModeBitsAng[ iIntraIdx ] - 1 );
1110    }
1111    else
1112    {
1113      m_pcBinIf->encodeBinsEP( 31, 5 );
1114      m_pcBinIf->encodeBinEP( uiDir - 31 );
1115    }
1116#endif
1117   }
1118#if HHI_DMM_WEDGE_INTRA || HHI_DMM_PRED_TEX
1119  }
1120#endif
1121  return;
1122}
1123
1124Void TEncSbac::codeIntraDirChroma( TComDataCU* pcCU, UInt uiAbsPartIdx )
1125{
1126  UInt uiIntraDirChroma = pcCU->getChromaIntraDir( uiAbsPartIdx );
1127
1128  if( uiIntraDirChroma == DM_CHROMA_IDX ) 
1129  {
1130    m_pcBinIf->encodeBin( 0, m_cCUChromaPredSCModel.get( 0, 0, 0 ) );
1131  } 
1132  else if( uiIntraDirChroma == LM_CHROMA_IDX )
1133  {
1134    m_pcBinIf->encodeBin( 1, m_cCUChromaPredSCModel.get( 0, 0, 0 ) );
1135    m_pcBinIf->encodeBin( 0, m_cCUChromaPredSCModel.get( 0, 0, 1 ) );
1136  }
1137  else
1138  { 
1139    UInt uiAllowedChromaDir[ NUM_CHROMA_MODE ];
1140    pcCU->getAllowedChromaDir( uiAbsPartIdx, uiAllowedChromaDir );
1141
1142    for( Int i = 0; i < NUM_CHROMA_MODE - 2; i++ )
1143    {
1144      if( uiIntraDirChroma == uiAllowedChromaDir[i] )
1145      {
1146        uiIntraDirChroma = i;
1147        break;
1148      }
1149    }
1150    m_pcBinIf->encodeBin( 1, m_cCUChromaPredSCModel.get( 0, 0, 0 ) );
1151
1152    if (pcCU->getSlice()->getSPS()->getUseLMChroma())
1153    {
1154      m_pcBinIf->encodeBin( 1, m_cCUChromaPredSCModel.get( 0, 0, 1 ));
1155    }
1156#if  CHROMA_MODE_CODING
1157    m_pcBinIf->encodeBinsEP( uiIntraDirChroma, 2 );
1158#else
1159    xWriteUnaryMaxSymbol( uiIntraDirChroma, m_cCUChromaPredSCModel.get( 0, 0 ) + 1, 0, 3 );
1160#endif
1161  }
1162  return;
1163}
1164
1165Void TEncSbac::codeInterDir( TComDataCU* pcCU, UInt uiAbsPartIdx )
1166{
1167  const UInt uiInterDir = pcCU->getInterDir( uiAbsPartIdx ) - 1;
1168  const UInt uiCtx      = pcCU->getCtxInterDir( uiAbsPartIdx );
1169  ContextModel *pCtx    = m_cCUInterDirSCModel.get( 0 );
1170  m_pcBinIf->encodeBin( uiInterDir == 2 ? 1 : 0, *( pCtx + uiCtx ) );
1171
1172  return;
1173}
1174
1175Void TEncSbac::codeRefFrmIdx( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
1176{
1177  if ( pcCU->getSlice()->getNumRefIdx(REF_PIC_LIST_C) > 0 && pcCU->getInterDir( uiAbsPartIdx ) != 3)
1178  {
1179    Int iRefFrame = pcCU->getSlice()->getRefIdxOfLC(eRefList, pcCU->getCUMvField( eRefList )->getRefIdx( uiAbsPartIdx ));
1180
1181    ContextModel *pCtx = m_cCURefPicSCModel.get( 0 );
1182    m_pcBinIf->encodeBin( ( iRefFrame == 0 ? 0 : 1 ), *pCtx );
1183
1184    if( iRefFrame > 0 )
1185    {
1186      xWriteUnaryMaxSymbol( iRefFrame - 1, pCtx + 1, 1, pcCU->getSlice()->getNumRefIdx( REF_PIC_LIST_C )-2 );
1187    }
1188  }
1189  else
1190  {
1191    Int iRefFrame = pcCU->getCUMvField( eRefList )->getRefIdx( uiAbsPartIdx );
1192    ContextModel *pCtx = m_cCURefPicSCModel.get( 0 );
1193    m_pcBinIf->encodeBin( ( iRefFrame == 0 ? 0 : 1 ), *pCtx );
1194   
1195    if( iRefFrame > 0 )
1196    {
1197      xWriteUnaryMaxSymbol( iRefFrame - 1, pCtx + 1, 1, pcCU->getSlice()->getNumRefIdx( eRefList )-2 );
1198    }
1199  }
1200  return;
1201}
1202
1203Void TEncSbac::codeMvd( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )
1204{
1205#if H0111_MVD_L1_ZERO
1206  if(pcCU->getSlice()->getMvdL1ZeroFlag() && eRefList == REF_PIC_LIST_1 && pcCU->getInterDir(uiAbsPartIdx)==3)
1207  {
1208    return;
1209  }
1210#endif
1211
1212  const TComCUMvField* pcCUMvField = pcCU->getCUMvField( eRefList );
1213  const Int iHor = pcCUMvField->getMvd( uiAbsPartIdx ).getHor();
1214  const Int iVer = pcCUMvField->getMvd( uiAbsPartIdx ).getVer();
1215  ContextModel* pCtx = m_cCUMvdSCModel.get( 0 );
1216
1217  m_pcBinIf->encodeBin( iHor != 0 ? 1 : 0, *pCtx );
1218  m_pcBinIf->encodeBin( iVer != 0 ? 1 : 0, *pCtx );
1219
1220  const Bool bHorAbsGr0 = iHor != 0;
1221  const Bool bVerAbsGr0 = iVer != 0;
1222  const UInt uiHorAbs   = 0 > iHor ? -iHor : iHor;
1223  const UInt uiVerAbs   = 0 > iVer ? -iVer : iVer;
1224  pCtx++;
1225
1226  if( bHorAbsGr0 )
1227  {
1228    m_pcBinIf->encodeBin( uiHorAbs > 1 ? 1 : 0, *pCtx );
1229  }
1230
1231  if( bVerAbsGr0 )
1232  {
1233    m_pcBinIf->encodeBin( uiVerAbs > 1 ? 1 : 0, *pCtx );
1234  }
1235
1236  if( bHorAbsGr0 )
1237  {
1238    if( uiHorAbs > 1 )
1239    {
1240      xWriteEpExGolomb( uiHorAbs-2, 1 );
1241    }
1242
1243    m_pcBinIf->encodeBinEP( 0 > iHor ? 1 : 0 );
1244  }
1245
1246  if( bVerAbsGr0 )
1247  {
1248    if( uiVerAbs > 1 )
1249    {
1250      xWriteEpExGolomb( uiVerAbs-2, 1 );
1251    }
1252
1253    m_pcBinIf->encodeBinEP( 0 > iVer ? 1 : 0 );
1254  }
1255 
1256  return;
1257}
1258
1259Void TEncSbac::codeDeltaQP( TComDataCU* pcCU, UInt uiAbsPartIdx )
1260{
1261  Int iDQp  = pcCU->getQP( uiAbsPartIdx ) - pcCU->getRefQP( uiAbsPartIdx );
1262 
1263#if H0736_AVC_STYLE_QP_RANGE
1264  Int qpBdOffsetY =  pcCU->getSlice()->getSPS()->getQpBDOffsetY();
1265  iDQp = (iDQp + 78 + qpBdOffsetY + (qpBdOffsetY/2)) % (52 + qpBdOffsetY) - 26 - (qpBdOffsetY/2);
1266#else
1267#if LOSSLESS_CODING
1268  if(pcCU->getSlice()->getSPS()->getUseLossless())
1269  {
1270    if(iDQp > 25)
1271    {
1272      iDQp = iDQp - 52;
1273    }
1274    if(iDQp < -26)
1275    {
1276      iDQp = iDQp + 52;
1277    }
1278  }
1279#endif
1280#endif
1281
1282  if ( iDQp == 0 )
1283  {
1284    m_pcBinIf->encodeBin( 0, m_cCUDeltaQpSCModel.get( 0, 0, 0 ) );
1285  }
1286  else
1287  {
1288    m_pcBinIf->encodeBin( 1, m_cCUDeltaQpSCModel.get( 0, 0, 0 ) );
1289   
1290    UInt uiSign = (iDQp > 0 ? 0 : 1);
1291#if !H0736_AVC_STYLE_QP_RANGE
1292    UInt uiQpBdOffsetY = 6*(g_uiBitIncrement + g_uiBitDepth - 8);
1293#endif
1294
1295    m_pcBinIf->encodeBinEP(uiSign);
1296
1297#if H0736_AVC_STYLE_QP_RANGE
1298    assert(iDQp >= -(26+(qpBdOffsetY/2)));
1299    assert(iDQp <=  (25+(qpBdOffsetY/2)));
1300
1301    UInt uiMaxAbsDQpMinus1 = 24 + (qpBdOffsetY/2) + (uiSign);
1302#else
1303    assert(iDQp >= -(26+(Int)(uiQpBdOffsetY/2)));
1304    assert(iDQp <=  (25+(Int)(uiQpBdOffsetY/2)));
1305
1306    UInt uiMaxAbsDQpMinus1 = 24 + (uiQpBdOffsetY/2) + (uiSign);
1307#endif
1308    UInt uiAbsDQpMinus1 = (UInt)((iDQp > 0)? iDQp  : (-iDQp)) - 1;
1309    xWriteUnaryMaxSymbol( uiAbsDQpMinus1, &m_cCUDeltaQpSCModel.get( 0, 0, 1 ), 1, uiMaxAbsDQpMinus1);
1310  }
1311 
1312  return;
1313}
1314
1315Void TEncSbac::codeQtCbf( TComDataCU* pcCU, UInt uiAbsPartIdx, TextType eType, UInt uiTrDepth )
1316{
1317  UInt uiCbf = pcCU->getCbf     ( uiAbsPartIdx, eType, uiTrDepth );
1318  UInt uiCtx = pcCU->getCtxQtCbf( uiAbsPartIdx, eType, uiTrDepth );
1319  m_pcBinIf->encodeBin( uiCbf , m_cCUQtCbfSCModel.get( 0, eType ? TEXT_CHROMA : eType, uiCtx ) );
1320  DTRACE_CABAC_VL( g_nSymbolCounter++ )
1321  DTRACE_CABAC_T( "\tparseQtCbf()" )
1322  DTRACE_CABAC_T( "\tsymbol=" )
1323  DTRACE_CABAC_V( uiCbf )
1324  DTRACE_CABAC_T( "\tctx=" )
1325  DTRACE_CABAC_V( uiCtx )
1326  DTRACE_CABAC_T( "\tetype=" )
1327  DTRACE_CABAC_V( eType )
1328  DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
1329  DTRACE_CABAC_V( uiAbsPartIdx )
1330  DTRACE_CABAC_T( "\n" )
1331}
1332
1333#if BURST_IPCM
1334/** Code I_PCM information.
1335 * \param pcCU pointer to CU
1336 * \param uiAbsPartIdx CU index
1337 * \param numIPCM the number of succesive IPCM blocks with the same size
1338 * \param firstIPCMFlag
1339 * \returns Void
1340 */
1341Void TEncSbac::codeIPCMInfo( TComDataCU* pcCU, UInt uiAbsPartIdx, Int numIPCM, Bool firstIPCMFlag)
1342#else
1343/** Code I_PCM information.
1344 * \param pcCU pointer to CU
1345 * \param uiAbsPartIdx CU index
1346 * \returns Void
1347 *
1348 * If I_PCM flag indicates that the CU is I_PCM, code its PCM alignment bits and codes. 
1349 */
1350Void TEncSbac::codeIPCMInfo( TComDataCU* pcCU, UInt uiAbsPartIdx)
1351#endif
1352{
1353  UInt uiIPCM = (pcCU->getIPCMFlag(uiAbsPartIdx) == true)? 1 : 0;
1354
1355#if BURST_IPCM
1356  Bool writePCMSampleFlag = pcCU->getIPCMFlag(uiAbsPartIdx);
1357
1358  if( uiIPCM == 0 || firstIPCMFlag)
1359  {
1360    m_pcBinIf->encodeBinTrm (uiIPCM);
1361
1362    if ( firstIPCMFlag )
1363    {
1364      m_pcBinIf->encodeNumSubseqIPCM( numIPCM - 1 );
1365      m_pcBinIf->encodePCMAlignBits();
1366    }
1367  }
1368#else
1369  m_pcBinIf->encodeBinTrm (uiIPCM);
1370#endif
1371
1372#if BURST_IPCM
1373  if (writePCMSampleFlag)
1374#else
1375  if (uiIPCM)
1376#endif
1377  {
1378#if !BURST_IPCM
1379    m_pcBinIf->encodePCMAlignBits();
1380#endif
1381    UInt uiMinCoeffSize = pcCU->getPic()->getMinCUWidth()*pcCU->getPic()->getMinCUHeight();
1382    UInt uiLumaOffset   = uiMinCoeffSize*uiAbsPartIdx;
1383    UInt uiChromaOffset = uiLumaOffset>>2;
1384    Pel* piPCMSample;
1385    UInt uiWidth;
1386    UInt uiHeight;
1387    UInt uiSampleBits;
1388    UInt uiX, uiY;
1389
1390    piPCMSample = pcCU->getPCMSampleY() + uiLumaOffset;
1391    uiWidth = pcCU->getWidth(uiAbsPartIdx);
1392    uiHeight = pcCU->getHeight(uiAbsPartIdx);
1393    uiSampleBits = pcCU->getSlice()->getSPS()->getPCMBitDepthLuma();
1394
1395    for(uiY = 0; uiY < uiHeight; uiY++)
1396    {
1397      for(uiX = 0; uiX < uiWidth; uiX++)
1398      {
1399        UInt uiSample = piPCMSample[uiX];
1400
1401        m_pcBinIf->xWritePCMCode(uiSample, uiSampleBits);
1402      }
1403      piPCMSample += uiWidth;
1404    }
1405
1406    piPCMSample = pcCU->getPCMSampleCb() + uiChromaOffset;
1407    uiWidth = pcCU->getWidth(uiAbsPartIdx)/2;
1408    uiHeight = pcCU->getHeight(uiAbsPartIdx)/2;
1409    uiSampleBits = pcCU->getSlice()->getSPS()->getPCMBitDepthChroma();
1410
1411    for(uiY = 0; uiY < uiHeight; uiY++)
1412    {
1413      for(uiX = 0; uiX < uiWidth; uiX++)
1414      {
1415        UInt uiSample = piPCMSample[uiX];
1416
1417        m_pcBinIf->xWritePCMCode(uiSample, uiSampleBits);
1418      }
1419      piPCMSample += uiWidth;
1420    }
1421
1422    piPCMSample = pcCU->getPCMSampleCr() + uiChromaOffset;
1423    uiWidth = pcCU->getWidth(uiAbsPartIdx)/2;
1424    uiHeight = pcCU->getHeight(uiAbsPartIdx)/2;
1425    uiSampleBits = pcCU->getSlice()->getSPS()->getPCMBitDepthChroma();
1426
1427    for(uiY = 0; uiY < uiHeight; uiY++)
1428    {
1429      for(uiX = 0; uiX < uiWidth; uiX++)
1430      {
1431        UInt uiSample = piPCMSample[uiX];
1432
1433        m_pcBinIf->xWritePCMCode(uiSample, uiSampleBits);
1434      }
1435      piPCMSample += uiWidth;
1436    }
1437#if BURST_IPCM
1438    numIPCM--;
1439    if(numIPCM == 0)
1440    {
1441      m_pcBinIf->resetBac();
1442    }
1443#else
1444    m_pcBinIf->resetBac();
1445#endif
1446  }
1447}
1448
1449Void TEncSbac::codeQtRootCbf( TComDataCU* pcCU, UInt uiAbsPartIdx )
1450{
1451  UInt uiCbf = pcCU->getQtRootCbf( uiAbsPartIdx );
1452  UInt uiCtx = 0;
1453  m_pcBinIf->encodeBin( uiCbf , m_cCUQtRootCbfSCModel.get( 0, 0, uiCtx ) );
1454  DTRACE_CABAC_VL( g_nSymbolCounter++ )
1455  DTRACE_CABAC_T( "\tparseQtRootCbf()" )
1456  DTRACE_CABAC_T( "\tsymbol=" )
1457  DTRACE_CABAC_V( uiCbf )
1458  DTRACE_CABAC_T( "\tctx=" )
1459  DTRACE_CABAC_V( uiCtx )
1460  DTRACE_CABAC_T( "\tuiAbsPartIdx=" )
1461  DTRACE_CABAC_V( uiAbsPartIdx )
1462  DTRACE_CABAC_T( "\n" )
1463}
1464
1465/** Encode (X,Y) position of the last significant coefficient
1466 * \param uiPosX X component of last coefficient
1467 * \param uiPosY Y component of last coefficient
1468 * \param width  Block width
1469 * \param height Block height
1470 * \param eTType plane type / luminance or chrominance
1471 * \param uiScanIdx scan type (zig-zag, hor, ver)
1472 * This method encodes the X and Y component within a block of the last significant coefficient.
1473 */
1474Void TEncSbac::codeLastSignificantXY( UInt uiPosX, UInt uiPosY, Int width, Int height, TextType eTType, UInt uiScanIdx )
1475{ 
1476  // swap
1477  if( uiScanIdx == SCAN_VER )
1478  {
1479    swap( uiPosX, uiPosY );
1480  }
1481
1482  UInt uiCtxLast;
1483  ContextModel *pCtxX = m_cCuCtxLastX.get( 0, eTType );
1484  ContextModel *pCtxY = m_cCuCtxLastY.get( 0, eTType );
1485  UInt uiGroupIdxX    = g_uiGroupIdx[ uiPosX ];
1486  UInt uiGroupIdxY    = g_uiGroupIdx[ uiPosY ];
1487
1488  // posX
1489#if LAST_CTX_REDUCTION
1490  Int widthCtx = eTType? 4: width;
1491  const UInt *puiCtxIdxX = g_uiLastCtx + ( g_aucConvertToBit[ widthCtx ] * ( g_aucConvertToBit[ widthCtx ] + 3 ) );
1492#else
1493  const UInt *puiCtxIdxX = g_uiLastCtx + ( g_aucConvertToBit[ width ] * ( g_aucConvertToBit[ width ] + 3 ) );
1494#endif
1495  for( uiCtxLast = 0; uiCtxLast < uiGroupIdxX; uiCtxLast++ )
1496  {
1497#if LAST_CTX_REDUCTION
1498    if (eTType)
1499    {
1500      m_pcBinIf->encodeBin( 1, *( pCtxX + (uiCtxLast>>g_aucConvertToBit[ width ]) ) );
1501    }
1502    else
1503    {
1504#endif
1505      m_pcBinIf->encodeBin( 1, *( pCtxX + puiCtxIdxX[ uiCtxLast ] ) );
1506#if LAST_CTX_REDUCTION
1507    }
1508#endif
1509  }
1510  if( uiGroupIdxX < g_uiGroupIdx[ width - 1 ])
1511  {
1512#if LAST_CTX_REDUCTION
1513    if ( eTType )
1514    {
1515      m_pcBinIf->encodeBin( 0, *( pCtxX + (uiCtxLast>>g_aucConvertToBit[ width ]) ) );
1516    }
1517    else
1518    {
1519#endif
1520      m_pcBinIf->encodeBin( 0, *( pCtxX + puiCtxIdxX[ uiCtxLast ] ) );
1521#if LAST_CTX_REDUCTION
1522    }
1523#endif
1524  }
1525
1526  // posY
1527#if LAST_CTX_REDUCTION
1528  Int heightCtx = eTType? 4: height;
1529  const UInt *puiCtxIdxY = g_uiLastCtx + ( g_aucConvertToBit[ heightCtx ] * ( g_aucConvertToBit[ heightCtx ] + 3 ) );
1530#else
1531  const UInt *puiCtxIdxY = g_uiLastCtx + ( g_aucConvertToBit[ height ] * ( g_aucConvertToBit[ height ] + 3 ) );
1532#endif
1533  for( uiCtxLast = 0; uiCtxLast < uiGroupIdxY; uiCtxLast++ )
1534  {
1535#if LAST_CTX_REDUCTION
1536    if (eTType)
1537    {
1538      m_pcBinIf->encodeBin( 1, *( pCtxY + (uiCtxLast>>g_aucConvertToBit[ height ])));
1539    }
1540    else
1541    {
1542#endif
1543      m_pcBinIf->encodeBin( 1, *( pCtxY + puiCtxIdxY[ uiCtxLast ] ) );
1544#if LAST_CTX_REDUCTION
1545    }
1546#endif
1547  }
1548  if( uiGroupIdxY < g_uiGroupIdx[ height - 1 ])
1549  {
1550#if LAST_CTX_REDUCTION
1551    if (eTType)
1552    {
1553      m_pcBinIf->encodeBin( 0, *( pCtxY + (uiCtxLast>>g_aucConvertToBit[ height ]) ) );
1554    }
1555    else
1556    {
1557#endif
1558      m_pcBinIf->encodeBin( 0, *( pCtxY + puiCtxIdxY[ uiCtxLast ] ) );
1559#if LAST_CTX_REDUCTION
1560    }
1561#endif
1562    }
1563  if ( uiGroupIdxX > 3 )
1564  {     
1565    UInt uiCount = ( uiGroupIdxX - 2 ) >> 1;
1566    uiPosX       = uiPosX - g_uiMinInGroup[ uiGroupIdxX ];
1567    for (Int i = uiCount - 1 ; i >= 0; i-- )
1568    {
1569      m_pcBinIf->encodeBinEP( ( uiPosX >> i ) & 1 );
1570    }
1571  }
1572  if ( uiGroupIdxY > 3 )
1573  {     
1574    UInt uiCount = ( uiGroupIdxY - 2 ) >> 1;
1575    uiPosY       = uiPosY - g_uiMinInGroup[ uiGroupIdxY ];
1576    for ( Int i = uiCount - 1 ; i >= 0; i-- )
1577    {
1578      m_pcBinIf->encodeBinEP( ( uiPosY >> i ) & 1 );
1579    }
1580  }
1581}
1582
1583Void TEncSbac::codeCoeffNxN( TComDataCU* pcCU, TCoeff* pcCoef, UInt uiAbsPartIdx, UInt uiWidth, UInt uiHeight, UInt uiDepth, TextType eTType )
1584{
1585  DTRACE_CABAC_VL( g_nSymbolCounter++ )
1586  DTRACE_CABAC_T( "\tparseCoeffNxN()\teType=" )
1587  DTRACE_CABAC_V( eTType )
1588  DTRACE_CABAC_T( "\twidth=" )
1589  DTRACE_CABAC_V( uiWidth )
1590  DTRACE_CABAC_T( "\theight=" )
1591  DTRACE_CABAC_V( uiHeight )
1592  DTRACE_CABAC_T( "\tdepth=" )
1593  DTRACE_CABAC_V( uiDepth )
1594  DTRACE_CABAC_T( "\tabspartidx=" )
1595  DTRACE_CABAC_V( uiAbsPartIdx )
1596  DTRACE_CABAC_T( "\ttoCU-X=" )
1597  DTRACE_CABAC_V( pcCU->getCUPelX() )
1598  DTRACE_CABAC_T( "\ttoCU-Y=" )
1599  DTRACE_CABAC_V( pcCU->getCUPelY() )
1600  DTRACE_CABAC_T( "\tCU-addr=" )
1601  DTRACE_CABAC_V(  pcCU->getAddr() )
1602  DTRACE_CABAC_T( "\tinCU-X=" )
1603  DTRACE_CABAC_V( g_auiRasterToPelX[ g_auiZscanToRaster[uiAbsPartIdx] ] )
1604  DTRACE_CABAC_T( "\tinCU-Y=" )
1605  DTRACE_CABAC_V( g_auiRasterToPelY[ g_auiZscanToRaster[uiAbsPartIdx] ] )
1606  DTRACE_CABAC_T( "\tpredmode=" )
1607  DTRACE_CABAC_V(  pcCU->getPredictionMode( uiAbsPartIdx ) )
1608  DTRACE_CABAC_T( "\n" )
1609
1610  if( uiWidth > m_pcSlice->getSPS()->getMaxTrSize() )
1611  {
1612    uiWidth  = m_pcSlice->getSPS()->getMaxTrSize();
1613    uiHeight = m_pcSlice->getSPS()->getMaxTrSize();
1614  }
1615 
1616  UInt uiNumSig = 0;
1617 
1618  // compute number of significant coefficients
1619  uiNumSig = TEncEntropy::countNonZeroCoeffs(pcCoef, uiWidth * uiHeight);
1620 
1621  if ( uiNumSig == 0 )
1622    return;
1623 
1624  eTType = eTType == TEXT_LUMA ? TEXT_LUMA : ( eTType == TEXT_NONE ? TEXT_NONE : TEXT_CHROMA );
1625 
1626  //----- encode significance map -----
1627  const UInt   uiLog2BlockSize   = g_aucConvertToBit[ uiWidth ] + 2;
1628  UInt uiScanIdx = pcCU->getCoefScanIdx(uiAbsPartIdx, uiWidth, eTType==TEXT_LUMA, pcCU->isIntra(uiAbsPartIdx));
1629  if (uiScanIdx == SCAN_ZIGZAG)
1630  {
1631    // Map zigzag to diagonal scan
1632    uiScanIdx = SCAN_DIAG;
1633  }
1634  Int blockType = uiLog2BlockSize;
1635  if (uiWidth != uiHeight)
1636  {
1637    uiScanIdx = SCAN_DIAG;
1638    blockType = 4;
1639  }
1640 
1641  const UInt * scan;
1642  if (uiWidth == uiHeight)
1643  {
1644    scan = g_auiSigLastScan[ uiScanIdx ][ uiLog2BlockSize - 1 ];
1645  }
1646  else
1647  {
1648    scan = g_sigScanNSQT[ uiLog2BlockSize - 2 ];
1649  }
1650 
1651#if MULTIBITS_DATA_HIDING
1652  UInt const tsig = pcCU->getSlice()->getPPS()->getTSIG();
1653#if LOSSLESS_CODING
1654  Bool beValid; 
1655  if (pcCU->isLosslessCoded(uiAbsPartIdx))
1656  {
1657    beValid = false;
1658  }
1659  else 
1660  {
1661    beValid = pcCU->getSlice()->getPPS()->getSignHideFlag() > 0;
1662  }
1663#else
1664  Bool beValid = pcCU->getSlice()->getPPS()->getSignHideFlag() > 0;
1665#endif
1666#endif
1667
1668  // Find position of last coefficient
1669  Int scanPosLast = -1;
1670  Int posLast;
1671
1672  const UInt * scanCG;
1673  if (uiWidth == uiHeight)
1674  {
1675    scanCG = g_auiSigLastScan[ uiScanIdx ][ uiLog2BlockSize > 3 ? uiLog2BlockSize-2-1 : 0 ];
1676#if MULTILEVEL_SIGMAP_EXT
1677    if( uiLog2BlockSize == 3 )
1678    {
1679      scanCG = g_sigLastScan8x8[ uiScanIdx ];
1680    }
1681    else if( uiLog2BlockSize == 5 )
1682    {
1683      scanCG = g_sigLastScanCG32x32;
1684    }
1685#endif
1686  }
1687  else
1688  {
1689    scanCG = g_sigCGScanNSQT[ uiLog2BlockSize - 2 ];
1690  }
1691  UInt uiSigCoeffGroupFlag[ MLS_GRP_NUM ];
1692  static const UInt uiShift = MLS_CG_SIZE >> 1;
1693  const UInt uiNumBlkSide = uiWidth >> uiShift;
1694
1695#if !MULTILEVEL_SIGMAP_EXT
1696  if( blockType > 3 )
1697  {
1698#endif
1699    ::memset( uiSigCoeffGroupFlag, 0, sizeof(UInt) * MLS_GRP_NUM );
1700
1701    do
1702    {
1703      posLast = scan[ ++scanPosLast ];
1704
1705      // get L1 sig map
1706      UInt uiPosY    = posLast >> uiLog2BlockSize;
1707      UInt uiPosX    = posLast - ( uiPosY << uiLog2BlockSize );
1708      UInt uiBlkIdx  = uiNumBlkSide * (uiPosY >> uiShift) + (uiPosX >> uiShift);
1709#if MULTILEVEL_SIGMAP_EXT
1710      if( uiWidth == 8 && uiHeight == 8 && (uiScanIdx == SCAN_HOR || uiScanIdx == SCAN_VER) )
1711      {
1712        if( uiScanIdx == SCAN_HOR )
1713        {
1714          uiBlkIdx = uiPosY >> 1;
1715        }
1716        else if( uiScanIdx == SCAN_VER )
1717        {
1718          uiBlkIdx = uiPosX >> 1;
1719        }
1720      }
1721#endif
1722      if( pcCoef[ posLast ] )
1723      {
1724        uiSigCoeffGroupFlag[ uiBlkIdx ] = 1;
1725      }
1726
1727      uiNumSig -= ( pcCoef[ posLast ] != 0 );
1728    }
1729    while ( uiNumSig > 0 );
1730#if !MULTILEVEL_SIGMAP_EXT
1731  }
1732  else
1733  {
1734 
1735  do
1736  {
1737    posLast = scan[ ++scanPosLast ];
1738    uiNumSig -= ( pcCoef[ posLast ] != 0 );
1739  }
1740  while ( uiNumSig > 0 );
1741
1742  }
1743#endif
1744
1745  // Code position of last coefficient
1746  Int posLastY = posLast >> uiLog2BlockSize;
1747  Int posLastX = posLast - ( posLastY << uiLog2BlockSize );
1748  codeLastSignificantXY(posLastX, posLastY, uiWidth, uiHeight, eTType, uiScanIdx);
1749 
1750  //===== code significance flag =====
1751  ContextModel * const baseCoeffGroupCtx = m_cCUSigCoeffGroupSCModel.get( 0, eTType );
1752  ContextModel * const baseCtx = (eTType==TEXT_LUMA) ? m_cCUSigSCModel.get( 0, 0 ) : m_cCUSigSCModel.get( 0, 0 ) + NUM_SIG_FLAG_CTX_LUMA;
1753
1754
1755  const Int  iLastScanSet      = scanPosLast >> LOG2_SCAN_SET_SIZE;
1756  UInt uiNumOne                = 0;
1757  UInt uiGoRiceParam           = 0;
1758  Int  iScanPosSig             = scanPosLast;
1759
1760  for( Int iSubSet = iLastScanSet; iSubSet >= 0; iSubSet-- )
1761  {
1762    Int numNonZero = 0;
1763    Int  iSubPos     = iSubSet << LOG2_SCAN_SET_SIZE;
1764    uiGoRiceParam    = 0;
1765    Int absCoeff[16];
1766    UInt coeffSigns = 0;
1767
1768#if MULTIBITS_DATA_HIDING
1769    Int lastNZPosInCG = -1, firstNZPosInCG = SCAN_SET_SIZE;
1770#endif
1771
1772    if( iScanPosSig == scanPosLast )
1773    {
1774      absCoeff[ 0 ] = abs( pcCoef[ posLast ] );
1775      coeffSigns    = ( pcCoef[ posLast ] < 0 );
1776      numNonZero    = 1;
1777#if MULTIBITS_DATA_HIDING
1778      lastNZPosInCG  = iScanPosSig;
1779      firstNZPosInCG = iScanPosSig;
1780#endif
1781      iScanPosSig--;
1782    }
1783
1784#if !MULTILEVEL_SIGMAP_EXT
1785    if( blockType > 3 )
1786    {
1787#endif
1788      // encode significant_coeffgroup_flag
1789      Int iCGBlkPos = scanCG[ iSubSet ];
1790      Int iCGPosY   = iCGBlkPos / uiNumBlkSide;
1791      Int iCGPosX   = iCGBlkPos - (iCGPosY * uiNumBlkSide);
1792#if MULTILEVEL_SIGMAP_EXT
1793      if( uiWidth == 8 && uiHeight == 8 && (uiScanIdx == SCAN_HOR || uiScanIdx == SCAN_VER) )
1794      {
1795        iCGPosY = (uiScanIdx == SCAN_HOR ? iCGBlkPos : 0);
1796        iCGPosX = (uiScanIdx == SCAN_VER ? iCGBlkPos : 0);
1797      }
1798#endif
1799#if !REMOVE_INFER_SIGGRP
1800      Bool bInferredCGFlag = false;
1801#endif
1802#if REMOVE_INFER_SIGGRP
1803      if( iSubSet == iLastScanSet || iSubSet == 0)
1804#else     
1805      if( iSubSet == iLastScanSet )
1806#endif
1807      {
1808        uiSigCoeffGroupFlag[ iCGBlkPos ] = 1;
1809      }
1810      else
1811      {
1812#if !REMOVE_INFER_SIGGRP
1813#if MULTILEVEL_SIGMAP_EXT
1814        if( !TComTrQuant::bothCGNeighboursOne( uiSigCoeffGroupFlag, iCGPosX, iCGPosY, uiScanIdx, uiWidth, uiHeight ) && ( iSubSet ) )
1815#else
1816        if( !TComTrQuant::bothCGNeighboursOne( uiSigCoeffGroupFlag, iCGPosX, iCGPosY, uiWidth, uiHeight ) && ( iSubSet ) )
1817#endif
1818        {
1819#endif
1820          UInt uiSigCoeffGroup   = (uiSigCoeffGroupFlag[ iCGBlkPos ] != 0);
1821#if MULTILEVEL_SIGMAP_EXT
1822          UInt uiCtxSig  = TComTrQuant::getSigCoeffGroupCtxInc( uiSigCoeffGroupFlag, iCGPosX, iCGPosY, uiScanIdx, uiWidth, uiHeight );
1823#else
1824          UInt uiCtxSig  = TComTrQuant::getSigCoeffGroupCtxInc( uiSigCoeffGroupFlag, iCGPosX, iCGPosY, uiWidth, uiHeight );
1825#endif
1826          m_pcBinIf->encodeBin( uiSigCoeffGroup, baseCoeffGroupCtx[ uiCtxSig ] );
1827#if !REMOVE_INFER_SIGGRP
1828        }
1829        else
1830        {
1831          uiSigCoeffGroupFlag[ iCGBlkPos ] = 1;
1832          bInferredCGFlag = true;
1833        }
1834#endif
1835      }
1836     
1837      // encode significant_coeff_flag
1838      if( uiSigCoeffGroupFlag[ iCGBlkPos ] )
1839      {
1840        UInt uiBlkPos, uiPosY, uiPosX, uiSig, uiCtxSig;
1841        for( ; iScanPosSig >= iSubPos; iScanPosSig-- )
1842        {
1843          uiBlkPos  = scan[ iScanPosSig ]; 
1844          uiPosY    = uiBlkPos >> uiLog2BlockSize;
1845          uiPosX    = uiBlkPos - ( uiPosY << uiLog2BlockSize );
1846          uiSig     = (pcCoef[ uiBlkPos ] != 0);
1847#if REMOVE_INFER_SIGGRP
1848          if( iScanPosSig > iSubPos || iSubSet == 0 || numNonZero )
1849#else
1850          if( iScanPosSig > iSubPos || bInferredCGFlag || numNonZero )
1851#endif
1852          {
1853            uiCtxSig  = TComTrQuant::getSigCtxInc( pcCoef, uiPosX, uiPosY, blockType, uiWidth, uiHeight, eTType );
1854            m_pcBinIf->encodeBin( uiSig, baseCtx[ uiCtxSig ] );
1855          }
1856          if( uiSig )
1857          {
1858            absCoeff[ numNonZero ] = abs( pcCoef[ uiBlkPos ] );
1859            coeffSigns = 2 * coeffSigns + ( pcCoef[ uiBlkPos ] < 0 );
1860            numNonZero++;
1861#if MULTIBITS_DATA_HIDING
1862            if( lastNZPosInCG == -1 )
1863            {
1864              lastNZPosInCG = iScanPosSig;
1865            }
1866            firstNZPosInCG = iScanPosSig;
1867#endif
1868          }
1869        }
1870      }
1871      else
1872      {
1873        iScanPosSig = iSubPos - 1;
1874      }
1875#if !MULTILEVEL_SIGMAP_EXT
1876    } 
1877    else
1878    {
1879
1880    for( ; iScanPosSig >= iSubPos; iScanPosSig-- )
1881    {
1882      UInt  uiBlkPos  = scan[ iScanPosSig ]; 
1883      UInt  uiPosY    = uiBlkPos >> uiLog2BlockSize;
1884      UInt  uiPosX    = uiBlkPos - ( uiPosY << uiLog2BlockSize );
1885      UInt  uiSig     = 0; 
1886      if( pcCoef[ uiBlkPos ] != 0 )
1887      {
1888        uiSig = 1;
1889        absCoeff[ numNonZero ] = abs( pcCoef[ uiBlkPos ] );
1890        coeffSigns = 2 * coeffSigns + ( pcCoef[ uiBlkPos ] < 0 );
1891        numNonZero++;
1892#if MULTIBITS_DATA_HIDING
1893        if( lastNZPosInCG == -1 )
1894        {
1895          lastNZPosInCG = iScanPosSig;
1896        }
1897        firstNZPosInCG = iScanPosSig;
1898#endif
1899      }     
1900      UInt  uiCtxSig  = TComTrQuant::getSigCtxInc( pcCoef, uiPosX, uiPosY, blockType, uiWidth, uiHeight, eTType );
1901      m_pcBinIf->encodeBin( uiSig, baseCtx[ uiCtxSig ] );
1902    }
1903
1904    }
1905#endif
1906
1907    if( numNonZero > 0 )
1908    {
1909#if MULTIBITS_DATA_HIDING
1910      Bool signHidden = ( lastNZPosInCG - firstNZPosInCG >= (Int)tsig );
1911#endif  // MULTIBITS_DATA_HIDING
1912
1913      UInt c1 = 1;
1914#if !RESTRICT_GR1GR2FLAG_NUMBER
1915      UInt c2 = 0;
1916#endif
1917#if LEVEL_CTX_LUMA_RED
1918      UInt uiCtxSet = (iSubSet > 0 && eTType==TEXT_LUMA) ? 2 : 0;
1919#else
1920      UInt uiCtxSet = (iSubSet > 0 && eTType==TEXT_LUMA) ? 3 : 0;
1921#endif
1922     
1923      if( uiNumOne > 0 )
1924      {
1925        uiCtxSet++;
1926#if !LEVEL_CTX_LUMA_RED
1927        if( uiNumOne > 3 && eTType==TEXT_LUMA)
1928        {
1929          uiCtxSet++;
1930        }
1931#endif
1932      }
1933     
1934      uiNumOne       >>= 1;
1935      ContextModel *baseCtxMod = ( eTType==TEXT_LUMA ) ? m_cCUOneSCModel.get( 0, 0 ) + 4 * uiCtxSet : m_cCUOneSCModel.get( 0, 0 ) + NUM_ONE_FLAG_CTX_LUMA + 4 * uiCtxSet;
1936     
1937#if RESTRICT_GR1GR2FLAG_NUMBER
1938      Int numC1Flag = min(numNonZero, C1FLAG_NUMBER);
1939      Int firstC2FlagIdx = -1;
1940      for( Int idx = 0; idx < numC1Flag; idx++ )
1941#else
1942      for ( Int idx = 0; idx < numNonZero; idx++ )
1943#endif
1944      {
1945        UInt uiSymbol = absCoeff[ idx ] > 1;
1946        m_pcBinIf->encodeBin( uiSymbol, baseCtxMod[c1] );
1947        if( uiSymbol )
1948        {
1949          c1 = 0;
1950
1951#if RESTRICT_GR1GR2FLAG_NUMBER
1952          if (firstC2FlagIdx == -1)
1953          {
1954            firstC2FlagIdx = idx;
1955          }
1956#endif
1957        }
1958        else if( (c1 < 3) && (c1 > 0) )
1959        {
1960          c1++;
1961        }
1962      }
1963     
1964      if (c1 == 0)
1965      {
1966
1967#if RESTRICT_GR1GR2FLAG_NUMBER
1968        baseCtxMod = ( eTType==TEXT_LUMA ) ? m_cCUAbsSCModel.get( 0, 0 ) + uiCtxSet : m_cCUAbsSCModel.get( 0, 0 ) + NUM_ABS_FLAG_CTX_LUMA + uiCtxSet;
1969        if ( firstC2FlagIdx != -1)
1970        {
1971          UInt symbol = absCoeff[ firstC2FlagIdx ] > 2;
1972          m_pcBinIf->encodeBin( symbol, baseCtxMod[0] );
1973        }
1974#else   
1975        baseCtxMod = ( eTType==TEXT_LUMA ) ? m_cCUAbsSCModel.get( 0, 0 ) + 3 * uiCtxSet : m_cCUAbsSCModel.get( 0, 0 ) + NUM_ABS_FLAG_CTX_LUMA + 3 * uiCtxSet;
1976        for ( Int idx = 0; idx < numNonZero; idx++ )
1977        {
1978          if( absCoeff[ idx ] > 1 )
1979          {
1980            UInt symbol = absCoeff[ idx ] > 2;
1981            m_pcBinIf->encodeBin( symbol, baseCtxMod[c2] );
1982            c2 += (c2 < 2);
1983            uiNumOne++;
1984          }
1985        }
1986#endif
1987      }
1988     
1989#if MULTIBITS_DATA_HIDING
1990      if( beValid && signHidden )
1991      {
1992        m_pcBinIf->encodeBinsEP( (coeffSigns >> 1), numNonZero-1 );
1993      }
1994      else
1995      {
1996        m_pcBinIf->encodeBinsEP( coeffSigns, numNonZero );
1997      }
1998#else
1999      m_pcBinIf->encodeBinsEP( coeffSigns, numNonZero );
2000#endif
2001     
2002#if RESTRICT_GR1GR2FLAG_NUMBER
2003      Int iFirstCoeff2 = 1;   
2004      if (c1 == 0 || numNonZero > C1FLAG_NUMBER)
2005#else
2006      if (c1 == 0)
2007#endif
2008      {
2009        for ( Int idx = 0; idx < numNonZero; idx++ )
2010        {
2011#if RESTRICT_GR1GR2FLAG_NUMBER
2012          UInt baseLevel  = (idx < C1FLAG_NUMBER)? (2 + iFirstCoeff2 ) : 1;
2013
2014          if( absCoeff[ idx ] >= baseLevel)
2015          {
2016            xWriteGoRiceExGolomb( absCoeff[ idx ] - baseLevel, uiGoRiceParam ); 
2017          }
2018          if(absCoeff[ idx ] >= 2) 
2019          {
2020            iFirstCoeff2 = 0;
2021            uiNumOne++;
2022          }
2023#else
2024          if ( absCoeff[ idx ] > 2 )
2025          {
2026            xWriteGoRiceExGolomb( absCoeff[ idx ]  - 3, uiGoRiceParam );           
2027          }
2028#endif
2029        }       
2030      }
2031    }
2032    else
2033    {
2034      uiNumOne >>= 1;
2035    }
2036  }
2037
2038  return;
2039}
2040
2041Void TEncSbac::codeAlfFlag       ( UInt uiCode )
2042{
2043  UInt uiSymbol = ( ( uiCode == 0 ) ? 0 : 1 );
2044  m_pcBinIf->encodeBin( uiSymbol, m_cALFFlagSCModel.get( 0, 0, 0 ) );
2045}
2046
2047Void TEncSbac::codeAlfCtrlFlag( UInt uiSymbol )
2048{
2049  m_pcBinIf->encodeBin( uiSymbol, m_cCUAlfCtrlFlagSCModel.get( 0, 0, 0) );
2050}
2051
2052Void TEncSbac::codeAlfUvlc       ( UInt uiCode )
2053{
2054  Int i;
2055 
2056  if ( uiCode == 0 )
2057  {
2058    m_pcBinIf->encodeBin( 0, m_cALFUvlcSCModel.get( 0, 0, 0 ) );
2059  }
2060  else
2061  {
2062    m_pcBinIf->encodeBin( 1, m_cALFUvlcSCModel.get( 0, 0, 0 ) );
2063    for ( i=0; i<uiCode-1; i++ )
2064    {
2065      m_pcBinIf->encodeBin( 1, m_cALFUvlcSCModel.get( 0, 0, 1 ) );
2066    }
2067    m_pcBinIf->encodeBin( 0, m_cALFUvlcSCModel.get( 0, 0, 1 ) );
2068  }
2069}
2070
2071Void TEncSbac::codeAlfSvlc       ( Int iCode )
2072{
2073  Int i;
2074 
2075  if ( iCode == 0 )
2076  {
2077    m_pcBinIf->encodeBin( 0, m_cALFSvlcSCModel.get( 0, 0, 0 ) );
2078  }
2079  else
2080  {
2081    m_pcBinIf->encodeBin( 1, m_cALFSvlcSCModel.get( 0, 0, 0 ) );
2082   
2083    // write sign
2084    if ( iCode > 0 )
2085    {
2086      m_pcBinIf->encodeBin( 0, m_cALFSvlcSCModel.get( 0, 0, 1 ) );
2087    }
2088    else
2089    {
2090      m_pcBinIf->encodeBin( 1, m_cALFSvlcSCModel.get( 0, 0, 1 ) );
2091      iCode = -iCode;
2092    }
2093   
2094    // write magnitude
2095    for ( i=0; i<iCode-1; i++ )
2096    {
2097      m_pcBinIf->encodeBin( 1, m_cALFSvlcSCModel.get( 0, 0, 2 ) );
2098    }
2099    m_pcBinIf->encodeBin( 0, m_cALFSvlcSCModel.get( 0, 0, 2 ) );
2100  }
2101}
2102
2103Void TEncSbac::codeSaoFlag       ( UInt uiCode )
2104{
2105  UInt uiSymbol = ( ( uiCode == 0 ) ? 0 : 1 );
2106  m_pcBinIf->encodeBin( uiSymbol, m_cSaoFlagSCModel.get( 0, 0, 0 ) );
2107}
2108
2109Void TEncSbac::codeSaoUvlc       ( UInt uiCode )
2110{
2111  Int i;
2112
2113  if ( uiCode == 0 )
2114  {
2115    m_pcBinIf->encodeBin( 0, m_cSaoUvlcSCModel.get( 0, 0, 0 ) );
2116  }
2117  else
2118  {
2119    m_pcBinIf->encodeBin( 1, m_cSaoUvlcSCModel.get( 0, 0, 0 ) );
2120    for ( i=0; i<uiCode-1; i++ )
2121    {
2122      m_pcBinIf->encodeBin( 1, m_cSaoUvlcSCModel.get( 0, 0, 1 ) );
2123    }
2124    m_pcBinIf->encodeBin( 0, m_cSaoUvlcSCModel.get( 0, 0, 1 ) );
2125  }
2126}
2127
2128Void TEncSbac::codeSaoSvlc       ( Int iCode )
2129{
2130  Int i;
2131
2132  if ( iCode == 0 )
2133  {
2134    m_pcBinIf->encodeBin( 0, m_cSaoSvlcSCModel.get( 0, 0, 0 ) );
2135  }
2136  else
2137  {
2138    m_pcBinIf->encodeBin( 1, m_cSaoSvlcSCModel.get( 0, 0, 0 ) );
2139
2140    // write sign
2141    if ( iCode > 0 )
2142    {
2143      m_pcBinIf->encodeBin( 0, m_cSaoSvlcSCModel.get( 0, 0, 1 ) );
2144    }
2145    else
2146    {
2147      m_pcBinIf->encodeBin( 1, m_cSaoSvlcSCModel.get( 0, 0, 1 ) );
2148      iCode = -iCode;
2149    }
2150
2151    // write magnitude
2152    for ( i=0; i<iCode-1; i++ )
2153    {
2154      m_pcBinIf->encodeBin( 1, m_cSaoSvlcSCModel.get( 0, 0, 2 ) );
2155    }
2156    m_pcBinIf->encodeBin( 0, m_cSaoSvlcSCModel.get( 0, 0, 2 ) );
2157  }
2158}
2159#if SAO_UNIT_INTERLEAVING
2160/** Code SAO band position
2161 * \param uiCode
2162 */
2163Void TEncSbac::codeSaoUflc       ( UInt uiCode )
2164{
2165  for (Int i=0;i<5;i++)
2166  {
2167    m_pcBinIf->encodeBinEP ( (uiCode>>i) &0x01 );
2168  }
2169}
2170/** Code SAO merge left flag
2171 * \param uiCode
2172 * \param uiCompIdx
2173 */
2174Void TEncSbac::codeSaoMergeLeft       ( UInt uiCode, UInt uiCompIdx )
2175{
2176  if (uiCode == 0)
2177  {
2178    m_pcBinIf->encodeBin(0,  m_cSaoMergeLeftSCModel.get( 0, 0, uiCompIdx ));
2179  }
2180  else
2181  {
2182    m_pcBinIf->encodeBin(1,  m_cSaoMergeLeftSCModel.get( 0, 0, uiCompIdx ));
2183  }
2184}
2185/** Code SAO merge up flag
2186 * \param uiCode
2187 */
2188Void TEncSbac::codeSaoMergeUp       ( UInt uiCode)
2189{
2190  if (uiCode == 0)
2191  {
2192    m_pcBinIf->encodeBin(0,  m_cSaoMergeUpSCModel.get( 0, 0, 0 ));
2193  }
2194  else
2195  {
2196    m_pcBinIf->encodeBin(1,  m_cSaoMergeUpSCModel.get( 0, 0, 0 ));
2197  }
2198}
2199/** Code SAO type index
2200 * \param uiCode
2201 */
2202Void TEncSbac::codeSaoTypeIdx       ( UInt uiCode)
2203{
2204  Int i;
2205  if ( uiCode == 0 )
2206  {
2207    m_pcBinIf->encodeBin( 0, m_cSaoTypeIdxSCModel.get( 0, 0, 0 ) );
2208  }
2209  else
2210  {
2211    m_pcBinIf->encodeBin( 1, m_cSaoTypeIdxSCModel.get( 0, 0, 0 ) );
2212    for ( i=0; i<uiCode-1; i++ )
2213    {
2214      m_pcBinIf->encodeBin( 1, m_cSaoTypeIdxSCModel.get( 0, 0, 1 ) );
2215    }
2216    m_pcBinIf->encodeBin( 0, m_cSaoTypeIdxSCModel.get( 0, 0, 1 ) );
2217  }
2218}
2219#endif
2220/*!
2221 ****************************************************************************
2222 * \brief
2223 *   estimate bit cost for CBP, significant map and significant coefficients
2224 ****************************************************************************
2225 */
2226Void TEncSbac::estBit( estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, TextType eTType )
2227{
2228  estCBFBit( pcEstBitsSbac, 0, eTType );
2229
2230  estSignificantCoeffGroupMapBit( pcEstBitsSbac, 0, eTType );
2231 
2232  // encode significance map
2233  estSignificantMapBit( pcEstBitsSbac, width, height, eTType );
2234 
2235  // encode significant coefficients
2236  estSignificantCoefficientsBit( pcEstBitsSbac, 0, eTType );
2237}
2238
2239/*!
2240 ****************************************************************************
2241 * \brief
2242 *    estimate bit cost for each CBP bit
2243 ****************************************************************************
2244 */
2245Void TEncSbac::estCBFBit( estBitsSbacStruct* pcEstBitsSbac, UInt uiCTXIdx, TextType eTType )
2246{
2247  ContextModel *pCtx = m_cCUQtCbfSCModel.get( 0 );
2248
2249  for( UInt uiCtxInc = 0; uiCtxInc < 3*NUM_QT_CBF_CTX; uiCtxInc++ )
2250  {
2251    pcEstBitsSbac->blockCbpBits[ uiCtxInc ][ 0 ] = pCtx[ uiCtxInc ].getEntropyBits( 0 );
2252    pcEstBitsSbac->blockCbpBits[ uiCtxInc ][ 1 ] = pCtx[ uiCtxInc ].getEntropyBits( 1 );
2253  }
2254
2255  pCtx = m_cCUQtRootCbfSCModel.get( 0 );
2256 
2257  for( UInt uiCtxInc = 0; uiCtxInc < 4; uiCtxInc++ )
2258  {
2259    pcEstBitsSbac->blockRootCbpBits[ uiCtxInc ][ 0 ] = pCtx[ uiCtxInc ].getEntropyBits( 0 );
2260    pcEstBitsSbac->blockRootCbpBits[ uiCtxInc ][ 1 ] = pCtx[ uiCtxInc ].getEntropyBits( 1 );
2261  }
2262}
2263
2264
2265/*!
2266 ****************************************************************************
2267 * \brief
2268 *    estimate SAMBAC bit cost for significant coefficient group map
2269 ****************************************************************************
2270 */
2271Void TEncSbac::estSignificantCoeffGroupMapBit( estBitsSbacStruct* pcEstBitsSbac, UInt uiCTXIdx, TextType eTType )
2272{
2273  Int firstCtx = 0, numCtx = NUM_SIG_CG_FLAG_CTX;
2274
2275  for ( Int ctxIdx = firstCtx; ctxIdx < firstCtx + numCtx; ctxIdx++ )
2276  {
2277    for( UInt uiBin = 0; uiBin < 2; uiBin++ )
2278    {
2279      pcEstBitsSbac->significantCoeffGroupBits[ ctxIdx ][ uiBin ] = m_cCUSigCoeffGroupSCModel.get(  0, eTType, ctxIdx ).getEntropyBits( uiBin );
2280    }
2281  }
2282}
2283
2284
2285/*!
2286 ****************************************************************************
2287 * \brief
2288 *    estimate SAMBAC bit cost for significant coefficient map
2289 ****************************************************************************
2290 */
2291Void TEncSbac::estSignificantMapBit( estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, TextType eTType )
2292{
2293  Int firstCtx = 0, numCtx = (eTType == TEXT_LUMA) ? 9 : 6;
2294  if (std::max(width, height) >= 16)
2295  {
2296    firstCtx = (eTType == TEXT_LUMA) ? 20 : 17;
2297    numCtx = (eTType == TEXT_LUMA) ? 7 : 4;   
2298  }
2299  else if (width == 8)
2300  {
2301    firstCtx = (eTType == TEXT_LUMA) ? 9 : 6;
2302    numCtx = 11;
2303  }
2304 
2305  if (eTType == TEXT_LUMA )
2306  {
2307    for ( Int ctxIdx = firstCtx; ctxIdx < firstCtx + numCtx; ctxIdx++ )
2308    {
2309      for( UInt uiBin = 0; uiBin < 2; uiBin++ )
2310      {
2311        pcEstBitsSbac->significantBits[ ctxIdx ][ uiBin ] = m_cCUSigSCModel.get(  0, 0, ctxIdx ).getEntropyBits( uiBin );
2312      }
2313    }
2314  }
2315  else
2316  {
2317    for ( Int ctxIdx = firstCtx; ctxIdx < firstCtx + numCtx; ctxIdx++ )
2318    {
2319      for( UInt uiBin = 0; uiBin < 2; uiBin++ )
2320      {
2321        pcEstBitsSbac->significantBits[ ctxIdx ][ uiBin ] = m_cCUSigSCModel.get(  0, 0, NUM_SIG_FLAG_CTX_LUMA + ctxIdx ).getEntropyBits( uiBin );
2322      }
2323    }
2324  }
2325  Int iBitsX = 0, iBitsY = 0;
2326  const UInt *puiCtxIdx;
2327  Int ctx;
2328#if LAST_CTX_REDUCTION
2329  Int widthCtx = eTType? 4 : width;
2330  puiCtxIdx = g_uiLastCtx + (g_aucConvertToBit[ widthCtx ]*(g_aucConvertToBit[ widthCtx ]+3));
2331#else 
2332  puiCtxIdx = g_uiLastCtx + (g_aucConvertToBit[ width ]*(g_aucConvertToBit[ width ]+3));
2333#endif
2334  ContextModel *pCtxX      = m_cCuCtxLastX.get( 0, eTType );
2335  for (ctx = 0; ctx < g_uiGroupIdx[ width - 1 ]; ctx++)
2336  {
2337    Int ctxOffset = puiCtxIdx[ ctx ];
2338#if LAST_CTX_REDUCTION
2339    if (eTType)
2340    {
2341      Int ctxOffsetC =  ctx>>g_aucConvertToBit[ width ];
2342      pcEstBitsSbac->lastXBits[ ctx ] = iBitsX + pCtxX[ ctxOffsetC ].getEntropyBits( 0 );
2343      iBitsX += pCtxX[ ctxOffsetC].getEntropyBits( 1 );
2344    }
2345    else
2346    {
2347#endif
2348      pcEstBitsSbac->lastXBits[ ctx ] = iBitsX + pCtxX[ ctxOffset ].getEntropyBits( 0 );
2349      iBitsX += pCtxX[ ctxOffset ].getEntropyBits( 1 );
2350#if LAST_CTX_REDUCTION
2351    }
2352#endif
2353    }
2354  pcEstBitsSbac->lastXBits[ctx] = iBitsX;
2355
2356#if LAST_CTX_REDUCTION
2357  Int heightCtx = eTType? 4 : height;
2358  puiCtxIdx = g_uiLastCtx + (g_aucConvertToBit[ heightCtx ]*(g_aucConvertToBit[ heightCtx ]+3));
2359#else
2360  puiCtxIdx = g_uiLastCtx + (g_aucConvertToBit[ height ]*(g_aucConvertToBit[ height ]+3));
2361#endif
2362  ContextModel *pCtxY      = m_cCuCtxLastY.get( 0, eTType );
2363  for (ctx = 0; ctx < g_uiGroupIdx[ height - 1 ]; ctx++)
2364  {
2365    Int ctxOffset = puiCtxIdx[ ctx ];
2366#if LAST_CTX_REDUCTION
2367    if (eTType)
2368    {
2369      Int ctxOffsetC =  ctx>>g_aucConvertToBit[ height ];
2370      pcEstBitsSbac->lastYBits[ ctx ] = iBitsY + pCtxY[ ctxOffsetC ].getEntropyBits( 0 );
2371      iBitsY += pCtxY[ctxOffsetC].getEntropyBits( 1 );
2372    }
2373    else
2374    {
2375#endif
2376      pcEstBitsSbac->lastYBits[ ctx ] = iBitsY + pCtxY[ ctxOffset ].getEntropyBits( 0 );
2377      iBitsY += pCtxY[ ctxOffset ].getEntropyBits( 1 );
2378#if LAST_CTX_REDUCTION
2379    }
2380#endif
2381    }
2382  pcEstBitsSbac->lastYBits[ctx] = iBitsY;
2383}
2384
2385/*!
2386 ****************************************************************************
2387 * \brief
2388 *    estimate bit cost of significant coefficient
2389 ****************************************************************************
2390 */
2391Void TEncSbac::estSignificantCoefficientsBit( estBitsSbacStruct* pcEstBitsSbac, UInt uiCTXIdx, TextType eTType )
2392{
2393  if (eTType==TEXT_LUMA)
2394  {
2395    ContextModel *ctxOne = m_cCUOneSCModel.get(0, 0);
2396    ContextModel *ctxAbs = m_cCUAbsSCModel.get(0, 0);
2397
2398    for (Int ctxIdx = 0; ctxIdx < NUM_ONE_FLAG_CTX_LUMA; ctxIdx++)
2399    {
2400      pcEstBitsSbac->m_greaterOneBits[ ctxIdx ][ 0 ] = ctxOne[ ctxIdx ].getEntropyBits( 0 );
2401      pcEstBitsSbac->m_greaterOneBits[ ctxIdx ][ 1 ] = ctxOne[ ctxIdx ].getEntropyBits( 1 );   
2402    }
2403
2404    for (Int ctxIdx = 0; ctxIdx < NUM_ABS_FLAG_CTX_LUMA; ctxIdx++)
2405    {
2406      pcEstBitsSbac->m_levelAbsBits[ ctxIdx ][ 0 ] = ctxAbs[ ctxIdx ].getEntropyBits( 0 );
2407      pcEstBitsSbac->m_levelAbsBits[ ctxIdx ][ 1 ] = ctxAbs[ ctxIdx ].getEntropyBits( 1 );   
2408    }
2409  }
2410  else
2411  {
2412    ContextModel *ctxOne = m_cCUOneSCModel.get(0, 0) + NUM_ONE_FLAG_CTX_LUMA;
2413    ContextModel *ctxAbs = m_cCUAbsSCModel.get(0, 0) + NUM_ABS_FLAG_CTX_LUMA;
2414
2415    for (Int ctxIdx = 0; ctxIdx < NUM_ONE_FLAG_CTX_CHROMA; ctxIdx++)
2416    {
2417      pcEstBitsSbac->m_greaterOneBits[ ctxIdx ][ 0 ] = ctxOne[ ctxIdx ].getEntropyBits( 0 );
2418      pcEstBitsSbac->m_greaterOneBits[ ctxIdx ][ 1 ] = ctxOne[ ctxIdx ].getEntropyBits( 1 );   
2419    }
2420
2421    for (Int ctxIdx = 0; ctxIdx < NUM_ABS_FLAG_CTX_CHROMA; ctxIdx++)
2422    {
2423      pcEstBitsSbac->m_levelAbsBits[ ctxIdx ][ 0 ] = ctxAbs[ ctxIdx ].getEntropyBits( 0 );
2424      pcEstBitsSbac->m_levelAbsBits[ ctxIdx ][ 1 ] = ctxAbs[ ctxIdx ].getEntropyBits( 1 );   
2425    }
2426  }
2427}
2428
2429/**
2430 - Initialize our context information from the nominated source.
2431 .
2432 \param pSrc From where to copy context information.
2433 */
2434Void TEncSbac::xCopyContextsFrom( TEncSbac* pSrc )
2435{ 
2436  memcpy(m_contextModels, pSrc->m_contextModels, m_numContextModels*sizeof(m_contextModels[0]));
2437}
2438
2439Void  TEncSbac::loadContexts ( TEncSbac* pScr)
2440{
2441  this->xCopyContextsFrom(pScr);
2442}
2443
2444#if HHI_DMM_WEDGE_INTRA || HHI_DMM_PRED_TEX || (LGE_EDGE_INTRA && LGE_EDGE_INTRA_DELTA_DC)
2445Void TEncSbac::xWriteExGolombLevel( UInt uiSymbol, ContextModel& rcSCModel  )
2446{
2447  if( uiSymbol )
2448  {
2449    m_pcBinIf->encodeBin( 1, rcSCModel );
2450    UInt uiCount = 0;
2451    Bool bNoExGo = (uiSymbol < 13);
2452
2453    while( --uiSymbol && ++uiCount < 13 )
2454    {
2455      m_pcBinIf->encodeBin( 1, rcSCModel );
2456    }
2457    if( bNoExGo )
2458    {
2459      m_pcBinIf->encodeBin( 0, rcSCModel );
2460    }
2461    else
2462    {
2463      xWriteEpExGolomb( uiSymbol, 0 );
2464    }
2465  }
2466  else
2467  {
2468    m_pcBinIf->encodeBin( 0, rcSCModel );
2469  }
2470
2471  return;
2472}
2473#endif
2474#if HHI_DMM_WEDGE_INTRA
2475Void TEncSbac::xCodeWedgeFullInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
2476{
2477  Int iIntraIdx = pcCU->getIntraSizeIdx(uiAbsPartIdx);
2478  Int iBits = g_aucWedgeFullBitsListIdx[iIntraIdx];
2479
2480  UInt uiTabIdx = pcCU->getWedgeFullTabIdx( uiAbsPartIdx );
2481
2482  for ( Int i = 0; i < iBits; i++ )
2483  {
2484    m_pcBinIf->encodeBin( ( uiTabIdx >> i ) & 1, m_cDmmDataSCModel.get(0, 0, 0) );
2485  }
2486}
2487
2488Void TEncSbac::xCodeWedgeFullDeltaInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
2489{
2490  Int iIntraIdx = pcCU->getIntraSizeIdx(uiAbsPartIdx);
2491  Int iBits = g_aucWedgeFullBitsListIdx[iIntraIdx];
2492
2493  UInt uiTabIdx = pcCU->getWedgeFullTabIdx( uiAbsPartIdx );
2494
2495  for ( Int i = 0; i < iBits; i++ )
2496  {
2497    m_pcBinIf->encodeBin( ( uiTabIdx >> i ) & 1, m_cDmmDataSCModel.get(0, 0, 0) );
2498  }
2499
2500  Int iDeltaDC1 = pcCU->getWedgeFullDeltaDC1( uiAbsPartIdx );
2501  Int iDeltaDC2 = pcCU->getWedgeFullDeltaDC2( uiAbsPartIdx );
2502
2503  xWriteExGolombLevel( UInt( abs( iDeltaDC1 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2504  if ( iDeltaDC1 != 0 )
2505  {
2506    UInt uiSign = iDeltaDC1 > 0 ? 0 : 1;
2507    m_pcBinIf->encodeBinEP( uiSign );
2508  }
2509  xWriteExGolombLevel( UInt( abs( iDeltaDC2 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2510  if ( iDeltaDC2 != 0 )
2511  {
2512    UInt uiSign = iDeltaDC2 > 0 ? 0 : 1;
2513    m_pcBinIf->encodeBinEP( uiSign );
2514  }
2515}
2516
2517Void TEncSbac::xCodeWedgePredDirInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
2518{
2519  if( DMM_WEDGE_PREDDIR_DELTAEND_MAX > 0 )
2520  {
2521    Int iDeltaEnd = pcCU->getWedgePredDirDeltaEnd( uiAbsPartIdx );
2522    m_pcBinIf->encodeBin( (iDeltaEnd!=0), m_cDmmDataSCModel.get(0, 0, 2) );
2523
2524    if( iDeltaEnd != 0 )
2525    {
2526      UInt uiAbsValMinus1 = abs(iDeltaEnd)-1;
2527      m_pcBinIf->encodeBin( (uiAbsValMinus1 & 0x01),      m_cDmmDataSCModel.get(0, 0, 2) );
2528      m_pcBinIf->encodeBin( (uiAbsValMinus1 & 0x02) >> 1, m_cDmmDataSCModel.get(0, 0, 2) );
2529
2530      UInt uiSign = iDeltaEnd > 0 ? 0 : 1;
2531      m_pcBinIf->encodeBinEP( uiSign );
2532    }
2533  }
2534}
2535
2536Void TEncSbac::xCodeWedgePredDirDeltaInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
2537{
2538  if( DMM_WEDGE_PREDDIR_DELTAEND_MAX > 0 )
2539  {
2540    Int iDeltaEnd = pcCU->getWedgePredDirDeltaEnd( uiAbsPartIdx );
2541    m_pcBinIf->encodeBin( (iDeltaEnd!=0), m_cDmmDataSCModel.get(0, 0, 2) );
2542
2543    if( iDeltaEnd != 0 )
2544    {
2545      UInt uiAbsValMinus1 = abs(iDeltaEnd)-1;
2546      m_pcBinIf->encodeBin( (uiAbsValMinus1 & 0x01),      m_cDmmDataSCModel.get(0, 0, 2) );
2547      m_pcBinIf->encodeBin( (uiAbsValMinus1 & 0x02) >> 1, m_cDmmDataSCModel.get(0, 0, 2) );
2548
2549      UInt uiSign = iDeltaEnd > 0 ? 0 : 1;
2550      m_pcBinIf->encodeBinEP( uiSign );
2551    }
2552  }
2553
2554  Int iDeltaDC1 = pcCU->getWedgePredDirDeltaDC1( uiAbsPartIdx );
2555  Int iDeltaDC2 = pcCU->getWedgePredDirDeltaDC2( uiAbsPartIdx );
2556
2557  xWriteExGolombLevel( UInt( abs( iDeltaDC1 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2558  if ( iDeltaDC1 != 0 )
2559  {
2560    UInt uiSign = iDeltaDC1 > 0 ? 0 : 1;
2561    m_pcBinIf->encodeBinEP( uiSign );
2562  }
2563  xWriteExGolombLevel( UInt( abs( iDeltaDC2 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2564  if ( iDeltaDC2 != 0 )
2565  {
2566    UInt uiSign = iDeltaDC2 > 0 ? 0 : 1;
2567    m_pcBinIf->encodeBinEP( uiSign );
2568  }
2569}
2570#endif
2571#if HHI_DMM_PRED_TEX
2572Void TEncSbac::xCodeWedgePredTexDeltaInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
2573{
2574  Int iDeltaDC1 = pcCU->getWedgePredTexDeltaDC1( uiAbsPartIdx );
2575  Int iDeltaDC2 = pcCU->getWedgePredTexDeltaDC2( uiAbsPartIdx );
2576
2577  xWriteExGolombLevel( UInt( abs( iDeltaDC1 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2578  if ( iDeltaDC1 != 0 )
2579  {
2580    UInt uiSign = iDeltaDC1 > 0 ? 0 : 1;
2581    m_pcBinIf->encodeBinEP( uiSign );
2582  }
2583  xWriteExGolombLevel( UInt( abs( iDeltaDC2 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2584  if ( iDeltaDC2 != 0 )
2585  {
2586    UInt uiSign = iDeltaDC2 > 0 ? 0 : 1;
2587    m_pcBinIf->encodeBinEP( uiSign );
2588  }
2589}
2590
2591Void TEncSbac::xCodeContourPredTexDeltaInfo( TComDataCU* pcCU, UInt uiAbsPartIdx )
2592{
2593  Int iDeltaDC1 = pcCU->getContourPredTexDeltaDC1( uiAbsPartIdx );
2594  Int iDeltaDC2 = pcCU->getContourPredTexDeltaDC2( uiAbsPartIdx );
2595
2596  xWriteExGolombLevel( UInt( abs( iDeltaDC1 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2597  if ( iDeltaDC1 != 0 )
2598  {
2599    UInt uiSign = iDeltaDC1 > 0 ? 0 : 1;
2600    m_pcBinIf->encodeBinEP( uiSign );
2601  }
2602  xWriteExGolombLevel( UInt( abs( iDeltaDC2 ) ), m_cDmmDataSCModel.get(0, 0, 1) );
2603  if ( iDeltaDC2 != 0 )
2604  {
2605    UInt uiSign = iDeltaDC2 > 0 ? 0 : 1;
2606    m_pcBinIf->encodeBinEP( uiSign );
2607  }
2608}
2609#endif
2610//! \}
Note: See TracBrowser for help on using the repository browser.