source: SHVCSoftware/branches/SHM-1.1-dev/source/Lib/TLibEncoder/TEncEntropy.h @ 1263

Last change on this file since 1263 was 2, checked in by seregin, 12 years ago

Initial import by Vadim Seregin <vseregin@…>

File size: 13.7 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2012, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TEncEntropy.h
35    \brief    entropy encoder class (header)
36*/
37
38#ifndef __TENCENTROPY__
39#define __TENCENTROPY__
40
41#include "TLibCommon/TComSlice.h"
42#include "TLibCommon/TComDataCU.h"
43#include "TLibCommon/TComBitStream.h"
44#include "TLibCommon/ContextModel.h"
45#include "TLibCommon/TComPic.h"
46#include "TLibCommon/TComTrQuant.h"
47#include "TLibCommon/TComAdaptiveLoopFilter.h"
48#include "TLibCommon/TComSampleAdaptiveOffset.h"
49
50class TEncSbac;
51class TEncCavlc;
52class SEI;
53
54// ====================================================================================================================
55// Class definition
56// ====================================================================================================================
57
58/// entropy encoder pure class
59class TEncEntropyIf
60{
61public:
62  virtual Void  resetEntropy          ()                = 0;
63  virtual Void  determineCabacInitIdx ()                = 0;
64  virtual Void  setBitstream          ( TComBitIf* p )  = 0;
65  virtual Void  setSlice              ( TComSlice* p )  = 0;
66  virtual Void  resetBits             ()                = 0;
67  virtual Void  resetCoeffCost        ()                = 0;
68  virtual UInt  getNumberOfWrittenBits()                = 0;
69  virtual UInt  getCoeffCost          ()                = 0;
70
71  virtual Void  codeVPS                 ( TComVPS* pcVPS )                                      = 0;
72  virtual Void  codeSPS                 ( TComSPS* pcSPS )                                      = 0;
73  virtual Void  codePPS                 ( TComPPS* pcPPS )                                      = 0;
74  virtual Void  codeSliceHeader         ( TComSlice* pcSlice )                                  = 0;
75
76  virtual Void  codeTilesWPPEntryPoint  ( TComSlice* pSlice )     = 0;
77  virtual Void  codeTerminatingBit      ( UInt uilsLast )                                       = 0;
78  virtual Void  codeSliceFinish         ()                                                      = 0;
79  virtual Void  codeFlush               ()                                                      = 0;
80  virtual Void  encodeStart             ()                                                      = 0;
81  virtual Void codeMVPIdx ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList ) = 0;
82  virtual Void codeScalingList   ( TComScalingList* scalingList )      = 0;
83 
84public:
85#if !REMOVE_ALF
86  virtual Void codeAlfCtrlFlag   ( Int compIdx, UInt code ) = 0;
87#endif
88  virtual Void codeApsExtensionFlag () = 0;
89 
90  virtual Void codeCUTransquantBypassFlag( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
91  virtual Void codeSkipFlag      ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
92  virtual Void codeMergeFlag     ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
93  virtual Void codeMergeIndex    ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
94  virtual Void codeSplitFlag     ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth ) = 0;
95 
96#if INTRA_BL
97  virtual Void codeIntraBLFlag      ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
98#endif
99  virtual Void codePartSize      ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth ) = 0;
100  virtual Void codePredMode      ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
101 
102  virtual Void codeIPCMInfo      ( TComDataCU* pcCU, UInt uiAbsPartIdx, Int numIPCM, Bool firstIPCMFlag) = 0;
103
104  virtual Void codeTransformSubdivFlag( UInt uiSymbol, UInt uiCtx ) = 0;
105  virtual Void codeQtCbf         ( TComDataCU* pcCU, UInt uiAbsPartIdx, TextType eType, UInt uiTrDepth ) = 0;
106  virtual Void codeQtRootCbf     ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
107#if TU_ZERO_CBF_RDO
108  virtual Void codeQtCbfZero     ( TComDataCU* pcCU, UInt uiAbsPartIdx, TextType eType, UInt uiTrDepth ) = 0;
109  virtual Void codeQtRootCbfZero ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
110#endif
111  virtual Void codeIntraDirLumaAng( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool isMultiplePU ) = 0;
112 
113  virtual Void codeIntraDirChroma( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
114  virtual Void codeInterDir      ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
115  virtual Void codeRefFrmIdx     ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )      = 0;
116  virtual Void codeMvd           ( TComDataCU* pcCU, UInt uiAbsPartIdx, RefPicList eRefList )      = 0;
117  virtual Void codeDeltaQP       ( TComDataCU* pcCU, UInt uiAbsPartIdx ) = 0;
118  virtual Void codeCoeffNxN      ( TComDataCU* pcCU, TCoeff* pcCoef, UInt uiAbsPartIdx, UInt uiWidth, UInt uiHeight, UInt uiDepth, TextType eTType ) = 0;
119  virtual Void codeTransformSkipFlags ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt width, UInt height, UInt uiDepth, TextType eTType ) = 0;
120#if !REMOVE_ALF
121  virtual Void codeAlfParam      (ALFParam* alfParam) = 0;
122#endif
123#if !REMOVE_FGS
124  /// set slice granularity
125  virtual Void setSliceGranularity(Int iSliceGranularity) = 0;
126
127  /// get slice granularity
128  virtual Int  getSliceGranularity()                      = 0;
129#endif
130  virtual Void codeSAOSign          ( UInt code   ) = 0;
131  virtual Void codeSaoMaxUvlc       ( UInt code, UInt maxSymbol ) = 0;
132#if SAO_MERGE_ONE_CTX
133  virtual Void codeSaoMerge    ( UInt   uiCode  ) = 0;
134#else
135  virtual Void codeSaoMergeLeft    ( UInt   uiCode, UInt uiCompIdx  ) = 0;
136  virtual Void codeSaoMergeUp      ( UInt   uiCode) = 0;
137#endif
138  virtual Void codeSaoTypeIdx      ( UInt   uiCode) = 0;
139#if SAO_TYPE_CODING
140  virtual Void codeSaoUflc         ( UInt uiLength, UInt   uiCode ) = 0;
141#else
142  virtual Void codeSaoUflc         ( UInt   uiCode) = 0;
143#endif
144  virtual Void estBit               (estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, TextType eTType) = 0;
145 
146  virtual Void updateContextTables ( SliceType eSliceType, Int iQp, Bool bExecuteFinish )   = 0;
147  virtual Void updateContextTables ( SliceType eSliceType, Int iQp )   = 0;
148
149#if !REMOVE_APS
150  virtual Void codeAPSInitInfo  (TComAPS* pcAPS)= 0;
151#endif
152  virtual Void codeFinish       (Bool bEnd)= 0;
153
154  virtual Void codeDFFlag (UInt uiCode, const Char *pSymbolName) = 0;
155  virtual Void codeDFSvlc (Int iCode, const Char *pSymbolName)   = 0;
156
157  virtual ~TEncEntropyIf() {}
158
159};
160
161/// entropy encoder class
162class TEncEntropy
163{
164private:
165  UInt    m_uiBakAbsPartIdx;
166  UInt    m_uiBakChromaOffset;
167  UInt    m_bakAbsPartIdxCU;
168
169public:
170  Void    setEntropyCoder           ( TEncEntropyIf* e, TComSlice* pcSlice );
171  Void    setBitstream              ( TComBitIf* p )          { m_pcEntropyCoderIf->setBitstream(p);  }
172  Void    resetBits                 ()                        { m_pcEntropyCoderIf->resetBits();      }
173  Void    resetCoeffCost            ()                        { m_pcEntropyCoderIf->resetCoeffCost(); }
174  UInt    getNumberOfWrittenBits    ()                        { return m_pcEntropyCoderIf->getNumberOfWrittenBits(); }
175  UInt    getCoeffCost              ()                        { return  m_pcEntropyCoderIf->getCoeffCost(); }
176  Void    resetEntropy              ()                        { m_pcEntropyCoderIf->resetEntropy();  }
177  Void    determineCabacInitIdx     ()                        { m_pcEntropyCoderIf->determineCabacInitIdx(); }
178 
179  Void    encodeSliceHeader         ( TComSlice* pcSlice );
180  Void    encodeTilesWPPEntryPoint( TComSlice* pSlice );
181  Void    encodeTerminatingBit      ( UInt uiIsLast );
182  Void    encodeSliceFinish         ();
183  Void    encodeFlush               ();
184  Void    encodeStart               ();
185#if !REMOVE_ALF
186  Void encodeAlfParam(ALFParam* alfParam) {m_pcEntropyCoderIf->codeAlfParam(alfParam);}
187#endif
188  TEncEntropyIf*      m_pcEntropyCoderIf;
189 
190public:
191  Void encodeVPS               ( TComVPS* pcVPS);
192  // SPS
193  Void encodeSPS               ( TComSPS* pcSPS );
194  Void encodePPS               ( TComPPS* pcPPS );
195  Void encodeSplitFlag         ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, Bool bRD = false );
196  Void encodeCUTransquantBypassFlag( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
197  Void encodeSkipFlag          ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
198  Void encodePUWise       ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
199  Void encodeInterDirPU   ( TComDataCU* pcSubCU, UInt uiAbsPartIdx  );
200  Void encodeRefFrmIdxPU  ( TComDataCU* pcSubCU, UInt uiAbsPartIdx, RefPicList eRefList );
201  Void encodeMvdPU        ( TComDataCU* pcSubCU, UInt uiAbsPartIdx, RefPicList eRefList );
202  Void encodeMVPIdxPU     ( TComDataCU* pcSubCU, UInt uiAbsPartIdx, RefPicList eRefList );
203  Void encodeMergeFlag    ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiPUIdx );
204  Void encodeMergeIndex   ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiPUIdx, Bool bRD = false );
205
206#if INTRA_BL
207  Void encodeIntraBLFlag  ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
208#endif
209#if !REMOVE_FGS
210  /// set slice granularity
211  Void setSliceGranularity (Int iSliceGranularity) {m_pcEntropyCoderIf->setSliceGranularity(iSliceGranularity);}
212#endif
213#if !REMOVE_ALF
214  /// encode ALF LCU control flag
215  Void encodeAlfCtrlFlag( Int compIdx, UInt code ) {m_pcEntropyCoderIf->codeAlfCtrlFlag(compIdx, code);}
216#endif
217  Void encodeApsExtensionFlag() {m_pcEntropyCoderIf->codeApsExtensionFlag();};
218  Void encodePredMode          ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
219  Void encodePartSize          ( TComDataCU* pcCU, UInt uiAbsPartIdx, UInt uiDepth, Bool bRD = false );
220  Void encodeIPCMInfo          ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
221  Void encodePredInfo          ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
222  Void encodeIntraDirModeLuma  ( TComDataCU* pcCU, UInt absPartIdx, Bool isMultiplePU = false );
223 
224  Void encodeIntraDirModeChroma( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
225 
226  Void encodeTransformSubdivFlag( UInt uiSymbol, UInt uiCtx );
227  Void encodeQtCbf             ( TComDataCU* pcCU, UInt uiAbsPartIdx, TextType eType, UInt uiTrDepth );
228#if TU_ZERO_CBF_RDO
229  Void encodeQtCbfZero         ( TComDataCU* pcCU, UInt uiAbsPartIdx, TextType eType, UInt uiTrDepth );
230  Void encodeQtRootCbfZero     ( TComDataCU* pcCU, UInt uiAbsPartIdx );
231#endif
232  Void encodeQtRootCbf         ( TComDataCU* pcCU, UInt uiAbsPartIdx );
233  Void encodeQP                ( TComDataCU* pcCU, UInt uiAbsPartIdx, Bool bRD = false );
234  Void updateContextTables     ( SliceType eSliceType, Int iQp, Bool bExecuteFinish )   { m_pcEntropyCoderIf->updateContextTables( eSliceType, iQp, bExecuteFinish );     }
235  Void updateContextTables     ( SliceType eSliceType, Int iQp )                        { m_pcEntropyCoderIf->updateContextTables( eSliceType, iQp, true );               }
236
237#if !REMOVE_APS
238  Void encodeAPSInitInfo          (TComAPS* pcAPS) {m_pcEntropyCoderIf->codeAPSInitInfo(pcAPS);}
239#endif
240  Void encodeFinish               (Bool bEnd) {m_pcEntropyCoderIf->codeFinish(bEnd);}
241  Void encodeScalingList       ( TComScalingList* scalingList );
242
243private:
244  Void xEncodeTransform        ( TComDataCU* pcCU,UInt offsetLumaOffset, UInt offsetChroma, UInt uiAbsPartIdx, UInt absTUPartIdx, UInt uiDepth, UInt width, UInt height, UInt uiTrIdx, UInt uiInnerQuadIdx,Bool& bCodeDQP );
245public:
246  Void encodeCoeff             ( TComDataCU* pcCU,                 UInt uiAbsPartIdx, UInt uiDepth, UInt uiWidth, UInt uiHeight, Bool& bCodeDQP );
247 
248  Void encodeCoeffNxN         ( TComDataCU* pcCU, TCoeff* pcCoeff, UInt uiAbsPartIdx, UInt uiTrWidth, UInt uiTrHeight, UInt uiDepth, TextType eType );
249 
250  Void estimateBit             ( estBitsSbacStruct* pcEstBitsSbac, Int width, Int height, TextType eTType);
251#if SAO_TYPE_SHARING
252  Void    encodeSaoOffset(SaoLcuParam* saoLcuParam, UInt compIdx);
253#else
254  Void    encodeSaoOffset(SaoLcuParam* saoLcuParam);
255#endif
256  Void    encodeSaoUnitInterleaving(Int compIdx, Bool saoFlag, Int rx, Int ry, SaoLcuParam* saoLcuParam, Int cuAddrInSlice, Int cuAddrUpInSlice, Int allowMergeLeft, Int allowMergeUp);
257  static Int countNonZeroCoeffs( TCoeff* pcCoef, UInt uiSize );
258
259};// END CLASS DEFINITION TEncEntropy
260
261//! \}
262
263#endif // __TENCENTROPY__
264
Note: See TracBrowser for help on using the repository browser.