source: 3DVCSoftware/branches/HTM-DEV-2.0-dev1-Mediatek/source/Lib/TLibEncoder/TEncSearch.h @ 566

Last change on this file since 566 was 566, checked in by mediatek-htm, 11 years ago

Integration of JCT3V-E0172. The MACRO is "MTK_RVS_BUGFIX_E0172".

By Na Zhang (na.zhang@…)
  • Property svn:eol-style set to native
File size: 25.5 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TEncSearch.h
35    \brief    encoder search class (header)
36*/
37
38#ifndef __TENCSEARCH__
39#define __TENCSEARCH__
40
41// Include files
42#include "TLibCommon/TComYuv.h"
43#include "TLibCommon/TComMotionInfo.h"
44#include "TLibCommon/TComPattern.h"
45#include "TLibCommon/TComPrediction.h"
46#include "TLibCommon/TComTrQuant.h"
47#include "TLibCommon/TComPic.h"
48#include "TEncEntropy.h"
49#include "TEncSbac.h"
50#include "TEncCfg.h"
51
52//! \ingroup TLibEncoder
53//! \{
54
55class TEncCu;
56
57// ====================================================================================================================
58// Class definition
59// ====================================================================================================================
60
61/// encoder search class
62class TEncSearch : public TComPrediction
63{
64private:
65  TCoeff**        m_ppcQTTempCoeffY;
66  TCoeff**        m_ppcQTTempCoeffCb;
67  TCoeff**        m_ppcQTTempCoeffCr;
68  TCoeff*         m_pcQTTempCoeffY;
69  TCoeff*         m_pcQTTempCoeffCb;
70  TCoeff*         m_pcQTTempCoeffCr;
71#if ADAPTIVE_QP_SELECTION
72  Int**           m_ppcQTTempArlCoeffY;
73  Int**           m_ppcQTTempArlCoeffCb;
74  Int**           m_ppcQTTempArlCoeffCr;
75  Int*            m_pcQTTempArlCoeffY;
76  Int*            m_pcQTTempArlCoeffCb;
77  Int*            m_pcQTTempArlCoeffCr;
78#endif
79  UChar*          m_puhQTTempTrIdx;
80  UChar*          m_puhQTTempCbf[3];
81 
82  TComYuv*        m_pcQTTempTComYuv;
83  TComYuv         m_tmpYuvPred; // To be used in xGetInterPredictionError() to avoid constant memory allocation/deallocation
84  Pel*            m_pSharedPredTransformSkip[3];
85  TCoeff*         m_pcQTTempTUCoeffY;
86  TCoeff*         m_pcQTTempTUCoeffCb;
87  TCoeff*         m_pcQTTempTUCoeffCr;
88  UChar*          m_puhQTTempTransformSkipFlag[3];
89  TComYuv         m_pcQTTempTransformSkipTComYuv;
90#if ADAPTIVE_QP_SELECTION
91  Int*            m_ppcQTTempTUArlCoeffY;
92  Int*            m_ppcQTTempTUArlCoeffCb;
93  Int*            m_ppcQTTempTUArlCoeffCr;
94#endif
95protected:
96  // interface to option
97  TEncCfg*        m_pcEncCfg;
98 
99  // interface to classes
100  TComTrQuant*    m_pcTrQuant;
101  TComRdCost*     m_pcRdCost;
102  TEncEntropy*    m_pcEntropyCoder;
103 
104  // ME parameters
105  Int             m_iSearchRange;
106  Int             m_bipredSearchRange; // Search range for bi-prediction
107  Int             m_iFastSearch;
108  Int             m_aaiAdaptSR[2][33];
109  TComMv          m_cSrchRngLT;
110  TComMv          m_cSrchRngRB;
111  TComMv          m_acMvPredictors[3];
112 
113  // RD computation
114  TEncSbac***     m_pppcRDSbacCoder;
115  TEncSbac*       m_pcRDGoOnSbacCoder;
116  Bool            m_bUseSBACRD;
117  DistParam       m_cDistParam;
118 
119  // Misc.
120  Pel*            m_pTempPel;
121  const UInt*     m_puiDFilter;
122  Int             m_iMaxDeltaQP;
123
124#if H_3D_VSO // M17
125  TComYuv         m_cYuvRecTemp; 
126#endif
127  // AMVP cost computation
128  // UInt            m_auiMVPIdxCost[AMVP_MAX_NUM_CANDS+1][AMVP_MAX_NUM_CANDS];
129  UInt            m_auiMVPIdxCost[AMVP_MAX_NUM_CANDS+1][AMVP_MAX_NUM_CANDS+1]; //th array bounds
130 
131public:
132  TEncSearch();
133  virtual ~TEncSearch();
134 
135  Void init(  TEncCfg*      pcEncCfg,
136            TComTrQuant*  pcTrQuant,
137            Int           iSearchRange,
138            Int           bipredSearchRange,
139            Int           iFastSearch,
140            Int           iMaxDeltaQP,
141            TEncEntropy*  pcEntropyCoder,
142            TComRdCost*   pcRdCost,
143            TEncSbac***   pppcRDSbacCoder,
144            TEncSbac*     pcRDGoOnSbacCoder );
145 
146protected:
147 
148  /// sub-function for motion vector refinement used in fractional-pel accuracy
149  UInt  xPatternRefinement( TComPattern* pcPatternKey,
150                           TComMv baseRefMv,
151                           Int iFrac, TComMv& rcMvFrac );
152 
153  typedef struct
154  {
155    Pel*  piRefY;
156    Int   iYStride;
157    Int   iBestX;
158    Int   iBestY;
159    UInt  uiBestRound;
160    UInt  uiBestDistance;
161    UInt  uiBestSad;
162    UChar ucPointNr;
163  } IntTZSearchStruct;
164 
165  // sub-functions for ME
166  __inline Void xTZSearchHelp         ( TComPattern* pcPatternKey, IntTZSearchStruct& rcStruct, const Int iSearchX, const Int iSearchY, const UChar ucPointNr, const UInt uiDistance );
167  __inline Void xTZ2PointSearch       ( TComPattern* pcPatternKey, IntTZSearchStruct& rcStrukt, TComMv* pcMvSrchRngLT, TComMv* pcMvSrchRngRB );
168  __inline Void xTZ8PointSquareSearch ( TComPattern* pcPatternKey, IntTZSearchStruct& rcStrukt, TComMv* pcMvSrchRngLT, TComMv* pcMvSrchRngRB, const Int iStartX, const Int iStartY, const Int iDist );
169  __inline Void xTZ8PointDiamondSearch( TComPattern* pcPatternKey, IntTZSearchStruct& rcStrukt, TComMv* pcMvSrchRngLT, TComMv* pcMvSrchRngRB, const Int iStartX, const Int iStartY, const Int iDist );
170 
171  Void xGetInterPredictionError( TComDataCU* pcCU, TComYuv* pcYuvOrg, Int iPartIdx, UInt& ruiSAD, Bool Hadamard );
172
173public:
174  Void  preestChromaPredMode    ( TComDataCU* pcCU, 
175                                  TComYuv*    pcOrgYuv, 
176                                  TComYuv*    pcPredYuv );
177  Void  estIntraPredQT          ( TComDataCU* pcCU, 
178                                  TComYuv*    pcOrgYuv, 
179                                  TComYuv*    pcPredYuv, 
180                                  TComYuv*    pcResiYuv, 
181                                  TComYuv*    pcRecoYuv,
182                                  UInt&       ruiDistC,
183                                  Bool        bLumaOnly );
184  Void  estIntraPredChromaQT    ( TComDataCU* pcCU, 
185                                  TComYuv*    pcOrgYuv, 
186                                  TComYuv*    pcPredYuv, 
187                                  TComYuv*    pcResiYuv, 
188                                  TComYuv*    pcRecoYuv,
189                                  UInt        uiPreCalcDistC );
190 
191 
192  /// encoder estimation - inter prediction (non-skip)
193  Void predInterSearch          ( TComDataCU* pcCU,
194                                  TComYuv*    pcOrgYuv,
195                                  TComYuv*&   rpcPredYuv,
196                                  TComYuv*&   rpcResiYuv,
197                                  TComYuv*&   rpcRecoYuv,
198                                  Bool        bUseRes = false
199#if AMP_MRG
200                                 ,Bool        bUseMRG = false
201#endif
202                                );
203 
204  /// encode residual and compute rd-cost for inter mode
205  Void encodeResAndCalcRdInterCU( TComDataCU* pcCU,
206                                  TComYuv*    pcYuvOrg,
207                                  TComYuv*    pcYuvPred,
208                                  TComYuv*&   rpcYuvResi,
209                                  TComYuv*&   rpcYuvResiBest,
210                                  TComYuv*&   rpcYuvRec,
211                                  Bool        bSkipRes );
212 
213  /// set ME search range
214  Void setAdaptiveSearchRange   ( Int iDir, Int iRefIdx, Int iSearchRange) { m_aaiAdaptSR[iDir][iRefIdx] = iSearchRange; }
215 
216  Void xEncPCM    (TComDataCU* pcCU, UInt uiAbsPartIdx, Pel* piOrg, Pel* piPCM, Pel* piPred, Pel* piResi, Pel* piReco, UInt uiStride, UInt uiWidth, UInt uiHeight, TextType eText);
217  Void IPCMSearch (TComDataCU* pcCU, TComYuv* pcOrgYuv, TComYuv*& rpcPredYuv, TComYuv*& rpcResiYuv, TComYuv*& rpcRecoYuv );
218protected:
219 
220  // -------------------------------------------------------------------------------------------------------------------
221  // Intra search
222  // -------------------------------------------------------------------------------------------------------------------
223 
224  Void  xEncSubdivCbfQT           ( TComDataCU*  pcCU,
225                                    UInt         uiTrDepth,
226                                    UInt         uiAbsPartIdx,
227                                    Bool         bLuma,
228                                    Bool         bChroma );
229
230  Void  xEncCoeffQT               ( TComDataCU*  pcCU,
231                                    UInt         uiTrDepth,
232                                    UInt         uiAbsPartIdx,
233                                    TextType     eTextType,
234                                    Bool         bRealCoeff );
235  Void  xEncIntraHeader           ( TComDataCU*  pcCU,
236                                    UInt         uiTrDepth,
237                                    UInt         uiAbsPartIdx,
238                                    Bool         bLuma,
239                                    Bool         bChroma );
240  UInt  xGetIntraBitsQT           ( TComDataCU*  pcCU,
241                                    UInt         uiTrDepth,
242                                    UInt         uiAbsPartIdx,
243                                    Bool         bLuma,
244                                    Bool         bChroma,
245                                    Bool         bRealCoeff );
246  UInt  xGetIntraBitsQTChroma    ( TComDataCU*   pcCU,
247                                   UInt          uiTrDepth,
248                                   UInt          uiAbsPartIdx,
249                                   UInt          uiChromaId,
250                                   Bool          bRealCoeff );
251 
252  Void  xIntraCodingLumaBlk       ( TComDataCU*  pcCU,
253                                    UInt         uiTrDepth,
254                                    UInt         uiAbsPartIdx,
255                                    TComYuv*     pcOrgYuv, 
256                                    TComYuv*     pcPredYuv, 
257                                    TComYuv*     pcResiYuv, 
258#if H_3D_VSO
259                                    Dist&        ruiDist,
260#else
261                                    UInt&        ruiDist,
262#endif
263                                    Int         default0Save1Load2 = 0
264#if H_3D_DIM_ENC
265                                  , Bool          zeroResi = false
266#endif
267                                    );
268  Void  xIntraCodingChromaBlk     ( TComDataCU*  pcCU,
269                                    UInt         uiTrDepth,
270                                    UInt         uiAbsPartIdx,
271                                    TComYuv*     pcOrgYuv, 
272                                    TComYuv*     pcPredYuv, 
273                                    TComYuv*     pcResiYuv, 
274                                    UInt&        ruiDist,
275                                    UInt         uiChromaId,
276                                    Int          default0Save1Load2 = 0 );
277
278  Void  xRecurIntraCodingQT       ( TComDataCU*  pcCU, 
279                                    UInt         uiTrDepth,
280                                    UInt         uiAbsPartIdx, 
281                                    Bool         bLumaOnly,
282                                    TComYuv*     pcOrgYuv, 
283                                    TComYuv*     pcPredYuv, 
284                                    TComYuv*     pcResiYuv, 
285#if H_3D_VSO
286                                    Dist&        ruiDistY,
287#else
288                                    UInt&        ruiDistY,
289#endif
290                                    UInt&        ruiDistC,
291#if HHI_RQT_INTRA_SPEEDUP
292                                   Bool         bCheckFirst,
293#endif
294                                   Double&      dRDCost
295#if H_3D_DIM_ENC
296                                   , Bool          zeroResi = false
297#endif
298                                   );
299 
300  Void  xSetIntraResultQT         ( TComDataCU*  pcCU,
301                                    UInt         uiTrDepth,
302                                    UInt         uiAbsPartIdx,
303                                    Bool         bLumaOnly,
304                                    TComYuv*     pcRecoYuv );
305 
306  Void  xRecurIntraChromaCodingQT ( TComDataCU*  pcCU, 
307                                    UInt         uiTrDepth,
308                                    UInt         uiAbsPartIdx, 
309                                    TComYuv*     pcOrgYuv, 
310                                    TComYuv*     pcPredYuv, 
311                                    TComYuv*     pcResiYuv, 
312                                    UInt&        ruiDist );
313  Void  xSetIntraResultChromaQT   ( TComDataCU*  pcCU,
314                                    UInt         uiTrDepth,
315                                    UInt         uiAbsPartIdx,
316                                    TComYuv*     pcRecoYuv );
317 
318  Void  xStoreIntraResultQT       ( TComDataCU*  pcCU,
319                                    UInt         uiTrDepth,
320                                    UInt         uiAbsPartIdx,
321                                    Bool         bLumaOnly );
322  Void  xLoadIntraResultQT        ( TComDataCU*  pcCU,
323                                    UInt         uiTrDepth,
324                                    UInt         uiAbsPartIdx,
325                                    Bool         bLumaOnly );
326  Void xStoreIntraResultChromaQT  ( TComDataCU*  pcCU,
327                                    UInt         uiTrDepth,
328                                    UInt         uiAbsPartIdx,
329                                    UInt         stateU0V1Both2 );
330  Void xLoadIntraResultChromaQT   ( TComDataCU*  pcCU,
331                                    UInt         uiTrDepth,
332                                    UInt         uiAbsPartIdx,
333                                    UInt         stateU0V1Both2 );
334
335
336  // -------------------------------------------------------------------------------------------------------------------
337  // Depth intra search
338  // -------------------------------------------------------------------------------------------------------------------
339#if H_3D_DIM
340  Void xCalcBiSegDCs              ( Pel* ptrSrc, UInt srcStride, Bool* biSegPattern, Int patternStride, Pel& valDC1, Pel& valDC2 );
341#if H_3D_DIM_DMM
342  Void xSearchDmmDeltaDCs         ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piOrig, Pel* piPredic, UInt uiStride, Bool* biSegPattern, Int patternStride, UInt uiWidth, UInt uiHeight, Pel& rDeltaDC1, Pel& rDeltaDC2 );
343  Void xSearchDmm1Wedge           ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piRef, UInt uiRefStride, UInt uiWidth, UInt uiHeight, UInt& ruiTabIdx );
344  Void xSearchDmm2Wedge           ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piRef, UInt uiRefStride, UInt uiWidth, UInt uiHeight, UInt& ruiTabIdx, Int& riWedgeDeltaEnd );
345  Void xSearchDmm3Wedge           ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piRef, UInt uiRefStride, UInt uiWidth, UInt uiHeight, UInt& ruiTabIdx, UInt& ruiIntraTabIdx );
346#endif
347#if H_3D_DIM_RBC
348  Void xSearchRbcDeltaDCs         ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piOrig, Pel* piPredic, UInt uiStride, Bool* biSegPattern, Int patternStride, UInt uiWidth, UInt uiHeight, Pel& rDeltaDC1, Pel& rDeltaDC2 );
349  Bool xSearchRbcEdge             ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piRef, UInt uiRefStride,  Int  iWidth,  Int  iHeight );
350 
351  Bool xCheckTerminatedEdge       ( Bool* pbEdge, Int iX, Int iY, Int iWidth, Int iHeight );
352  Bool xConstructChainCode        ( TComDataCU* pcCU, UInt uiAbsPtIdx, UInt uiWidth, UInt uiHeight );
353#endif
354#if H_3D_DIM_SDC
355  Void xIntraCodingSDC            ( TComDataCU* pcCU, UInt uiAbsPartIdx, TComYuv* pcOrgYuv, TComYuv* pcPredYuv, Dist& ruiDist, Double& dRDCost, Bool bResidual );
356#endif
357#endif
358
359  // -------------------------------------------------------------------------------------------------------------------
360  // Inter search (AMP)
361  // -------------------------------------------------------------------------------------------------------------------
362 
363  Void xEstimateMvPredAMVP        ( TComDataCU* pcCU,
364                                    TComYuv*    pcOrgYuv,
365                                    UInt        uiPartIdx,
366                                    RefPicList  eRefPicList,
367                                    Int         iRefIdx,
368                                    TComMv&     rcMvPred,
369                                    Bool        bFilled = false
370                                  , UInt*       puiDistBiP = NULL
371                                  #if ZERO_MVD_EST
372                                  , UInt*       puiDist = NULL
373                                  #endif
374                                     );
375 
376  Void xCheckBestMVP              ( TComDataCU* pcCU,
377                                    RefPicList  eRefPicList,
378                                    TComMv      cMv,
379                                    TComMv&     rcMvPred,
380                                    Int&        riMVPIdx,
381                                    UInt&       ruiBits,
382                                    UInt&       ruiCost );
383 
384  UInt xGetTemplateCost           ( TComDataCU* pcCU,
385                                    UInt        uiPartIdx,
386                                    UInt        uiPartAddr,
387                                    TComYuv*    pcOrgYuv,
388                                    TComYuv*    pcTemplateCand,
389                                    TComMv      cMvCand,
390                                    Int         iMVPIdx,
391                                    Int         iMVPNum,
392                                    RefPicList  eRefPicList,
393                                    Int         iRefIdx,
394                                    Int         iSizeX,
395                                    Int         iSizeY
396                                  #if ZERO_MVD_EST
397                                  , UInt&       ruiDist
398                                  #endif
399                                   );
400 
401 
402  Void xCopyAMVPInfo              ( AMVPInfo*   pSrc, AMVPInfo* pDst );
403  UInt xGetMvpIdxBits             ( Int iIdx, Int iNum );
404  Void xGetBlkBits                ( PartSize  eCUMode, Bool bPSlice, Int iPartIdx,  UInt uiLastMode, UInt uiBlkBit[3]);
405 
406  Void xMergeEstimation           ( TComDataCU*     pcCU,
407                                    TComYuv*        pcYuvOrg,
408                                    Int             iPartIdx,
409                                    UInt&           uiInterDir,
410                                    TComMvField*    pacMvField,
411                                    UInt&           uiMergeIndex,
412                                    UInt&           ruiCost
413                                  , TComMvField* cMvFieldNeighbours, 
414                                    UChar* uhInterDirNeighbours
415#if H_3D_VSP
416                                  , Int* vspFlag
417#if MTK_VSP_FIX_E0172
418                                  , Int* vspDir
419#endif
420#endif
421                                  , Int& numValidMergeCand
422                                   );
423
424  Void xRestrictBipredMergeCand   ( TComDataCU*     pcCU,
425                                    UInt            puIdx,
426                                    TComMvField*    mvFieldNeighbours, 
427                                    UChar*          interDirNeighbours, 
428#if MTK_VSP_FIX_E0172
429                                    Int* vspFlag,
430#endif
431                                    Int             numValidMergeCand );
432
433  // -------------------------------------------------------------------------------------------------------------------
434  // motion estimation
435  // -------------------------------------------------------------------------------------------------------------------
436 
437  Void xMotionEstimation          ( TComDataCU*   pcCU,
438                                    TComYuv*      pcYuvOrg,
439                                    Int           iPartIdx,
440                                    RefPicList    eRefPicList,
441                                    TComMv*       pcMvPred,
442                                    Int           iRefIdxPred,
443                                    TComMv&       rcMv,
444                                    UInt&         ruiBits,
445                                    UInt&         ruiCost,
446                                    Bool          bBi = false  );
447 
448  Void xTZSearch                  ( TComDataCU*   pcCU,
449                                    TComPattern*  pcPatternKey,
450                                    Pel*          piRefY,
451                                    Int           iRefStride,
452                                    TComMv*       pcMvSrchRngLT,
453                                    TComMv*       pcMvSrchRngRB,
454                                    TComMv&       rcMv,
455                                    UInt&         ruiSAD );
456 
457  Void xSetSearchRange            ( TComDataCU*   pcCU,
458                                    TComMv&       cMvPred,
459                                    Int           iSrchRng,
460                                    TComMv&       rcMvSrchRngLT,
461                                    TComMv&       rcMvSrchRngRB );
462 
463  Void xPatternSearchFast         ( TComDataCU*   pcCU,
464                                    TComPattern*  pcPatternKey,
465                                    Pel*          piRefY,
466                                    Int           iRefStride,
467                                    TComMv*       pcMvSrchRngLT,
468                                    TComMv*       pcMvSrchRngRB,
469                                    TComMv&       rcMv,
470                                    UInt&         ruiSAD );
471 
472  Void xPatternSearch             ( TComPattern*  pcPatternKey,
473                                    Pel*          piRefY,
474                                    Int           iRefStride,
475                                    TComMv*       pcMvSrchRngLT,
476                                    TComMv*       pcMvSrchRngRB,
477                                    TComMv&       rcMv,
478                                    UInt&         ruiSAD );
479 
480  Void xPatternSearchFracDIF      ( TComDataCU*   pcCU,
481                                    TComPattern*  pcPatternKey,
482                                    Pel*          piRefY,
483                                    Int           iRefStride,
484                                    TComMv*       pcMvInt,
485                                    TComMv&       rcMvHalf,
486                                    TComMv&       rcMvQter,
487                                    UInt&         ruiCost
488                                   ,Bool biPred
489                                   );
490 
491  Void xExtDIFUpSamplingH( TComPattern* pcPattern, Bool biPred  );
492  Void xExtDIFUpSamplingQ( TComPattern* pcPatternKey, TComMv halfPelRef, Bool biPred );
493 
494  // -------------------------------------------------------------------------------------------------------------------
495  // T & Q & Q-1 & T-1
496  // -------------------------------------------------------------------------------------------------------------------
497 
498  Void xEncodeResidualQT( TComDataCU* pcCU, UInt uiAbsPartIdx, const UInt uiDepth, Bool bSubdivAndCbf, TextType eType );
499#if H_3D_VSO // M26
500  Void xEstimateResidualQT( TComDataCU* pcCU, UInt uiQuadrant, UInt uiAbsPartIdx, UInt absTUPartIdx,TComYuv* pcOrg, TComYuv* pcPred, TComYuv* pcResi, const UInt uiDepth, Double &rdCost, UInt &ruiBits, Dist &ruiDist, Dist *puiZeroDist );
501#else
502  Void xEstimateResidualQT( TComDataCU* pcCU, UInt uiQuadrant, UInt uiAbsPartIdx, UInt absTUPartIdx,TComYuv* pcResi, const UInt uiDepth, Double &rdCost, UInt &ruiBits, UInt &ruiDist, UInt *puiZeroDist );
503#endif
504  Void xSetResidualQTData( TComDataCU* pcCU, UInt uiQuadrant, UInt uiAbsPartIdx,UInt absTUPartIdx, TComYuv* pcResi, UInt uiDepth, Bool bSpatial );
505 
506  UInt  xModeBitsIntra ( TComDataCU* pcCU, UInt uiMode, UInt uiPU, UInt uiPartOffset, UInt uiDepth, UInt uiInitTrDepth );
507  UInt  xUpdateCandList( UInt uiMode, Double uiCost, UInt uiFastCandNum, UInt * CandModeList, Double * CandCostList );
508 
509  // -------------------------------------------------------------------------------------------------------------------
510  // compute symbol bits
511  // -------------------------------------------------------------------------------------------------------------------
512 
513  Void xAddSymbolBitsInter        ( TComDataCU*   pcCU,
514                                   UInt          uiQp,
515                                   UInt          uiTrMode,
516                                   UInt&         ruiBits,
517                                   TComYuv*&     rpcYuvRec,
518                                   TComYuv*      pcYuvPred,
519                                   TComYuv*&     rpcYuvResi );
520 
521  Void  setWpScalingDistParam( TComDataCU* pcCU, Int iRefIdx, RefPicList eRefPicListCur );
522  inline  Void  setDistParamComp( UInt uiComp )  { m_cDistParam.uiComp = uiComp; }
523 
524};// END CLASS DEFINITION TEncSearch
525
526//! \}
527
528#endif // __TENCSEARCH__
Note: See TracBrowser for help on using the repository browser.