source: 3DVCSoftware/branches/HTM-14.1-update-dev1-HHI/source/Lib/TLibEncoder/TEncSearch.h @ 1209

Last change on this file since 1209 was 1209, checked in by hhi, 9 years ago

Alignment and reactivation of DMM and depth encoder optimizations:

  • new macro NH_3D_DMM for DMM functionality, including several clean-ups.
  • new macro NH_3D_SDC for SDC functionality, currently only used for covering common SDC and DMM parts.
  • new macro NH_3D_ENC_DEPTH for encoder optimizations related to depth.
  • temporary macro TEMP_SDC_CLEANUP for covering several proposed cleanups related to SDC and DMM.
  • Property svn:eol-style set to native
File size: 25.3 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2015, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TEncSearch.h
35    \brief    encoder search class (header)
36*/
37#ifndef __TENCSEARCH__
38#define __TENCSEARCH__
39
40// Include files
41#include "TLibCommon/TComYuv.h"
42#include "TLibCommon/TComMotionInfo.h"
43#include "TLibCommon/TComPattern.h"
44#include "TLibCommon/TComPrediction.h"
45#include "TLibCommon/TComTrQuant.h"
46#include "TLibCommon/TComPic.h"
47#include "TLibCommon/TComRectangle.h"
48#include "TEncEntropy.h"
49#include "TEncSbac.h"
50#include "TEncCfg.h"
51
52//! \ingroup TLibEncoder
53//! \{
54
55class TEncCu;
56
57// ====================================================================================================================
58// Class definition
59// ====================================================================================================================
60
61static const UInt MAX_NUM_REF_LIST_ADAPT_SR=2;
62static const UInt MAX_IDX_ADAPT_SR=33;
63static const UInt NUM_MV_PREDICTORS=3;
64
65/// encoder search class
66class TEncSearch : public TComPrediction
67{
68private:
69  TCoeff**        m_ppcQTTempCoeff[MAX_NUM_COMPONENT /* 0->Y, 1->Cb, 2->Cr*/];
70  TCoeff*         m_pcQTTempCoeff[MAX_NUM_COMPONENT];
71#if ADAPTIVE_QP_SELECTION
72  TCoeff**        m_ppcQTTempArlCoeff[MAX_NUM_COMPONENT];
73  TCoeff*         m_pcQTTempArlCoeff[MAX_NUM_COMPONENT];
74#endif
75  UChar*          m_puhQTTempTrIdx;
76  UChar*          m_puhQTTempCbf[MAX_NUM_COMPONENT];
77
78  TComYuv*        m_pcQTTempTComYuv;
79  TComYuv         m_tmpYuvPred; // To be used in xGetInterPredictionError() to avoid constant memory allocation/deallocation
80
81  Char*           m_phQTTempCrossComponentPredictionAlpha[MAX_NUM_COMPONENT];
82  Pel*            m_pSharedPredTransformSkip[MAX_NUM_COMPONENT];
83  TCoeff*         m_pcQTTempTUCoeff[MAX_NUM_COMPONENT];
84  UChar*          m_puhQTTempTransformSkipFlag[MAX_NUM_COMPONENT];
85  TComYuv         m_pcQTTempTransformSkipTComYuv;
86#if ADAPTIVE_QP_SELECTION
87  TCoeff*         m_ppcQTTempTUArlCoeff[MAX_NUM_COMPONENT];
88#endif
89
90protected:
91  // interface to option
92  TEncCfg*        m_pcEncCfg;
93
94  // interface to classes
95  TComTrQuant*    m_pcTrQuant;
96  TComRdCost*     m_pcRdCost;
97  TEncEntropy*    m_pcEntropyCoder;
98
99  // ME parameters
100  Int             m_iSearchRange;
101  Int             m_bipredSearchRange; // Search range for bi-prediction
102  Int             m_iFastSearch;
103#if NH_MV
104  Bool            m_vertRestriction; 
105#endif
106  Int             m_aaiAdaptSR[MAX_NUM_REF_LIST_ADAPT_SR][MAX_IDX_ADAPT_SR];
107  TComMv          m_cSrchRngLT;
108  TComMv          m_cSrchRngRB;
109  TComMv          m_acMvPredictors[NUM_MV_PREDICTORS]; // Left, Above, AboveRight. enum MVP_DIR first NUM_MV_PREDICTORS entries are suitable for accessing.
110
111  // RD computation
112  TEncSbac***     m_pppcRDSbacCoder;
113  TEncSbac*       m_pcRDGoOnSbacCoder;
114  DistParam       m_cDistParam;
115
116  // Misc.
117  Pel*            m_pTempPel;
118  const UInt*     m_puiDFilter;
119
120#if NH_3D_VSO // M17
121  TComYuv         m_cYuvRecTemp; 
122#endif
123  // AMVP cost computation
124  // UInt            m_auiMVPIdxCost[AMVP_MAX_NUM_CANDS+1][AMVP_MAX_NUM_CANDS];
125  UInt            m_auiMVPIdxCost[AMVP_MAX_NUM_CANDS+1][AMVP_MAX_NUM_CANDS+1]; //th array bounds
126
127  TComMv          m_integerMv2Nx2N[NUM_REF_PIC_LIST_01][MAX_NUM_REF];
128
129public:
130  TEncSearch();
131  virtual ~TEncSearch();
132
133  Void init(  TEncCfg*      pcEncCfg,
134            TComTrQuant*  pcTrQuant,
135            Int           iSearchRange,
136            Int           bipredSearchRange,
137            Int           iFastSearch,
138            const UInt    maxCUWidth,
139            const UInt    maxCUHeight,
140            const UInt    maxTotalCUDepth,
141            TEncEntropy*  pcEntropyCoder,
142            TComRdCost*   pcRdCost,
143            TEncSbac***   pppcRDSbacCoder,
144            TEncSbac*     pcRDGoOnSbacCoder );
145
146protected:
147
148  /// sub-function for motion vector refinement used in fractional-pel accuracy
149  Distortion  xPatternRefinement( TComPattern* pcPatternKey,
150                                  TComMv baseRefMv,
151                                  Int iFrac, TComMv& rcMvFrac, Bool bAllowUseOfHadamard
152                                 );
153
154  typedef struct
155  {
156    Pel*        piRefY;
157    Int         iYStride;
158    Int         iBestX;
159    Int         iBestY;
160    UInt        uiBestRound;
161    UInt        uiBestDistance;
162    Distortion  uiBestSad;
163    UChar       ucPointNr;
164  } IntTZSearchStruct;
165
166  // sub-functions for ME
167  __inline Void xTZSearchHelp         ( TComPattern* pcPatternKey, IntTZSearchStruct& rcStruct, const Int iSearchX, const Int iSearchY, const UChar ucPointNr, const UInt uiDistance );
168  __inline Void xTZ2PointSearch       ( TComPattern* pcPatternKey, IntTZSearchStruct& rcStrukt, TComMv* pcMvSrchRngLT, TComMv* pcMvSrchRngRB );
169  __inline Void xTZ8PointSquareSearch ( TComPattern* pcPatternKey, IntTZSearchStruct& rcStrukt, TComMv* pcMvSrchRngLT, TComMv* pcMvSrchRngRB, const Int iStartX, const Int iStartY, const Int iDist );
170  __inline Void xTZ8PointDiamondSearch( TComPattern* pcPatternKey, IntTZSearchStruct& rcStrukt, TComMv* pcMvSrchRngLT, TComMv* pcMvSrchRngRB, const Int iStartX, const Int iStartY, const Int iDist );
171
172  Void xGetInterPredictionError( TComDataCU* pcCU, TComYuv* pcYuvOrg, Int iPartIdx, Distortion& ruiSAD, Bool Hadamard );
173
174public:
175  Void  estIntraPredLumaQT      ( TComDataCU* pcCU,
176                                  TComYuv*    pcOrgYuv,
177                                  TComYuv*    pcPredYuv,
178                                  TComYuv*    pcResiYuv,
179                                  TComYuv*    pcRecoYuv,
180                                  Pel         resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE]
181                                  DEBUG_STRING_FN_DECLARE(sDebug)
182#if NH_3D_ENC_DEPTH
183                                , Bool        bOnlyIVP
184#endif
185                                );
186
187  Void  estIntraPredChromaQT    ( TComDataCU* pcCU,
188                                  TComYuv*    pcOrgYuv,
189                                  TComYuv*    pcPredYuv,
190                                  TComYuv*    pcResiYuv,
191                                  TComYuv*    pcRecoYuv,
192                                  Pel         resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE]
193                                  DEBUG_STRING_FN_DECLARE(sDebug));
194#if H_3D
195  Void  estIntraPredDIS        ( TComDataCU* pcCU, 
196                                 TComYuv*    pcOrgYuv, 
197                                 TComYuv*    pcPredYuv, 
198                                 TComYuv*    pcResiYuv, 
199                                 TComYuv*    pcRecoYuv,
200                                 UInt&       ruiDistC,
201                                 Bool        bLumaOnly );
202#endif 
203
204  /// encoder estimation - inter prediction (non-skip)
205  Void predInterSearch          ( TComDataCU* pcCU,
206                                  TComYuv*    pcOrgYuv,
207                                  TComYuv*    pcPredYuv,
208                                  TComYuv*    pcResiYuv,
209                                  TComYuv*    pcRecoYuv
210#if H_3D_FAST_TEXTURE_ENCODING
211                                  Bool        bFMD,
212#endif
213                                  DEBUG_STRING_FN_DECLARE(sDebug),
214                                  Bool        bUseRes = false
215#if AMP_MRG
216                                 ,Bool        bUseMRG = false
217#endif
218                                );
219
220  /// encode residual and compute rd-cost for inter mode
221  Void encodeResAndCalcRdInterCU( TComDataCU* pcCU,
222                                  TComYuv*    pcYuvOrg,
223                                  TComYuv*    pcYuvPred,
224                                  TComYuv*    pcYuvResi,
225                                  TComYuv*    pcYuvResiBest,
226                                  TComYuv*    pcYuvRec,
227                                  Bool        bSkipResidual
228                                  DEBUG_STRING_FN_DECLARE(sDebug) );
229#if H_3D_INTER_SDC
230  Void encodeResAndCalcRdInterSDCCU( TComDataCU* pcCU,
231    TComYuv* pcOrg, 
232    TComYuv* pcPred, 
233    TComYuv* pcResi, 
234    TComYuv* pcRec, 
235    Int      uiOffset,
236    const UInt uiDepth );
237#endif
238
239  /// set ME search range
240  Void setAdaptiveSearchRange   ( Int iDir, Int iRefIdx, Int iSearchRange) { assert(iDir < MAX_NUM_REF_LIST_ADAPT_SR && iRefIdx<Int(MAX_IDX_ADAPT_SR)); m_aaiAdaptSR[iDir][iRefIdx] = iSearchRange; }
241
242  Void xEncPCM    (TComDataCU* pcCU, UInt uiAbsPartIdx, Pel* piOrg, Pel* piPCM, Pel* piPred, Pel* piResi, Pel* piReco, UInt uiStride, UInt uiWidth, UInt uiHeight, const ComponentID compID );
243  Void IPCMSearch (TComDataCU* pcCU, TComYuv* pcOrgYuv, TComYuv* rpcPredYuv, TComYuv* rpcResiYuv, TComYuv* rpcRecoYuv );
244protected:
245
246  // -------------------------------------------------------------------------------------------------------------------
247  // Intra search
248  // -------------------------------------------------------------------------------------------------------------------
249
250  Void  xEncSubdivCbfQT           ( TComTU      &rTu,
251                                    Bool         bLuma,
252                                    Bool         bChroma );
253
254  Void  xEncCoeffQT               ( TComTU &rTu,
255                                    ComponentID  component,
256                                    Bool         bRealCoeff );
257  Void  xEncIntraHeader           ( TComDataCU*  pcCU,
258                                    UInt         uiTrDepth,
259                                    UInt         uiAbsPartIdx,
260                                    Bool         bLuma,
261                                    Bool         bChroma );
262  UInt  xGetIntraBitsQT           ( TComTU &rTu,
263                                    Bool         bLuma,
264                                    Bool         bChroma,
265                                    Bool         bRealCoeff );
266
267  UInt  xGetIntraBitsQTChroma    ( TComTU &rTu,
268                                   ComponentID compID,
269                                   Bool          bRealCoeff );
270
271  Void  xIntraCodingTUBlock       (       TComYuv*      pcOrgYuv,
272                                          TComYuv*      pcPredYuv,
273                                          TComYuv*      pcResiYuv,
274                                          Pel           resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE],
275                                    const Bool          checkCrossCPrediction,
276#if NH_3D_VSO
277                                    Dist&        ruiDist,
278#else
279                                    Distortion&   ruiDist,
280#endif
281const ComponentID   compID,
282                                          TComTU        &rTu
283                                    DEBUG_STRING_FN_DECLARE(sTest)
284                                         ,Int           default0Save1Load2 = 0
285#if NH_3D_ENC_DEPTH
286                                  , Bool          zeroResiFlag = false
287#endif
288                                   );
289
290  Void  xRecurIntraCodingLumaQT   ( TComYuv*    pcOrgYuv,
291                                    TComYuv*    pcPredYuv,
292                                    TComYuv*    pcResiYuv,
293                                    Pel         resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE],
294#if NH_3D_VSO
295                                    Dist&        ruiDistY,
296#else
297                                    Distortion& ruiDistY,
298#endif
299#if HHI_RQT_INTRA_SPEEDUP
300                                    Bool         bCheckFirst,
301#endif
302                                    Double&      dRDCost,
303                                    TComTU      &rTu
304                                    DEBUG_STRING_FN_DECLARE(sDebug)
305#if NH_3D_ENC_DEPTH
306                                  , Bool        zeroResiFlag = false
307#endif
308                                  );
309
310  Void  xSetIntraResultLumaQT     ( TComYuv*     pcRecoYuv,
311                                    TComTU &rTu);
312
313  Void xStoreCrossComponentPredictionResult  (       Pel    *pResiLuma,
314                                               const Pel    *pBestLuma,
315                                                     TComTU &rTu,
316                                               const Int     xOffset,
317                                               const Int     yOffset,
318                                               const Int     strideResi,
319                                               const Int     strideBest );
320
321  Char xCalcCrossComponentPredictionAlpha    (       TComTU &rTu,
322                                               const ComponentID compID,
323                                               const Pel*        piResiL,
324                                               const Pel*        piResiC,
325                                               const Int         width,
326                                               const Int         height,
327                                               const Int         strideL,
328                                               const Int         strideC );
329
330  Void  xRecurIntraChromaCodingQT ( TComYuv*    pcOrgYuv,
331                                    TComYuv*    pcPredYuv,
332                                    TComYuv*    pcResiYuv,
333                                    Pel         resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE],
334#if NH_3D_VSO
335                                    Dist&       ruiDist,
336#else
337                                    Distortion& ruiDist,
338#endif
339                                    TComTU      &rTu
340                                    DEBUG_STRING_FN_DECLARE(sDebug));
341
342  Void  xSetIntraResultChromaQT   ( TComYuv*    pcRecoYuv, TComTU &rTu);
343
344  Void  xStoreIntraResultQT       ( const ComponentID compID, TComTU &rTu);
345  Void  xLoadIntraResultQT        ( const ComponentID compID, TComTU &rTu);
346#if H_3D
347  Void xIntraCodingDIS           ( TComDataCU* pcCU, UInt uiAbsPartIdx, TComYuv* pcOrgYuv, TComYuv* pcPredYuv, Dist& ruiDist, Double& dRDCost, UInt uiPredMode );
348#endif
349
350  // -------------------------------------------------------------------------------------------------------------------
351  // Depth intra search
352  // -------------------------------------------------------------------------------------------------------------------
353#if NH_3D_DMM
354  Void xCalcBiSegDCs              ( Pel* ptrSrc, UInt srcStride, Bool* biSegPattern, Int patternStride, Pel& valDC1, Pel& valDC2, Pel defaultVal, Bool subSamp = false );
355  Void xSearchDmmDeltaDCs         ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piOrig, Pel* piPredic, UInt uiStride, Bool* biSegPattern, Int patternStride, UInt uiWidth, UInt uiHeight, Pel& rDeltaDC1, Pel& rDeltaDC2 );
356  Void xSearchDmm1Wedge           ( TComDataCU* pcCU, UInt uiAbsPtIdx, Pel* piRef, UInt uiRefStride, UInt uiWidth, UInt uiHeight, UInt& ruiTabIdx );
357#endif
358#if H_3D_DIM_SDC
359  Void xIntraCodingSDC            ( TComDataCU* pcCU, UInt uiAbsPartIdx, TComYuv* pcOrgYuv, TComYuv* pcPredYuv, Dist& ruiDist, Double& dRDCost, Bool bZeroResidual, Int iSDCDeltaResi    );
360#endif
361#if TEMP_SDC_CLEANUP // PM: consider this cleanup for SDC
362#if NH_3D_SDC
363  Void xCalcConstantSDC           ( Pel* ptrSrc, UInt srcStride, UInt uiSize, Pel& valDC );
364#endif
365#endif
366
367
368  // -------------------------------------------------------------------------------------------------------------------
369  // Inter search (AMP)
370  // -------------------------------------------------------------------------------------------------------------------
371
372  Void xEstimateMvPredAMVP        ( TComDataCU* pcCU,
373                                    TComYuv*    pcOrgYuv,
374                                    UInt        uiPartIdx,
375                                    RefPicList  eRefPicList,
376                                    Int         iRefIdx,
377                                    TComMv&     rcMvPred,
378                                    Bool        bFilled = false
379                                  , Distortion* puiDistBiP = NULL
380                                     );
381
382  Void xCheckBestMVP              ( TComDataCU* pcCU,
383                                    RefPicList  eRefPicList,
384                                    TComMv      cMv,
385                                    TComMv&     rcMvPred,
386                                    Int&        riMVPIdx,
387                                    UInt&       ruiBits,
388                                    Distortion& ruiCost );
389
390  Distortion xGetTemplateCost    ( TComDataCU*  pcCU,
391                                    UInt        uiPartAddr,
392                                    TComYuv*    pcOrgYuv,
393                                    TComYuv*    pcTemplateCand,
394                                    TComMv      cMvCand,
395                                    Int         iMVPIdx,
396                                    Int         iMVPNum,
397                                    RefPicList  eRefPicList,
398                                    Int         iRefIdx,
399                                    Int         iSizeX,
400                                    Int         iSizeY
401                                   );
402
403
404  Void xCopyAMVPInfo              ( AMVPInfo*   pSrc, AMVPInfo* pDst );
405  UInt xGetMvpIdxBits             ( Int iIdx, Int iNum );
406  Void xGetBlkBits                ( PartSize  eCUMode, Bool bPSlice, Int iPartIdx,  UInt uiLastMode, UInt uiBlkBit[3]);
407
408  Void xMergeEstimation           ( TComDataCU*  pcCU,
409                                    TComYuv*     pcYuvOrg,
410                                    Int          iPartIdx,
411                                    UInt&        uiInterDir,
412                                    TComMvField* pacMvField,
413                                    UInt&        uiMergeIndex,
414                                    Distortion&  ruiCost,
415                                    TComMvField* cMvFieldNeighbours,
416                                    UChar*       uhInterDirNeighbours,
417#if H_3D_VSP
418                                  , Int* vspFlag
419#endif
420#if H_3D_SPIVMP
421                                  , Bool* pbSPIVMPFlag, TComMvField* pcMvFieldSP, UChar* puhInterDirSP
422#endif
423                                    Int&         numValidMergeCand
424                                   );
425
426  Void xRestrictBipredMergeCand   ( TComDataCU*     pcCU,
427                                    UInt            puIdx,
428                                    TComMvField*    mvFieldNeighbours,
429                                    UChar*          interDirNeighbours,
430                                    Int             numValidMergeCand );
431
432
433  // -------------------------------------------------------------------------------------------------------------------
434  // motion estimation
435  // -------------------------------------------------------------------------------------------------------------------
436
437  Void xMotionEstimation          ( TComDataCU*  pcCU,
438                                    TComYuv*     pcYuvOrg,
439                                    Int          iPartIdx,
440                                    RefPicList   eRefPicList,
441                                    TComMv*      pcMvPred,
442                                    Int          iRefIdxPred,
443                                    TComMv&      rcMv,
444                                    UInt&        ruiBits,
445                                    Distortion&  ruiCost,
446                                    Bool         bBi = false  );
447
448  Void xTZSearch                  ( TComDataCU*  pcCU,
449                                    TComPattern* pcPatternKey,
450                                    Pel*         piRefY,
451                                    Int          iRefStride,
452                                    TComMv*      pcMvSrchRngLT,
453                                    TComMv*      pcMvSrchRngRB,
454                                    TComMv&      rcMv,
455                                    Distortion&  ruiSAD,
456                                    const TComMv *pIntegerMv2Nx2NPred
457                                    );
458
459  Void xTZSearchSelective         ( TComDataCU*  pcCU,
460                                    TComPattern* pcPatternKey,
461                                    Pel*         piRefY,
462                                    Int          iRefStride,
463                                    TComMv*      pcMvSrchRngLT,
464                                    TComMv*      pcMvSrchRngRB,
465                                    TComMv&      rcMv,
466                                    Distortion&  ruiSAD,
467                                    const TComMv *pIntegerMv2Nx2NPred
468                                    );
469
470  Void xSetSearchRange            ( TComDataCU*  pcCU,
471                                    TComMv&      cMvPred,
472                                    Int          iSrchRng,
473                                    TComMv&      rcMvSrchRngLT,
474                                    TComMv&      rcMvSrchRngRB );
475
476  Void xPatternSearchFast         ( TComDataCU*  pcCU,
477                                    TComPattern* pcPatternKey,
478                                    Pel*         piRefY,
479                                    Int          iRefStride,
480                                    TComMv*      pcMvSrchRngLT,
481                                    TComMv*      pcMvSrchRngRB,
482                                    TComMv&      rcMv,
483                                    Distortion&  ruiSAD,
484                                    const TComMv* pIntegerMv2Nx2NPred
485                                  );
486
487  Void xPatternSearch             ( TComPattern* pcPatternKey,
488                                    Pel*         piRefY,
489                                    Int          iRefStride,
490                                    TComMv*      pcMvSrchRngLT,
491                                    TComMv*      pcMvSrchRngRB,
492                                    TComMv&      rcMv,
493                                    Distortion&  ruiSAD );
494
495  Void xPatternSearchFracDIF      (
496                                    Bool         bIsLosslessCoded,
497                                    TComPattern* pcPatternKey,
498                                    Pel*         piRefY,
499                                    Int          iRefStride,
500                                    TComMv*      pcMvInt,
501                                    TComMv&      rcMvHalf,
502                                    TComMv&      rcMvQter,
503                                    Distortion&  ruiCost
504                                   );
505
506  Void xExtDIFUpSamplingH( TComPattern* pcPattern );
507  Void xExtDIFUpSamplingQ( TComPattern* pcPatternKey, TComMv halfPelRef );
508
509  // -------------------------------------------------------------------------------------------------------------------
510  // T & Q & Q-1 & T-1
511  // -------------------------------------------------------------------------------------------------------------------
512
513  Void xEncodeInterResidualQT( const ComponentID compID, TComTU &rTu );
514#if NH_3D_VSO // M26
515  Void xEstimateInterResidualQT( TComYuv* pcResi, TComYuv* pcOrg, TComYuv* pcPred,  Double &rdCost, UInt &ruiBits, Dist       &ruiDist, Dist       *puiZeroDist, TComTU &rTu DEBUG_STRING_FN_DECLARE(sDebug) );
516#else
517  Void xEstimateInterResidualQT( TComYuv* pcResi                                  , Double &rdCost, UInt &ruiBits, Distortion &ruiDist, Distortion *puiZeroDist, TComTU &rTu DEBUG_STRING_FN_DECLARE(sDebug) );
518#endif
519  Void xSetInterResidualQTData( TComYuv* pcResi, Bool bSpatial, TComTU &rTu  );
520
521  UInt  xModeBitsIntra ( TComDataCU* pcCU, UInt uiMode, UInt uiPartOffset, UInt uiDepth, const ChannelType compID );
522  UInt  xUpdateCandList( UInt uiMode, Double uiCost, UInt uiFastCandNum, UInt * CandModeList, Double * CandCostList );
523
524  // -------------------------------------------------------------------------------------------------------------------
525  // compute symbol bits
526  // -------------------------------------------------------------------------------------------------------------------
527
528  Void xAddSymbolBitsInter       ( TComDataCU*   pcCU,
529                                   UInt&         ruiBits);
530
531  Void  setWpScalingDistParam( TComDataCU* pcCU, Int iRefIdx, RefPicList eRefPicListCur );
532  inline  Void  setDistParamComp( ComponentID compIdx )  { m_cDistParam.compIdx = compIdx; }
533
534};// END CLASS DEFINITION TEncSearch
535
536//! \}
537
538#endif // __TENCSEARCH__
Note: See TracBrowser for help on using the repository browser.