source: 3DVCSoftware/branches/HTM-5.1-dev0/source/Lib/TLibCommon/TComResidualGenerator.cpp @ 280

Last change on this file since 280 was 280, checked in by tech, 11 years ago

Integration of branch dev 2.

  • Property svn:eol-style set to native
File size: 29.6 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2011, ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34
35
36/** \file     TComResidualGenerator.cpp
37    \brief    residual picture generator class
38*/
39
40
41
42#include "CommonDef.h"
43#include "TComResidualGenerator.h"
44
45
46#if HHI_INTER_VIEW_RESIDUAL_PRED
47
48
49TComResidualGenerator::TComResidualGenerator()
50{
51  m_bCreated            = false;
52  m_bInit               = false;
53  m_bDecoder            = false;
54  m_pcTrQuant           = 0;
55  m_pcDepthMapGenerator = 0;
56  m_pcSPSAccess         = 0;
57  m_pcAUPicAccess       = 0;
58  m_uiMaxDepth          = 0;
59  m_uiOrgDepthBitDepth  = 0;
60  m_ppcYuvTmp           = 0;
61  m_ppcYuv              = 0;
62  m_ppcCU               = 0;
63}
64
65TComResidualGenerator::~TComResidualGenerator()
66{
67  destroy ();
68  uninit  ();
69}
70
71Void
72TComResidualGenerator::create( Bool bDecoder, UInt uiPicWidth, UInt uiPicHeight, UInt uiMaxCUDepth, UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiOrgBitDepth )
73{
74  destroy();
75  m_bDecoder            = bDecoder;
76  m_uiMaxDepth          = uiMaxCUDepth;
77  m_uiOrgDepthBitDepth  = uiOrgBitDepth;
78  m_ppcYuvTmp           = new TComYuv*    [ NUM_TMP_YUV_BUFFERS ];
79  m_ppcYuv              = new TComYuv*    [ m_uiMaxDepth ];
80  m_ppcCU               = new TComDataCU* [ m_uiMaxDepth ];
81  for( UInt uiIdx = 0; uiIdx < NUM_TMP_YUV_BUFFERS; uiIdx++ )
82  {
83    m_ppcYuvTmp[uiIdx]  = new TComYuv;    m_ppcYuvTmp[uiIdx]->create( uiMaxCUWidth, uiMaxCUHeight );
84  }
85  for( UInt uiDepth = 0; uiDepth < m_uiMaxDepth; uiDepth++ )
86  {
87    UInt  uiNumPart = 1 << ( ( m_uiMaxDepth - uiDepth ) << 1 );
88    UInt  uiWidth   = uiMaxCUWidth  >> uiDepth;
89    UInt  uiHeight  = uiMaxCUHeight >> uiDepth;
90
91    m_ppcYuv[ uiDepth ] = new TComYuv;    m_ppcYuv[ uiDepth ]->create(            uiWidth, uiHeight                                           );
92    m_ppcCU [ uiDepth ] = new TComDataCU; m_ppcCU [ uiDepth ]->create( uiNumPart, uiWidth, uiHeight, true, uiMaxCUWidth >> (uiMaxCUDepth - 1) );
93  }
94  m_cTmpPic.create( uiPicWidth, uiPicHeight, uiMaxCUWidth, uiMaxCUHeight, uiMaxCUDepth );
95  m_bCreated            = true;
96}
97
98Void
99TComResidualGenerator::destroy()
100{
101  if( m_bCreated )
102  {
103    m_bCreated            = false;
104    for( UInt uiIdx = 0; uiIdx < NUM_TMP_YUV_BUFFERS; uiIdx++ )
105    {
106      m_ppcYuvTmp[uiIdx]->destroy();  delete m_ppcYuvTmp[uiIdx]; m_ppcYuvTmp[uiIdx] = 0;
107    }
108    for( UInt uiDepth = 0; uiDepth < m_uiMaxDepth; uiDepth++ )
109    {
110      m_ppcYuv[ uiDepth ]->destroy(); delete m_ppcYuv[ uiDepth ]; m_ppcYuv[ uiDepth ] = 0;
111      m_ppcCU [ uiDepth ]->destroy(); delete m_ppcCU [ uiDepth ]; m_ppcCU [ uiDepth ] = 0;
112    }
113    delete [] m_ppcYuvTmp;  m_ppcYuvTmp = 0;
114    delete [] m_ppcYuv;     m_ppcYuv = 0;
115    delete [] m_ppcCU;      m_ppcCU  = 0;
116    m_cTmpPic.destroy();
117    m_uiMaxDepth          = 0;
118    m_uiOrgDepthBitDepth  = 0;
119    m_bDecoder            = false;
120  }
121}
122
123Void
124TComResidualGenerator::init( TComTrQuant* pcTrQuant, TComDepthMapGenerator* pcDepthMapGenerator )
125{
126  AOF( pcTrQuant           );
127  AOF( pcDepthMapGenerator );
128  AOF( pcDepthMapGenerator->getSPSAccess  () );
129  AOF( pcDepthMapGenerator->getAUPicAccess() );
130  uninit();
131  m_pcTrQuant           = pcTrQuant;
132  m_pcDepthMapGenerator = pcDepthMapGenerator;
133  m_pcSPSAccess         = pcDepthMapGenerator->getSPSAccess  ();
134  m_pcAUPicAccess       = pcDepthMapGenerator->getAUPicAccess();
135  m_bInit               = true;
136}
137
138Void
139TComResidualGenerator::uninit()
140{
141  if( m_bInit )
142  {
143    m_bInit               = false;
144    m_pcTrQuant           = 0;
145    m_pcDepthMapGenerator = 0;
146    m_pcSPSAccess         = 0;
147    m_pcAUPicAccess       = 0;
148  }
149}
150
151
152
153Void 
154TComResidualGenerator::initViewComponent( TComPic* pcPic )
155{
156  AOF  ( m_bCreated && m_bInit );
157  AOF  ( pcPic );
158
159  // set pointer in SPS
160  pcPic->getSPS()->setResidualGenerator( this );
161  ROFVS( pcPic->getSPS()->getMultiviewResPredMode() );
162
163#if OUTPUT_RESIDUAL_PICTURES
164  // dump reconstructed residual picture for first AU
165  if( pcPic->getPOC() == 0 )
166  {
167    AOF( pcPic->getSPS()->getViewId() );
168    UInt       uiBaseViewId = pcPic->getSPS()->getViewId() - 1;
169    TComPic*   pcBasePic    = m_pcAUPicAccess->getPic( uiBaseViewId );
170    AOF( pcBasePic );
171    Char       acFilenameBase[1024];
172    ::sprintf( acFilenameBase,  "RecResidual_%s", ( m_bDecoder ? "Dec" : "Enc" ) );
173    xDumpResidual( pcBasePic, acFilenameBase );
174  }
175#endif
176}
177
178
179
180Void
181TComResidualGenerator::setRecResidualPic( TComPic* pcPic )
182{
183  AOF  ( m_bCreated && m_bInit );
184  AOF  ( pcPic );
185
186#if MTK_MDIVRP_C0138
187  if (pcPic->getSPS()->getViewId() != 0)
188  {
189    return;
190  }
191#endif
192
193  if( pcPic->getPOC() == 0 )
194  {
195    if( pcPic->getSPS()->getViewId() == 0 || m_pcSPSAccess->getResPrd() != 0 )
196    {
197      // set residual picture
198      AOT( pcPic->getResidual() );
199      if( !pcPic->getResidual() )
200      {
201        pcPic->addResidualBuffer();
202      }
203      xSetRecResidualPic( pcPic );
204    }
205  }
206  else
207  {
208    if( m_pcSPSAccess->getResPrd() != 0 && pcPic->getSPS()->getViewId() < m_pcAUPicAccess->getMaxVId() )
209    {
210      // set residual picture
211      AOT( pcPic->getResidual() );
212      if( !pcPic->getResidual() )
213      {
214        pcPic->addResidualBuffer();
215      }
216      xSetRecResidualPic( pcPic );
217
218#if OUTPUT_RESIDUAL_PICTURES
219      // dump reconstructed residual picture
220      Char acFilenameBase[1024];
221      ::sprintf( acFilenameBase,  "RecResidual_%s", ( m_bDecoder ? "Dec" : "Enc" ) );
222      xDumpResidual( pcPic, acFilenameBase );
223#endif
224    }
225  }
226}
227
228#if QC_MULTI_DIS_CAN_A0097
229#if MTK_RELEASE_DV_CONSTRAINT_C0129
230Bool
231TComResidualGenerator::getResidualSamples( TComDataCU* pcCU, UInt uiPUIdx, TComYuv* pcYuv, TComMv iDisp
232#if QC_SIMPLIFIEDIVRP_M24938
233  , Bool bRecon
234#endif
235  ) 
236#else
237Bool
238TComResidualGenerator::getResidualSamples( TComDataCU* pcCU, UInt uiPUIdx, TComYuv* pcYuv, Int iDisp
239#if QC_SIMPLIFIEDIVRP_M24938
240  , Bool bRecon
241#endif
242 ) 
243#endif
244#else
245Bool
246TComResidualGenerator::getResidualSamples( TComDataCU* pcCU, UInt uiPUIdx, TComYuv* pcYuv
247#if QC_SIMPLIFIEDIVRP_M24938
248  , Bool bRecon
249#endif
250  )
251#endif
252{
253  AOF(  pcCU );
254  UInt  uiPartAddr;
255  Int   iBlkWidth, iBlkHeight, iXPos, iYPos;
256  AOT(  uiPUIdx );
257  uiPartAddr  = 0;
258  iBlkWidth   = pcCU->getWidth  ( 0 );
259  iBlkHeight  = pcCU->getHeight ( 0 );
260  pcCU->getPic()->getPicYuvRec()->getTopLeftSamplePos( pcCU->getAddr(), pcCU->getZorderIdxInCU() + uiPartAddr, iXPos, iYPos );
261#if QC_MULTI_DIS_CAN_A0097
262#if MTK_RELEASE_DV_CONSTRAINT_C0129
263  return getResidualSamples( pcCU->getPic(), (UInt)iXPos, (UInt)iYPos, (UInt)iBlkWidth, (UInt)iBlkHeight, pcYuv, iDisp
264#if QC_SIMPLIFIEDIVRP_M24938
265    , bRecon
266#endif
267  );
268#else
269  return getResidualSamples( pcCU->getPic(), (UInt)iXPos, (UInt)iYPos, (UInt)iBlkWidth, (UInt)iBlkHeight, pcYuv, iDisp
270#if QC_SIMPLIFIEDIVRP_M24938
271    , bRecon
272#endif
273  );
274#endif
275#else
276  return getResidualSamples( pcCU->getPic(), (UInt)iXPos, (UInt)iYPos, (UInt)iBlkWidth, (UInt)iBlkHeight, pcYuv
277#if QC_SIMPLIFIEDIVRP_M24938
278    , bRecon
279#endif
280    );
281#endif
282}
283 
284#if QC_MULTI_DIS_CAN_A0097
285#if MTK_RELEASE_DV_CONSTRAINT_C0129
286Bool
287TComResidualGenerator::getResidualSamples( TComPic* pcPic, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv, TComMv iDisp 
288#if QC_SIMPLIFIEDIVRP_M24938
289  , Bool bRecon
290#endif
291)
292#else
293Bool
294TComResidualGenerator::getResidualSamples( TComPic* pcPic, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv, Int iDisp
295#if QC_SIMPLIFIEDIVRP_M24938
296  , Bool bRecon
297#endif
298)
299#endif
300#else
301Bool
302TComResidualGenerator::getResidualSamples( TComPic* pcPic, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv
303#if QC_SIMPLIFIEDIVRP_M24938
304  , Bool bRecon
305#endif
306  )
307#endif
308{
309#if MTK_C0138_FIXED
310  UInt  uiBaseViewId  = 0;
311#else
312  UInt  uiBaseViewId  = m_pcDepthMapGenerator->getBaseViewId( 0 );
313#endif
314  if( !pcYuv )
315  {
316    pcYuv = m_ppcYuvTmp[1];
317  }
318#if QC_SIMPLIFIEDIVRP_M24938
319  UInt uiXPosInRefView = uiXPos , uiYPosInRefView = uiYPos;
320#endif
321#if QC_MULTI_DIS_CAN_A0097
322#if MTK_RELEASE_DV_CONSTRAINT_C0129
323  xSetPredResidualBlock( pcPic, uiBaseViewId, uiXPos, uiYPos, uiBlkWidth, uiBlkHeight, pcYuv, iDisp
324#if QC_SIMPLIFIEDIVRP_M24938
325   , &uiXPosInRefView , &uiYPosInRefView , bRecon
326#endif 
327  );
328#else
329  xSetPredResidualBlock( pcPic, uiBaseViewId, uiXPos, uiYPos, uiBlkWidth, uiBlkHeight, pcYuv, iDisp
330#if QC_SIMPLIFIEDIVRP_M24938
331    , &uiXPosInRefView , &uiYPosInRefView , bRecon
332#endif 
333  );
334#endif
335#else
336  xSetPredResidualBlock( pcPic, uiBaseViewId, uiXPos, uiYPos, uiBlkWidth, uiBlkHeight, pcYuv
337#if QC_SIMPLIFIEDIVRP_M24938
338    , &uiXPosInRefView , &uiYPosInRefView , bRecon
339#endif
340    );
341#endif
342#if MTK_MDIVRP_C0138
343  return true;
344#else
345#if QC_SIMPLIFIEDIVRP_M24938
346  return xIsNonZeroByCBF( uiBaseViewId , uiXPosInRefView , uiYPosInRefView , uiBlkWidth , uiBlkHeight );
347#else
348  return xIsNonZero( pcYuv, uiBlkWidth, uiBlkHeight );
349#endif
350#endif
351}
352
353#if QC_SIMPLIFIEDIVRP_M24938
354Bool TComResidualGenerator::xIsNonZeroByCBF( UInt uiBaseViewId , UInt uiXPos , UInt uiYPos, UInt uiBlkWidth , UInt uiBlkHeight )
355{
356  TComPic* pcBasePic   = m_pcAUPicAccess->getPic( uiBaseViewId );
357  const Int nMaxPicX = pcBasePic->getSPS()->getPicWidthInLumaSamples() - 1;
358  const Int nMaxPicY = pcBasePic->getSPS()->getPicHeightInLumaSamples() - 1;
359  for( UInt y = 0 ; y < uiBlkHeight ; y +=4 )
360  {
361    for( UInt x = 0 ; x <= uiBlkWidth ; x += 4 )
362    {      // to cover both the mapped CU and the 1-pixel-right-shifted mapped CU
363      Int iCuAddr = 0, iAbsZorderIdx = 0;
364      pcBasePic->getPicYuvRec()->getCUAddrAndPartIdx( Min( uiXPos + x , nMaxPicX ) , Min( uiYPos + y , nMaxPicY ) , iCuAddr , iAbsZorderIdx );
365      TComDataCU *pCUInRefView = pcBasePic->getCU( iCuAddr );
366      if( pCUInRefView->isIntra( iAbsZorderIdx ) )
367        // no inter-view residual pred from a intra CU
368        continue;
369      UInt uiTempTrDepth = pCUInRefView->getTransformIdx( iAbsZorderIdx );
370      if( pCUInRefView->getCbf( iAbsZorderIdx , TEXT_LUMA , uiTempTrDepth )
371        || pCUInRefView->getCbf( iAbsZorderIdx , TEXT_CHROMA_U , uiTempTrDepth )
372        || pCUInRefView->getCbf( iAbsZorderIdx , TEXT_CHROMA_V , uiTempTrDepth ) )
373        return( true );
374}
375  }
376
377  return( false );
378}
379#endif
380
381
382
383Void
384TComResidualGenerator::xSetRecResidualPic( TComPic* pcPic )
385{
386  AOF( pcPic );
387  AOF( pcPic->getResidual() );
388  for( UInt uiCUAddr = 0; uiCUAddr < pcPic->getPicSym()->getNumberOfCUsInFrame(); uiCUAddr++ )
389  {
390    TComDataCU* pcCU = pcPic->getCU( uiCUAddr );
391    xSetRecResidualCU( pcCU, 0, 0 );
392  }
393  pcPic->getResidual()->setBorderExtension( false );
394  pcPic->getResidual()->extendPicBorder   ();
395}
396
397
398Void
399TComResidualGenerator::xSetRecResidualCU( TComDataCU* pcCU, UInt uiDepth, UInt uiAbsPartIdx )
400{
401  UInt  uiLPelX   = pcCU->getCUPelX() + g_auiRasterToPelX[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
402  UInt  uiTPelY   = pcCU->getCUPelY() + g_auiRasterToPelY[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
403  UInt  uiRPelX   = uiLPelX           + ( g_uiMaxCUWidth  >> uiDepth ) - 1;
404  UInt  uiBPelY   = uiTPelY           + ( g_uiMaxCUHeight >> uiDepth ) - 1;
405  Bool  bBoundary = ( uiRPelX >= pcCU->getSlice()->getSPS()->getPicWidthInLumaSamples() || uiBPelY >= pcCU->getSlice()->getSPS()->getPicHeightInLumaSamples() );
406  Bool  bSplit    = ( ( uiDepth < pcCU->getDepth( uiAbsPartIdx ) && uiDepth < ( g_uiMaxCUDepth - g_uiAddCUDepth ) ) || bBoundary );
407  if(   bSplit )
408  {
409    UInt uiQNumParts = ( pcCU->getPic()->getNumPartInCU() >> ( uiDepth << 1 ) ) >> 2;
410    for ( UInt uiPartUnitIdx = 0; uiPartUnitIdx < 4; uiPartUnitIdx++, uiAbsPartIdx += uiQNumParts )
411    {
412      uiLPelX       = pcCU->getCUPelX() + g_auiRasterToPelX[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
413      uiTPelY       = pcCU->getCUPelY() + g_auiRasterToPelY[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
414      Bool  bInside = ( uiLPelX < pcCU->getSlice()->getSPS()->getPicWidthInLumaSamples() && uiTPelY < pcCU->getSlice()->getSPS()->getPicHeightInLumaSamples() );
415      if(   bInside )
416      {
417        xSetRecResidualCU( pcCU, uiDepth + 1, uiAbsPartIdx );
418      }
419    }
420    return;
421  }
422
423  //--- set sub-CU and sub-residual ---
424  TComDataCU* pcSubCU   = m_ppcCU [ uiDepth ];
425  TComYuv*    pcSubRes  = m_ppcYuv[ uiDepth ];
426  TComPicYuv* pcPicRes  = pcCU->getPic()->getResidual();
427  UInt        uiCUAddr  = pcCU->getAddr();
428  pcSubCU->copySubCU( pcCU, uiAbsPartIdx, uiDepth );
429
430  //--- set residual ---
431  switch( pcSubCU->getPredictionMode( 0 ) )
432  {
433  case MODE_INTRA:
434    xSetRecResidualIntraCU( pcSubCU, pcSubRes );
435    break;
436  case MODE_SKIP:
437  case MODE_INTER:
438    xSetRecResidualInterCU( pcSubCU, pcSubRes );
439    break;
440  default:
441    AOT( true );
442    break;
443  }
444
445  //--- copy sub-residual ---
446  pcSubRes->copyToPicYuv( pcPicRes, uiCUAddr, uiAbsPartIdx );
447}
448
449
450Void 
451TComResidualGenerator::xSetRecResidualIntraCU( TComDataCU* pcCU, TComYuv* pcCUResidual )
452{ 
453  //===== set residual to zero for entire CU =====
454  xClearResidual( pcCUResidual, 0, pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
455}
456
457
458Void
459TComResidualGenerator::xSetRecResidualInterCU( TComDataCU* pcCU, TComYuv* pcCUResidual )
460{
461  //===== reconstruct residual from coded transform coefficient levels =====
462  xClearResidual( pcCUResidual, 0, pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
463  // luma
464  UInt    uiWidth   = pcCU->getWidth  ( 0 );
465  UInt    uiHeight  = pcCU->getHeight ( 0 );
466  TCoeff* piCoeff   = pcCU->getCoeffY ();
467  Pel*    pRes      = pcCUResidual->getLumaAddr();
468  UInt    uiLumaTrMode, uiChromaTrMode;
469#if LG_RESTRICTEDRESPRED_M24766  && !MTK_MDIVRP_C0138
470  Int     iPUPredResiShift[4];
471#endif
472  pcCU->convertTransIdx             ( 0, pcCU->getTransformIdx( 0 ), uiLumaTrMode, uiChromaTrMode );
473#if H0736_AVC_STYLE_QP_RANGE
474    m_pcTrQuant->setQPforQuant      ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_LUMA, pcCU->getSlice()->getSPS()->getQpBDOffsetY(), 0 );
475#else
476    m_pcTrQuant->setQPforQuant      ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_LUMA, 0 );
477#endif
478  m_pcTrQuant->invRecurTransformNxN ( pcCU, 0, TEXT_LUMA, pRes, 0, pcCUResidual->getStride(), uiWidth, uiHeight, uiLumaTrMode, 0, piCoeff );
479  // chroma Cb
480  uiWidth   >>= 1;
481  uiHeight  >>= 1;
482  piCoeff     = pcCU->getCoeffCb();
483  pRes        = pcCUResidual->getCbAddr();
484#if H0736_AVC_STYLE_QP_RANGE
485    m_pcTrQuant->setQPforQuant      ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_CHROMA, pcCU->getSlice()->getSPS()->getQpBDOffsetC(), pcCU->getSlice()->getPPS()->getChromaQpOffset() );
486#else
487    m_pcTrQuant->setQPforQuant      ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_CHROMA, pcCU->getSlice()->getSPS()->getQpBDOffsetC() );
488#endif
489  m_pcTrQuant->invRecurTransformNxN ( pcCU, 0, TEXT_CHROMA_U, pRes, 0, pcCUResidual->getCStride(), uiWidth, uiHeight, uiChromaTrMode, 0, piCoeff );
490  // chroma Cr
491  piCoeff     = pcCU->getCoeffCr();
492  pRes        = pcCUResidual->getCrAddr();
493  m_pcTrQuant->invRecurTransformNxN ( pcCU, 0, TEXT_CHROMA_V, pRes, 0, pcCUResidual->getCStride(), uiWidth, uiHeight, uiChromaTrMode, 0, piCoeff );
494
495#if !MTK_MDIVRP_C0138
496  if( pcCU->getResPredFlag( 0 ) )
497  {
498    AOF( pcCU->getResPredAvail( 0 ) );
499    Bool bOK = pcCU->getResidualSamples( 0, 
500#if QC_SIMPLIFIEDIVRP_M24938
501      true,
502#endif
503      m_ppcYuvTmp[0] );
504    AOF( bOK );
505#if LG_RESTRICTEDRESPRED_M24766
506    pcCU->getPUResiPredShift(iPUPredResiShift, 0);
507    pcCUResidual->add(iPUPredResiShift, pcCU->getPartitionSize(0), m_ppcYuvTmp[0], pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
508#else
509    pcCUResidual->add( m_ppcYuvTmp[0], pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
510#endif
511  }
512#endif
513
514  //===== clear inter-view predicted parts =====
515  for( UInt uiPartIdx = 0; uiPartIdx < pcCU->getNumPartInter(); uiPartIdx++ )
516  {
517    xClearIntViewResidual( pcCU, pcCUResidual, uiPartIdx );
518  }
519}
520
521
522Void
523TComResidualGenerator::xClearIntViewResidual( TComDataCU* pcCU, TComYuv* pcCUResidual, UInt uiPartIdx )
524{
525  UInt uiCurrViewId = pcCU->getSlice()->getSPS()->getViewId();
526  if(  uiCurrViewId )
527  {
528    Int             iWidth;
529    Int             iHeight;
530    UInt            uiAbsPartIdx;
531    pcCU->getPartIndexAndSize( uiPartIdx, uiAbsPartIdx, iWidth, iHeight );
532    TComCUMvField*  aiCurrMvField[2]  = { pcCU->getCUMvField( REF_PIC_LIST_0 ),        pcCU->getCUMvField( REF_PIC_LIST_1 )        };
533    Int             aiCurrRefIdx [2]  = { aiCurrMvField[0]->getRefIdx( uiAbsPartIdx ), aiCurrMvField[1]->getRefIdx( uiAbsPartIdx ) };
534    Bool            abCurrIntView[2]  = { aiCurrRefIdx[0] >= 0 && pcCU->getSlice()->getRefPic( REF_PIC_LIST_0, aiCurrRefIdx[0] )->getSPS()->getViewId() != uiCurrViewId,
535                                          aiCurrRefIdx[1] >= 0 && pcCU->getSlice()->getRefPic( REF_PIC_LIST_1, aiCurrRefIdx[1] )->getSPS()->getViewId() != uiCurrViewId };
536    Bool            bUsesInterViewPrd = ( abCurrIntView[0] || abCurrIntView[1] );
537    if( bUsesInterViewPrd )
538    { //===== set resiudal to zero =====
539      xClearResidual( pcCUResidual, uiAbsPartIdx, (UInt)iWidth, (UInt)iHeight );
540    }
541  }
542}
543
544
545Void 
546TComResidualGenerator::xClearResidual( TComYuv* pcCUResidual, UInt uiAbsPartIdx, UInt uiWidth, UInt uiHeight ) 
547{
548  // luma
549  Pel* pSamplesY = pcCUResidual->getLumaAddr( uiAbsPartIdx );
550  Int  iStrideY  = pcCUResidual->getStride  ();
551  for( UInt  uiY = 0; uiY < uiHeight; uiY++, pSamplesY += iStrideY )
552  {
553    ::memset( pSamplesY, 0x00, uiWidth * sizeof( Pel ) );
554  }
555  // chroma
556  uiWidth      >>= 1;
557  uiHeight     >>= 1;
558  Pel* pSamplesU = pcCUResidual->getCbAddr ( uiAbsPartIdx );
559  Pel* pSamplesV = pcCUResidual->getCrAddr ( uiAbsPartIdx );
560  Int  iStrideC  = pcCUResidual->getCStride();
561  for( UInt  uiY = 0; uiY < uiHeight; uiY++, pSamplesU += iStrideC, pSamplesV += iStrideC )
562  {
563    ::memset( pSamplesU, 0x00, uiWidth * sizeof( Pel ) );
564    ::memset( pSamplesV, 0x00, uiWidth * sizeof( Pel ) );
565  }
566}
567
568
569#if QC_MULTI_DIS_CAN_A0097
570#if MTK_RELEASE_DV_CONSTRAINT_C0129
571Void 
572TComResidualGenerator::xSetPredResidualBlock( TComPic* pcPic, UInt uiBaseViewId, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv, TComMv iDisp
573#if QC_SIMPLIFIEDIVRP_M24938
574  , UInt * puiXPosInRefView , UInt * puiYPosInRefView , Bool bRecon
575#endif
576)
577#else
578Void 
579TComResidualGenerator::xSetPredResidualBlock( TComPic* pcPic, UInt uiBaseViewId, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv, Int iDisp
580#if QC_SIMPLIFIEDIVRP_M24938
581  , UInt * puiXPosInRefView , UInt * puiYPosInRefView , Bool bRecon
582#endif
583)
584#endif
585#else
586Void 
587TComResidualGenerator::xSetPredResidualBlock( TComPic* pcPic, UInt uiBaseViewId, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv
588#if QC_SIMPLIFIEDIVRP_M24938
589  , UInt * puiXPosInRefView , UInt * puiYPosInRefView , Bool bRecon
590#endif
591  )
592#endif
593{
594  //===== set and check some basic variables =====
595  AOF(          pcYuv     );
596  TComPic*      pcBasePic   = m_pcAUPicAccess->getPic( uiBaseViewId );
597  AOF(          pcPic     );
598  AOF(          pcBasePic );
599  TComPicYuv*   pcBaseRes   = pcBasePic->getResidual    ();
600  TComPicYuv*   pcPdmMap    = pcPic    ->getPredDepthMap();
601  AOF(          pcBaseRes );
602  AOF(          pcPdmMap  );
603  UInt          uiPicWidth  = pcBaseRes->getWidth ();
604  UInt          uiPicHeight = pcBaseRes->getHeight();
605  AOT( uiXPos + uiBlkWidth  > uiPicWidth  );
606  AOT( uiYPos + uiBlkHeight > uiPicHeight );
607
608  //===== get disparity =====
609#if QC_MULTI_DIS_CAN_A0097
610#if MTK_RELEASE_DV_CONSTRAINT_C0129
611  Int iDisparity_y = iDisp.getVer();
612  Int iDisparity   = iDisp.getHor();
613#else
614  Int iDisparity = iDisp;
615#endif
616#else
617  Int           iMidPosX    = Int( uiXPos + ( ( uiBlkWidth  - 1 ) >> 1 ) ) >> m_pcDepthMapGenerator->getSubSampExpX();
618  Int           iMidPosY    = Int( uiYPos + ( ( uiBlkHeight - 1 ) >> 1 ) ) >> m_pcDepthMapGenerator->getSubSampExpY();
619  Int           iDisparity  = m_pcDepthMapGenerator->getDisparity( pcPic, iMidPosX, iMidPosY, uiBaseViewId );
620#endif
621  //===== compensate luma =====
622  Int           iYWidth     = Int( uiBlkWidth  );
623  Int           iYHeight    = Int( uiBlkHeight );
624  Int           iYWeight1   = ( iDisparity & 3 );
625  Int           iYWeight0   = 4 - iYWeight1;
626  Int           iYRefPosX0  = Int( uiXPos )     + ( iDisparity >> 2 );
627  Int           iYRefPosX1  = iYRefPosX0        + 1;
628#if MTK_RELEASE_DV_CONSTRAINT_C0129
629  Int           iYMaxPosY   = Int( uiPicHeight ) - 1;
630  Int           iYWeight3   = ( iDisparity_y & 3 );
631  Int           iYWeight2   = 4 - iYWeight3;
632  Int           iYRefPosY0  = Max( 0, Min( iYMaxPosY, Int( uiYPos )     + ( iDisparity_y >> 2 )) );
633  Int           iYRefPosY1  = Max( 0, Min( iYMaxPosY, iYRefPosY0 + 1 ));
634#endif
635  Int           iYMaxPosX   = Int( uiPicWidth ) - 1;
636  Int           iSrcStrideY = pcBaseRes->getStride   ();
637  Int           iDesStrideY = pcYuv    ->getStride   ();
638#if MTK_RELEASE_DV_CONSTRAINT_C0129
639  Pel*          pSrcSamplesY0= pcBaseRes->getLumaAddr ( 0 ) + iYRefPosY0 * iSrcStrideY;
640  Pel*          pSrcSamplesY1= pcBaseRes->getLumaAddr ( 0 ) + iYRefPosY1 * iSrcStrideY;
641#else
642  Pel*          pSrcSamplesY= pcBaseRes->getLumaAddr ( 0 ) + uiYPos * iSrcStrideY;
643#endif
644  Pel*          pDesSamplesY= pcYuv    ->getLumaAddr ();
645
646#if QC_SIMPLIFIEDIVRP_M24938
647  if( puiXPosInRefView != NULL )
648    *puiXPosInRefView = Max( 0, Min( iYMaxPosX, iYRefPosX0 ) );
649  if( puiYPosInRefView != NULL )
650    *puiYPosInRefView = uiYPos;
651  if( bRecon == false )
652    return;
653#endif
654#if MTK_RELEASE_DV_CONSTRAINT_C0129
655  for(   Int iY = 0; iY < iYHeight; iY++, pSrcSamplesY0 += iSrcStrideY, pSrcSamplesY1 += iSrcStrideY, pDesSamplesY += iDesStrideY )
656#else
657  for(   Int iY = 0; iY < iYHeight; iY++, pSrcSamplesY += iSrcStrideY, pDesSamplesY += iDesStrideY )
658#endif
659  {
660    for( Int iX = 0; iX < iYWidth; iX++ )
661    {
662      Int iXPic0        = Max( 0, Min( iYMaxPosX, iYRefPosX0 + iX ) );
663      Int iXPic1        = Max( 0, Min( iYMaxPosX, iYRefPosX1 + iX ) );
664#if MTK_RELEASE_DV_CONSTRAINT_C0129
665      Pel Temp1,Temp2;
666      Temp1 =( iYWeight0 * pSrcSamplesY0[iXPic0] + iYWeight1 * pSrcSamplesY0[iXPic1] + 2 ) >> 2;
667      Temp2 =( iYWeight0 * pSrcSamplesY1[iXPic0] + iYWeight1 * pSrcSamplesY1[iXPic1] + 2 ) >> 2;
668      pDesSamplesY[iX]  = ( iYWeight2 * Temp1 + iYWeight3 * Temp2 + 2 ) >> 2;
669#else
670      pDesSamplesY[iX]  = ( iYWeight0 * pSrcSamplesY[iXPic0] + iYWeight1 * pSrcSamplesY[iXPic1] + 2 ) >> 2;
671#endif
672    }
673  }
674
675  //===== compensate chroma =====
676  Int           iCWidth     = Int( uiBlkWidth  >> 1 );
677  Int           iCHeight    = Int( uiBlkHeight >> 1 );
678  Int           iCWeight1   = ( iDisparity & 7 );
679  Int           iCWeight0   = 8 - iCWeight1;
680  Int           iCRefPosX0  = Int( uiXPos     >> 1 ) + ( iDisparity >> 3 );
681  Int           iCRefPosX1  = iCRefPosX0             + 1;
682#if MTK_RELEASE_DV_CONSTRAINT_C0129
683  Int           iCMaxPosY   = Int( uiPicHeight >> 1 ) - 1;
684  Int           iCWeight3   = ( iDisparity_y & 7 );
685  Int           iCWeight2   = 8 - iCWeight3;
686  Int           iCRefPosY0  = Max( 0, Min( iCMaxPosY, Int( uiYPos >> 1 )     + ( iDisparity_y >> 3 )) );
687  Int           iCRefPosY1  = Max( 0, Min( iCMaxPosY, iCRefPosY0 + 1 ));
688#endif
689  Int           iCMaxPosX   = Int( uiPicWidth >> 1 ) - 1;
690  Int           iSrcStrideC = pcBaseRes->getCStride();
691  Int           iDesStrideC = pcYuv    ->getCStride();
692#if MTK_RELEASE_DV_CONSTRAINT_C0129
693  Pel*          pSrcSamplesU0= pcBaseRes->getCbAddr ( 0 ) + ( iCRefPosY0 >> 1 ) * iSrcStrideC;
694  Pel*          pSrcSamplesU1= pcBaseRes->getCbAddr ( 0 ) + ( iCRefPosY1 >> 1 ) * iSrcStrideC;
695  Pel*          pSrcSamplesV0= pcBaseRes->getCrAddr ( 0 ) + ( iCRefPosY0 >> 1 ) * iSrcStrideC;
696  Pel*          pSrcSamplesV1= pcBaseRes->getCrAddr ( 0 ) + ( iCRefPosY1 >> 1 ) * iSrcStrideC;
697#else
698  Pel*          pSrcSamplesU= pcBaseRes->getCbAddr ( 0 ) + ( uiYPos >> 1 ) * iSrcStrideC;
699  Pel*          pSrcSamplesV= pcBaseRes->getCrAddr ( 0 ) + ( uiYPos >> 1 ) * iSrcStrideC;
700#endif
701  Pel*          pDesSamplesU= pcYuv    ->getCbAddr ();
702  Pel*          pDesSamplesV= pcYuv    ->getCrAddr ();
703#if MTK_RELEASE_DV_CONSTRAINT_C0129
704  for(   Int iY = 0; iY < iCHeight; iY++, pSrcSamplesU0 += iSrcStrideC, pSrcSamplesU1 += iSrcStrideC, pDesSamplesU += iDesStrideC,
705                                          pSrcSamplesV0 += iSrcStrideC, pSrcSamplesV1 += iSrcStrideC, pDesSamplesV += iDesStrideC )
706#else
707  for(   Int iY = 0; iY < iCHeight; iY++, pSrcSamplesU += iSrcStrideC, pDesSamplesU += iDesStrideC,
708                                          pSrcSamplesV += iSrcStrideC, pDesSamplesV += iDesStrideC )
709#endif
710  {
711    for( Int iX = 0; iX < iCWidth; iX++ )
712    {
713      Int iXPic0        = Max( 0, Min( iCMaxPosX, iCRefPosX0 + iX ) );
714      Int iXPic1        = Max( 0, Min( iCMaxPosX, iCRefPosX1 + iX ) );
715#if MTK_RELEASE_DV_CONSTRAINT_C0129
716      Pel Temp1,Temp2;
717      Temp1 =( iCWeight0 * pSrcSamplesU0[iXPic0] + iCWeight1 * pSrcSamplesU0[iXPic1] + 4 ) >> 3;
718      Temp2 =( iCWeight0 * pSrcSamplesU1[iXPic0] + iCWeight1 * pSrcSamplesU1[iXPic1] + 4 ) >> 3;
719      pDesSamplesU[iX]  = ( iCWeight2 * Temp1 + iCWeight3 * Temp2 + 4 ) >> 3;
720      Temp1 =( iCWeight0 * pSrcSamplesV0[iXPic0] + iCWeight1 * pSrcSamplesV0[iXPic1] + 4 ) >> 3;
721      Temp2 =( iCWeight0 * pSrcSamplesV1[iXPic0] + iCWeight1 * pSrcSamplesV1[iXPic1] + 4 ) >> 3;
722      pDesSamplesV[iX]  = ( iCWeight2 * Temp1 + iCWeight3 * Temp2 + 4 ) >> 3;
723#else
724      pDesSamplesU[iX]  = ( iCWeight0 * pSrcSamplesU[iXPic0] + iCWeight1 * pSrcSamplesU[iXPic1] + 4 ) >> 3;
725      pDesSamplesV[iX]  = ( iCWeight0 * pSrcSamplesV[iXPic0] + iCWeight1 * pSrcSamplesV[iXPic1] + 4 ) >> 3;
726#endif
727    }
728  }
729}
730
731
732Bool
733TComResidualGenerator::xIsNonZero( TComYuv* pcYuv, UInt uiBlkWidth, UInt uiBlkHeight )
734{
735  AOF( pcYuv );
736  //===== check luma =====
737  Int   iYWidth   = Int( uiBlkWidth  );
738  Int   iYHeight  = Int( uiBlkHeight );
739  Int   iStrideY  = pcYuv->getStride   ();
740  Pel*  pSamplesY = pcYuv->getLumaAddr ();
741  for(   Int iY = 0; iY < iYHeight; iY++, pSamplesY += iStrideY )
742  {
743    for( Int iX = 0; iX < iYWidth; iX++ )
744    {
745      ROTRS( pSamplesY[iX], true );
746    }
747  }
748  //===== compensate chroma =====
749  Int   iCWidth   = Int( uiBlkWidth  >> 1 );
750  Int   iCHeight  = Int( uiBlkHeight >> 1 );
751  Int   iStrideC  = pcYuv->getCStride();
752  Pel*  pSamplesU = pcYuv->getCbAddr ();
753  Pel*  pSamplesV = pcYuv->getCrAddr ();
754  for(   Int iY = 0; iY < iCHeight; iY++, pSamplesU += iStrideC, pSamplesV += iStrideC )
755  {
756    for( Int iX = 0; iX < iCWidth; iX++ )
757    {
758      ROTRS( pSamplesU[iX], true );
759      ROTRS( pSamplesV[iX], true );
760    }
761  }
762  return false;
763}
764
765
766
767Void
768TComResidualGenerator::xDumpResidual( TComPic* pcPic, char* pFilenameBase )
769{
770  AOF( m_bCreated && m_bInit );
771  AOF( pcPic );
772  AOF( pFilenameBase );
773  AOF( m_uiOrgDepthBitDepth == 8 + g_uiBitIncrement );
774
775  // convert to output format (just clip high absolute values, since they are very unlikely)
776  Int         iMin        = 0;
777  Int         iMax        = ( 1 << m_uiOrgDepthBitDepth )  - 1;
778  Int         iMid        = ( 1 << m_uiOrgDepthBitDepth ) >> 1;
779  UInt        uiViewId    = pcPic   ->getSPS      ()->getViewId();
780  TComPicYuv* pcPicYuv    = pcPic   ->getResidual ();
781  // luma
782  Int         iWidth      = pcPicYuv->getWidth    ();
783  Int         iHeight     = pcPicYuv->getHeight   ();
784  Int         iSrcStride  = pcPicYuv->getStride   ();
785  Int         iDstStride  = m_cTmpPic.getStride   ();
786  Pel*        pSrcSamples = pcPicYuv->getLumaAddr ( 0 );
787  Pel*        pDstSamples = m_cTmpPic.getLumaAddr ( 0 );
788  AOF( m_cTmpPic.getWidth () == iWidth  );
789  AOF( m_cTmpPic.getHeight() == iHeight );
790  for( Int iY = 0; iY < iHeight; iY++, pSrcSamples += iSrcStride, pDstSamples += iDstStride )
791  {
792    for( Int iX = 0; iX < iWidth; iX++ )
793    {
794      pDstSamples[ iX ] = Max( iMin, Min( iMax, iMid + pSrcSamples[ iX ] ) );
795    }
796  }
797  // chroma
798  iWidth    >>= 1;
799  iHeight   >>= 1;
800  iSrcStride  = pcPicYuv->getCStride();
801  iDstStride  = m_cTmpPic.getCStride();
802  Pel* pSrcCb = pcPicYuv->getCbAddr ( 0 );
803  Pel* pSrcCr = pcPicYuv->getCrAddr ( 0 );
804  Pel* pDstCb = m_cTmpPic.getCbAddr ( 0 );
805  Pel* pDstCr = m_cTmpPic.getCrAddr ( 0 );
806  for( Int iY = 0; iY < iHeight; iY++, pSrcCb += iSrcStride, pSrcCr += iSrcStride, pDstCb += iDstStride, pDstCr += iDstStride )
807  {
808    for( Int iX = 0; iX < iWidth; iX++ )
809    {
810      pDstCb[ iX ] = Max( iMin, Min( iMax, iMid + pSrcCb[ iX ] ) );
811      pDstCr[ iX ] = Max( iMin, Min( iMax, iMid + pSrcCr[ iX ] ) );
812    }
813  }
814
815  // output
816  Char  acFilename[1024];
817  ::sprintf     ( acFilename, "%s_V%d.yuv", pFilenameBase, uiViewId );
818  m_cTmpPic.dump( acFilename, ( pcPic->getPOC() != 0 )  );
819}
820
821
822#endif // HHI_INTER_VIEW_RESIDUAL_PRED
823
Note: See TracBrowser for help on using the repository browser.