source: 3DVCSoftware/branches/0.2-poznan-univ/source/Lib/TLibCommon/TComResidualGenerator.cpp @ 12

Last change on this file since 12 was 12, checked in by poznan-univ, 12 years ago

Poznan Tools

  • Depth base motion vector prediction
  • Property svn:eol-style set to native
File size: 21.7 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2011, ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34
35
36/** \file     TComResidualGenerator.cpp
37    \brief    residual picture generator class
38*/
39
40
41
42#include "CommonDef.h"
43#include "TComResidualGenerator.h"
44
45
46#if HHI_INTER_VIEW_RESIDUAL_PRED
47
48
49TComResidualGenerator::TComResidualGenerator()
50{
51  m_bCreated            = false;
52  m_bInit               = false;
53  m_bDecoder            = false;
54  m_pcTrQuant           = 0;
55  m_pcDepthMapGenerator = 0;
56  m_pcSPSAccess         = 0;
57  m_pcAUPicAccess       = 0;
58  m_uiMaxDepth          = 0;
59  m_uiOrgDepthBitDepth  = 0;
60  m_ppcYuvTmp           = 0;
61  m_ppcYuv              = 0;
62  m_ppcCU               = 0;
63}
64
65TComResidualGenerator::~TComResidualGenerator()
66{
67  destroy ();
68  uninit  ();
69}
70
71Void
72TComResidualGenerator::create( Bool bDecoder, UInt uiPicWidth, UInt uiPicHeight, UInt uiMaxCUDepth, UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiOrgBitDepth )
73{
74  destroy();
75  m_bDecoder            = bDecoder;
76  m_uiMaxDepth          = uiMaxCUDepth;
77  m_uiOrgDepthBitDepth  = uiOrgBitDepth;
78  m_ppcYuvTmp           = new TComYuv*    [ NUM_TMP_YUV_BUFFERS ];
79  m_ppcYuv              = new TComYuv*    [ m_uiMaxDepth ];
80  m_ppcCU               = new TComDataCU* [ m_uiMaxDepth ];
81  for( UInt uiIdx = 0; uiIdx < NUM_TMP_YUV_BUFFERS; uiIdx++ )
82  {
83    m_ppcYuvTmp[uiIdx]  = new TComYuv;    m_ppcYuvTmp[uiIdx]->create( uiMaxCUWidth, uiMaxCUHeight );
84  }
85  for( UInt uiDepth = 0; uiDepth < m_uiMaxDepth; uiDepth++ )
86  {
87    UInt  uiNumPart = 1 << ( ( m_uiMaxDepth - uiDepth ) << 1 );
88    UInt  uiWidth   = uiMaxCUWidth  >> uiDepth;
89    UInt  uiHeight  = uiMaxCUHeight >> uiDepth;
90
91    m_ppcYuv[ uiDepth ] = new TComYuv;    m_ppcYuv[ uiDepth ]->create(            uiWidth, uiHeight       );
92    m_ppcCU [ uiDepth ] = new TComDataCU; m_ppcCU [ uiDepth ]->create( uiNumPart, uiWidth, uiHeight, true );
93  }
94  m_cTmpPic.create( uiPicWidth, uiPicHeight, uiMaxCUWidth, uiMaxCUHeight, uiMaxCUDepth );
95  m_bCreated            = true;
96}
97
98Void
99TComResidualGenerator::destroy()
100{
101  if( m_bCreated )
102  {
103    m_bCreated            = false;
104    for( UInt uiIdx = 0; uiIdx < NUM_TMP_YUV_BUFFERS; uiIdx++ )
105    {
106      m_ppcYuvTmp[uiIdx]->destroy();  delete m_ppcYuvTmp[uiIdx]; m_ppcYuvTmp[uiIdx] = 0;
107    }
108    for( UInt uiDepth = 0; uiDepth < m_uiMaxDepth; uiDepth++ )
109    {
110      m_ppcYuv[ uiDepth ]->destroy(); delete m_ppcYuv[ uiDepth ]; m_ppcYuv[ uiDepth ] = 0;
111      m_ppcCU [ uiDepth ]->destroy(); delete m_ppcCU [ uiDepth ]; m_ppcCU [ uiDepth ] = 0;
112    }
113    delete [] m_ppcYuvTmp;  m_ppcYuvTmp = 0;
114    delete [] m_ppcYuv;     m_ppcYuv = 0;
115    delete [] m_ppcCU;      m_ppcCU  = 0;
116    m_cTmpPic.destroy();
117    m_uiMaxDepth          = 0;
118    m_uiOrgDepthBitDepth  = 0;
119    m_bDecoder            = false;
120  }
121}
122
123Void
124TComResidualGenerator::init( TComTrQuant* pcTrQuant, TComDepthMapGenerator* pcDepthMapGenerator )
125{
126  AOF( pcTrQuant           );
127  AOF( pcDepthMapGenerator );
128  AOF( pcDepthMapGenerator->getSPSAccess  () );
129  AOF( pcDepthMapGenerator->getAUPicAccess() );
130  uninit();
131  m_pcTrQuant           = pcTrQuant;
132  m_pcDepthMapGenerator = pcDepthMapGenerator;
133  m_pcSPSAccess         = pcDepthMapGenerator->getSPSAccess  ();
134  m_pcAUPicAccess       = pcDepthMapGenerator->getAUPicAccess();
135  m_bInit               = true;
136}
137
138Void
139TComResidualGenerator::uninit()
140{
141  if( m_bInit )
142  {
143    m_bInit               = false;
144    m_pcTrQuant           = 0;
145    m_pcDepthMapGenerator = 0;
146    m_pcSPSAccess         = 0;
147    m_pcAUPicAccess       = 0;
148  }
149}
150
151
152
153Void 
154TComResidualGenerator::initViewComponent( TComPic* pcPic )
155{
156  AOF  ( m_bCreated && m_bInit );
157  AOF  ( pcPic );
158
159  // set pointer in SPS
160  pcPic->getSPS()->setResidualGenerator( this );
161  ROFVS( pcPic->getSPS()->getMultiviewResPredMode() );
162
163#if OUTPUT_RESIDUAL_PICTURES
164  // dump reconstructed residual picture for first AU
165  if( pcPic->getPOC() == 0 )
166  {
167    AOF( pcPic->getSPS()->getViewId() );
168    UInt       uiBaseViewId = pcPic->getSPS()->getViewId() - 1;
169    TComPic*   pcBasePic    = m_pcAUPicAccess->getPic( uiBaseViewId );
170    AOF( pcBasePic );
171    Char       acFilenameBase[1024];
172    ::sprintf( acFilenameBase,  "RecResidual_%s", ( m_bDecoder ? "Dec" : "Enc" ) );
173    xDumpResidual( pcBasePic, acFilenameBase );
174  }
175#endif
176}
177
178
179
180Void
181TComResidualGenerator::setRecResidualPic( TComPic* pcPic )
182{
183  AOF  ( m_bCreated && m_bInit );
184  AOF  ( pcPic );
185
186  if( pcPic->getPOC() == 0 )
187  {
188    if( pcPic->getSPS()->getViewId() == 0 || m_pcSPSAccess->getResPrd() != 0 )
189    {
190      // set residual picture
191      AOT( pcPic->getResidual() );
192      if( !pcPic->getResidual() )
193      {
194        pcPic->addResidualBuffer();
195      }
196      xSetRecResidualPic( pcPic );
197    }
198  }
199  else
200  {
201    if( m_pcSPSAccess->getResPrd() != 0 && pcPic->getSPS()->getViewId() < m_pcAUPicAccess->getMaxVId() )
202    {
203      // set residual picture
204      AOT( pcPic->getResidual() );
205      if( !pcPic->getResidual() )
206      {
207        pcPic->addResidualBuffer();
208      }
209      xSetRecResidualPic( pcPic );
210
211#if OUTPUT_RESIDUAL_PICTURES
212      // dump reconstructed residual picture
213      Char acFilenameBase[1024];
214      ::sprintf( acFilenameBase,  "RecResidual_%s", ( m_bDecoder ? "Dec" : "Enc" ) );
215      xDumpResidual( pcPic, acFilenameBase );
216#endif
217    }
218  }
219}
220
221
222Bool
223TComResidualGenerator::getResidualSamples( TComDataCU* pcCU, UInt uiPUIdx, TComYuv* pcYuv )
224{
225  AOF(  pcCU );
226  UInt  uiPartAddr;
227  Int   iBlkWidth, iBlkHeight, iXPos, iYPos;
228  AOT(  uiPUIdx );
229  uiPartAddr  = 0;
230  iBlkWidth   = pcCU->getWidth  ( 0 );
231  iBlkHeight  = pcCU->getHeight ( 0 );
232  pcCU->getPic()->getPicYuvRec()->getTopLeftSamplePos( pcCU->getAddr(), pcCU->getZorderIdxInCU() + uiPartAddr, iXPos, iYPos );
233  return getResidualSamples( pcCU->getPic(), (UInt)iXPos, (UInt)iYPos, (UInt)iBlkWidth, (UInt)iBlkHeight, pcYuv );
234}
235 
236Bool
237TComResidualGenerator::getResidualSamples( TComPic* pcPic, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv )
238{
239  UInt  uiBaseViewId  = m_pcDepthMapGenerator->getBaseViewId( 0 );
240
241  if( !pcYuv )
242  {
243    pcYuv = m_ppcYuvTmp[1];
244  }
245  xSetPredResidualBlock( pcPic, uiBaseViewId, uiXPos, uiYPos, uiBlkWidth, uiBlkHeight, pcYuv );
246  return xIsNonZero( pcYuv, uiBlkWidth, uiBlkHeight );
247}
248
249
250
251Void
252TComResidualGenerator::xSetRecResidualPic( TComPic* pcPic )
253{
254  AOF( pcPic );
255  AOF( pcPic->getResidual() );
256  for( UInt uiCUAddr = 0; uiCUAddr < pcPic->getPicSym()->getNumberOfCUsInFrame(); uiCUAddr++ )
257  {
258    TComDataCU* pcCU = pcPic->getCU( uiCUAddr );
259    xSetRecResidualCU( pcCU, 0, 0 );
260  }
261  pcPic->getResidual()->setBorderExtension( false );
262  pcPic->getResidual()->extendPicBorder   ();
263}
264
265
266Void
267TComResidualGenerator::xSetRecResidualCU( TComDataCU* pcCU, UInt uiDepth, UInt uiAbsPartIdx )
268{
269  UInt  uiLPelX   = pcCU->getCUPelX() + g_auiRasterToPelX[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
270  UInt  uiTPelY   = pcCU->getCUPelY() + g_auiRasterToPelY[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
271  UInt  uiRPelX   = uiLPelX           + ( g_uiMaxCUWidth  >> uiDepth ) - 1;
272  UInt  uiBPelY   = uiTPelY           + ( g_uiMaxCUHeight >> uiDepth ) - 1;
273  Bool  bBoundary = ( uiRPelX >= pcCU->getSlice()->getSPS()->getWidth() || uiBPelY >= pcCU->getSlice()->getSPS()->getHeight() );
274  Bool  bSplit    = ( ( uiDepth < pcCU->getDepth( uiAbsPartIdx ) && uiDepth < ( g_uiMaxCUDepth - g_uiAddCUDepth ) ) || bBoundary );
275  if(   bSplit )
276  {
277    UInt uiQNumParts = ( pcCU->getPic()->getNumPartInCU() >> ( uiDepth << 1 ) ) >> 2;
278    for ( UInt uiPartUnitIdx = 0; uiPartUnitIdx < 4; uiPartUnitIdx++, uiAbsPartIdx += uiQNumParts )
279    {
280      uiLPelX       = pcCU->getCUPelX() + g_auiRasterToPelX[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
281      uiTPelY       = pcCU->getCUPelY() + g_auiRasterToPelY[ g_auiZscanToRaster[ uiAbsPartIdx ] ];
282      Bool  bInside = ( uiLPelX < pcCU->getSlice()->getSPS()->getWidth() && uiTPelY < pcCU->getSlice()->getSPS()->getHeight() );
283      if(   bInside )
284      {
285        xSetRecResidualCU( pcCU, uiDepth + 1, uiAbsPartIdx );
286      }
287    }
288    return;
289  }
290
291  //--- set sub-CU and sub-residual ---
292  TComDataCU* pcSubCU   = m_ppcCU [ uiDepth ];
293  TComYuv*    pcSubRes  = m_ppcYuv[ uiDepth ];
294  TComPicYuv* pcPicRes  = pcCU->getPic()->getResidual();
295  UInt        uiCUAddr  = pcCU->getAddr();
296  pcSubCU->copySubCU( pcCU, uiAbsPartIdx, uiDepth );
297
298  //--- set residual ---
299  switch( pcSubCU->getPredictionMode( 0 ) )
300  {
301  case MODE_INTRA:
302    xSetRecResidualIntraCU( pcSubCU, pcSubRes );
303    break;
304  case MODE_SKIP:
305  case MODE_INTER:
306    xSetRecResidualInterCU( pcSubCU, pcSubRes );
307    break;
308#if POZNAN_CU_SKIP
309  case MODE_SYNTH:
310    xSetRecResidualIntraCU( pcSubCU, pcSubRes ); //MayBe it should be seperate function
311    break;
312#endif
313  default:
314    AOT( true );
315    break;
316  }
317
318  //--- copy sub-residual ---
319  pcSubRes->copyToPicYuv( pcPicRes, uiCUAddr, uiAbsPartIdx );
320}
321
322
323Void 
324TComResidualGenerator::xSetRecResidualIntraCU( TComDataCU* pcCU, TComYuv* pcCUResidual )
325{ 
326  //===== set residual to zero for entire CU =====
327  xClearResidual( pcCUResidual, 0, pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
328}
329
330
331Void
332TComResidualGenerator::xSetRecResidualInterCU( TComDataCU* pcCU, TComYuv* pcCUResidual )
333{
334  //===== reconstruct residual from coded transform coefficient levels =====
335  xClearResidual( pcCUResidual, 0, pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
336  // luma
337  UInt    uiWidth   = pcCU->getWidth  ( 0 );
338  UInt    uiHeight  = pcCU->getHeight ( 0 );
339  TCoeff* piCoeff   = pcCU->getCoeffY ();
340  Pel*    pRes      = pcCUResidual->getLumaAddr();
341  UInt    uiLumaTrMode, uiChromaTrMode;
342  pcCU->convertTransIdx             ( 0, pcCU->getTransformIdx( 0 ), uiLumaTrMode, uiChromaTrMode );
343#if POZNAN_TEXTURE_TU_DELTA_QP_ACCORDING_TO_DEPTH
344  m_pcTrQuant->setQPforQuant        ( pcCU->getQP( 0 ) + pcCU->getQpOffsetForTextCU(0/*uiAbsPartIdx*/, false), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_LUMA );
345#else
346  m_pcTrQuant->setQPforQuant        ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_LUMA );
347#endif
348  //m_pcTrQuant->setQPforQuant        ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_LUMA );
349  m_pcTrQuant->invRecurTransformNxN ( pcCU, 0, TEXT_LUMA, pRes, 0, pcCUResidual->getStride(), uiWidth, uiHeight, uiLumaTrMode, 0, piCoeff );
350  // chroma Cb
351  uiWidth   >>= 1;
352  uiHeight  >>= 1;
353  piCoeff     = pcCU->getCoeffCb();
354  pRes        = pcCUResidual->getCbAddr();
355#if POZNAN_TEXTURE_TU_DELTA_QP_ACCORDING_TO_DEPTH
356  m_pcTrQuant->setQPforQuant        ( pcCU->getQP( 0 ) + pcCU->getQpOffsetForTextCU(0/*uiAbsPartIdx*/, false), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_CHROMA );
357#else
358  m_pcTrQuant->setQPforQuant        ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_CHROMA );
359#endif
360  //m_pcTrQuant->setQPforQuant        ( pcCU->getQP( 0 ), !pcCU->getSlice()->getDepth(), pcCU->getSlice()->getSliceType(), TEXT_CHROMA );
361  m_pcTrQuant->invRecurTransformNxN ( pcCU, 0, TEXT_CHROMA_U, pRes, 0, pcCUResidual->getCStride(), uiWidth, uiHeight, uiChromaTrMode, 0, piCoeff );
362  // chroma Cr
363  piCoeff     = pcCU->getCoeffCr();
364  pRes        = pcCUResidual->getCrAddr();
365  m_pcTrQuant->invRecurTransformNxN ( pcCU, 0, TEXT_CHROMA_V, pRes, 0, pcCUResidual->getCStride(), uiWidth, uiHeight, uiChromaTrMode, 0, piCoeff );
366
367  if( pcCU->getResPredFlag( 0 ) )
368  {
369    AOF( pcCU->getResPredAvail( 0 ) );
370    Bool bOK = pcCU->getResidualSamples( 0, m_ppcYuvTmp[0] );
371    AOF( bOK );
372    pcCUResidual->add( m_ppcYuvTmp[0], pcCU->getWidth( 0 ), pcCU->getHeight( 0 ) );
373  }
374
375  //===== clear inter-view predicted parts =====
376  for( UInt uiPartIdx = 0; uiPartIdx < pcCU->getNumPartInter(); uiPartIdx++ )
377  {
378    xClearIntViewResidual( pcCU, pcCUResidual, uiPartIdx );
379  }
380}
381
382
383Void
384TComResidualGenerator::xClearIntViewResidual( TComDataCU* pcCU, TComYuv* pcCUResidual, UInt uiPartIdx )
385{
386  UInt uiCurrViewId = pcCU->getSlice()->getSPS()->getViewId();
387  if(  uiCurrViewId )
388  {
389    Int             iWidth;
390    Int             iHeight;
391    UInt            uiAbsPartIdx;
392    pcCU->getPartIndexAndSize( uiPartIdx, uiAbsPartIdx, iWidth, iHeight );
393    TComCUMvField*  aiCurrMvField[2]  = { pcCU->getCUMvField( REF_PIC_LIST_0 ),        pcCU->getCUMvField( REF_PIC_LIST_1 )        };
394    Int             aiCurrRefIdx [2]  = { aiCurrMvField[0]->getRefIdx( uiAbsPartIdx ), aiCurrMvField[1]->getRefIdx( uiAbsPartIdx ) };
395    Bool            abCurrIntView[2]  = { aiCurrRefIdx[0] >= 0 && pcCU->getSlice()->getRefPic( REF_PIC_LIST_0, aiCurrRefIdx[0] )->getSPS()->getViewId() != uiCurrViewId,
396                                          aiCurrRefIdx[1] >= 0 && pcCU->getSlice()->getRefPic( REF_PIC_LIST_1, aiCurrRefIdx[1] )->getSPS()->getViewId() != uiCurrViewId };
397    Bool            bUsesInterViewPrd = ( abCurrIntView[0] || abCurrIntView[1] );
398    if( bUsesInterViewPrd )
399    { //===== set resiudal to zero =====
400      xClearResidual( pcCUResidual, uiAbsPartIdx, (UInt)iWidth, (UInt)iHeight );
401    }
402  }
403}
404
405
406Void 
407TComResidualGenerator::xClearResidual( TComYuv* pcCUResidual, UInt uiAbsPartIdx, UInt uiWidth, UInt uiHeight ) 
408{
409  // luma
410  Pel* pSamplesY = pcCUResidual->getLumaAddr( uiAbsPartIdx );
411  Int  iStrideY  = pcCUResidual->getStride  ();
412  for( UInt  uiY = 0; uiY < uiHeight; uiY++, pSamplesY += iStrideY )
413  {
414    ::memset( pSamplesY, 0x00, uiWidth * sizeof( Pel ) );
415  }
416  // chroma
417  uiWidth      >>= 1;
418  uiHeight     >>= 1;
419  Pel* pSamplesU = pcCUResidual->getCbAddr ( uiAbsPartIdx );
420  Pel* pSamplesV = pcCUResidual->getCrAddr ( uiAbsPartIdx );
421  Int  iStrideC  = pcCUResidual->getCStride();
422  for( UInt  uiY = 0; uiY < uiHeight; uiY++, pSamplesU += iStrideC, pSamplesV += iStrideC )
423  {
424    ::memset( pSamplesU, 0x00, uiWidth * sizeof( Pel ) );
425    ::memset( pSamplesV, 0x00, uiWidth * sizeof( Pel ) );
426  }
427}
428
429
430
431Void 
432TComResidualGenerator::xSetPredResidualBlock( TComPic* pcPic, UInt uiBaseViewId, UInt uiXPos, UInt uiYPos, UInt uiBlkWidth, UInt uiBlkHeight, TComYuv* pcYuv )
433{
434  //===== set and check some basic variables =====
435  AOF(          pcYuv     );
436  TComPic*      pcBasePic   = m_pcAUPicAccess->getPic( uiBaseViewId );
437  AOF(          pcPic     );
438  AOF(          pcBasePic );
439  TComPicYuv*   pcBaseRes   = pcBasePic->getResidual    ();
440  TComPicYuv*   pcPdmMap    = pcPic    ->getPredDepthMap();
441  AOF(          pcBaseRes );
442  AOF(          pcPdmMap  );
443  UInt          uiPicWidth  = pcBaseRes->getWidth ();
444  UInt          uiPicHeight = pcBaseRes->getHeight();
445  AOT( uiXPos + uiBlkWidth  > uiPicWidth  );
446  AOT( uiYPos + uiBlkHeight > uiPicHeight );
447
448  //===== get disparity =====
449  Int           iMidPosX    = Int( uiXPos + ( ( uiBlkWidth  - 1 ) >> 1 ) );
450  Int           iMidPosY    = Int( uiYPos + ( ( uiBlkHeight - 1 ) >> 1 ) );
451  Int           iDisparity  = m_pcDepthMapGenerator->getDisparity( pcPic, iMidPosX, iMidPosY, uiBaseViewId );
452
453  //===== compensate luma =====
454  Int           iYWidth     = Int( uiBlkWidth  );
455  Int           iYHeight    = Int( uiBlkHeight );
456  Int           iYWeight1   = ( iDisparity & 3 );
457  Int           iYWeight0   = 4 - iYWeight1;
458  Int           iYRefPosX0  = Int( uiXPos )     + ( iDisparity >> 2 );
459  Int           iYRefPosX1  = iYRefPosX0        + 1;
460  Int           iYMaxPosX   = Int( uiPicWidth ) - 1;
461  Int           iSrcStrideY = pcBaseRes->getStride   ();
462  Int           iDesStrideY = pcYuv    ->getStride   ();
463  Pel*          pSrcSamplesY= pcBaseRes->getLumaAddr ( 0 ) + uiYPos * iSrcStrideY;
464  Pel*          pDesSamplesY= pcYuv    ->getLumaAddr ();
465  for(   Int iY = 0; iY < iYHeight; iY++, pSrcSamplesY += iSrcStrideY, pDesSamplesY += iDesStrideY )
466  {
467    for( Int iX = 0; iX < iYWidth; iX++ )
468    {
469      Int iXPic0        = Max( 0, Min( iYMaxPosX, iYRefPosX0 + iX ) );
470      Int iXPic1        = Max( 0, Min( iYMaxPosX, iYRefPosX1 + iX ) );
471      pDesSamplesY[iX]  = ( iYWeight0 * pSrcSamplesY[iXPic0] + iYWeight1 * pSrcSamplesY[iXPic1] + 2 ) >> 2;
472    }
473  }
474
475  //===== compensate chroma =====
476  Int           iCWidth     = Int( uiBlkWidth  >> 1 );
477  Int           iCHeight    = Int( uiBlkHeight >> 1 );
478  Int           iCWeight1   = ( iDisparity & 7 );
479  Int           iCWeight0   = 8 - iCWeight1;
480  Int           iCRefPosX0  = Int( uiXPos     >> 1 ) + ( iDisparity >> 3 );
481  Int           iCRefPosX1  = iCRefPosX0             + 1;
482  Int           iCMaxPosX   = Int( uiPicWidth >> 1 ) - 1;
483  Int           iSrcStrideC = pcBaseRes->getCStride();
484  Int           iDesStrideC = pcYuv    ->getCStride();
485  Pel*          pSrcSamplesU= pcBaseRes->getCbAddr ( 0 ) + ( uiYPos >> 1 ) * iSrcStrideC;
486  Pel*          pSrcSamplesV= pcBaseRes->getCrAddr ( 0 ) + ( uiYPos >> 1 ) * iSrcStrideC;
487  Pel*          pDesSamplesU= pcYuv    ->getCbAddr ();
488  Pel*          pDesSamplesV= pcYuv    ->getCrAddr ();
489  for(   Int iY = 0; iY < iCHeight; iY++, pSrcSamplesU += iSrcStrideC, pDesSamplesU += iDesStrideC,
490                                          pSrcSamplesV += iSrcStrideC, pDesSamplesV += iDesStrideC )
491  {
492    for( Int iX = 0; iX < iCWidth; iX++ )
493    {
494      Int iXPic0        = Max( 0, Min( iCMaxPosX, iCRefPosX0 + iX ) );
495      Int iXPic1        = Max( 0, Min( iCMaxPosX, iCRefPosX1 + iX ) );
496      pDesSamplesU[iX]  = ( iCWeight0 * pSrcSamplesU[iXPic0] + iCWeight1 * pSrcSamplesU[iXPic1] + 4 ) >> 3;
497      pDesSamplesV[iX]  = ( iCWeight0 * pSrcSamplesV[iXPic0] + iCWeight1 * pSrcSamplesV[iXPic1] + 4 ) >> 3;
498    }
499  }
500}
501
502
503Bool
504TComResidualGenerator::xIsNonZero( TComYuv* pcYuv, UInt uiBlkWidth, UInt uiBlkHeight )
505{
506  AOF( pcYuv );
507  //===== check luma =====
508  Int   iYWidth   = Int( uiBlkWidth  );
509  Int   iYHeight  = Int( uiBlkHeight );
510  Int   iStrideY  = pcYuv->getStride   ();
511  Pel*  pSamplesY = pcYuv->getLumaAddr ();
512  for(   Int iY = 0; iY < iYHeight; iY++, pSamplesY += iStrideY )
513  {
514    for( Int iX = 0; iX < iYWidth; iX++ )
515    {
516      ROTRS( pSamplesY[iX], true );
517    }
518  }
519  //===== compensate chroma =====
520  Int   iCWidth   = Int( uiBlkWidth  >> 1 );
521  Int   iCHeight  = Int( uiBlkHeight >> 1 );
522  Int   iStrideC  = pcYuv->getCStride();
523  Pel*  pSamplesU = pcYuv->getCbAddr ();
524  Pel*  pSamplesV = pcYuv->getCrAddr ();
525  for(   Int iY = 0; iY < iCHeight; iY++, pSamplesU += iStrideC, pSamplesV += iStrideC )
526  {
527    for( Int iX = 0; iX < iCWidth; iX++ )
528    {
529      ROTRS( pSamplesU[iX], true );
530      ROTRS( pSamplesV[iX], true );
531    }
532  }
533  return false;
534}
535
536
537
538Void
539TComResidualGenerator::xDumpResidual( TComPic* pcPic, char* pFilenameBase )
540{
541  AOF( m_bCreated && m_bInit );
542  AOF( pcPic );
543  AOF( pFilenameBase );
544  AOF( m_uiOrgDepthBitDepth == 8 + g_uiBitIncrement );
545
546  // convert to output format (just clip high absolute values, since they are very unlikely)
547  Int         iMin        = 0;
548  Int         iMax        = ( 1 << m_uiOrgDepthBitDepth )  - 1;
549  Int         iMid        = ( 1 << m_uiOrgDepthBitDepth ) >> 1;
550  UInt        uiViewId    = pcPic   ->getSPS      ()->getViewId();
551  TComPicYuv* pcPicYuv    = pcPic   ->getResidual ();
552  // luma
553  Int         iWidth      = pcPicYuv->getWidth    ();
554  Int         iHeight     = pcPicYuv->getHeight   ();
555  Int         iSrcStride  = pcPicYuv->getStride   ();
556  Int         iDstStride  = m_cTmpPic.getStride   ();
557  Pel*        pSrcSamples = pcPicYuv->getLumaAddr ( 0 );
558  Pel*        pDstSamples = m_cTmpPic.getLumaAddr ( 0 );
559  AOF( m_cTmpPic.getWidth () == iWidth  );
560  AOF( m_cTmpPic.getHeight() == iHeight );
561  for( Int iY = 0; iY < iHeight; iY++, pSrcSamples += iSrcStride, pDstSamples += iDstStride )
562  {
563    for( Int iX = 0; iX < iWidth; iX++ )
564    {
565      pDstSamples[ iX ] = Max( iMin, Min( iMax, iMid + pSrcSamples[ iX ] ) );
566    }
567  }
568  // chroma
569  iWidth    >>= 1;
570  iHeight   >>= 1;
571  iSrcStride  = pcPicYuv->getCStride();
572  iDstStride  = m_cTmpPic.getCStride();
573  Pel* pSrcCb = pcPicYuv->getCbAddr ( 0 );
574  Pel* pSrcCr = pcPicYuv->getCrAddr ( 0 );
575  Pel* pDstCb = m_cTmpPic.getCbAddr ( 0 );
576  Pel* pDstCr = m_cTmpPic.getCrAddr ( 0 );
577  for( Int iY = 0; iY < iHeight; iY++, pSrcCb += iSrcStride, pSrcCr += iSrcStride, pDstCb += iDstStride, pDstCr += iDstStride )
578  {
579    for( Int iX = 0; iX < iWidth; iX++ )
580    {
581      pDstCb[ iX ] = Max( iMin, Min( iMax, iMid + pSrcCb[ iX ] ) );
582      pDstCr[ iX ] = Max( iMin, Min( iMax, iMid + pSrcCr[ iX ] ) );
583    }
584  }
585
586  // output
587  Char  acFilename[1024];
588  ::sprintf     ( acFilename, "%s_V%d.yuv", pFilenameBase, uiViewId );
589  m_cTmpPic.dump( acFilename, ( pcPic->getPOC() != 0 )  );
590}
591
592
593#endif // HHI_INTER_VIEW_RESIDUAL_PRED
594
Note: See TracBrowser for help on using the repository browser.