source: 3DVCSoftware/trunk/source/Lib/TLibCommon/TComWedgelet.cpp @ 608

Last change on this file since 608 was 608, checked in by tech, 11 years ago

Merged DEV-2.0-dev0@604.

  • Property svn:eol-style set to native
File size: 25.3 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2011, ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34
35
36
37// Include files
38#include "CommonDef.h"
39#include "TComYuv.h"
40#include "TComWedgelet.h"
41
42#include <stdlib.h>
43#include <memory.h>
44
45using namespace std;
46
47#if H_3D_DIM_DMM
48TComWedgelet::TComWedgelet( UInt uiWidth, UInt uiHeight ) : m_uhXs     ( 0 ),
49                                                            m_uhYs     ( 0 ),
50                                                            m_uhXe     ( 0 ),
51                                                            m_uhYe     ( 0 ),
52                                                            m_uhOri    ( 0 ),
53                                                            m_eWedgeRes( FULL_PEL ),
54                                                            m_bIsCoarse( false )
55{
56  create( uiWidth, uiHeight );
57}
58
59TComWedgelet::TComWedgelet( const TComWedgelet &rcWedge ) : m_uhXs     ( rcWedge.m_uhXs      ),
60                                                            m_uhYs     ( rcWedge.m_uhYs      ),
61                                                            m_uhXe     ( rcWedge.m_uhXe      ),
62                                                            m_uhYe     ( rcWedge.m_uhYe      ),
63                                                            m_uhOri    ( rcWedge.m_uhOri     ),
64                                                            m_eWedgeRes( rcWedge.m_eWedgeRes ),
65                                                            m_bIsCoarse( rcWedge.m_bIsCoarse ),
66                                                            m_uiAng    ( rcWedge.m_uiAng     ),
67                                                            m_uiWidth  ( rcWedge.m_uiWidth   ),
68                                                            m_uiHeight ( rcWedge.m_uiHeight  ),
69                                                            m_pbPattern( (Bool*)xMalloc( Bool, (m_uiWidth * m_uiHeight) ) )
70{
71  ::memcpy( m_pbPattern, rcWedge.m_pbPattern, sizeof(Bool) * (m_uiWidth * m_uiHeight));
72}
73
74TComWedgelet::~TComWedgelet(void)
75{
76  destroy();
77}
78
79Void TComWedgelet::create( UInt uiWidth, UInt uiHeight )
80{
81  assert( uiWidth > 0 && uiHeight > 0 );
82
83  m_uiWidth   = uiWidth;
84  m_uiHeight  = uiHeight;
85
86  m_pbPattern = (Bool*)xMalloc( Bool, (m_uiWidth * m_uiHeight) );
87}
88
89Void TComWedgelet::destroy()
90{
91  if( m_pbPattern ) { xFree( m_pbPattern ); m_pbPattern = NULL; }
92}
93
94Void TComWedgelet::clear()
95{
96  ::memset( m_pbPattern, 0, (m_uiWidth * m_uiHeight) * sizeof(Bool) );
97}
98
99Void TComWedgelet::findClosestAngle()
100{
101  UInt uiAng=0,uiOptAng=0;
102  UInt uiMinD=MAX_UINT;
103  UInt uiTmpD=0;
104  Int angTable[9]    = {0,    2,    5,   9,  13,  17,  21,  26,  32};
105 
106  UChar uhXs = m_uhXs;
107  UChar uhYs = m_uhYs;
108  UChar uhXe = m_uhXe;
109  UChar uhYe = m_uhYe;
110
111  for(uiAng=2; uiAng<=34; uiAng++)
112  {
113    Int iSign    = (uiAng<VER_IDX && uiAng>HOR_IDX ) ? -1 : 1;
114    Int iVer     = uiAng>17 ? 32 : angTable[(uiAng>10) ? (uiAng-10) : (10-uiAng)];
115    Int iHor     = uiAng<19 ? 32 : angTable[(uiAng>26) ? (uiAng-26) : (26-uiAng)];
116
117    uiTmpD  = abs(iVer*iSign*(uhXs-uhXe) - iHor*(uhYe-uhYs));
118   
119    if( uiTmpD < uiMinD )
120    {
121      uiMinD = uiTmpD;
122      uiOptAng = uiAng;
123    }
124  }
125  m_uiAng = uiOptAng;
126}
127
128Void TComWedgelet::setWedgelet( UChar uhXs, UChar uhYs, UChar uhXe, UChar uhYe, UChar uhOri, WedgeResolution eWedgeRes, Bool bIsCoarse )
129{
130  m_uhXs      = uhXs;
131  m_uhYs      = uhYs;
132  m_uhXe      = uhXe;
133  m_uhYe      = uhYe;
134  m_uhOri     = uhOri;
135  m_eWedgeRes = eWedgeRes;
136  m_bIsCoarse = bIsCoarse;
137
138  xGenerateWedgePattern();
139}
140
141Bool TComWedgelet::checkNotPlain()
142{
143  for( UInt k = 1; k < (m_uiWidth * m_uiHeight); k++ )
144  {
145    if( m_pbPattern[0] != m_pbPattern[k] )
146    {
147      return true;
148    }
149  }
150  return false;
151}
152
153Bool TComWedgelet::checkIdentical( Bool* pbRefPattern )
154{
155  for( UInt k = 0; k < (m_uiWidth * m_uiHeight); k++ )
156  {
157    if( m_pbPattern[k] != pbRefPattern[k] )
158    {
159      return false;
160    }
161  }
162  return true;
163}
164
165Bool TComWedgelet::checkInvIdentical( Bool* pbRefPattern )
166{
167  for( UInt k = 0; k < (m_uiWidth * m_uiHeight); k++ )
168  {
169    if( m_pbPattern[k] == pbRefPattern[k] )
170    {
171      return false;
172    }
173  }
174  return true;
175}
176
177Bool TComWedgelet::checkPredDirAbovePossible( UInt uiPredDirBlockSize, UInt uiPredDirBlockOffset )
178{
179  WedgeResolution eContDWedgeRes = g_dmmWedgeResolution[(UInt)g_aucConvertToBit[uiPredDirBlockSize]];
180  UInt uiContDStartEndMax = 0;
181  UInt uiContDStartEndOffset = 0;
182  switch( eContDWedgeRes )
183  {
184  case( DOUBLE_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize>>1); uiContDStartEndOffset = (uiPredDirBlockOffset>>1); break; }
185  case(   FULL_PEL ): { uiContDStartEndMax =  uiPredDirBlockSize;     uiContDStartEndOffset =  uiPredDirBlockOffset;     break; }
186  case(   HALF_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize<<1); uiContDStartEndOffset = (uiPredDirBlockOffset<<1); break; }
187  }
188
189  if( m_uhOri == 2 || m_uhOri == 3 || m_uhOri == 4 )
190  {
191    UInt uiThisStartEndMax = 0;
192    switch( m_eWedgeRes )
193    {
194    case( DOUBLE_PEL ): { uiThisStartEndMax = (m_uiWidth>>1); break; }
195    case(   FULL_PEL ): { uiThisStartEndMax =  m_uiWidth;     break; }
196    case(   HALF_PEL ): { uiThisStartEndMax = (m_uiWidth<<1); break; }
197    }
198
199    UChar uhStartX = m_uhXs;
200    UChar uhStartY = m_uhYs;
201    UChar uhEndX   = m_uhXe;
202    UChar uhEndY   = m_uhYe;
203
204    if( 2 == m_uhOri )
205    {
206      std::swap( uhStartX, uhEndX );
207      std::swap( uhStartY, uhEndY );
208    }
209
210    UInt uiScaledEndX = (UInt)uhEndX;
211    Int iDeltaRes = (Int)eContDWedgeRes - (Int)m_eWedgeRes;
212    if( iDeltaRes > 0 ) { uiScaledEndX <<=  iDeltaRes; }
213    if( iDeltaRes < 0 ) { uiScaledEndX >>= -iDeltaRes; }
214
215    if( ((UInt)uhEndY == (uiThisStartEndMax-1)) && ((uiScaledEndX-uiContDStartEndOffset) > 0 && (uiScaledEndX-uiContDStartEndOffset) < (uiContDStartEndMax-1)) )
216    {
217      return true;
218    }
219  }
220
221  return false;
222}
223
224Bool TComWedgelet::checkPredDirLeftPossible( UInt uiPredDirBlockSize, UInt uiPredDirBlockOffset )
225{
226  WedgeResolution eContDWedgeRes = g_dmmWedgeResolution[(UInt)g_aucConvertToBit[uiPredDirBlockSize]];
227  UInt uiContDStartEndMax = 0;
228  UInt uiContDStartEndOffset = 0;
229  switch( eContDWedgeRes )
230  {
231  case( DOUBLE_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize>>1); uiContDStartEndOffset = (uiPredDirBlockOffset>>1); break; }
232  case(   FULL_PEL ): { uiContDStartEndMax =  uiPredDirBlockSize;     uiContDStartEndOffset =  uiPredDirBlockOffset;     break; }
233  case(   HALF_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize<<1); uiContDStartEndOffset = (uiPredDirBlockOffset<<1); break; }
234  }
235
236  if( m_uhOri == 1 || m_uhOri == 2 || m_uhOri == 5 )
237  {
238    UInt uiThisStartEndMax = 0;
239    switch( m_eWedgeRes )
240    {
241    case( DOUBLE_PEL ): { uiThisStartEndMax = (m_uiHeight>>1); break; }
242    case(   FULL_PEL ): { uiThisStartEndMax =  m_uiHeight;     break; }
243    case(   HALF_PEL ): { uiThisStartEndMax = (m_uiHeight<<1); break; }
244    }
245
246    UChar uhStartX = m_uhXs;
247    UChar uhStartY = m_uhYs;
248    UChar uhEndX   = m_uhXe;
249    UChar uhEndY   = m_uhYe;
250
251    if( 1 == m_uhOri || 5 == m_uhOri )
252    {
253      std::swap( uhStartX, uhEndX );
254      std::swap( uhStartY, uhEndY );
255    }
256
257    UInt uiScaledEndY = (UInt)uhEndY;
258    Int iDeltaRes = (Int)eContDWedgeRes - (Int)m_eWedgeRes;
259    if( iDeltaRes > 0 ) { uiScaledEndY <<=  iDeltaRes; }
260    if( iDeltaRes < 0 ) { uiScaledEndY >>= -iDeltaRes; }
261
262    if( ((UInt)uhEndX == (uiThisStartEndMax-1)) && ((uiScaledEndY-uiContDStartEndOffset) > 0 && (uiScaledEndY-uiContDStartEndOffset) < (uiContDStartEndMax-1)) )
263    {
264      return true;
265    }
266  }
267
268  return false;
269}
270
271Void TComWedgelet::getPredDirStartEndAbove( UChar& ruhXs, UChar& ruhYs, UChar& ruhXe, UChar& ruhYe, UInt uiPredDirBlockSize, UInt uiPredDirBlockOffset, Int iDeltaEnd )
272{
273  ruhXs = 0;
274  ruhYs = 0;
275  ruhXe = 0;
276  ruhYe = 0;
277
278  // get start/end of reference (=this) wedgelet
279  UInt uiRefStartX = (UInt)getStartX();
280  UInt uiRefStartY = (UInt)getStartY();
281  UInt uiRefEndX   = (UInt)getEndX();
282  UInt uiRefEndY   = (UInt)getEndY();
283
284  WedgeResolution eContDWedgeRes = g_dmmWedgeResolution[(UInt)g_aucConvertToBit[uiPredDirBlockSize]];
285  UInt uiContDStartEndMax = 0;
286  UInt uiContDStartEndOffset = 0;
287  switch( eContDWedgeRes )
288  {
289  case( DOUBLE_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize>>1); uiContDStartEndOffset = (uiPredDirBlockOffset>>1); break; }
290  case(   FULL_PEL ): { uiContDStartEndMax =  uiPredDirBlockSize;     uiContDStartEndOffset =  uiPredDirBlockOffset;     break; }
291  case(   HALF_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize<<1); uiContDStartEndOffset = (uiPredDirBlockOffset<<1); break; }
292  }
293  Int iContDMaxPos = (Int)uiContDStartEndMax - 1;
294
295  // swap if start/end if line orientation is not from top to bottom
296  if( 2 == (UInt)getOri() )
297  {
298    std::swap( uiRefStartX, uiRefEndX );
299    std::swap( uiRefStartY, uiRefEndY );
300  }
301
302  // calc slopes
303  Int iA_DeltaX = (Int)uiRefEndX - (Int)uiRefStartX;
304  Int iA_DeltaY = (Int)uiRefEndY - (Int)uiRefStartY;
305
306  // get aligned end x value of ref wedge
307  UInt uiScaledRefEndX = uiRefEndX;
308  Int iDeltaRes = (Int)eContDWedgeRes - (Int)m_eWedgeRes;
309  if( iDeltaRes > 0 ) { uiScaledRefEndX <<=  iDeltaRes; }
310  if( iDeltaRes < 0 ) { uiScaledRefEndX >>= -iDeltaRes; }
311
312  assert( uiScaledRefEndX >= uiContDStartEndOffset );
313  Int iAlignedRefEndX = (Int)uiScaledRefEndX - (Int)uiContDStartEndOffset;
314
315  // special for straight vertical wedge
316  if( iA_DeltaX == 0 )
317  {
318    ruhXs = (UChar)iAlignedRefEndX;
319    ruhYs = 0;
320
321    Int iXe = iAlignedRefEndX + iDeltaEnd;
322    if( iXe < 0 )
323    {
324      ruhXe = 0;
325      ruhYe = (UChar)min( max( (iContDMaxPos + iXe), 0 ), iContDMaxPos );
326
327      return;
328    }
329    else if( iXe > iContDMaxPos )
330    {
331      ruhXe = (UChar)iContDMaxPos;
332      ruhYe = (UChar)min( max( (iContDMaxPos - (iXe - iContDMaxPos)), 0 ), iContDMaxPos );
333
334      std::swap( ruhXs, ruhXe );
335      std::swap( ruhYs, ruhYe );
336      return;
337    }
338    else
339    {
340      ruhXe = (UChar)iXe;
341      ruhYe = (UChar)iContDMaxPos;
342
343      return;
344    }
345  }
346
347  // special for straight horizontal short bottom line
348  if( iA_DeltaY == 0 )
349  {
350    switch( (UInt)getOri() )
351    {
352    case( 2 ):
353      {
354        ruhXs = (UChar)(iAlignedRefEndX-1);
355        ruhYs = 0;
356        ruhXe = 0;
357        ruhYe = (UChar)min( max( iDeltaEnd, 0 ), iContDMaxPos );
358
359        return;
360      }
361    case( 3 ):
362      {
363        ruhXs = (UChar)(iAlignedRefEndX+1);
364        ruhYs = 0;
365        ruhXe = (UChar)iContDMaxPos;
366        ruhYe = (UChar)min( max( -iDeltaEnd, 0 ), iContDMaxPos );
367
368        std::swap( ruhXs, ruhXe );
369        std::swap( ruhYs, ruhYe );
370        return;
371      }
372    default:
373      {
374        assert( 0 );
375        return;
376      }
377    }
378  }
379
380  // set start point depending on slope
381  if( abs( iA_DeltaX ) >= abs( iA_DeltaY ) ) { if( iA_DeltaX < 0 ) { ruhXs = (UChar)(iAlignedRefEndX-1); ruhYs = 0; }
382                                                if( iA_DeltaX > 0 ) { ruhXs = (UChar)(iAlignedRefEndX+1); ruhYs = 0; } }
383  else                                                             { ruhXs = (UChar)(iAlignedRefEndX);   ruhYs = 0;   }
384
385  // calc end point and determine orientation
386  Int iVirtualEndX = (Int)ruhXs + roftoi( (Double)iContDMaxPos * ((Double)iA_DeltaX / (Double)iA_DeltaY) );
387
388  if( iVirtualEndX < 0 )
389  {
390    Int iYe = roftoi( (Double)(0 - (Int)ruhXs) * ((Double)iA_DeltaY / (Double)iA_DeltaX) ) + iDeltaEnd;
391    if( iYe < (Int)uiContDStartEndMax )
392    {
393      ruhXe = 0;
394      ruhYe = (UChar)max( iYe, 0 );
395
396      return;
397    }
398    else
399    {
400      ruhXe = (UChar)min( (iYe - iContDMaxPos), iContDMaxPos );
401      ruhYe = (UChar)iContDMaxPos;
402
403      return;
404    }
405  }
406  else if( iVirtualEndX > iContDMaxPos )
407  {
408    Int iYe = roftoi( (Double)(iContDMaxPos - (Int)ruhXs) * ((Double)iA_DeltaY / (Double)iA_DeltaX) ) - iDeltaEnd;
409    if( iYe < (Int)uiContDStartEndMax )
410    {
411      ruhXe = (UChar)iContDMaxPos;
412      ruhYe = (UChar)max( iYe, 0 );
413
414      std::swap( ruhXs, ruhXe );
415      std::swap( ruhYs, ruhYe );
416      return;
417    }
418    else
419    {
420      ruhXe = (UChar)max( (iContDMaxPos - (iYe - iContDMaxPos)), 0 );
421      ruhYe = (UChar)iContDMaxPos;
422
423      return;
424    }
425  }
426  else
427  {
428    Int iXe = iVirtualEndX + iDeltaEnd;
429    if( iXe < 0 )
430    {
431      ruhXe = 0;
432      ruhYe = (UChar)max( (iContDMaxPos + iXe), 0 );
433
434      return;
435    }
436    else if( iXe > iContDMaxPos )
437    {
438      ruhXe = (UChar)iContDMaxPos;
439      ruhYe = (UChar)max( (iContDMaxPos - (iXe - iContDMaxPos)), 0 );
440
441      std::swap( ruhXs, ruhXe );
442      std::swap( ruhYs, ruhYe );
443      return;
444    }
445    else
446    {
447      ruhXe = (UChar)iXe;
448      ruhYe = (UChar)iContDMaxPos;
449
450      return;
451    }
452  }
453}
454
455Void TComWedgelet::getPredDirStartEndLeft( UChar& ruhXs, UChar& ruhYs, UChar& ruhXe, UChar& ruhYe, UInt uiPredDirBlockSize, UInt uiPredDirBlockOffset, Int iDeltaEnd )
456{
457  ruhXs = 0;
458  ruhYs = 0;
459  ruhXe = 0;
460  ruhYe = 0;
461
462  // get start/end of reference (=this) wedgelet
463  UInt uiRefStartX = (UInt)getStartX();
464  UInt uiRefStartY = (UInt)getStartY();
465  UInt uiRefEndX   = (UInt)getEndX();
466  UInt uiRefEndY   = (UInt)getEndY();
467
468  WedgeResolution eContDWedgeRes = g_dmmWedgeResolution[(UInt)g_aucConvertToBit[uiPredDirBlockSize]];
469  UInt uiContDStartEndMax = 0;
470  UInt uiContDStartEndOffset = 0;
471  switch( eContDWedgeRes )
472  {
473  case( DOUBLE_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize>>1); uiContDStartEndOffset = (uiPredDirBlockOffset>>1); break; }
474  case(   FULL_PEL ): { uiContDStartEndMax =  uiPredDirBlockSize;     uiContDStartEndOffset =  uiPredDirBlockOffset;     break; }
475  case(   HALF_PEL ): { uiContDStartEndMax = (uiPredDirBlockSize<<1); uiContDStartEndOffset = (uiPredDirBlockOffset<<1); break; }
476  }
477  Int iContDMaxPos = (Int)uiContDStartEndMax - 1;
478
479  // swap if start/end if line orientation is not from left to right
480  if( 1 == (UInt)getOri() || 5 == (UInt)getOri() )
481  {
482    std::swap( uiRefStartX, uiRefEndX );
483    std::swap( uiRefStartY, uiRefEndY );
484  }
485
486  Int iL_DeltaX = (Int)uiRefEndX - (Int)uiRefStartX;
487  Int iL_DeltaY = (Int)uiRefEndY - (Int)uiRefStartY;
488
489  UInt uiScaledRefEndY = uiRefEndY;
490  Int iDeltaRes = (Int)eContDWedgeRes - (Int)m_eWedgeRes;
491  if( iDeltaRes > 0 ) { uiScaledRefEndY <<=  iDeltaRes; }
492  if( iDeltaRes < 0 ) { uiScaledRefEndY >>= -iDeltaRes; }
493
494  assert( uiScaledRefEndY >= uiContDStartEndOffset );
495  Int iAlignedRefEndY = (Int)uiScaledRefEndY - (Int)uiContDStartEndOffset;
496
497  // special for straight horizontal wedge
498  if( iL_DeltaY == 0 )
499  {
500    ruhXs = 0;
501    ruhYs = (UChar)iAlignedRefEndY;
502
503    Int iYe = iAlignedRefEndY - iDeltaEnd;
504    if( iYe < 0 )
505    {
506      ruhXe = (UChar)min( max( (iContDMaxPos + iYe), 0 ), iContDMaxPos );
507      ruhYe = 0;
508
509      std::swap( ruhXs, ruhXe );
510      std::swap( ruhYs, ruhYe );
511      return;
512    }
513    else if( iYe > iContDMaxPos )
514    {
515      ruhXe = (UChar)min( max( (iContDMaxPos - (iYe - iContDMaxPos)), 0 ), iContDMaxPos );
516      ruhYe = (UChar)iContDMaxPos;
517
518      return;
519    }
520    else
521    {
522      ruhXe = (UChar)iContDMaxPos;
523      ruhYe = (UChar)iYe;
524
525      std::swap( ruhXs, ruhXe );
526      std::swap( ruhYs, ruhYe );
527      return;
528    }
529  }
530
531  // special for straight vertical short right line
532  if( iL_DeltaX == 0 )
533  {
534    switch( (UInt)getOri() )
535    {
536    case( 1 ):
537      {
538        ruhXs = 0;
539        ruhYs = (UChar)(iAlignedRefEndY+1);
540        ruhXe = (UChar)min( max( iDeltaEnd, 0 ), iContDMaxPos );
541        ruhYe = (UChar)iContDMaxPos;
542
543        return;
544      }
545    case( 2 ):
546      {
547        ruhXs = 0;
548        ruhYs = (UChar)(iAlignedRefEndY-1);
549        ruhXe = (UChar)min( max( -iDeltaEnd, 0 ), iContDMaxPos );
550        ruhYe = 0;
551
552        std::swap( ruhXs, ruhXe );
553        std::swap( ruhYs, ruhYe );
554        return;
555      }
556    default:
557      {
558        assert( 0 );
559        return;
560      }
561    }
562  }
563
564  // set start point depending on slope
565  if( abs( iL_DeltaY ) >= abs( iL_DeltaX ) ) { if( iL_DeltaY < 0 ) { ruhYs = (UChar)(iAlignedRefEndY-1); ruhXs = 0; }
566                                               if( iL_DeltaY > 0 ) { ruhYs = (UChar)(iAlignedRefEndY+1); ruhXs = 0; } }
567  else                                       {                       ruhYs = (UChar)(iAlignedRefEndY);   ruhXs = 0;   }
568
569  // calc end point and determine orientation
570  Int iVirtualEndY = (Int)ruhYs + roftoi( (Double)iContDMaxPos * ((Double)iL_DeltaY / (Double)iL_DeltaX) );
571
572  if( iVirtualEndY < 0 )
573  {
574    Int iXe = roftoi( (Double)(0 - (Int)ruhYs ) * ((Double)iL_DeltaX / (Double)iL_DeltaY) ) - iDeltaEnd;
575    if( iXe < (Int)uiContDStartEndMax )
576    {
577      ruhXe = (UChar)max( iXe, 0 );
578      ruhYe = 0;
579
580      std::swap( ruhXs, ruhXe );
581      std::swap( ruhYs, ruhYe );
582      return;
583    }
584    else
585    {
586      ruhXe = (UChar)iContDMaxPos;
587      ruhYe = (UChar)min( (iXe - iContDMaxPos), iContDMaxPos );
588
589      std::swap( ruhXs, ruhXe );
590      std::swap( ruhYs, ruhYe );
591      return;
592    }
593  }
594  else if( iVirtualEndY > iContDMaxPos )
595  {
596    Int iXe = roftoi( (Double)(iContDMaxPos - (Int)ruhYs ) * ((Double)iL_DeltaX / (Double)iL_DeltaY) ) + iDeltaEnd;
597    if( iXe < (Int)uiContDStartEndMax )
598    {
599      ruhXe = (UChar)max( iXe, 0 );
600      ruhYe = (UChar)iContDMaxPos;
601
602      return;
603    }
604    else
605    {
606      ruhXe = (UChar)iContDMaxPos;
607      ruhYe = (UChar)max( (iContDMaxPos - (iXe - iContDMaxPos)), 0 );
608
609      std::swap( ruhXs, ruhXe );
610      std::swap( ruhYs, ruhYe );
611      return;
612    }
613  }
614  else
615  {
616    Int iYe = iVirtualEndY - iDeltaEnd;
617    if( iYe < 0 )
618    {
619      ruhXe = (UChar)max( (iContDMaxPos + iYe), 0 );
620      ruhYe = 0;
621
622      std::swap( ruhXs, ruhXe );
623      std::swap( ruhYs, ruhYe );
624      return;
625    }
626    else if( iYe > iContDMaxPos )
627    {
628      ruhXe = (UChar)max( (iContDMaxPos - (iYe - iContDMaxPos)), 0 );
629      ruhYe = (UChar)iContDMaxPos;
630
631      return;
632    }
633    else
634    {
635      ruhXe = (UChar)iContDMaxPos;
636      ruhYe = (UChar)iYe;
637
638      std::swap( ruhXs, ruhXe );
639      std::swap( ruhYs, ruhYe );
640      return;
641    }
642  }
643}
644
645Void TComWedgelet::xGenerateWedgePattern()
646{
647  UInt uiTempBlockSize = 0;
648  UChar uhXs = 0, uhYs = 0, uhXe = 0, uhYe = 0;
649  switch( m_eWedgeRes )
650  {
651  case( DOUBLE_PEL ): { uiTempBlockSize =  m_uiWidth;     uhXs = (m_uhXs<<1); uhYs = (m_uhYs<<1); uhXe = (m_uhXe<<1); uhYe = (m_uhYe<<1); } break;
652  case(   FULL_PEL ): { uiTempBlockSize =  m_uiWidth;     uhXs =  m_uhXs;     uhYs =  m_uhYs;     uhXe =  m_uhXe;     uhYe =  m_uhYe;     } break;
653  case(   HALF_PEL ): { uiTempBlockSize = (m_uiWidth<<1); uhXs =  m_uhXs;     uhYs =  m_uhYs;     uhXe =  m_uhXe;     uhYe =  m_uhYe;     } break;
654  }
655
656  if( m_eWedgeRes == DOUBLE_PEL) // adjust line-end for DOUBLE_PEL resolution
657  {
658    if( m_uhOri == 1 ) { uhXs = uiTempBlockSize-1; }
659    if( m_uhOri == 2 ) { uhXe = uiTempBlockSize-1; uhYs = uiTempBlockSize-1; }
660    if( m_uhOri == 3 ) { uhYe = uiTempBlockSize-1; }
661    if( m_uhOri == 4 ) { uhYe = uiTempBlockSize-1; }
662    if( m_uhOri == 5 ) { uhXs = uiTempBlockSize-1; }
663  }
664
665  Bool* pbTempPattern = new Bool[ (uiTempBlockSize * uiTempBlockSize) ];
666  ::memset( pbTempPattern, 0, (uiTempBlockSize * uiTempBlockSize) * sizeof(Bool) );
667  Int iTempStride = uiTempBlockSize;
668
669  xDrawEdgeLine( uhXs, uhYs, uhXe, uhYe, pbTempPattern, iTempStride );
670
671  switch( m_uhOri )
672  {
673  case( 0 ): { for( UInt iX = 0;                 iX < uhXs;            iX++ ) { UInt iY = 0;                 while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iY++; } } } break;
674  case( 1 ): { for( UInt iY = 0;                 iY < uhYs;            iY++ ) { UInt iX = uiTempBlockSize-1; while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iX--; } } } break;
675  case( 2 ): { for( UInt iX = uiTempBlockSize-1; iX > uhXs;            iX-- ) { UInt iY = uiTempBlockSize-1; while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iY--; } } } break;
676  case( 3 ): { for( UInt iY = uiTempBlockSize-1; iY > uhYs;            iY-- ) { UInt iX = 0;                 while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iX++; } } } break;
677  case( 4 ): 
678    { 
679      if( (uhXs+uhXe) < uiTempBlockSize ) { for( UInt iY = 0; iY < uiTempBlockSize; iY++ ) { UInt iX = 0;                 while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iX++; } } }
680      else                                { for( UInt iY = 0; iY < uiTempBlockSize; iY++ ) { UInt iX = uiTempBlockSize-1; while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iX--; } } }
681    }
682    break;
683  case( 5 ): 
684    { 
685      if( (uhYs+uhYe) < uiTempBlockSize ) { for( UInt iX = 0; iX < uiTempBlockSize; iX++ ) { UInt iY = 0;                 while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iY++; } } }
686      else                                { for( UInt iX = 0; iX < uiTempBlockSize; iX++ ) { UInt iY = uiTempBlockSize-1; while( pbTempPattern[(iY * iTempStride) + iX] == false ) { pbTempPattern[(iY * iTempStride) + iX] = true; iY--; } } }
687    }
688  }
689
690  clear();
691  switch( m_eWedgeRes )
692  {
693  case( DOUBLE_PEL ): { for( UInt k = 0; k < (m_uiWidth * m_uiHeight); k++ ) { m_pbPattern[k] = pbTempPattern[k]; }; } break;
694  case(   FULL_PEL ): { for( UInt k = 0; k < (m_uiWidth * m_uiHeight); k++ ) { m_pbPattern[k] = pbTempPattern[k]; }; } break;
695  case(   HALF_PEL ): // sub-sampling by factor 2
696    {
697      Int iStride = getStride();
698
699      UInt uiOffX, uiOffY;
700      switch( m_uhOri )
701      {
702      case( 0 ): { uiOffX = 0; uiOffY = 0; } break;
703      case( 1 ): { uiOffX = 1; uiOffY = 0; } break;
704      case( 2 ): { uiOffX = 1; uiOffY = 1; } break;
705      case( 3 ): { uiOffX = 0; uiOffY = 1; } break;
706      case( 4 ): 
707        { 
708          if( (uhXs+uhXe) < uiTempBlockSize ) { uiOffX = 0; uiOffY = 0; }
709          else                                { uiOffX = 1; uiOffY = 0; }
710        } 
711        break;
712      case( 5 ): 
713        { 
714          if( (uhYs+uhYe) < uiTempBlockSize ) { uiOffX = 0; uiOffY = 0; }
715          else                                { uiOffX = 0; uiOffY = 1; }
716        } 
717        break;
718      default:   { uiOffX = 0; uiOffY = 0; } break;
719      }
720
721      for(Int iY = 0; iY < m_uiHeight; iY++)
722      {
723        for(Int iX = 0; iX < m_uiWidth; iX++)
724        {
725          m_pbPattern[(iY * iStride) + iX] = pbTempPattern[(((iY<<1)+uiOffY) * iTempStride) + ((iX<<1)+uiOffX)];
726        }
727      }
728    }
729    break;
730  }
731
732  if( pbTempPattern )
733  {
734    delete [] pbTempPattern;
735    pbTempPattern = NULL;
736  }
737}
738
739Void TComWedgelet::xDrawEdgeLine( UChar uhXs, UChar uhYs, UChar uhXe, UChar uhYe, Bool* pbPattern, Int iPatternStride )
740{
741  Int x0 = (Int)uhXs;
742  Int y0 = (Int)uhYs;
743  Int x1 = (Int)uhXe;
744  Int y1 = (Int)uhYe;
745
746  // direction independent Bresenham line
747  bool steep = (abs(y1 - y0) > abs(x1 - x0));
748  if( steep )
749  {
750    std::swap( x0, y0 );
751    std::swap( x1, y1 );
752  }
753
754  bool backward = ( x0 > x1 );
755  if( backward )
756  {
757    std::swap( x0, x1 );
758    std::swap( y0, y1 );
759  }
760
761  Int deltax = x1 - x0;
762  Int deltay = abs(y1 - y0);
763  Int error = 0;
764  Int deltaerr = (deltay<<1);
765
766  Int ystep;
767  Int y = y0;
768  if( y0 < y1 ) ystep =  1;
769  else          ystep = -1;
770
771  for( Int x = x0; x <= x1; x++ )
772  {
773    if( steep ) { pbPattern[(x * iPatternStride) + y] = true; }
774    else        { pbPattern[(y * iPatternStride) + x] = true; }
775
776    error += deltaerr;
777    if( error >= deltax )
778    {
779      y += ystep;
780      error = error - (deltax<<1);
781    }
782  }
783}
784
785TComWedgeNode::TComWedgeNode()
786{
787  m_uiPatternIdx = DMM_NO_WEDGEINDEX;
788  for( UInt uiPos = 0; uiPos < DMM_NUM_WEDGE_REFINES; uiPos++ )
789  {
790    m_uiRefineIdx[uiPos] = DMM_NO_WEDGEINDEX;
791  }
792}
793
794UInt TComWedgeNode::getPatternIdx()
795{
796  return m_uiPatternIdx;
797}
798UInt TComWedgeNode::getRefineIdx( UInt uiPos )
799{
800  assert( uiPos < DMM_NUM_WEDGE_REFINES );
801  return m_uiRefineIdx[uiPos];
802}
803Void TComWedgeNode::setPatternIdx( UInt uiIdx )
804{
805  m_uiPatternIdx = uiIdx;
806}
807Void TComWedgeNode::setRefineIdx( UInt uiIdx, UInt uiPos )
808{
809  assert( uiPos < DMM_NUM_WEDGE_REFINES );
810  m_uiRefineIdx[uiPos] = uiIdx; 
811}
812#endif //H_3D_DIM_DMM
Note: See TracBrowser for help on using the repository browser.