Ticket #28: patch_Ticket28_TComTrQuant.patch

File patch_Ticket28_TComTrQuant.patch, 1.5 KB (added by wjhan, 14 years ago)

Patch file for Ticket #28, TComTrQuant.cpp

Line 
17477,7481c7477,7485
2<     if ( bExt8x8Flag )
3<     {
4<       if ( ( j < 8 ) && ( i < 8 ) && indexROT )
5<         levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] );
6<       else
7---
8> #if HHI_ALLOW_ROT_SWITCH
9>               if ( m_bUseROT )
10>               {
11> #endif
12>                       if ( bExt8x8Flag )
13>                       {
14>                               if ( ( j < 8 ) && ( i < 8 ) && indexROT )
15>                                       levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] );
16>                               else
177483c7487
18<         levelData[iPos].levelDouble =  (Int64)abs(pSrcCoeff[iPos]) * (Int64)( b64Flag ? iQuantCoef : m_puiQuantMtx[iPos] );//precision increase
19---
20>                                       levelData[iPos].levelDouble =  (Int64)abs(pSrcCoeff[iPos]) * (Int64)( b64Flag ? iQuantCoef : m_puiQuantMtx[iPos] );//precision increase
217485c7489
22<         levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] * (Long)( b64Flag ? iQuantCoef : m_puiQuantMtx[iPos] ) );
23---
24>                                       levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] * (Long)( b64Flag ? iQuantCoef : m_puiQuantMtx[iPos] ) );
257487,7488c7491,7498
26<     }
27<     else
28---
29>                       }
30>                       else
31>                       {
32>                               levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] );
33>                       }
34>               }
35> #if HHI_ALLOW_ROT_SWITCH
36>               else
377490c7500,7504
38<       levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] );
39---
40> #if QC_MDDT
41>                       levelData[iPos].levelDouble =  (Int64)abs(pSrcCoeff[iPos]) * (Int64)( b64Flag ? iQuantCoef : m_puiQuantMtx[iPos] );//precision increase
42> #else
43>                       levelData[iPos].levelDouble = abs( pSrcCoeff[iPos] * (Long)( b64Flag ? iQuantCoef : m_puiQuantMtx[iPos] ) );
44> #endif
457491a7506,7507
46> #endif
47>