Changeset 1442 in SHVCSoftware for branches/SHM-dev/source/Lib/TLibEncoder


Ignore:
Timestamp:
13 Aug 2015, 19:11:53 (10 years ago)
Author:
seregin
Message:

port rev 4590

Location:
branches/SHM-dev/source/Lib/TLibEncoder
Files:
16 edited

Legend:

Unmodified
Added
Removed

  • branches/SHM-dev/source/Lib/TLibEncoder/AnnexBwrite.h

    r1259 r1442  
    6060    UInt size = 0; /* size of annexB unit in bytes */
    6161
    62     static const Char start_code_prefix[] = {0,0,0,1};
     62    static const UChar start_code_prefix[] = {0,0,0,1};
    6363    if (it == au.begin() || nalu.m_nalUnitType == NAL_UNIT_VPS || nalu.m_nalUnitType == NAL_UNIT_SPS || nalu.m_nalUnitType == NAL_UNIT_PPS)
    6464    {
    … …  
    7171       *    7.4.1.2.3.
    7272       */
    73       out.write(start_code_prefix, 4);
     73      out.write(reinterpret_cast<const TChar*>(start_code_prefix), 4);
    7474      size += 4;
    7575    }
    7676    else
    7777    {
    78       out.write(start_code_prefix+1, 3);
     78      out.write(reinterpret_cast<const TChar*>(start_code_prefix+1), 3);
    7979      size += 3;
    8080    }

  • branches/SHM-dev/source/Lib/TLibEncoder/NALwrite.cpp

    r1352 r1442  
    4545//! \{
    4646
    47 static const Char emulation_prevention_three_byte[] = {3};
     47static const UChar emulation_prevention_three_byte[] = {3};
    4848
    4949Void writeNalUnitHeader(ostream& out, OutputNALUnit& nalu)       // nal_unit_header()
    … …  
    5656  bsNALUHeader.write(nalu.m_temporalId+1, 3); // nuh_temporal_id_plus1
    5757
    58   out.write(bsNALUHeader.getByteStream(), bsNALUHeader.getByteStreamLength());
     58  out.write(reinterpret_cast<const TChar*>(bsNALUHeader.getByteStream()), bsNALUHeader.getByteStreamLength());
    5959}
    6060/**
    … …  
    120120    outputBuffer[outputAmount++]=emulation_prevention_three_byte[0];
    121121  }
    122   out.write((Char*)&(*outputBuffer.begin()), outputAmount);
     122  out.write(reinterpret_cast<const TChar*>(&(*outputBuffer.begin())), outputAmount);
    123123}
    124124

  • branches/SHM-dev/source/Lib/TLibEncoder/SEIwrite.cpp

    r1434 r1442  
    306306Void SEIWriter::xWriteSEIDecodedPictureHash(const SEIDecodedPictureHash& sei)
    307307{
    308   const Char *traceString="\0";
     308  const TChar *traceString="\0";
    309309  switch (sei.method)
    310310  {

  • branches/SHM-dev/source/Lib/TLibEncoder/SyntaxElementWriter.cpp

    r1352 r1442  
    4444#if ENC_DEC_TRACE
    4545
    46 Void  SyntaxElementWriter::xWriteCodeTr (UInt value, UInt  length, const Char *pSymbolName)
     46Void  SyntaxElementWriter::xWriteCodeTr (UInt value, UInt  length, const TChar *pSymbolName)
    4747{
    4848  xWriteCode (value,length);
    … …  
    6161}
    6262
    63 Void  SyntaxElementWriter::xWriteUvlcTr (UInt value, const Char *pSymbolName)
     63Void  SyntaxElementWriter::xWriteUvlcTr (UInt value, const TChar *pSymbolName)
    6464{
    6565  xWriteUvlc (value);
    … …  
    7171}
    7272
    73 Void  SyntaxElementWriter::xWriteSvlcTr (Int value, const Char *pSymbolName)
     73Void  SyntaxElementWriter::xWriteSvlcTr (Int value, const TChar *pSymbolName)
    7474{
    7575  xWriteSvlc(value);
    … …  
    8181}
    8282
    83 Void  SyntaxElementWriter::xWriteFlagTr(UInt value, const Char *pSymbolName)
     83Void  SyntaxElementWriter::xWriteFlagTr(UInt value, const TChar *pSymbolName)
    8484{
    8585  xWriteFlag(value);

  • branches/SHM-dev/source/Lib/TLibEncoder/SyntaxElementWriter.h

    r1352 r1442  
    9292#endif
    9393#if ENC_DEC_TRACE
    94   Void  xWriteCodeTr          ( UInt value, UInt  length, const Char *pSymbolName);
    95   Void  xWriteUvlcTr          ( UInt value,               const Char *pSymbolName);
    96   Void  xWriteSvlcTr          ( Int  value,               const Char *pSymbolName);
    97   Void  xWriteFlagTr          ( UInt value,               const Char *pSymbolName);
     94  Void  xWriteCodeTr          ( UInt value, UInt  length, const TChar *pSymbolName);
     95  Void  xWriteUvlcTr          ( UInt value,               const TChar *pSymbolName);
     96  Void  xWriteSvlcTr          ( Int  value,               const TChar *pSymbolName);
     97  Void  xWriteFlagTr          ( UInt value,               const TChar *pSymbolName);
    9898#if Q0096_OVERLAY_SEI
    9999  Void  xWriteStringTr        ( UChar* value, UInt length, const Char *pSymbolName);

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncAnalyze.h

    r1333 r1442  
    137137
    138138#if SVC_EXTENSION
    139   Void    printOut ( Char cDelim, const ChromaFormat chFmt, const Bool printMSEBasedSNR, const Bool printSequenceMSE, const BitDepths &bitDepths, UInt layer = 0 )
    140 #else
    141   Void    printOut ( Char cDelim, const ChromaFormat chFmt, const Bool printMSEBasedSNR, const Bool printSequenceMSE, const BitDepths &bitDepths )
     139  Void    printOut ( TChar cDelim, const ChromaFormat chFmt, const Bool printMSEBasedSNR, const Bool printSequenceMSE, const BitDepths &bitDepths, UInt layer = 0 )
     140#else
     141  Void    printOut ( TChar cDelim, const ChromaFormat chFmt, const Bool printMSEBasedSNR, const Bool printSequenceMSE, const BitDepths &bitDepths )
    142142#endif
    143143  {

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncBinCoderCABAC.cpp

    r1335 r1442  
    236236  if (g_debugCounter >= debugCabacBinTargetLine)
    237237  {
    238     Char breakPointThis;
     238    UChar breakPointThis;
    239239    breakPointThis = 7;
    240240  }

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncBinCoderCABACCounter.cpp

    r1335 r1442  
    9090  if (g_debugCounter >= debugEncoderSearchBinTargetLine)
    9191  {
    92     Char breakPointThis;
     92    UChar breakPointThis;
    9393    breakPointThis = 7;
    9494  }

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncCavlc.cpp

    r1434 r1442  
    269269  {
    270270#if ENC_DEC_TRACE || RExt__DECODER_DEBUG_BIT_STATISTICS
    271     static const char *syntaxStrings[]={ "pps_range_extension_flag",
    272                                          "pps_multilayer_extension_flag",
    273                                          "pps_extension_6bits[0]",
    274                                          "pps_extension_6bits[1]",
    275                                          "pps_extension_6bits[2]",
    276                                          "pps_extension_6bits[3]",
    277                                          "pps_extension_6bits[4]",
    278                                          "pps_extension_6bits[5]" };
     271    static const TChar *syntaxStrings[]={ "pps_range_extension_flag",
     272                                          "pps_multilayer_extension_flag",
     273                                          "pps_extension_6bits[0]",
     274                                          "pps_extension_6bits[1]",
     275                                          "pps_extension_6bits[2]",
     276                                          "pps_extension_6bits[3]",
     277                                          "pps_extension_6bits[4]",
     278                                          "pps_extension_6bits[5]" };
    279279#endif
    280280
    … …  
    748748  {
    749749#if ENC_DEC_TRACE || RExt__DECODER_DEBUG_BIT_STATISTICS
    750     static const char *syntaxStrings[]={ "sps_range_extension_flag",
    751                                          "sps_multilayer_extension_flag",
    752                                          "sps_extension_6bits[0]",
    753                                          "sps_extension_6bits[1]",
    754                                          "sps_extension_6bits[2]",
    755                                          "sps_extension_6bits[3]",
    756                                          "sps_extension_6bits[4]",
    757                                          "sps_extension_6bits[5]" };
     750    static const TChar *syntaxStrings[]={ "sps_range_extension_flag",
     751                                          "sps_multilayer_extension_flag",
     752                                          "sps_extension_6bits[0]",
     753                                          "sps_extension_6bits[1]",
     754                                          "sps_extension_6bits[2]",
     755                                          "sps_extension_6bits[3]",
     756                                          "sps_extension_6bits[4]",
     757                                          "sps_extension_6bits[5]" };
    758758#endif
    759759

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncCfg.h

    r1434 r1442  
    5757  Bool m_refPic;
    5858  Int m_numRefPicsActive;
    59   Char m_sliceType;
     59  SChar m_sliceType;
    6060  Int m_numRefPics;
    6161  Int m_referencePics[MAX_NUM_REF_PICS];
    … …  
    328328  UInt      m_log2ParallelMergeLevelMinus2;       ///< Parallel merge estimation region
    329329  UInt      m_maxNumMergeCand;                    ///< Maximum number of merge candidates
    330   ScalingListMode m_useScalingListId;            ///< Using quantization matrix i.e. 0=off, 1=default, 2=file.
    331   Char*     m_scalingListFile;          ///< quantization matrix file name
     330  ScalingListMode m_useScalingListId;             ///< Using quantization matrix i.e. 0=off, 1=default, 2=file.
     331  std::string m_scalingListFileName;              ///< quantization matrix file name
    332332  Int       m_TMVPModeId;
    333333  Bool      m_signHideFlag;
    … …  
    484484#endif //SVC_EXTENSION
    485485#if Q0074_COLOUR_REMAPPING_SEI
    486   Char*                               m_colourRemapSEIFileRoot;          ///< SEI Colour Remapping File (initialized from external file)
     486  string                              m_colourRemapSEIFileName;          ///< SEI Colour Remapping File (initialized from external file)
    487487#endif
    488488
    … …  
    492492  , m_tileRowHeight()
    493493#if Q0074_COLOUR_REMAPPING_SEI
    494   , m_colourRemapSEIFileRoot(NULL)
     494  , m_colourRemapSEIFileName()
    495495#endif
    496496  {
    … …  
    919919  Void         setUseScalingListId    ( ScalingListMode u )          { m_useScalingListId       = u;   }
    920920  ScalingListMode getUseScalingListId    ()                          { return m_useScalingListId;      }
    921   Void         setScalingListFile     ( Char*  pch )                 { m_scalingListFile     = pch; }
    922   Char*        getScalingListFile     ()                             { return m_scalingListFile;    }
     921  Void         setScalingListFileName       ( const std::string &s ) { m_scalingListFileName = s;      }
     922  const std::string& getScalingListFileName () const                 { return m_scalingListFileName;   }
    923923  Void         setTMVPModeId ( Int  u )                              { m_TMVPModeId = u;    }
    924924  Int          getTMVPModeId ()                                      { return m_TMVPModeId; }
    … …  
    11001100#endif
    11011101#if Q0074_COLOUR_REMAPPING_SEI
    1102   Void  xSetCRISEIFileRoot( Char* pch )                       { m_colourRemapSEIFileRoot = pch; }
    1103   Char* getCRISEIFileRoot()                                  { return m_colourRemapSEIFileRoot; }
     1102  Void  xSetCRISEIFileRoot( std::string pch )                { m_colourRemapSEIFileName = pch; }
     1103  std::string& getCRISEIFileRoot()                           { return m_colourRemapSEIFileName; }
    11041104#endif
    11051105#if SVC_EXTENSION

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncGOP.cpp

    r1435 r1442  
    814814  return 1;
    815815}
    816 Bool confirmParameter(Bool bflag, const Char* message);
     816
     817Bool confirmParameter(Bool bflag, const TChar* message);
    817818// ====================================================================================================================
    818819// Private member functions
    … …  
    939940    string  colourRemapSEIFileWithPoc(m_pcCfg->getCRISEIFileRoot());
    940941    colourRemapSEIFileWithPoc.append(suffix);
    941     xSetCRISEIFile( const_cast<Char*>(colourRemapSEIFileWithPoc.c_str()) );
     942    xSetCRISEIFile( colourRemapSEIFileWithPoc );
    942943 
    943944    Int ret = xReadingCRIparameters();
    944945
    945     if(ret != -1 && m_pcCfg->getCRISEIFileRoot())
     946    if(ret != -1 && !m_pcCfg->getCRISEIFileRoot().empty())
    946947    {
    947948      // check validity of input parameters
    … …  
    12691270      if (cabacZeroWordPaddingEnabled)
    12701271      {
    1271         std::vector<Char> zeroBytesPadding(numberOfAdditionalCabacZeroBytes, Char(0));
     1272        std::vector<UChar> zeroBytesPadding(numberOfAdditionalCabacZeroBytes, UChar(0));
    12721273        for(std::size_t i=0; i<numberOfAdditionalCabacZeroWords; i++)
    12731274        {
    12741275          zeroBytesPadding[i*3+2]=3;  // 00 00 03
    12751276        }
    1276         nalUnitData.write(&(zeroBytesPadding[0]), numberOfAdditionalCabacZeroBytes);
     1277        nalUnitData.write(reinterpret_cast<const TChar*>(&(zeroBytesPadding[0])), numberOfAdditionalCabacZeroBytes);
    12771278        printf("Adding %d bytes of padding\n", UInt(numberOfAdditionalCabacZeroWords*3));
    12781279      }
    … …  
    32953296  }
    32963297
    3297   Char c = (pcSlice->isIntra() ? 'I' : pcSlice->isInterP() ? 'P' : 'B');
     3298  TChar c = (pcSlice->isIntra() ? 'I' : pcSlice->isInterP() ? 'P' : 'B');
    32983299  if (!pcSlice->isReferenced())
    32993300  {
    … …  
    45714572
    45724573#if Q0074_COLOUR_REMAPPING_SEI
    4573 Bool confirmParameter(Bool bflag, const Char* message)
     4574Bool confirmParameter(Bool bflag, const TChar* message)
    45744575{
    45754576  if (!bflag)

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncGOP.h

    r1433 r1442  
    152152  TComPicYuv*             m_pColorMappedPic;
    153153
    154   Char                    m_cgsFilterLength;
    155   Char                    m_cgsFilterPhases;
     154  UChar                   m_cgsFilterLength;
     155  UChar                   m_cgsFilterPhases;
    156156  Int                     m_iN;
    157157  Int                   **m_temp;
    … …  
    276276#if Q0074_COLOUR_REMAPPING_SEI
    277277  TComSEIColourRemappingInfo* xGetSEIColourRemappingInfo()  { return &m_seiColourRemappingInfo; }
    278   Void xSetCRISEIFile( Char* pch )                          { m_seiColourRemappingInfo.m_colourRemapSEIFile = pch; }
     278  Void xSetCRISEIFile( std::string pch )                    { m_seiColourRemappingInfo.m_colourRemapSEIFile = pch; }
    279279
    280280  Void xFreeColourCRI();

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncSampleAdaptiveOffset.cpp

    r1344 r1442  
    917917      m_signLineBuf1 = NULL;
    918918    }
    919     m_signLineBuf1 = new Char[m_lineBufWidth+1];
     919    m_signLineBuf1 = new SChar[m_lineBufWidth+1];
    920920
    921921    if (m_signLineBuf2)
    … …  
    924924      m_signLineBuf2 = NULL;
    925925    }
    926     m_signLineBuf2 = new Char[m_lineBufWidth+1];
     926    m_signLineBuf2 = new SChar[m_lineBufWidth+1];
    927927  }
    928928
    929929  Int x,y, startX, startY, endX, endY, edgeType, firstLineStartX, firstLineEndX;
    930   Char signLeft, signRight, signDown;
     930  SChar signLeft, signRight, signDown;
    931931  Int64 *diff, *count;
    932932  Pel *srcLine, *orgLine;
    … …  
    958958        for (y=0; y<endY; y++)
    959959        {
    960           signLeft = (Char)sgn(srcLine[startX] - srcLine[startX-1]);
     960          signLeft = (SChar)sgn(srcLine[startX] - srcLine[startX-1]);
    961961          for (x=startX; x<endX; x++)
    962962          {
    963             signRight =  (Char)sgn(srcLine[x] - srcLine[x+1]);
     963            signRight =  (SChar)sgn(srcLine[x] - srcLine[x+1]);
    964964            edgeType  =  signRight + signLeft;
    965965            signLeft  = -signRight;
    … …  
    980980            for(y=0; y<skipLinesB[typeIdx]; y++)
    981981            {
    982               signLeft = (Char)sgn(srcLine[startX] - srcLine[startX-1]);
     982              signLeft = (SChar)sgn(srcLine[startX] - srcLine[startX-1]);
    983983              for (x=startX; x<endX; x++)
    984984              {
    985                 signRight =  (Char)sgn(srcLine[x] - srcLine[x+1]);
     985                signRight =  (SChar)sgn(srcLine[x] - srcLine[x+1]);
    986986                edgeType  =  signRight + signLeft;
    987987                signLeft  = -signRight;
    … …  
    10011001        diff +=2;
    10021002        count+=2;
    1003         Char *signUpLine = m_signLineBuf1;
     1003        SChar *signUpLine = m_signLineBuf1;
    10041004
    10051005        startX = (!isCalculatePreDeblockSamples) ? 0
    … …  
    10201020        for (x=startX; x<endX; x++)
    10211021        {
    1022           signUpLine[x] = (Char)sgn(srcLine[x] - srcLineAbove[x]);
     1022          signUpLine[x] = (SChar)sgn(srcLine[x] - srcLineAbove[x]);
    10231023        }
    10241024
    … …  
    10301030          for (x=startX; x<endX; x++)
    10311031          {
    1032             signDown  = (Char)sgn(srcLine[x] - srcLineBelow[x]);
     1032            signDown  = (SChar)sgn(srcLine[x] - srcLineBelow[x]);
    10331033            edgeType  = signDown + signUpLine[x];
    10341034            signUpLine[x]= -signDown;
    … …  
    10701070        diff +=2;
    10711071        count+=2;
    1072         Char *signUpLine, *signDownLine, *signTmpLine;
     1072        SChar *signUpLine, *signDownLine, *signTmpLine;
    10731073
    10741074        signUpLine  = m_signLineBuf1;
    … …  
    10881088        for (x=startX; x<endX+1; x++)
    10891089        {
    1090           signUpLine[x] = (Char)sgn(srcLineBelow[x] - srcLine[x-1]);
     1090          signUpLine[x] = (SChar)sgn(srcLineBelow[x] - srcLine[x-1]);
    10911091        }
    10921092
    … …  
    11121112          for (x=startX; x<endX; x++)
    11131113          {
    1114             signDown = (Char)sgn(srcLine[x] - srcLineBelow[x+1]);
     1114            signDown = (SChar)sgn(srcLine[x] - srcLineBelow[x+1]);
    11151115            edgeType = signDown + signUpLine[x];
    11161116            diff [edgeType] += (orgLine[x] - srcLine[x]);
    … …  
    11191119            signDownLine[x+1] = -signDown;
    11201120          }
    1121           signDownLine[startX] = (Char)sgn(srcLineBelow[startX] - srcLine[startX-1]);
     1121          signDownLine[startX] = (SChar)sgn(srcLineBelow[startX] - srcLine[startX-1]);
    11221122
    11231123          signTmpLine  = signUpLine;
    … …  
    11571157        diff +=2;
    11581158        count+=2;
    1159         Char *signUpLine = m_signLineBuf1+1;
     1159        SChar *signUpLine = m_signLineBuf1+1;
    11601160
    11611161        startX = (!isCalculatePreDeblockSamples) ? (isLeftAvail  ? 0 : 1)
    … …  
    11711171        for (x=startX-1; x<endX; x++)
    11721172        {
    1173           signUpLine[x] = (Char)sgn(srcLineBelow[x] - srcLine[x+1]);
     1173          signUpLine[x] = (SChar)sgn(srcLineBelow[x] - srcLine[x+1]);
    11741174        }
    11751175
    … …  
    12001200          for(x=startX; x<endX; x++)
    12011201          {
    1202             signDown = (Char)sgn(srcLine[x] - srcLineBelow[x-1]);
     1202            signDown = (SChar)sgn(srcLine[x] - srcLineBelow[x-1]);
    12031203            edgeType = signDown + signUpLine[x];
    12041204
    … …  
    12081208            signUpLine[x-1] = -signDown;
    12091209          }
    1210           signUpLine[endX-1] = (Char)sgn(srcLineBelow[endX-1] - srcLine[endX]);
     1210          signUpLine[endX-1] = (SChar)sgn(srcLineBelow[endX-1] - srcLine[endX]);
    12111211          srcLine  += srcStride;
    12121212          orgLine  += orgStride;

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncSearch.cpp

    r1424 r1442  
    305305    }
    306306
    307     m_phQTTempCrossComponentPredictionAlpha[ch]    = new Char  [uiNumPartitions];
     307    m_phQTTempCrossComponentPredictionAlpha[ch]    = new SChar  [uiNumPartitions];
    308308    m_pSharedPredTransformSkip[ch]                 = new Pel   [MAX_CU_SIZE*MAX_CU_SIZE];
    309309    m_pcQTTempTUCoeff[ch]                          = new TCoeff[MAX_CU_SIZE*MAX_CU_SIZE];
    … …  
    18841884}
    18851885
    1886 Char
     1886SChar
    18871887TEncSearch::xCalcCrossComponentPredictionAlpha(       TComTU &rTu,
    18881888                                                const ComponentID compID,
    … …  
    19011901  const Int diffBitDepth = pCU->getSlice()->getSPS()->getDifferentialLumaChromaBitDepth();
    19021902
    1903   Char alpha = 0;
     1903  SChar alpha = 0;
    19041904  Int SSxy  = 0;
    19051905  Int SSxx  = 0;
    … …  
    19211921  {
    19221922    Double dAlpha = SSxy / Double( SSxx );
    1923     alpha = Char(Clip3<Int>(-16, 16, (Int)(dAlpha * 16)));
    1924 
    1925     static const Char alphaQuant[17] = {0, 1, 1, 2, 2, 2, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 8};
     1923    alpha = SChar(Clip3<Int>(-16, 16, (Int)(dAlpha * 16)));
     1924
     1925    static const SChar alphaQuant[17] = {0, 1, 1, 2, 2, 2, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 8};
    19261926
    19271927    alpha = (alpha < 0) ? -alphaQuant[Int(-alpha)] : alphaQuant[Int(alpha)];
    … …  
    20022002        Double     singleCostTmp             = 0;
    20032003        UInt       singleCbfCTmp             = 0;
    2004         Char       bestCrossCPredictionAlpha = 0;
     2004        SChar      bestCrossCPredictionAlpha = 0;
    20052005        Int        bestTransformSkipMode     = 0;
    20062006
    … …  
    27012701              ::memcpy( m_puhQTTempCbf[compID], pcCU->getCbf( compID )+uiPartOffset, uiQPartNum * sizeof( UChar ) );
    27022702              ::memcpy( m_puhQTTempTransformSkipFlag[compID], pcCU->getTransformSkip( compID )+uiPartOffset, uiQPartNum * sizeof( UChar ) );
    2703               ::memcpy( m_phQTTempCrossComponentPredictionAlpha[compID], pcCU->getCrossComponentPredictionAlpha(compID)+uiPartOffset, uiQPartNum * sizeof( Char ) );
     2703              ::memcpy( m_phQTTempCrossComponentPredictionAlpha[compID], pcCU->getCrossComponentPredictionAlpha(compID)+uiPartOffset, uiQPartNum * sizeof( SChar ) );
    27042704            }
    27052705          }
    … …  
    27142714          ::memcpy( pcCU->getCbf( compID )+uiPartOffset, m_puhQTTempCbf[compID], uiQPartNum * sizeof( UChar ) );
    27152715          ::memcpy( pcCU->getTransformSkip( compID )+uiPartOffset, m_puhQTTempTransformSkipFlag[compID], uiQPartNum * sizeof( UChar ) );
    2716           ::memcpy( pcCU->getCrossComponentPredictionAlpha(compID)+uiPartOffset, m_phQTTempCrossComponentPredictionAlpha[compID], uiQPartNum * sizeof( Char ) );
     2716          ::memcpy( pcCU->getCrossComponentPredictionAlpha(compID)+uiPartOffset, m_phQTTempCrossComponentPredictionAlpha[compID], uiQPartNum * sizeof( SChar ) );
    27172717        }
    27182718      }
    … …  
    33253325
    33263326        Bool bChanged = false;
    3327        
     3327
    33283328#if ENCODER_FAST_MODE
    33293329        Bool     testIter = true;
    … …  
    34143414        } // for loop-iRefIdxTemp
    34153415#endif
    3416        
     3416 
    34173417        if ( !bChanged )
    34183418        {
    … …  
    39633963  }
    39643964#endif
    3965  
     3965
    39663966  m_pcRdCost->getMotionCost( true, 0, pcCU->getCUTransquantBypass(uiPartAddr) );
    39673967  m_pcRdCost->setCostScale ( 1 );
    … …  
    47394739      const ComponentID component = ComponentID(comp);
    47404740      ::memset( pcCU->getCbf( component ) , 0, uiQPartNum * sizeof(UChar) );
    4741       ::memset( pcCU->getCrossComponentPredictionAlpha(component), 0, ( uiQPartNum * sizeof(Char) ) );
     4741      ::memset( pcCU->getCrossComponentPredictionAlpha(component), 0, ( uiQPartNum * sizeof(SChar) ) );
    47424742    }
    47434743    static const UInt useTS[MAX_NUM_COMPONENT]={0,0,0};
    … …  
    48474847  //  Stores the best explicit RDPCM mode for a TU encoded without split
    48484848  UInt       bestExplicitRdpcmModeUnSplit[MAX_NUM_COMPONENT][2/*0 = top (or whole TU for non-4:2:2) sub-TU, 1 = bottom sub-TU*/] = {{3,3}, {3,3}, {3,3}};
    4849   Char       bestCrossCPredictionAlpha   [MAX_NUM_COMPONENT][2/*0 = top (or whole TU for non-4:2:2) sub-TU, 1 = bottom sub-TU*/] = {{0,0},{0,0},{0,0}};
     4849  SChar      bestCrossCPredictionAlpha   [MAX_NUM_COMPONENT][2/*0 = top (or whole TU for non-4:2:2) sub-TU, 1 = bottom sub-TU*/] = {{0,0},{0,0},{0,0}};
    48504850
    48514851  m_pcRDGoOnSbacCoder->store( m_pppcRDSbacCoder[ uiDepth ][ CI_QT_TRAFO_ROOT ] );
    … …  
    49184918                                                         && (pcCU->getCbf(subTUAbsPartIdx, COMPONENT_Y, uiTrMode) != 0);
    49194919
    4920           Char preCalcAlpha = 0;
     4920          SChar preCalcAlpha = 0;
    49214921          const Pel *pLumaResi = m_pcQTTempTComYuv[uiQTTempAccessLayer].getAddrPix( COMPONENT_Y, rTu.getRect( COMPONENT_Y ).x0, rTu.getRect( COMPONENT_Y ).y0 );
    49224922

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncSearch.h

    r1407 r1442  
    8181  TComYuv         m_tmpYuvPred; // To be used in xGetInterPredictionError() to avoid constant memory allocation/deallocation
    8282
    83   Char*           m_phQTTempCrossComponentPredictionAlpha[MAX_NUM_COMPONENT];
     83  SChar*          m_phQTTempCrossComponentPredictionAlpha[MAX_NUM_COMPONENT];
    8484  Pel*            m_pSharedPredTransformSkip[MAX_NUM_COMPONENT];
    8585  TCoeff*         m_pcQTTempTUCoeff[MAX_NUM_COMPONENT];
    … …  
    297297                                               const Int     strideBest );
    298298
    299   Char xCalcCrossComponentPredictionAlpha    (       TComTU &rTu,
     299  SChar xCalcCrossComponentPredictionAlpha   (       TComTU &rTu,
    300300                                               const ComponentID compID,
    301301                                               const Pel*        piResiL,

  • branches/SHM-dev/source/Lib/TLibEncoder/TEncTop.cpp

    r1433 r1442  
    350350#endif
    351351    m_cSPS.getScalingList().setDefaultScalingList ();
    352     if(m_cSPS.getScalingList().xParseScalingList(getScalingListFile()))
     352    if(m_cSPS.getScalingList().xParseScalingList(getScalingListFileName()))
    353353    {
    354354      Bool bParsedScalingList=false; // Use of boolean so that assertion outputs useful string
Note: See TracChangeset for help on using the changeset viewer.