source: 3DVCSoftware/branches/HTM-DEV-0.1-dev/source/App/TAppEncoder/TAppEncCfg.cpp @ 368

Last change on this file since 368 was 368, checked in by tech, 11 years ago

Fixed erroneously removed parts.

  • Property svn:eol-style set to native
File size: 97.2 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TAppEncCfg.cpp
35    \brief    Handle encoder configuration parameters
36*/
37
38#include <stdlib.h>
39#include <cassert>
40#include <cstring>
41#include <string>
42#include "TLibCommon/TComRom.h"
43#include "TAppEncCfg.h"
44
45static istream& operator>>(istream &, Level::Name &);
46static istream& operator>>(istream &, Level::Tier &);
47static istream& operator>>(istream &, Profile::Name &);
48
49#include "TAppCommon/program_options_lite.h"
50#include "TLibEncoder/TEncRateCtrl.h"
51#ifdef WIN32
52#define strdup _strdup
53#endif
54
55using namespace std;
56namespace po = df::program_options_lite;
57
58//! \ingroup TAppEncoder
59//! \{
60
61// ====================================================================================================================
62// Constructor / destructor / initialization / destroy
63// ====================================================================================================================
64
65TAppEncCfg::TAppEncCfg()
66#if H_MV
67: m_pchBitstreamFile()
68#else
69: m_pchInputFile()
70, m_pchBitstreamFile()
71, m_pchReconFile()
72#endif
73, m_pchdQPFile()
74, m_pColumnWidth()
75, m_pRowHeight()
76, m_scalingListFile()
77{
78#if !H_MV
79  m_aidQP = NULL;
80#endif
81#if J0149_TONE_MAPPING_SEI
82  m_startOfCodedInterval = NULL;
83  m_codedPivotValue = NULL;
84  m_targetPivotValue = NULL;
85#endif
86}
87
88TAppEncCfg::~TAppEncCfg()
89{
90#if H_MV
91  for( Int layer = 0; layer < m_aidQP.size(); layer++ )
92  {
93    if ( m_aidQP[layer] != NULL )
94    {
95      delete[] m_aidQP[layer];
96      m_aidQP[layer] = NULL;
97    }
98  }
99  for(Int i = 0; i< m_pchInputFileList.size(); i++ )
100  {
101    if ( m_pchInputFileList[i] != NULL )
102      free (m_pchInputFileList[i]);
103  }
104#else
105  if ( m_aidQP )
106  {
107    delete[] m_aidQP;
108  }
109#endif
110#if J0149_TONE_MAPPING_SEI
111  if ( m_startOfCodedInterval )
112  {
113    delete[] m_startOfCodedInterval;
114    m_startOfCodedInterval = NULL;
115  }
116   if ( m_codedPivotValue )
117  {
118    delete[] m_codedPivotValue;
119    m_codedPivotValue = NULL;
120  }
121  if ( m_targetPivotValue )
122  {
123    delete[] m_targetPivotValue;
124    m_targetPivotValue = NULL;
125  }
126#endif
127#if !H_MV
128  free(m_pchInputFile);
129#endif
130  free(m_pchBitstreamFile);
131#if H_MV
132  for(Int i = 0; i< m_pchReconFileList.size(); i++ )
133  {
134    if ( m_pchReconFileList[i] != NULL )
135      free (m_pchReconFileList[i]);
136  }
137#else
138  free(m_pchReconFile);
139#endif
140  free(m_pchdQPFile);
141  free(m_pColumnWidth);
142  free(m_pRowHeight);
143  free(m_scalingListFile);
144#if H_MV
145  for( Int i = 0; i < m_GOPListMvc.size(); i++ )
146  {
147    if( m_GOPListMvc[i] )
148    {
149      delete[] m_GOPListMvc[i];
150      m_GOPListMvc[i] = NULL;
151    }
152  }
153#endif
154}
155
156Void TAppEncCfg::create()
157{
158}
159
160Void TAppEncCfg::destroy()
161{
162}
163
164std::istringstream &operator>>(std::istringstream &in, GOPEntry &entry)     //input
165{
166  in>>entry.m_sliceType;
167  in>>entry.m_POC;
168  in>>entry.m_QPOffset;
169  in>>entry.m_QPFactor;
170  in>>entry.m_tcOffsetDiv2;
171  in>>entry.m_betaOffsetDiv2;
172  in>>entry.m_temporalId;
173  in>>entry.m_numRefPicsActive;
174  in>>entry.m_numRefPics;
175  for ( Int i = 0; i < entry.m_numRefPics; i++ )
176  {
177    in>>entry.m_referencePics[i];
178  }
179  in>>entry.m_interRPSPrediction;
180#if AUTO_INTER_RPS
181  if (entry.m_interRPSPrediction==1)
182  {
183    in>>entry.m_deltaRPS;
184    in>>entry.m_numRefIdc;
185    for ( Int i = 0; i < entry.m_numRefIdc; i++ )
186    {
187      in>>entry.m_refIdc[i];
188    }
189  }
190  else if (entry.m_interRPSPrediction==2)
191  {
192    in>>entry.m_deltaRPS;
193  }
194#else
195  if (entry.m_interRPSPrediction)
196  {
197    in>>entry.m_deltaRPS;
198    in>>entry.m_numRefIdc;
199    for ( Int i = 0; i < entry.m_numRefIdc; i++ )
200    {
201      in>>entry.m_refIdc[i];
202    }
203  }
204#endif
205#if H_MV
206  in>>entry.m_numInterViewRefPics;
207  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
208  {
209    in>>entry.m_interViewRefs[i];
210  }
211  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
212  {
213    in>>entry.m_interViewRefPosL[0][i];
214  }
215  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
216  {
217    in>>entry.m_interViewRefPosL[1][i];
218  }
219#endif
220  return in;
221}
222
223static const struct MapStrToProfile {
224  const Char* str;
225  Profile::Name value;
226} strToProfile[] = {
227  {"none", Profile::NONE},
228  {"main", Profile::MAIN},
229  {"main10", Profile::MAIN10},
230  {"main-still-picture", Profile::MAINSTILLPICTURE},
231#if H_MV
232  {"main-stereo",    Profile::MAINSTEREO},
233  {"main-multiview", Profile::MAINMULTIVIEW},
234#if H_3D
235  {"main-3d"    , Profile::MAIN3D},
236#endif
237#endif
238};
239
240static const struct MapStrToTier {
241  const Char* str;
242  Level::Tier value;
243} strToTier[] = {
244  {"main", Level::MAIN},
245  {"high", Level::HIGH},
246};
247
248static const struct MapStrToLevel {
249  const Char* str;
250  Level::Name value;
251} strToLevel[] = {
252  {"none",Level::NONE},
253  {"1",   Level::LEVEL1},
254  {"2",   Level::LEVEL2},
255  {"2.1", Level::LEVEL2_1},
256  {"3",   Level::LEVEL3},
257  {"3.1", Level::LEVEL3_1},
258  {"4",   Level::LEVEL4},
259  {"4.1", Level::LEVEL4_1},
260  {"5",   Level::LEVEL5},
261  {"5.1", Level::LEVEL5_1},
262  {"5.2", Level::LEVEL5_2},
263  {"6",   Level::LEVEL6},
264  {"6.1", Level::LEVEL6_1},
265  {"6.2", Level::LEVEL6_2},
266};
267
268template<typename T, typename P>
269static istream& readStrToEnum(P map[], unsigned long mapLen, istream &in, T &val)
270{
271  string str;
272  in >> str;
273
274  for (Int i = 0; i < mapLen; i++)
275  {
276    if (str == map[i].str)
277    {
278      val = map[i].value;
279      goto found;
280    }
281  }
282  /* not found */
283  in.setstate(ios::failbit);
284found:
285  return in;
286}
287
288static istream& operator>>(istream &in, Profile::Name &profile)
289{
290  return readStrToEnum(strToProfile, sizeof(strToProfile)/sizeof(*strToProfile), in, profile);
291}
292
293static istream& operator>>(istream &in, Level::Tier &tier)
294{
295  return readStrToEnum(strToTier, sizeof(strToTier)/sizeof(*strToTier), in, tier);
296}
297
298static istream& operator>>(istream &in, Level::Name &level)
299{
300  return readStrToEnum(strToLevel, sizeof(strToLevel)/sizeof(*strToLevel), in, level);
301}
302
303#if SIGNAL_BITRATE_PICRATE_IN_VPS
304Void readBoolString(const string inpString, const Int numEntries, Bool* &memberArray, const char *elementName);
305Void readIntString(const string inpString, const Int numEntries, Int* &memberArray, const char *elementName);
306#endif
307// ====================================================================================================================
308// Public member functions
309// ====================================================================================================================
310
311/** \param  argc        number of arguments
312    \param  argv        array of arguments
313    \retval             true when success
314 */
315Bool TAppEncCfg::parseCfg( Int argc, Char* argv[] )
316{
317  Bool do_help = false;
318 
319#if !H_MV
320  string cfg_InputFile;
321#endif
322  string cfg_BitstreamFile;
323#if !H_MV
324  string cfg_ReconFile;
325#endif
326#if H_MV
327  vector<Int>   cfg_dimensionLength; 
328#if H_3D
329  cfg_dimensionLength.push_back( 2  );  // depth
330  cfg_dimensionLength.push_back( 32 );  // texture
331#else
332  cfg_dimensionLength.push_back( 64 ); 
333#endif
334#endif
335  string cfg_dQPFile;
336  string cfg_ColumnWidth;
337  string cfg_RowHeight;
338  string cfg_ScalingListFile;
339#if J0149_TONE_MAPPING_SEI
340  string cfg_startOfCodedInterval;
341  string cfg_codedPivotValue;
342  string cfg_targetPivotValue;
343#endif
344#if SIGNAL_BITRATE_PICRATE_IN_VPS
345  string cfg_bitRateInfoPresentFlag;
346  string cfg_picRateInfoPresentFlag;
347  string cfg_avgBitRate;
348  string cfg_maxBitRate;
349  string cfg_avgPicRate;
350  string cfg_constantPicRateIdc;
351#endif
352  po::Options opts;
353  opts.addOptions()
354  ("help", do_help, false, "this help text")
355  ("c", po::parseConfigFile, "configuration file name")
356 
357  // File, I/O and source parameters
358#if H_MV
359  ("InputFile_%d,i_%d",       m_pchInputFileList,       (char *) 0 , MAX_NUM_LAYER_IDS , "original Yuv input file name %d")
360#else
361  ("InputFile,i",           cfg_InputFile,     string(""), "Original YUV input file name")
362#endif
363  ("BitstreamFile,b",       cfg_BitstreamFile, string(""), "Bitstream output file name")
364#if H_MV
365  ("ReconFile_%d,o_%d",       m_pchReconFileList,       (char *) 0 , MAX_NUM_LAYER_IDS , "reconstructed Yuv output file name %d")
366#else
367  ("ReconFile,o",           cfg_ReconFile,     string(""), "Reconstructed YUV output file name")
368#endif
369#if H_MV
370  ("NumberOfLayers",        m_numberOfLayers     , 1,                     "Number of layers")
371#if !H_3D
372  ("ScalabilityMask",       m_scalabilityMask    , 1                    , "Scalability Mask")   
373#else
374  ("ScalabilityMask",       m_scalabilityMask    , 3                    , "Scalability Mask, 1: Texture 3: Texture + Depth ")   
375#endif 
376  ("DimensionIdLen",        m_dimensionIdLen     , cfg_dimensionLength  , "Number of bits used to store dimensions Id")
377  ("ViewId",                m_viewId             , std::vector<Int>(1,0), "View Id")
378#if H_3D
379  ("DepthFlag",             m_depthFlag          , std::vector<Int>(1,0), "Depth Flag")
380#endif
381  ("LayerIdInNuh",          m_layerIdInNuh       , std::vector<Int>(1,0), "LayerId in Nuh")
382  ("SplittingFlag",         m_splittingFlag      , false                , "Splitting Flag")   
383#endif
384  ("SourceWidth,-wdt",      m_iSourceWidth,        0, "Source picture width")
385  ("SourceHeight,-hgt",     m_iSourceHeight,       0, "Source picture height")
386  ("InputBitDepth",         m_inputBitDepthY,    8, "Bit-depth of input file")
387  ("OutputBitDepth",        m_outputBitDepthY,   0, "Bit-depth of output file (default:InternalBitDepth)")
388  ("InternalBitDepth",      m_internalBitDepthY, 0, "Bit-depth the codec operates at. (default:InputBitDepth)"
389                                                       "If different to InputBitDepth, source data will be converted")
390  ("InputBitDepthC",        m_inputBitDepthC,    0, "As per InputBitDepth but for chroma component. (default:InputBitDepth)")
391  ("OutputBitDepthC",       m_outputBitDepthC,   0, "As per OutputBitDepth but for chroma component. (default:InternalBitDepthC)")
392  ("InternalBitDepthC",     m_internalBitDepthC, 0, "As per InternalBitDepth but for chroma component. (default:IntrenalBitDepth)")
393  ("ConformanceMode",       m_conformanceMode,     0, "Window conformance mode (0: no window, 1:automatic padding, 2:padding, 3:conformance")
394  ("HorizontalPadding,-pdx",m_aiPad[0],            0, "Horizontal source padding for conformance window mode 2")
395  ("VerticalPadding,-pdy",  m_aiPad[1],            0, "Vertical source padding for conformance window mode 2")
396  ("ConfLeft",              m_confLeft,            0, "Left offset for window conformance mode 3")
397  ("ConfRight",             m_confRight,           0, "Right offset for window conformance mode 3")
398  ("ConfTop",               m_confTop,             0, "Top offset for window conformance mode 3")
399  ("ConfBottom",            m_confBottom,          0, "Bottom offset for window conformance mode 3")
400  ("FrameRate,-fr",         m_iFrameRate,          0, "Frame rate")
401  ("FrameSkip,-fs",         m_FrameSkip,          0u, "Number of frames to skip at start of input YUV")
402  ("FramesToBeEncoded,f",   m_framesToBeEncoded,   0, "Number of frames to be encoded (default=all)")
403
404  // Profile and level
405  ("Profile", m_profile,   Profile::NONE, "Profile to be used when encoding (Incomplete)")
406  ("Level",   m_level,     Level::NONE,   "Level limit to be used, eg 5.1 (Incomplete)")
407  ("Tier",    m_levelTier, Level::MAIN,   "Tier to use for interpretation of --Level")
408
409#if L0046_CONSTRAINT_FLAGS
410  ("ProgressiveSource", m_progressiveSourceFlag, false, "Indicate that source is progressive")
411  ("InterlacedSource",  m_interlacedSourceFlag,  false, "Indicate that source is interlaced")
412  ("NonPackedSource",   m_nonPackedConstraintFlag, false, "Indicate that source does not contain frame packing")
413  ("FrameOnly",         m_frameOnlyConstraintFlag, false, "Indicate that the bitstream contains only frames")
414#endif
415 
416  // Unit definition parameters
417  ("MaxCUWidth",              m_uiMaxCUWidth,             64u)
418  ("MaxCUHeight",             m_uiMaxCUHeight,            64u)
419  // todo: remove defaults from MaxCUSize
420  ("MaxCUSize,s",             m_uiMaxCUWidth,             64u, "Maximum CU size")
421  ("MaxCUSize,s",             m_uiMaxCUHeight,            64u, "Maximum CU size")
422  ("MaxPartitionDepth,h",     m_uiMaxCUDepth,              4u, "CU depth")
423 
424  ("QuadtreeTULog2MaxSize",   m_uiQuadtreeTULog2MaxSize,   6u, "Maximum TU size in logarithm base 2")
425  ("QuadtreeTULog2MinSize",   m_uiQuadtreeTULog2MinSize,   2u, "Minimum TU size in logarithm base 2")
426 
427  ("QuadtreeTUMaxDepthIntra", m_uiQuadtreeTUMaxDepthIntra, 1u, "Depth of TU tree for intra CUs")
428  ("QuadtreeTUMaxDepthInter", m_uiQuadtreeTUMaxDepthInter, 2u, "Depth of TU tree for inter CUs")
429 
430  // Coding structure paramters
431  ("IntraPeriod,-ip",         m_iIntraPeriod,              -1, "Intra period in frames, (-1: only first frame)")
432  ("DecodingRefreshType,-dr", m_iDecodingRefreshType,       0, "Intra refresh type (0:none 1:CRA 2:IDR)")
433  ("GOPSize,g",               m_iGOPSize,                   1, "GOP size of temporal structure")
434#if !L0034_COMBINED_LIST_CLEANUP
435  ("ListCombination,-lc",     m_bUseLComb,               true, "Combined reference list for uni-prediction estimation in B-slices")
436#endif
437  // motion options
438  ("FastSearch",              m_iFastSearch,                1, "0:Full search  1:Diamond  2:PMVFAST")
439  ("SearchRange,-sr",         m_iSearchRange,              96, "Motion search range")
440  ("BipredSearchRange",       m_bipredSearchRange,          4, "Motion search range for bipred refinement")
441  ("HadamardME",              m_bUseHADME,               true, "Hadamard ME for fractional-pel")
442  ("ASR",                     m_bUseASR,                false, "Adaptive motion search range")
443
444  // Mode decision parameters
445  ("LambdaModifier0,-LM0", m_adLambdaModifier[ 0 ], ( Double )1.0, "Lambda modifier for temporal layer 0")
446  ("LambdaModifier1,-LM1", m_adLambdaModifier[ 1 ], ( Double )1.0, "Lambda modifier for temporal layer 1")
447  ("LambdaModifier2,-LM2", m_adLambdaModifier[ 2 ], ( Double )1.0, "Lambda modifier for temporal layer 2")
448  ("LambdaModifier3,-LM3", m_adLambdaModifier[ 3 ], ( Double )1.0, "Lambda modifier for temporal layer 3")
449  ("LambdaModifier4,-LM4", m_adLambdaModifier[ 4 ], ( Double )1.0, "Lambda modifier for temporal layer 4")
450  ("LambdaModifier5,-LM5", m_adLambdaModifier[ 5 ], ( Double )1.0, "Lambda modifier for temporal layer 5")
451  ("LambdaModifier6,-LM6", m_adLambdaModifier[ 6 ], ( Double )1.0, "Lambda modifier for temporal layer 6")
452  ("LambdaModifier7,-LM7", m_adLambdaModifier[ 7 ], ( Double )1.0, "Lambda modifier for temporal layer 7")
453
454  /* Quantization parameters */
455#if H_MV
456  ("QP,q",          m_fQP, std::vector<double>(1,30.0), "Qp values for each layer, if value is float, QP is switched once during encoding")
457#else
458  ("QP,q",          m_fQP,             30.0, "Qp value, if value is float, QP is switched once during encoding")
459#endif
460  ("DeltaQpRD,-dqr",m_uiDeltaQpRD,       0u, "max dQp offset for slice")
461  ("MaxDeltaQP,d",  m_iMaxDeltaQP,        0, "max dQp offset for block")
462  ("MaxCuDQPDepth,-dqd",  m_iMaxCuDQPDepth,        0, "max depth for a minimum CuDQP")
463
464  ("CbQpOffset,-cbqpofs",  m_cbQpOffset,        0, "Chroma Cb QP Offset")
465  ("CrQpOffset,-crqpofs",  m_crQpOffset,        0, "Chroma Cr QP Offset")
466
467#if ADAPTIVE_QP_SELECTION
468  ("AdaptiveQpSelection,-aqps",   m_bUseAdaptQpSelect,           false, "AdaptiveQpSelection")
469#endif
470
471  ("AdaptiveQP,-aq",                m_bUseAdaptiveQP,           false, "QP adaptation based on a psycho-visual model")
472  ("MaxQPAdaptationRange,-aqr",     m_iQPAdaptationRange,           6, "QP adaptation range")
473  ("dQPFile,m",                     cfg_dQPFile,           string(""), "dQP file name")
474  ("RDOQ",                          m_useRDOQ,                  true )
475  ("RDOQTS",                        m_useRDOQTS,                true )
476#if L0232_RD_PENALTY
477  ("RDpenalty",                     m_rdPenalty,                0,  "RD-penalty for 32x32 TU for intra in non-intra slices. 0:disbaled  1:RD-penalty  2:maximum RD-penalty")
478#endif
479  // Entropy coding parameters
480  ("SBACRD",                         m_bUseSBACRD,                      true, "SBAC based RD estimation")
481 
482  // Deblocking filter parameters
483#if H_MV
484  ("LoopFilterDisable",              m_bLoopFilterDisable,             std::vector<Bool>(1,false), "Disable Loop Filter per Layer" )
485#else
486  ("LoopFilterDisable",              m_bLoopFilterDisable,             false )
487#endif
488  ("LoopFilterOffsetInPPS",          m_loopFilterOffsetInPPS,          false )
489  ("LoopFilterBetaOffset_div2",      m_loopFilterBetaOffsetDiv2,           0 )
490  ("LoopFilterTcOffset_div2",        m_loopFilterTcOffsetDiv2,             0 )
491  ("DeblockingFilterControlPresent", m_DeblockingFilterControlPresent, false )
492#if L0386_DB_METRIC
493  ("DeblockingFilterMetric",         m_DeblockingFilterMetric,         false )
494#endif
495
496  // Coding tools
497  ("AMP",                      m_enableAMP,                 true,  "Enable asymmetric motion partitions")
498  ("TransformSkip",            m_useTransformSkip,          false, "Intra transform skipping")
499  ("TransformSkipFast",        m_useTransformSkipFast,      false, "Fast intra transform skipping")
500#if H_MV
501  ("SAO",                      m_bUseSAO, std::vector<Bool>(1,true), "Enable Sample Adaptive Offset per Layer")
502#else
503  ("SAO",                      m_bUseSAO,                   true,  "Enable Sample Adaptive Offset")
504#endif
505  ("MaxNumOffsetsPerPic",      m_maxNumOffsetsPerPic,       2048,  "Max number of SAO offset per picture (Default: 2048)")   
506  ("SAOLcuBoundary",           m_saoLcuBoundary,            false, "0: right/bottom LCU boundary areas skipped from SAO parameter estimation, 1: non-deblocked pixels are used for those areas")
507  ("SAOLcuBasedOptimization",  m_saoLcuBasedOptimization,   true,  "0: SAO picture-based optimization, 1: SAO LCU-based optimization ")
508  ("SliceMode",                m_sliceMode,                0,     "0: Disable all Recon slice limits, 1: Enforce max # of LCUs, 2: Enforce max # of bytes, 3:specify tiles per dependent slice")
509  ("SliceArgument",            m_sliceArgument,            0,     "Depending on SliceMode being:"
510                                                                   "\t1: max number of CTUs per slice"
511                                                                   "\t2: max number of bytes per slice"
512                                                                   "\t3: max number of tiles per slice")
513  ("SliceSegmentMode",         m_sliceSegmentMode,       0,     "0: Disable all slice segment limits, 1: Enforce max # of LCUs, 2: Enforce max # of bytes, 3:specify tiles per dependent slice")
514  ("SliceSegmentArgument",     m_sliceSegmentArgument,   0,     "Depending on SliceSegmentMode being:"
515                                                                   "\t1: max number of CTUs per slice segment"
516                                                                   "\t2: max number of bytes per slice segment"
517                                                                   "\t3: max number of tiles per slice segment")
518  ("LFCrossSliceBoundaryFlag", m_bLFCrossSliceBoundaryFlag, true)
519
520  ("ConstrainedIntraPred",     m_bUseConstrainedIntraPred,  false, "Constrained Intra Prediction")
521
522  ("PCMEnabledFlag",           m_usePCM,                    false)
523  ("PCMLog2MaxSize",           m_pcmLog2MaxSize,            5u)
524  ("PCMLog2MinSize",           m_uiPCMLog2MinSize,          3u)
525  ("PCMInputBitDepthFlag",     m_bPCMInputBitDepthFlag,     true)
526  ("PCMFilterDisableFlag",     m_bPCMFilterDisableFlag,    false)
527
528  ("LosslessCuEnabled",        m_useLossless, false)
529
530  ("WeightedPredP,-wpP",          m_useWeightedPred,               false,      "Use weighted prediction in P slices")
531  ("WeightedPredB,-wpB",          m_useWeightedBiPred,             false,      "Use weighted (bidirectional) prediction in B slices")
532  ("Log2ParallelMergeLevel",      m_log2ParallelMergeLevel,     2u,          "Parallel merge estimation region")
533  ("UniformSpacingIdc",           m_iUniformSpacingIdr,            0,          "Indicates if the column and row boundaries are distributed uniformly")
534  ("NumTileColumnsMinus1",        m_iNumColumnsMinus1,             0,          "Number of columns in a picture minus 1")
535  ("ColumnWidthArray",            cfg_ColumnWidth,                 string(""), "Array containing ColumnWidth values in units of LCU")
536  ("NumTileRowsMinus1",           m_iNumRowsMinus1,                0,          "Number of rows in a picture minus 1")
537  ("RowHeightArray",              cfg_RowHeight,                   string(""), "Array containing RowHeight values in units of LCU")
538  ("LFCrossTileBoundaryFlag",      m_bLFCrossTileBoundaryFlag,             true,          "1: cross-tile-boundary loop filtering. 0:non-cross-tile-boundary loop filtering")
539  ("WaveFrontSynchro",            m_iWaveFrontSynchro,             0,          "0: no synchro; 1 synchro with TR; 2 TRR etc")
540  ("ScalingList",                 m_useScalingListId,              0,          "0: no scaling list, 1: default scaling lists, 2: scaling lists specified in ScalingListFile")
541  ("ScalingListFile",             cfg_ScalingListFile,             string(""), "Scaling list file name")
542  ("SignHideFlag,-SBH",                m_signHideFlag, 1)
543  ("MaxNumMergeCand",             m_maxNumMergeCand,             5u,         "Maximum number of merge candidates")
544
545  /* Misc. */
546  ("SEIDecodedPictureHash",       m_decodedPictureHashSEIEnabled, 0, "Control generation of decode picture hash SEI messages\n"
547                                                                    "\t3: checksum\n"
548                                                                    "\t2: CRC\n"
549                                                                    "\t1: use MD5\n"
550                                                                    "\t0: disable")
551  ("SEIpictureDigest",            m_decodedPictureHashSEIEnabled, 0, "deprecated alias for SEIDecodedPictureHash")
552  ("TMVPMode", m_TMVPModeId, 1, "TMVP mode 0: TMVP disable for all slices. 1: TMVP enable for all slices (default) 2: TMVP enable for certain slices only")
553  ("FEN", m_bUseFastEnc, false, "fast encoder setting")
554  ("ECU", m_bUseEarlyCU, false, "Early CU setting") 
555  ("FDM", m_useFastDecisionForMerge, true, "Fast decision for Merge RD Cost") 
556  ("CFM", m_bUseCbfFastMode, false, "Cbf fast mode setting")
557  ("ESD", m_useEarlySkipDetection, false, "Early SKIP detection setting")
558#if RATE_CONTROL_LAMBDA_DOMAIN
559  ( "RateControl",         m_RCEnableRateControl,   false, "Rate control: enable rate control" )
560  ( "TargetBitrate",       m_RCTargetBitrate,           0, "Rate control: target bitrate" )
561  ( "KeepHierarchicalBit", m_RCKeepHierarchicalBit, false, "Rate control: keep hierarchical bit allocation in rate control algorithm" )
562  ( "LCULevelRateControl", m_RCLCULevelRC,           true, "Rate control: true: LCU level RC; false: picture level RC" )
563  ( "RCLCUSeparateModel",  m_RCUseLCUSeparateModel,  true, "Rate control: use LCU level separate R-lambda model" )
564  ( "InitialQP",           m_RCInitialQP,               0, "Rate control: initial QP" )
565  ( "RCForceIntraQP",      m_RCForceIntraQP,        false, "Rate control: force intra QP to be equal to initial QP" )
566#else
567  ("RateCtrl,-rc", m_enableRateCtrl, false, "Rate control on/off")
568  ("TargetBitrate,-tbr", m_targetBitrate, 0, "Input target bitrate")
569  ("NumLCUInUnit,-nu", m_numLCUInUnit, 0, "Number of LCUs in an Unit")
570#endif
571
572  ("TransquantBypassEnableFlag", m_TransquantBypassEnableFlag, false, "transquant_bypass_enable_flag indicator in PPS")
573  ("CUTransquantBypassFlagValue", m_CUTransquantBypassFlagValue, false, "Fixed cu_transquant_bypass_flag value, when transquant_bypass_enable_flag is enabled")
574  ("RecalculateQPAccordingToLambda", m_recalculateQPAccordingToLambda, false, "Recalculate QP values according to lambda values. Do not suggest to be enabled in all intra case")
575  ("StrongIntraSmoothing,-sis",      m_useStrongIntraSmoothing,           true, "Enable strong intra smoothing for 32x32 blocks")
576  ("SEIActiveParameterSets",         m_activeParameterSetsSEIEnabled,          0, "Enable generation of active parameter sets SEI messages")
577  ("VuiParametersPresent,-vui",      m_vuiParametersPresentFlag,           false, "Enable generation of vui_parameters()")
578  ("AspectRatioInfoPresent",         m_aspectRatioInfoPresentFlag,         false, "Signals whether aspect_ratio_idc is present")
579  ("AspectRatioIdc",                 m_aspectRatioIdc,                         0, "aspect_ratio_idc")
580  ("SarWidth",                       m_sarWidth,                               0, "horizontal size of the sample aspect ratio")
581  ("SarHeight",                      m_sarHeight,                              0, "vertical size of the sample aspect ratio")
582  ("OverscanInfoPresent",            m_overscanInfoPresentFlag,            false, "Indicates whether conformant decoded pictures are suitable for display using overscan\n")
583  ("OverscanAppropriate",            m_overscanAppropriateFlag,            false, "Indicates whether conformant decoded pictures are suitable for display using overscan\n")
584  ("VideoSignalTypePresent",         m_videoSignalTypePresentFlag,         false, "Signals whether video_format, video_full_range_flag, and colour_description_present_flag are present")
585  ("VideoFormat",                    m_videoFormat,                            5, "Indicates representation of pictures")
586  ("VideoFullRange",                 m_videoFullRangeFlag,                 false, "Indicates the black level and range of luma and chroma signals")
587  ("ColourDescriptionPresent",       m_colourDescriptionPresentFlag,       false, "Signals whether colour_primaries, transfer_characteristics and matrix_coefficients are present")
588  ("ColourPrimaries",                m_colourPrimaries,                        2, "Indicates chromaticity coordinates of the source primaries")
589  ("TransferCharateristics",         m_transferCharacteristics,                2, "Indicates the opto-electronic transfer characteristics of the source")
590  ("MatrixCoefficients",             m_matrixCoefficients,                     2, "Describes the matrix coefficients used in deriving luma and chroma from RGB primaries")
591  ("ChromaLocInfoPresent",           m_chromaLocInfoPresentFlag,           false, "Signals whether chroma_sample_loc_type_top_field and chroma_sample_loc_type_bottom_field are present")
592  ("ChromaSampleLocTypeTopField",    m_chromaSampleLocTypeTopField,            0, "Specifies the location of chroma samples for top field")
593  ("ChromaSampleLocTypeBottomField", m_chromaSampleLocTypeBottomField,         0, "Specifies the location of chroma samples for bottom field")
594  ("NeutralChromaIndication",        m_neutralChromaIndicationFlag,        false, "Indicates that the value of all decoded chroma samples is equal to 1<<(BitDepthCr-1)")
595  ("DefaultDisplayWindowFlag",       m_defaultDisplayWindowFlag,           false, "Indicates the presence of the Default Window parameters")
596  ("DefDispWinLeftOffset",           m_defDispWinLeftOffset,                   0, "Specifies the left offset of the default display window from the conformance window")
597  ("DefDispWinRightOffset",          m_defDispWinRightOffset,                  0, "Specifies the right offset of the default display window from the conformance window")
598  ("DefDispWinTopOffset",            m_defDispWinTopOffset,                    0, "Specifies the top offset of the default display window from the conformance window")
599  ("DefDispWinBottomOffset",         m_defDispWinBottomOffset,                 0, "Specifies the bottom offset of the default display window from the conformance window")
600  ("FrameFieldInfoPresentFlag",      m_frameFieldInfoPresentFlag,               false, "Indicates that pic_struct and field coding related values are present in picture timing SEI messages")
601  ("PocProportionalToTimingFlag",   m_pocProportionalToTimingFlag,         false, "Indicates that the POC value is proportional to the output time w.r.t. first picture in CVS")
602  ("NumTicksPocDiffOneMinus1",      m_numTicksPocDiffOneMinus1,                0, "Number of ticks minus 1 that for a POC difference of one")
603  ("BitstreamRestriction",           m_bitstreamRestrictionFlag,           false, "Signals whether bitstream restriction parameters are present")
604  ("TilesFixedStructure",            m_tilesFixedStructureFlag,            false, "Indicates that each active picture parameter set has the same values of the syntax elements related to tiles")
605  ("MotionVectorsOverPicBoundaries", m_motionVectorsOverPicBoundariesFlag, false, "Indicates that no samples outside the picture boundaries are used for inter prediction")
606  ("MaxBytesPerPicDenom",            m_maxBytesPerPicDenom,                    2, "Indicates a number of bytes not exceeded by the sum of the sizes of the VCL NAL units associated with any coded picture")
607  ("MaxBitsPerMinCuDenom",           m_maxBitsPerMinCuDenom,                   1, "Indicates an upper bound for the number of bits of coding_unit() data")
608  ("Log2MaxMvLengthHorizontal",      m_log2MaxMvLengthHorizontal,             15, "Indicate the maximum absolute value of a decoded horizontal MV component in quarter-pel luma units")
609  ("Log2MaxMvLengthVertical",        m_log2MaxMvLengthVertical,               15, "Indicate the maximum absolute value of a decoded vertical MV component in quarter-pel luma units")
610  ("SEIRecoveryPoint",               m_recoveryPointSEIEnabled,                0, "Control generation of recovery point SEI messages")
611  ("SEIBufferingPeriod",             m_bufferingPeriodSEIEnabled,              0, "Control generation of buffering period SEI messages")
612  ("SEIPictureTiming",               m_pictureTimingSEIEnabled,                0, "Control generation of picture timing SEI messages")
613#if J0149_TONE_MAPPING_SEI
614  ("SEIToneMappingInfo",                       m_toneMappingInfoSEIEnabled,    false, "Control generation of Tone Mapping SEI messages")
615  ("SEIToneMapId",                             m_toneMapId,                        0, "Specifies Id of Tone Mapping SEI message for a given session")
616  ("SEIToneMapCancelFlag",                     m_toneMapCancelFlag,            false, "Indicates that Tone Mapping SEI message cancels the persistance or follows")
617  ("SEIToneMapPersistenceFlag",                m_toneMapPersistenceFlag,        true, "Specifies the persistence of the Tone Mapping SEI message")
618  ("SEIToneMapCodedDataBitDepth",              m_toneMapCodedDataBitDepth,         8, "Specifies Coded Data BitDepth of Tone Mapping SEI messages")
619  ("SEIToneMapTargetBitDepth",                 m_toneMapTargetBitDepth,            8, "Specifies Output BitDepth of Tome mapping function")
620  ("SEIToneMapModelId",                        m_toneMapModelId,                   0, "Specifies Model utilized for mapping coded data into target_bit_depth range\n"
621                                                                                      "\t0:  linear mapping with clipping\n"
622                                                                                      "\t1:  sigmoidal mapping\n"
623                                                                                      "\t2:  user-defined table mapping\n"
624                                                                                      "\t3:  piece-wise linear mapping\n"
625                                                                                      "\t4:  luminance dynamic range information ")
626  ("SEIToneMapMinValue",                              m_toneMapMinValue,                          0, "Specifies the minimum value in mode 0")
627  ("SEIToneMapMaxValue",                              m_toneMapMaxValue,                       1023, "Specifies the maxmum value in mode 0")
628  ("SEIToneMapSigmoidMidpoint",                       m_sigmoidMidpoint,                        512, "Specifies the centre point in mode 1")
629  ("SEIToneMapSigmoidWidth",                          m_sigmoidWidth,                           960, "Specifies the distance between 5% and 95% values of the target_bit_depth in mode 1")
630  ("SEIToneMapStartOfCodedInterval",                  cfg_startOfCodedInterval,          string(""), "Array of user-defined mapping table")
631  ("SEIToneMapNumPivots",                             m_numPivots,                                0, "Specifies the number of pivot points in mode 3")
632  ("SEIToneMapCodedPivotValue",                       cfg_codedPivotValue,               string(""), "Array of pivot point")
633  ("SEIToneMapTargetPivotValue",                      cfg_targetPivotValue,              string(""), "Array of pivot point")
634  ("SEIToneMapCameraIsoSpeedIdc",                     m_cameraIsoSpeedIdc,                        0, "Indicates the camera ISO speed for daylight illumination")
635  ("SEIToneMapCameraIsoSpeedValue",                   m_cameraIsoSpeedValue,                    400, "Specifies the camera ISO speed for daylight illumination of Extended_ISO")
636  ("SEIToneMapExposureCompensationValueSignFlag",     m_exposureCompensationValueSignFlag,        0, "Specifies the sign of ExposureCompensationValue")
637  ("SEIToneMapExposureCompensationValueNumerator",    m_exposureCompensationValueNumerator,       0, "Specifies the numerator of ExposureCompensationValue")
638  ("SEIToneMapExposureCompensationValueDenomIdc",     m_exposureCompensationValueDenomIdc,        2, "Specifies the denominator of ExposureCompensationValue")
639  ("SEIToneMapRefScreenLuminanceWhite",               m_refScreenLuminanceWhite,                350, "Specifies reference screen brightness setting in units of candela per square metre")
640  ("SEIToneMapExtendedRangeWhiteLevel",               m_extendedRangeWhiteLevel,                800, "Indicates the luminance dynamic range")
641  ("SEIToneMapNominalBlackLevelLumaCodeValue",        m_nominalBlackLevelLumaCodeValue,          16, "Specifies luma sample value of the nominal black level assigned decoded pictures")
642  ("SEIToneMapNominalWhiteLevelLumaCodeValue",        m_nominalWhiteLevelLumaCodeValue,         235, "Specifies luma sample value of the nominal white level assigned decoded pictures")
643  ("SEIToneMapExtendedWhiteLevelLumaCodeValue",       m_extendedWhiteLevelLumaCodeValue,        300, "Specifies luma sample value of the extended dynamic range assigned decoded pictures")
644#endif
645  ("SEIFramePacking",                m_framePackingSEIEnabled,                 0, "Control generation of frame packing SEI messages")
646  ("SEIFramePackingType",            m_framePackingSEIType,                    0, "Define frame packing arrangement\n"
647                                                                                  "\t0: checkerboard - pixels alternatively represent either frames\n"
648                                                                                  "\t1: column alternation - frames are interlaced by column\n"
649                                                                                  "\t2: row alternation - frames are interlaced by row\n"
650                                                                                  "\t3: side by side - frames are displayed horizontally\n"
651                                                                                  "\t4: top bottom - frames are displayed vertically\n"
652                                                                                  "\t5: frame alternation - one frame is alternated with the other")
653  ("SEIFramePackingId",              m_framePackingSEIId,                      0, "Id of frame packing SEI message for a given session")
654  ("SEIFramePackingQuincunx",        m_framePackingSEIQuincunx,                0, "Indicate the presence of a Quincunx type video frame")
655  ("SEIFramePackingInterpretation",  m_framePackingSEIInterpretation,          0, "Indicate the interpretation of the frame pair\n"
656                                                                                  "\t0: unspecified\n"
657                                                                                  "\t1: stereo pair, frame0 represents left view\n"
658                                                                                  "\t2: stereo pair, frame0 represents right view")
659  ("SEIDisplayOrientation",          m_displayOrientationSEIAngle,             0, "Control generation of display orientation SEI messages\n"
660                                                              "\tN: 0 < N < (2^16 - 1) enable display orientation SEI message with anticlockwise_rotation = N and display_orientation_repetition_period = 1\n"
661                                                              "\t0: disable")
662  ("SEITemporalLevel0Index",         m_temporalLevel0IndexSEIEnabled,          0, "Control generation of temporal level 0 index SEI messages")
663  ("SEIGradualDecodingRefreshInfo",  m_gradualDecodingRefreshInfoEnabled,      0, "Control generation of gradual decoding refresh information SEI message")
664  ("SEIDecodingUnitInfo",             m_decodingUnitInfoSEIEnabled,                       0, "Control generation of decoding unit information SEI message.")
665#if L0208_SOP_DESCRIPTION_SEI
666  ("SEISOPDescription",              m_SOPDescriptionSEIEnabled,              0, "Control generation of SOP description SEI messages")
667#endif
668#if K0180_SCALABLE_NESTING_SEI
669  ("SEIScalableNesting",             m_scalableNestingSEIEnabled,              0, "Control generation of scalable nesting SEI messages")
670#endif
671#if SIGNAL_BITRATE_PICRATE_IN_VPS
672  ("BitRatePicRateMaxTLayers",   m_bitRatePicRateMaxTLayers,           0, "Maximum number of sub-layers signalled; can be inferred otherwise; here for easy parsing of config. file")
673  ("BitRateInfoPresent",         cfg_bitRateInfoPresentFlag,          string(""), "Control signalling of bit rate information of avg. bit rate and max. bit rate in VPS\n"
674                                                                          "\t0: Do not sent bit rate info\n"
675                                                                          "\tN (N > 0): Send bit rate info for N sub-layers. N should equal maxTempLayers.")                                                                     
676  ("PicRateInfoPresent",         cfg_picRateInfoPresentFlag,          string(""), "Control signalling of picture rate information of avg. bit rate and max. bit rate in VPS\n"
677                                                                          "\t0: Do not sent picture rate info\n"
678                                                                          "\tN (N > 0): Send picture rate info for N sub-layers. N should equal maxTempLayers.")                                                                     
679  ("AvgBitRate",                   cfg_avgBitRate,                    string(""), "List of avg. bit rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
680  ("MaxBitRate",                   cfg_maxBitRate,                    string(""), "List of max. bit rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
681  ("AvgPicRate",                   cfg_avgPicRate,                    string(""), "List of avg. picture rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
682  ("ConstantPicRateIdc",           cfg_constantPicRateIdc,            string(""), "List of constant picture rate IDCs; include non-negative number even if corresponding flag is 0")
683#endif
684  ;
685 
686#if H_MV
687  // parse coding structure
688  for( Int k = 0; k < MAX_NUM_LAYERS; k++ )
689  {
690    m_GOPListMvc.push_back( new GOPEntry[MAX_GOP + 1] );
691    if( k == 0 )
692    {
693      for( Int i = 1; i < MAX_GOP + 1; i++ ) 
694      {
695        std::ostringstream cOSS;
696        cOSS<<"Frame"<<i;
697        opts.addOptions()( cOSS.str(), m_GOPListMvc[k][i-1], GOPEntry() );
698      }
699    }
700    else
701    {
702      std::ostringstream cOSS1;
703      cOSS1<<"FrameI"<<"_l"<<k;
704      opts.addOptions()(cOSS1.str(), m_GOPListMvc[k][MAX_GOP], GOPEntry());
705
706      for( Int i = 1; i < MAX_GOP + 1; i++ ) 
707      {
708        std::ostringstream cOSS2;
709        cOSS2<<"Frame"<<i<<"_l"<<k;
710        opts.addOptions()(cOSS2.str(), m_GOPListMvc[k][i-1], GOPEntry());
711      }
712    }
713  }
714#else
715  for(Int i=1; i<MAX_GOP+1; i++) {
716    std::ostringstream cOSS;
717    cOSS<<"Frame"<<i;
718    opts.addOptions()(cOSS.str(), m_GOPList[i-1], GOPEntry());
719  }
720#endif
721  po::setDefaults(opts);
722  const list<const Char*>& argv_unhandled = po::scanArgv(opts, argc, (const Char**) argv);
723
724  for (list<const Char*>::const_iterator it = argv_unhandled.begin(); it != argv_unhandled.end(); it++)
725  {
726    fprintf(stderr, "Unhandled argument ignored: `%s'\n", *it);
727  }
728 
729  if (argc == 1 || do_help)
730  {
731    /* argc == 1: no options have been specified */
732    po::doHelp(cout, opts);
733    return false;
734  }
735 
736  /*
737   * Set any derived parameters
738   */
739  /* convert std::string to c string for compatability */
740#if !H_MV
741  m_pchInputFile = cfg_InputFile.empty() ? NULL : strdup(cfg_InputFile.c_str());
742#endif
743  m_pchBitstreamFile = cfg_BitstreamFile.empty() ? NULL : strdup(cfg_BitstreamFile.c_str());
744#if !H_MV
745  m_pchReconFile = cfg_ReconFile.empty() ? NULL : strdup(cfg_ReconFile.c_str());
746#endif
747  m_pchdQPFile = cfg_dQPFile.empty() ? NULL : strdup(cfg_dQPFile.c_str());
748 
749  Char* pColumnWidth = cfg_ColumnWidth.empty() ? NULL: strdup(cfg_ColumnWidth.c_str());
750  Char* pRowHeight = cfg_RowHeight.empty() ? NULL : strdup(cfg_RowHeight.c_str());
751  if( m_iUniformSpacingIdr == 0 && m_iNumColumnsMinus1 > 0 )
752  {
753    char *columnWidth;
754    int  i=0;
755    m_pColumnWidth = new UInt[m_iNumColumnsMinus1];
756    columnWidth = strtok(pColumnWidth, " ,-");
757    while(columnWidth!=NULL)
758    {
759      if( i>=m_iNumColumnsMinus1 )
760      {
761        printf( "The number of columns whose width are defined is larger than the allowed number of columns.\n" );
762        exit( EXIT_FAILURE );
763      }
764      *( m_pColumnWidth + i ) = atoi( columnWidth );
765      columnWidth = strtok(NULL, " ,-");
766      i++;
767    }
768    if( i<m_iNumColumnsMinus1 )
769    {
770      printf( "The width of some columns is not defined.\n" );
771      exit( EXIT_FAILURE );
772    }
773  }
774  else
775  {
776    m_pColumnWidth = NULL;
777  }
778
779  if( m_iUniformSpacingIdr == 0 && m_iNumRowsMinus1 > 0 )
780  {
781    char *rowHeight;
782    int  i=0;
783    m_pRowHeight = new UInt[m_iNumRowsMinus1];
784    rowHeight = strtok(pRowHeight, " ,-");
785    while(rowHeight!=NULL)
786    {
787      if( i>=m_iNumRowsMinus1 )
788      {
789        printf( "The number of rows whose height are defined is larger than the allowed number of rows.\n" );
790        exit( EXIT_FAILURE );
791      }
792      *( m_pRowHeight + i ) = atoi( rowHeight );
793      rowHeight = strtok(NULL, " ,-");
794      i++;
795    }
796    if( i<m_iNumRowsMinus1 )
797    {
798      printf( "The height of some rows is not defined.\n" );
799      exit( EXIT_FAILURE );
800   }
801  }
802  else
803  {
804    m_pRowHeight = NULL;
805  }
806#if H_MV
807  free ( pColumnWidth );
808  free ( pRowHeight   ); 
809#endif
810#if SIGNAL_BITRATE_PICRATE_IN_VPS
811  readBoolString(cfg_bitRateInfoPresentFlag, m_bitRatePicRateMaxTLayers, m_bitRateInfoPresentFlag, "bit rate info. present flag" );
812  readIntString (cfg_avgBitRate,             m_bitRatePicRateMaxTLayers, m_avgBitRate,             "avg. bit rate"               );
813  readIntString (cfg_maxBitRate,             m_bitRatePicRateMaxTLayers, m_maxBitRate,             "max. bit rate"               );
814  readBoolString(cfg_picRateInfoPresentFlag, m_bitRatePicRateMaxTLayers, m_picRateInfoPresentFlag, "bit rate info. present flag" );
815  readIntString (cfg_avgPicRate,             m_bitRatePicRateMaxTLayers, m_avgPicRate,             "avg. pic rate"               );
816  readIntString (cfg_constantPicRateIdc,     m_bitRatePicRateMaxTLayers, m_constantPicRateIdc,     "constant pic rate Idc"       );
817#endif
818  m_scalingListFile = cfg_ScalingListFile.empty() ? NULL : strdup(cfg_ScalingListFile.c_str());
819 
820  /* rules for input, output and internal bitdepths as per help text */
821  if (!m_internalBitDepthY) { m_internalBitDepthY = m_inputBitDepthY; }
822  if (!m_internalBitDepthC) { m_internalBitDepthC = m_internalBitDepthY; }
823  if (!m_inputBitDepthC) { m_inputBitDepthC = m_inputBitDepthY; }
824  if (!m_outputBitDepthY) { m_outputBitDepthY = m_internalBitDepthY; }
825  if (!m_outputBitDepthC) { m_outputBitDepthC = m_internalBitDepthC; }
826
827  // TODO:ChromaFmt assumes 4:2:0 below
828  switch (m_conformanceMode)
829  {
830  case 0:
831    {
832      // no conformance or padding
833      m_confLeft = m_confRight = m_confTop = m_confBottom = 0;
834      m_aiPad[1] = m_aiPad[0] = 0;
835      break;
836    }
837  case 1:
838    {
839      // automatic padding to minimum CU size
840      Int minCuSize = m_uiMaxCUHeight >> (m_uiMaxCUDepth - 1);
841      if (m_iSourceWidth % minCuSize)
842      {
843        m_aiPad[0] = m_confRight  = ((m_iSourceWidth / minCuSize) + 1) * minCuSize - m_iSourceWidth;
844        m_iSourceWidth  += m_confRight;
845      }
846      if (m_iSourceHeight % minCuSize)
847      {
848        m_aiPad[1] = m_confBottom = ((m_iSourceHeight / minCuSize) + 1) * minCuSize - m_iSourceHeight;
849        m_iSourceHeight += m_confBottom;
850      }
851      if (m_aiPad[0] % TComSPS::getWinUnitX(CHROMA_420) != 0)
852      {
853        fprintf(stderr, "Error: picture width is not an integer multiple of the specified chroma subsampling\n");
854        exit(EXIT_FAILURE);
855      }
856      if (m_aiPad[1] % TComSPS::getWinUnitY(CHROMA_420) != 0)
857      {
858        fprintf(stderr, "Error: picture height is not an integer multiple of the specified chroma subsampling\n");
859        exit(EXIT_FAILURE);
860      }
861      break;
862    }
863  case 2:
864    {
865      //padding
866      m_iSourceWidth  += m_aiPad[0];
867      m_iSourceHeight += m_aiPad[1];
868      m_confRight  = m_aiPad[0];
869      m_confBottom = m_aiPad[1];
870      break;
871    }
872  case 3:
873    {
874      // conformance
875      if ((m_confLeft == 0) && (m_confRight == 0) && (m_confTop == 0) && (m_confBottom == 0))
876      {
877        fprintf(stderr, "Warning: Conformance window enabled, but all conformance window parameters set to zero\n");
878      }
879      if ((m_aiPad[1] != 0) || (m_aiPad[0]!=0))
880      {
881        fprintf(stderr, "Warning: Conformance window enabled, padding parameters will be ignored\n");
882      }
883      m_aiPad[1] = m_aiPad[0] = 0;
884      break;
885    }
886  }
887 
888  // allocate slice-based dQP values
889#if H_MV
890  xResizeVector( m_viewId    ); 
891#if H_3D
892  xResizeVector( m_depthFlag ); 
893#endif
894
895  xResizeVector( m_fQP ); 
896
897  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
898  {
899    m_aidQP.push_back( new Int[ m_framesToBeEncoded + m_iGOPSize + 1 ] );
900    ::memset( m_aidQP[layer], 0, sizeof(Int)*( m_framesToBeEncoded + m_iGOPSize + 1 ) );
901
902    // handling of floating-point QP values
903    // if QP is not integer, sequence is split into two sections having QP and QP+1
904    m_iQP.push_back((Int)( m_fQP[layer] ));
905    if ( m_iQP[layer] < m_fQP[layer] )
906    {
907      Int iSwitchPOC = (Int)( m_framesToBeEncoded - (m_fQP[layer] - m_iQP[layer])*m_framesToBeEncoded + 0.5 );
908
909      iSwitchPOC = (Int)( (Double)iSwitchPOC / m_iGOPSize + 0.5 )*m_iGOPSize;
910      for ( Int i=iSwitchPOC; i<m_framesToBeEncoded + m_iGOPSize + 1; i++ )
911      {
912        m_aidQP[layer][i] = 1;
913      }
914    }
915  }
916
917  xResizeVector( m_bLoopFilterDisable ); 
918  xResizeVector( m_bUseSAO );   
919
920#else
921  m_aidQP = new Int[ m_framesToBeEncoded + m_iGOPSize + 1 ];
922  ::memset( m_aidQP, 0, sizeof(Int)*( m_framesToBeEncoded + m_iGOPSize + 1 ) );
923 
924  // handling of floating-point QP values
925  // if QP is not integer, sequence is split into two sections having QP and QP+1
926  m_iQP = (Int)( m_fQP );
927  if ( m_iQP < m_fQP )
928  {
929    Int iSwitchPOC = (Int)( m_framesToBeEncoded - (m_fQP - m_iQP)*m_framesToBeEncoded + 0.5 );
930   
931    iSwitchPOC = (Int)( (Double)iSwitchPOC / m_iGOPSize + 0.5 )*m_iGOPSize;
932    for ( Int i=iSwitchPOC; i<m_framesToBeEncoded + m_iGOPSize + 1; i++ )
933    {
934      m_aidQP[i] = 1;
935    }
936  }
937#endif
938 
939  // reading external dQP description from file
940  if ( m_pchdQPFile )
941  {
942    FILE* fpt=fopen( m_pchdQPFile, "r" );
943    if ( fpt )
944    {
945#if H_MV
946      for( Int layer = 0; layer < m_numberOfLayers; layer++ )
947      {
948#endif
949      Int iValue;
950      Int iPOC = 0;
951      while ( iPOC < m_framesToBeEncoded )
952      {
953        if ( fscanf(fpt, "%d", &iValue ) == EOF ) break;
954#if H_MV
955        m_aidQP[layer][ iPOC ] = iValue;
956        iPOC++;
957      }
958#else
959        m_aidQP[ iPOC ] = iValue;
960        iPOC++;
961#endif
962      }
963      fclose(fpt);
964    }
965  }
966  m_iWaveFrontSubstreams = m_iWaveFrontSynchro ? (m_iSourceHeight + m_uiMaxCUHeight - 1) / m_uiMaxCUHeight : 1;
967
968#if J0149_TONE_MAPPING_SEI
969  if( m_toneMappingInfoSEIEnabled && !m_toneMapCancelFlag )
970  {
971    Char* pcStartOfCodedInterval = cfg_startOfCodedInterval.empty() ? NULL: strdup(cfg_startOfCodedInterval.c_str());
972    Char* pcCodedPivotValue = cfg_codedPivotValue.empty() ? NULL: strdup(cfg_codedPivotValue.c_str());
973    Char* pcTargetPivotValue = cfg_targetPivotValue.empty() ? NULL: strdup(cfg_targetPivotValue.c_str());
974    if( m_toneMapModelId == 2 && pcStartOfCodedInterval )
975    {
976      char *startOfCodedInterval;
977      UInt num = 1u<< m_toneMapTargetBitDepth;
978      m_startOfCodedInterval = new Int[num];
979      ::memset( m_startOfCodedInterval, 0, sizeof(Int)*num );
980      startOfCodedInterval = strtok(pcStartOfCodedInterval, " .");
981      int i = 0;
982      while( startOfCodedInterval && ( i < num ) )
983      {
984        m_startOfCodedInterval[i] = atoi( startOfCodedInterval );
985        startOfCodedInterval = strtok(NULL, " .");
986        i++;
987      }
988    } 
989    else
990    {
991      m_startOfCodedInterval = NULL;
992    }
993    if( ( m_toneMapModelId == 3 ) && ( m_numPivots > 0 ) )
994    {
995      if( pcCodedPivotValue && pcTargetPivotValue )
996      {
997        char *codedPivotValue;
998        char *targetPivotValue;
999        m_codedPivotValue = new Int[m_numPivots];
1000        m_targetPivotValue = new Int[m_numPivots];
1001        ::memset( m_codedPivotValue, 0, sizeof(Int)*( m_numPivots ) );
1002        ::memset( m_targetPivotValue, 0, sizeof(Int)*( m_numPivots ) );
1003        codedPivotValue = strtok(pcCodedPivotValue, " .");
1004        int i=0;
1005        while(codedPivotValue&&i<m_numPivots)
1006        {
1007          m_codedPivotValue[i] = atoi( codedPivotValue );
1008          codedPivotValue = strtok(NULL, " .");
1009          i++;
1010        }
1011        i=0;
1012        targetPivotValue = strtok(pcTargetPivotValue, " .");
1013        while(targetPivotValue&&i<m_numPivots)
1014        {
1015          m_targetPivotValue[i]= atoi( targetPivotValue );
1016          targetPivotValue = strtok(NULL, " .");
1017          i++;
1018        }
1019      }
1020    }
1021    else
1022    {
1023      m_codedPivotValue = NULL;
1024      m_targetPivotValue = NULL;
1025    }
1026  }
1027#endif
1028  // check validity of input parameters
1029  xCheckParameter();
1030 
1031  // set global varibles
1032  xSetGlobal();
1033 
1034  // print-out parameters
1035  xPrintParameter();
1036 
1037  return true;
1038}
1039#if SIGNAL_BITRATE_PICRATE_IN_VPS
1040Void readBoolString(const string inpString, const Int numEntries, Bool* &memberArray, const char *elementName)
1041{
1042  Char* inpArray = inpString.empty() ? NULL : strdup(inpString.c_str());
1043  Int i = 0;
1044  if(numEntries)
1045  {
1046    Char* tempArray = strtok(inpArray, " ,-");
1047    memberArray = new Bool[numEntries];
1048    while( tempArray != NULL )
1049    {
1050      if( i >= numEntries )
1051      {
1052        printf( "The number of %s defined is larger than the allowed number\n", elementName );
1053        exit( EXIT_FAILURE );
1054      }
1055      assert( (atoi(tempArray) == 0) || (atoi(tempArray) == 1) );
1056      *( memberArray + i ) = atoi(tempArray);
1057      tempArray = strtok(NULL, " ,-");
1058      i++;
1059    }
1060    if( i < numEntries )
1061    {
1062      printf( "Some %s are not defined\n", elementName );
1063      exit( EXIT_FAILURE );
1064    }
1065  }
1066  else
1067  {
1068    memberArray = NULL;
1069  }
1070}
1071
1072Void readIntString(const string inpString, const Int numEntries, Int* &memberArray, const char *elementName)
1073{
1074  Char* inpArray = inpString.empty() ? NULL : strdup(inpString.c_str());
1075  Int i = 0;
1076  if(numEntries)
1077  {
1078    Char* tempArray = strtok(inpArray, " ,-");
1079    memberArray = new Int[numEntries];
1080    while( tempArray != NULL )
1081    {
1082      if( i >= numEntries )
1083      {
1084        printf( "The number of %s defined is larger than the allowed number\n", elementName );
1085        exit( EXIT_FAILURE );
1086      }
1087      *( memberArray + i ) = atoi(tempArray);
1088      tempArray = strtok(NULL, " ,-");
1089      i++;
1090    }
1091    if( i < numEntries )
1092    {
1093      printf( "Some %s are not defined\n", elementName );
1094      exit( EXIT_FAILURE );
1095    }
1096  }
1097  else
1098  {
1099    memberArray = NULL;
1100  }
1101}
1102#endif
1103// ====================================================================================================================
1104// Private member functions
1105// ====================================================================================================================
1106
1107Bool confirmPara(Bool bflag, const Char* message);
1108
1109Void TAppEncCfg::xCheckParameter()
1110{
1111  if (!m_decodedPictureHashSEIEnabled)
1112  {
1113    fprintf(stderr, "******************************************************************\n");
1114    fprintf(stderr, "** WARNING: --SEIDecodedPictureHash is now disabled by default. **\n");
1115    fprintf(stderr, "**          Automatic verification of decoded pictures by a     **\n");
1116    fprintf(stderr, "**          decoder requires this option to be enabled.         **\n");
1117    fprintf(stderr, "******************************************************************\n");
1118  }
1119
1120  Bool check_failed = false; /* abort if there is a fatal configuration problem */
1121#define xConfirmPara(a,b) check_failed |= confirmPara(a,b)
1122  // check range of parameters
1123  xConfirmPara( m_inputBitDepthY < 8,                                                     "InputBitDepth must be at least 8" );
1124  xConfirmPara( m_inputBitDepthC < 8,                                                     "InputBitDepthC must be at least 8" );
1125  xConfirmPara( m_iFrameRate <= 0,                                                          "Frame rate must be more than 1" );
1126  xConfirmPara( m_framesToBeEncoded <= 0,                                                   "Total Number Of Frames encoded must be more than 0" );
1127#if H_MV
1128  xConfirmPara( m_numberOfLayers > MAX_NUM_LAYER_IDS ,                                      "NumberOfLayers must be less than or equal to MAX_NUM_LAYER_IDS");
1129
1130
1131  xConfirmPara( m_layerIdInNuh[0] != 0      , "LayerIdInNuh must be 0 for the first layer. ");
1132  xConfirmPara( (m_layerIdInNuh.size()!=1) && (m_layerIdInNuh.size() < m_numberOfLayers) , "LayerIdInNuh must be given for all layers. ");
1133 
1134#if H_3D
1135  xConfirmPara( m_scalabilityMask != 1 && m_scalabilityMask != 3, "Scalability Mask must be equal to 1 or 3. ");
1136#else
1137  xConfirmPara( m_scalabilityMask != 1 , "Scalability Mask must be equal to 1. ");
1138#endif
1139 
1140  m_dimIds.push_back( m_viewId ); 
1141#if H_3D
1142  if ( m_scalabilityMask & ( 1 << DEPTH_ID ) )
1143    m_dimIds.push_back( m_depthFlag ); 
1144#endif
1145
1146  xConfirmPara(  m_dimensionIdLen.size() < m_dimIds.size(), "DimensionIdLen must be given for all dimensions. "   ); 
1147
1148 for( Int dim = 0; dim < m_dimIds.size(); dim++ )
1149 {
1150   xConfirmPara( m_dimIds[dim].size() < m_numberOfLayers,  "DimensionId must be given for all layers and all dimensions. ");
1151   xConfirmPara( m_dimIds[dim][0] != 0,                    "DimensionId of layer 0 must be 0 in all dimensions. " );
1152   xConfirmPara( m_dimensionIdLen[dim] < 1 || m_dimensionIdLen[dim] > 8, "DimensionIdLen must be greater than 0 and less than 9 in all dimensions. " ); 
1153   for( Int i = 1; i < m_numberOfLayers; i++ )
1154   {     
1155     xConfirmPara(  ( m_dimIds[dim][i] < 0 ) || ( m_dimIds[dim][i] > ( ( 1 << m_dimensionIdLen[dim] ) - 1 ) )   , "DimensionId shall be in the range of 0 to 2^DimensionIdLen - 1. " );
1156   }
1157 }
1158
1159 for( Int i = 0; i < m_numberOfLayers; i++ )
1160 {
1161   for( Int j = 0; j < i; j++ )
1162   {     
1163     Int numDiff  = 0; 
1164     Int lastDiff = -1; 
1165     for( Int dim = 0; dim < m_dimIds.size(); dim++ )
1166     {
1167       if ( m_dimIds[dim][i] != m_dimIds[dim][j] )
1168       {
1169         numDiff ++; 
1170         lastDiff = dim; 
1171       }
1172     }
1173
1174     Bool allEqual = ( numDiff == 0 ); 
1175
1176     if ( allEqual ) 
1177     {
1178       printf( "\nError: Positions of Layers %d and %d are identical in scalability space\n", i, j);
1179     }
1180
1181     xConfirmPara( allEqual , "Each layer shall have a different position in scalability space." );
1182
1183     if ( numDiff  == 1 ) 
1184     {
1185       Bool inc = m_dimIds[ lastDiff ][ i ] > m_dimIds[ lastDiff ][ j ]; 
1186       if ( !inc )
1187       {       
1188         printf( "\nError: Positions of Layers %d and %d is not increasing in dimension %d \n", i, j, lastDiff);       
1189       }
1190       xConfirmPara( !inc,  "DimensionIds shall be increasing within one dimension. " );
1191     }
1192   }
1193 }
1194
1195#endif
1196  xConfirmPara( m_iGOPSize < 1 ,                                                            "GOP Size must be greater or equal to 1" );
1197  xConfirmPara( m_iGOPSize > 1 &&  m_iGOPSize % 2,                                          "GOP Size must be a multiple of 2, if GOP Size is greater than 1" );
1198  xConfirmPara( (m_iIntraPeriod > 0 && m_iIntraPeriod < m_iGOPSize) || m_iIntraPeriod == 0, "Intra period must be more than GOP size, or -1 , not 0" );
1199  xConfirmPara( m_iDecodingRefreshType < 0 || m_iDecodingRefreshType > 2,                   "Decoding Refresh Type must be equal to 0, 1 or 2" );
1200#if H_MV
1201  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1202  {
1203    xConfirmPara( m_iQP[layer] <  -6 * (m_internalBitDepthY - 8) || m_iQP[layer] > 51,      "QP exceeds supported range (-QpBDOffsety to 51)" );
1204  }
1205#else
1206  xConfirmPara( m_iQP <  -6 * (m_internalBitDepthY - 8) || m_iQP > 51,                    "QP exceeds supported range (-QpBDOffsety to 51)" );
1207#endif
1208  xConfirmPara( m_loopFilterBetaOffsetDiv2 < -13 || m_loopFilterBetaOffsetDiv2 > 13,          "Loop Filter Beta Offset div. 2 exceeds supported range (-13 to 13)");
1209  xConfirmPara( m_loopFilterTcOffsetDiv2 < -13 || m_loopFilterTcOffsetDiv2 > 13,              "Loop Filter Tc Offset div. 2 exceeds supported range (-13 to 13)");
1210  xConfirmPara( m_iFastSearch < 0 || m_iFastSearch > 2,                                     "Fast Search Mode is not supported value (0:Full search  1:Diamond  2:PMVFAST)" );
1211  xConfirmPara( m_iSearchRange < 0 ,                                                        "Search Range must be more than 0" );
1212  xConfirmPara( m_bipredSearchRange < 0 ,                                                   "Search Range must be more than 0" );
1213  xConfirmPara( m_iMaxDeltaQP > 7,                                                          "Absolute Delta QP exceeds supported range (0 to 7)" );
1214  xConfirmPara( m_iMaxCuDQPDepth > m_uiMaxCUDepth - 1,                                          "Absolute depth for a minimum CuDQP exceeds maximum coding unit depth" );
1215
1216  xConfirmPara( m_cbQpOffset < -12,   "Min. Chroma Cb QP Offset is -12" );
1217  xConfirmPara( m_cbQpOffset >  12,   "Max. Chroma Cb QP Offset is  12" );
1218  xConfirmPara( m_crQpOffset < -12,   "Min. Chroma Cr QP Offset is -12" );
1219  xConfirmPara( m_crQpOffset >  12,   "Max. Chroma Cr QP Offset is  12" );
1220
1221  xConfirmPara( m_iQPAdaptationRange <= 0,                                                  "QP Adaptation Range must be more than 0" );
1222  if (m_iDecodingRefreshType == 2)
1223  {
1224    xConfirmPara( m_iIntraPeriod > 0 && m_iIntraPeriod <= m_iGOPSize ,                      "Intra period must be larger than GOP size for periodic IDR pictures");
1225  }
1226  xConfirmPara( (m_uiMaxCUWidth  >> m_uiMaxCUDepth) < 4,                                    "Minimum partition width size should be larger than or equal to 8");
1227  xConfirmPara( (m_uiMaxCUHeight >> m_uiMaxCUDepth) < 4,                                    "Minimum partition height size should be larger than or equal to 8");
1228  xConfirmPara( m_uiMaxCUWidth < 16,                                                        "Maximum partition width size should be larger than or equal to 16");
1229  xConfirmPara( m_uiMaxCUHeight < 16,                                                       "Maximum partition height size should be larger than or equal to 16");
1230  xConfirmPara( (m_iSourceWidth  % (m_uiMaxCUWidth  >> (m_uiMaxCUDepth-1)))!=0,             "Resulting coded frame width must be a multiple of the minimum CU size");
1231  xConfirmPara( (m_iSourceHeight % (m_uiMaxCUHeight >> (m_uiMaxCUDepth-1)))!=0,             "Resulting coded frame height must be a multiple of the minimum CU size");
1232 
1233  xConfirmPara( m_uiQuadtreeTULog2MinSize < 2,                                        "QuadtreeTULog2MinSize must be 2 or greater.");
1234  xConfirmPara( m_uiQuadtreeTULog2MaxSize > 5,                                        "QuadtreeTULog2MaxSize must be 5 or smaller.");
1235  xConfirmPara( (1<<m_uiQuadtreeTULog2MaxSize) > m_uiMaxCUWidth,                                        "QuadtreeTULog2MaxSize must be log2(maxCUSize) or smaller.");
1236 
1237  xConfirmPara( m_uiQuadtreeTULog2MaxSize < m_uiQuadtreeTULog2MinSize,                "QuadtreeTULog2MaxSize must be greater than or equal to m_uiQuadtreeTULog2MinSize.");
1238  xConfirmPara( (1<<m_uiQuadtreeTULog2MinSize)>(m_uiMaxCUWidth >>(m_uiMaxCUDepth-1)), "QuadtreeTULog2MinSize must not be greater than minimum CU size" ); // HS
1239  xConfirmPara( (1<<m_uiQuadtreeTULog2MinSize)>(m_uiMaxCUHeight>>(m_uiMaxCUDepth-1)), "QuadtreeTULog2MinSize must not be greater than minimum CU size" ); // HS
1240  xConfirmPara( ( 1 << m_uiQuadtreeTULog2MinSize ) > ( m_uiMaxCUWidth  >> m_uiMaxCUDepth ), "Minimum CU width must be greater than minimum transform size." );
1241  xConfirmPara( ( 1 << m_uiQuadtreeTULog2MinSize ) > ( m_uiMaxCUHeight >> m_uiMaxCUDepth ), "Minimum CU height must be greater than minimum transform size." );
1242  xConfirmPara( m_uiQuadtreeTUMaxDepthInter < 1,                                                         "QuadtreeTUMaxDepthInter must be greater than or equal to 1" );
1243  xConfirmPara( m_uiMaxCUWidth < ( 1 << (m_uiQuadtreeTULog2MinSize + m_uiQuadtreeTUMaxDepthInter - 1) ), "QuadtreeTUMaxDepthInter must be less than or equal to the difference between log2(maxCUSize) and QuadtreeTULog2MinSize plus 1" );
1244  xConfirmPara( m_uiQuadtreeTUMaxDepthIntra < 1,                                                         "QuadtreeTUMaxDepthIntra must be greater than or equal to 1" );
1245  xConfirmPara( m_uiMaxCUWidth < ( 1 << (m_uiQuadtreeTULog2MinSize + m_uiQuadtreeTUMaxDepthIntra - 1) ), "QuadtreeTUMaxDepthInter must be less than or equal to the difference between log2(maxCUSize) and QuadtreeTULog2MinSize plus 1" );
1246 
1247  xConfirmPara(  m_maxNumMergeCand < 1,  "MaxNumMergeCand must be 1 or greater.");
1248  xConfirmPara(  m_maxNumMergeCand > 5,  "MaxNumMergeCand must be 5 or smaller.");
1249
1250#if ADAPTIVE_QP_SELECTION
1251#if H_MV
1252  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1253  {
1254    xConfirmPara( m_bUseAdaptQpSelect == true && m_iQP[layer] < 0,                                     "AdaptiveQpSelection must be disabled when QP < 0.");
1255  }
1256#else
1257  xConfirmPara( m_bUseAdaptQpSelect == true && m_iQP < 0,                                              "AdaptiveQpSelection must be disabled when QP < 0.");
1258#endif
1259  xConfirmPara( m_bUseAdaptQpSelect == true && (m_cbQpOffset !=0 || m_crQpOffset != 0 ),               "AdaptiveQpSelection must be disabled when ChromaQpOffset is not equal to 0.");
1260#endif
1261
1262  if( m_usePCM)
1263  {
1264    xConfirmPara(  m_uiPCMLog2MinSize < 3,                                      "PCMLog2MinSize must be 3 or greater.");
1265    xConfirmPara(  m_uiPCMLog2MinSize > 5,                                      "PCMLog2MinSize must be 5 or smaller.");
1266    xConfirmPara(  m_pcmLog2MaxSize > 5,                                        "PCMLog2MaxSize must be 5 or smaller.");
1267    xConfirmPara(  m_pcmLog2MaxSize < m_uiPCMLog2MinSize,                       "PCMLog2MaxSize must be equal to or greater than m_uiPCMLog2MinSize.");
1268  }
1269
1270  xConfirmPara( m_sliceMode < 0 || m_sliceMode > 3, "SliceMode exceeds supported range (0 to 3)" );
1271  if (m_sliceMode!=0)
1272  {
1273    xConfirmPara( m_sliceArgument < 1 ,         "SliceArgument should be larger than or equal to 1" );
1274  }
1275  xConfirmPara( m_sliceSegmentMode < 0 || m_sliceSegmentMode > 3, "SliceSegmentMode exceeds supported range (0 to 3)" );
1276  if (m_sliceSegmentMode!=0)
1277  {
1278    xConfirmPara( m_sliceSegmentArgument < 1 ,         "SliceSegmentArgument should be larger than or equal to 1" );
1279  }
1280 
1281  Bool tileFlag = (m_iNumColumnsMinus1 > 0 || m_iNumRowsMinus1 > 0 );
1282  xConfirmPara( tileFlag && m_iWaveFrontSynchro,            "Tile and Wavefront can not be applied together");
1283
1284  //TODO:ChromaFmt assumes 4:2:0 below
1285  xConfirmPara( m_iSourceWidth  % TComSPS::getWinUnitX(CHROMA_420) != 0, "Picture width must be an integer multiple of the specified chroma subsampling");
1286  xConfirmPara( m_iSourceHeight % TComSPS::getWinUnitY(CHROMA_420) != 0, "Picture height must be an integer multiple of the specified chroma subsampling");
1287
1288  xConfirmPara( m_aiPad[0] % TComSPS::getWinUnitX(CHROMA_420) != 0, "Horizontal padding must be an integer multiple of the specified chroma subsampling");
1289  xConfirmPara( m_aiPad[1] % TComSPS::getWinUnitY(CHROMA_420) != 0, "Vertical padding must be an integer multiple of the specified chroma subsampling");
1290
1291  xConfirmPara( m_confLeft   % TComSPS::getWinUnitX(CHROMA_420) != 0, "Left conformance window offset must be an integer multiple of the specified chroma subsampling");
1292  xConfirmPara( m_confRight  % TComSPS::getWinUnitX(CHROMA_420) != 0, "Right conformance window offset must be an integer multiple of the specified chroma subsampling");
1293  xConfirmPara( m_confTop    % TComSPS::getWinUnitY(CHROMA_420) != 0, "Top conformance window offset must be an integer multiple of the specified chroma subsampling");
1294  xConfirmPara( m_confBottom % TComSPS::getWinUnitY(CHROMA_420) != 0, "Bottom conformance window offset must be an integer multiple of the specified chroma subsampling");
1295
1296  // max CU width and height should be power of 2
1297  UInt ui = m_uiMaxCUWidth;
1298  while(ui)
1299  {
1300    ui >>= 1;
1301    if( (ui & 1) == 1)
1302      xConfirmPara( ui != 1 , "Width should be 2^n");
1303  }
1304  ui = m_uiMaxCUHeight;
1305  while(ui)
1306  {
1307    ui >>= 1;
1308    if( (ui & 1) == 1)
1309      xConfirmPara( ui != 1 , "Height should be 2^n");
1310  }
1311
1312#if H_MV
1313  // validate that POC of same frame is identical across multiple layers
1314  Bool bErrorMvePoc = false;
1315  if( m_numberOfLayers > 1 )
1316  {
1317    for( Int k = 1; k < m_numberOfLayers; k++ )
1318    {
1319      for( Int i = 0; i < MAX_GOP; i++ )
1320      {
1321        if( m_GOPListMvc[k][i].m_POC != m_GOPListMvc[0][i].m_POC )
1322        {
1323          printf( "\nError: Frame%d_l%d POC %d is not identical to Frame%d POC\n", i, k, m_GOPListMvc[k][i].m_POC, i );
1324          bErrorMvePoc = true;
1325        }
1326      }
1327    }
1328  }
1329  xConfirmPara( bErrorMvePoc,  "Invalid inter-layer POC structure given" );
1330
1331  // validate that baseview has no inter-view refs
1332  Bool bErrorIvpBase = false;
1333  for( Int i = 0; i < MAX_GOP; i++ )
1334  {
1335    if( m_GOPListMvc[0][i].m_numInterViewRefPics != 0 )
1336    {
1337      printf( "\nError: Frame%d inter_layer refs not available in layer 0\n", i );
1338      bErrorIvpBase = true;
1339    }
1340  }
1341  xConfirmPara( bErrorIvpBase, "Inter-layer refs not possible in base layer" );
1342
1343  // validate inter-view refs
1344  Bool bErrorIvpEnhV = false;
1345  if( m_numberOfLayers > 1 )
1346  {
1347    for( Int k = 1; k < m_numberOfLayers; k++ )
1348    {
1349      for( Int i = 0; i < MAX_GOP+1; i++ )
1350      {
1351        for( Int j = 0; j < m_GOPListMvc[k][i].m_numInterViewRefPics; j++ )
1352        {
1353          Int iAbsViewId = m_GOPListMvc[k][i].m_interViewRefs[j] + k;
1354          if( iAbsViewId < 0 || iAbsViewId >= k )
1355          {
1356            printf( "\nError: inter-layer ref pic %d is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefs[j], i, k );
1357            bErrorIvpEnhV = true;
1358          }
1359          if( m_GOPListMvc[k][i].m_interViewRefPosL[0][j] < -1 || m_GOPListMvc[k][i].m_interViewRefPosL[0][j] > m_GOPListMvc[k][i].m_numRefPicsActive )
1360          {
1361            printf( "\nError: inter-layer ref pos %d on L0 is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefPosL[0][j], i, k );
1362            bErrorIvpEnhV = true;
1363          }
1364          if( m_GOPListMvc[k][i].m_interViewRefPosL[1][j] < -1  || m_GOPListMvc[k][i].m_interViewRefPosL[1][j] > m_GOPListMvc[k][i].m_numRefPicsActive )
1365          {
1366            printf( "\nError: inter-layer ref pos %d on L1 is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefPosL[1][j], i, k );
1367            bErrorIvpEnhV = true;
1368          }
1369        }
1370        if( i == MAX_GOP ) // inter-view refs at I pic position in base view
1371        {
1372          if( m_GOPListMvc[k][MAX_GOP].m_sliceType != 'B' && m_GOPListMvc[k][MAX_GOP].m_sliceType != 'P' && m_GOPListMvc[k][MAX_GOP].m_sliceType != 'I' )
1373          {
1374            printf( "\nError: slice type of FrameI_l%d must be equal to B or P or I\n", k );
1375            bErrorIvpEnhV = true;
1376          }
1377
1378          if( m_GOPListMvc[k][MAX_GOP].m_POC != 0 )
1379          {
1380            printf( "\nError: POC %d not possible for FrameI_l%d, must be 0\n", m_GOPListMvc[k][MAX_GOP].m_POC, k );
1381            bErrorIvpEnhV = true;
1382          }
1383
1384          if( m_GOPListMvc[k][MAX_GOP].m_temporalId != 0 )
1385          {
1386            printf( "\nWarning: Temporal id of FrameI_l%d must be 0 (cp. I-frame in base layer)\n", k );
1387            m_GOPListMvc[k][MAX_GOP].m_temporalId = 0;
1388          }
1389
1390          if( m_GOPListMvc[k][MAX_GOP].m_numRefPics != 0 )
1391          {
1392            printf( "\nWarning: temporal references not possible for FrameI_l%d\n", k );
1393            for( Int j = 0; j < m_GOPListMvc[k][MAX_GOP].m_numRefPics; j++ )
1394            {
1395              m_GOPListMvc[k][MAX_GOP].m_referencePics[j] = 0;
1396            }
1397            m_GOPListMvc[k][MAX_GOP].m_numRefPics = 0;
1398          }
1399
1400          if( m_GOPListMvc[k][MAX_GOP].m_interRPSPrediction )
1401          {
1402            printf( "\nError: inter RPS prediction not possible for FrameI_l%d, must be 0\n", k );
1403            bErrorIvpEnhV = true;
1404          }
1405
1406          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'I' && m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics != 0 )
1407          {
1408            printf( "\nError: inter-layer prediction not possible for FrameI_l%d with slice type I, #IL_ref_pics must be 0\n", k );
1409            bErrorIvpEnhV = true;
1410          }
1411
1412          if( m_GOPListMvc[k][MAX_GOP].m_numRefPicsActive > m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics )
1413          {
1414            m_GOPListMvc[k][MAX_GOP].m_numRefPicsActive = m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics;
1415          }
1416
1417          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'P' )
1418          {
1419            if( m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics < 1 )
1420            {
1421              printf( "\nError: #IL_ref_pics must be at least one for FrameI_l%d with slice type P\n", k );
1422              bErrorIvpEnhV = true;
1423            }
1424            else
1425            {
1426              for( Int j = 0; j < m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics; j++ )
1427              {
1428                if( m_GOPListMvc[k][MAX_GOP].m_interViewRefPosL[1][j] != -1 )
1429                {
1430                  printf( "\nError: inter-layer ref pos %d on L1 not possible for FrameI_l%d with slice type P\n", m_GOPListMvc[k][MAX_GOP].m_interViewRefPosL[1][j], k );
1431                  bErrorIvpEnhV = true;
1432                }
1433              }
1434            }
1435          }
1436
1437          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'B' && m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics < 1 )
1438          {
1439            printf( "\nError: #IL_ref_pics must be at least one for FrameI_l%d with slice type B\n", k );
1440            bErrorIvpEnhV = true;
1441          }
1442        }
1443      }
1444    }
1445  }
1446  xConfirmPara( bErrorIvpEnhV, "Invalid inter-layer coding structure for enhancement layers given" );
1447
1448  // validate temporal coding structure
1449  if( !bErrorMvePoc && !bErrorIvpBase && !bErrorIvpEnhV )
1450  {
1451    for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1452    {
1453      GOPEntry* m_GOPList            = m_GOPListMvc           [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1454      Int&      m_extraRPSs          = m_extraRPSsMvc         [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1455      Int&      m_maxTempLayer       = m_maxTempLayerMvc      [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1456      Int*      m_maxDecPicBuffering = m_maxDecPicBufferingMvc[layer]; // It is not a member, but this name helps avoiding code duplication !!!
1457      Int*      m_numReorderPics     = m_numReorderPicsMvc    [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1458#endif
1459  /* if this is an intra-only sequence, ie IntraPeriod=1, don't verify the GOP structure
1460   * This permits the ability to omit a GOP structure specification */
1461  if (m_iIntraPeriod == 1 && m_GOPList[0].m_POC == -1) {
1462    m_GOPList[0] = GOPEntry();
1463    m_GOPList[0].m_QPFactor = 1;
1464    m_GOPList[0].m_betaOffsetDiv2 = 0;
1465    m_GOPList[0].m_tcOffsetDiv2 = 0;
1466    m_GOPList[0].m_POC = 1;
1467    m_GOPList[0].m_numRefPicsActive = 4;
1468  }
1469 
1470  Bool verifiedGOP=false;
1471  Bool errorGOP=false;
1472  Int checkGOP=1;
1473  Int numRefs = 1;
1474  Int refList[MAX_NUM_REF_PICS+1];
1475  refList[0]=0;
1476  Bool isOK[MAX_GOP];
1477  for(Int i=0; i<MAX_GOP; i++) 
1478  {
1479    isOK[i]=false;
1480  }
1481  Int numOK=0;
1482  xConfirmPara( m_iIntraPeriod >=0&&(m_iIntraPeriod%m_iGOPSize!=0), "Intra period must be a multiple of GOPSize, or -1" );
1483
1484  for(Int i=0; i<m_iGOPSize; i++)
1485  {
1486    if(m_GOPList[i].m_POC==m_iGOPSize)
1487    {
1488      xConfirmPara( m_GOPList[i].m_temporalId!=0 , "The last frame in each GOP must have temporal ID = 0 " );
1489    }
1490  }
1491 
1492#if H_MV
1493  if ( (m_iIntraPeriod != 1) && !m_loopFilterOffsetInPPS && m_DeblockingFilterControlPresent && (!m_bLoopFilterDisable[layer]) )
1494#else
1495  if ( (m_iIntraPeriod != 1) && !m_loopFilterOffsetInPPS && m_DeblockingFilterControlPresent && (!m_bLoopFilterDisable) )
1496#endif
1497  {
1498    for(Int i=0; i<m_iGOPSize; i++)
1499    {
1500      xConfirmPara( (m_GOPList[i].m_betaOffsetDiv2 + m_loopFilterBetaOffsetDiv2) < -6 || (m_GOPList[i].m_betaOffsetDiv2 + m_loopFilterBetaOffsetDiv2) > 6, "Loop Filter Beta Offset div. 2 for one of the GOP entries exceeds supported range (-6 to 6)" );
1501      xConfirmPara( (m_GOPList[i].m_tcOffsetDiv2 + m_loopFilterTcOffsetDiv2) < -6 || (m_GOPList[i].m_tcOffsetDiv2 + m_loopFilterTcOffsetDiv2) > 6, "Loop Filter Tc Offset div. 2 for one of the GOP entries exceeds supported range (-6 to 6)" );
1502    }
1503  }
1504  m_extraRPSs=0;
1505  //start looping through frames in coding order until we can verify that the GOP structure is correct.
1506  while(!verifiedGOP&&!errorGOP) 
1507  {
1508    Int curGOP = (checkGOP-1)%m_iGOPSize;
1509    Int curPOC = ((checkGOP-1)/m_iGOPSize)*m_iGOPSize + m_GOPList[curGOP].m_POC;   
1510    if(m_GOPList[curGOP].m_POC<0) 
1511    {
1512#if H_MV
1513      printf("\nError: found fewer Reference Picture Sets than GOPSize for layer %d\n", layer );
1514#else
1515      printf("\nError: found fewer Reference Picture Sets than GOPSize\n");
1516#endif
1517      errorGOP=true;
1518    }
1519    else 
1520    {
1521      //check that all reference pictures are available, or have a POC < 0 meaning they might be available in the next GOP.
1522      Bool beforeI = false;
1523      for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1524      {
1525        Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1526        if(absPOC < 0)
1527        {
1528          beforeI=true;
1529        }
1530        else 
1531        {
1532          Bool found=false;
1533          for(Int j=0; j<numRefs; j++) 
1534          {
1535            if(refList[j]==absPOC) 
1536            {
1537              found=true;
1538              for(Int k=0; k<m_iGOPSize; k++)
1539              {
1540                if(absPOC%m_iGOPSize == m_GOPList[k].m_POC%m_iGOPSize)
1541                {
1542                  if(m_GOPList[k].m_temporalId==m_GOPList[curGOP].m_temporalId)
1543                  {
1544                    m_GOPList[k].m_refPic = true;
1545                  }
1546                  m_GOPList[curGOP].m_usedByCurrPic[i]=m_GOPList[k].m_temporalId<=m_GOPList[curGOP].m_temporalId;
1547                }
1548              }
1549            }
1550          }
1551          if(!found)
1552          {
1553#if H_MV
1554            printf("\nError: ref pic %d is not available for GOP frame %d of layer %d\n", m_GOPList[curGOP].m_referencePics[i], curGOP+1, layer);
1555#else
1556            printf("\nError: ref pic %d is not available for GOP frame %d\n",m_GOPList[curGOP].m_referencePics[i],curGOP+1);
1557#endif
1558            errorGOP=true;
1559          }
1560        }
1561      }
1562      if(!beforeI&&!errorGOP)
1563      {
1564        //all ref frames were present
1565        if(!isOK[curGOP]) 
1566        {
1567          numOK++;
1568          isOK[curGOP]=true;
1569          if(numOK==m_iGOPSize)
1570          {
1571            verifiedGOP=true;
1572          }
1573        }
1574      }
1575      else 
1576      {
1577        //create a new GOPEntry for this frame containing all the reference pictures that were available (POC > 0)
1578        m_GOPList[m_iGOPSize+m_extraRPSs]=m_GOPList[curGOP];
1579        Int newRefs=0;
1580        for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1581        {
1582          Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1583          if(absPOC>=0)
1584          {
1585            m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[newRefs]=m_GOPList[curGOP].m_referencePics[i];
1586            m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[newRefs]=m_GOPList[curGOP].m_usedByCurrPic[i];
1587            newRefs++;
1588          }
1589        }
1590        Int numPrefRefs = m_GOPList[curGOP].m_numRefPicsActive;
1591       
1592        for(Int offset = -1; offset>-checkGOP; offset--)
1593        {
1594          //step backwards in coding order and include any extra available pictures we might find useful to replace the ones with POC < 0.
1595          Int offGOP = (checkGOP-1+offset)%m_iGOPSize;
1596          Int offPOC = ((checkGOP-1+offset)/m_iGOPSize)*m_iGOPSize + m_GOPList[offGOP].m_POC;
1597          if(offPOC>=0&&m_GOPList[offGOP].m_temporalId<=m_GOPList[curGOP].m_temporalId)
1598          {
1599            Bool newRef=false;
1600            for(Int i=0; i<numRefs; i++)
1601            {
1602              if(refList[i]==offPOC)
1603              {
1604                newRef=true;
1605              }
1606            }
1607            for(Int i=0; i<newRefs; i++) 
1608            {
1609              if(m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[i]==offPOC-curPOC)
1610              {
1611                newRef=false;
1612              }
1613            }
1614            if(newRef) 
1615            {
1616              Int insertPoint=newRefs;
1617              //this picture can be added, find appropriate place in list and insert it.
1618              if(m_GOPList[offGOP].m_temporalId==m_GOPList[curGOP].m_temporalId)
1619              {
1620                m_GOPList[offGOP].m_refPic = true;
1621              }
1622              for(Int j=0; j<newRefs; j++)
1623              {
1624                if(m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]<offPOC-curPOC||m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]>0)
1625                {
1626                  insertPoint = j;
1627                  break;
1628                }
1629              }
1630              Int prev = offPOC-curPOC;
1631              Int prevUsed = m_GOPList[offGOP].m_temporalId<=m_GOPList[curGOP].m_temporalId;
1632              for(Int j=insertPoint; j<newRefs+1; j++)
1633              {
1634                Int newPrev = m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j];
1635                Int newUsed = m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j];
1636                m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]=prev;
1637                m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j]=prevUsed;
1638                prevUsed=newUsed;
1639                prev=newPrev;
1640              }
1641              newRefs++;
1642            }
1643          }
1644          if(newRefs>=numPrefRefs)
1645          {
1646            break;
1647          }
1648        }
1649        m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefPics=newRefs;
1650        m_GOPList[m_iGOPSize+m_extraRPSs].m_POC = curPOC;
1651        if (m_extraRPSs == 0)
1652        {
1653          m_GOPList[m_iGOPSize+m_extraRPSs].m_interRPSPrediction = 0;
1654          m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefIdc = 0;
1655        }
1656        else
1657        {
1658          Int rIdx =  m_iGOPSize + m_extraRPSs - 1;
1659          Int refPOC = m_GOPList[rIdx].m_POC;
1660          Int refPics = m_GOPList[rIdx].m_numRefPics;
1661          Int newIdc=0;
1662          for(Int i = 0; i<= refPics; i++) 
1663          {
1664            Int deltaPOC = ((i != refPics)? m_GOPList[rIdx].m_referencePics[i] : 0);  // check if the reference abs POC is >= 0
1665            Int absPOCref = refPOC+deltaPOC;
1666            Int refIdc = 0;
1667            for (Int j = 0; j < m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefPics; j++)
1668            {
1669              if ( (absPOCref - curPOC) == m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j])
1670              {
1671                if (m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j])
1672                {
1673                  refIdc = 1;
1674                }
1675                else
1676                {
1677                  refIdc = 2;
1678                }
1679              }
1680            }
1681            m_GOPList[m_iGOPSize+m_extraRPSs].m_refIdc[newIdc]=refIdc;
1682            newIdc++;
1683          }
1684          m_GOPList[m_iGOPSize+m_extraRPSs].m_interRPSPrediction = 1; 
1685          m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefIdc = newIdc;
1686          m_GOPList[m_iGOPSize+m_extraRPSs].m_deltaRPS = refPOC - m_GOPList[m_iGOPSize+m_extraRPSs].m_POC; 
1687        }
1688        curGOP=m_iGOPSize+m_extraRPSs;
1689        m_extraRPSs++;
1690      }
1691      numRefs=0;
1692      for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1693      {
1694        Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1695        if(absPOC >= 0) 
1696        {
1697          refList[numRefs]=absPOC;
1698          numRefs++;
1699        }
1700      }
1701      refList[numRefs]=curPOC;
1702      numRefs++;
1703    }
1704    checkGOP++;
1705  }
1706  xConfirmPara(errorGOP,"Invalid GOP structure given");
1707  m_maxTempLayer = 1;
1708  for(Int i=0; i<m_iGOPSize; i++) 
1709  {
1710    if(m_GOPList[i].m_temporalId >= m_maxTempLayer)
1711    {
1712      m_maxTempLayer = m_GOPList[i].m_temporalId+1;
1713    }
1714    xConfirmPara(m_GOPList[i].m_sliceType!='B'&&m_GOPList[i].m_sliceType!='P', "Slice type must be equal to B or P");
1715  }
1716  for(Int i=0; i<MAX_TLAYER; i++)
1717  {
1718    m_numReorderPics[i] = 0;
1719#if L0323_DPB
1720    m_maxDecPicBuffering[i] = 1;
1721#else
1722    m_maxDecPicBuffering[i] = 0;
1723#endif
1724  }
1725  for(Int i=0; i<m_iGOPSize; i++) 
1726  {
1727#if L0323_DPB
1728    if(m_GOPList[i].m_numRefPics+1 > m_maxDecPicBuffering[m_GOPList[i].m_temporalId])
1729#else
1730    if(m_GOPList[i].m_numRefPics > m_maxDecPicBuffering[m_GOPList[i].m_temporalId])
1731#endif
1732    {
1733#if L0323_DPB
1734      m_maxDecPicBuffering[m_GOPList[i].m_temporalId] = m_GOPList[i].m_numRefPics + 1;
1735#else
1736      m_maxDecPicBuffering[m_GOPList[i].m_temporalId] = m_GOPList[i].m_numRefPics;
1737#endif
1738    }
1739    Int highestDecodingNumberWithLowerPOC = 0; 
1740    for(Int j=0; j<m_iGOPSize; j++)
1741    {
1742      if(m_GOPList[j].m_POC <= m_GOPList[i].m_POC)
1743      {
1744        highestDecodingNumberWithLowerPOC = j;
1745      }
1746    }
1747    Int numReorder = 0;
1748    for(Int j=0; j<highestDecodingNumberWithLowerPOC; j++)
1749    {
1750      if(m_GOPList[j].m_temporalId <= m_GOPList[i].m_temporalId && 
1751        m_GOPList[j].m_POC > m_GOPList[i].m_POC)
1752      {
1753        numReorder++;
1754      }
1755    }   
1756    if(numReorder > m_numReorderPics[m_GOPList[i].m_temporalId])
1757    {
1758      m_numReorderPics[m_GOPList[i].m_temporalId] = numReorder;
1759    }
1760  }
1761  for(Int i=0; i<MAX_TLAYER-1; i++) 
1762  {
1763    // a lower layer can not have higher value of m_numReorderPics than a higher layer
1764    if(m_numReorderPics[i+1] < m_numReorderPics[i])
1765    {
1766      m_numReorderPics[i+1] = m_numReorderPics[i];
1767    }
1768#if L0323_DPB
1769    // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ] - 1, inclusive
1770    if(m_numReorderPics[i] > m_maxDecPicBuffering[i] - 1)
1771    {
1772      m_maxDecPicBuffering[i] = m_numReorderPics[i] + 1;
1773    }
1774#else
1775    // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ], inclusive
1776    if(m_numReorderPics[i] > m_maxDecPicBuffering[i])
1777    {
1778      m_maxDecPicBuffering[i] = m_numReorderPics[i];
1779    }
1780#endif
1781    // a lower layer can not have higher value of m_uiMaxDecPicBuffering than a higher layer
1782    if(m_maxDecPicBuffering[i+1] < m_maxDecPicBuffering[i])
1783    {
1784      m_maxDecPicBuffering[i+1] = m_maxDecPicBuffering[i];
1785    }
1786  }
1787
1788
1789#if L0323_DPB
1790  // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ] -  1, inclusive
1791  if(m_numReorderPics[MAX_TLAYER-1] > m_maxDecPicBuffering[MAX_TLAYER-1] - 1)
1792  {
1793    m_maxDecPicBuffering[MAX_TLAYER-1] = m_numReorderPics[MAX_TLAYER-1] + 1;
1794  }
1795#else
1796  // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ], inclusive
1797  if(m_numReorderPics[MAX_TLAYER-1] > m_maxDecPicBuffering[MAX_TLAYER-1])
1798  {
1799    m_maxDecPicBuffering[MAX_TLAYER-1] = m_numReorderPics[MAX_TLAYER-1];
1800  }
1801#endif
1802
1803  if(m_vuiParametersPresentFlag && m_bitstreamRestrictionFlag)
1804  { 
1805    Int PicSizeInSamplesY =  m_iSourceWidth * m_iSourceHeight;
1806    if(tileFlag)
1807    {
1808      Int maxTileWidth = 0;
1809      Int maxTileHeight = 0;
1810      Int widthInCU = (m_iSourceWidth % m_uiMaxCUWidth) ? m_iSourceWidth/m_uiMaxCUWidth + 1: m_iSourceWidth/m_uiMaxCUWidth;
1811      Int heightInCU = (m_iSourceHeight % m_uiMaxCUHeight) ? m_iSourceHeight/m_uiMaxCUHeight + 1: m_iSourceHeight/m_uiMaxCUHeight;
1812      if(m_iUniformSpacingIdr)
1813      {
1814        maxTileWidth = m_uiMaxCUWidth*((widthInCU+m_iNumColumnsMinus1)/(m_iNumColumnsMinus1+1));
1815        maxTileHeight = m_uiMaxCUHeight*((heightInCU+m_iNumRowsMinus1)/(m_iNumRowsMinus1+1));
1816        // if only the last tile-row is one treeblock higher than the others
1817        // the maxTileHeight becomes smaller if the last row of treeblocks has lower height than the others
1818        if(!((heightInCU-1)%(m_iNumRowsMinus1+1)))
1819        {
1820          maxTileHeight = maxTileHeight - m_uiMaxCUHeight + (m_iSourceHeight % m_uiMaxCUHeight);
1821        }     
1822        // if only the last tile-column is one treeblock wider than the others
1823        // the maxTileWidth becomes smaller if the last column of treeblocks has lower width than the others   
1824        if(!((widthInCU-1)%(m_iNumColumnsMinus1+1)))
1825        {
1826          maxTileWidth = maxTileWidth - m_uiMaxCUWidth + (m_iSourceWidth % m_uiMaxCUWidth);
1827        }
1828      }
1829      else // not uniform spacing
1830      {
1831        if(m_iNumColumnsMinus1<1)
1832        {
1833          maxTileWidth = m_iSourceWidth;
1834        }
1835        else
1836        {
1837          Int accColumnWidth = 0;
1838          for(Int col=0; col<(m_iNumColumnsMinus1); col++)
1839          {
1840            maxTileWidth = m_pColumnWidth[col]>maxTileWidth ? m_pColumnWidth[col]:maxTileWidth;
1841            accColumnWidth += m_pColumnWidth[col];
1842          }
1843          maxTileWidth = (widthInCU-accColumnWidth)>maxTileWidth ? m_uiMaxCUWidth*(widthInCU-accColumnWidth):m_uiMaxCUWidth*maxTileWidth;
1844        }
1845        if(m_iNumRowsMinus1<1)
1846        {
1847          maxTileHeight = m_iSourceHeight;
1848        }
1849        else
1850        {
1851          Int accRowHeight = 0;
1852          for(Int row=0; row<(m_iNumRowsMinus1); row++)
1853          {
1854            maxTileHeight = m_pRowHeight[row]>maxTileHeight ? m_pRowHeight[row]:maxTileHeight;
1855            accRowHeight += m_pRowHeight[row];
1856          }
1857          maxTileHeight = (heightInCU-accRowHeight)>maxTileHeight ? m_uiMaxCUHeight*(heightInCU-accRowHeight):m_uiMaxCUHeight*maxTileHeight;
1858        }
1859      }
1860      Int maxSizeInSamplesY = maxTileWidth*maxTileHeight;
1861      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/maxSizeInSamplesY-4;
1862    }
1863    else if(m_iWaveFrontSynchro)
1864    {
1865      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/((2*m_iSourceHeight+m_iSourceWidth)*m_uiMaxCUHeight)-4;
1866    }
1867    else if(m_sliceMode == 1)
1868    {
1869      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/(m_sliceArgument*m_uiMaxCUWidth*m_uiMaxCUHeight)-4;
1870    }
1871    else
1872    {
1873      m_minSpatialSegmentationIdc = 0;
1874    }
1875  }
1876#if !L0034_COMBINED_LIST_CLEANUP
1877  xConfirmPara( m_bUseLComb==false && m_numReorderPics[MAX_TLAYER-1]!=0, "ListCombination can only be 0 in low delay coding (more precisely when L0 and L1 are identical)" );  // Note however this is not the full necessary condition as ref_pic_list_combination_flag can only be 0 if L0 == L1.
1878#endif
1879  xConfirmPara( m_iWaveFrontSynchro < 0, "WaveFrontSynchro cannot be negative" );
1880  xConfirmPara( m_iWaveFrontSubstreams <= 0, "WaveFrontSubstreams must be positive" );
1881  xConfirmPara( m_iWaveFrontSubstreams > 1 && !m_iWaveFrontSynchro, "Must have WaveFrontSynchro > 0 in order to have WaveFrontSubstreams > 1" );
1882
1883  xConfirmPara( m_decodedPictureHashSEIEnabled<0 || m_decodedPictureHashSEIEnabled>3, "this hash type is not correct!\n");
1884
1885#if J0149_TONE_MAPPING_SEI
1886  if (m_toneMappingInfoSEIEnabled)
1887  {
1888    xConfirmPara( m_toneMapCodedDataBitDepth < 8 || m_toneMapCodedDataBitDepth > 14 , "SEIToneMapCodedDataBitDepth must be in rage 8 to 14");
1889    xConfirmPara( m_toneMapTargetBitDepth < 1 || (m_toneMapTargetBitDepth > 16 && m_toneMapTargetBitDepth < 255) , "SEIToneMapTargetBitDepth must be in rage 1 to 16 or equal to 255");
1890    xConfirmPara( m_toneMapModelId < 0 || m_toneMapModelId > 4 , "SEIToneMapModelId must be in rage 0 to 4");
1891    xConfirmPara( m_cameraIsoSpeedValue == 0, "SEIToneMapCameraIsoSpeedValue shall not be equal to 0");
1892    xConfirmPara( m_extendedRangeWhiteLevel < 100, "SEIToneMapExtendedRangeWhiteLevel should be greater than or equal to 100");
1893    xConfirmPara( m_nominalBlackLevelLumaCodeValue >= m_nominalWhiteLevelLumaCodeValue, "SEIToneMapNominalWhiteLevelLumaCodeValue shall be greater than SEIToneMapNominalBlackLevelLumaCodeValue");
1894    xConfirmPara( m_extendedWhiteLevelLumaCodeValue < m_nominalWhiteLevelLumaCodeValue, "SEIToneMapExtendedWhiteLevelLumaCodeValue shall be greater than or equal to SEIToneMapNominalWhiteLevelLumaCodeValue");
1895  }
1896#endif
1897
1898#if RATE_CONTROL_LAMBDA_DOMAIN
1899  if ( m_RCEnableRateControl )
1900  {
1901    if ( m_RCForceIntraQP )
1902    {
1903      if ( m_RCInitialQP == 0 )
1904      {
1905        printf( "\nInitial QP for rate control is not specified. Reset not to use force intra QP!" );
1906        m_RCForceIntraQP = false;
1907      }
1908    }
1909    xConfirmPara( m_uiDeltaQpRD > 0, "Rate control cannot be used together with slice level multiple-QP optimization!\n" );
1910  }
1911#else
1912  if(m_enableRateCtrl)
1913  {
1914    Int numLCUInWidth  = (m_iSourceWidth  / m_uiMaxCUWidth) + (( m_iSourceWidth  %  m_uiMaxCUWidth ) ? 1 : 0);
1915    Int numLCUInHeight = (m_iSourceHeight / m_uiMaxCUHeight)+ (( m_iSourceHeight %  m_uiMaxCUHeight) ? 1 : 0);
1916    Int numLCUInPic    =  numLCUInWidth * numLCUInHeight;
1917
1918    xConfirmPara( (numLCUInPic % m_numLCUInUnit) != 0, "total number of LCUs in a frame should be completely divided by NumLCUInUnit" );
1919
1920    m_iMaxDeltaQP       = MAX_DELTA_QP;
1921    m_iMaxCuDQPDepth    = MAX_CUDQP_DEPTH;
1922  }
1923#endif
1924
1925  xConfirmPara(!m_TransquantBypassEnableFlag && m_CUTransquantBypassFlagValue, "CUTransquantBypassFlagValue cannot be 1 when TransquantBypassEnableFlag is 0");
1926
1927  xConfirmPara(m_log2ParallelMergeLevel < 2, "Log2ParallelMergeLevel should be larger than or equal to 2");
1928#if L0444_FPA_TYPE
1929  if (m_framePackingSEIEnabled)
1930  {
1931    xConfirmPara(m_framePackingSEIType < 3 || m_framePackingSEIType > 5 , "SEIFramePackingType must be in rage 3 to 5");
1932  }
1933#endif
1934#if H_MV
1935  }
1936  }
1937#endif
1938
1939#undef xConfirmPara
1940  if (check_failed)
1941  {
1942    exit(EXIT_FAILURE);
1943  }
1944}
1945
1946/** \todo use of global variables should be removed later
1947 */
1948Void TAppEncCfg::xSetGlobal()
1949{
1950  // set max CU width & height
1951  g_uiMaxCUWidth  = m_uiMaxCUWidth;
1952  g_uiMaxCUHeight = m_uiMaxCUHeight;
1953 
1954  // compute actual CU depth with respect to config depth and max transform size
1955  g_uiAddCUDepth  = 0;
1956  while( (m_uiMaxCUWidth>>m_uiMaxCUDepth) > ( 1 << ( m_uiQuadtreeTULog2MinSize + g_uiAddCUDepth )  ) ) g_uiAddCUDepth++;
1957 
1958  m_uiMaxCUDepth += g_uiAddCUDepth;
1959  g_uiAddCUDepth++;
1960  g_uiMaxCUDepth = m_uiMaxCUDepth;
1961 
1962  // set internal bit-depth and constants
1963  g_bitDepthY = m_internalBitDepthY;
1964  g_bitDepthC = m_internalBitDepthC;
1965 
1966  g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_inputBitDepthY : m_internalBitDepthY;
1967  g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_inputBitDepthC : m_internalBitDepthC;
1968}
1969
1970Void TAppEncCfg::xPrintParameter()
1971{
1972  printf("\n");
1973#if H_MV
1974  for( Int layer = 0; layer < m_numberOfLayers; layer++)
1975  {
1976    printf("Input File %i                 : %s\n", layer, m_pchInputFileList[layer]);
1977  }
1978#else
1979  printf("Input          File          : %s\n", m_pchInputFile          );
1980#endif
1981  printf("Bitstream      File          : %s\n", m_pchBitstreamFile      );
1982#if H_MV
1983  for( Int layer = 0; layer < m_numberOfLayers; layer++)
1984  {
1985    printf("Reconstruction File %i        : %s\n", layer, m_pchReconFileList[layer]);
1986  }
1987#else
1988  printf("Reconstruction File          : %s\n", m_pchReconFile          );
1989#endif
1990#if H_MV
1991 xPrintParaVector( "ViewId", m_viewId ); 
1992#endif
1993#if H_3D
1994 xPrintParaVector( "DepthFlag", m_depthFlag ); 
1995#endif
1996#if H_MV 
1997  xPrintParaVector( "QP"               , m_fQP                ); 
1998  xPrintParaVector( "LoopFilterDisable", m_bLoopFilterDisable ); 
1999  xPrintParaVector( "SAO"              , m_bUseSAO            ); 
2000#endif
2001  printf("Real     Format              : %dx%d %dHz\n", m_iSourceWidth - m_confLeft - m_confRight, m_iSourceHeight - m_confTop - m_confBottom, m_iFrameRate );
2002  printf("Internal Format              : %dx%d %dHz\n", m_iSourceWidth, m_iSourceHeight, m_iFrameRate );
2003  printf("Frame index                  : %u - %d (%d frames)\n", m_FrameSkip, m_FrameSkip+m_framesToBeEncoded-1, m_framesToBeEncoded );
2004  printf("CU size / depth              : %d / %d\n", m_uiMaxCUWidth, m_uiMaxCUDepth );
2005  printf("RQT trans. size (min / max)  : %d / %d\n", 1 << m_uiQuadtreeTULog2MinSize, 1 << m_uiQuadtreeTULog2MaxSize );
2006  printf("Max RQT depth inter          : %d\n", m_uiQuadtreeTUMaxDepthInter);
2007  printf("Max RQT depth intra          : %d\n", m_uiQuadtreeTUMaxDepthIntra);
2008  printf("Min PCM size                 : %d\n", 1 << m_uiPCMLog2MinSize);
2009  printf("Motion search range          : %d\n", m_iSearchRange );
2010  printf("Intra period                 : %d\n", m_iIntraPeriod );
2011  printf("Decoding refresh type        : %d\n", m_iDecodingRefreshType );
2012#if !H_MV
2013  printf("QP                           : %5.2f\n", m_fQP );
2014#endif
2015  printf("Max dQP signaling depth      : %d\n", m_iMaxCuDQPDepth);
2016
2017  printf("Cb QP Offset                 : %d\n", m_cbQpOffset   );
2018  printf("Cr QP Offset                 : %d\n", m_crQpOffset);
2019
2020  printf("QP adaptation                : %d (range=%d)\n", m_bUseAdaptiveQP, (m_bUseAdaptiveQP ? m_iQPAdaptationRange : 0) );
2021  printf("GOP size                     : %d\n", m_iGOPSize );
2022  printf("Internal bit depth           : (Y:%d, C:%d)\n", m_internalBitDepthY, m_internalBitDepthC );
2023  printf("PCM sample bit depth         : (Y:%d, C:%d)\n", g_uiPCMBitDepthLuma, g_uiPCMBitDepthChroma );
2024#if RATE_CONTROL_LAMBDA_DOMAIN
2025  printf("RateControl                  : %d\n", m_RCEnableRateControl );
2026  if(m_RCEnableRateControl)
2027  {
2028    printf("TargetBitrate                : %d\n", m_RCTargetBitrate );
2029    printf("KeepHierarchicalBit          : %d\n", m_RCKeepHierarchicalBit );
2030    printf("LCULevelRC                   : %d\n", m_RCLCULevelRC );
2031    printf("UseLCUSeparateModel          : %d\n", m_RCUseLCUSeparateModel );
2032    printf("InitialQP                    : %d\n", m_RCInitialQP );
2033    printf("ForceIntraQP                 : %d\n", m_RCForceIntraQP );
2034  }
2035#else
2036  printf("RateControl                  : %d\n", m_enableRateCtrl);
2037  if(m_enableRateCtrl)
2038  {
2039    printf("TargetBitrate                : %d\n", m_targetBitrate);
2040    printf("NumLCUInUnit                 : %d\n", m_numLCUInUnit);
2041  }
2042#endif
2043  printf("Max Num Merge Candidates     : %d\n", m_maxNumMergeCand);
2044  printf("\n");
2045 
2046  printf("TOOL CFG: ");
2047  printf("IBD:%d ", g_bitDepthY > m_inputBitDepthY || g_bitDepthC > m_inputBitDepthC);
2048  printf("HAD:%d ", m_bUseHADME           );
2049  printf("SRD:%d ", m_bUseSBACRD          );
2050  printf("RDQ:%d ", m_useRDOQ            );
2051  printf("RDQTS:%d ", m_useRDOQTS        );
2052#if L0232_RD_PENALTY
2053  printf("RDpenalty:%d ", m_rdPenalty  );
2054#endif
2055  printf("SQP:%d ", m_uiDeltaQpRD         );
2056  printf("ASR:%d ", m_bUseASR             );
2057#if !L0034_COMBINED_LIST_CLEANUP
2058  printf("LComb:%d ", m_bUseLComb         );
2059#endif
2060  printf("FEN:%d ", m_bUseFastEnc         );
2061  printf("ECU:%d ", m_bUseEarlyCU         );
2062  printf("FDM:%d ", m_useFastDecisionForMerge );
2063  printf("CFM:%d ", m_bUseCbfFastMode         );
2064  printf("ESD:%d ", m_useEarlySkipDetection  );
2065  printf("RQT:%d ", 1     );
2066  printf("TransformSkip:%d ",     m_useTransformSkip              );
2067  printf("TransformSkipFast:%d ", m_useTransformSkipFast       );
2068  printf("Slice: M=%d ", m_sliceMode);
2069  if (m_sliceMode!=0)
2070  {
2071    printf("A=%d ", m_sliceArgument);
2072  }
2073  printf("SliceSegment: M=%d ",m_sliceSegmentMode);
2074  if (m_sliceSegmentMode!=0)
2075  {
2076    printf("A=%d ", m_sliceSegmentArgument);
2077  }
2078  printf("CIP:%d ", m_bUseConstrainedIntraPred);
2079#if !H_MV
2080  printf("SAO:%d ", (m_bUseSAO)?(1):(0));
2081#endif
2082  printf("PCM:%d ", (m_usePCM && (1<<m_uiPCMLog2MinSize) <= m_uiMaxCUWidth)? 1 : 0);
2083  printf("SAOLcuBasedOptimization:%d ", (m_saoLcuBasedOptimization)?(1):(0));
2084
2085  printf("LosslessCuEnabled:%d ", (m_useLossless)? 1:0 );
2086  printf("WPP:%d ", (Int)m_useWeightedPred);
2087  printf("WPB:%d ", (Int)m_useWeightedBiPred);
2088  printf("PME:%d ", m_log2ParallelMergeLevel);
2089  printf(" WaveFrontSynchro:%d WaveFrontSubstreams:%d",
2090          m_iWaveFrontSynchro, m_iWaveFrontSubstreams);
2091  printf(" ScalingList:%d ", m_useScalingListId );
2092  printf("TMVPMode:%d ", m_TMVPModeId     );
2093#if ADAPTIVE_QP_SELECTION
2094  printf("AQpS:%d", m_bUseAdaptQpSelect   );
2095#endif
2096
2097  printf(" SignBitHidingFlag:%d ", m_signHideFlag);
2098  printf("RecalQP:%d", m_recalculateQPAccordingToLambda ? 1 : 0 );
2099  printf("\n\n");
2100 
2101  fflush(stdout);
2102}
2103
2104Bool confirmPara(Bool bflag, const Char* message)
2105{
2106  if (!bflag)
2107    return false;
2108 
2109  printf("Error: %s\n",message);
2110  return true;
2111}
2112
2113//! \}
Note: See TracBrowser for help on using the repository browser.