source: 3DVCSoftware/branches/HTM-DEV-0.1-dev/source/App/TAppEncoder/TAppEncCfg.cpp @ 364

Last change on this file since 364 was 364, checked in by tech, 11 years ago

Further cleanups

  • Property svn:eol-style set to native
File size: 97.2 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TAppEncCfg.cpp
35    \brief    Handle encoder configuration parameters
36*/
37
38#include <stdlib.h>
39#include <cassert>
40#include <cstring>
41#include <string>
42#include "TLibCommon/TComRom.h"
43#include "TAppEncCfg.h"
44
45static istream& operator>>(istream &, Level::Name &);
46static istream& operator>>(istream &, Level::Tier &);
47static istream& operator>>(istream &, Profile::Name &);
48
49#include "TAppCommon/program_options_lite.h"
50#include "TLibEncoder/TEncRateCtrl.h"
51#ifdef WIN32
52#define strdup _strdup
53#endif
54
55using namespace std;
56namespace po = df::program_options_lite;
57
58//! \ingroup TAppEncoder
59//! \{
60
61// ====================================================================================================================
62// Constructor / destructor / initialization / destroy
63// ====================================================================================================================
64
65TAppEncCfg::TAppEncCfg()
66#if H_MV
67: m_pchBitstreamFile()
68#else
69: m_pchInputFile()
70, m_pchBitstreamFile()
71, m_pchReconFile()
72#endif
73, m_pchdQPFile()
74, m_pColumnWidth()
75, m_pRowHeight()
76, m_scalingListFile()
77{
78#if !H_MV
79  m_aidQP = NULL;
80#endif
81#if J0149_TONE_MAPPING_SEI
82  m_startOfCodedInterval = NULL;
83  m_codedPivotValue = NULL;
84  m_targetPivotValue = NULL;
85#endif
86}
87
88TAppEncCfg::~TAppEncCfg()
89{
90#if H_MV
91  for( Int layer = 0; layer < m_aidQP.size(); layer++ )
92  {
93    if ( m_aidQP[layer] != NULL )
94    {
95      delete[] m_aidQP[layer];
96      m_aidQP[layer] = NULL;
97    }
98  }
99  for(Int i = 0; i< m_pchInputFileList.size(); i++ )
100  {
101    if ( m_pchInputFileList[i] != NULL )
102      free (m_pchInputFileList[i]);
103  }
104#else
105  if ( m_aidQP )
106  {
107    delete[] m_aidQP;
108  }
109#endif
110#if J0149_TONE_MAPPING_SEI
111  if ( m_startOfCodedInterval )
112  {
113    delete[] m_startOfCodedInterval;
114    m_startOfCodedInterval = NULL;
115  }
116   if ( m_codedPivotValue )
117  {
118    delete[] m_codedPivotValue;
119    m_codedPivotValue = NULL;
120  }
121  if ( m_targetPivotValue )
122  {
123    delete[] m_targetPivotValue;
124    m_targetPivotValue = NULL;
125  }
126#endif
127#if !H_MV
128  free(m_pchInputFile);
129#endif
130  free(m_pchBitstreamFile);
131#if H_MV
132  for(Int i = 0; i< m_pchReconFileList.size(); i++ )
133  {
134    if ( m_pchReconFileList[i] != NULL )
135      free (m_pchReconFileList[i]);
136  }
137#else
138  free(m_pchReconFile);
139#endif
140  free(m_pchdQPFile);
141  free(m_pColumnWidth);
142  free(m_pRowHeight);
143  free(m_scalingListFile);
144
145#if H_MV
146  for( Int i = 0; i < m_GOPListMvc.size(); i++ )
147  {
148    if( m_GOPListMvc[i] )
149    {
150      delete[] m_GOPListMvc[i];
151      m_GOPListMvc[i] = NULL;
152    }
153  }
154#endif
155}
156
157Void TAppEncCfg::create()
158{
159}
160
161Void TAppEncCfg::destroy()
162{
163}
164
165std::istringstream &operator>>(std::istringstream &in, GOPEntry &entry)     //input
166{
167  in>>entry.m_sliceType;
168  in>>entry.m_POC;
169  in>>entry.m_QPOffset;
170  in>>entry.m_QPFactor;
171  in>>entry.m_tcOffsetDiv2;
172  in>>entry.m_betaOffsetDiv2;
173  in>>entry.m_temporalId;
174  in>>entry.m_numRefPicsActive;
175  in>>entry.m_numRefPics;
176  for ( Int i = 0; i < entry.m_numRefPics; i++ )
177  {
178    in>>entry.m_referencePics[i];
179  }
180  in>>entry.m_interRPSPrediction;
181#if AUTO_INTER_RPS
182  if (entry.m_interRPSPrediction==1)
183  {
184    in>>entry.m_deltaRPS;
185    in>>entry.m_numRefIdc;
186    for ( Int i = 0; i < entry.m_numRefIdc; i++ )
187    {
188      in>>entry.m_refIdc[i];
189    }
190  }
191  else if (entry.m_interRPSPrediction==2)
192  {
193    in>>entry.m_deltaRPS;
194  }
195#else
196  if (entry.m_interRPSPrediction)
197  {
198    in>>entry.m_deltaRPS;
199    in>>entry.m_numRefIdc;
200    for ( Int i = 0; i < entry.m_numRefIdc; i++ )
201    {
202      in>>entry.m_refIdc[i];
203    }
204  }
205#endif
206#if H_MV
207  in>>entry.m_numInterViewRefPics;
208  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
209  {
210    in>>entry.m_interViewRefs[i];
211  }
212  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
213  {
214    in>>entry.m_interViewRefPosL[0][i];
215  }
216  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
217  {
218    in>>entry.m_interViewRefPosL[1][i];
219  }
220#endif
221  return in;
222}
223
224static const struct MapStrToProfile {
225  const Char* str;
226  Profile::Name value;
227} strToProfile[] = {
228  {"none", Profile::NONE},
229  {"main", Profile::MAIN},
230  {"main10", Profile::MAIN10},
231  {"main-still-picture", Profile::MAINSTILLPICTURE},
232#if H_MV
233  {"main-stereo",    Profile::MAINSTEREO},
234  {"main-multiview", Profile::MAINMULTIVIEW},
235#if H_3D
236  {"main-3d"    , Profile::MAIN3D},
237#endif
238#endif
239};
240
241static const struct MapStrToTier {
242  const Char* str;
243  Level::Tier value;
244} strToTier[] = {
245  {"main", Level::MAIN},
246  {"high", Level::HIGH},
247};
248
249static const struct MapStrToLevel {
250  const Char* str;
251  Level::Name value;
252} strToLevel[] = {
253  {"none",Level::NONE},
254  {"1",   Level::LEVEL1},
255  {"2",   Level::LEVEL2},
256  {"2.1", Level::LEVEL2_1},
257  {"3",   Level::LEVEL3},
258  {"3.1", Level::LEVEL3_1},
259  {"4",   Level::LEVEL4},
260  {"4.1", Level::LEVEL4_1},
261  {"5",   Level::LEVEL5},
262  {"5.1", Level::LEVEL5_1},
263  {"5.2", Level::LEVEL5_2},
264  {"6",   Level::LEVEL6},
265  {"6.1", Level::LEVEL6_1},
266  {"6.2", Level::LEVEL6_2},
267};
268
269template<typename T, typename P>
270static istream& readStrToEnum(P map[], unsigned long mapLen, istream &in, T &val)
271{
272  string str;
273  in >> str;
274
275  for (Int i = 0; i < mapLen; i++)
276  {
277    if (str == map[i].str)
278    {
279      val = map[i].value;
280      goto found;
281    }
282  }
283  /* not found */
284  in.setstate(ios::failbit);
285found:
286  return in;
287}
288
289static istream& operator>>(istream &in, Profile::Name &profile)
290{
291  return readStrToEnum(strToProfile, sizeof(strToProfile)/sizeof(*strToProfile), in, profile);
292}
293
294static istream& operator>>(istream &in, Level::Tier &tier)
295{
296  return readStrToEnum(strToTier, sizeof(strToTier)/sizeof(*strToTier), in, tier);
297}
298
299static istream& operator>>(istream &in, Level::Name &level)
300{
301  return readStrToEnum(strToLevel, sizeof(strToLevel)/sizeof(*strToLevel), in, level);
302}
303
304#if SIGNAL_BITRATE_PICRATE_IN_VPS
305Void readBoolString(const string inpString, const Int numEntries, Bool* &memberArray, const char *elementName);
306Void readIntString(const string inpString, const Int numEntries, Int* &memberArray, const char *elementName);
307#endif
308// ====================================================================================================================
309// Public member functions
310// ====================================================================================================================
311
312/** \param  argc        number of arguments
313    \param  argv        array of arguments
314    \retval             true when success
315 */
316Bool TAppEncCfg::parseCfg( Int argc, Char* argv[] )
317{
318  Bool do_help = false;
319 
320#if !H_MV
321  string cfg_InputFile;
322#endif
323
324  string cfg_BitstreamFile;
325
326#if !H_MV
327  string cfg_ReconFile;
328#endif
329
330#if H_MV
331  vector<Int>   cfg_dimensionLength; 
332#if H_3D
333  cfg_dimensionLength.push_back( 2  );  // depth
334  cfg_dimensionLength.push_back( 32 );  // texture
335#else
336  cfg_dimensionLength.push_back( 64 ); 
337#endif
338#endif
339  string cfg_dQPFile;
340  string cfg_ColumnWidth;
341  string cfg_RowHeight;
342  string cfg_ScalingListFile;
343#if J0149_TONE_MAPPING_SEI
344  string cfg_startOfCodedInterval;
345  string cfg_codedPivotValue;
346  string cfg_targetPivotValue;
347#endif
348#if SIGNAL_BITRATE_PICRATE_IN_VPS
349  string cfg_bitRateInfoPresentFlag;
350  string cfg_picRateInfoPresentFlag;
351  string cfg_avgBitRate;
352  string cfg_maxBitRate;
353  string cfg_avgPicRate;
354  string cfg_constantPicRateIdc;
355#endif
356  po::Options opts;
357  opts.addOptions()
358  ("help", do_help, false, "this help text")
359  ("c", po::parseConfigFile, "configuration file name")
360 
361  // File, I/O and source parameters
362#if H_MV
363  ("InputFile_%d,i_%d",       m_pchInputFileList,       (char *) 0 , MAX_NUM_LAYER_IDS , "original Yuv input file name %d")
364#else
365  ("InputFile,i",           cfg_InputFile,     string(""), "Original YUV input file name")
366#endif
367  ("BitstreamFile,b",       cfg_BitstreamFile, string(""), "Bitstream output file name")
368#if H_MV
369  ("ReconFile_%d,o_%d",       m_pchReconFileList,       (char *) 0 , MAX_NUM_LAYER_IDS , "reconstructed Yuv output file name %d")
370#else
371  ("ReconFile,o",           cfg_ReconFile,     string(""), "Reconstructed YUV output file name")
372#endif
373#if H_MV
374  ("NumberOfLayers",        m_numberOfLayers     , 1,                     "Number of layers")
375#if !H_3D
376  ("ScalabilityMask",       m_scalabilityMask    , 1                    , "Scalability Mask")   
377#else
378  ("ScalabilityMask",       m_scalabilityMask    , 3                    , "Scalability Mask, 1: Texture 3: Texture + Depth ")   
379#endif 
380  ("DimensionIdLen",        m_dimensionIdLen     , cfg_dimensionLength  , "Number of bits used to store dimensions Id")
381  ("ViewId",                m_viewId             , std::vector<Int>(1,0), "View Id")
382#if H_3D
383  ("DepthFlag",             m_depthFlag          , std::vector<Int>(1,0), "Depth Flag")
384#endif
385  ("LayerIdInNuh",          m_layerIdInNuh       , std::vector<Int>(1,0), "LayerId in Nuh")
386  ("SplittingFlag",         m_splittingFlag      , false                , "Splitting Flag")   
387#endif
388
389  ("SourceWidth,-wdt",      m_iSourceWidth,        0, "Source picture width")
390  ("SourceHeight,-hgt",     m_iSourceHeight,       0, "Source picture height")
391  ("InputBitDepth",         m_inputBitDepthY,    8, "Bit-depth of input file")
392  ("OutputBitDepth",        m_outputBitDepthY,   0, "Bit-depth of output file (default:InternalBitDepth)")
393  ("InternalBitDepth",      m_internalBitDepthY, 0, "Bit-depth the codec operates at. (default:InputBitDepth)"
394                                                       "If different to InputBitDepth, source data will be converted")
395  ("InputBitDepthC",        m_inputBitDepthC,    0, "As per InputBitDepth but for chroma component. (default:InputBitDepth)")
396  ("OutputBitDepthC",       m_outputBitDepthC,   0, "As per OutputBitDepth but for chroma component. (default:InternalBitDepthC)")
397  ("InternalBitDepthC",     m_internalBitDepthC, 0, "As per InternalBitDepth but for chroma component. (default:IntrenalBitDepth)")
398  ("ConformanceMode",       m_conformanceMode,     0, "Window conformance mode (0: no window, 1:automatic padding, 2:padding, 3:conformance")
399  ("HorizontalPadding,-pdx",m_aiPad[0],            0, "Horizontal source padding for conformance window mode 2")
400  ("VerticalPadding,-pdy",  m_aiPad[1],            0, "Vertical source padding for conformance window mode 2")
401  ("ConfLeft",              m_confLeft,            0, "Left offset for window conformance mode 3")
402  ("ConfRight",             m_confRight,           0, "Right offset for window conformance mode 3")
403  ("ConfTop",               m_confTop,             0, "Top offset for window conformance mode 3")
404  ("ConfBottom",            m_confBottom,          0, "Bottom offset for window conformance mode 3")
405  ("FrameRate,-fr",         m_iFrameRate,          0, "Frame rate")
406  ("FrameSkip,-fs",         m_FrameSkip,          0u, "Number of frames to skip at start of input YUV")
407  ("FramesToBeEncoded,f",   m_framesToBeEncoded,   0, "Number of frames to be encoded (default=all)")
408
409  // Profile and level
410  ("Profile", m_profile,   Profile::NONE, "Profile to be used when encoding (Incomplete)")
411  ("Level",   m_level,     Level::NONE,   "Level limit to be used, eg 5.1 (Incomplete)")
412  ("Tier",    m_levelTier, Level::MAIN,   "Tier to use for interpretation of --Level")
413
414#if L0046_CONSTRAINT_FLAGS
415  ("ProgressiveSource", m_progressiveSourceFlag, false, "Indicate that source is progressive")
416  ("InterlacedSource",  m_interlacedSourceFlag,  false, "Indicate that source is interlaced")
417  ("NonPackedSource",   m_nonPackedConstraintFlag, false, "Indicate that source does not contain frame packing")
418  ("FrameOnly",         m_frameOnlyConstraintFlag, false, "Indicate that the bitstream contains only frames")
419#endif
420 
421  // Unit definition parameters
422  ("MaxCUWidth",              m_uiMaxCUWidth,             64u)
423  ("MaxCUHeight",             m_uiMaxCUHeight,            64u)
424  // todo: remove defaults from MaxCUSize
425  ("MaxCUSize,s",             m_uiMaxCUWidth,             64u, "Maximum CU size")
426  ("MaxCUSize,s",             m_uiMaxCUHeight,            64u, "Maximum CU size")
427  ("MaxPartitionDepth,h",     m_uiMaxCUDepth,              4u, "CU depth")
428 
429  ("QuadtreeTULog2MaxSize",   m_uiQuadtreeTULog2MaxSize,   6u, "Maximum TU size in logarithm base 2")
430  ("QuadtreeTULog2MinSize",   m_uiQuadtreeTULog2MinSize,   2u, "Minimum TU size in logarithm base 2")
431 
432  ("QuadtreeTUMaxDepthIntra", m_uiQuadtreeTUMaxDepthIntra, 1u, "Depth of TU tree for intra CUs")
433  ("QuadtreeTUMaxDepthInter", m_uiQuadtreeTUMaxDepthInter, 2u, "Depth of TU tree for inter CUs")
434 
435  // Coding structure paramters
436  ("IntraPeriod,-ip",         m_iIntraPeriod,              -1, "Intra period in frames, (-1: only first frame)")
437  ("DecodingRefreshType,-dr", m_iDecodingRefreshType,       0, "Intra refresh type (0:none 1:CRA 2:IDR)")
438  ("GOPSize,g",               m_iGOPSize,                   1, "GOP size of temporal structure")
439#if !L0034_COMBINED_LIST_CLEANUP
440  ("ListCombination,-lc",     m_bUseLComb,               true, "Combined reference list for uni-prediction estimation in B-slices")
441#endif
442  // motion options
443  ("FastSearch",              m_iFastSearch,                1, "0:Full search  1:Diamond  2:PMVFAST")
444  ("SearchRange,-sr",         m_iSearchRange,              96, "Motion search range")
445  ("BipredSearchRange",       m_bipredSearchRange,          4, "Motion search range for bipred refinement")
446  ("HadamardME",              m_bUseHADME,               true, "Hadamard ME for fractional-pel")
447  ("ASR",                     m_bUseASR,                false, "Adaptive motion search range")
448
449  // Mode decision parameters
450  ("LambdaModifier0,-LM0", m_adLambdaModifier[ 0 ], ( Double )1.0, "Lambda modifier for temporal layer 0")
451  ("LambdaModifier1,-LM1", m_adLambdaModifier[ 1 ], ( Double )1.0, "Lambda modifier for temporal layer 1")
452  ("LambdaModifier2,-LM2", m_adLambdaModifier[ 2 ], ( Double )1.0, "Lambda modifier for temporal layer 2")
453  ("LambdaModifier3,-LM3", m_adLambdaModifier[ 3 ], ( Double )1.0, "Lambda modifier for temporal layer 3")
454  ("LambdaModifier4,-LM4", m_adLambdaModifier[ 4 ], ( Double )1.0, "Lambda modifier for temporal layer 4")
455  ("LambdaModifier5,-LM5", m_adLambdaModifier[ 5 ], ( Double )1.0, "Lambda modifier for temporal layer 5")
456  ("LambdaModifier6,-LM6", m_adLambdaModifier[ 6 ], ( Double )1.0, "Lambda modifier for temporal layer 6")
457  ("LambdaModifier7,-LM7", m_adLambdaModifier[ 7 ], ( Double )1.0, "Lambda modifier for temporal layer 7")
458
459  /* Quantization parameters */
460#if H_MV
461  ("QP,q",          m_fQP, std::vector<double>(1,30.0), "Qp values for each layer, if value is float, QP is switched once during encoding")
462#else
463  ("QP,q",          m_fQP,             30.0, "Qp value, if value is float, QP is switched once during encoding")
464#endif
465  ("DeltaQpRD,-dqr",m_uiDeltaQpRD,       0u, "max dQp offset for slice")
466  ("MaxDeltaQP,d",  m_iMaxDeltaQP,        0, "max dQp offset for block")
467  ("MaxCuDQPDepth,-dqd",  m_iMaxCuDQPDepth,        0, "max depth for a minimum CuDQP")
468
469  ("CbQpOffset,-cbqpofs",  m_cbQpOffset,        0, "Chroma Cb QP Offset")
470  ("CrQpOffset,-crqpofs",  m_crQpOffset,        0, "Chroma Cr QP Offset")
471
472#if ADAPTIVE_QP_SELECTION
473  ("AdaptiveQpSelection,-aqps",   m_bUseAdaptQpSelect,           false, "AdaptiveQpSelection")
474#endif
475
476  ("AdaptiveQP,-aq",                m_bUseAdaptiveQP,           false, "QP adaptation based on a psycho-visual model")
477  ("MaxQPAdaptationRange,-aqr",     m_iQPAdaptationRange,           6, "QP adaptation range")
478  ("dQPFile,m",                     cfg_dQPFile,           string(""), "dQP file name")
479  ("RDOQ",                          m_useRDOQ,                  true )
480  ("RDOQTS",                        m_useRDOQTS,                true )
481#if L0232_RD_PENALTY
482  ("RDpenalty",                     m_rdPenalty,                0,  "RD-penalty for 32x32 TU for intra in non-intra slices. 0:disbaled  1:RD-penalty  2:maximum RD-penalty")
483#endif
484  // Entropy coding parameters
485  ("SBACRD",                         m_bUseSBACRD,                      true, "SBAC based RD estimation")
486 
487  // Deblocking filter parameters
488#if H_MV
489  ("LoopFilterDisable",              m_bLoopFilterDisable,             std::vector<Bool>(1,false), "Disable Loop Filter per Layer" )
490#else
491  ("LoopFilterDisable",              m_bLoopFilterDisable,             false )
492#endif
493  ("LoopFilterOffsetInPPS",          m_loopFilterOffsetInPPS,          false )
494  ("LoopFilterBetaOffset_div2",      m_loopFilterBetaOffsetDiv2,           0 )
495  ("LoopFilterTcOffset_div2",        m_loopFilterTcOffsetDiv2,             0 )
496  ("DeblockingFilterControlPresent", m_DeblockingFilterControlPresent, false )
497#if L0386_DB_METRIC
498  ("DeblockingFilterMetric",         m_DeblockingFilterMetric,         false )
499#endif
500
501  // Coding tools
502  ("AMP",                      m_enableAMP,                 true,  "Enable asymmetric motion partitions")
503  ("TransformSkip",            m_useTransformSkip,          false, "Intra transform skipping")
504  ("TransformSkipFast",        m_useTransformSkipFast,      false, "Fast intra transform skipping")
505#if H_MV
506  ("SAO",                      m_bUseSAO, std::vector<Bool>(1,true), "Enable Sample Adaptive Offset per Layer")
507#else
508  ("SAO",                      m_bUseSAO,                   true,  "Enable Sample Adaptive Offset")
509#endif
510  ("MaxNumOffsetsPerPic",      m_maxNumOffsetsPerPic,       2048,  "Max number of SAO offset per picture (Default: 2048)")   
511  ("SAOLcuBoundary",           m_saoLcuBoundary,            false, "0: right/bottom LCU boundary areas skipped from SAO parameter estimation, 1: non-deblocked pixels are used for those areas")
512  ("SAOLcuBasedOptimization",  m_saoLcuBasedOptimization,   true,  "0: SAO picture-based optimization, 1: SAO LCU-based optimization ")
513  ("SliceMode",                m_sliceMode,                0,     "0: Disable all Recon slice limits, 1: Enforce max # of LCUs, 2: Enforce max # of bytes, 3:specify tiles per dependent slice")
514  ("SliceArgument",            m_sliceArgument,            0,     "Depending on SliceMode being:"
515                                                                   "\t1: max number of CTUs per slice"
516                                                                   "\t2: max number of bytes per slice"
517                                                                   "\t3: max number of tiles per slice")
518  ("SliceSegmentMode",         m_sliceSegmentMode,       0,     "0: Disable all slice segment limits, 1: Enforce max # of LCUs, 2: Enforce max # of bytes, 3:specify tiles per dependent slice")
519  ("SliceSegmentArgument",     m_sliceSegmentArgument,   0,     "Depending on SliceSegmentMode being:"
520                                                                   "\t1: max number of CTUs per slice segment"
521                                                                   "\t2: max number of bytes per slice segment"
522                                                                   "\t3: max number of tiles per slice segment")
523  ("LFCrossSliceBoundaryFlag", m_bLFCrossSliceBoundaryFlag, true)
524
525  ("ConstrainedIntraPred",     m_bUseConstrainedIntraPred,  false, "Constrained Intra Prediction")
526
527  ("PCMEnabledFlag",           m_usePCM,                    false)
528  ("PCMLog2MaxSize",           m_pcmLog2MaxSize,            5u)
529  ("PCMLog2MinSize",           m_uiPCMLog2MinSize,          3u)
530  ("PCMInputBitDepthFlag",     m_bPCMInputBitDepthFlag,     true)
531  ("PCMFilterDisableFlag",     m_bPCMFilterDisableFlag,    false)
532
533  ("LosslessCuEnabled",        m_useLossless, false)
534
535  ("WeightedPredP,-wpP",          m_useWeightedPred,               false,      "Use weighted prediction in P slices")
536  ("WeightedPredB,-wpB",          m_useWeightedBiPred,             false,      "Use weighted (bidirectional) prediction in B slices")
537  ("Log2ParallelMergeLevel",      m_log2ParallelMergeLevel,     2u,          "Parallel merge estimation region")
538  ("UniformSpacingIdc",           m_iUniformSpacingIdr,            0,          "Indicates if the column and row boundaries are distributed uniformly")
539  ("NumTileColumnsMinus1",        m_iNumColumnsMinus1,             0,          "Number of columns in a picture minus 1")
540  ("ColumnWidthArray",            cfg_ColumnWidth,                 string(""), "Array containing ColumnWidth values in units of LCU")
541  ("NumTileRowsMinus1",           m_iNumRowsMinus1,                0,          "Number of rows in a picture minus 1")
542  ("RowHeightArray",              cfg_RowHeight,                   string(""), "Array containing RowHeight values in units of LCU")
543  ("LFCrossTileBoundaryFlag",      m_bLFCrossTileBoundaryFlag,             true,          "1: cross-tile-boundary loop filtering. 0:non-cross-tile-boundary loop filtering")
544  ("WaveFrontSynchro",            m_iWaveFrontSynchro,             0,          "0: no synchro; 1 synchro with TR; 2 TRR etc")
545  ("ScalingList",                 m_useScalingListId,              0,          "0: no scaling list, 1: default scaling lists, 2: scaling lists specified in ScalingListFile")
546  ("ScalingListFile",             cfg_ScalingListFile,             string(""), "Scaling list file name")
547  ("SignHideFlag,-SBH",                m_signHideFlag, 1)
548  ("MaxNumMergeCand",             m_maxNumMergeCand,             5u,         "Maximum number of merge candidates")
549
550  /* Misc. */
551  ("SEIDecodedPictureHash",       m_decodedPictureHashSEIEnabled, 0, "Control generation of decode picture hash SEI messages\n"
552                                                                    "\t3: checksum\n"
553                                                                    "\t2: CRC\n"
554                                                                    "\t1: use MD5\n"
555                                                                    "\t0: disable")
556  ("SEIpictureDigest",            m_decodedPictureHashSEIEnabled, 0, "deprecated alias for SEIDecodedPictureHash")
557  ("TMVPMode", m_TMVPModeId, 1, "TMVP mode 0: TMVP disable for all slices. 1: TMVP enable for all slices (default) 2: TMVP enable for certain slices only")
558  ("FEN", m_bUseFastEnc, false, "fast encoder setting")
559  ("ECU", m_bUseEarlyCU, false, "Early CU setting") 
560  ("FDM", m_useFastDecisionForMerge, true, "Fast decision for Merge RD Cost") 
561  ("CFM", m_bUseCbfFastMode, false, "Cbf fast mode setting")
562  ("ESD", m_useEarlySkipDetection, false, "Early SKIP detection setting")
563#if RATE_CONTROL_LAMBDA_DOMAIN
564  ( "RateControl",         m_RCEnableRateControl,   false, "Rate control: enable rate control" )
565  ( "TargetBitrate",       m_RCTargetBitrate,           0, "Rate control: target bitrate" )
566  ( "KeepHierarchicalBit", m_RCKeepHierarchicalBit, false, "Rate control: keep hierarchical bit allocation in rate control algorithm" )
567  ( "LCULevelRateControl", m_RCLCULevelRC,           true, "Rate control: true: LCU level RC; false: picture level RC" )
568  ( "RCLCUSeparateModel",  m_RCUseLCUSeparateModel,  true, "Rate control: use LCU level separate R-lambda model" )
569  ( "InitialQP",           m_RCInitialQP,               0, "Rate control: initial QP" )
570  ( "RCForceIntraQP",      m_RCForceIntraQP,        false, "Rate control: force intra QP to be equal to initial QP" )
571#else
572  ("RateCtrl,-rc", m_enableRateCtrl, false, "Rate control on/off")
573  ("TargetBitrate,-tbr", m_targetBitrate, 0, "Input target bitrate")
574  ("NumLCUInUnit,-nu", m_numLCUInUnit, 0, "Number of LCUs in an Unit")
575#endif
576
577  ("TransquantBypassEnableFlag", m_TransquantBypassEnableFlag, false, "transquant_bypass_enable_flag indicator in PPS")
578  ("CUTransquantBypassFlagValue", m_CUTransquantBypassFlagValue, false, "Fixed cu_transquant_bypass_flag value, when transquant_bypass_enable_flag is enabled")
579  ("RecalculateQPAccordingToLambda", m_recalculateQPAccordingToLambda, false, "Recalculate QP values according to lambda values. Do not suggest to be enabled in all intra case")
580  ("StrongIntraSmoothing,-sis",      m_useStrongIntraSmoothing,           true, "Enable strong intra smoothing for 32x32 blocks")
581  ("SEIActiveParameterSets",         m_activeParameterSetsSEIEnabled,          0, "Enable generation of active parameter sets SEI messages")
582  ("VuiParametersPresent,-vui",      m_vuiParametersPresentFlag,           false, "Enable generation of vui_parameters()")
583  ("AspectRatioInfoPresent",         m_aspectRatioInfoPresentFlag,         false, "Signals whether aspect_ratio_idc is present")
584  ("AspectRatioIdc",                 m_aspectRatioIdc,                         0, "aspect_ratio_idc")
585  ("SarWidth",                       m_sarWidth,                               0, "horizontal size of the sample aspect ratio")
586  ("SarHeight",                      m_sarHeight,                              0, "vertical size of the sample aspect ratio")
587  ("OverscanInfoPresent",            m_overscanInfoPresentFlag,            false, "Indicates whether conformant decoded pictures are suitable for display using overscan\n")
588  ("OverscanAppropriate",            m_overscanAppropriateFlag,            false, "Indicates whether conformant decoded pictures are suitable for display using overscan\n")
589  ("VideoSignalTypePresent",         m_videoSignalTypePresentFlag,         false, "Signals whether video_format, video_full_range_flag, and colour_description_present_flag are present")
590  ("VideoFormat",                    m_videoFormat,                            5, "Indicates representation of pictures")
591  ("VideoFullRange",                 m_videoFullRangeFlag,                 false, "Indicates the black level and range of luma and chroma signals")
592  ("ColourDescriptionPresent",       m_colourDescriptionPresentFlag,       false, "Signals whether colour_primaries, transfer_characteristics and matrix_coefficients are present")
593  ("ColourPrimaries",                m_colourPrimaries,                        2, "Indicates chromaticity coordinates of the source primaries")
594  ("TransferCharateristics",         m_transferCharacteristics,                2, "Indicates the opto-electronic transfer characteristics of the source")
595  ("MatrixCoefficients",             m_matrixCoefficients,                     2, "Describes the matrix coefficients used in deriving luma and chroma from RGB primaries")
596  ("ChromaLocInfoPresent",           m_chromaLocInfoPresentFlag,           false, "Signals whether chroma_sample_loc_type_top_field and chroma_sample_loc_type_bottom_field are present")
597  ("ChromaSampleLocTypeTopField",    m_chromaSampleLocTypeTopField,            0, "Specifies the location of chroma samples for top field")
598  ("ChromaSampleLocTypeBottomField", m_chromaSampleLocTypeBottomField,         0, "Specifies the location of chroma samples for bottom field")
599  ("NeutralChromaIndication",        m_neutralChromaIndicationFlag,        false, "Indicates that the value of all decoded chroma samples is equal to 1<<(BitDepthCr-1)")
600  ("DefaultDisplayWindowFlag",       m_defaultDisplayWindowFlag,           false, "Indicates the presence of the Default Window parameters")
601  ("DefDispWinLeftOffset",           m_defDispWinLeftOffset,                   0, "Specifies the left offset of the default display window from the conformance window")
602  ("DefDispWinRightOffset",          m_defDispWinRightOffset,                  0, "Specifies the right offset of the default display window from the conformance window")
603  ("DefDispWinTopOffset",            m_defDispWinTopOffset,                    0, "Specifies the top offset of the default display window from the conformance window")
604  ("DefDispWinBottomOffset",         m_defDispWinBottomOffset,                 0, "Specifies the bottom offset of the default display window from the conformance window")
605  ("FrameFieldInfoPresentFlag",      m_frameFieldInfoPresentFlag,               false, "Indicates that pic_struct and field coding related values are present in picture timing SEI messages")
606  ("PocProportionalToTimingFlag",   m_pocProportionalToTimingFlag,         false, "Indicates that the POC value is proportional to the output time w.r.t. first picture in CVS")
607  ("NumTicksPocDiffOneMinus1",      m_numTicksPocDiffOneMinus1,                0, "Number of ticks minus 1 that for a POC difference of one")
608  ("BitstreamRestriction",           m_bitstreamRestrictionFlag,           false, "Signals whether bitstream restriction parameters are present")
609  ("TilesFixedStructure",            m_tilesFixedStructureFlag,            false, "Indicates that each active picture parameter set has the same values of the syntax elements related to tiles")
610  ("MotionVectorsOverPicBoundaries", m_motionVectorsOverPicBoundariesFlag, false, "Indicates that no samples outside the picture boundaries are used for inter prediction")
611  ("MaxBytesPerPicDenom",            m_maxBytesPerPicDenom,                    2, "Indicates a number of bytes not exceeded by the sum of the sizes of the VCL NAL units associated with any coded picture")
612  ("MaxBitsPerMinCuDenom",           m_maxBitsPerMinCuDenom,                   1, "Indicates an upper bound for the number of bits of coding_unit() data")
613  ("Log2MaxMvLengthHorizontal",      m_log2MaxMvLengthHorizontal,             15, "Indicate the maximum absolute value of a decoded horizontal MV component in quarter-pel luma units")
614  ("Log2MaxMvLengthVertical",        m_log2MaxMvLengthVertical,               15, "Indicate the maximum absolute value of a decoded vertical MV component in quarter-pel luma units")
615  ("SEIRecoveryPoint",               m_recoveryPointSEIEnabled,                0, "Control generation of recovery point SEI messages")
616  ("SEIBufferingPeriod",             m_bufferingPeriodSEIEnabled,              0, "Control generation of buffering period SEI messages")
617  ("SEIPictureTiming",               m_pictureTimingSEIEnabled,                0, "Control generation of picture timing SEI messages")
618#if J0149_TONE_MAPPING_SEI
619  ("SEIToneMappingInfo",                       m_toneMappingInfoSEIEnabled,    false, "Control generation of Tone Mapping SEI messages")
620  ("SEIToneMapId",                             m_toneMapId,                        0, "Specifies Id of Tone Mapping SEI message for a given session")
621  ("SEIToneMapCancelFlag",                     m_toneMapCancelFlag,            false, "Indicates that Tone Mapping SEI message cancels the persistance or follows")
622  ("SEIToneMapPersistenceFlag",                m_toneMapPersistenceFlag,        true, "Specifies the persistence of the Tone Mapping SEI message")
623  ("SEIToneMapCodedDataBitDepth",              m_toneMapCodedDataBitDepth,         8, "Specifies Coded Data BitDepth of Tone Mapping SEI messages")
624  ("SEIToneMapTargetBitDepth",                 m_toneMapTargetBitDepth,            8, "Specifies Output BitDepth of Tome mapping function")
625  ("SEIToneMapModelId",                        m_toneMapModelId,                   0, "Specifies Model utilized for mapping coded data into target_bit_depth range\n"
626                                                                                      "\t0:  linear mapping with clipping\n"
627                                                                                      "\t1:  sigmoidal mapping\n"
628                                                                                      "\t2:  user-defined table mapping\n"
629                                                                                      "\t3:  piece-wise linear mapping\n"
630                                                                                      "\t4:  luminance dynamic range information ")
631  ("SEIToneMapMinValue",                              m_toneMapMinValue,                          0, "Specifies the minimum value in mode 0")
632  ("SEIToneMapMaxValue",                              m_toneMapMaxValue,                       1023, "Specifies the maxmum value in mode 0")
633  ("SEIToneMapSigmoidMidpoint",                       m_sigmoidMidpoint,                        512, "Specifies the centre point in mode 1")
634  ("SEIToneMapSigmoidWidth",                          m_sigmoidWidth,                           960, "Specifies the distance between 5% and 95% values of the target_bit_depth in mode 1")
635  ("SEIToneMapStartOfCodedInterval",                  cfg_startOfCodedInterval,          string(""), "Array of user-defined mapping table")
636  ("SEIToneMapNumPivots",                             m_numPivots,                                0, "Specifies the number of pivot points in mode 3")
637  ("SEIToneMapCodedPivotValue",                       cfg_codedPivotValue,               string(""), "Array of pivot point")
638  ("SEIToneMapTargetPivotValue",                      cfg_targetPivotValue,              string(""), "Array of pivot point")
639  ("SEIToneMapCameraIsoSpeedIdc",                     m_cameraIsoSpeedIdc,                        0, "Indicates the camera ISO speed for daylight illumination")
640  ("SEIToneMapCameraIsoSpeedValue",                   m_cameraIsoSpeedValue,                    400, "Specifies the camera ISO speed for daylight illumination of Extended_ISO")
641  ("SEIToneMapExposureCompensationValueSignFlag",     m_exposureCompensationValueSignFlag,        0, "Specifies the sign of ExposureCompensationValue")
642  ("SEIToneMapExposureCompensationValueNumerator",    m_exposureCompensationValueNumerator,       0, "Specifies the numerator of ExposureCompensationValue")
643  ("SEIToneMapExposureCompensationValueDenomIdc",     m_exposureCompensationValueDenomIdc,        2, "Specifies the denominator of ExposureCompensationValue")
644  ("SEIToneMapRefScreenLuminanceWhite",               m_refScreenLuminanceWhite,                350, "Specifies reference screen brightness setting in units of candela per square metre")
645  ("SEIToneMapExtendedRangeWhiteLevel",               m_extendedRangeWhiteLevel,                800, "Indicates the luminance dynamic range")
646  ("SEIToneMapNominalBlackLevelLumaCodeValue",        m_nominalBlackLevelLumaCodeValue,          16, "Specifies luma sample value of the nominal black level assigned decoded pictures")
647  ("SEIToneMapNominalWhiteLevelLumaCodeValue",        m_nominalWhiteLevelLumaCodeValue,         235, "Specifies luma sample value of the nominal white level assigned decoded pictures")
648  ("SEIToneMapExtendedWhiteLevelLumaCodeValue",       m_extendedWhiteLevelLumaCodeValue,        300, "Specifies luma sample value of the extended dynamic range assigned decoded pictures")
649#endif
650  ("SEIFramePacking",                m_framePackingSEIEnabled,                 0, "Control generation of frame packing SEI messages")
651  ("SEIFramePackingType",            m_framePackingSEIType,                    0, "Define frame packing arrangement\n"
652                                                                                  "\t0: checkerboard - pixels alternatively represent either frames\n"
653                                                                                  "\t1: column alternation - frames are interlaced by column\n"
654                                                                                  "\t2: row alternation - frames are interlaced by row\n"
655                                                                                  "\t3: side by side - frames are displayed horizontally\n"
656                                                                                  "\t4: top bottom - frames are displayed vertically\n"
657                                                                                  "\t5: frame alternation - one frame is alternated with the other")
658  ("SEIFramePackingId",              m_framePackingSEIId,                      0, "Id of frame packing SEI message for a given session")
659  ("SEIFramePackingQuincunx",        m_framePackingSEIQuincunx,                0, "Indicate the presence of a Quincunx type video frame")
660  ("SEIFramePackingInterpretation",  m_framePackingSEIInterpretation,          0, "Indicate the interpretation of the frame pair\n"
661                                                                                  "\t0: unspecified\n"
662                                                                                  "\t1: stereo pair, frame0 represents left view\n"
663                                                                                  "\t2: stereo pair, frame0 represents right view")
664  ("SEIDisplayOrientation",          m_displayOrientationSEIAngle,             0, "Control generation of display orientation SEI messages\n"
665                                                              "\tN: 0 < N < (2^16 - 1) enable display orientation SEI message with anticlockwise_rotation = N and display_orientation_repetition_period = 1\n"
666                                                              "\t0: disable")
667  ("SEITemporalLevel0Index",         m_temporalLevel0IndexSEIEnabled,          0, "Control generation of temporal level 0 index SEI messages")
668  ("SEIGradualDecodingRefreshInfo",  m_gradualDecodingRefreshInfoEnabled,      0, "Control generation of gradual decoding refresh information SEI message")
669  ("SEIDecodingUnitInfo",             m_decodingUnitInfoSEIEnabled,                       0, "Control generation of decoding unit information SEI message.")
670#if L0208_SOP_DESCRIPTION_SEI
671  ("SEISOPDescription",              m_SOPDescriptionSEIEnabled,              0, "Control generation of SOP description SEI messages")
672#endif
673#if K0180_SCALABLE_NESTING_SEI
674  ("SEIScalableNesting",             m_scalableNestingSEIEnabled,              0, "Control generation of scalable nesting SEI messages")
675#endif
676#if SIGNAL_BITRATE_PICRATE_IN_VPS
677  ("BitRatePicRateMaxTLayers",   m_bitRatePicRateMaxTLayers,           0, "Maximum number of sub-layers signalled; can be inferred otherwise; here for easy parsing of config. file")
678  ("BitRateInfoPresent",         cfg_bitRateInfoPresentFlag,          string(""), "Control signalling of bit rate information of avg. bit rate and max. bit rate in VPS\n"
679                                                                          "\t0: Do not sent bit rate info\n"
680                                                                          "\tN (N > 0): Send bit rate info for N sub-layers. N should equal maxTempLayers.")                                                                     
681  ("PicRateInfoPresent",         cfg_picRateInfoPresentFlag,          string(""), "Control signalling of picture rate information of avg. bit rate and max. bit rate in VPS\n"
682                                                                          "\t0: Do not sent picture rate info\n"
683                                                                          "\tN (N > 0): Send picture rate info for N sub-layers. N should equal maxTempLayers.")                                                                     
684  ("AvgBitRate",                   cfg_avgBitRate,                    string(""), "List of avg. bit rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
685  ("MaxBitRate",                   cfg_maxBitRate,                    string(""), "List of max. bit rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
686  ("AvgPicRate",                   cfg_avgPicRate,                    string(""), "List of avg. picture rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
687  ("ConstantPicRateIdc",           cfg_constantPicRateIdc,            string(""), "List of constant picture rate IDCs; include non-negative number even if corresponding flag is 0")
688#endif
689  ;
690 
691#if H_MV
692  // parse coding structure
693  for( Int k = 0; k < MAX_NUM_LAYERS; k++ )
694  {
695    m_GOPListMvc.push_back( new GOPEntry[MAX_GOP + 1] );
696    if( k == 0 )
697    {
698      for( Int i = 1; i < MAX_GOP + 1; i++ ) 
699      {
700        std::ostringstream cOSS;
701        cOSS<<"Frame"<<i;
702        opts.addOptions()( cOSS.str(), m_GOPListMvc[k][i-1], GOPEntry() );
703      }
704    }
705    else
706    {
707      std::ostringstream cOSS1;
708      cOSS1<<"FrameI"<<"_l"<<k;
709      opts.addOptions()(cOSS1.str(), m_GOPListMvc[k][MAX_GOP], GOPEntry());
710
711      for( Int i = 1; i < MAX_GOP + 1; i++ ) 
712      {
713        std::ostringstream cOSS2;
714        cOSS2<<"Frame"<<i<<"_l"<<k;
715        opts.addOptions()(cOSS2.str(), m_GOPListMvc[k][i-1], GOPEntry());
716      }
717    }
718  }
719#else
720  for(Int i=1; i<MAX_GOP+1; i++) {
721    std::ostringstream cOSS;
722    cOSS<<"Frame"<<i;
723    opts.addOptions()(cOSS.str(), m_GOPList[i-1], GOPEntry());
724  }
725#endif
726  po::setDefaults(opts);
727  const list<const Char*>& argv_unhandled = po::scanArgv(opts, argc, (const Char**) argv);
728
729  for (list<const Char*>::const_iterator it = argv_unhandled.begin(); it != argv_unhandled.end(); it++)
730  {
731    fprintf(stderr, "Unhandled argument ignored: `%s'\n", *it);
732  }
733 
734  if (argc == 1 || do_help)
735  {
736    /* argc == 1: no options have been specified */
737    po::doHelp(cout, opts);
738    return false;
739  }
740 
741  /*
742   * Set any derived parameters
743   */
744  /* convert std::string to c string for compatability */
745
746#if !H_MV
747  m_pchInputFile = cfg_InputFile.empty() ? NULL : strdup(cfg_InputFile.c_str());
748#endif
749
750  m_pchBitstreamFile = cfg_BitstreamFile.empty() ? NULL : strdup(cfg_BitstreamFile.c_str());
751
752#if !H_MV
753  m_pchReconFile = cfg_ReconFile.empty() ? NULL : strdup(cfg_ReconFile.c_str());
754#endif
755  m_pchdQPFile = cfg_dQPFile.empty() ? NULL : strdup(cfg_dQPFile.c_str());
756 
757  Char* pColumnWidth = cfg_ColumnWidth.empty() ? NULL: strdup(cfg_ColumnWidth.c_str());
758  Char* pRowHeight = cfg_RowHeight.empty() ? NULL : strdup(cfg_RowHeight.c_str());
759  if( m_iUniformSpacingIdr == 0 && m_iNumColumnsMinus1 > 0 )
760  {
761    char *columnWidth;
762    int  i=0;
763    m_pColumnWidth = new UInt[m_iNumColumnsMinus1];
764    columnWidth = strtok(pColumnWidth, " ,-");
765    while(columnWidth!=NULL)
766    {
767      if( i>=m_iNumColumnsMinus1 )
768      {
769        printf( "The number of columns whose width are defined is larger than the allowed number of columns.\n" );
770        exit( EXIT_FAILURE );
771      }
772      *( m_pColumnWidth + i ) = atoi( columnWidth );
773      columnWidth = strtok(NULL, " ,-");
774      i++;
775    }
776    if( i<m_iNumColumnsMinus1 )
777    {
778      printf( "The width of some columns is not defined.\n" );
779      exit( EXIT_FAILURE );
780    }
781  }
782  else
783  {
784    m_pColumnWidth = NULL;
785  }
786
787  if( m_iUniformSpacingIdr == 0 && m_iNumRowsMinus1 > 0 )
788  {
789    char *rowHeight;
790    int  i=0;
791    m_pRowHeight = new UInt[m_iNumRowsMinus1];
792    rowHeight = strtok(pRowHeight, " ,-");
793    while(rowHeight!=NULL)
794    {
795      if( i>=m_iNumRowsMinus1 )
796      {
797        printf( "The number of rows whose height are defined is larger than the allowed number of rows.\n" );
798        exit( EXIT_FAILURE );
799      }
800      *( m_pRowHeight + i ) = atoi( rowHeight );
801      rowHeight = strtok(NULL, " ,-");
802      i++;
803    }
804    if( i<m_iNumRowsMinus1 )
805    {
806      printf( "The height of some rows is not defined.\n" );
807      exit( EXIT_FAILURE );
808   }
809  }
810  else
811  {
812    m_pRowHeight = NULL;
813  }
814#if H_MV
815  free ( pColumnWidth );
816  free ( pRowHeight   ); 
817#endif
818#if SIGNAL_BITRATE_PICRATE_IN_VPS
819  readBoolString(cfg_bitRateInfoPresentFlag, m_bitRatePicRateMaxTLayers, m_bitRateInfoPresentFlag, "bit rate info. present flag" );
820  readIntString (cfg_avgBitRate,             m_bitRatePicRateMaxTLayers, m_avgBitRate,             "avg. bit rate"               );
821  readIntString (cfg_maxBitRate,             m_bitRatePicRateMaxTLayers, m_maxBitRate,             "max. bit rate"               );
822  readBoolString(cfg_picRateInfoPresentFlag, m_bitRatePicRateMaxTLayers, m_picRateInfoPresentFlag, "bit rate info. present flag" );
823  readIntString (cfg_avgPicRate,             m_bitRatePicRateMaxTLayers, m_avgPicRate,             "avg. pic rate"               );
824  readIntString (cfg_constantPicRateIdc,     m_bitRatePicRateMaxTLayers, m_constantPicRateIdc,     "constant pic rate Idc"       );
825#endif
826  m_scalingListFile = cfg_ScalingListFile.empty() ? NULL : strdup(cfg_ScalingListFile.c_str());
827 
828  /* rules for input, output and internal bitdepths as per help text */
829  if (!m_internalBitDepthY) { m_internalBitDepthY = m_inputBitDepthY; }
830  if (!m_internalBitDepthC) { m_internalBitDepthC = m_internalBitDepthY; }
831  if (!m_inputBitDepthC) { m_inputBitDepthC = m_inputBitDepthY; }
832  if (!m_outputBitDepthY) { m_outputBitDepthY = m_internalBitDepthY; }
833  if (!m_outputBitDepthC) { m_outputBitDepthC = m_internalBitDepthC; }
834
835  // TODO:ChromaFmt assumes 4:2:0 below
836  switch (m_conformanceMode)
837  {
838  case 0:
839    {
840      // no conformance or padding
841      m_confLeft = m_confRight = m_confTop = m_confBottom = 0;
842      m_aiPad[1] = m_aiPad[0] = 0;
843      break;
844    }
845  case 1:
846    {
847      // automatic padding to minimum CU size
848      Int minCuSize = m_uiMaxCUHeight >> (m_uiMaxCUDepth - 1);
849      if (m_iSourceWidth % minCuSize)
850      {
851        m_aiPad[0] = m_confRight  = ((m_iSourceWidth / minCuSize) + 1) * minCuSize - m_iSourceWidth;
852        m_iSourceWidth  += m_confRight;
853      }
854      if (m_iSourceHeight % minCuSize)
855      {
856        m_aiPad[1] = m_confBottom = ((m_iSourceHeight / minCuSize) + 1) * minCuSize - m_iSourceHeight;
857        m_iSourceHeight += m_confBottom;
858      }
859      if (m_aiPad[0] % TComSPS::getWinUnitX(CHROMA_420) != 0)
860      {
861        fprintf(stderr, "Error: picture width is not an integer multiple of the specified chroma subsampling\n");
862        exit(EXIT_FAILURE);
863      }
864      if (m_aiPad[1] % TComSPS::getWinUnitY(CHROMA_420) != 0)
865      {
866        fprintf(stderr, "Error: picture height is not an integer multiple of the specified chroma subsampling\n");
867        exit(EXIT_FAILURE);
868      }
869      break;
870    }
871  case 2:
872    {
873      //padding
874      m_iSourceWidth  += m_aiPad[0];
875      m_iSourceHeight += m_aiPad[1];
876      m_confRight  = m_aiPad[0];
877      m_confBottom = m_aiPad[1];
878      break;
879    }
880  case 3:
881    {
882      // conformance
883      if ((m_confLeft == 0) && (m_confRight == 0) && (m_confTop == 0) && (m_confBottom == 0))
884      {
885        fprintf(stderr, "Warning: Conformance window enabled, but all conformance window parameters set to zero\n");
886      }
887      if ((m_aiPad[1] != 0) || (m_aiPad[0]!=0))
888      {
889        fprintf(stderr, "Warning: Conformance window enabled, padding parameters will be ignored\n");
890      }
891      m_aiPad[1] = m_aiPad[0] = 0;
892      break;
893    }
894  }
895 
896  // allocate slice-based dQP values
897#if H_MV
898  xResizeVector( m_viewId    ); 
899#if H_3D
900  xResizeVector( m_depthFlag ); 
901#endif
902
903  xResizeVector( m_fQP ); 
904
905  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
906  {
907    m_aidQP.push_back( new Int[ m_framesToBeEncoded + m_iGOPSize + 1 ] );
908    ::memset( m_aidQP[layer], 0, sizeof(Int)*( m_framesToBeEncoded + m_iGOPSize + 1 ) );
909
910    // handling of floating-point QP values
911    // if QP is not integer, sequence is split into two sections having QP and QP+1
912    m_iQP.push_back((Int)( m_fQP[layer] ));
913    if ( m_iQP[layer] < m_fQP[layer] )
914    {
915      Int iSwitchPOC = (Int)( m_framesToBeEncoded - (m_fQP[layer] - m_iQP[layer])*m_framesToBeEncoded + 0.5 );
916
917      iSwitchPOC = (Int)( (Double)iSwitchPOC / m_iGOPSize + 0.5 )*m_iGOPSize;
918      for ( Int i=iSwitchPOC; i<m_framesToBeEncoded + m_iGOPSize + 1; i++ )
919      {
920        m_aidQP[layer][i] = 1;
921      }
922    }
923  }
924
925  xResizeVector( m_bLoopFilterDisable ); 
926  xResizeVector( m_bUseSAO );   
927
928#else
929  m_aidQP = new Int[ m_framesToBeEncoded + m_iGOPSize + 1 ];
930  ::memset( m_aidQP, 0, sizeof(Int)*( m_framesToBeEncoded + m_iGOPSize + 1 ) );
931 
932  // handling of floating-point QP values
933  // if QP is not integer, sequence is split into two sections having QP and QP+1
934  m_iQP = (Int)( m_fQP );
935  if ( m_iQP < m_fQP )
936  {
937    Int iSwitchPOC = (Int)( m_framesToBeEncoded - (m_fQP - m_iQP)*m_framesToBeEncoded + 0.5 );
938   
939    iSwitchPOC = (Int)( (Double)iSwitchPOC / m_iGOPSize + 0.5 )*m_iGOPSize;
940    for ( Int i=iSwitchPOC; i<m_framesToBeEncoded + m_iGOPSize + 1; i++ )
941    {
942      m_aidQP[i] = 1;
943    }
944  }
945#endif
946 
947  // reading external dQP description from file
948  if ( m_pchdQPFile )
949  {
950    FILE* fpt=fopen( m_pchdQPFile, "r" );
951    if ( fpt )
952    {
953#if H_MV
954      for( Int layer = 0; layer < m_numberOfLayers; layer++ )
955      {
956#endif
957      Int iValue;
958      Int iPOC = 0;
959      while ( iPOC < m_framesToBeEncoded )
960      {
961        if ( fscanf(fpt, "%d", &iValue ) == EOF ) break;
962#if H_MV
963        m_aidQP[layer][ iPOC ] = iValue;
964        iPOC++;
965      }
966#else
967        m_aidQP[ iPOC ] = iValue;
968        iPOC++;
969#endif
970      }
971      fclose(fpt);
972    }
973  }
974  m_iWaveFrontSubstreams = m_iWaveFrontSynchro ? (m_iSourceHeight + m_uiMaxCUHeight - 1) / m_uiMaxCUHeight : 1;
975
976#if J0149_TONE_MAPPING_SEI
977  if( m_toneMappingInfoSEIEnabled && !m_toneMapCancelFlag )
978  {
979    Char* pcStartOfCodedInterval = cfg_startOfCodedInterval.empty() ? NULL: strdup(cfg_startOfCodedInterval.c_str());
980    Char* pcCodedPivotValue = cfg_codedPivotValue.empty() ? NULL: strdup(cfg_codedPivotValue.c_str());
981    Char* pcTargetPivotValue = cfg_targetPivotValue.empty() ? NULL: strdup(cfg_targetPivotValue.c_str());
982    if( m_toneMapModelId == 2 && pcStartOfCodedInterval )
983    {
984      char *startOfCodedInterval;
985      UInt num = 1u<< m_toneMapTargetBitDepth;
986      m_startOfCodedInterval = new Int[num];
987      ::memset( m_startOfCodedInterval, 0, sizeof(Int)*num );
988      startOfCodedInterval = strtok(pcStartOfCodedInterval, " .");
989      int i = 0;
990      while( startOfCodedInterval && ( i < num ) )
991      {
992        m_startOfCodedInterval[i] = atoi( startOfCodedInterval );
993        startOfCodedInterval = strtok(NULL, " .");
994        i++;
995      }
996    } 
997    else
998    {
999      m_startOfCodedInterval = NULL;
1000    }
1001    if( ( m_toneMapModelId == 3 ) && ( m_numPivots > 0 ) )
1002    {
1003      if( pcCodedPivotValue && pcTargetPivotValue )
1004      {
1005        char *codedPivotValue;
1006        char *targetPivotValue;
1007        m_codedPivotValue = new Int[m_numPivots];
1008        m_targetPivotValue = new Int[m_numPivots];
1009        ::memset( m_codedPivotValue, 0, sizeof(Int)*( m_numPivots ) );
1010        ::memset( m_targetPivotValue, 0, sizeof(Int)*( m_numPivots ) );
1011        codedPivotValue = strtok(pcCodedPivotValue, " .");
1012        int i=0;
1013        while(codedPivotValue&&i<m_numPivots)
1014        {
1015          m_codedPivotValue[i] = atoi( codedPivotValue );
1016          codedPivotValue = strtok(NULL, " .");
1017          i++;
1018        }
1019        i=0;
1020        targetPivotValue = strtok(pcTargetPivotValue, " .");
1021        while(targetPivotValue&&i<m_numPivots)
1022        {
1023          m_targetPivotValue[i]= atoi( targetPivotValue );
1024          targetPivotValue = strtok(NULL, " .");
1025          i++;
1026        }
1027      }
1028    }
1029    else
1030    {
1031      m_codedPivotValue = NULL;
1032      m_targetPivotValue = NULL;
1033    }
1034  }
1035#endif
1036  // check validity of input parameters
1037  xCheckParameter();
1038 
1039  // set global varibles
1040  xSetGlobal();
1041 
1042  // print-out parameters
1043  xPrintParameter();
1044 
1045  return true;
1046}
1047#if SIGNAL_BITRATE_PICRATE_IN_VPS
1048Void readBoolString(const string inpString, const Int numEntries, Bool* &memberArray, const char *elementName)
1049{
1050  Char* inpArray = inpString.empty() ? NULL : strdup(inpString.c_str());
1051  Int i = 0;
1052  if(numEntries)
1053  {
1054    Char* tempArray = strtok(inpArray, " ,-");
1055    memberArray = new Bool[numEntries];
1056    while( tempArray != NULL )
1057    {
1058      if( i >= numEntries )
1059      {
1060        printf( "The number of %s defined is larger than the allowed number\n", elementName );
1061        exit( EXIT_FAILURE );
1062      }
1063      assert( (atoi(tempArray) == 0) || (atoi(tempArray) == 1) );
1064      *( memberArray + i ) = atoi(tempArray);
1065      tempArray = strtok(NULL, " ,-");
1066      i++;
1067    }
1068    if( i < numEntries )
1069    {
1070      printf( "Some %s are not defined\n", elementName );
1071      exit( EXIT_FAILURE );
1072    }
1073  }
1074  else
1075  {
1076    memberArray = NULL;
1077  }
1078}
1079
1080Void readIntString(const string inpString, const Int numEntries, Int* &memberArray, const char *elementName)
1081{
1082  Char* inpArray = inpString.empty() ? NULL : strdup(inpString.c_str());
1083  Int i = 0;
1084  if(numEntries)
1085  {
1086    Char* tempArray = strtok(inpArray, " ,-");
1087    memberArray = new Int[numEntries];
1088    while( tempArray != NULL )
1089    {
1090      if( i >= numEntries )
1091      {
1092        printf( "The number of %s defined is larger than the allowed number\n", elementName );
1093        exit( EXIT_FAILURE );
1094      }
1095      *( memberArray + i ) = atoi(tempArray);
1096      tempArray = strtok(NULL, " ,-");
1097      i++;
1098    }
1099    if( i < numEntries )
1100    {
1101      printf( "Some %s are not defined\n", elementName );
1102      exit( EXIT_FAILURE );
1103    }
1104  }
1105  else
1106  {
1107    memberArray = NULL;
1108  }
1109}
1110#endif
1111// ====================================================================================================================
1112// Private member functions
1113// ====================================================================================================================
1114
1115Bool confirmPara(Bool bflag, const Char* message);
1116
1117Void TAppEncCfg::xCheckParameter()
1118{
1119  if (!m_decodedPictureHashSEIEnabled)
1120  {
1121    fprintf(stderr, "******************************************************************\n");
1122    fprintf(stderr, "** WARNING: --SEIDecodedPictureHash is now disabled by default. **\n");
1123    fprintf(stderr, "**          Automatic verification of decoded pictures by a     **\n");
1124    fprintf(stderr, "**          decoder requires this option to be enabled.         **\n");
1125    fprintf(stderr, "******************************************************************\n");
1126  }
1127
1128  Bool check_failed = false; /* abort if there is a fatal configuration problem */
1129#define xConfirmPara(a,b) check_failed |= confirmPara(a,b)
1130  // check range of parameters
1131  xConfirmPara( m_inputBitDepthY < 8,                                                     "InputBitDepth must be at least 8" );
1132  xConfirmPara( m_inputBitDepthC < 8,                                                     "InputBitDepthC must be at least 8" );
1133  xConfirmPara( m_iFrameRate <= 0,                                                          "Frame rate must be more than 1" );
1134  xConfirmPara( m_framesToBeEncoded <= 0,                                                   "Total Number Of Frames encoded must be more than 0" );
1135#if H_MV
1136  xConfirmPara( m_numberOfLayers > MAX_NUM_LAYER_IDS ,                                      "NumberOfLayers must be less than or equal to MAX_NUM_LAYER_IDS");
1137
1138
1139  xConfirmPara( m_layerIdInNuh[0] != 0      , "LayerIdInNuh must be 0 for the first layer. ");
1140  xConfirmPara( (m_layerIdInNuh.size()!=1) && (m_layerIdInNuh.size() < m_numberOfLayers) , "LayerIdInNuh must be given for all layers. ");
1141 
1142#if H_3D
1143  xConfirmPara( m_scalabilityMask != 1 && m_scalabilityMask != 3, "Scalability Mask must be equal to 1 or 3. ");
1144#else
1145  xConfirmPara( m_scalabilityMask != 1 , "Scalability Mask must be equal to 1. ");
1146#endif
1147 
1148  m_dimIds.push_back( m_viewId ); 
1149#if H_3D
1150  if ( m_scalabilityMask & ( 1 << DEPTH_ID ) )
1151    m_dimIds.push_back( m_depthFlag ); 
1152#endif
1153
1154  xConfirmPara(  m_dimensionIdLen.size() < m_dimIds.size(), "DimensionIdLen must be given for all dimensions. "   ); 
1155
1156 for( Int dim = 0; dim < m_dimIds.size(); dim++ )
1157 {
1158   xConfirmPara( m_dimIds[dim].size() < m_numberOfLayers,  "DimensionId must be given for all layers and all dimensions. ");
1159   xConfirmPara( m_dimIds[dim][0] != 0,                    "DimensionId of layer 0 must be 0 in all dimensions. " );
1160   xConfirmPara( m_dimensionIdLen[dim] < 1 || m_dimensionIdLen[dim] > 8, "DimensionIdLen must be greater than 0 and less than 9 in all dimensions. " ); 
1161   for( Int i = 1; i < m_numberOfLayers; i++ )
1162   {     
1163     xConfirmPara(  ( m_dimIds[dim][i] < 0 ) || ( m_dimIds[dim][i] > ( ( 1 << m_dimensionIdLen[dim] ) - 1 ) )   , "DimensionId shall be in the range of 0 to 2^DimensionIdLen - 1. " );
1164   }
1165 }
1166
1167 for( Int i = 0; i < m_numberOfLayers; i++ )
1168 {
1169   for( Int j = 0; j < i; j++ )
1170   {     
1171     Int numDiff  = 0; 
1172     Int lastDiff = -1; 
1173     for( Int dim = 0; dim < m_dimIds.size(); dim++ )
1174     {
1175       if ( m_dimIds[dim][i] != m_dimIds[dim][j] )
1176       {
1177         numDiff ++; 
1178         lastDiff = dim; 
1179       }
1180     }
1181
1182     Bool allEqual = ( numDiff == 0 ); 
1183
1184     if ( allEqual ) 
1185     {
1186       printf( "\nError: Positions of Layers %d and %d are identical in scalability space\n", i, j);
1187     }
1188
1189     xConfirmPara( allEqual , "Each layer shall have a different position in scalability space." );
1190
1191     if ( numDiff  == 1 ) 
1192     {
1193       Bool inc = m_dimIds[ lastDiff ][ i ] > m_dimIds[ lastDiff ][ j ]; 
1194       if ( !inc )
1195       {       
1196         printf( "\nError: Positions of Layers %d and %d is not increasing in dimension %d \n", i, j, lastDiff);       
1197       }
1198       xConfirmPara( !inc,  "DimensionIds shall be increasing within one dimension. " );
1199     }
1200   }
1201 }
1202
1203#endif
1204  xConfirmPara( m_iGOPSize < 1 ,                                                            "GOP Size must be greater or equal to 1" );
1205  xConfirmPara( m_iGOPSize > 1 &&  m_iGOPSize % 2,                                          "GOP Size must be a multiple of 2, if GOP Size is greater than 1" );
1206  xConfirmPara( (m_iIntraPeriod > 0 && m_iIntraPeriod < m_iGOPSize) || m_iIntraPeriod == 0, "Intra period must be more than GOP size, or -1 , not 0" );
1207  xConfirmPara( m_iDecodingRefreshType < 0 || m_iDecodingRefreshType > 2,                   "Decoding Refresh Type must be equal to 0, 1 or 2" );
1208#if H_MV
1209  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1210  {
1211    xConfirmPara( m_iQP[layer] <  -6 * (m_internalBitDepthY - 8) || m_iQP[layer] > 51,      "QP exceeds supported range (-QpBDOffsety to 51)" );
1212  }
1213#else
1214  xConfirmPara( m_iQP <  -6 * (m_internalBitDepthY - 8) || m_iQP > 51,                    "QP exceeds supported range (-QpBDOffsety to 51)" );
1215#endif
1216  xConfirmPara( m_loopFilterBetaOffsetDiv2 < -13 || m_loopFilterBetaOffsetDiv2 > 13,          "Loop Filter Beta Offset div. 2 exceeds supported range (-13 to 13)");
1217  xConfirmPara( m_loopFilterTcOffsetDiv2 < -13 || m_loopFilterTcOffsetDiv2 > 13,              "Loop Filter Tc Offset div. 2 exceeds supported range (-13 to 13)");
1218  xConfirmPara( m_iFastSearch < 0 || m_iFastSearch > 2,                                     "Fast Search Mode is not supported value (0:Full search  1:Diamond  2:PMVFAST)" );
1219  xConfirmPara( m_iSearchRange < 0 ,                                                        "Search Range must be more than 0" );
1220  xConfirmPara( m_bipredSearchRange < 0 ,                                                   "Search Range must be more than 0" );
1221  xConfirmPara( m_iMaxDeltaQP > 7,                                                          "Absolute Delta QP exceeds supported range (0 to 7)" );
1222  xConfirmPara( m_iMaxCuDQPDepth > m_uiMaxCUDepth - 1,                                          "Absolute depth for a minimum CuDQP exceeds maximum coding unit depth" );
1223
1224  xConfirmPara( m_cbQpOffset < -12,   "Min. Chroma Cb QP Offset is -12" );
1225  xConfirmPara( m_cbQpOffset >  12,   "Max. Chroma Cb QP Offset is  12" );
1226  xConfirmPara( m_crQpOffset < -12,   "Min. Chroma Cr QP Offset is -12" );
1227  xConfirmPara( m_crQpOffset >  12,   "Max. Chroma Cr QP Offset is  12" );
1228
1229  xConfirmPara( m_iQPAdaptationRange <= 0,                                                  "QP Adaptation Range must be more than 0" );
1230  if (m_iDecodingRefreshType == 2)
1231  {
1232    xConfirmPara( m_iIntraPeriod > 0 && m_iIntraPeriod <= m_iGOPSize ,                      "Intra period must be larger than GOP size for periodic IDR pictures");
1233  }
1234  xConfirmPara( (m_uiMaxCUWidth  >> m_uiMaxCUDepth) < 4,                                    "Minimum partition width size should be larger than or equal to 8");
1235  xConfirmPara( (m_uiMaxCUHeight >> m_uiMaxCUDepth) < 4,                                    "Minimum partition height size should be larger than or equal to 8");
1236  xConfirmPara( m_uiMaxCUWidth < 16,                                                        "Maximum partition width size should be larger than or equal to 16");
1237  xConfirmPara( m_uiMaxCUHeight < 16,                                                       "Maximum partition height size should be larger than or equal to 16");
1238  xConfirmPara( (m_iSourceWidth  % (m_uiMaxCUWidth  >> (m_uiMaxCUDepth-1)))!=0,             "Resulting coded frame width must be a multiple of the minimum CU size");
1239  xConfirmPara( (m_iSourceHeight % (m_uiMaxCUHeight >> (m_uiMaxCUDepth-1)))!=0,             "Resulting coded frame height must be a multiple of the minimum CU size");
1240 
1241  xConfirmPara( m_uiQuadtreeTULog2MinSize < 2,                                        "QuadtreeTULog2MinSize must be 2 or greater.");
1242  xConfirmPara( m_uiQuadtreeTULog2MaxSize > 5,                                        "QuadtreeTULog2MaxSize must be 5 or smaller.");
1243  xConfirmPara( (1<<m_uiQuadtreeTULog2MaxSize) > m_uiMaxCUWidth,                                        "QuadtreeTULog2MaxSize must be log2(maxCUSize) or smaller.");
1244 
1245  xConfirmPara( m_uiQuadtreeTULog2MaxSize < m_uiQuadtreeTULog2MinSize,                "QuadtreeTULog2MaxSize must be greater than or equal to m_uiQuadtreeTULog2MinSize.");
1246  xConfirmPara( (1<<m_uiQuadtreeTULog2MinSize)>(m_uiMaxCUWidth >>(m_uiMaxCUDepth-1)), "QuadtreeTULog2MinSize must not be greater than minimum CU size" ); // HS
1247  xConfirmPara( (1<<m_uiQuadtreeTULog2MinSize)>(m_uiMaxCUHeight>>(m_uiMaxCUDepth-1)), "QuadtreeTULog2MinSize must not be greater than minimum CU size" ); // HS
1248  xConfirmPara( ( 1 << m_uiQuadtreeTULog2MinSize ) > ( m_uiMaxCUWidth  >> m_uiMaxCUDepth ), "Minimum CU width must be greater than minimum transform size." );
1249  xConfirmPara( ( 1 << m_uiQuadtreeTULog2MinSize ) > ( m_uiMaxCUHeight >> m_uiMaxCUDepth ), "Minimum CU height must be greater than minimum transform size." );
1250  xConfirmPara( m_uiQuadtreeTUMaxDepthInter < 1,                                                         "QuadtreeTUMaxDepthInter must be greater than or equal to 1" );
1251  xConfirmPara( m_uiMaxCUWidth < ( 1 << (m_uiQuadtreeTULog2MinSize + m_uiQuadtreeTUMaxDepthInter - 1) ), "QuadtreeTUMaxDepthInter must be less than or equal to the difference between log2(maxCUSize) and QuadtreeTULog2MinSize plus 1" );
1252  xConfirmPara( m_uiQuadtreeTUMaxDepthIntra < 1,                                                         "QuadtreeTUMaxDepthIntra must be greater than or equal to 1" );
1253  xConfirmPara( m_uiMaxCUWidth < ( 1 << (m_uiQuadtreeTULog2MinSize + m_uiQuadtreeTUMaxDepthIntra - 1) ), "QuadtreeTUMaxDepthInter must be less than or equal to the difference between log2(maxCUSize) and QuadtreeTULog2MinSize plus 1" );
1254 
1255  xConfirmPara(  m_maxNumMergeCand < 1,  "MaxNumMergeCand must be 1 or greater.");
1256  xConfirmPara(  m_maxNumMergeCand > 5,  "MaxNumMergeCand must be 5 or smaller.");
1257
1258#if ADAPTIVE_QP_SELECTION
1259#if H_MV
1260  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1261  {
1262    xConfirmPara( m_bUseAdaptQpSelect == true && m_iQP[layer] < 0,                                     "AdaptiveQpSelection must be disabled when QP < 0.");
1263  }
1264#else
1265  xConfirmPara( m_bUseAdaptQpSelect == true && m_iQP < 0,                                              "AdaptiveQpSelection must be disabled when QP < 0.");
1266#endif
1267  xConfirmPara( m_bUseAdaptQpSelect == true && (m_cbQpOffset !=0 || m_crQpOffset != 0 ),               "AdaptiveQpSelection must be disabled when ChromaQpOffset is not equal to 0.");
1268#endif
1269
1270  if( m_usePCM)
1271  {
1272    xConfirmPara(  m_uiPCMLog2MinSize < 3,                                      "PCMLog2MinSize must be 3 or greater.");
1273    xConfirmPara(  m_uiPCMLog2MinSize > 5,                                      "PCMLog2MinSize must be 5 or smaller.");
1274    xConfirmPara(  m_pcmLog2MaxSize > 5,                                        "PCMLog2MaxSize must be 5 or smaller.");
1275    xConfirmPara(  m_pcmLog2MaxSize < m_uiPCMLog2MinSize,                       "PCMLog2MaxSize must be equal to or greater than m_uiPCMLog2MinSize.");
1276  }
1277
1278  xConfirmPara( m_sliceMode < 0 || m_sliceMode > 3, "SliceMode exceeds supported range (0 to 3)" );
1279  if (m_sliceMode!=0)
1280  {
1281    xConfirmPara( m_sliceArgument < 1 ,         "SliceArgument should be larger than or equal to 1" );
1282  }
1283  xConfirmPara( m_sliceSegmentMode < 0 || m_sliceSegmentMode > 3, "SliceSegmentMode exceeds supported range (0 to 3)" );
1284  if (m_sliceSegmentMode!=0)
1285  {
1286    xConfirmPara( m_sliceSegmentArgument < 1 ,         "SliceSegmentArgument should be larger than or equal to 1" );
1287  }
1288 
1289  Bool tileFlag = (m_iNumColumnsMinus1 > 0 || m_iNumRowsMinus1 > 0 );
1290  xConfirmPara( tileFlag && m_iWaveFrontSynchro,            "Tile and Wavefront can not be applied together");
1291
1292  //TODO:ChromaFmt assumes 4:2:0 below
1293  xConfirmPara( m_iSourceWidth  % TComSPS::getWinUnitX(CHROMA_420) != 0, "Picture width must be an integer multiple of the specified chroma subsampling");
1294  xConfirmPara( m_iSourceHeight % TComSPS::getWinUnitY(CHROMA_420) != 0, "Picture height must be an integer multiple of the specified chroma subsampling");
1295
1296  xConfirmPara( m_aiPad[0] % TComSPS::getWinUnitX(CHROMA_420) != 0, "Horizontal padding must be an integer multiple of the specified chroma subsampling");
1297  xConfirmPara( m_aiPad[1] % TComSPS::getWinUnitY(CHROMA_420) != 0, "Vertical padding must be an integer multiple of the specified chroma subsampling");
1298
1299  xConfirmPara( m_confLeft   % TComSPS::getWinUnitX(CHROMA_420) != 0, "Left conformance window offset must be an integer multiple of the specified chroma subsampling");
1300  xConfirmPara( m_confRight  % TComSPS::getWinUnitX(CHROMA_420) != 0, "Right conformance window offset must be an integer multiple of the specified chroma subsampling");
1301  xConfirmPara( m_confTop    % TComSPS::getWinUnitY(CHROMA_420) != 0, "Top conformance window offset must be an integer multiple of the specified chroma subsampling");
1302  xConfirmPara( m_confBottom % TComSPS::getWinUnitY(CHROMA_420) != 0, "Bottom conformance window offset must be an integer multiple of the specified chroma subsampling");
1303
1304  // max CU width and height should be power of 2
1305  UInt ui = m_uiMaxCUWidth;
1306  while(ui)
1307  {
1308    ui >>= 1;
1309    if( (ui & 1) == 1)
1310      xConfirmPara( ui != 1 , "Width should be 2^n");
1311  }
1312  ui = m_uiMaxCUHeight;
1313  while(ui)
1314  {
1315    ui >>= 1;
1316    if( (ui & 1) == 1)
1317      xConfirmPara( ui != 1 , "Height should be 2^n");
1318  }
1319
1320#if H_MV
1321  // validate that POC of same frame is identical across multiple layers
1322  Bool bErrorMvePoc = false;
1323  if( m_numberOfLayers > 1 )
1324  {
1325    for( Int k = 1; k < m_numberOfLayers; k++ )
1326    {
1327      for( Int i = 0; i < MAX_GOP; i++ )
1328      {
1329        if( m_GOPListMvc[k][i].m_POC != m_GOPListMvc[0][i].m_POC )
1330        {
1331          printf( "\nError: Frame%d_l%d POC %d is not identical to Frame%d POC\n", i, k, m_GOPListMvc[k][i].m_POC, i );
1332          bErrorMvePoc = true;
1333        }
1334      }
1335    }
1336  }
1337  xConfirmPara( bErrorMvePoc,  "Invalid inter-layer POC structure given" );
1338
1339  // validate that baseview has no inter-view refs
1340  Bool bErrorIvpBase = false;
1341  for( Int i = 0; i < MAX_GOP; i++ )
1342  {
1343    if( m_GOPListMvc[0][i].m_numInterViewRefPics != 0 )
1344    {
1345      printf( "\nError: Frame%d inter_layer refs not available in layer 0\n", i );
1346      bErrorIvpBase = true;
1347    }
1348  }
1349  xConfirmPara( bErrorIvpBase, "Inter-layer refs not possible in base layer" );
1350
1351  // validate inter-view refs
1352  Bool bErrorIvpEnhV = false;
1353  if( m_numberOfLayers > 1 )
1354  {
1355    for( Int k = 1; k < m_numberOfLayers; k++ )
1356    {
1357      for( Int i = 0; i < MAX_GOP+1; i++ )
1358      {
1359        for( Int j = 0; j < m_GOPListMvc[k][i].m_numInterViewRefPics; j++ )
1360        {
1361          Int iAbsViewId = m_GOPListMvc[k][i].m_interViewRefs[j] + k;
1362          if( iAbsViewId < 0 || iAbsViewId >= k )
1363          {
1364            printf( "\nError: inter-layer ref pic %d is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefs[j], i, k );
1365            bErrorIvpEnhV = true;
1366          }
1367          if( m_GOPListMvc[k][i].m_interViewRefPosL[0][j] < -1 || m_GOPListMvc[k][i].m_interViewRefPosL[0][j] > m_GOPListMvc[k][i].m_numRefPicsActive )
1368          {
1369            printf( "\nError: inter-layer ref pos %d on L0 is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefPosL[0][j], i, k );
1370            bErrorIvpEnhV = true;
1371          }
1372          if( m_GOPListMvc[k][i].m_interViewRefPosL[1][j] < -1  || m_GOPListMvc[k][i].m_interViewRefPosL[1][j] > m_GOPListMvc[k][i].m_numRefPicsActive )
1373          {
1374            printf( "\nError: inter-layer ref pos %d on L1 is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefPosL[1][j], i, k );
1375            bErrorIvpEnhV = true;
1376          }
1377        }
1378        if( i == MAX_GOP ) // inter-view refs at I pic position in base view
1379        {
1380          if( m_GOPListMvc[k][MAX_GOP].m_sliceType != 'B' && m_GOPListMvc[k][MAX_GOP].m_sliceType != 'P' && m_GOPListMvc[k][MAX_GOP].m_sliceType != 'I' )
1381          {
1382            printf( "\nError: slice type of FrameI_l%d must be equal to B or P or I\n", k );
1383            bErrorIvpEnhV = true;
1384          }
1385
1386          if( m_GOPListMvc[k][MAX_GOP].m_POC != 0 )
1387          {
1388            printf( "\nError: POC %d not possible for FrameI_l%d, must be 0\n", m_GOPListMvc[k][MAX_GOP].m_POC, k );
1389            bErrorIvpEnhV = true;
1390          }
1391
1392          if( m_GOPListMvc[k][MAX_GOP].m_temporalId != 0 )
1393          {
1394            printf( "\nWarning: Temporal id of FrameI_l%d must be 0 (cp. I-frame in base layer)\n", k );
1395            m_GOPListMvc[k][MAX_GOP].m_temporalId = 0;
1396          }
1397
1398          if( m_GOPListMvc[k][MAX_GOP].m_numRefPics != 0 )
1399          {
1400            printf( "\nWarning: temporal references not possible for FrameI_l%d\n", k );
1401            for( Int j = 0; j < m_GOPListMvc[k][MAX_GOP].m_numRefPics; j++ )
1402            {
1403              m_GOPListMvc[k][MAX_GOP].m_referencePics[j] = 0;
1404            }
1405            m_GOPListMvc[k][MAX_GOP].m_numRefPics = 0;
1406          }
1407
1408          if( m_GOPListMvc[k][MAX_GOP].m_interRPSPrediction )
1409          {
1410            printf( "\nError: inter RPS prediction not possible for FrameI_l%d, must be 0\n", k );
1411            bErrorIvpEnhV = true;
1412          }
1413
1414          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'I' && m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics != 0 )
1415          {
1416            printf( "\nError: inter-layer prediction not possible for FrameI_l%d with slice type I, #IL_ref_pics must be 0\n", k );
1417            bErrorIvpEnhV = true;
1418          }
1419
1420          if( m_GOPListMvc[k][MAX_GOP].m_numRefPicsActive > m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics )
1421          {
1422            m_GOPListMvc[k][MAX_GOP].m_numRefPicsActive = m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics;
1423          }
1424
1425          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'P' )
1426          {
1427            if( m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics < 1 )
1428            {
1429              printf( "\nError: #IL_ref_pics must be at least one for FrameI_l%d with slice type P\n", k );
1430              bErrorIvpEnhV = true;
1431            }
1432            else
1433            {
1434              for( Int j = 0; j < m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics; j++ )
1435              {
1436                if( m_GOPListMvc[k][MAX_GOP].m_interViewRefPosL[1][j] != -1 )
1437                {
1438                  printf( "\nError: inter-layer ref pos %d on L1 not possible for FrameI_l%d with slice type P\n", m_GOPListMvc[k][MAX_GOP].m_interViewRefPosL[1][j], k );
1439                  bErrorIvpEnhV = true;
1440                }
1441              }
1442            }
1443          }
1444
1445          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'B' && m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics < 1 )
1446          {
1447            printf( "\nError: #IL_ref_pics must be at least one for FrameI_l%d with slice type B\n", k );
1448            bErrorIvpEnhV = true;
1449          }
1450        }
1451      }
1452    }
1453  }
1454  xConfirmPara( bErrorIvpEnhV, "Invalid inter-layer coding structure for enhancement layers given" );
1455
1456  // validate temporal coding structure
1457  if( !bErrorMvePoc && !bErrorIvpBase && !bErrorIvpEnhV )
1458  {
1459    for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1460    {
1461      GOPEntry* m_GOPList            = m_GOPListMvc           [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1462      Int&      m_extraRPSs          = m_extraRPSsMvc         [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1463      Int&      m_maxTempLayer       = m_maxTempLayerMvc      [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1464      Int*      m_maxDecPicBuffering = m_maxDecPicBufferingMvc[layer]; // It is not a member, but this name helps avoiding code duplication !!!
1465      Int*      m_numReorderPics     = m_numReorderPicsMvc    [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1466#endif
1467
1468  /* if this is an intra-only sequence, ie IntraPeriod=1, don't verify the GOP structure
1469   * This permits the ability to omit a GOP structure specification */
1470  if (m_iIntraPeriod == 1 && m_GOPList[0].m_POC == -1) {
1471    m_GOPList[0] = GOPEntry();
1472    m_GOPList[0].m_QPFactor = 1;
1473    m_GOPList[0].m_betaOffsetDiv2 = 0;
1474    m_GOPList[0].m_tcOffsetDiv2 = 0;
1475    m_GOPList[0].m_POC = 1;
1476    m_GOPList[0].m_numRefPicsActive = 4;
1477  }
1478 
1479  Bool verifiedGOP=false;
1480  Bool errorGOP=false;
1481  Int checkGOP=1;
1482  Int numRefs = 1;
1483  Int refList[MAX_NUM_REF_PICS+1];
1484  refList[0]=0;
1485  Bool isOK[MAX_GOP];
1486  for(Int i=0; i<MAX_GOP; i++) 
1487  {
1488    isOK[i]=false;
1489  }
1490  Int numOK=0;
1491  xConfirmPara( m_iIntraPeriod >=0&&(m_iIntraPeriod%m_iGOPSize!=0), "Intra period must be a multiple of GOPSize, or -1" );
1492
1493  for(Int i=0; i<m_iGOPSize; i++)
1494  {
1495    if(m_GOPList[i].m_POC==m_iGOPSize)
1496    {
1497      xConfirmPara( m_GOPList[i].m_temporalId!=0 , "The last frame in each GOP must have temporal ID = 0 " );
1498    }
1499  }
1500 
1501#if H_MV
1502  if ( (m_iIntraPeriod != 1) && !m_loopFilterOffsetInPPS && m_DeblockingFilterControlPresent && (!m_bLoopFilterDisable[layer]) )
1503#else
1504  if ( (m_iIntraPeriod != 1) && !m_loopFilterOffsetInPPS && m_DeblockingFilterControlPresent && (!m_bLoopFilterDisable) )
1505#endif
1506  {
1507    for(Int i=0; i<m_iGOPSize; i++)
1508    {
1509      xConfirmPara( (m_GOPList[i].m_betaOffsetDiv2 + m_loopFilterBetaOffsetDiv2) < -6 || (m_GOPList[i].m_betaOffsetDiv2 + m_loopFilterBetaOffsetDiv2) > 6, "Loop Filter Beta Offset div. 2 for one of the GOP entries exceeds supported range (-6 to 6)" );
1510      xConfirmPara( (m_GOPList[i].m_tcOffsetDiv2 + m_loopFilterTcOffsetDiv2) < -6 || (m_GOPList[i].m_tcOffsetDiv2 + m_loopFilterTcOffsetDiv2) > 6, "Loop Filter Tc Offset div. 2 for one of the GOP entries exceeds supported range (-6 to 6)" );
1511    }
1512  }
1513  m_extraRPSs=0;
1514  //start looping through frames in coding order until we can verify that the GOP structure is correct.
1515  while(!verifiedGOP&&!errorGOP) 
1516  {
1517    Int curGOP = (checkGOP-1)%m_iGOPSize;
1518    Int curPOC = ((checkGOP-1)/m_iGOPSize)*m_iGOPSize + m_GOPList[curGOP].m_POC;   
1519    if(m_GOPList[curGOP].m_POC<0) 
1520    {
1521#if H_MV
1522      printf("\nError: found fewer Reference Picture Sets than GOPSize for layer %d\n", layer );
1523#else
1524      printf("\nError: found fewer Reference Picture Sets than GOPSize\n");
1525#endif
1526      errorGOP=true;
1527    }
1528    else 
1529    {
1530      //check that all reference pictures are available, or have a POC < 0 meaning they might be available in the next GOP.
1531      Bool beforeI = false;
1532      for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1533      {
1534        Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1535        if(absPOC < 0)
1536        {
1537          beforeI=true;
1538        }
1539        else 
1540        {
1541          Bool found=false;
1542          for(Int j=0; j<numRefs; j++) 
1543          {
1544            if(refList[j]==absPOC) 
1545            {
1546              found=true;
1547              for(Int k=0; k<m_iGOPSize; k++)
1548              {
1549                if(absPOC%m_iGOPSize == m_GOPList[k].m_POC%m_iGOPSize)
1550                {
1551                  if(m_GOPList[k].m_temporalId==m_GOPList[curGOP].m_temporalId)
1552                  {
1553                    m_GOPList[k].m_refPic = true;
1554                  }
1555                  m_GOPList[curGOP].m_usedByCurrPic[i]=m_GOPList[k].m_temporalId<=m_GOPList[curGOP].m_temporalId;
1556                }
1557              }
1558            }
1559          }
1560          if(!found)
1561          {
1562#if H_MV
1563            printf("\nError: ref pic %d is not available for GOP frame %d of layer %d\n", m_GOPList[curGOP].m_referencePics[i], curGOP+1, layer);
1564#else
1565            printf("\nError: ref pic %d is not available for GOP frame %d\n",m_GOPList[curGOP].m_referencePics[i],curGOP+1);
1566#endif
1567            errorGOP=true;
1568          }
1569        }
1570      }
1571      if(!beforeI&&!errorGOP)
1572      {
1573        //all ref frames were present
1574        if(!isOK[curGOP]) 
1575        {
1576          numOK++;
1577          isOK[curGOP]=true;
1578          if(numOK==m_iGOPSize)
1579          {
1580            verifiedGOP=true;
1581          }
1582        }
1583      }
1584      else 
1585      {
1586        //create a new GOPEntry for this frame containing all the reference pictures that were available (POC > 0)
1587        m_GOPList[m_iGOPSize+m_extraRPSs]=m_GOPList[curGOP];
1588        Int newRefs=0;
1589        for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1590        {
1591          Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1592          if(absPOC>=0)
1593          {
1594            m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[newRefs]=m_GOPList[curGOP].m_referencePics[i];
1595            m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[newRefs]=m_GOPList[curGOP].m_usedByCurrPic[i];
1596            newRefs++;
1597          }
1598        }
1599        Int numPrefRefs = m_GOPList[curGOP].m_numRefPicsActive;
1600       
1601        for(Int offset = -1; offset>-checkGOP; offset--)
1602        {
1603          //step backwards in coding order and include any extra available pictures we might find useful to replace the ones with POC < 0.
1604          Int offGOP = (checkGOP-1+offset)%m_iGOPSize;
1605          Int offPOC = ((checkGOP-1+offset)/m_iGOPSize)*m_iGOPSize + m_GOPList[offGOP].m_POC;
1606          if(offPOC>=0&&m_GOPList[offGOP].m_temporalId<=m_GOPList[curGOP].m_temporalId)
1607          {
1608            Bool newRef=false;
1609            for(Int i=0; i<numRefs; i++)
1610            {
1611              if(refList[i]==offPOC)
1612              {
1613                newRef=true;
1614              }
1615            }
1616            for(Int i=0; i<newRefs; i++) 
1617            {
1618              if(m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[i]==offPOC-curPOC)
1619              {
1620                newRef=false;
1621              }
1622            }
1623            if(newRef) 
1624            {
1625              Int insertPoint=newRefs;
1626              //this picture can be added, find appropriate place in list and insert it.
1627              if(m_GOPList[offGOP].m_temporalId==m_GOPList[curGOP].m_temporalId)
1628              {
1629                m_GOPList[offGOP].m_refPic = true;
1630              }
1631              for(Int j=0; j<newRefs; j++)
1632              {
1633                if(m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]<offPOC-curPOC||m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]>0)
1634                {
1635                  insertPoint = j;
1636                  break;
1637                }
1638              }
1639              Int prev = offPOC-curPOC;
1640              Int prevUsed = m_GOPList[offGOP].m_temporalId<=m_GOPList[curGOP].m_temporalId;
1641              for(Int j=insertPoint; j<newRefs+1; j++)
1642              {
1643                Int newPrev = m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j];
1644                Int newUsed = m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j];
1645                m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]=prev;
1646                m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j]=prevUsed;
1647                prevUsed=newUsed;
1648                prev=newPrev;
1649              }
1650              newRefs++;
1651            }
1652          }
1653          if(newRefs>=numPrefRefs)
1654          {
1655            break;
1656          }
1657        }
1658        m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefPics=newRefs;
1659        m_GOPList[m_iGOPSize+m_extraRPSs].m_POC = curPOC;
1660        if (m_extraRPSs == 0)
1661        {
1662          m_GOPList[m_iGOPSize+m_extraRPSs].m_interRPSPrediction = 0;
1663          m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefIdc = 0;
1664        }
1665        else
1666        {
1667          Int rIdx =  m_iGOPSize + m_extraRPSs - 1;
1668          Int refPOC = m_GOPList[rIdx].m_POC;
1669          Int refPics = m_GOPList[rIdx].m_numRefPics;
1670          Int newIdc=0;
1671          for(Int i = 0; i<= refPics; i++) 
1672          {
1673            Int deltaPOC = ((i != refPics)? m_GOPList[rIdx].m_referencePics[i] : 0);  // check if the reference abs POC is >= 0
1674            Int absPOCref = refPOC+deltaPOC;
1675            Int refIdc = 0;
1676            for (Int j = 0; j < m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefPics; j++)
1677            {
1678              if ( (absPOCref - curPOC) == m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j])
1679              {
1680                if (m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j])
1681                {
1682                  refIdc = 1;
1683                }
1684                else
1685                {
1686                  refIdc = 2;
1687                }
1688              }
1689            }
1690            m_GOPList[m_iGOPSize+m_extraRPSs].m_refIdc[newIdc]=refIdc;
1691            newIdc++;
1692          }
1693          m_GOPList[m_iGOPSize+m_extraRPSs].m_interRPSPrediction = 1; 
1694          m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefIdc = newIdc;
1695          m_GOPList[m_iGOPSize+m_extraRPSs].m_deltaRPS = refPOC - m_GOPList[m_iGOPSize+m_extraRPSs].m_POC; 
1696        }
1697        curGOP=m_iGOPSize+m_extraRPSs;
1698        m_extraRPSs++;
1699      }
1700      numRefs=0;
1701      for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1702      {
1703        Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1704        if(absPOC >= 0) 
1705        {
1706          refList[numRefs]=absPOC;
1707          numRefs++;
1708        }
1709      }
1710      refList[numRefs]=curPOC;
1711      numRefs++;
1712    }
1713    checkGOP++;
1714  }
1715  xConfirmPara(errorGOP,"Invalid GOP structure given");
1716  m_maxTempLayer = 1;
1717  for(Int i=0; i<m_iGOPSize; i++) 
1718  {
1719    if(m_GOPList[i].m_temporalId >= m_maxTempLayer)
1720    {
1721      m_maxTempLayer = m_GOPList[i].m_temporalId+1;
1722    }
1723    xConfirmPara(m_GOPList[i].m_sliceType!='B'&&m_GOPList[i].m_sliceType!='P', "Slice type must be equal to B or P");
1724  }
1725  for(Int i=0; i<MAX_TLAYER; i++)
1726  {
1727    m_numReorderPics[i] = 0;
1728#if L0323_DPB
1729    m_maxDecPicBuffering[i] = 1;
1730#else
1731    m_maxDecPicBuffering[i] = 0;
1732#endif
1733  }
1734  for(Int i=0; i<m_iGOPSize; i++) 
1735  {
1736#if L0323_DPB
1737    if(m_GOPList[i].m_numRefPics+1 > m_maxDecPicBuffering[m_GOPList[i].m_temporalId])
1738#else
1739    if(m_GOPList[i].m_numRefPics > m_maxDecPicBuffering[m_GOPList[i].m_temporalId])
1740#endif
1741    {
1742#if L0323_DPB
1743      m_maxDecPicBuffering[m_GOPList[i].m_temporalId] = m_GOPList[i].m_numRefPics + 1;
1744#else
1745      m_maxDecPicBuffering[m_GOPList[i].m_temporalId] = m_GOPList[i].m_numRefPics;
1746#endif
1747    }
1748    Int highestDecodingNumberWithLowerPOC = 0; 
1749    for(Int j=0; j<m_iGOPSize; j++)
1750    {
1751      if(m_GOPList[j].m_POC <= m_GOPList[i].m_POC)
1752      {
1753        highestDecodingNumberWithLowerPOC = j;
1754      }
1755    }
1756    Int numReorder = 0;
1757    for(Int j=0; j<highestDecodingNumberWithLowerPOC; j++)
1758    {
1759      if(m_GOPList[j].m_temporalId <= m_GOPList[i].m_temporalId && 
1760        m_GOPList[j].m_POC > m_GOPList[i].m_POC)
1761      {
1762        numReorder++;
1763      }
1764    }   
1765    if(numReorder > m_numReorderPics[m_GOPList[i].m_temporalId])
1766    {
1767      m_numReorderPics[m_GOPList[i].m_temporalId] = numReorder;
1768    }
1769  }
1770  for(Int i=0; i<MAX_TLAYER-1; i++) 
1771  {
1772    // a lower layer can not have higher value of m_numReorderPics than a higher layer
1773    if(m_numReorderPics[i+1] < m_numReorderPics[i])
1774    {
1775      m_numReorderPics[i+1] = m_numReorderPics[i];
1776    }
1777#if L0323_DPB
1778    // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ] - 1, inclusive
1779    if(m_numReorderPics[i] > m_maxDecPicBuffering[i] - 1)
1780    {
1781      m_maxDecPicBuffering[i] = m_numReorderPics[i] + 1;
1782    }
1783#else
1784    // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ], inclusive
1785    if(m_numReorderPics[i] > m_maxDecPicBuffering[i])
1786    {
1787      m_maxDecPicBuffering[i] = m_numReorderPics[i];
1788    }
1789#endif
1790    // a lower layer can not have higher value of m_uiMaxDecPicBuffering than a higher layer
1791    if(m_maxDecPicBuffering[i+1] < m_maxDecPicBuffering[i])
1792    {
1793      m_maxDecPicBuffering[i+1] = m_maxDecPicBuffering[i];
1794    }
1795  }
1796
1797
1798#if L0323_DPB
1799  // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ] -  1, inclusive
1800  if(m_numReorderPics[MAX_TLAYER-1] > m_maxDecPicBuffering[MAX_TLAYER-1] - 1)
1801  {
1802    m_maxDecPicBuffering[MAX_TLAYER-1] = m_numReorderPics[MAX_TLAYER-1] + 1;
1803  }
1804#else
1805  // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ], inclusive
1806  if(m_numReorderPics[MAX_TLAYER-1] > m_maxDecPicBuffering[MAX_TLAYER-1])
1807  {
1808    m_maxDecPicBuffering[MAX_TLAYER-1] = m_numReorderPics[MAX_TLAYER-1];
1809  }
1810#endif
1811
1812  if(m_vuiParametersPresentFlag && m_bitstreamRestrictionFlag)
1813  { 
1814    Int PicSizeInSamplesY =  m_iSourceWidth * m_iSourceHeight;
1815    if(tileFlag)
1816    {
1817      Int maxTileWidth = 0;
1818      Int maxTileHeight = 0;
1819      Int widthInCU = (m_iSourceWidth % m_uiMaxCUWidth) ? m_iSourceWidth/m_uiMaxCUWidth + 1: m_iSourceWidth/m_uiMaxCUWidth;
1820      Int heightInCU = (m_iSourceHeight % m_uiMaxCUHeight) ? m_iSourceHeight/m_uiMaxCUHeight + 1: m_iSourceHeight/m_uiMaxCUHeight;
1821      if(m_iUniformSpacingIdr)
1822      {
1823        maxTileWidth = m_uiMaxCUWidth*((widthInCU+m_iNumColumnsMinus1)/(m_iNumColumnsMinus1+1));
1824        maxTileHeight = m_uiMaxCUHeight*((heightInCU+m_iNumRowsMinus1)/(m_iNumRowsMinus1+1));
1825        // if only the last tile-row is one treeblock higher than the others
1826        // the maxTileHeight becomes smaller if the last row of treeblocks has lower height than the others
1827        if(!((heightInCU-1)%(m_iNumRowsMinus1+1)))
1828        {
1829          maxTileHeight = maxTileHeight - m_uiMaxCUHeight + (m_iSourceHeight % m_uiMaxCUHeight);
1830        }     
1831        // if only the last tile-column is one treeblock wider than the others
1832        // the maxTileWidth becomes smaller if the last column of treeblocks has lower width than the others   
1833        if(!((widthInCU-1)%(m_iNumColumnsMinus1+1)))
1834        {
1835          maxTileWidth = maxTileWidth - m_uiMaxCUWidth + (m_iSourceWidth % m_uiMaxCUWidth);
1836        }
1837      }
1838      else // not uniform spacing
1839      {
1840        if(m_iNumColumnsMinus1<1)
1841        {
1842          maxTileWidth = m_iSourceWidth;
1843        }
1844        else
1845        {
1846          Int accColumnWidth = 0;
1847          for(Int col=0; col<(m_iNumColumnsMinus1); col++)
1848          {
1849            maxTileWidth = m_pColumnWidth[col]>maxTileWidth ? m_pColumnWidth[col]:maxTileWidth;
1850            accColumnWidth += m_pColumnWidth[col];
1851          }
1852          maxTileWidth = (widthInCU-accColumnWidth)>maxTileWidth ? m_uiMaxCUWidth*(widthInCU-accColumnWidth):m_uiMaxCUWidth*maxTileWidth;
1853        }
1854        if(m_iNumRowsMinus1<1)
1855        {
1856          maxTileHeight = m_iSourceHeight;
1857        }
1858        else
1859        {
1860          Int accRowHeight = 0;
1861          for(Int row=0; row<(m_iNumRowsMinus1); row++)
1862          {
1863            maxTileHeight = m_pRowHeight[row]>maxTileHeight ? m_pRowHeight[row]:maxTileHeight;
1864            accRowHeight += m_pRowHeight[row];
1865          }
1866          maxTileHeight = (heightInCU-accRowHeight)>maxTileHeight ? m_uiMaxCUHeight*(heightInCU-accRowHeight):m_uiMaxCUHeight*maxTileHeight;
1867        }
1868      }
1869      Int maxSizeInSamplesY = maxTileWidth*maxTileHeight;
1870      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/maxSizeInSamplesY-4;
1871    }
1872    else if(m_iWaveFrontSynchro)
1873    {
1874      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/((2*m_iSourceHeight+m_iSourceWidth)*m_uiMaxCUHeight)-4;
1875    }
1876    else if(m_sliceMode == 1)
1877    {
1878      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/(m_sliceArgument*m_uiMaxCUWidth*m_uiMaxCUHeight)-4;
1879    }
1880    else
1881    {
1882      m_minSpatialSegmentationIdc = 0;
1883    }
1884  }
1885#if !L0034_COMBINED_LIST_CLEANUP
1886  xConfirmPara( m_bUseLComb==false && m_numReorderPics[MAX_TLAYER-1]!=0, "ListCombination can only be 0 in low delay coding (more precisely when L0 and L1 are identical)" );  // Note however this is not the full necessary condition as ref_pic_list_combination_flag can only be 0 if L0 == L1.
1887#endif
1888  xConfirmPara( m_iWaveFrontSynchro < 0, "WaveFrontSynchro cannot be negative" );
1889  xConfirmPara( m_iWaveFrontSubstreams <= 0, "WaveFrontSubstreams must be positive" );
1890  xConfirmPara( m_iWaveFrontSubstreams > 1 && !m_iWaveFrontSynchro, "Must have WaveFrontSynchro > 0 in order to have WaveFrontSubstreams > 1" );
1891
1892  xConfirmPara( m_decodedPictureHashSEIEnabled<0 || m_decodedPictureHashSEIEnabled>3, "this hash type is not correct!\n");
1893
1894#if J0149_TONE_MAPPING_SEI
1895  if (m_toneMappingInfoSEIEnabled)
1896  {
1897    xConfirmPara( m_toneMapCodedDataBitDepth < 8 || m_toneMapCodedDataBitDepth > 14 , "SEIToneMapCodedDataBitDepth must be in rage 8 to 14");
1898    xConfirmPara( m_toneMapTargetBitDepth < 1 || (m_toneMapTargetBitDepth > 16 && m_toneMapTargetBitDepth < 255) , "SEIToneMapTargetBitDepth must be in rage 1 to 16 or equal to 255");
1899    xConfirmPara( m_toneMapModelId < 0 || m_toneMapModelId > 4 , "SEIToneMapModelId must be in rage 0 to 4");
1900    xConfirmPara( m_cameraIsoSpeedValue == 0, "SEIToneMapCameraIsoSpeedValue shall not be equal to 0");
1901    xConfirmPara( m_extendedRangeWhiteLevel < 100, "SEIToneMapExtendedRangeWhiteLevel should be greater than or equal to 100");
1902    xConfirmPara( m_nominalBlackLevelLumaCodeValue >= m_nominalWhiteLevelLumaCodeValue, "SEIToneMapNominalWhiteLevelLumaCodeValue shall be greater than SEIToneMapNominalBlackLevelLumaCodeValue");
1903    xConfirmPara( m_extendedWhiteLevelLumaCodeValue < m_nominalWhiteLevelLumaCodeValue, "SEIToneMapExtendedWhiteLevelLumaCodeValue shall be greater than or equal to SEIToneMapNominalWhiteLevelLumaCodeValue");
1904  }
1905#endif
1906
1907#if RATE_CONTROL_LAMBDA_DOMAIN
1908  if ( m_RCEnableRateControl )
1909  {
1910    if ( m_RCForceIntraQP )
1911    {
1912      if ( m_RCInitialQP == 0 )
1913      {
1914        printf( "\nInitial QP for rate control is not specified. Reset not to use force intra QP!" );
1915        m_RCForceIntraQP = false;
1916      }
1917    }
1918    xConfirmPara( m_uiDeltaQpRD > 0, "Rate control cannot be used together with slice level multiple-QP optimization!\n" );
1919  }
1920#else
1921  if(m_enableRateCtrl)
1922  {
1923    Int numLCUInWidth  = (m_iSourceWidth  / m_uiMaxCUWidth) + (( m_iSourceWidth  %  m_uiMaxCUWidth ) ? 1 : 0);
1924    Int numLCUInHeight = (m_iSourceHeight / m_uiMaxCUHeight)+ (( m_iSourceHeight %  m_uiMaxCUHeight) ? 1 : 0);
1925    Int numLCUInPic    =  numLCUInWidth * numLCUInHeight;
1926
1927    xConfirmPara( (numLCUInPic % m_numLCUInUnit) != 0, "total number of LCUs in a frame should be completely divided by NumLCUInUnit" );
1928
1929    m_iMaxDeltaQP       = MAX_DELTA_QP;
1930    m_iMaxCuDQPDepth    = MAX_CUDQP_DEPTH;
1931  }
1932#endif
1933
1934  xConfirmPara(!m_TransquantBypassEnableFlag && m_CUTransquantBypassFlagValue, "CUTransquantBypassFlagValue cannot be 1 when TransquantBypassEnableFlag is 0");
1935
1936  xConfirmPara(m_log2ParallelMergeLevel < 2, "Log2ParallelMergeLevel should be larger than or equal to 2");
1937#if L0444_FPA_TYPE
1938  if (m_framePackingSEIEnabled)
1939  {
1940    xConfirmPara(m_framePackingSEIType < 3 || m_framePackingSEIType > 5 , "SEIFramePackingType must be in rage 3 to 5");
1941  }
1942#endif
1943
1944#if H_MV
1945  }
1946  }
1947#endif
1948
1949#undef xConfirmPara
1950  if (check_failed)
1951  {
1952    exit(EXIT_FAILURE);
1953  }
1954}
1955
1956/** \todo use of global variables should be removed later
1957 */
1958Void TAppEncCfg::xSetGlobal()
1959{
1960  // set max CU width & height
1961  g_uiMaxCUWidth  = m_uiMaxCUWidth;
1962  g_uiMaxCUHeight = m_uiMaxCUHeight;
1963 
1964  // compute actual CU depth with respect to config depth and max transform size
1965  g_uiAddCUDepth  = 0;
1966  while( (m_uiMaxCUWidth>>m_uiMaxCUDepth) > ( 1 << ( m_uiQuadtreeTULog2MinSize + g_uiAddCUDepth )  ) ) g_uiAddCUDepth++;
1967 
1968  m_uiMaxCUDepth += g_uiAddCUDepth;
1969  g_uiAddCUDepth++;
1970  g_uiMaxCUDepth = m_uiMaxCUDepth;
1971 
1972  // set internal bit-depth and constants
1973  g_bitDepthY = m_internalBitDepthY;
1974  g_bitDepthC = m_internalBitDepthC;
1975 
1976  g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_inputBitDepthY : m_internalBitDepthY;
1977  g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_inputBitDepthC : m_internalBitDepthC;
1978}
1979
1980Void TAppEncCfg::xPrintParameter()
1981{
1982  printf("\n");
1983#if H_MV
1984  for( Int layer = 0; layer < m_numberOfLayers; layer++)
1985  {
1986    printf("Input File %i                 : %s\n", layer, m_pchInputFileList[layer]);
1987  }
1988#else
1989  printf("Input          File          : %s\n", m_pchInputFile          );
1990#endif
1991
1992  printf("Bitstream      File          : %s\n", m_pchBitstreamFile      );
1993
1994#if H_MV
1995  for( Int layer = 0; layer < m_numberOfLayers; layer++)
1996  {
1997    printf("Reconstruction File %i        : %s\n", layer, m_pchReconFileList[layer]);
1998  }
1999#else
2000  printf("Reconstruction File          : %s\n", m_pchReconFile          );
2001#endif
2002
2003#if H_MV
2004 xPrintParaVector( "ViewId", m_viewId ); 
2005#endif
2006
2007#if H_3D
2008 xPrintParaVector( "DepthFlag", m_depthFlag ); 
2009#endif
2010
2011#if H_MV 
2012  xPrintParaVector( "QP"               , m_fQP                ); 
2013  xPrintParaVector( "LoopFilterDisable", m_bLoopFilterDisable ); 
2014  xPrintParaVector( "SAO"              , m_bUseSAO            ); 
2015#endif
2016  printf("Real     Format              : %dx%d %dHz\n", m_iSourceWidth - m_confLeft - m_confRight, m_iSourceHeight - m_confTop - m_confBottom, m_iFrameRate );
2017  printf("Internal Format              : %dx%d %dHz\n", m_iSourceWidth, m_iSourceHeight, m_iFrameRate );
2018  printf("Frame index                  : %u - %d (%d frames)\n", m_FrameSkip, m_FrameSkip+m_framesToBeEncoded-1, m_framesToBeEncoded );
2019  printf("CU size / depth              : %d / %d\n", m_uiMaxCUWidth, m_uiMaxCUDepth );
2020  printf("RQT trans. size (min / max)  : %d / %d\n", 1 << m_uiQuadtreeTULog2MinSize, 1 << m_uiQuadtreeTULog2MaxSize );
2021  printf("Max RQT depth inter          : %d\n", m_uiQuadtreeTUMaxDepthInter);
2022  printf("Max RQT depth intra          : %d\n", m_uiQuadtreeTUMaxDepthIntra);
2023  printf("Min PCM size                 : %d\n", 1 << m_uiPCMLog2MinSize);
2024  printf("Motion search range          : %d\n", m_iSearchRange );
2025  printf("Intra period                 : %d\n", m_iIntraPeriod );
2026  printf("Decoding refresh type        : %d\n", m_iDecodingRefreshType );
2027#if !H_MV
2028  printf("QP                           : %5.2f\n", m_fQP );
2029#endif
2030  printf("Max dQP signaling depth      : %d\n", m_iMaxCuDQPDepth);
2031
2032  printf("Cb QP Offset                 : %d\n", m_cbQpOffset   );
2033  printf("Cr QP Offset                 : %d\n", m_crQpOffset);
2034
2035  printf("QP adaptation                : %d (range=%d)\n", m_bUseAdaptiveQP, (m_bUseAdaptiveQP ? m_iQPAdaptationRange : 0) );
2036  printf("GOP size                     : %d\n", m_iGOPSize );
2037  printf("Internal bit depth           : (Y:%d, C:%d)\n", m_internalBitDepthY, m_internalBitDepthC );
2038  printf("PCM sample bit depth         : (Y:%d, C:%d)\n", g_uiPCMBitDepthLuma, g_uiPCMBitDepthChroma );
2039#if RATE_CONTROL_LAMBDA_DOMAIN
2040  printf("RateControl                  : %d\n", m_RCEnableRateControl );
2041  if(m_RCEnableRateControl)
2042  {
2043    printf("TargetBitrate                : %d\n", m_RCTargetBitrate );
2044    printf("KeepHierarchicalBit          : %d\n", m_RCKeepHierarchicalBit );
2045    printf("LCULevelRC                   : %d\n", m_RCLCULevelRC );
2046    printf("UseLCUSeparateModel          : %d\n", m_RCUseLCUSeparateModel );
2047    printf("InitialQP                    : %d\n", m_RCInitialQP );
2048    printf("ForceIntraQP                 : %d\n", m_RCForceIntraQP );
2049  }
2050#else
2051  printf("RateControl                  : %d\n", m_enableRateCtrl);
2052  if(m_enableRateCtrl)
2053  {
2054    printf("TargetBitrate                : %d\n", m_targetBitrate);
2055    printf("NumLCUInUnit                 : %d\n", m_numLCUInUnit);
2056  }
2057#endif
2058  printf("Max Num Merge Candidates     : %d\n", m_maxNumMergeCand);
2059  printf("\n");
2060 
2061  printf("TOOL CFG: ");
2062  printf("IBD:%d ", g_bitDepthY > m_inputBitDepthY || g_bitDepthC > m_inputBitDepthC);
2063  printf("HAD:%d ", m_bUseHADME           );
2064  printf("SRD:%d ", m_bUseSBACRD          );
2065  printf("RDQ:%d ", m_useRDOQ            );
2066  printf("RDQTS:%d ", m_useRDOQTS        );
2067#if L0232_RD_PENALTY
2068  printf("RDpenalty:%d ", m_rdPenalty  );
2069#endif
2070  printf("SQP:%d ", m_uiDeltaQpRD         );
2071  printf("ASR:%d ", m_bUseASR             );
2072#if !L0034_COMBINED_LIST_CLEANUP
2073  printf("LComb:%d ", m_bUseLComb         );
2074#endif
2075  printf("FEN:%d ", m_bUseFastEnc         );
2076  printf("ECU:%d ", m_bUseEarlyCU         );
2077  printf("FDM:%d ", m_useFastDecisionForMerge );
2078  printf("CFM:%d ", m_bUseCbfFastMode         );
2079  printf("ESD:%d ", m_useEarlySkipDetection  );
2080  printf("RQT:%d ", 1     );
2081  printf("TransformSkip:%d ",     m_useTransformSkip              );
2082  printf("TransformSkipFast:%d ", m_useTransformSkipFast       );
2083  printf("Slice: M=%d ", m_sliceMode);
2084  if (m_sliceMode!=0)
2085  {
2086    printf("A=%d ", m_sliceArgument);
2087  }
2088  printf("SliceSegment: M=%d ",m_sliceSegmentMode);
2089  if (m_sliceSegmentMode!=0)
2090  {
2091    printf("A=%d ", m_sliceSegmentArgument);
2092  }
2093  printf("CIP:%d ", m_bUseConstrainedIntraPred);
2094#if !H_MV
2095  printf("SAO:%d ", (m_bUseSAO)?(1):(0));
2096#endif
2097  printf("PCM:%d ", (m_usePCM && (1<<m_uiPCMLog2MinSize) <= m_uiMaxCUWidth)? 1 : 0);
2098  printf("SAOLcuBasedOptimization:%d ", (m_saoLcuBasedOptimization)?(1):(0));
2099
2100  printf("LosslessCuEnabled:%d ", (m_useLossless)? 1:0 );
2101  printf("WPP:%d ", (Int)m_useWeightedPred);
2102  printf("WPB:%d ", (Int)m_useWeightedBiPred);
2103  printf("PME:%d ", m_log2ParallelMergeLevel);
2104  printf(" WaveFrontSynchro:%d WaveFrontSubstreams:%d",
2105          m_iWaveFrontSynchro, m_iWaveFrontSubstreams);
2106  printf(" ScalingList:%d ", m_useScalingListId );
2107  printf("TMVPMode:%d ", m_TMVPModeId     );
2108#if ADAPTIVE_QP_SELECTION
2109  printf("AQpS:%d", m_bUseAdaptQpSelect   );
2110#endif
2111
2112  printf(" SignBitHidingFlag:%d ", m_signHideFlag);
2113  printf("RecalQP:%d", m_recalculateQPAccordingToLambda ? 1 : 0 );
2114  printf("\n\n");
2115 
2116  fflush(stdout);
2117}
2118
2119Bool confirmPara(Bool bflag, const Char* message)
2120{
2121  if (!bflag)
2122    return false;
2123 
2124  printf("Error: %s\n",message);
2125  return true;
2126}
2127
2128//! \}
Note: See TracBrowser for help on using the repository browser.