source: 3DVCSoftware/branches/HTM-DEV-0.1-dev/source/App/TAppEncoder/TAppEncCfg.cpp @ 362

Last change on this file since 362 was 362, checked in by tech, 11 years ago

Update to HM-10.1.

  • Property svn:eol-style set to native
File size: 97.2 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license. 
5 *
6 * Copyright (c) 2010-2013, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TAppEncCfg.cpp
35    \brief    Handle encoder configuration parameters
36*/
37
38#include <stdlib.h>
39#include <cassert>
40#include <cstring>
41#include <string>
42#include "TLibCommon/TComRom.h"
43#include "TAppEncCfg.h"
44
45static istream& operator>>(istream &, Level::Name &);
46static istream& operator>>(istream &, Level::Tier &);
47static istream& operator>>(istream &, Profile::Name &);
48
49#include "TAppCommon/program_options_lite.h"
50#include "TLibEncoder/TEncRateCtrl.h"
51#ifdef WIN32
52#define strdup _strdup
53#endif
54
55using namespace std;
56namespace po = df::program_options_lite;
57
58//! \ingroup TAppEncoder
59//! \{
60
61// ====================================================================================================================
62// Constructor / destructor / initialization / destroy
63// ====================================================================================================================
64
65TAppEncCfg::TAppEncCfg()
66#if H_MV
67: m_pchBitstreamFile()
68#else
69: m_pchInputFile()
70, m_pchBitstreamFile()
71, m_pchReconFile()
72#endif
73, m_pchdQPFile()
74, m_pColumnWidth()
75, m_pRowHeight()
76, m_scalingListFile()
77{
78#if !H_MV
79  m_aidQP = NULL;
80#if J0149_TONE_MAPPING_SEI
81  m_startOfCodedInterval = NULL;
82  m_codedPivotValue = NULL;
83  m_targetPivotValue = NULL;
84#endif
85}
86
87TAppEncCfg::~TAppEncCfg()
88{
89#if H_MV
90  for( Int layer = 0; layer < m_aidQP.size(); layer++ )
91  {
92    if ( m_aidQP[layer] != NULL )
93    {
94      delete[] m_aidQP[layer];
95      m_aidQP[layer] = NULL;
96    }
97  }
98  for(Int i = 0; i< m_pchInputFileList.size(); i++ )
99  {
100    if ( m_pchInputFileList[i] != NULL )
101      free (m_pchInputFileList[i]);
102  }
103#else
104  if ( m_aidQP )
105  {
106    delete[] m_aidQP;
107  }
108  free(m_pchInputFile);
109#endif
110#if J0149_TONE_MAPPING_SEI
111  if ( m_startOfCodedInterval )
112  {
113    delete[] m_startOfCodedInterval;
114    m_startOfCodedInterval = NULL;
115  }
116   if ( m_codedPivotValue )
117  {
118    delete[] m_codedPivotValue;
119    m_codedPivotValue = NULL;
120  }
121  if ( m_targetPivotValue )
122  {
123    delete[] m_targetPivotValue;
124    m_targetPivotValue = NULL;
125  }
126#endif
127  free(m_pchBitstreamFile);
128
129#if H_MV
130  for(Int i = 0; i< m_pchReconFileList.size(); i++ )
131  {
132    if ( m_pchReconFileList[i] != NULL )
133      free (m_pchReconFileList[i]);
134  }
135#else
136  free(m_pchReconFile);
137#endif
138
139  free(m_pchdQPFile);
140  free(m_pColumnWidth);
141  free(m_pRowHeight);
142  free(m_scalingListFile);
143
144#if H_MV
145  for( Int i = 0; i < m_GOPListMvc.size(); i++ )
146  {
147    if( m_GOPListMvc[i] )
148    {
149      delete[] m_GOPListMvc[i];
150      m_GOPListMvc[i] = NULL;
151    }
152  }
153#endif
154}
155
156Void TAppEncCfg::create()
157{
158}
159
160Void TAppEncCfg::destroy()
161{
162}
163
164std::istringstream &operator>>(std::istringstream &in, GOPEntry &entry)     //input
165{
166  in>>entry.m_sliceType;
167  in>>entry.m_POC;
168  in>>entry.m_QPOffset;
169  in>>entry.m_QPFactor;
170  in>>entry.m_tcOffsetDiv2;
171  in>>entry.m_betaOffsetDiv2;
172  in>>entry.m_temporalId;
173  in>>entry.m_numRefPicsActive;
174  in>>entry.m_numRefPics;
175  for ( Int i = 0; i < entry.m_numRefPics; i++ )
176  {
177    in>>entry.m_referencePics[i];
178  }
179  in>>entry.m_interRPSPrediction;
180#if AUTO_INTER_RPS
181  if (entry.m_interRPSPrediction==1)
182  {
183    in>>entry.m_deltaRPS;
184    in>>entry.m_numRefIdc;
185    for ( Int i = 0; i < entry.m_numRefIdc; i++ )
186    {
187      in>>entry.m_refIdc[i];
188    }
189  }
190  else if (entry.m_interRPSPrediction==2)
191  {
192    in>>entry.m_deltaRPS;
193  }
194#else
195  if (entry.m_interRPSPrediction)
196  {
197    in>>entry.m_deltaRPS;
198    in>>entry.m_numRefIdc;
199    for ( Int i = 0; i < entry.m_numRefIdc; i++ )
200    {
201      in>>entry.m_refIdc[i];
202    }
203  }
204#endif
205#if H_MV
206  in>>entry.m_numInterViewRefPics;
207  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
208  {
209    in>>entry.m_interViewRefs[i];
210  }
211  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
212  {
213    in>>entry.m_interViewRefPosL[0][i];
214  }
215  for( Int i = 0; i < entry.m_numInterViewRefPics; i++ )
216  {
217    in>>entry.m_interViewRefPosL[1][i];
218  }
219#endif
220  return in;
221}
222
223static const struct MapStrToProfile {
224  const Char* str;
225  Profile::Name value;
226} strToProfile[] = {
227  {"none", Profile::NONE},
228  {"main", Profile::MAIN},
229  {"main10", Profile::MAIN10},
230  {"main-still-picture", Profile::MAINSTILLPICTURE},
231#if H_MV
232  {"main-stereo",    Profile::MAINSTEREO},
233  {"main-multiview", Profile::MAINMULTIVIEW},
234#if H_3D
235  {"main-3d"    , Profile::MAIN3D},
236#endif
237#endif
238};
239
240static const struct MapStrToTier {
241  const Char* str;
242  Level::Tier value;
243} strToTier[] = {
244  {"main", Level::MAIN},
245  {"high", Level::HIGH},
246};
247
248static const struct MapStrToLevel {
249  const Char* str;
250  Level::Name value;
251} strToLevel[] = {
252  {"none",Level::NONE},
253  {"1",   Level::LEVEL1},
254  {"2",   Level::LEVEL2},
255  {"2.1", Level::LEVEL2_1},
256  {"3",   Level::LEVEL3},
257  {"3.1", Level::LEVEL3_1},
258  {"4",   Level::LEVEL4},
259  {"4.1", Level::LEVEL4_1},
260  {"5",   Level::LEVEL5},
261  {"5.1", Level::LEVEL5_1},
262  {"5.2", Level::LEVEL5_2},
263  {"6",   Level::LEVEL6},
264  {"6.1", Level::LEVEL6_1},
265  {"6.2", Level::LEVEL6_2},
266};
267
268template<typename T, typename P>
269static istream& readStrToEnum(P map[], unsigned long mapLen, istream &in, T &val)
270{
271  string str;
272  in >> str;
273
274  for (Int i = 0; i < mapLen; i++)
275  {
276    if (str == map[i].str)
277    {
278      val = map[i].value;
279      goto found;
280    }
281  }
282  /* not found */
283  in.setstate(ios::failbit);
284found:
285  return in;
286}
287
288static istream& operator>>(istream &in, Profile::Name &profile)
289{
290  return readStrToEnum(strToProfile, sizeof(strToProfile)/sizeof(*strToProfile), in, profile);
291}
292
293static istream& operator>>(istream &in, Level::Tier &tier)
294{
295  return readStrToEnum(strToTier, sizeof(strToTier)/sizeof(*strToTier), in, tier);
296}
297
298static istream& operator>>(istream &in, Level::Name &level)
299{
300  return readStrToEnum(strToLevel, sizeof(strToLevel)/sizeof(*strToLevel), in, level);
301}
302
303#if SIGNAL_BITRATE_PICRATE_IN_VPS
304Void readBoolString(const string inpString, const Int numEntries, Bool* &memberArray, const char *elementName);
305Void readIntString(const string inpString, const Int numEntries, Int* &memberArray, const char *elementName);
306#endif
307// ====================================================================================================================
308// Public member functions
309// ====================================================================================================================
310
311/** \param  argc        number of arguments
312    \param  argv        array of arguments
313    \retval             true when success
314 */
315Bool TAppEncCfg::parseCfg( Int argc, Char* argv[] )
316{
317  Bool do_help = false;
318 
319#if !H_MV
320  string cfg_InputFile;
321#endif
322
323  string cfg_BitstreamFile;
324
325#if !H_MV
326  string cfg_ReconFile;
327#endif
328
329#if H_MV
330  vector<Int>   cfg_dimensionLength; 
331#if H_3D
332  cfg_dimensionLength.push_back( 2  );  // depth
333  cfg_dimensionLength.push_back( 32 );  // texture
334#else
335  cfg_dimensionLength.push_back( 64 ); 
336#endif
337#endif
338
339  string cfg_dQPFile;
340  string cfg_ColumnWidth;
341  string cfg_RowHeight;
342  string cfg_ScalingListFile;
343#if J0149_TONE_MAPPING_SEI
344  string cfg_startOfCodedInterval;
345  string cfg_codedPivotValue;
346  string cfg_targetPivotValue;
347#endif
348#if SIGNAL_BITRATE_PICRATE_IN_VPS
349  string cfg_bitRateInfoPresentFlag;
350  string cfg_picRateInfoPresentFlag;
351  string cfg_avgBitRate;
352  string cfg_maxBitRate;
353  string cfg_avgPicRate;
354  string cfg_constantPicRateIdc;
355#endif
356  po::Options opts;
357  opts.addOptions()
358  ("help", do_help, false, "this help text")
359  ("c", po::parseConfigFile, "configuration file name")
360 
361  // File, I/O and source parameters
362
363#if H_MV
364  ("InputFile_%d,i_%d",       m_pchInputFileList,       (char *) 0 , MAX_NUM_LAYER_IDS , "original Yuv input file name %d")
365#else
366  ("InputFile,i",           cfg_InputFile,     string(""), "Original YUV input file name")
367#endif
368
369  ("BitstreamFile,b",       cfg_BitstreamFile, string(""), "Bitstream output file name")
370
371#if H_MV
372  ("ReconFile_%d,o_%d",       m_pchReconFileList,       (char *) 0 , MAX_NUM_LAYER_IDS , "reconstructed Yuv output file name %d")
373#else
374  ("ReconFile,o",           cfg_ReconFile,     string(""), "Reconstructed YUV output file name")
375#endif
376
377#if H_MV
378  ("NumberOfLayers",        m_numberOfLayers     , 1,                     "Number of layers")
379#if !H_3D
380  ("ScalabilityMask",       m_scalabilityMask    , 1                    , "Scalability Mask")   
381#else
382  ("ScalabilityMask",       m_scalabilityMask    , 3                    , "Scalability Mask, 1: Texture 3: Texture + Depth ")   
383#endif 
384  ("DimensionIdLen",        m_dimensionIdLen     , cfg_dimensionLength  , "Number of bits used to store dimensions Id")
385  ("ViewId",                m_viewId             , std::vector<Int>(1,0), "View Id")
386#if H_3D
387  ("DepthFlag",             m_depthFlag          , std::vector<Int>(1,0), "Depth Flag")
388#endif
389  ("LayerIdInNuh",          m_layerIdInNuh       , std::vector<Int>(1,0), "LayerId in Nuh")
390  ("SplittingFlag",         m_splittingFlag      , false                , "Splitting Flag")   
391#endif
392
393  ("SourceWidth,-wdt",      m_iSourceWidth,        0, "Source picture width")
394  ("SourceHeight,-hgt",     m_iSourceHeight,       0, "Source picture height")
395  ("InputBitDepth",         m_inputBitDepthY,    8, "Bit-depth of input file")
396  ("OutputBitDepth",        m_outputBitDepthY,   0, "Bit-depth of output file (default:InternalBitDepth)")
397  ("InternalBitDepth",      m_internalBitDepthY, 0, "Bit-depth the codec operates at. (default:InputBitDepth)"
398                                                       "If different to InputBitDepth, source data will be converted")
399  ("InputBitDepthC",        m_inputBitDepthC,    0, "As per InputBitDepth but for chroma component. (default:InputBitDepth)")
400  ("OutputBitDepthC",       m_outputBitDepthC,   0, "As per OutputBitDepth but for chroma component. (default:InternalBitDepthC)")
401  ("InternalBitDepthC",     m_internalBitDepthC, 0, "As per InternalBitDepth but for chroma component. (default:IntrenalBitDepth)")
402  ("ConformanceMode",       m_conformanceMode,     0, "Window conformance mode (0: no window, 1:automatic padding, 2:padding, 3:conformance")
403  ("HorizontalPadding,-pdx",m_aiPad[0],            0, "Horizontal source padding for conformance window mode 2")
404  ("VerticalPadding,-pdy",  m_aiPad[1],            0, "Vertical source padding for conformance window mode 2")
405  ("ConfLeft",              m_confLeft,            0, "Left offset for window conformance mode 3")
406  ("ConfRight",             m_confRight,           0, "Right offset for window conformance mode 3")
407  ("ConfTop",               m_confTop,             0, "Top offset for window conformance mode 3")
408  ("ConfBottom",            m_confBottom,          0, "Bottom offset for window conformance mode 3")
409  ("FrameRate,-fr",         m_iFrameRate,          0, "Frame rate")
410  ("FrameSkip,-fs",         m_FrameSkip,          0u, "Number of frames to skip at start of input YUV")
411  ("FramesToBeEncoded,f",   m_framesToBeEncoded,   0, "Number of frames to be encoded (default=all)")
412
413  // Profile and level
414
415  ("Profile", m_profile,   Profile::NONE, "Profile to be used when encoding (Incomplete)")
416  ("Level",   m_level,     Level::NONE,   "Level limit to be used, eg 5.1 (Incomplete)")
417  ("Tier",    m_levelTier, Level::MAIN,   "Tier to use for interpretation of --Level")
418
419#if L0046_CONSTRAINT_FLAGS
420  ("ProgressiveSource", m_progressiveSourceFlag, false, "Indicate that source is progressive")
421  ("InterlacedSource",  m_interlacedSourceFlag,  false, "Indicate that source is interlaced")
422  ("NonPackedSource",   m_nonPackedConstraintFlag, false, "Indicate that source does not contain frame packing")
423  ("FrameOnly",         m_frameOnlyConstraintFlag, false, "Indicate that the bitstream contains only frames")
424#endif
425 
426  // Unit definition parameters
427  ("MaxCUWidth",              m_uiMaxCUWidth,             64u)
428  ("MaxCUHeight",             m_uiMaxCUHeight,            64u)
429  // todo: remove defaults from MaxCUSize
430  ("MaxCUSize,s",             m_uiMaxCUWidth,             64u, "Maximum CU size")
431  ("MaxCUSize,s",             m_uiMaxCUHeight,            64u, "Maximum CU size")
432  ("MaxPartitionDepth,h",     m_uiMaxCUDepth,              4u, "CU depth")
433 
434  ("QuadtreeTULog2MaxSize",   m_uiQuadtreeTULog2MaxSize,   6u, "Maximum TU size in logarithm base 2")
435  ("QuadtreeTULog2MinSize",   m_uiQuadtreeTULog2MinSize,   2u, "Minimum TU size in logarithm base 2")
436 
437  ("QuadtreeTUMaxDepthIntra", m_uiQuadtreeTUMaxDepthIntra, 1u, "Depth of TU tree for intra CUs")
438  ("QuadtreeTUMaxDepthInter", m_uiQuadtreeTUMaxDepthInter, 2u, "Depth of TU tree for inter CUs")
439 
440  // Coding structure paramters
441  ("IntraPeriod,-ip",         m_iIntraPeriod,              -1, "Intra period in frames, (-1: only first frame)")
442  ("DecodingRefreshType,-dr", m_iDecodingRefreshType,       0, "Intra refresh type (0:none 1:CRA 2:IDR)")
443  ("GOPSize,g",               m_iGOPSize,                   1, "GOP size of temporal structure")
444#if !L0034_COMBINED_LIST_CLEANUP
445  ("ListCombination,-lc",     m_bUseLComb,               true, "Combined reference list for uni-prediction estimation in B-slices")
446#endif
447  // motion options
448  ("FastSearch",              m_iFastSearch,                1, "0:Full search  1:Diamond  2:PMVFAST")
449  ("SearchRange,-sr",         m_iSearchRange,              96, "Motion search range")
450  ("BipredSearchRange",       m_bipredSearchRange,          4, "Motion search range for bipred refinement")
451  ("HadamardME",              m_bUseHADME,               true, "Hadamard ME for fractional-pel")
452  ("ASR",                     m_bUseASR,                false, "Adaptive motion search range")
453
454  // Mode decision parameters
455  ("LambdaModifier0,-LM0", m_adLambdaModifier[ 0 ], ( Double )1.0, "Lambda modifier for temporal layer 0")
456  ("LambdaModifier1,-LM1", m_adLambdaModifier[ 1 ], ( Double )1.0, "Lambda modifier for temporal layer 1")
457  ("LambdaModifier2,-LM2", m_adLambdaModifier[ 2 ], ( Double )1.0, "Lambda modifier for temporal layer 2")
458  ("LambdaModifier3,-LM3", m_adLambdaModifier[ 3 ], ( Double )1.0, "Lambda modifier for temporal layer 3")
459  ("LambdaModifier4,-LM4", m_adLambdaModifier[ 4 ], ( Double )1.0, "Lambda modifier for temporal layer 4")
460  ("LambdaModifier5,-LM5", m_adLambdaModifier[ 5 ], ( Double )1.0, "Lambda modifier for temporal layer 5")
461  ("LambdaModifier6,-LM6", m_adLambdaModifier[ 6 ], ( Double )1.0, "Lambda modifier for temporal layer 6")
462  ("LambdaModifier7,-LM7", m_adLambdaModifier[ 7 ], ( Double )1.0, "Lambda modifier for temporal layer 7")
463
464  /* Quantization parameters */
465#if H_MV
466  ("QP,q",          m_fQP, std::vector<double>(1,30.0), "Qp values for each layer, if value is float, QP is switched once during encoding")
467#else
468  ("QP,q",          m_fQP,             30.0, "Qp value, if value is float, QP is switched once during encoding")
469#endif
470  ("DeltaQpRD,-dqr",m_uiDeltaQpRD,       0u, "max dQp offset for slice")
471  ("MaxDeltaQP,d",  m_iMaxDeltaQP,        0, "max dQp offset for block")
472  ("MaxCuDQPDepth,-dqd",  m_iMaxCuDQPDepth,        0, "max depth for a minimum CuDQP")
473
474  ("CbQpOffset,-cbqpofs",  m_cbQpOffset,        0, "Chroma Cb QP Offset")
475  ("CrQpOffset,-crqpofs",  m_crQpOffset,        0, "Chroma Cr QP Offset")
476
477#if ADAPTIVE_QP_SELECTION
478  ("AdaptiveQpSelection,-aqps",   m_bUseAdaptQpSelect,           false, "AdaptiveQpSelection")
479#endif
480
481  ("AdaptiveQP,-aq",                m_bUseAdaptiveQP,           false, "QP adaptation based on a psycho-visual model")
482  ("MaxQPAdaptationRange,-aqr",     m_iQPAdaptationRange,           6, "QP adaptation range")
483  ("dQPFile,m",                     cfg_dQPFile,           string(""), "dQP file name")
484  ("RDOQ",                          m_useRDOQ,                  true )
485  ("RDOQTS",                        m_useRDOQTS,                true )
486#if L0232_RD_PENALTY
487  ("RDpenalty",                     m_rdPenalty,                0,  "RD-penalty for 32x32 TU for intra in non-intra slices. 0:disbaled  1:RD-penalty  2:maximum RD-penalty")
488#endif
489  // Entropy coding parameters
490  ("SBACRD",                         m_bUseSBACRD,                      true, "SBAC based RD estimation")
491 
492  // Deblocking filter parameters
493#if H_MV
494  ("LoopFilterDisable",              m_bLoopFilterDisable,             std::vector<Bool>(1,false), "Disable Loop Filter per Layer" )
495#else
496  ("LoopFilterDisable",              m_bLoopFilterDisable,             false )
497#endif
498  ("LoopFilterOffsetInPPS",          m_loopFilterOffsetInPPS,          false )
499  ("LoopFilterBetaOffset_div2",      m_loopFilterBetaOffsetDiv2,           0 )
500  ("LoopFilterTcOffset_div2",        m_loopFilterTcOffsetDiv2,             0 )
501  ("DeblockingFilterControlPresent", m_DeblockingFilterControlPresent, false )
502#if L0386_DB_METRIC
503  ("DeblockingFilterMetric",         m_DeblockingFilterMetric,         false )
504#endif
505
506  // Coding tools
507  ("AMP",                      m_enableAMP,                 true,  "Enable asymmetric motion partitions")
508  ("TransformSkip",            m_useTransformSkip,          false, "Intra transform skipping")
509  ("TransformSkipFast",        m_useTransformSkipFast,      false, "Fast intra transform skipping")
510#if H_MV
511  ("SAO",                      m_bUseSAO, std::vector<Bool>(1,true), "Enable Sample Adaptive Offset per Layer")
512#else
513  ("SAO",                      m_bUseSAO,                   true,  "Enable Sample Adaptive Offset")
514#endif
515  ("MaxNumOffsetsPerPic",      m_maxNumOffsetsPerPic,       2048,  "Max number of SAO offset per picture (Default: 2048)")   
516  ("SAOLcuBoundary",           m_saoLcuBoundary,            false, "0: right/bottom LCU boundary areas skipped from SAO parameter estimation, 1: non-deblocked pixels are used for those areas")
517  ("SAOLcuBasedOptimization",  m_saoLcuBasedOptimization,   true,  "0: SAO picture-based optimization, 1: SAO LCU-based optimization ")
518  ("SliceMode",                m_sliceMode,                0,     "0: Disable all Recon slice limits, 1: Enforce max # of LCUs, 2: Enforce max # of bytes, 3:specify tiles per dependent slice")
519  ("SliceArgument",            m_sliceArgument,            0,     "Depending on SliceMode being:"
520                                                                   "\t1: max number of CTUs per slice"
521                                                                   "\t2: max number of bytes per slice"
522                                                                   "\t3: max number of tiles per slice")
523  ("SliceSegmentMode",         m_sliceSegmentMode,       0,     "0: Disable all slice segment limits, 1: Enforce max # of LCUs, 2: Enforce max # of bytes, 3:specify tiles per dependent slice")
524  ("SliceSegmentArgument",     m_sliceSegmentArgument,   0,     "Depending on SliceSegmentMode being:"
525                                                                   "\t1: max number of CTUs per slice segment"
526                                                                   "\t2: max number of bytes per slice segment"
527                                                                   "\t3: max number of tiles per slice segment")
528  ("LFCrossSliceBoundaryFlag", m_bLFCrossSliceBoundaryFlag, true)
529
530  ("ConstrainedIntraPred",     m_bUseConstrainedIntraPred,  false, "Constrained Intra Prediction")
531
532  ("PCMEnabledFlag",           m_usePCM,                    false)
533  ("PCMLog2MaxSize",           m_pcmLog2MaxSize,            5u)
534  ("PCMLog2MinSize",           m_uiPCMLog2MinSize,          3u)
535  ("PCMInputBitDepthFlag",     m_bPCMInputBitDepthFlag,     true)
536  ("PCMFilterDisableFlag",     m_bPCMFilterDisableFlag,    false)
537
538  ("LosslessCuEnabled",        m_useLossless, false)
539
540  ("WeightedPredP,-wpP",          m_useWeightedPred,               false,      "Use weighted prediction in P slices")
541  ("WeightedPredB,-wpB",          m_useWeightedBiPred,             false,      "Use weighted (bidirectional) prediction in B slices")
542  ("Log2ParallelMergeLevel",      m_log2ParallelMergeLevel,     2u,          "Parallel merge estimation region")
543  ("UniformSpacingIdc",           m_iUniformSpacingIdr,            0,          "Indicates if the column and row boundaries are distributed uniformly")
544  ("NumTileColumnsMinus1",        m_iNumColumnsMinus1,             0,          "Number of columns in a picture minus 1")
545  ("ColumnWidthArray",            cfg_ColumnWidth,                 string(""), "Array containing ColumnWidth values in units of LCU")
546  ("NumTileRowsMinus1",           m_iNumRowsMinus1,                0,          "Number of rows in a picture minus 1")
547  ("RowHeightArray",              cfg_RowHeight,                   string(""), "Array containing RowHeight values in units of LCU")
548  ("LFCrossTileBoundaryFlag",      m_bLFCrossTileBoundaryFlag,             true,          "1: cross-tile-boundary loop filtering. 0:non-cross-tile-boundary loop filtering")
549  ("WaveFrontSynchro",            m_iWaveFrontSynchro,             0,          "0: no synchro; 1 synchro with TR; 2 TRR etc")
550  ("ScalingList",                 m_useScalingListId,              0,          "0: no scaling list, 1: default scaling lists, 2: scaling lists specified in ScalingListFile")
551  ("ScalingListFile",             cfg_ScalingListFile,             string(""), "Scaling list file name")
552  ("SignHideFlag,-SBH",                m_signHideFlag, 1)
553  ("MaxNumMergeCand",             m_maxNumMergeCand,             5u,         "Maximum number of merge candidates")
554
555  /* Misc. */
556  ("SEIDecodedPictureHash",       m_decodedPictureHashSEIEnabled, 0, "Control generation of decode picture hash SEI messages\n"
557                                                                    "\t3: checksum\n"
558                                                                    "\t2: CRC\n"
559                                                                    "\t1: use MD5\n"
560                                                                    "\t0: disable")
561  ("SEIpictureDigest",            m_decodedPictureHashSEIEnabled, 0, "deprecated alias for SEIDecodedPictureHash")
562  ("TMVPMode", m_TMVPModeId, 1, "TMVP mode 0: TMVP disable for all slices. 1: TMVP enable for all slices (default) 2: TMVP enable for certain slices only")
563  ("FEN", m_bUseFastEnc, false, "fast encoder setting")
564  ("ECU", m_bUseEarlyCU, false, "Early CU setting") 
565  ("FDM", m_useFastDecisionForMerge, true, "Fast decision for Merge RD Cost") 
566  ("CFM", m_bUseCbfFastMode, false, "Cbf fast mode setting")
567  ("ESD", m_useEarlySkipDetection, false, "Early SKIP detection setting")
568#if RATE_CONTROL_LAMBDA_DOMAIN
569  ( "RateControl",         m_RCEnableRateControl,   false, "Rate control: enable rate control" )
570  ( "TargetBitrate",       m_RCTargetBitrate,           0, "Rate control: target bitrate" )
571  ( "KeepHierarchicalBit", m_RCKeepHierarchicalBit, false, "Rate control: keep hierarchical bit allocation in rate control algorithm" )
572  ( "LCULevelRateControl", m_RCLCULevelRC,           true, "Rate control: true: LCU level RC; false: picture level RC" )
573  ( "RCLCUSeparateModel",  m_RCUseLCUSeparateModel,  true, "Rate control: use LCU level separate R-lambda model" )
574  ( "InitialQP",           m_RCInitialQP,               0, "Rate control: initial QP" )
575  ( "RCForceIntraQP",      m_RCForceIntraQP,        false, "Rate control: force intra QP to be equal to initial QP" )
576#else
577  ("RateCtrl,-rc", m_enableRateCtrl, false, "Rate control on/off")
578  ("TargetBitrate,-tbr", m_targetBitrate, 0, "Input target bitrate")
579  ("NumLCUInUnit,-nu", m_numLCUInUnit, 0, "Number of LCUs in an Unit")
580#endif
581
582  ("TransquantBypassEnableFlag", m_TransquantBypassEnableFlag, false, "transquant_bypass_enable_flag indicator in PPS")
583  ("CUTransquantBypassFlagValue", m_CUTransquantBypassFlagValue, false, "Fixed cu_transquant_bypass_flag value, when transquant_bypass_enable_flag is enabled")
584  ("RecalculateQPAccordingToLambda", m_recalculateQPAccordingToLambda, false, "Recalculate QP values according to lambda values. Do not suggest to be enabled in all intra case")
585  ("StrongIntraSmoothing,-sis",      m_useStrongIntraSmoothing,           true, "Enable strong intra smoothing for 32x32 blocks")
586  ("SEIActiveParameterSets",         m_activeParameterSetsSEIEnabled,          0, "Enable generation of active parameter sets SEI messages")
587  ("VuiParametersPresent,-vui",      m_vuiParametersPresentFlag,           false, "Enable generation of vui_parameters()")
588  ("AspectRatioInfoPresent",         m_aspectRatioInfoPresentFlag,         false, "Signals whether aspect_ratio_idc is present")
589  ("AspectRatioIdc",                 m_aspectRatioIdc,                         0, "aspect_ratio_idc")
590  ("SarWidth",                       m_sarWidth,                               0, "horizontal size of the sample aspect ratio")
591  ("SarHeight",                      m_sarHeight,                              0, "vertical size of the sample aspect ratio")
592  ("OverscanInfoPresent",            m_overscanInfoPresentFlag,            false, "Indicates whether conformant decoded pictures are suitable for display using overscan\n")
593  ("OverscanAppropriate",            m_overscanAppropriateFlag,            false, "Indicates whether conformant decoded pictures are suitable for display using overscan\n")
594  ("VideoSignalTypePresent",         m_videoSignalTypePresentFlag,         false, "Signals whether video_format, video_full_range_flag, and colour_description_present_flag are present")
595  ("VideoFormat",                    m_videoFormat,                            5, "Indicates representation of pictures")
596  ("VideoFullRange",                 m_videoFullRangeFlag,                 false, "Indicates the black level and range of luma and chroma signals")
597  ("ColourDescriptionPresent",       m_colourDescriptionPresentFlag,       false, "Signals whether colour_primaries, transfer_characteristics and matrix_coefficients are present")
598  ("ColourPrimaries",                m_colourPrimaries,                        2, "Indicates chromaticity coordinates of the source primaries")
599  ("TransferCharateristics",         m_transferCharacteristics,                2, "Indicates the opto-electronic transfer characteristics of the source")
600  ("MatrixCoefficients",             m_matrixCoefficients,                     2, "Describes the matrix coefficients used in deriving luma and chroma from RGB primaries")
601  ("ChromaLocInfoPresent",           m_chromaLocInfoPresentFlag,           false, "Signals whether chroma_sample_loc_type_top_field and chroma_sample_loc_type_bottom_field are present")
602  ("ChromaSampleLocTypeTopField",    m_chromaSampleLocTypeTopField,            0, "Specifies the location of chroma samples for top field")
603  ("ChromaSampleLocTypeBottomField", m_chromaSampleLocTypeBottomField,         0, "Specifies the location of chroma samples for bottom field")
604  ("NeutralChromaIndication",        m_neutralChromaIndicationFlag,        false, "Indicates that the value of all decoded chroma samples is equal to 1<<(BitDepthCr-1)")
605  ("DefaultDisplayWindowFlag",       m_defaultDisplayWindowFlag,           false, "Indicates the presence of the Default Window parameters")
606  ("DefDispWinLeftOffset",           m_defDispWinLeftOffset,                   0, "Specifies the left offset of the default display window from the conformance window")
607  ("DefDispWinRightOffset",          m_defDispWinRightOffset,                  0, "Specifies the right offset of the default display window from the conformance window")
608  ("DefDispWinTopOffset",            m_defDispWinTopOffset,                    0, "Specifies the top offset of the default display window from the conformance window")
609  ("DefDispWinBottomOffset",         m_defDispWinBottomOffset,                 0, "Specifies the bottom offset of the default display window from the conformance window")
610  ("FrameFieldInfoPresentFlag",      m_frameFieldInfoPresentFlag,               false, "Indicates that pic_struct and field coding related values are present in picture timing SEI messages")
611  ("PocProportionalToTimingFlag",   m_pocProportionalToTimingFlag,         false, "Indicates that the POC value is proportional to the output time w.r.t. first picture in CVS")
612  ("NumTicksPocDiffOneMinus1",      m_numTicksPocDiffOneMinus1,                0, "Number of ticks minus 1 that for a POC difference of one")
613  ("BitstreamRestriction",           m_bitstreamRestrictionFlag,           false, "Signals whether bitstream restriction parameters are present")
614  ("TilesFixedStructure",            m_tilesFixedStructureFlag,            false, "Indicates that each active picture parameter set has the same values of the syntax elements related to tiles")
615  ("MotionVectorsOverPicBoundaries", m_motionVectorsOverPicBoundariesFlag, false, "Indicates that no samples outside the picture boundaries are used for inter prediction")
616  ("MaxBytesPerPicDenom",            m_maxBytesPerPicDenom,                    2, "Indicates a number of bytes not exceeded by the sum of the sizes of the VCL NAL units associated with any coded picture")
617  ("MaxBitsPerMinCuDenom",           m_maxBitsPerMinCuDenom,                   1, "Indicates an upper bound for the number of bits of coding_unit() data")
618  ("Log2MaxMvLengthHorizontal",      m_log2MaxMvLengthHorizontal,             15, "Indicate the maximum absolute value of a decoded horizontal MV component in quarter-pel luma units")
619  ("Log2MaxMvLengthVertical",        m_log2MaxMvLengthVertical,               15, "Indicate the maximum absolute value of a decoded vertical MV component in quarter-pel luma units")
620  ("SEIRecoveryPoint",               m_recoveryPointSEIEnabled,                0, "Control generation of recovery point SEI messages")
621  ("SEIBufferingPeriod",             m_bufferingPeriodSEIEnabled,              0, "Control generation of buffering period SEI messages")
622  ("SEIPictureTiming",               m_pictureTimingSEIEnabled,                0, "Control generation of picture timing SEI messages")
623#if J0149_TONE_MAPPING_SEI
624  ("SEIToneMappingInfo",                       m_toneMappingInfoSEIEnabled,    false, "Control generation of Tone Mapping SEI messages")
625  ("SEIToneMapId",                             m_toneMapId,                        0, "Specifies Id of Tone Mapping SEI message for a given session")
626  ("SEIToneMapCancelFlag",                     m_toneMapCancelFlag,            false, "Indicates that Tone Mapping SEI message cancels the persistance or follows")
627  ("SEIToneMapPersistenceFlag",                m_toneMapPersistenceFlag,        true, "Specifies the persistence of the Tone Mapping SEI message")
628  ("SEIToneMapCodedDataBitDepth",              m_toneMapCodedDataBitDepth,         8, "Specifies Coded Data BitDepth of Tone Mapping SEI messages")
629  ("SEIToneMapTargetBitDepth",                 m_toneMapTargetBitDepth,            8, "Specifies Output BitDepth of Tome mapping function")
630  ("SEIToneMapModelId",                        m_toneMapModelId,                   0, "Specifies Model utilized for mapping coded data into target_bit_depth range\n"
631                                                                                      "\t0:  linear mapping with clipping\n"
632                                                                                      "\t1:  sigmoidal mapping\n"
633                                                                                      "\t2:  user-defined table mapping\n"
634                                                                                      "\t3:  piece-wise linear mapping\n"
635                                                                                      "\t4:  luminance dynamic range information ")
636  ("SEIToneMapMinValue",                              m_toneMapMinValue,                          0, "Specifies the minimum value in mode 0")
637  ("SEIToneMapMaxValue",                              m_toneMapMaxValue,                       1023, "Specifies the maxmum value in mode 0")
638  ("SEIToneMapSigmoidMidpoint",                       m_sigmoidMidpoint,                        512, "Specifies the centre point in mode 1")
639  ("SEIToneMapSigmoidWidth",                          m_sigmoidWidth,                           960, "Specifies the distance between 5% and 95% values of the target_bit_depth in mode 1")
640  ("SEIToneMapStartOfCodedInterval",                  cfg_startOfCodedInterval,          string(""), "Array of user-defined mapping table")
641  ("SEIToneMapNumPivots",                             m_numPivots,                                0, "Specifies the number of pivot points in mode 3")
642  ("SEIToneMapCodedPivotValue",                       cfg_codedPivotValue,               string(""), "Array of pivot point")
643  ("SEIToneMapTargetPivotValue",                      cfg_targetPivotValue,              string(""), "Array of pivot point")
644  ("SEIToneMapCameraIsoSpeedIdc",                     m_cameraIsoSpeedIdc,                        0, "Indicates the camera ISO speed for daylight illumination")
645  ("SEIToneMapCameraIsoSpeedValue",                   m_cameraIsoSpeedValue,                    400, "Specifies the camera ISO speed for daylight illumination of Extended_ISO")
646  ("SEIToneMapExposureCompensationValueSignFlag",     m_exposureCompensationValueSignFlag,        0, "Specifies the sign of ExposureCompensationValue")
647  ("SEIToneMapExposureCompensationValueNumerator",    m_exposureCompensationValueNumerator,       0, "Specifies the numerator of ExposureCompensationValue")
648  ("SEIToneMapExposureCompensationValueDenomIdc",     m_exposureCompensationValueDenomIdc,        2, "Specifies the denominator of ExposureCompensationValue")
649  ("SEIToneMapRefScreenLuminanceWhite",               m_refScreenLuminanceWhite,                350, "Specifies reference screen brightness setting in units of candela per square metre")
650  ("SEIToneMapExtendedRangeWhiteLevel",               m_extendedRangeWhiteLevel,                800, "Indicates the luminance dynamic range")
651  ("SEIToneMapNominalBlackLevelLumaCodeValue",        m_nominalBlackLevelLumaCodeValue,          16, "Specifies luma sample value of the nominal black level assigned decoded pictures")
652  ("SEIToneMapNominalWhiteLevelLumaCodeValue",        m_nominalWhiteLevelLumaCodeValue,         235, "Specifies luma sample value of the nominal white level assigned decoded pictures")
653  ("SEIToneMapExtendedWhiteLevelLumaCodeValue",       m_extendedWhiteLevelLumaCodeValue,        300, "Specifies luma sample value of the extended dynamic range assigned decoded pictures")
654#endif
655  ("SEIFramePacking",                m_framePackingSEIEnabled,                 0, "Control generation of frame packing SEI messages")
656  ("SEIFramePackingType",            m_framePackingSEIType,                    0, "Define frame packing arrangement\n"
657                                                                                  "\t0: checkerboard - pixels alternatively represent either frames\n"
658                                                                                  "\t1: column alternation - frames are interlaced by column\n"
659                                                                                  "\t2: row alternation - frames are interlaced by row\n"
660                                                                                  "\t3: side by side - frames are displayed horizontally\n"
661                                                                                  "\t4: top bottom - frames are displayed vertically\n"
662                                                                                  "\t5: frame alternation - one frame is alternated with the other")
663  ("SEIFramePackingId",              m_framePackingSEIId,                      0, "Id of frame packing SEI message for a given session")
664  ("SEIFramePackingQuincunx",        m_framePackingSEIQuincunx,                0, "Indicate the presence of a Quincunx type video frame")
665  ("SEIFramePackingInterpretation",  m_framePackingSEIInterpretation,          0, "Indicate the interpretation of the frame pair\n"
666                                                                                  "\t0: unspecified\n"
667                                                                                  "\t1: stereo pair, frame0 represents left view\n"
668                                                                                  "\t2: stereo pair, frame0 represents right view")
669  ("SEIDisplayOrientation",          m_displayOrientationSEIAngle,             0, "Control generation of display orientation SEI messages\n"
670                                                              "\tN: 0 < N < (2^16 - 1) enable display orientation SEI message with anticlockwise_rotation = N and display_orientation_repetition_period = 1\n"
671                                                              "\t0: disable")
672  ("SEITemporalLevel0Index",         m_temporalLevel0IndexSEIEnabled,          0, "Control generation of temporal level 0 index SEI messages")
673  ("SEIGradualDecodingRefreshInfo",  m_gradualDecodingRefreshInfoEnabled,      0, "Control generation of gradual decoding refresh information SEI message")
674  ("SEIDecodingUnitInfo",             m_decodingUnitInfoSEIEnabled,                       0, "Control generation of decoding unit information SEI message.")
675#if L0208_SOP_DESCRIPTION_SEI
676  ("SEISOPDescription",              m_SOPDescriptionSEIEnabled,              0, "Control generation of SOP description SEI messages")
677#endif
678#if K0180_SCALABLE_NESTING_SEI
679  ("SEIScalableNesting",             m_scalableNestingSEIEnabled,              0, "Control generation of scalable nesting SEI messages")
680#endif
681#if SIGNAL_BITRATE_PICRATE_IN_VPS
682  ("BitRatePicRateMaxTLayers",   m_bitRatePicRateMaxTLayers,           0, "Maximum number of sub-layers signalled; can be inferred otherwise; here for easy parsing of config. file")
683  ("BitRateInfoPresent",         cfg_bitRateInfoPresentFlag,          string(""), "Control signalling of bit rate information of avg. bit rate and max. bit rate in VPS\n"
684                                                                          "\t0: Do not sent bit rate info\n"
685                                                                          "\tN (N > 0): Send bit rate info for N sub-layers. N should equal maxTempLayers.")                                                                     
686  ("PicRateInfoPresent",         cfg_picRateInfoPresentFlag,          string(""), "Control signalling of picture rate information of avg. bit rate and max. bit rate in VPS\n"
687                                                                          "\t0: Do not sent picture rate info\n"
688                                                                          "\tN (N > 0): Send picture rate info for N sub-layers. N should equal maxTempLayers.")                                                                     
689  ("AvgBitRate",                   cfg_avgBitRate,                    string(""), "List of avg. bit rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
690  ("MaxBitRate",                   cfg_maxBitRate,                    string(""), "List of max. bit rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
691  ("AvgPicRate",                   cfg_avgPicRate,                    string(""), "List of avg. picture rates for the different sub-layers; include non-negative number even if corresponding flag is 0")
692  ("ConstantPicRateIdc",           cfg_constantPicRateIdc,            string(""), "List of constant picture rate IDCs; include non-negative number even if corresponding flag is 0")
693#endif
694  ;
695 
696#if H_MV
697  // parse coding structure
698  for( Int k = 0; k < MAX_NUM_LAYERS; k++ )
699  {
700    m_GOPListMvc.push_back( new GOPEntry[MAX_GOP + 1] );
701    if( k == 0 )
702    {
703      for( Int i = 1; i < MAX_GOP + 1; i++ ) 
704      {
705        std::ostringstream cOSS;
706        cOSS<<"Frame"<<i;
707        opts.addOptions()( cOSS.str(), m_GOPListMvc[k][i-1], GOPEntry() );
708      }
709    }
710    else
711    {
712      std::ostringstream cOSS1;
713      cOSS1<<"FrameI"<<"_l"<<k;
714      opts.addOptions()(cOSS1.str(), m_GOPListMvc[k][MAX_GOP], GOPEntry());
715
716      for( Int i = 1; i < MAX_GOP + 1; i++ ) 
717      {
718        std::ostringstream cOSS2;
719        cOSS2<<"Frame"<<i<<"_l"<<k;
720        opts.addOptions()(cOSS2.str(), m_GOPListMvc[k][i-1], GOPEntry());
721      }
722    }
723  }
724#else
725  for(Int i=1; i<MAX_GOP+1; i++) {
726    std::ostringstream cOSS;
727    cOSS<<"Frame"<<i;
728    opts.addOptions()(cOSS.str(), m_GOPList[i-1], GOPEntry());
729  }
730#endif
731
732  po::setDefaults(opts);
733  const list<const Char*>& argv_unhandled = po::scanArgv(opts, argc, (const Char**) argv);
734
735  for (list<const Char*>::const_iterator it = argv_unhandled.begin(); it != argv_unhandled.end(); it++)
736  {
737    fprintf(stderr, "Unhandled argument ignored: `%s'\n", *it);
738  }
739 
740  if (argc == 1 || do_help)
741  {
742    /* argc == 1: no options have been specified */
743    po::doHelp(cout, opts);
744    return false;
745  }
746 
747  /*
748   * Set any derived parameters
749   */
750  /* convert std::string to c string for compatability */
751
752#if !H_MV
753  m_pchInputFile = cfg_InputFile.empty() ? NULL : strdup(cfg_InputFile.c_str());
754#endif
755
756  m_pchBitstreamFile = cfg_BitstreamFile.empty() ? NULL : strdup(cfg_BitstreamFile.c_str());
757
758#if !H_MV
759  m_pchReconFile = cfg_ReconFile.empty() ? NULL : strdup(cfg_ReconFile.c_str());
760#endif
761
762  m_pchdQPFile = cfg_dQPFile.empty() ? NULL : strdup(cfg_dQPFile.c_str());
763 
764  Char* pColumnWidth = cfg_ColumnWidth.empty() ? NULL: strdup(cfg_ColumnWidth.c_str());
765  Char* pRowHeight = cfg_RowHeight.empty() ? NULL : strdup(cfg_RowHeight.c_str());
766  if( m_iUniformSpacingIdr == 0 && m_iNumColumnsMinus1 > 0 )
767  {
768    char *columnWidth;
769    int  i=0;
770    m_pColumnWidth = new UInt[m_iNumColumnsMinus1];
771    columnWidth = strtok(pColumnWidth, " ,-");
772    while(columnWidth!=NULL)
773    {
774      if( i>=m_iNumColumnsMinus1 )
775      {
776        printf( "The number of columns whose width are defined is larger than the allowed number of columns.\n" );
777        exit( EXIT_FAILURE );
778      }
779      *( m_pColumnWidth + i ) = atoi( columnWidth );
780      columnWidth = strtok(NULL, " ,-");
781      i++;
782    }
783    if( i<m_iNumColumnsMinus1 )
784    {
785      printf( "The width of some columns is not defined.\n" );
786      exit( EXIT_FAILURE );
787    }
788  }
789  else
790  {
791    m_pColumnWidth = NULL;
792  }
793
794  if( m_iUniformSpacingIdr == 0 && m_iNumRowsMinus1 > 0 )
795  {
796    char *rowHeight;
797    int  i=0;
798    m_pRowHeight = new UInt[m_iNumRowsMinus1];
799    rowHeight = strtok(pRowHeight, " ,-");
800    while(rowHeight!=NULL)
801    {
802      if( i>=m_iNumRowsMinus1 )
803      {
804        printf( "The number of rows whose height are defined is larger than the allowed number of rows.\n" );
805        exit( EXIT_FAILURE );
806      }
807      *( m_pRowHeight + i ) = atoi( rowHeight );
808      rowHeight = strtok(NULL, " ,-");
809      i++;
810    }
811    if( i<m_iNumRowsMinus1 )
812    {
813      printf( "The height of some rows is not defined.\n" );
814      exit( EXIT_FAILURE );
815   }
816  }
817  else
818  {
819    m_pRowHeight = NULL;
820  }
821#if H_MV
822  free ( pColumnWidth );
823  free ( pRowHeight   ); 
824#endif
825
826#if SIGNAL_BITRATE_PICRATE_IN_VPS
827  readBoolString(cfg_bitRateInfoPresentFlag, m_bitRatePicRateMaxTLayers, m_bitRateInfoPresentFlag, "bit rate info. present flag" );
828  readIntString (cfg_avgBitRate,             m_bitRatePicRateMaxTLayers, m_avgBitRate,             "avg. bit rate"               );
829  readIntString (cfg_maxBitRate,             m_bitRatePicRateMaxTLayers, m_maxBitRate,             "max. bit rate"               );
830  readBoolString(cfg_picRateInfoPresentFlag, m_bitRatePicRateMaxTLayers, m_picRateInfoPresentFlag, "bit rate info. present flag" );
831  readIntString (cfg_avgPicRate,             m_bitRatePicRateMaxTLayers, m_avgPicRate,             "avg. pic rate"               );
832  readIntString (cfg_constantPicRateIdc,     m_bitRatePicRateMaxTLayers, m_constantPicRateIdc,     "constant pic rate Idc"       );
833#endif
834  m_scalingListFile = cfg_ScalingListFile.empty() ? NULL : strdup(cfg_ScalingListFile.c_str());
835 
836  /* rules for input, output and internal bitdepths as per help text */
837  if (!m_internalBitDepthY) { m_internalBitDepthY = m_inputBitDepthY; }
838  if (!m_internalBitDepthC) { m_internalBitDepthC = m_internalBitDepthY; }
839  if (!m_inputBitDepthC) { m_inputBitDepthC = m_inputBitDepthY; }
840  if (!m_outputBitDepthY) { m_outputBitDepthY = m_internalBitDepthY; }
841  if (!m_outputBitDepthC) { m_outputBitDepthC = m_internalBitDepthC; }
842
843  // TODO:ChromaFmt assumes 4:2:0 below
844  switch (m_conformanceMode)
845  {
846  case 0:
847    {
848      // no conformance or padding
849      m_confLeft = m_confRight = m_confTop = m_confBottom = 0;
850      m_aiPad[1] = m_aiPad[0] = 0;
851      break;
852    }
853  case 1:
854    {
855      // automatic padding to minimum CU size
856      Int minCuSize = m_uiMaxCUHeight >> (m_uiMaxCUDepth - 1);
857      if (m_iSourceWidth % minCuSize)
858      {
859        m_aiPad[0] = m_confRight  = ((m_iSourceWidth / minCuSize) + 1) * minCuSize - m_iSourceWidth;
860        m_iSourceWidth  += m_confRight;
861      }
862      if (m_iSourceHeight % minCuSize)
863      {
864        m_aiPad[1] = m_confBottom = ((m_iSourceHeight / minCuSize) + 1) * minCuSize - m_iSourceHeight;
865        m_iSourceHeight += m_confBottom;
866      }
867      if (m_aiPad[0] % TComSPS::getWinUnitX(CHROMA_420) != 0)
868      {
869        fprintf(stderr, "Error: picture width is not an integer multiple of the specified chroma subsampling\n");
870        exit(EXIT_FAILURE);
871      }
872      if (m_aiPad[1] % TComSPS::getWinUnitY(CHROMA_420) != 0)
873      {
874        fprintf(stderr, "Error: picture height is not an integer multiple of the specified chroma subsampling\n");
875        exit(EXIT_FAILURE);
876      }
877      break;
878    }
879  case 2:
880    {
881      //padding
882      m_iSourceWidth  += m_aiPad[0];
883      m_iSourceHeight += m_aiPad[1];
884      m_confRight  = m_aiPad[0];
885      m_confBottom = m_aiPad[1];
886      break;
887    }
888  case 3:
889    {
890      // conformance
891      if ((m_confLeft == 0) && (m_confRight == 0) && (m_confTop == 0) && (m_confBottom == 0))
892      {
893        fprintf(stderr, "Warning: Conformance window enabled, but all conformance window parameters set to zero\n");
894      }
895      if ((m_aiPad[1] != 0) || (m_aiPad[0]!=0))
896      {
897        fprintf(stderr, "Warning: Conformance window enabled, padding parameters will be ignored\n");
898      }
899      m_aiPad[1] = m_aiPad[0] = 0;
900      break;
901    }
902  }
903 
904  // allocate slice-based dQP values
905#if H_MV
906  xResizeVector( m_viewId    ); 
907#if H_3D
908  xResizeVector( m_depthFlag ); 
909#endif
910
911  xResizeVector( m_fQP ); 
912
913  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
914  {
915    m_aidQP.push_back( new Int[ m_framesToBeEncoded + m_iGOPSize + 1 ] );
916    ::memset( m_aidQP[layer], 0, sizeof(Int)*( m_framesToBeEncoded + m_iGOPSize + 1 ) );
917
918    // handling of floating-point QP values
919    // if QP is not integer, sequence is split into two sections having QP and QP+1
920    m_iQP.push_back((Int)( m_fQP[layer] ));
921    if ( m_iQP[layer] < m_fQP[layer] )
922    {
923      Int iSwitchPOC = (Int)( m_framesToBeEncoded - (m_fQP[layer] - m_iQP[layer])*m_framesToBeEncoded + 0.5 );
924
925      iSwitchPOC = (Int)( (Double)iSwitchPOC / m_iGOPSize + 0.5 )*m_iGOPSize;
926      for ( Int i=iSwitchPOC; i<m_framesToBeEncoded + m_iGOPSize + 1; i++ )
927      {
928        m_aidQP[layer][i] = 1;
929      }
930    }
931  }
932
933  xResizeVector( m_bLoopFilterDisable ); 
934  xResizeVector( m_bUseSAO );   
935
936#else
937  m_aidQP = new Int[ m_framesToBeEncoded + m_iGOPSize + 1 ];
938  ::memset( m_aidQP, 0, sizeof(Int)*( m_framesToBeEncoded + m_iGOPSize + 1 ) );
939 
940  // handling of floating-point QP values
941  // if QP is not integer, sequence is split into two sections having QP and QP+1
942  m_iQP = (Int)( m_fQP );
943  if ( m_iQP < m_fQP )
944  {
945    Int iSwitchPOC = (Int)( m_framesToBeEncoded - (m_fQP - m_iQP)*m_framesToBeEncoded + 0.5 );
946   
947    iSwitchPOC = (Int)( (Double)iSwitchPOC / m_iGOPSize + 0.5 )*m_iGOPSize;
948    for ( Int i=iSwitchPOC; i<m_framesToBeEncoded + m_iGOPSize + 1; i++ )
949    {
950      m_aidQP[i] = 1;
951    }
952  }
953#endif
954 
955  // reading external dQP description from file
956  if ( m_pchdQPFile )
957  {
958    FILE* fpt=fopen( m_pchdQPFile, "r" );
959    if ( fpt )
960    {
961#if H_MV
962      for( Int layer = 0; layer < m_numberOfLayers; layer++ )
963      {
964#endif
965      Int iValue;
966      Int iPOC = 0;
967      while ( iPOC < m_framesToBeEncoded )
968      {
969        if ( fscanf(fpt, "%d", &iValue ) == EOF ) break;
970#if H_MV
971        m_aidQP[layer][ iPOC ] = iValue;
972        iPOC++;
973      }
974#else
975        m_aidQP[ iPOC ] = iValue;
976        iPOC++;
977#endif
978      }
979      fclose(fpt);
980    }
981  }
982  m_iWaveFrontSubstreams = m_iWaveFrontSynchro ? (m_iSourceHeight + m_uiMaxCUHeight - 1) / m_uiMaxCUHeight : 1;
983
984#if J0149_TONE_MAPPING_SEI
985  if( m_toneMappingInfoSEIEnabled && !m_toneMapCancelFlag )
986  {
987    Char* pcStartOfCodedInterval = cfg_startOfCodedInterval.empty() ? NULL: strdup(cfg_startOfCodedInterval.c_str());
988    Char* pcCodedPivotValue = cfg_codedPivotValue.empty() ? NULL: strdup(cfg_codedPivotValue.c_str());
989    Char* pcTargetPivotValue = cfg_targetPivotValue.empty() ? NULL: strdup(cfg_targetPivotValue.c_str());
990    if( m_toneMapModelId == 2 && pcStartOfCodedInterval )
991    {
992      char *startOfCodedInterval;
993      UInt num = 1u<< m_toneMapTargetBitDepth;
994      m_startOfCodedInterval = new Int[num];
995      ::memset( m_startOfCodedInterval, 0, sizeof(Int)*num );
996      startOfCodedInterval = strtok(pcStartOfCodedInterval, " .");
997      int i = 0;
998      while( startOfCodedInterval && ( i < num ) )
999      {
1000        m_startOfCodedInterval[i] = atoi( startOfCodedInterval );
1001        startOfCodedInterval = strtok(NULL, " .");
1002        i++;
1003      }
1004    } 
1005    else
1006    {
1007      m_startOfCodedInterval = NULL;
1008    }
1009    if( ( m_toneMapModelId == 3 ) && ( m_numPivots > 0 ) )
1010    {
1011      if( pcCodedPivotValue && pcTargetPivotValue )
1012      {
1013        char *codedPivotValue;
1014        char *targetPivotValue;
1015        m_codedPivotValue = new Int[m_numPivots];
1016        m_targetPivotValue = new Int[m_numPivots];
1017        ::memset( m_codedPivotValue, 0, sizeof(Int)*( m_numPivots ) );
1018        ::memset( m_targetPivotValue, 0, sizeof(Int)*( m_numPivots ) );
1019        codedPivotValue = strtok(pcCodedPivotValue, " .");
1020        int i=0;
1021        while(codedPivotValue&&i<m_numPivots)
1022        {
1023          m_codedPivotValue[i] = atoi( codedPivotValue );
1024          codedPivotValue = strtok(NULL, " .");
1025          i++;
1026        }
1027        i=0;
1028        targetPivotValue = strtok(pcTargetPivotValue, " .");
1029        while(targetPivotValue&&i<m_numPivots)
1030        {
1031          m_targetPivotValue[i]= atoi( targetPivotValue );
1032          targetPivotValue = strtok(NULL, " .");
1033          i++;
1034        }
1035      }
1036    }
1037    else
1038    {
1039      m_codedPivotValue = NULL;
1040      m_targetPivotValue = NULL;
1041    }
1042  }
1043#endif
1044  // check validity of input parameters
1045  xCheckParameter();
1046 
1047  // set global varibles
1048  xSetGlobal();
1049 
1050  // print-out parameters
1051  xPrintParameter();
1052 
1053  return true;
1054}
1055#if SIGNAL_BITRATE_PICRATE_IN_VPS
1056Void readBoolString(const string inpString, const Int numEntries, Bool* &memberArray, const char *elementName)
1057{
1058  Char* inpArray = inpString.empty() ? NULL : strdup(inpString.c_str());
1059  Int i = 0;
1060  if(numEntries)
1061  {
1062    Char* tempArray = strtok(inpArray, " ,-");
1063    memberArray = new Bool[numEntries];
1064    while( tempArray != NULL )
1065    {
1066      if( i >= numEntries )
1067      {
1068        printf( "The number of %s defined is larger than the allowed number\n", elementName );
1069        exit( EXIT_FAILURE );
1070      }
1071      assert( (atoi(tempArray) == 0) || (atoi(tempArray) == 1) );
1072      *( memberArray + i ) = atoi(tempArray);
1073      tempArray = strtok(NULL, " ,-");
1074      i++;
1075    }
1076    if( i < numEntries )
1077    {
1078      printf( "Some %s are not defined\n", elementName );
1079      exit( EXIT_FAILURE );
1080    }
1081  }
1082  else
1083  {
1084    memberArray = NULL;
1085  }
1086}
1087
1088Void readIntString(const string inpString, const Int numEntries, Int* &memberArray, const char *elementName)
1089{
1090  Char* inpArray = inpString.empty() ? NULL : strdup(inpString.c_str());
1091  Int i = 0;
1092  if(numEntries)
1093  {
1094    Char* tempArray = strtok(inpArray, " ,-");
1095    memberArray = new Int[numEntries];
1096    while( tempArray != NULL )
1097    {
1098      if( i >= numEntries )
1099      {
1100        printf( "The number of %s defined is larger than the allowed number\n", elementName );
1101        exit( EXIT_FAILURE );
1102      }
1103      *( memberArray + i ) = atoi(tempArray);
1104      tempArray = strtok(NULL, " ,-");
1105      i++;
1106    }
1107    if( i < numEntries )
1108    {
1109      printf( "Some %s are not defined\n", elementName );
1110      exit( EXIT_FAILURE );
1111    }
1112  }
1113  else
1114  {
1115    memberArray = NULL;
1116  }
1117}
1118#endif
1119// ====================================================================================================================
1120// Private member functions
1121// ====================================================================================================================
1122
1123Bool confirmPara(Bool bflag, const Char* message);
1124
1125Void TAppEncCfg::xCheckParameter()
1126{
1127  if (!m_decodedPictureHashSEIEnabled)
1128  {
1129    fprintf(stderr, "******************************************************************\n");
1130    fprintf(stderr, "** WARNING: --SEIDecodedPictureHash is now disabled by default. **\n");
1131    fprintf(stderr, "**          Automatic verification of decoded pictures by a     **\n");
1132    fprintf(stderr, "**          decoder requires this option to be enabled.         **\n");
1133    fprintf(stderr, "******************************************************************\n");
1134  }
1135
1136  Bool check_failed = false; /* abort if there is a fatal configuration problem */
1137#define xConfirmPara(a,b) check_failed |= confirmPara(a,b)
1138  // check range of parameters
1139  xConfirmPara( m_inputBitDepthY < 8,                                                     "InputBitDepth must be at least 8" );
1140  xConfirmPara( m_inputBitDepthC < 8,                                                     "InputBitDepthC must be at least 8" );
1141  xConfirmPara( m_iFrameRate <= 0,                                                          "Frame rate must be more than 1" );
1142  xConfirmPara( m_framesToBeEncoded <= 0,                                                   "Total Number Of Frames encoded must be more than 0" );
1143
1144#if H_MV
1145  xConfirmPara( m_numberOfLayers > MAX_NUM_LAYER_IDS ,                                      "NumberOfLayers must be less than or equal to MAX_NUM_LAYER_IDS");
1146
1147
1148  xConfirmPara( m_layerIdInNuh[0] != 0      , "LayerIdInNuh must be 0 for the first layer. ");
1149  xConfirmPara( (m_layerIdInNuh.size()!=1) && (m_layerIdInNuh.size() < m_numberOfLayers) , "LayerIdInNuh must be given for all layers. ");
1150 
1151#if H_3D
1152  xConfirmPara( m_scalabilityMask != 1 && m_scalabilityMask != 3, "Scalability Mask must be equal to 1 or 3. ");
1153#else
1154  xConfirmPara( m_scalabilityMask != 1 , "Scalability Mask must be equal to 1. ");
1155#endif
1156 
1157  m_dimIds.push_back( m_viewId ); 
1158#if H_3D
1159  if ( m_scalabilityMask & ( 1 << DEPTH_ID ) )
1160    m_dimIds.push_back( m_depthFlag ); 
1161#endif
1162
1163  xConfirmPara(  m_dimensionIdLen.size() < m_dimIds.size(), "DimensionIdLen must be given for all dimensions. "   ); 
1164
1165 for( Int dim = 0; dim < m_dimIds.size(); dim++ )
1166 {
1167   xConfirmPara( m_dimIds[dim].size() < m_numberOfLayers,  "DimensionId must be given for all layers and all dimensions. ");
1168   xConfirmPara( m_dimIds[dim][0] != 0,                    "DimensionId of layer 0 must be 0 in all dimensions. " );
1169   xConfirmPara( m_dimensionIdLen[dim] < 1 || m_dimensionIdLen[dim] > 8, "DimensionIdLen must be greater than 0 and less than 9 in all dimensions. " ); 
1170   for( Int i = 1; i < m_numberOfLayers; i++ )
1171   {     
1172     xConfirmPara(  ( m_dimIds[dim][i] < 0 ) || ( m_dimIds[dim][i] > ( ( 1 << m_dimensionIdLen[dim] ) - 1 ) )   , "DimensionId shall be in the range of 0 to 2^DimensionIdLen - 1. " );
1173   }
1174 }
1175
1176 for( Int i = 0; i < m_numberOfLayers; i++ )
1177 {
1178   for( Int j = 0; j < i; j++ )
1179   {     
1180     Int numDiff  = 0; 
1181     Int lastDiff = -1; 
1182     for( Int dim = 0; dim < m_dimIds.size(); dim++ )
1183     {
1184       if ( m_dimIds[dim][i] != m_dimIds[dim][j] )
1185       {
1186         numDiff ++; 
1187         lastDiff = dim; 
1188       }
1189     }
1190
1191     Bool allEqual = ( numDiff == 0 ); 
1192
1193     if ( allEqual ) 
1194     {
1195       printf( "\nError: Positions of Layers %d and %d are identical in scalability space\n", i, j);
1196     }
1197
1198     xConfirmPara( allEqual , "Each layer shall have a different position in scalability space." );
1199
1200     if ( numDiff  == 1 ) 
1201     {
1202       Bool inc = m_dimIds[ lastDiff ][ i ] > m_dimIds[ lastDiff ][ j ]; 
1203       if ( !inc )
1204       {       
1205         printf( "\nError: Positions of Layers %d and %d is not increasing in dimension %d \n", i, j, lastDiff);       
1206       }
1207       xConfirmPara( !inc,  "DimensionIds shall be increasing within one dimension. " );
1208     }
1209   }
1210 }
1211
1212#endif
1213
1214
1215  xConfirmPara( m_iGOPSize < 1 ,                                                            "GOP Size must be greater or equal to 1" );
1216  xConfirmPara( m_iGOPSize > 1 &&  m_iGOPSize % 2,                                          "GOP Size must be a multiple of 2, if GOP Size is greater than 1" );
1217  xConfirmPara( (m_iIntraPeriod > 0 && m_iIntraPeriod < m_iGOPSize) || m_iIntraPeriod == 0, "Intra period must be more than GOP size, or -1 , not 0" );
1218  xConfirmPara( m_iDecodingRefreshType < 0 || m_iDecodingRefreshType > 2,                   "Decoding Refresh Type must be equal to 0, 1 or 2" );
1219#if H_MV
1220  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1221  {
1222    xConfirmPara( m_iQP[layer] <  -6 * (m_internalBitDepthY - 8) || m_iQP[layer] > 51,      "QP exceeds supported range (-QpBDOffsety to 51)" );
1223  }
1224#else
1225  xConfirmPara( m_iQP <  -6 * (m_internalBitDepthY - 8) || m_iQP > 51,                    "QP exceeds supported range (-QpBDOffsety to 51)" );
1226#endif
1227  xConfirmPara( m_loopFilterBetaOffsetDiv2 < -13 || m_loopFilterBetaOffsetDiv2 > 13,          "Loop Filter Beta Offset div. 2 exceeds supported range (-13 to 13)");
1228  xConfirmPara( m_loopFilterTcOffsetDiv2 < -13 || m_loopFilterTcOffsetDiv2 > 13,              "Loop Filter Tc Offset div. 2 exceeds supported range (-13 to 13)");
1229  xConfirmPara( m_iFastSearch < 0 || m_iFastSearch > 2,                                     "Fast Search Mode is not supported value (0:Full search  1:Diamond  2:PMVFAST)" );
1230  xConfirmPara( m_iSearchRange < 0 ,                                                        "Search Range must be more than 0" );
1231  xConfirmPara( m_bipredSearchRange < 0 ,                                                   "Search Range must be more than 0" );
1232  xConfirmPara( m_iMaxDeltaQP > 7,                                                          "Absolute Delta QP exceeds supported range (0 to 7)" );
1233  xConfirmPara( m_iMaxCuDQPDepth > m_uiMaxCUDepth - 1,                                          "Absolute depth for a minimum CuDQP exceeds maximum coding unit depth" );
1234
1235  xConfirmPara( m_cbQpOffset < -12,   "Min. Chroma Cb QP Offset is -12" );
1236  xConfirmPara( m_cbQpOffset >  12,   "Max. Chroma Cb QP Offset is  12" );
1237  xConfirmPara( m_crQpOffset < -12,   "Min. Chroma Cr QP Offset is -12" );
1238  xConfirmPara( m_crQpOffset >  12,   "Max. Chroma Cr QP Offset is  12" );
1239
1240  xConfirmPara( m_iQPAdaptationRange <= 0,                                                  "QP Adaptation Range must be more than 0" );
1241  if (m_iDecodingRefreshType == 2)
1242  {
1243    xConfirmPara( m_iIntraPeriod > 0 && m_iIntraPeriod <= m_iGOPSize ,                      "Intra period must be larger than GOP size for periodic IDR pictures");
1244  }
1245  xConfirmPara( (m_uiMaxCUWidth  >> m_uiMaxCUDepth) < 4,                                    "Minimum partition width size should be larger than or equal to 8");
1246  xConfirmPara( (m_uiMaxCUHeight >> m_uiMaxCUDepth) < 4,                                    "Minimum partition height size should be larger than or equal to 8");
1247  xConfirmPara( m_uiMaxCUWidth < 16,                                                        "Maximum partition width size should be larger than or equal to 16");
1248  xConfirmPara( m_uiMaxCUHeight < 16,                                                       "Maximum partition height size should be larger than or equal to 16");
1249  xConfirmPara( (m_iSourceWidth  % (m_uiMaxCUWidth  >> (m_uiMaxCUDepth-1)))!=0,             "Resulting coded frame width must be a multiple of the minimum CU size");
1250  xConfirmPara( (m_iSourceHeight % (m_uiMaxCUHeight >> (m_uiMaxCUDepth-1)))!=0,             "Resulting coded frame height must be a multiple of the minimum CU size");
1251 
1252  xConfirmPara( m_uiQuadtreeTULog2MinSize < 2,                                        "QuadtreeTULog2MinSize must be 2 or greater.");
1253  xConfirmPara( m_uiQuadtreeTULog2MaxSize > 5,                                        "QuadtreeTULog2MaxSize must be 5 or smaller.");
1254  xConfirmPara( (1<<m_uiQuadtreeTULog2MaxSize) > m_uiMaxCUWidth,                                        "QuadtreeTULog2MaxSize must be log2(maxCUSize) or smaller.");
1255 
1256  xConfirmPara( m_uiQuadtreeTULog2MaxSize < m_uiQuadtreeTULog2MinSize,                "QuadtreeTULog2MaxSize must be greater than or equal to m_uiQuadtreeTULog2MinSize.");
1257  xConfirmPara( (1<<m_uiQuadtreeTULog2MinSize)>(m_uiMaxCUWidth >>(m_uiMaxCUDepth-1)), "QuadtreeTULog2MinSize must not be greater than minimum CU size" ); // HS
1258  xConfirmPara( (1<<m_uiQuadtreeTULog2MinSize)>(m_uiMaxCUHeight>>(m_uiMaxCUDepth-1)), "QuadtreeTULog2MinSize must not be greater than minimum CU size" ); // HS
1259  xConfirmPara( ( 1 << m_uiQuadtreeTULog2MinSize ) > ( m_uiMaxCUWidth  >> m_uiMaxCUDepth ), "Minimum CU width must be greater than minimum transform size." );
1260  xConfirmPara( ( 1 << m_uiQuadtreeTULog2MinSize ) > ( m_uiMaxCUHeight >> m_uiMaxCUDepth ), "Minimum CU height must be greater than minimum transform size." );
1261  xConfirmPara( m_uiQuadtreeTUMaxDepthInter < 1,                                                         "QuadtreeTUMaxDepthInter must be greater than or equal to 1" );
1262  xConfirmPara( m_uiMaxCUWidth < ( 1 << (m_uiQuadtreeTULog2MinSize + m_uiQuadtreeTUMaxDepthInter - 1) ), "QuadtreeTUMaxDepthInter must be less than or equal to the difference between log2(maxCUSize) and QuadtreeTULog2MinSize plus 1" );
1263  xConfirmPara( m_uiQuadtreeTUMaxDepthIntra < 1,                                                         "QuadtreeTUMaxDepthIntra must be greater than or equal to 1" );
1264  xConfirmPara( m_uiMaxCUWidth < ( 1 << (m_uiQuadtreeTULog2MinSize + m_uiQuadtreeTUMaxDepthIntra - 1) ), "QuadtreeTUMaxDepthInter must be less than or equal to the difference between log2(maxCUSize) and QuadtreeTULog2MinSize plus 1" );
1265 
1266  xConfirmPara(  m_maxNumMergeCand < 1,  "MaxNumMergeCand must be 1 or greater.");
1267  xConfirmPara(  m_maxNumMergeCand > 5,  "MaxNumMergeCand must be 5 or smaller.");
1268
1269#if ADAPTIVE_QP_SELECTION
1270#if H_MV
1271  for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1272  {
1273    xConfirmPara( m_bUseAdaptQpSelect == true && m_iQP[layer] < 0,                                     "AdaptiveQpSelection must be disabled when QP < 0.");
1274  }
1275#else
1276  xConfirmPara( m_bUseAdaptQpSelect == true && m_iQP < 0,                                              "AdaptiveQpSelection must be disabled when QP < 0.");
1277#endif
1278  xConfirmPara( m_bUseAdaptQpSelect == true && (m_cbQpOffset !=0 || m_crQpOffset != 0 ),               "AdaptiveQpSelection must be disabled when ChromaQpOffset is not equal to 0.");
1279#endif
1280
1281  if( m_usePCM)
1282  {
1283    xConfirmPara(  m_uiPCMLog2MinSize < 3,                                      "PCMLog2MinSize must be 3 or greater.");
1284    xConfirmPara(  m_uiPCMLog2MinSize > 5,                                      "PCMLog2MinSize must be 5 or smaller.");
1285    xConfirmPara(  m_pcmLog2MaxSize > 5,                                        "PCMLog2MaxSize must be 5 or smaller.");
1286    xConfirmPara(  m_pcmLog2MaxSize < m_uiPCMLog2MinSize,                       "PCMLog2MaxSize must be equal to or greater than m_uiPCMLog2MinSize.");
1287  }
1288
1289  xConfirmPara( m_sliceMode < 0 || m_sliceMode > 3, "SliceMode exceeds supported range (0 to 3)" );
1290  if (m_sliceMode!=0)
1291  {
1292    xConfirmPara( m_sliceArgument < 1 ,         "SliceArgument should be larger than or equal to 1" );
1293  }
1294  xConfirmPara( m_sliceSegmentMode < 0 || m_sliceSegmentMode > 3, "SliceSegmentMode exceeds supported range (0 to 3)" );
1295  if (m_sliceSegmentMode!=0)
1296  {
1297    xConfirmPara( m_sliceSegmentArgument < 1 ,         "SliceSegmentArgument should be larger than or equal to 1" );
1298  }
1299 
1300  Bool tileFlag = (m_iNumColumnsMinus1 > 0 || m_iNumRowsMinus1 > 0 );
1301  xConfirmPara( tileFlag && m_iWaveFrontSynchro,            "Tile and Wavefront can not be applied together");
1302
1303  //TODO:ChromaFmt assumes 4:2:0 below
1304  xConfirmPara( m_iSourceWidth  % TComSPS::getWinUnitX(CHROMA_420) != 0, "Picture width must be an integer multiple of the specified chroma subsampling");
1305  xConfirmPara( m_iSourceHeight % TComSPS::getWinUnitY(CHROMA_420) != 0, "Picture height must be an integer multiple of the specified chroma subsampling");
1306
1307  xConfirmPara( m_aiPad[0] % TComSPS::getWinUnitX(CHROMA_420) != 0, "Horizontal padding must be an integer multiple of the specified chroma subsampling");
1308  xConfirmPara( m_aiPad[1] % TComSPS::getWinUnitY(CHROMA_420) != 0, "Vertical padding must be an integer multiple of the specified chroma subsampling");
1309
1310  xConfirmPara( m_confLeft   % TComSPS::getWinUnitX(CHROMA_420) != 0, "Left conformance window offset must be an integer multiple of the specified chroma subsampling");
1311  xConfirmPara( m_confRight  % TComSPS::getWinUnitX(CHROMA_420) != 0, "Right conformance window offset must be an integer multiple of the specified chroma subsampling");
1312  xConfirmPara( m_confTop    % TComSPS::getWinUnitY(CHROMA_420) != 0, "Top conformance window offset must be an integer multiple of the specified chroma subsampling");
1313  xConfirmPara( m_confBottom % TComSPS::getWinUnitY(CHROMA_420) != 0, "Bottom conformance window offset must be an integer multiple of the specified chroma subsampling");
1314
1315  // max CU width and height should be power of 2
1316  UInt ui = m_uiMaxCUWidth;
1317  while(ui)
1318  {
1319    ui >>= 1;
1320    if( (ui & 1) == 1)
1321      xConfirmPara( ui != 1 , "Width should be 2^n");
1322  }
1323  ui = m_uiMaxCUHeight;
1324  while(ui)
1325  {
1326    ui >>= 1;
1327    if( (ui & 1) == 1)
1328      xConfirmPara( ui != 1 , "Height should be 2^n");
1329  }
1330
1331#if H_MV
1332  // validate that POC of same frame is identical across multiple layers
1333  Bool bErrorMvePoc = false;
1334  if( m_numberOfLayers > 1 )
1335  {
1336    for( Int k = 1; k < m_numberOfLayers; k++ )
1337    {
1338      for( Int i = 0; i < MAX_GOP; i++ )
1339      {
1340        if( m_GOPListMvc[k][i].m_POC != m_GOPListMvc[0][i].m_POC )
1341        {
1342          printf( "\nError: Frame%d_l%d POC %d is not identical to Frame%d POC\n", i, k, m_GOPListMvc[k][i].m_POC, i );
1343          bErrorMvePoc = true;
1344        }
1345      }
1346    }
1347  }
1348  xConfirmPara( bErrorMvePoc,  "Invalid inter-layer POC structure given" );
1349
1350  // validate that baseview has no inter-view refs
1351  Bool bErrorIvpBase = false;
1352  for( Int i = 0; i < MAX_GOP; i++ )
1353  {
1354    if( m_GOPListMvc[0][i].m_numInterViewRefPics != 0 )
1355    {
1356      printf( "\nError: Frame%d inter_layer refs not available in layer 0\n", i );
1357      bErrorIvpBase = true;
1358    }
1359  }
1360  xConfirmPara( bErrorIvpBase, "Inter-layer refs not possible in base layer" );
1361
1362  // validate inter-view refs
1363  Bool bErrorIvpEnhV = false;
1364  if( m_numberOfLayers > 1 )
1365  {
1366    for( Int k = 1; k < m_numberOfLayers; k++ )
1367    {
1368      for( Int i = 0; i < MAX_GOP+1; i++ )
1369      {
1370        for( Int j = 0; j < m_GOPListMvc[k][i].m_numInterViewRefPics; j++ )
1371        {
1372          Int iAbsViewId = m_GOPListMvc[k][i].m_interViewRefs[j] + k;
1373          if( iAbsViewId < 0 || iAbsViewId >= k )
1374          {
1375            printf( "\nError: inter-layer ref pic %d is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefs[j], i, k );
1376            bErrorIvpEnhV = true;
1377          }
1378          if( m_GOPListMvc[k][i].m_interViewRefPosL[0][j] < -1 || m_GOPListMvc[k][i].m_interViewRefPosL[0][j] > m_GOPListMvc[k][i].m_numRefPicsActive )
1379          {
1380            printf( "\nError: inter-layer ref pos %d on L0 is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefPosL[0][j], i, k );
1381            bErrorIvpEnhV = true;
1382          }
1383          if( m_GOPListMvc[k][i].m_interViewRefPosL[1][j] < -1  || m_GOPListMvc[k][i].m_interViewRefPosL[1][j] > m_GOPListMvc[k][i].m_numRefPicsActive )
1384          {
1385            printf( "\nError: inter-layer ref pos %d on L1 is not available for Frame%d_l%d\n", m_GOPListMvc[k][i].m_interViewRefPosL[1][j], i, k );
1386            bErrorIvpEnhV = true;
1387          }
1388        }
1389        if( i == MAX_GOP ) // inter-view refs at I pic position in base view
1390        {
1391          if( m_GOPListMvc[k][MAX_GOP].m_sliceType != 'B' && m_GOPListMvc[k][MAX_GOP].m_sliceType != 'P' && m_GOPListMvc[k][MAX_GOP].m_sliceType != 'I' )
1392          {
1393            printf( "\nError: slice type of FrameI_l%d must be equal to B or P or I\n", k );
1394            bErrorIvpEnhV = true;
1395          }
1396
1397          if( m_GOPListMvc[k][MAX_GOP].m_POC != 0 )
1398          {
1399            printf( "\nError: POC %d not possible for FrameI_l%d, must be 0\n", m_GOPListMvc[k][MAX_GOP].m_POC, k );
1400            bErrorIvpEnhV = true;
1401          }
1402
1403          if( m_GOPListMvc[k][MAX_GOP].m_temporalId != 0 )
1404          {
1405            printf( "\nWarning: Temporal id of FrameI_l%d must be 0 (cp. I-frame in base layer)\n", k );
1406            m_GOPListMvc[k][MAX_GOP].m_temporalId = 0;
1407          }
1408
1409          if( m_GOPListMvc[k][MAX_GOP].m_numRefPics != 0 )
1410          {
1411            printf( "\nWarning: temporal references not possible for FrameI_l%d\n", k );
1412            for( Int j = 0; j < m_GOPListMvc[k][MAX_GOP].m_numRefPics; j++ )
1413            {
1414              m_GOPListMvc[k][MAX_GOP].m_referencePics[j] = 0;
1415            }
1416            m_GOPListMvc[k][MAX_GOP].m_numRefPics = 0;
1417          }
1418
1419          if( m_GOPListMvc[k][MAX_GOP].m_interRPSPrediction )
1420          {
1421            printf( "\nError: inter RPS prediction not possible for FrameI_l%d, must be 0\n", k );
1422            bErrorIvpEnhV = true;
1423          }
1424
1425          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'I' && m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics != 0 )
1426          {
1427            printf( "\nError: inter-layer prediction not possible for FrameI_l%d with slice type I, #IL_ref_pics must be 0\n", k );
1428            bErrorIvpEnhV = true;
1429          }
1430
1431          if( m_GOPListMvc[k][MAX_GOP].m_numRefPicsActive > m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics )
1432          {
1433            m_GOPListMvc[k][MAX_GOP].m_numRefPicsActive = m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics;
1434          }
1435
1436          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'P' )
1437          {
1438            if( m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics < 1 )
1439            {
1440              printf( "\nError: #IL_ref_pics must be at least one for FrameI_l%d with slice type P\n", k );
1441              bErrorIvpEnhV = true;
1442            }
1443            else
1444            {
1445              for( Int j = 0; j < m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics; j++ )
1446              {
1447                if( m_GOPListMvc[k][MAX_GOP].m_interViewRefPosL[1][j] != -1 )
1448                {
1449                  printf( "\nError: inter-layer ref pos %d on L1 not possible for FrameI_l%d with slice type P\n", m_GOPListMvc[k][MAX_GOP].m_interViewRefPosL[1][j], k );
1450                  bErrorIvpEnhV = true;
1451                }
1452              }
1453            }
1454          }
1455
1456          if( m_GOPListMvc[k][MAX_GOP].m_sliceType == 'B' && m_GOPListMvc[k][MAX_GOP].m_numInterViewRefPics < 1 )
1457          {
1458            printf( "\nError: #IL_ref_pics must be at least one for FrameI_l%d with slice type B\n", k );
1459            bErrorIvpEnhV = true;
1460          }
1461        }
1462      }
1463    }
1464  }
1465  xConfirmPara( bErrorIvpEnhV, "Invalid inter-layer coding structure for enhancement layers given" );
1466
1467  // validate temporal coding structure
1468  if( !bErrorMvePoc && !bErrorIvpBase && !bErrorIvpEnhV )
1469  {
1470    for( Int layer = 0; layer < m_numberOfLayers; layer++ )
1471    {
1472      GOPEntry* m_GOPList            = m_GOPListMvc           [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1473      Int&      m_extraRPSs          = m_extraRPSsMvc         [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1474      Int&      m_maxTempLayer       = m_maxTempLayerMvc      [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1475      Int*      m_maxDecPicBuffering = m_maxDecPicBufferingMvc[layer]; // It is not a member, but this name helps avoiding code duplication !!!
1476      Int*      m_numReorderPics     = m_numReorderPicsMvc    [layer]; // It is not a member, but this name helps avoiding code duplication !!!
1477#endif
1478
1479  /* if this is an intra-only sequence, ie IntraPeriod=1, don't verify the GOP structure
1480   * This permits the ability to omit a GOP structure specification */
1481  if (m_iIntraPeriod == 1 && m_GOPList[0].m_POC == -1) {
1482    m_GOPList[0] = GOPEntry();
1483    m_GOPList[0].m_QPFactor = 1;
1484    m_GOPList[0].m_betaOffsetDiv2 = 0;
1485    m_GOPList[0].m_tcOffsetDiv2 = 0;
1486    m_GOPList[0].m_POC = 1;
1487    m_GOPList[0].m_numRefPicsActive = 4;
1488  }
1489 
1490  Bool verifiedGOP=false;
1491  Bool errorGOP=false;
1492  Int checkGOP=1;
1493  Int numRefs = 1;
1494  Int refList[MAX_NUM_REF_PICS+1];
1495  refList[0]=0;
1496  Bool isOK[MAX_GOP];
1497  for(Int i=0; i<MAX_GOP; i++) 
1498  {
1499    isOK[i]=false;
1500  }
1501  Int numOK=0;
1502  xConfirmPara( m_iIntraPeriod >=0&&(m_iIntraPeriod%m_iGOPSize!=0), "Intra period must be a multiple of GOPSize, or -1" );
1503
1504  for(Int i=0; i<m_iGOPSize; i++)
1505  {
1506    if(m_GOPList[i].m_POC==m_iGOPSize)
1507    {
1508      xConfirmPara( m_GOPList[i].m_temporalId!=0 , "The last frame in each GOP must have temporal ID = 0 " );
1509    }
1510  }
1511 
1512#if H_MV
1513  if ( (m_iIntraPeriod != 1) && !m_loopFilterOffsetInPPS && m_DeblockingFilterControlPresent && (!m_bLoopFilterDisable[layer]) )
1514#else
1515  if ( (m_iIntraPeriod != 1) && !m_loopFilterOffsetInPPS && m_DeblockingFilterControlPresent && (!m_bLoopFilterDisable) )
1516#endif
1517  {
1518    for(Int i=0; i<m_iGOPSize; i++)
1519    {
1520      xConfirmPara( (m_GOPList[i].m_betaOffsetDiv2 + m_loopFilterBetaOffsetDiv2) < -6 || (m_GOPList[i].m_betaOffsetDiv2 + m_loopFilterBetaOffsetDiv2) > 6, "Loop Filter Beta Offset div. 2 for one of the GOP entries exceeds supported range (-6 to 6)" );
1521      xConfirmPara( (m_GOPList[i].m_tcOffsetDiv2 + m_loopFilterTcOffsetDiv2) < -6 || (m_GOPList[i].m_tcOffsetDiv2 + m_loopFilterTcOffsetDiv2) > 6, "Loop Filter Tc Offset div. 2 for one of the GOP entries exceeds supported range (-6 to 6)" );
1522    }
1523  }
1524  m_extraRPSs=0;
1525  //start looping through frames in coding order until we can verify that the GOP structure is correct.
1526  while(!verifiedGOP&&!errorGOP) 
1527  {
1528    Int curGOP = (checkGOP-1)%m_iGOPSize;
1529    Int curPOC = ((checkGOP-1)/m_iGOPSize)*m_iGOPSize + m_GOPList[curGOP].m_POC;   
1530    if(m_GOPList[curGOP].m_POC<0) 
1531    {
1532#if H_MV
1533      printf("\nError: found fewer Reference Picture Sets than GOPSize for layer %d\n", layer );
1534#else
1535      printf("\nError: found fewer Reference Picture Sets than GOPSize\n");
1536#endif
1537      errorGOP=true;
1538    }
1539    else 
1540    {
1541      //check that all reference pictures are available, or have a POC < 0 meaning they might be available in the next GOP.
1542      Bool beforeI = false;
1543      for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1544      {
1545        Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1546        if(absPOC < 0)
1547        {
1548          beforeI=true;
1549        }
1550        else 
1551        {
1552          Bool found=false;
1553          for(Int j=0; j<numRefs; j++) 
1554          {
1555            if(refList[j]==absPOC) 
1556            {
1557              found=true;
1558              for(Int k=0; k<m_iGOPSize; k++)
1559              {
1560                if(absPOC%m_iGOPSize == m_GOPList[k].m_POC%m_iGOPSize)
1561                {
1562                  if(m_GOPList[k].m_temporalId==m_GOPList[curGOP].m_temporalId)
1563                  {
1564                    m_GOPList[k].m_refPic = true;
1565                  }
1566                  m_GOPList[curGOP].m_usedByCurrPic[i]=m_GOPList[k].m_temporalId<=m_GOPList[curGOP].m_temporalId;
1567                }
1568              }
1569            }
1570          }
1571          if(!found)
1572          {
1573#if H_MV
1574            printf("\nError: ref pic %d is not available for GOP frame %d of layer %d\n", m_GOPList[curGOP].m_referencePics[i], curGOP+1, layer);
1575#else
1576            printf("\nError: ref pic %d is not available for GOP frame %d\n",m_GOPList[curGOP].m_referencePics[i],curGOP+1);
1577#endif
1578            errorGOP=true;
1579          }
1580        }
1581      }
1582      if(!beforeI&&!errorGOP)
1583      {
1584        //all ref frames were present
1585        if(!isOK[curGOP]) 
1586        {
1587          numOK++;
1588          isOK[curGOP]=true;
1589          if(numOK==m_iGOPSize)
1590          {
1591            verifiedGOP=true;
1592          }
1593        }
1594      }
1595      else 
1596      {
1597        //create a new GOPEntry for this frame containing all the reference pictures that were available (POC > 0)
1598        m_GOPList[m_iGOPSize+m_extraRPSs]=m_GOPList[curGOP];
1599        Int newRefs=0;
1600        for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1601        {
1602          Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1603          if(absPOC>=0)
1604          {
1605            m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[newRefs]=m_GOPList[curGOP].m_referencePics[i];
1606            m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[newRefs]=m_GOPList[curGOP].m_usedByCurrPic[i];
1607            newRefs++;
1608          }
1609        }
1610        Int numPrefRefs = m_GOPList[curGOP].m_numRefPicsActive;
1611       
1612        for(Int offset = -1; offset>-checkGOP; offset--)
1613        {
1614          //step backwards in coding order and include any extra available pictures we might find useful to replace the ones with POC < 0.
1615          Int offGOP = (checkGOP-1+offset)%m_iGOPSize;
1616          Int offPOC = ((checkGOP-1+offset)/m_iGOPSize)*m_iGOPSize + m_GOPList[offGOP].m_POC;
1617          if(offPOC>=0&&m_GOPList[offGOP].m_temporalId<=m_GOPList[curGOP].m_temporalId)
1618          {
1619            Bool newRef=false;
1620            for(Int i=0; i<numRefs; i++)
1621            {
1622              if(refList[i]==offPOC)
1623              {
1624                newRef=true;
1625              }
1626            }
1627            for(Int i=0; i<newRefs; i++) 
1628            {
1629              if(m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[i]==offPOC-curPOC)
1630              {
1631                newRef=false;
1632              }
1633            }
1634            if(newRef) 
1635            {
1636              Int insertPoint=newRefs;
1637              //this picture can be added, find appropriate place in list and insert it.
1638              if(m_GOPList[offGOP].m_temporalId==m_GOPList[curGOP].m_temporalId)
1639              {
1640                m_GOPList[offGOP].m_refPic = true;
1641              }
1642              for(Int j=0; j<newRefs; j++)
1643              {
1644                if(m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]<offPOC-curPOC||m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]>0)
1645                {
1646                  insertPoint = j;
1647                  break;
1648                }
1649              }
1650              Int prev = offPOC-curPOC;
1651              Int prevUsed = m_GOPList[offGOP].m_temporalId<=m_GOPList[curGOP].m_temporalId;
1652              for(Int j=insertPoint; j<newRefs+1; j++)
1653              {
1654                Int newPrev = m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j];
1655                Int newUsed = m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j];
1656                m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j]=prev;
1657                m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j]=prevUsed;
1658                prevUsed=newUsed;
1659                prev=newPrev;
1660              }
1661              newRefs++;
1662            }
1663          }
1664          if(newRefs>=numPrefRefs)
1665          {
1666            break;
1667          }
1668        }
1669        m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefPics=newRefs;
1670        m_GOPList[m_iGOPSize+m_extraRPSs].m_POC = curPOC;
1671        if (m_extraRPSs == 0)
1672        {
1673          m_GOPList[m_iGOPSize+m_extraRPSs].m_interRPSPrediction = 0;
1674          m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefIdc = 0;
1675        }
1676        else
1677        {
1678          Int rIdx =  m_iGOPSize + m_extraRPSs - 1;
1679          Int refPOC = m_GOPList[rIdx].m_POC;
1680          Int refPics = m_GOPList[rIdx].m_numRefPics;
1681          Int newIdc=0;
1682          for(Int i = 0; i<= refPics; i++) 
1683          {
1684            Int deltaPOC = ((i != refPics)? m_GOPList[rIdx].m_referencePics[i] : 0);  // check if the reference abs POC is >= 0
1685            Int absPOCref = refPOC+deltaPOC;
1686            Int refIdc = 0;
1687            for (Int j = 0; j < m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefPics; j++)
1688            {
1689              if ( (absPOCref - curPOC) == m_GOPList[m_iGOPSize+m_extraRPSs].m_referencePics[j])
1690              {
1691                if (m_GOPList[m_iGOPSize+m_extraRPSs].m_usedByCurrPic[j])
1692                {
1693                  refIdc = 1;
1694                }
1695                else
1696                {
1697                  refIdc = 2;
1698                }
1699              }
1700            }
1701            m_GOPList[m_iGOPSize+m_extraRPSs].m_refIdc[newIdc]=refIdc;
1702            newIdc++;
1703          }
1704          m_GOPList[m_iGOPSize+m_extraRPSs].m_interRPSPrediction = 1; 
1705          m_GOPList[m_iGOPSize+m_extraRPSs].m_numRefIdc = newIdc;
1706          m_GOPList[m_iGOPSize+m_extraRPSs].m_deltaRPS = refPOC - m_GOPList[m_iGOPSize+m_extraRPSs].m_POC; 
1707        }
1708        curGOP=m_iGOPSize+m_extraRPSs;
1709        m_extraRPSs++;
1710      }
1711      numRefs=0;
1712      for(Int i = 0; i< m_GOPList[curGOP].m_numRefPics; i++) 
1713      {
1714        Int absPOC = curPOC+m_GOPList[curGOP].m_referencePics[i];
1715        if(absPOC >= 0) 
1716        {
1717          refList[numRefs]=absPOC;
1718          numRefs++;
1719        }
1720      }
1721      refList[numRefs]=curPOC;
1722      numRefs++;
1723    }
1724    checkGOP++;
1725  }
1726  xConfirmPara(errorGOP,"Invalid GOP structure given");
1727  m_maxTempLayer = 1;
1728  for(Int i=0; i<m_iGOPSize; i++) 
1729  {
1730    if(m_GOPList[i].m_temporalId >= m_maxTempLayer)
1731    {
1732      m_maxTempLayer = m_GOPList[i].m_temporalId+1;
1733    }
1734    xConfirmPara(m_GOPList[i].m_sliceType!='B'&&m_GOPList[i].m_sliceType!='P', "Slice type must be equal to B or P");
1735  }
1736  for(Int i=0; i<MAX_TLAYER; i++)
1737  {
1738    m_numReorderPics[i] = 0;
1739#if L0323_DPB
1740    m_maxDecPicBuffering[i] = 1;
1741#else
1742    m_maxDecPicBuffering[i] = 0;
1743#endif
1744  }
1745  for(Int i=0; i<m_iGOPSize; i++) 
1746  {
1747#if L0323_DPB
1748    if(m_GOPList[i].m_numRefPics+1 > m_maxDecPicBuffering[m_GOPList[i].m_temporalId])
1749#else
1750    if(m_GOPList[i].m_numRefPics > m_maxDecPicBuffering[m_GOPList[i].m_temporalId])
1751#endif
1752    {
1753#if L0323_DPB
1754      m_maxDecPicBuffering[m_GOPList[i].m_temporalId] = m_GOPList[i].m_numRefPics + 1;
1755#else
1756      m_maxDecPicBuffering[m_GOPList[i].m_temporalId] = m_GOPList[i].m_numRefPics;
1757#endif
1758    }
1759    Int highestDecodingNumberWithLowerPOC = 0; 
1760    for(Int j=0; j<m_iGOPSize; j++)
1761    {
1762      if(m_GOPList[j].m_POC <= m_GOPList[i].m_POC)
1763      {
1764        highestDecodingNumberWithLowerPOC = j;
1765      }
1766    }
1767    Int numReorder = 0;
1768    for(Int j=0; j<highestDecodingNumberWithLowerPOC; j++)
1769    {
1770      if(m_GOPList[j].m_temporalId <= m_GOPList[i].m_temporalId && 
1771        m_GOPList[j].m_POC > m_GOPList[i].m_POC)
1772      {
1773        numReorder++;
1774      }
1775    }   
1776    if(numReorder > m_numReorderPics[m_GOPList[i].m_temporalId])
1777    {
1778      m_numReorderPics[m_GOPList[i].m_temporalId] = numReorder;
1779    }
1780  }
1781  for(Int i=0; i<MAX_TLAYER-1; i++) 
1782  {
1783    // a lower layer can not have higher value of m_numReorderPics than a higher layer
1784    if(m_numReorderPics[i+1] < m_numReorderPics[i])
1785    {
1786      m_numReorderPics[i+1] = m_numReorderPics[i];
1787    }
1788#if L0323_DPB
1789    // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ] - 1, inclusive
1790    if(m_numReorderPics[i] > m_maxDecPicBuffering[i] - 1)
1791    {
1792      m_maxDecPicBuffering[i] = m_numReorderPics[i] + 1;
1793    }
1794#else
1795    // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ], inclusive
1796    if(m_numReorderPics[i] > m_maxDecPicBuffering[i])
1797    {
1798      m_maxDecPicBuffering[i] = m_numReorderPics[i];
1799    }
1800#endif
1801    // a lower layer can not have higher value of m_uiMaxDecPicBuffering than a higher layer
1802    if(m_maxDecPicBuffering[i+1] < m_maxDecPicBuffering[i])
1803    {
1804      m_maxDecPicBuffering[i+1] = m_maxDecPicBuffering[i];
1805    }
1806  }
1807
1808
1809#if L0323_DPB
1810  // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ] -  1, inclusive
1811  if(m_numReorderPics[MAX_TLAYER-1] > m_maxDecPicBuffering[MAX_TLAYER-1] - 1)
1812  {
1813    m_maxDecPicBuffering[MAX_TLAYER-1] = m_numReorderPics[MAX_TLAYER-1] + 1;
1814  }
1815#else
1816  // the value of num_reorder_pics[ i ] shall be in the range of 0 to max_dec_pic_buffering[ i ], inclusive
1817  if(m_numReorderPics[MAX_TLAYER-1] > m_maxDecPicBuffering[MAX_TLAYER-1])
1818  {
1819    m_maxDecPicBuffering[MAX_TLAYER-1] = m_numReorderPics[MAX_TLAYER-1];
1820  }
1821#endif
1822
1823  if(m_vuiParametersPresentFlag && m_bitstreamRestrictionFlag)
1824  { 
1825    Int PicSizeInSamplesY =  m_iSourceWidth * m_iSourceHeight;
1826    if(tileFlag)
1827    {
1828      Int maxTileWidth = 0;
1829      Int maxTileHeight = 0;
1830      Int widthInCU = (m_iSourceWidth % m_uiMaxCUWidth) ? m_iSourceWidth/m_uiMaxCUWidth + 1: m_iSourceWidth/m_uiMaxCUWidth;
1831      Int heightInCU = (m_iSourceHeight % m_uiMaxCUHeight) ? m_iSourceHeight/m_uiMaxCUHeight + 1: m_iSourceHeight/m_uiMaxCUHeight;
1832      if(m_iUniformSpacingIdr)
1833      {
1834        maxTileWidth = m_uiMaxCUWidth*((widthInCU+m_iNumColumnsMinus1)/(m_iNumColumnsMinus1+1));
1835        maxTileHeight = m_uiMaxCUHeight*((heightInCU+m_iNumRowsMinus1)/(m_iNumRowsMinus1+1));
1836        // if only the last tile-row is one treeblock higher than the others
1837        // the maxTileHeight becomes smaller if the last row of treeblocks has lower height than the others
1838        if(!((heightInCU-1)%(m_iNumRowsMinus1+1)))
1839        {
1840          maxTileHeight = maxTileHeight - m_uiMaxCUHeight + (m_iSourceHeight % m_uiMaxCUHeight);
1841        }     
1842        // if only the last tile-column is one treeblock wider than the others
1843        // the maxTileWidth becomes smaller if the last column of treeblocks has lower width than the others   
1844        if(!((widthInCU-1)%(m_iNumColumnsMinus1+1)))
1845        {
1846          maxTileWidth = maxTileWidth - m_uiMaxCUWidth + (m_iSourceWidth % m_uiMaxCUWidth);
1847        }
1848      }
1849      else // not uniform spacing
1850      {
1851        if(m_iNumColumnsMinus1<1)
1852        {
1853          maxTileWidth = m_iSourceWidth;
1854        }
1855        else
1856        {
1857          Int accColumnWidth = 0;
1858          for(Int col=0; col<(m_iNumColumnsMinus1); col++)
1859          {
1860            maxTileWidth = m_pColumnWidth[col]>maxTileWidth ? m_pColumnWidth[col]:maxTileWidth;
1861            accColumnWidth += m_pColumnWidth[col];
1862          }
1863          maxTileWidth = (widthInCU-accColumnWidth)>maxTileWidth ? m_uiMaxCUWidth*(widthInCU-accColumnWidth):m_uiMaxCUWidth*maxTileWidth;
1864        }
1865        if(m_iNumRowsMinus1<1)
1866        {
1867          maxTileHeight = m_iSourceHeight;
1868        }
1869        else
1870        {
1871          Int accRowHeight = 0;
1872          for(Int row=0; row<(m_iNumRowsMinus1); row++)
1873          {
1874            maxTileHeight = m_pRowHeight[row]>maxTileHeight ? m_pRowHeight[row]:maxTileHeight;
1875            accRowHeight += m_pRowHeight[row];
1876          }
1877          maxTileHeight = (heightInCU-accRowHeight)>maxTileHeight ? m_uiMaxCUHeight*(heightInCU-accRowHeight):m_uiMaxCUHeight*maxTileHeight;
1878        }
1879      }
1880      Int maxSizeInSamplesY = maxTileWidth*maxTileHeight;
1881      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/maxSizeInSamplesY-4;
1882    }
1883    else if(m_iWaveFrontSynchro)
1884    {
1885      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/((2*m_iSourceHeight+m_iSourceWidth)*m_uiMaxCUHeight)-4;
1886    }
1887    else if(m_sliceMode == 1)
1888    {
1889      m_minSpatialSegmentationIdc = 4*PicSizeInSamplesY/(m_sliceArgument*m_uiMaxCUWidth*m_uiMaxCUHeight)-4;
1890    }
1891    else
1892    {
1893      m_minSpatialSegmentationIdc = 0;
1894    }
1895  }
1896#if !L0034_COMBINED_LIST_CLEANUP
1897  xConfirmPara( m_bUseLComb==false && m_numReorderPics[MAX_TLAYER-1]!=0, "ListCombination can only be 0 in low delay coding (more precisely when L0 and L1 are identical)" );  // Note however this is not the full necessary condition as ref_pic_list_combination_flag can only be 0 if L0 == L1.
1898#endif
1899  xConfirmPara( m_iWaveFrontSynchro < 0, "WaveFrontSynchro cannot be negative" );
1900  xConfirmPara( m_iWaveFrontSubstreams <= 0, "WaveFrontSubstreams must be positive" );
1901  xConfirmPara( m_iWaveFrontSubstreams > 1 && !m_iWaveFrontSynchro, "Must have WaveFrontSynchro > 0 in order to have WaveFrontSubstreams > 1" );
1902
1903  xConfirmPara( m_decodedPictureHashSEIEnabled<0 || m_decodedPictureHashSEIEnabled>3, "this hash type is not correct!\n");
1904
1905#if J0149_TONE_MAPPING_SEI
1906  if (m_toneMappingInfoSEIEnabled)
1907  {
1908    xConfirmPara( m_toneMapCodedDataBitDepth < 8 || m_toneMapCodedDataBitDepth > 14 , "SEIToneMapCodedDataBitDepth must be in rage 8 to 14");
1909    xConfirmPara( m_toneMapTargetBitDepth < 1 || (m_toneMapTargetBitDepth > 16 && m_toneMapTargetBitDepth < 255) , "SEIToneMapTargetBitDepth must be in rage 1 to 16 or equal to 255");
1910    xConfirmPara( m_toneMapModelId < 0 || m_toneMapModelId > 4 , "SEIToneMapModelId must be in rage 0 to 4");
1911    xConfirmPara( m_cameraIsoSpeedValue == 0, "SEIToneMapCameraIsoSpeedValue shall not be equal to 0");
1912    xConfirmPara( m_extendedRangeWhiteLevel < 100, "SEIToneMapExtendedRangeWhiteLevel should be greater than or equal to 100");
1913    xConfirmPara( m_nominalBlackLevelLumaCodeValue >= m_nominalWhiteLevelLumaCodeValue, "SEIToneMapNominalWhiteLevelLumaCodeValue shall be greater than SEIToneMapNominalBlackLevelLumaCodeValue");
1914    xConfirmPara( m_extendedWhiteLevelLumaCodeValue < m_nominalWhiteLevelLumaCodeValue, "SEIToneMapExtendedWhiteLevelLumaCodeValue shall be greater than or equal to SEIToneMapNominalWhiteLevelLumaCodeValue");
1915  }
1916#endif
1917
1918#if RATE_CONTROL_LAMBDA_DOMAIN
1919  if ( m_RCEnableRateControl )
1920  {
1921    if ( m_RCForceIntraQP )
1922    {
1923      if ( m_RCInitialQP == 0 )
1924      {
1925        printf( "\nInitial QP for rate control is not specified. Reset not to use force intra QP!" );
1926        m_RCForceIntraQP = false;
1927      }
1928    }
1929    xConfirmPara( m_uiDeltaQpRD > 0, "Rate control cannot be used together with slice level multiple-QP optimization!\n" );
1930  }
1931#else
1932  if(m_enableRateCtrl)
1933  {
1934    Int numLCUInWidth  = (m_iSourceWidth  / m_uiMaxCUWidth) + (( m_iSourceWidth  %  m_uiMaxCUWidth ) ? 1 : 0);
1935    Int numLCUInHeight = (m_iSourceHeight / m_uiMaxCUHeight)+ (( m_iSourceHeight %  m_uiMaxCUHeight) ? 1 : 0);
1936    Int numLCUInPic    =  numLCUInWidth * numLCUInHeight;
1937
1938    xConfirmPara( (numLCUInPic % m_numLCUInUnit) != 0, "total number of LCUs in a frame should be completely divided by NumLCUInUnit" );
1939
1940    m_iMaxDeltaQP       = MAX_DELTA_QP;
1941    m_iMaxCuDQPDepth    = MAX_CUDQP_DEPTH;
1942  }
1943#endif
1944
1945  xConfirmPara(!m_TransquantBypassEnableFlag && m_CUTransquantBypassFlagValue, "CUTransquantBypassFlagValue cannot be 1 when TransquantBypassEnableFlag is 0");
1946
1947  xConfirmPara(m_log2ParallelMergeLevel < 2, "Log2ParallelMergeLevel should be larger than or equal to 2");
1948#if L0444_FPA_TYPE
1949  if (m_framePackingSEIEnabled)
1950  {
1951    xConfirmPara(m_framePackingSEIType < 3 || m_framePackingSEIType > 5 , "SEIFramePackingType must be in rage 3 to 5");
1952  }
1953#endif
1954
1955#if H_MV
1956  }
1957  }
1958#endif
1959
1960#undef xConfirmPara
1961  if (check_failed)
1962  {
1963    exit(EXIT_FAILURE);
1964  }
1965}
1966
1967/** \todo use of global variables should be removed later
1968 */
1969Void TAppEncCfg::xSetGlobal()
1970{
1971  // set max CU width & height
1972  g_uiMaxCUWidth  = m_uiMaxCUWidth;
1973  g_uiMaxCUHeight = m_uiMaxCUHeight;
1974 
1975  // compute actual CU depth with respect to config depth and max transform size
1976  g_uiAddCUDepth  = 0;
1977  while( (m_uiMaxCUWidth>>m_uiMaxCUDepth) > ( 1 << ( m_uiQuadtreeTULog2MinSize + g_uiAddCUDepth )  ) ) g_uiAddCUDepth++;
1978 
1979  m_uiMaxCUDepth += g_uiAddCUDepth;
1980  g_uiAddCUDepth++;
1981  g_uiMaxCUDepth = m_uiMaxCUDepth;
1982 
1983  // set internal bit-depth and constants
1984  g_bitDepthY = m_internalBitDepthY;
1985  g_bitDepthC = m_internalBitDepthC;
1986 
1987  g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_inputBitDepthY : m_internalBitDepthY;
1988  g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_inputBitDepthC : m_internalBitDepthC;
1989}
1990
1991Void TAppEncCfg::xPrintParameter()
1992{
1993  printf("\n");
1994#if H_MV
1995  for( Int layer = 0; layer < m_numberOfLayers; layer++)
1996  {
1997    printf("Input File %i                 : %s\n", layer, m_pchInputFileList[layer]);
1998  }
1999#else
2000  printf("Input          File          : %s\n", m_pchInputFile          );
2001#endif
2002
2003  printf("Bitstream      File          : %s\n", m_pchBitstreamFile      );
2004
2005#if H_MV
2006  for( Int layer = 0; layer < m_numberOfLayers; layer++)
2007  {
2008    printf("Reconstruction File %i        : %s\n", layer, m_pchReconFileList[layer]);
2009  }
2010#else
2011  printf("Reconstruction File          : %s\n", m_pchReconFile          );
2012#endif
2013
2014#if H_MV
2015 xPrintParaVector( "ViewId", m_viewId ); 
2016#endif
2017
2018#if H_3D
2019 xPrintParaVector( "DepthFlag", m_depthFlag ); 
2020#endif
2021
2022#if H_MV 
2023  xPrintParaVector( "QP"               , m_fQP                ); 
2024  xPrintParaVector( "LoopFilterDisable", m_bLoopFilterDisable ); 
2025  xPrintParaVector( "SAO"              , m_bUseSAO            ); 
2026#endif
2027  printf("Real     Format              : %dx%d %dHz\n", m_iSourceWidth - m_confLeft - m_confRight, m_iSourceHeight - m_confTop - m_confBottom, m_iFrameRate );
2028  printf("Internal Format              : %dx%d %dHz\n", m_iSourceWidth, m_iSourceHeight, m_iFrameRate );
2029  printf("Frame index                  : %u - %d (%d frames)\n", m_FrameSkip, m_FrameSkip+m_framesToBeEncoded-1, m_framesToBeEncoded );
2030  printf("CU size / depth              : %d / %d\n", m_uiMaxCUWidth, m_uiMaxCUDepth );
2031  printf("RQT trans. size (min / max)  : %d / %d\n", 1 << m_uiQuadtreeTULog2MinSize, 1 << m_uiQuadtreeTULog2MaxSize );
2032  printf("Max RQT depth inter          : %d\n", m_uiQuadtreeTUMaxDepthInter);
2033  printf("Max RQT depth intra          : %d\n", m_uiQuadtreeTUMaxDepthIntra);
2034  printf("Min PCM size                 : %d\n", 1 << m_uiPCMLog2MinSize);
2035  printf("Motion search range          : %d\n", m_iSearchRange );
2036  printf("Intra period                 : %d\n", m_iIntraPeriod );
2037  printf("Decoding refresh type        : %d\n", m_iDecodingRefreshType );
2038#if !H_MV
2039  printf("QP                           : %5.2f\n", m_fQP );
2040#endif
2041  printf("Max dQP signaling depth      : %d\n", m_iMaxCuDQPDepth);
2042
2043  printf("Cb QP Offset                 : %d\n", m_cbQpOffset   );
2044  printf("Cr QP Offset                 : %d\n", m_crQpOffset);
2045
2046  printf("QP adaptation                : %d (range=%d)\n", m_bUseAdaptiveQP, (m_bUseAdaptiveQP ? m_iQPAdaptationRange : 0) );
2047  printf("GOP size                     : %d\n", m_iGOPSize );
2048  printf("Internal bit depth           : (Y:%d, C:%d)\n", m_internalBitDepthY, m_internalBitDepthC );
2049  printf("PCM sample bit depth         : (Y:%d, C:%d)\n", g_uiPCMBitDepthLuma, g_uiPCMBitDepthChroma );
2050#if RATE_CONTROL_LAMBDA_DOMAIN
2051  printf("RateControl                  : %d\n", m_RCEnableRateControl );
2052  if(m_RCEnableRateControl)
2053  {
2054    printf("TargetBitrate                : %d\n", m_RCTargetBitrate );
2055    printf("KeepHierarchicalBit          : %d\n", m_RCKeepHierarchicalBit );
2056    printf("LCULevelRC                   : %d\n", m_RCLCULevelRC );
2057    printf("UseLCUSeparateModel          : %d\n", m_RCUseLCUSeparateModel );
2058    printf("InitialQP                    : %d\n", m_RCInitialQP );
2059    printf("ForceIntraQP                 : %d\n", m_RCForceIntraQP );
2060  }
2061#else
2062  printf("RateControl                  : %d\n", m_enableRateCtrl);
2063  if(m_enableRateCtrl)
2064  {
2065    printf("TargetBitrate                : %d\n", m_targetBitrate);
2066    printf("NumLCUInUnit                 : %d\n", m_numLCUInUnit);
2067  }
2068#endif
2069  printf("Max Num Merge Candidates     : %d\n", m_maxNumMergeCand);
2070  printf("\n");
2071 
2072  printf("TOOL CFG: ");
2073  printf("IBD:%d ", g_bitDepthY > m_inputBitDepthY || g_bitDepthC > m_inputBitDepthC);
2074  printf("HAD:%d ", m_bUseHADME           );
2075  printf("SRD:%d ", m_bUseSBACRD          );
2076  printf("RDQ:%d ", m_useRDOQ            );
2077  printf("RDQTS:%d ", m_useRDOQTS        );
2078#if L0232_RD_PENALTY
2079  printf("RDpenalty:%d ", m_rdPenalty  );
2080#endif
2081  printf("SQP:%d ", m_uiDeltaQpRD         );
2082  printf("ASR:%d ", m_bUseASR             );
2083#if !L0034_COMBINED_LIST_CLEANUP
2084  printf("LComb:%d ", m_bUseLComb         );
2085#endif
2086  printf("FEN:%d ", m_bUseFastEnc         );
2087  printf("ECU:%d ", m_bUseEarlyCU         );
2088  printf("FDM:%d ", m_useFastDecisionForMerge );
2089  printf("CFM:%d ", m_bUseCbfFastMode         );
2090  printf("ESD:%d ", m_useEarlySkipDetection  );
2091  printf("RQT:%d ", 1     );
2092  printf("TransformSkip:%d ",     m_useTransformSkip              );
2093  printf("TransformSkipFast:%d ", m_useTransformSkipFast       );
2094  printf("Slice: M=%d ", m_sliceMode);
2095  if (m_sliceMode!=0)
2096  {
2097    printf("A=%d ", m_sliceArgument);
2098  }
2099  printf("SliceSegment: M=%d ",m_sliceSegmentMode);
2100  if (m_sliceSegmentMode!=0)
2101  {
2102    printf("A=%d ", m_sliceSegmentArgument);
2103  }
2104  printf("CIP:%d ", m_bUseConstrainedIntraPred);
2105#if !H_MV
2106  printf("SAO:%d ", (m_bUseSAO)?(1):(0));
2107#endif
2108  printf("PCM:%d ", (m_usePCM && (1<<m_uiPCMLog2MinSize) <= m_uiMaxCUWidth)? 1 : 0);
2109  printf("SAOLcuBasedOptimization:%d ", (m_saoLcuBasedOptimization)?(1):(0));
2110
2111  printf("LosslessCuEnabled:%d ", (m_useLossless)? 1:0 );
2112  printf("WPP:%d ", (Int)m_useWeightedPred);
2113  printf("WPB:%d ", (Int)m_useWeightedBiPred);
2114  printf("PME:%d ", m_log2ParallelMergeLevel);
2115  printf(" WaveFrontSynchro:%d WaveFrontSubstreams:%d",
2116          m_iWaveFrontSynchro, m_iWaveFrontSubstreams);
2117  printf(" ScalingList:%d ", m_useScalingListId );
2118  printf("TMVPMode:%d ", m_TMVPModeId     );
2119#if ADAPTIVE_QP_SELECTION
2120  printf("AQpS:%d", m_bUseAdaptQpSelect   );
2121#endif
2122
2123  printf(" SignBitHidingFlag:%d ", m_signHideFlag);
2124  printf("RecalQP:%d", m_recalculateQPAccordingToLambda ? 1 : 0 );
2125  printf("\n\n");
2126 
2127  fflush(stdout);
2128}
2129
2130Bool confirmPara(Bool bflag, const Char* message)
2131{
2132  if (!bflag)
2133    return false;
2134 
2135  printf("Error: %s\n",message);
2136  return true;
2137}
2138
2139//! \}
Note: See TracBrowser for help on using the repository browser.