source: SHVCSoftware/branches/SHM-dev/source/App/TAppEncoder/TAppEncTop.cpp @ 835

Last change on this file since 835 was 835, checked in by qualcomm, 10 years ago

Bug fix for Ticket#33 -- incorrect TemporalId for EOB_NUT
Macro: T_ID_EOB_BUG_FIX

Submitted by Hendry (fhendry@…)
  • Property svn:eol-style set to native
File size: 95.3 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2014, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TAppEncTop.cpp
35    \brief    Encoder application class
36*/
37
38#include <list>
39#include <fstream>
40#include <stdlib.h>
41#include <stdio.h>
42#include <fcntl.h>
43#include <assert.h>
44
45#include "TAppEncTop.h"
46#include "TLibEncoder/AnnexBwrite.h"
47
48using namespace std;
49
50//! \ingroup TAppEncoder
51//! \{
52
53// ====================================================================================================================
54// Constructor / destructor / initialization / destroy
55// ====================================================================================================================
56
57TAppEncTop::TAppEncTop()
58{
59  m_iFrameRcvd = 0;
60  m_totalBytes = 0;
61  m_essentialBytes = 0;
62#if SVC_EXTENSION
63  for(UInt layer=0; layer < MAX_LAYERS; layer++)
64  {
65    m_apcTEncTop[layer] = &m_acTEncTop[layer];
66  }
67#endif
68}
69
70TAppEncTop::~TAppEncTop()
71{
72}
73
74#if SVC_EXTENSION
75Void TAppEncTop::xInitLibCfg()
76{
77  TComVPS* vps = m_acTEncTop[0].getVPS();
78
79  vps->setMaxTLayers                       ( m_maxTempLayer );
80  if (m_maxTempLayer == 1)
81  {
82    vps->setTemporalNestingFlag(true);
83  }
84  for(Int i = 0; i < MAX_TLAYER; i++)
85  {
86    vps->setNumReorderPics                 ( m_numReorderPics[i], i );
87    vps->setMaxDecPicBuffering             ( m_maxDecPicBuffering[i], i );
88  }
89
90#if REPN_FORMAT_IN_VPS 
91  Int maxRepFormatIdx = -1;
92  Int formatIdx = -1;
93  for(UInt layer=0; layer < m_numLayers; layer++)
94  {
95    // Auto generation of the format index
96    if( m_acLayerCfg[layer].getRepFormatIdx() == -1 )
97    {     
98      Bool found = false;
99      for( UInt idx = 0; idx < layer; idx++ )
100      {
101        if( m_acLayerCfg[layer].getSourceWidth() == m_acLayerCfg[idx].getSourceWidth() && m_acLayerCfg[layer].getSourceHeight() == m_acLayerCfg[idx].getSourceHeight()
102#if AUXILIARY_PICTURES
103          && m_acLayerCfg[layer].getChromaFormatIDC() == m_acLayerCfg[idx].getChromaFormatIDC()
104#endif
105#if O0194_DIFFERENT_BITDEPTH_EL_BL
106          && m_acLayerCfg[layer].m_internalBitDepthY == m_acLayerCfg[idx].m_internalBitDepthY && m_acLayerCfg[layer].m_internalBitDepthC == m_acLayerCfg[idx].m_internalBitDepthC
107#endif
108          )
109        {
110          found = true;
111          break;
112        }
113      }
114      if( !found )
115      {
116        formatIdx++;
117      }
118
119      m_acLayerCfg[layer].setRepFormatIdx( formatIdx );
120    }
121
122    assert( m_acLayerCfg[layer].getRepFormatIdx() != -1 && "RepFormatIdx not assigned for a layer" );
123
124    vps->setVpsRepFormatIdx( layer, m_acLayerCfg[layer].getRepFormatIdx() );
125
126    maxRepFormatIdx = std::max( m_acLayerCfg[layer].getRepFormatIdx(), maxRepFormatIdx );
127  }
128
129  assert( vps->getVpsRepFormatIdx( 0 ) == 0 );  // Base layer should point to the first one.
130
131  Int* mapIdxToLayer = new Int[maxRepFormatIdx + 1];
132
133  // Check that all the indices from 0 to maxRepFormatIdx are used in the VPS
134  for(Int i = 0; i <= maxRepFormatIdx; i++)
135  {
136    mapIdxToLayer[i] = -1;
137    UInt layer;
138    for(layer=0; layer < m_numLayers; layer++)
139    {
140      if( vps->getVpsRepFormatIdx(layer) == i )
141      {
142        mapIdxToLayer[i] = layer;
143        break;
144      }
145    }
146    assert( layer != m_numLayers );   // One of the VPS Rep format indices not set
147  }
148
149  vps->setVpsNumRepFormats( maxRepFormatIdx + 1 );
150
151#if Q0195_REP_FORMAT_CLEANUP
152  // When not present, the value of rep_format_idx_present_flag is inferred to be equal to 0
153  vps->setRepFormatIdxPresentFlag( vps->getVpsNumRepFormats() > 1 ? true : false );
154#else
155  vps->setRepFormatIdxPresentFlag( true );
156#endif
157
158  for(UInt idx=0; idx < vps->getVpsNumRepFormats(); idx++)
159  {
160    RepFormat *repFormat = vps->getVpsRepFormat( idx );
161#if REPN_FORMAT_CONTROL_FLAG
162    repFormat->setChromaAndBitDepthVpsPresentFlag( true ); 
163    if (idx==0)
164    {
165      assert(repFormat->getChromaAndBitDepthVpsPresentFlag() == true); 
166    }
167#endif
168    repFormat->setPicWidthVpsInLumaSamples  ( m_acLayerCfg[mapIdxToLayer[idx]].getSourceWidth()   );
169    repFormat->setPicHeightVpsInLumaSamples ( m_acLayerCfg[mapIdxToLayer[idx]].getSourceHeight()  );
170#if AUXILIARY_PICTURES
171    repFormat->setChromaFormatVpsIdc        ( m_acLayerCfg[mapIdxToLayer[idx]].getChromaFormatIDC() );
172#else
173    repFormat->setChromaFormatVpsIdc        ( 1                                             );  // Need modification to change for each layer - corresponds to 420
174#endif
175    repFormat->setSeparateColourPlaneVpsFlag( 0                                             );  // Need modification to change for each layer
176#if O0194_DIFFERENT_BITDEPTH_EL_BL
177    repFormat->setBitDepthVpsLuma           ( getInternalBitDepthY(mapIdxToLayer[idx])      );  // Need modification to change for each layer
178    repFormat->setBitDepthVpsChroma         ( getInternalBitDepthC(mapIdxToLayer[idx])      );  // Need modification to change for each layer
179#else
180    repFormat->setBitDepthVpsLuma           ( getInternalBitDepthY()                        );  // Need modification to change for each layer
181    repFormat->setBitDepthVpsChroma         ( getInternalBitDepthC()                        );  // Need modification to change for each layer
182#endif
183#if HIGHER_LAYER_IRAP_SKIP_FLAG
184    m_acTEncTop[mapIdxToLayer[idx]].setSkipPictureAtArcSwitch( m_skipPictureAtArcSwitch );
185#endif
186  }
187  delete [] mapIdxToLayer;
188#endif
189
190  assert( m_numLayers <= MAX_LAYERS );
191
192  for(UInt layer=0; layer<m_numLayers; layer++)
193  {
194#if O0194_DIFFERENT_BITDEPTH_EL_BL
195    //1
196    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
197    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
198
199    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
200    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
201
202    // Set this to be used in Upsampling filter in function "TComUpsampleFilter::upsampleBasePic"
203    g_bitDepthYLayer[layer] = g_bitDepthY;
204    g_bitDepthCLayer[layer] = g_bitDepthC;
205
206#if O0194_WEIGHTED_PREDICTION_CGS
207    m_acTEncTop[layer].setInterLayerWeightedPredFlag( m_useInterLayerWeightedPred );
208#endif
209#endif
210    //m_acTEncTop[layer].setVPS(&vps);
211    m_acTEncTop[layer].setFrameRate                    ( m_acLayerCfg[layer].getFrameRate() );
212    m_acTEncTop[layer].setFrameSkip                    ( m_FrameSkip );
213    m_acTEncTop[layer].setSourceWidth                  ( m_acLayerCfg[layer].getSourceWidth() );
214    m_acTEncTop[layer].setSourceHeight                 ( m_acLayerCfg[layer].getSourceHeight() );
215    m_acTEncTop[layer].setConformanceWindow            ( m_acLayerCfg[layer].m_confWinLeft, m_acLayerCfg[layer].m_confWinRight, m_acLayerCfg[layer].m_confWinTop, m_acLayerCfg[layer].m_confWinBottom );
216    m_acTEncTop[layer].setFramesToBeEncoded            ( m_framesToBeEncoded );
217
218    m_acTEncTop[layer].setProfile(m_profile);
219    m_acTEncTop[layer].setLevel(m_levelTier, m_level);
220    m_acTEncTop[layer].setProgressiveSourceFlag(m_progressiveSourceFlag);
221    m_acTEncTop[layer].setInterlacedSourceFlag(m_interlacedSourceFlag);
222    m_acTEncTop[layer].setNonPackedConstraintFlag(m_nonPackedConstraintFlag);
223    m_acTEncTop[layer].setFrameOnlyConstraintFlag(m_frameOnlyConstraintFlag);
224
225#if REF_IDX_MFM
226#if AVC_BASE
227    m_acTEncTop[layer].setMFMEnabledFlag(layer == 0 ? false : ( m_avcBaseLayerFlag ? false : true ) && m_acLayerCfg[layer].getNumMotionPredRefLayers());
228#else
229    m_acTEncTop[layer].setMFMEnabledFlag(layer == 0 ? false : ( m_acLayerCfg[layer].getNumMotionPredRefLayers() > 0 ) );
230#endif
231#endif
232    // set layer ID
233    m_acTEncTop[layer].setLayerId ( layer );
234    m_acTEncTop[layer].setNumLayer ( m_numLayers );
235    m_acTEncTop[layer].setLayerEnc(m_apcTEncTop);
236
237    //====== Coding Structure ========
238    m_acTEncTop[layer].setIntraPeriod                  ( m_acLayerCfg[layer].m_iIntraPeriod );
239    m_acTEncTop[layer].setDecodingRefreshType          ( m_iDecodingRefreshType );
240    m_acTEncTop[layer].setGOPSize                      ( m_iGOPSize );
241#if Q0108_TSA_STSA
242    m_acTEncTop[layer].setGopList                      ( layer ? m_EhGOPList[layer] : m_GOPList );
243#else
244    m_acTEncTop[layer].setGopList                      ( m_GOPList );
245#endif
246
247#if !Q0108_TSA_STSA
248    m_acTEncTop[layer].setExtraRPSs                    ( m_extraRPSs );
249#else
250    m_acTEncTop[layer].setExtraRPSs                    ( m_extraRPSs[layer] );
251#endif
252    for(Int i = 0; i < MAX_TLAYER; i++)
253    {
254      m_acTEncTop[layer].setNumReorderPics             ( m_numReorderPics[i], i );
255      m_acTEncTop[layer].setMaxDecPicBuffering         ( m_maxDecPicBuffering[i], i );
256    }
257    for( UInt uiLoop = 0; uiLoop < MAX_TLAYER; ++uiLoop )
258    {
259      m_acTEncTop[layer].setLambdaModifier( uiLoop, m_adLambdaModifier[ uiLoop ] );
260    }
261    m_acTEncTop[layer].setQP                           ( m_acLayerCfg[layer].getIntQP() );
262
263    m_acTEncTop[layer].setPad                          ( m_acLayerCfg[layer].getPad() );
264#if !Q0108_TSA_STSA
265    m_acTEncTop[layer].setMaxTempLayer                 ( m_maxTempLayer );
266#else
267    if (layer== 0)
268    {
269      m_acTEncTop[layer].setMaxTempLayer                 ( m_maxTempLayer );
270    }
271    else
272    {
273      m_acTEncTop[layer].setMaxTempLayer                 ( m_EhMaxTempLayer[layer] );
274    }
275#endif
276    m_acTEncTop[layer].setUseAMP( m_enableAMP );
277
278    if( layer < m_numLayers - 1 )
279    {
280       m_acTEncTop[layer].setMaxTidIlRefPicsPlus1 ( m_acLayerCfg[layer].getMaxTidIlRefPicsPlus1());
281    }
282
283#if VPS_EXTN_DIRECT_REF_LAYERS
284    if(layer)
285    {
286      for(Int i = 0; i < MAX_VPS_LAYER_ID_PLUS1; i++)
287      {
288        m_acTEncTop[layer].setSamplePredEnabledFlag(i, false);
289        m_acTEncTop[layer].setMotionPredEnabledFlag(i, false);
290      }
291      if(m_acLayerCfg[layer].getNumSamplePredRefLayers() == -1)
292      {
293        // Not included in the configuration file; assume that each layer depends on previous layer
294        m_acTEncTop[layer].setNumSamplePredRefLayers   (1);      // One sample pred ref. layer
295        m_acTEncTop[layer].setSamplePredRefLayerId     (0, layer - 1);   // Previous layer
296        m_acTEncTop[layer].setSamplePredEnabledFlag    (layer - 1, true);
297      }
298      else
299      {
300        m_acTEncTop[layer].setNumSamplePredRefLayers   ( m_acLayerCfg[layer].getNumSamplePredRefLayers() );
301        for(Int i = 0; i < m_acTEncTop[layer].getNumSamplePredRefLayers(); i++)
302        {
303          m_acTEncTop[layer].setSamplePredRefLayerId   ( i, m_acLayerCfg[layer].getSamplePredRefLayerId(i));
304          m_acTEncTop[layer].setSamplePredEnabledFlag  (m_acLayerCfg[layer].getSamplePredRefLayerId(i), true);
305        }
306      }
307      if(m_acLayerCfg[layer].getNumMotionPredRefLayers() == -1)
308      {
309        // Not included in the configuration file; assume that each layer depends on previous layer
310        m_acTEncTop[layer].setNumMotionPredRefLayers   (1);      // One motion pred ref. layer
311        m_acTEncTop[layer].setMotionPredRefLayerId     (0, layer - 1);   // Previous layer
312        m_acTEncTop[layer].setMotionPredEnabledFlag    (layer - 1, true);
313      }
314      else
315      {
316        m_acTEncTop[layer].setNumMotionPredRefLayers   ( m_acLayerCfg[layer].getNumMotionPredRefLayers() );
317        for(Int i = 0; i < m_acTEncTop[layer].getNumMotionPredRefLayers(); i++)
318        {
319          m_acTEncTop[layer].setMotionPredRefLayerId   ( i, m_acLayerCfg[layer].getMotionPredRefLayerId(i));
320          m_acTEncTop[layer].setMotionPredEnabledFlag  (m_acLayerCfg[layer].getMotionPredRefLayerId(i), true);
321        }
322      }
323      Int numDirectRefLayers = 0;
324
325      assert( layer < MAX_LAYERS );
326
327      for (Int i = 0; i < layer; i++)
328      {
329        if (m_acTEncTop[layer].getSamplePredEnabledFlag(i) || m_acTEncTop[layer].getMotionPredEnabledFlag(i))
330        {
331          m_acTEncTop[layer].setRefLayerId(numDirectRefLayers, i);
332          numDirectRefLayers++;
333        }
334      }
335      m_acTEncTop[layer].setNumDirectRefLayers(numDirectRefLayers);
336
337      if(m_acLayerCfg[layer].getNumActiveRefLayers() == -1)
338      {
339        m_acTEncTop[layer].setNumActiveRefLayers( m_acTEncTop[layer].getNumDirectRefLayers() );
340        for( Int i = 0; i < m_acTEncTop[layer].getNumActiveRefLayers(); i++ )
341        {
342          m_acTEncTop[layer].setPredLayerId(i, i);
343        }
344      }
345      else
346      {
347        m_acTEncTop[layer].setNumActiveRefLayers       ( m_acLayerCfg[layer].getNumActiveRefLayers() );
348        for(Int i = 0; i < m_acTEncTop[layer].getNumActiveRefLayers(); i++)
349        {
350          m_acTEncTop[layer].setPredLayerId             ( i, m_acLayerCfg[layer].getPredLayerId(i));
351        }
352      }
353    }
354    else
355    {
356      assert( layer == 0 );
357      m_acTEncTop[layer].setNumDirectRefLayers(0);
358    }
359#endif //VPS_EXTN_DIRECT_REF_LAYERS
360    //===== Slice ========
361
362    //====== Loop/Deblock Filter ========
363    m_acTEncTop[layer].setLoopFilterDisable            ( m_bLoopFilterDisable       );
364    m_acTEncTop[layer].setLoopFilterOffsetInPPS        ( m_loopFilterOffsetInPPS );
365    m_acTEncTop[layer].setLoopFilterBetaOffset         ( m_loopFilterBetaOffsetDiv2  );
366    m_acTEncTop[layer].setLoopFilterTcOffset           ( m_loopFilterTcOffsetDiv2    );
367    m_acTEncTop[layer].setDeblockingFilterControlPresent( m_DeblockingFilterControlPresent);
368    m_acTEncTop[layer].setDeblockingFilterMetric       ( m_DeblockingFilterMetric );
369
370    //====== Motion search ========
371    m_acTEncTop[layer].setFastSearch                   ( m_iFastSearch  );
372    m_acTEncTop[layer].setSearchRange                  ( m_iSearchRange );
373    m_acTEncTop[layer].setBipredSearchRange            ( m_bipredSearchRange );
374
375    //====== Quality control ========
376    m_acTEncTop[layer].setMaxDeltaQP                   ( m_iMaxDeltaQP  );
377    m_acTEncTop[layer].setMaxCuDQPDepth                ( m_iMaxCuDQPDepth  );
378
379    m_acTEncTop[layer].setChromaCbQpOffset             ( m_cbQpOffset     );
380    m_acTEncTop[layer].setChromaCrQpOffset             ( m_crQpOffset  );
381
382#if ADAPTIVE_QP_SELECTION
383    m_acTEncTop[layer].setUseAdaptQpSelect             ( m_bUseAdaptQpSelect   );
384#endif
385   
386    m_acTEncTop[layer].setUseAdaptiveQP                ( m_bUseAdaptiveQP  );
387    m_acTEncTop[layer].setQPAdaptationRange            ( m_iQPAdaptationRange );
388
389    //====== Tool list ========   
390    m_acTEncTop[layer].setDeltaQpRD                    ( m_uiDeltaQpRD  );
391    m_acTEncTop[layer].setUseASR                       ( m_bUseASR      );
392    m_acTEncTop[layer].setUseHADME                     ( m_bUseHADME    );   
393    m_acTEncTop[layer].setdQPs                         ( m_acLayerCfg[layer].getdQPs() );
394    m_acTEncTop[layer].setUseRDOQ                      ( m_useRDOQ     );
395    m_acTEncTop[layer].setUseRDOQTS                    ( m_useRDOQTS   );
396    m_acTEncTop[layer].setRDpenalty                    ( m_rdPenalty );
397#if LAYER_CTB
398    m_acTEncTop[layer].setQuadtreeTULog2MaxSize        ( m_acLayerCfg[layer].m_uiQuadtreeTULog2MaxSize );
399    m_acTEncTop[layer].setQuadtreeTULog2MinSize        ( m_acLayerCfg[layer].m_uiQuadtreeTULog2MinSize );
400    m_acTEncTop[layer].setQuadtreeTUMaxDepthInter      ( m_acLayerCfg[layer].m_uiQuadtreeTUMaxDepthInter );
401    m_acTEncTop[layer].setQuadtreeTUMaxDepthIntra      ( m_acLayerCfg[layer].m_uiQuadtreeTUMaxDepthIntra );
402#else
403    m_acTEncTop[layer].setQuadtreeTULog2MaxSize        ( m_uiQuadtreeTULog2MaxSize );
404    m_acTEncTop[layer].setQuadtreeTULog2MinSize        ( m_uiQuadtreeTULog2MinSize );
405    m_acTEncTop[layer].setQuadtreeTUMaxDepthInter      ( m_uiQuadtreeTUMaxDepthInter );
406    m_acTEncTop[layer].setQuadtreeTUMaxDepthIntra      ( m_uiQuadtreeTUMaxDepthIntra );
407#endif
408    m_acTEncTop[layer].setUseFastEnc                   ( m_bUseFastEnc  );
409    m_acTEncTop[layer].setUseEarlyCU                   ( m_bUseEarlyCU  );
410    m_acTEncTop[layer].setUseFastDecisionForMerge      ( m_useFastDecisionForMerge  );
411    m_acTEncTop[layer].setUseCbfFastMode               ( m_bUseCbfFastMode  );
412    m_acTEncTop[layer].setUseEarlySkipDetection        ( m_useEarlySkipDetection );
413#if FAST_INTRA_SHVC
414    m_acTEncTop[layer].setUseFastIntraScalable         ( m_useFastIntraScalable );
415#endif
416
417    m_acTEncTop[layer].setUseTransformSkip             ( m_useTransformSkip      );
418    m_acTEncTop[layer].setUseTransformSkipFast         ( m_useTransformSkipFast  );
419    m_acTEncTop[layer].setUseConstrainedIntraPred      ( m_bUseConstrainedIntraPred );
420    m_acTEncTop[layer].setPCMLog2MinSize               ( m_uiPCMLog2MinSize);
421    m_acTEncTop[layer].setUsePCM                       ( m_usePCM );
422    m_acTEncTop[layer].setPCMLog2MaxSize               ( m_pcmLog2MaxSize);
423    m_acTEncTop[layer].setMaxNumMergeCand              ( m_maxNumMergeCand );
424
425
426    //====== Weighted Prediction ========
427    m_acTEncTop[layer].setUseWP                   ( m_useWeightedPred      );
428    m_acTEncTop[layer].setWPBiPred                ( m_useWeightedBiPred   );
429#if O0194_WEIGHTED_PREDICTION_CGS
430    if( layer != 0 && m_useInterLayerWeightedPred )
431    {
432      // Enable weighted prediction for enhancement layer
433      m_acTEncTop[layer].setUseWP                 ( true   );
434      m_acTEncTop[layer].setWPBiPred              ( true   );
435    }
436#endif
437    //====== Parallel Merge Estimation ========
438    m_acTEncTop[layer].setLog2ParallelMergeLevelMinus2 ( m_log2ParallelMergeLevel - 2 );
439
440    //====== Slice ========
441    m_acTEncTop[layer].setSliceMode               ( m_sliceMode                );
442    m_acTEncTop[layer].setSliceArgument           ( m_sliceArgument            );
443
444    //====== Dependent Slice ========
445    m_acTEncTop[layer].setSliceSegmentMode        ( m_sliceSegmentMode         );
446    m_acTEncTop[layer].setSliceSegmentArgument    ( m_sliceSegmentArgument     );
447#if LAYER_CTB
448    Int iNumPartInCU = 1<<(m_acLayerCfg[layer].m_uiMaxCUDepth<<1);
449#else
450    Int iNumPartInCU = 1<<(m_uiMaxCUDepth<<1);
451#endif
452    if(m_sliceSegmentMode==FIXED_NUMBER_OF_LCU)
453    {
454      m_acTEncTop[layer].setSliceSegmentArgument ( m_sliceSegmentArgument * iNumPartInCU );
455    }
456    if(m_sliceMode==FIXED_NUMBER_OF_LCU)
457    {
458      m_acTEncTop[layer].setSliceArgument ( m_sliceArgument * iNumPartInCU );
459    }
460    if(m_sliceMode==FIXED_NUMBER_OF_TILES)
461    {
462      m_acTEncTop[layer].setSliceArgument ( m_sliceArgument );
463    }
464
465    if(m_sliceMode == 0 )
466    {
467      m_bLFCrossSliceBoundaryFlag = true;
468    }
469    m_acTEncTop[layer].setLFCrossSliceBoundaryFlag( m_bLFCrossSliceBoundaryFlag );
470    m_acTEncTop[layer].setUseSAO ( m_bUseSAO );
471    m_acTEncTop[layer].setMaxNumOffsetsPerPic (m_maxNumOffsetsPerPic);
472
473    m_acTEncTop[layer].setSaoLcuBoundary (m_saoLcuBoundary);
474    m_acTEncTop[layer].setPCMInputBitDepthFlag  ( m_bPCMInputBitDepthFlag);
475    m_acTEncTop[layer].setPCMFilterDisableFlag  ( m_bPCMFilterDisableFlag);
476
477    m_acTEncTop[layer].setDecodedPictureHashSEIEnabled(m_decodedPictureHashSEIEnabled);
478    m_acTEncTop[layer].setRecoveryPointSEIEnabled( m_recoveryPointSEIEnabled );
479    m_acTEncTop[layer].setBufferingPeriodSEIEnabled( m_bufferingPeriodSEIEnabled );
480    m_acTEncTop[layer].setPictureTimingSEIEnabled( m_pictureTimingSEIEnabled );
481    m_acTEncTop[layer].setToneMappingInfoSEIEnabled                 ( m_toneMappingInfoSEIEnabled );
482    m_acTEncTop[layer].setTMISEIToneMapId                           ( m_toneMapId );
483    m_acTEncTop[layer].setTMISEIToneMapCancelFlag                   ( m_toneMapCancelFlag );
484    m_acTEncTop[layer].setTMISEIToneMapPersistenceFlag              ( m_toneMapPersistenceFlag );
485    m_acTEncTop[layer].setTMISEICodedDataBitDepth                   ( m_toneMapCodedDataBitDepth );
486    m_acTEncTop[layer].setTMISEITargetBitDepth                      ( m_toneMapTargetBitDepth );
487    m_acTEncTop[layer].setTMISEIModelID                             ( m_toneMapModelId );
488    m_acTEncTop[layer].setTMISEIMinValue                            ( m_toneMapMinValue );
489    m_acTEncTop[layer].setTMISEIMaxValue                            ( m_toneMapMaxValue );
490    m_acTEncTop[layer].setTMISEISigmoidMidpoint                     ( m_sigmoidMidpoint );
491    m_acTEncTop[layer].setTMISEISigmoidWidth                        ( m_sigmoidWidth );
492    m_acTEncTop[layer].setTMISEIStartOfCodedInterva                 ( m_startOfCodedInterval );
493    m_acTEncTop[layer].setTMISEINumPivots                           ( m_numPivots );
494    m_acTEncTop[layer].setTMISEICodedPivotValue                     ( m_codedPivotValue );
495    m_acTEncTop[layer].setTMISEITargetPivotValue                    ( m_targetPivotValue );
496    m_acTEncTop[layer].setTMISEICameraIsoSpeedIdc                   ( m_cameraIsoSpeedIdc );
497    m_acTEncTop[layer].setTMISEICameraIsoSpeedValue                 ( m_cameraIsoSpeedValue );
498    m_acTEncTop[layer].setTMISEIExposureCompensationValueSignFlag   ( m_exposureCompensationValueSignFlag );
499    m_acTEncTop[layer].setTMISEIExposureCompensationValueNumerator  ( m_exposureCompensationValueNumerator );
500    m_acTEncTop[layer].setTMISEIExposureCompensationValueDenomIdc   ( m_exposureCompensationValueDenomIdc );
501    m_acTEncTop[layer].setTMISEIRefScreenLuminanceWhite             ( m_refScreenLuminanceWhite );
502    m_acTEncTop[layer].setTMISEIExtendedRangeWhiteLevel             ( m_extendedRangeWhiteLevel );
503    m_acTEncTop[layer].setTMISEINominalBlackLevelLumaCodeValue      ( m_nominalBlackLevelLumaCodeValue );
504    m_acTEncTop[layer].setTMISEINominalWhiteLevelLumaCodeValue      ( m_nominalWhiteLevelLumaCodeValue );
505    m_acTEncTop[layer].setTMISEIExtendedWhiteLevelLumaCodeValue     ( m_extendedWhiteLevelLumaCodeValue );
506#if P0050_KNEE_FUNCTION_SEI
507    m_acTEncTop[layer].setKneeSEIEnabled                            ( m_kneeSEIEnabled );
508    m_acTEncTop[layer].setKneeSEIId                                 ( m_kneeSEIId );
509    m_acTEncTop[layer].setKneeSEICancelFlag                         ( m_kneeSEICancelFlag );
510    m_acTEncTop[layer].setKneeSEIPersistenceFlag                    ( m_kneeSEIPersistenceFlag );
511    m_acTEncTop[layer].setKneeSEIMappingFlag                        ( m_kneeSEIMappingFlag );
512    m_acTEncTop[layer].setKneeSEIInputDrange                        ( m_kneeSEIInputDrange );
513    m_acTEncTop[layer].setKneeSEIInputDispLuminance                 ( m_kneeSEIInputDispLuminance );
514    m_acTEncTop[layer].setKneeSEIOutputDrange                       ( m_kneeSEIOutputDrange );
515    m_acTEncTop[layer].setKneeSEIOutputDispLuminance                ( m_kneeSEIOutputDispLuminance );
516    m_acTEncTop[layer].setKneeSEINumKneePointsMinus1                ( m_kneeSEINumKneePointsMinus1 );
517    m_acTEncTop[layer].setKneeSEIInputKneePoint                     ( m_kneeSEIInputKneePoint );
518    m_acTEncTop[layer].setKneeSEIOutputKneePoint                    ( m_kneeSEIOutputKneePoint );
519#endif
520#if Q0074_SEI_COLOR_MAPPING
521    m_acTEncTop[layer].setColorMappingInfoSEIFile                   ( m_acLayerCfg[layer].m_cSeiColorMappingFile.empty() ? NULL : const_cast<Char *>(m_acLayerCfg[layer].m_cSeiColorMappingFile.c_str()) );
522#endif
523    m_acTEncTop[layer].setFramePackingArrangementSEIEnabled( m_framePackingSEIEnabled );
524    m_acTEncTop[layer].setFramePackingArrangementSEIType( m_framePackingSEIType );
525    m_acTEncTop[layer].setFramePackingArrangementSEIId( m_framePackingSEIId );
526    m_acTEncTop[layer].setFramePackingArrangementSEIQuincunx( m_framePackingSEIQuincunx );
527    m_acTEncTop[layer].setFramePackingArrangementSEIInterpretation( m_framePackingSEIInterpretation );
528    m_acTEncTop[layer].setDisplayOrientationSEIAngle( m_displayOrientationSEIAngle );
529    m_acTEncTop[layer].setTemporalLevel0IndexSEIEnabled( m_temporalLevel0IndexSEIEnabled );
530    m_acTEncTop[layer].setGradualDecodingRefreshInfoEnabled( m_gradualDecodingRefreshInfoEnabled );
531    m_acTEncTop[layer].setDecodingUnitInfoSEIEnabled( m_decodingUnitInfoSEIEnabled );
532#if LAYERS_NOT_PRESENT_SEI
533    m_acTEncTop[layer].setLayersNotPresentSEIEnabled( m_layersNotPresentSEIEnabled );
534#endif
535    m_acTEncTop[layer].setSOPDescriptionSEIEnabled( m_SOPDescriptionSEIEnabled );
536    m_acTEncTop[layer].setScalableNestingSEIEnabled( m_scalableNestingSEIEnabled );
537#if Q0189_TMVP_CONSTRAINTS
538    m_acTEncTop[layer].setTMVPConstraintsSEIEnabled( m_TMVPConstraintsSEIEnabled);           
539#endif
540#if N0383_IL_CONSTRAINED_TILE_SETS_SEI
541    m_acTEncTop[layer].setInterLayerConstrainedTileSetsSEIEnabled( m_interLayerConstrainedTileSetsSEIEnabled );
542    m_acTEncTop[layer].setIlNumSetsInMessage( m_ilNumSetsInMessage );
543    m_acTEncTop[layer].setSkippedTileSetPresentFlag( m_skippedTileSetPresentFlag );
544    m_acTEncTop[layer].setTopLeftTileIndex( m_topLeftTileIndex );
545    m_acTEncTop[layer].setBottomRightTileIndex( m_bottomRightTileIndex );
546    m_acTEncTop[layer].setIlcIdc( m_ilcIdc );
547#endif
548    m_acTEncTop[layer].setTileUniformSpacingFlag     ( m_tileUniformSpacingFlag );
549    m_acTEncTop[layer].setNumColumnsMinus1           ( m_numTileColumnsMinus1 );
550    m_acTEncTop[layer].setNumRowsMinus1              ( m_numTileRowsMinus1 );
551    if(!m_tileUniformSpacingFlag)
552    {
553      m_acTEncTop[layer].setColumnWidth              ( m_tileColumnWidth );
554      m_acTEncTop[layer].setRowHeight                ( m_tileRowHeight );
555    }
556    m_acTEncTop[layer].xCheckGSParameters();
557    Int uiTilesCount = (m_numTileRowsMinus1+1) * (m_numTileColumnsMinus1+1);
558    if(uiTilesCount == 1)
559    {
560      m_bLFCrossTileBoundaryFlag = true;
561    }
562    m_acTEncTop[layer].setLFCrossTileBoundaryFlag( m_bLFCrossTileBoundaryFlag );
563    m_acTEncTop[layer].setWaveFrontSynchro           ( m_iWaveFrontSynchro );
564    m_acTEncTop[layer].setWaveFrontSubstreams        ( m_acLayerCfg[layer].m_iWaveFrontSubstreams );
565    m_acTEncTop[layer].setTMVPModeId ( m_TMVPModeId );
566    m_acTEncTop[layer].setUseScalingListId           ( m_useScalingListId  );
567    m_acTEncTop[layer].setScalingListFile            ( m_scalingListFile   );
568    m_acTEncTop[layer].setSignHideFlag(m_signHideFlag);
569#if RC_SHVC_HARMONIZATION
570    m_acTEncTop[layer].setUseRateCtrl     (m_acLayerCfg[layer].getRCEnableRateControl());
571    m_acTEncTop[layer].setTargetBitrate   (m_acLayerCfg[layer].getRCTargetBitrate());
572    m_acTEncTop[layer].setKeepHierBit     (m_acLayerCfg[layer].getRCKeepHierarchicalBit());
573    m_acTEncTop[layer].setLCULevelRC      (m_acLayerCfg[layer].getRCLCULevelRC());
574    m_acTEncTop[layer].setUseLCUSeparateModel (m_acLayerCfg[layer].getRCUseLCUSeparateModel());
575    m_acTEncTop[layer].setInitialQP           (m_acLayerCfg[layer].getRCInitialQP());
576    m_acTEncTop[layer].setForceIntraQP        (m_acLayerCfg[layer].getRCForceIntraQP());
577#else
578    m_acTEncTop[layer].setUseRateCtrl         ( m_RCEnableRateControl );
579    m_acTEncTop[layer].setTargetBitrate       ( m_RCTargetBitrate );
580    m_acTEncTop[layer].setKeepHierBit         ( m_RCKeepHierarchicalBit );
581    m_acTEncTop[layer].setLCULevelRC          ( m_RCLCULevelRC );
582    m_acTEncTop[layer].setUseLCUSeparateModel ( m_RCUseLCUSeparateModel );
583    m_acTEncTop[layer].setInitialQP           ( m_RCInitialQP );
584    m_acTEncTop[layer].setForceIntraQP        ( m_RCForceIntraQP );
585#endif
586    m_acTEncTop[layer].setTransquantBypassEnableFlag(m_TransquantBypassEnableFlag);
587    m_acTEncTop[layer].setCUTransquantBypassFlagForceValue(m_CUTransquantBypassFlagForce);
588    m_acTEncTop[layer].setUseRecalculateQPAccordingToLambda( m_recalculateQPAccordingToLambda );
589    m_acTEncTop[layer].setUseStrongIntraSmoothing( m_useStrongIntraSmoothing );
590    m_acTEncTop[layer].setActiveParameterSetsSEIEnabled ( m_activeParameterSetsSEIEnabled );
591    m_acTEncTop[layer].setVuiParametersPresentFlag( m_vuiParametersPresentFlag );
592    m_acTEncTop[layer].setAspectRatioInfoPresentFlag( m_aspectRatioInfoPresentFlag);
593    m_acTEncTop[layer].setAspectRatioIdc( m_aspectRatioIdc );
594    m_acTEncTop[layer].setSarWidth( m_sarWidth );
595    m_acTEncTop[layer].setSarHeight( m_sarHeight );
596    m_acTEncTop[layer].setOverscanInfoPresentFlag( m_overscanInfoPresentFlag );
597    m_acTEncTop[layer].setOverscanAppropriateFlag( m_overscanAppropriateFlag );
598    m_acTEncTop[layer].setVideoSignalTypePresentFlag( m_videoSignalTypePresentFlag );
599    m_acTEncTop[layer].setVideoFormat( m_videoFormat );
600    m_acTEncTop[layer].setVideoFullRangeFlag( m_videoFullRangeFlag );
601    m_acTEncTop[layer].setColourDescriptionPresentFlag( m_colourDescriptionPresentFlag );
602    m_acTEncTop[layer].setColourPrimaries( m_colourPrimaries );
603    m_acTEncTop[layer].setTransferCharacteristics( m_transferCharacteristics );
604    m_acTEncTop[layer].setMatrixCoefficients( m_matrixCoefficients );
605    m_acTEncTop[layer].setChromaLocInfoPresentFlag( m_chromaLocInfoPresentFlag );
606    m_acTEncTop[layer].setChromaSampleLocTypeTopField( m_chromaSampleLocTypeTopField );
607    m_acTEncTop[layer].setChromaSampleLocTypeBottomField( m_chromaSampleLocTypeBottomField );
608    m_acTEncTop[layer].setNeutralChromaIndicationFlag( m_neutralChromaIndicationFlag );
609    m_acTEncTop[layer].setDefaultDisplayWindow( m_defDispWinLeftOffset, m_defDispWinRightOffset, m_defDispWinTopOffset, m_defDispWinBottomOffset );
610    m_acTEncTop[layer].setFrameFieldInfoPresentFlag( m_frameFieldInfoPresentFlag );
611    m_acTEncTop[layer].setPocProportionalToTimingFlag( m_pocProportionalToTimingFlag );
612    m_acTEncTop[layer].setNumTicksPocDiffOneMinus1   ( m_numTicksPocDiffOneMinus1    );
613    m_acTEncTop[layer].setBitstreamRestrictionFlag( m_bitstreamRestrictionFlag );
614    m_acTEncTop[layer].setTilesFixedStructureFlag( m_tilesFixedStructureFlag );
615    m_acTEncTop[layer].setMotionVectorsOverPicBoundariesFlag( m_motionVectorsOverPicBoundariesFlag );
616    m_acTEncTop[layer].setMinSpatialSegmentationIdc( m_minSpatialSegmentationIdc );
617    m_acTEncTop[layer].setMaxBytesPerPicDenom( m_maxBytesPerPicDenom );
618    m_acTEncTop[layer].setMaxBitsPerMinCuDenom( m_maxBitsPerMinCuDenom );
619    m_acTEncTop[layer].setLog2MaxMvLengthHorizontal( m_log2MaxMvLengthHorizontal );
620    m_acTEncTop[layer].setLog2MaxMvLengthVertical( m_log2MaxMvLengthVertical );
621    m_acTEncTop[layer].setElRapSliceTypeB(layer == 0? 0 : m_elRapSliceBEnabled);
622    if( layer > 0 )
623    {
624      m_acTEncTop[layer].setNumScaledRefLayerOffsets( m_acLayerCfg[layer].m_numScaledRefLayerOffsets );
625      for(Int i = 0; i < m_acLayerCfg[layer].m_numScaledRefLayerOffsets; i++)
626      {
627#if O0098_SCALED_REF_LAYER_ID
628        m_acTEncTop[layer].setScaledRefLayerId(i, m_acLayerCfg[layer].m_scaledRefLayerId[i]);
629#endif
630#if P0312_VERT_PHASE_ADJ
631        m_acTEncTop[layer].setVertPhasePositionEnableFlag( i, m_acLayerCfg[layer].m_vertPhasePositionEnableFlag[i] );
632        m_acTEncTop[layer].getScaledRefLayerWindow(i).setWindow( 2*m_acLayerCfg[layer].m_scaledRefLayerLeftOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerRightOffset[i],
633                                                  2*m_acLayerCfg[layer].m_scaledRefLayerTopOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerBottomOffset[i], m_acLayerCfg[layer].m_vertPhasePositionEnableFlag[i] );
634#else
635        m_acTEncTop[layer].getScaledRefLayerWindow(i).setWindow( 2*m_acLayerCfg[layer].m_scaledRefLayerLeftOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerRightOffset[i],
636                                                  2*m_acLayerCfg[layer].m_scaledRefLayerTopOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerBottomOffset[i]);
637#endif
638      }
639    }
640#if M0040_ADAPTIVE_RESOLUTION_CHANGE
641    m_acTEncTop[layer].setAdaptiveResolutionChange( m_adaptiveResolutionChange );
642#endif
643#if AUXILIARY_PICTURES
644    m_acTEncTop[layer].setChromaFormatIDC( m_acLayerCfg[layer].m_chromaFormatIDC );
645#endif
646#if O0153_ALT_OUTPUT_LAYER_FLAG
647    m_acTEncTop[layer].setAltOuputLayerFlag( m_altOutputLayerFlag );
648#endif
649#if O0149_CROSS_LAYER_BLA_FLAG
650    m_acTEncTop[layer].setCrossLayerBLAFlag( m_crossLayerBLAFlag );
651#endif
652#if Q0048_CGS_3D_ASYMLUT
653    m_acTEncTop[layer].setCGSFlag( layer == 0 ? 0 : m_nCGSFlag );
654    m_acTEncTop[layer].setCGSMaxOctantDepth( m_nCGSMaxOctantDepth );
655    m_acTEncTop[layer].setCGSMaxYPartNumLog2( m_nCGSMaxYPartNumLog2 );
656    m_acTEncTop[layer].setCGSLUTBit( m_nCGSLUTBit );
657#if R0151_CGS_3D_ASYMLUT_IMPROVE
658    m_acTEncTop[layer].setCGSAdaptChroma( m_nCGSAdaptiveChroma );
659#endif
660#endif
661#if Q0078_ADD_LAYER_SETS
662    m_acTEncTop[layer].setNumAddLayerSets( m_numAddLayerSets );
663#endif
664  }
665}
666#else //SVC_EXTENSION
667Void TAppEncTop::xInitLibCfg()
668{
669  TComVPS vps;
670
671  vps.setMaxTLayers                       ( m_maxTempLayer );
672  if (m_maxTempLayer == 1)
673  {
674    vps.setTemporalNestingFlag(true);
675  }
676  vps.setMaxLayers                        ( 1 );
677  for(Int i = 0; i < MAX_TLAYER; i++)
678  {
679    vps.setNumReorderPics                 ( m_numReorderPics[i], i );
680    vps.setMaxDecPicBuffering             ( m_maxDecPicBuffering[i], i );
681  }
682  m_cTEncTop.setVPS(&vps);
683
684  m_cTEncTop.setProfile(m_profile);
685  m_cTEncTop.setLevel(m_levelTier, m_level);
686  m_cTEncTop.setProgressiveSourceFlag(m_progressiveSourceFlag);
687  m_cTEncTop.setInterlacedSourceFlag(m_interlacedSourceFlag);
688  m_cTEncTop.setNonPackedConstraintFlag(m_nonPackedConstraintFlag);
689  m_cTEncTop.setFrameOnlyConstraintFlag(m_frameOnlyConstraintFlag);
690
691  m_cTEncTop.setFrameRate                    ( m_iFrameRate );
692  m_cTEncTop.setFrameSkip                    ( m_FrameSkip );
693  m_cTEncTop.setSourceWidth                  ( m_iSourceWidth );
694  m_cTEncTop.setSourceHeight                 ( m_iSourceHeight );
695  m_cTEncTop.setConformanceWindow            ( m_confWinLeft, m_confWinRight, m_confWinTop, m_confWinBottom );
696  m_cTEncTop.setFramesToBeEncoded            ( m_framesToBeEncoded );
697
698  //====== Coding Structure ========
699  m_cTEncTop.setIntraPeriod                  ( m_iIntraPeriod );
700  m_cTEncTop.setDecodingRefreshType          ( m_iDecodingRefreshType );
701  m_cTEncTop.setGOPSize                      ( m_iGOPSize );
702  m_cTEncTop.setGopList                      ( m_GOPList );
703  m_cTEncTop.setExtraRPSs                    ( m_extraRPSs );
704  for(Int i = 0; i < MAX_TLAYER; i++)
705  {
706    m_cTEncTop.setNumReorderPics             ( m_numReorderPics[i], i );
707    m_cTEncTop.setMaxDecPicBuffering         ( m_maxDecPicBuffering[i], i );
708  }
709  for( UInt uiLoop = 0; uiLoop < MAX_TLAYER; ++uiLoop )
710  {
711    m_cTEncTop.setLambdaModifier( uiLoop, m_adLambdaModifier[ uiLoop ] );
712  }
713  m_cTEncTop.setQP                           ( m_iQP );
714
715  m_cTEncTop.setPad                          ( m_aiPad );
716
717  m_cTEncTop.setMaxTempLayer                 ( m_maxTempLayer );
718  m_cTEncTop.setUseAMP( m_enableAMP );
719
720  //===== Slice ========
721
722  //====== Loop/Deblock Filter ========
723  m_cTEncTop.setLoopFilterDisable            ( m_bLoopFilterDisable       );
724  m_cTEncTop.setLoopFilterOffsetInPPS        ( m_loopFilterOffsetInPPS );
725  m_cTEncTop.setLoopFilterBetaOffset         ( m_loopFilterBetaOffsetDiv2  );
726  m_cTEncTop.setLoopFilterTcOffset           ( m_loopFilterTcOffsetDiv2    );
727  m_cTEncTop.setDeblockingFilterControlPresent( m_DeblockingFilterControlPresent);
728  m_cTEncTop.setDeblockingFilterMetric       ( m_DeblockingFilterMetric );
729
730  //====== Motion search ========
731  m_cTEncTop.setFastSearch                   ( m_iFastSearch  );
732  m_cTEncTop.setSearchRange                  ( m_iSearchRange );
733  m_cTEncTop.setBipredSearchRange            ( m_bipredSearchRange );
734
735  //====== Quality control ========
736  m_cTEncTop.setMaxDeltaQP                   ( m_iMaxDeltaQP  );
737  m_cTEncTop.setMaxCuDQPDepth                ( m_iMaxCuDQPDepth  );
738
739  m_cTEncTop.setChromaCbQpOffset               ( m_cbQpOffset     );
740  m_cTEncTop.setChromaCrQpOffset            ( m_crQpOffset  );
741
742#if ADAPTIVE_QP_SELECTION
743  m_cTEncTop.setUseAdaptQpSelect             ( m_bUseAdaptQpSelect   );
744#endif
745
746  m_cTEncTop.setUseAdaptiveQP                ( m_bUseAdaptiveQP  );
747  m_cTEncTop.setQPAdaptationRange            ( m_iQPAdaptationRange );
748
749  //====== Tool list ========
750  m_cTEncTop.setDeltaQpRD                    ( m_uiDeltaQpRD  );
751  m_cTEncTop.setUseASR                       ( m_bUseASR      );
752  m_cTEncTop.setUseHADME                     ( m_bUseHADME    );
753  m_cTEncTop.setdQPs                         ( m_aidQP        );
754  m_cTEncTop.setUseRDOQ                      ( m_useRDOQ     );
755  m_cTEncTop.setUseRDOQTS                    ( m_useRDOQTS   );
756  m_cTEncTop.setRDpenalty                 ( m_rdPenalty );
757  m_cTEncTop.setQuadtreeTULog2MaxSize        ( m_uiQuadtreeTULog2MaxSize );
758  m_cTEncTop.setQuadtreeTULog2MinSize        ( m_uiQuadtreeTULog2MinSize );
759  m_cTEncTop.setQuadtreeTUMaxDepthInter      ( m_uiQuadtreeTUMaxDepthInter );
760  m_cTEncTop.setQuadtreeTUMaxDepthIntra      ( m_uiQuadtreeTUMaxDepthIntra );
761  m_cTEncTop.setUseFastEnc                   ( m_bUseFastEnc  );
762  m_cTEncTop.setUseEarlyCU                   ( m_bUseEarlyCU  );
763  m_cTEncTop.setUseFastDecisionForMerge      ( m_useFastDecisionForMerge  );
764  m_cTEncTop.setUseCbfFastMode            ( m_bUseCbfFastMode  );
765  m_cTEncTop.setUseEarlySkipDetection            ( m_useEarlySkipDetection );
766#if FAST_INTRA_SHVC
767  m_cTEncTop.setUseFastIntraScalable            ( m_useFastIntraScalable );
768#endif
769
770  m_cTEncTop.setUseTransformSkip             ( m_useTransformSkip      );
771  m_cTEncTop.setUseTransformSkipFast         ( m_useTransformSkipFast  );
772  m_cTEncTop.setUseConstrainedIntraPred      ( m_bUseConstrainedIntraPred );
773  m_cTEncTop.setPCMLog2MinSize          ( m_uiPCMLog2MinSize);
774  m_cTEncTop.setUsePCM                       ( m_usePCM );
775  m_cTEncTop.setPCMLog2MaxSize               ( m_pcmLog2MaxSize);
776  m_cTEncTop.setMaxNumMergeCand              ( m_maxNumMergeCand );
777
778
779  //====== Weighted Prediction ========
780  m_cTEncTop.setUseWP                   ( m_useWeightedPred      );
781  m_cTEncTop.setWPBiPred                ( m_useWeightedBiPred   );
782  //====== Parallel Merge Estimation ========
783  m_cTEncTop.setLog2ParallelMergeLevelMinus2 ( m_log2ParallelMergeLevel - 2 );
784
785  //====== Slice ========
786  m_cTEncTop.setSliceMode               ( m_sliceMode                );
787  m_cTEncTop.setSliceArgument           ( m_sliceArgument            );
788
789  //====== Dependent Slice ========
790  m_cTEncTop.setSliceSegmentMode        ( m_sliceSegmentMode         );
791  m_cTEncTop.setSliceSegmentArgument    ( m_sliceSegmentArgument     );
792  Int iNumPartInCU = 1<<(m_uiMaxCUDepth<<1);
793  if(m_sliceSegmentMode==FIXED_NUMBER_OF_LCU)
794  {
795    m_cTEncTop.setSliceSegmentArgument ( m_sliceSegmentArgument * iNumPartInCU );
796  }
797  if(m_sliceMode==FIXED_NUMBER_OF_LCU)
798  {
799    m_cTEncTop.setSliceArgument ( m_sliceArgument * iNumPartInCU );
800  }
801  if(m_sliceMode==FIXED_NUMBER_OF_TILES)
802  {
803    m_cTEncTop.setSliceArgument ( m_sliceArgument );
804  }
805
806  if(m_sliceMode == 0 )
807  {
808    m_bLFCrossSliceBoundaryFlag = true;
809  }
810  m_cTEncTop.setLFCrossSliceBoundaryFlag( m_bLFCrossSliceBoundaryFlag );
811  m_cTEncTop.setUseSAO ( m_bUseSAO );
812  m_cTEncTop.setMaxNumOffsetsPerPic (m_maxNumOffsetsPerPic);
813
814  m_cTEncTop.setSaoLcuBoundary (m_saoLcuBoundary);
815  m_cTEncTop.setPCMInputBitDepthFlag  ( m_bPCMInputBitDepthFlag);
816  m_cTEncTop.setPCMFilterDisableFlag  ( m_bPCMFilterDisableFlag);
817
818  m_cTEncTop.setDecodedPictureHashSEIEnabled(m_decodedPictureHashSEIEnabled);
819  m_cTEncTop.setRecoveryPointSEIEnabled( m_recoveryPointSEIEnabled );
820  m_cTEncTop.setBufferingPeriodSEIEnabled( m_bufferingPeriodSEIEnabled );
821  m_cTEncTop.setPictureTimingSEIEnabled( m_pictureTimingSEIEnabled );
822  m_cTEncTop.setToneMappingInfoSEIEnabled                 ( m_toneMappingInfoSEIEnabled );
823  m_cTEncTop.setTMISEIToneMapId                           ( m_toneMapId );
824  m_cTEncTop.setTMISEIToneMapCancelFlag                   ( m_toneMapCancelFlag );
825  m_cTEncTop.setTMISEIToneMapPersistenceFlag              ( m_toneMapPersistenceFlag );
826  m_cTEncTop.setTMISEICodedDataBitDepth                   ( m_toneMapCodedDataBitDepth );
827  m_cTEncTop.setTMISEITargetBitDepth                      ( m_toneMapTargetBitDepth );
828  m_cTEncTop.setTMISEIModelID                             ( m_toneMapModelId );
829  m_cTEncTop.setTMISEIMinValue                            ( m_toneMapMinValue );
830  m_cTEncTop.setTMISEIMaxValue                            ( m_toneMapMaxValue );
831  m_cTEncTop.setTMISEISigmoidMidpoint                     ( m_sigmoidMidpoint );
832  m_cTEncTop.setTMISEISigmoidWidth                        ( m_sigmoidWidth );
833  m_cTEncTop.setTMISEIStartOfCodedInterva                 ( m_startOfCodedInterval );
834  m_cTEncTop.setTMISEINumPivots                           ( m_numPivots );
835  m_cTEncTop.setTMISEICodedPivotValue                     ( m_codedPivotValue );
836  m_cTEncTop.setTMISEITargetPivotValue                    ( m_targetPivotValue );
837  m_cTEncTop.setTMISEICameraIsoSpeedIdc                   ( m_cameraIsoSpeedIdc );
838  m_cTEncTop.setTMISEICameraIsoSpeedValue                 ( m_cameraIsoSpeedValue );
839  m_cTEncTop.setTMISEIExposureIndexIdc                    ( m_exposureIndexIdc );
840  m_cTEncTop.setTMISEIExposureIndexValue                  ( m_exposureIndexValue );
841  m_cTEncTop.setTMISEIExposureCompensationValueSignFlag   ( m_exposureCompensationValueSignFlag );
842  m_cTEncTop.setTMISEIExposureCompensationValueNumerator  ( m_exposureCompensationValueNumerator );
843  m_cTEncTop.setTMISEIExposureCompensationValueDenomIdc   ( m_exposureCompensationValueDenomIdc );
844  m_cTEncTop.setTMISEIRefScreenLuminanceWhite             ( m_refScreenLuminanceWhite );
845  m_cTEncTop.setTMISEIExtendedRangeWhiteLevel             ( m_extendedRangeWhiteLevel );
846  m_cTEncTop.setTMISEINominalBlackLevelLumaCodeValue      ( m_nominalBlackLevelLumaCodeValue );
847  m_cTEncTop.setTMISEINominalWhiteLevelLumaCodeValue      ( m_nominalWhiteLevelLumaCodeValue );
848  m_cTEncTop.setTMISEIExtendedWhiteLevelLumaCodeValue     ( m_extendedWhiteLevelLumaCodeValue );
849#if P0050_KNEE_FUNCTION_SEI
850  m_cTEncTop.setKneeSEIEnabled              ( m_kneeSEIEnabled );
851  m_cTEncTop.setKneeSEIId                   ( m_kneeSEIId );
852  m_cTEncTop.setKneeSEICancelFlag           ( m_kneeSEICancelFlag );
853  m_cTEncTop.setKneeSEIPersistenceFlag      ( m_kneeSEIPersistenceFlag );
854  m_cTEncTop.setKneeSEIMappingFlag          ( m_kneeSEIMappingFlag );
855  m_cTEncTop.setKneeSEIInputDrange          ( m_kneeSEIInputDrange );
856  m_cTEncTop.setKneeSEIInputDispLuminance   ( m_kneeSEIInputDispLuminance );
857  m_cTEncTop.setKneeSEIOutputDrange         ( m_kneeSEIOutputDrange );
858  m_cTEncTop.setKneeSEIOutputDispLuminance  ( m_kneeSEIOutputDispLuminance );
859  m_cTEncTop.setKneeSEINumKneePointsMinus1  ( m_kneeSEINumKneePointsMinus1 );
860  m_cTEncTop.setKneeSEIInputKneePoint       ( m_kneeSEIInputKneePoint );
861  m_cTEncTop.setKneeSEIOutputKneePoint      ( m_kneeSEIOutputKneePoint );
862#endif
863#if Q0074_SEI_COLOR_MAPPING
864  m_cTEncTop.setColorMappingInfoSEIFile                   ( m_pchSEIColorMappingFile );
865#endif
866  m_cTEncTop.setFramePackingArrangementSEIEnabled( m_framePackingSEIEnabled );
867  m_cTEncTop.setFramePackingArrangementSEIType( m_framePackingSEIType );
868  m_cTEncTop.setFramePackingArrangementSEIId( m_framePackingSEIId );
869  m_cTEncTop.setFramePackingArrangementSEIQuincunx( m_framePackingSEIQuincunx );
870  m_cTEncTop.setFramePackingArrangementSEIInterpretation( m_framePackingSEIInterpretation );
871  m_cTEncTop.setDisplayOrientationSEIAngle( m_displayOrientationSEIAngle );
872  m_cTEncTop.setTemporalLevel0IndexSEIEnabled( m_temporalLevel0IndexSEIEnabled );
873  m_cTEncTop.setGradualDecodingRefreshInfoEnabled( m_gradualDecodingRefreshInfoEnabled );
874  m_cTEncTop.setDecodingUnitInfoSEIEnabled( m_decodingUnitInfoSEIEnabled );
875#if LAYERS_NOT_PRESENT_SEI
876  m_cTEncTop.setLayersNotPresentSEIEnabled( m_layersNotPresentSEIEnabled );
877#endif
878  m_cTEncTop.setSOPDescriptionSEIEnabled( m_SOPDescriptionSEIEnabled );
879  m_cTEncTop.setScalableNestingSEIEnabled( m_scalableNestingSEIEnabled );
880  m_cTEncTop.setTileUniformSpacingFlag     ( m_tileUniformSpacingFlag );
881  m_cTEncTop.setNumColumnsMinus1           ( m_numTileColumnsMinus1 );
882  m_cTEncTop.setNumRowsMinus1              ( m_numTileRowsMinus1 );
883  if(!m_tileUniformSpacingFlag)
884  {
885    m_cTEncTop.setColumnWidth              ( m_tileColumnWidth );
886    m_cTEncTop.setRowHeight                ( m_tileRowHeight );
887  }
888  m_cTEncTop.xCheckGSParameters();
889  Int uiTilesCount          = (m_numTileRowsMinus1+1) * (m_numTileColumnsMinus1+1);
890  if(uiTilesCount == 1)
891  {
892    m_bLFCrossTileBoundaryFlag = true;
893  }
894  m_cTEncTop.setLFCrossTileBoundaryFlag( m_bLFCrossTileBoundaryFlag );
895  m_cTEncTop.setWaveFrontSynchro           ( m_iWaveFrontSynchro );
896  m_cTEncTop.setWaveFrontSubstreams        ( m_iWaveFrontSubstreams );
897  m_cTEncTop.setTMVPModeId ( m_TMVPModeId );
898  m_cTEncTop.setUseScalingListId           ( m_useScalingListId  );
899  m_cTEncTop.setScalingListFile            ( m_scalingListFile   );
900  m_cTEncTop.setSignHideFlag(m_signHideFlag);
901  m_cTEncTop.setUseRateCtrl         ( m_RCEnableRateControl );
902  m_cTEncTop.setTargetBitrate       ( m_RCTargetBitrate );
903  m_cTEncTop.setKeepHierBit         ( m_RCKeepHierarchicalBit );
904  m_cTEncTop.setLCULevelRC          ( m_RCLCULevelRC );
905  m_cTEncTop.setUseLCUSeparateModel ( m_RCUseLCUSeparateModel );
906  m_cTEncTop.setInitialQP           ( m_RCInitialQP );
907  m_cTEncTop.setForceIntraQP        ( m_RCForceIntraQP );
908  m_cTEncTop.setTransquantBypassEnableFlag(m_TransquantBypassEnableFlag);
909  m_cTEncTop.setCUTransquantBypassFlagForceValue(m_CUTransquantBypassFlagForce);
910  m_cTEncTop.setUseRecalculateQPAccordingToLambda( m_recalculateQPAccordingToLambda );
911  m_cTEncTop.setUseStrongIntraSmoothing( m_useStrongIntraSmoothing );
912  m_cTEncTop.setActiveParameterSetsSEIEnabled ( m_activeParameterSetsSEIEnabled );
913  m_cTEncTop.setVuiParametersPresentFlag( m_vuiParametersPresentFlag );
914  m_cTEncTop.setAspectRatioInfoPresentFlag( m_aspectRatioInfoPresentFlag);
915  m_cTEncTop.setAspectRatioIdc( m_aspectRatioIdc );
916  m_cTEncTop.setSarWidth( m_sarWidth );
917  m_cTEncTop.setSarHeight( m_sarHeight );
918  m_cTEncTop.setOverscanInfoPresentFlag( m_overscanInfoPresentFlag );
919  m_cTEncTop.setOverscanAppropriateFlag( m_overscanAppropriateFlag );
920  m_cTEncTop.setVideoSignalTypePresentFlag( m_videoSignalTypePresentFlag );
921  m_cTEncTop.setVideoFormat( m_videoFormat );
922  m_cTEncTop.setVideoFullRangeFlag( m_videoFullRangeFlag );
923  m_cTEncTop.setColourDescriptionPresentFlag( m_colourDescriptionPresentFlag );
924  m_cTEncTop.setColourPrimaries( m_colourPrimaries );
925  m_cTEncTop.setTransferCharacteristics( m_transferCharacteristics );
926  m_cTEncTop.setMatrixCoefficients( m_matrixCoefficients );
927  m_cTEncTop.setChromaLocInfoPresentFlag( m_chromaLocInfoPresentFlag );
928  m_cTEncTop.setChromaSampleLocTypeTopField( m_chromaSampleLocTypeTopField );
929  m_cTEncTop.setChromaSampleLocTypeBottomField( m_chromaSampleLocTypeBottomField );
930  m_cTEncTop.setNeutralChromaIndicationFlag( m_neutralChromaIndicationFlag );
931  m_cTEncTop.setDefaultDisplayWindow( m_defDispWinLeftOffset, m_defDispWinRightOffset, m_defDispWinTopOffset, m_defDispWinBottomOffset );
932  m_cTEncTop.setFrameFieldInfoPresentFlag( m_frameFieldInfoPresentFlag );
933  m_cTEncTop.setPocProportionalToTimingFlag( m_pocProportionalToTimingFlag );
934  m_cTEncTop.setNumTicksPocDiffOneMinus1   ( m_numTicksPocDiffOneMinus1    );
935  m_cTEncTop.setBitstreamRestrictionFlag( m_bitstreamRestrictionFlag );
936  m_cTEncTop.setTilesFixedStructureFlag( m_tilesFixedStructureFlag );
937  m_cTEncTop.setMotionVectorsOverPicBoundariesFlag( m_motionVectorsOverPicBoundariesFlag );
938  m_cTEncTop.setMinSpatialSegmentationIdc( m_minSpatialSegmentationIdc );
939  m_cTEncTop.setMaxBytesPerPicDenom( m_maxBytesPerPicDenom );
940  m_cTEncTop.setMaxBitsPerMinCuDenom( m_maxBitsPerMinCuDenom );
941  m_cTEncTop.setLog2MaxMvLengthHorizontal( m_log2MaxMvLengthHorizontal );
942  m_cTEncTop.setLog2MaxMvLengthVertical( m_log2MaxMvLengthVertical );
943}
944#endif //SVC_EXTENSION
945
946Void TAppEncTop::xCreateLib()
947{
948  // Video I/O
949#if SVC_EXTENSION
950  // initialize global variables
951  initROM();
952
953  for(UInt layer=0; layer<m_numLayers; layer++)
954  {
955#if O0194_DIFFERENT_BITDEPTH_EL_BL
956    //2
957    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
958    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
959
960    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
961    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
962#endif
963#if LAYER_CTB
964    g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
965    g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
966    g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
967    g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
968#endif
969#if O0194_DIFFERENT_BITDEPTH_EL_BL
970    m_acTVideoIOYuvInputFile[layer].open( (Char *)m_acLayerCfg[layer].getInputFile().c_str(),  false, m_acLayerCfg[layer].m_inputBitDepthY, m_acLayerCfg[layer].m_inputBitDepthC, m_acLayerCfg[layer].m_internalBitDepthY, m_acLayerCfg[layer].m_internalBitDepthC );  // read  mode
971#else
972    m_acTVideoIOYuvInputFile[layer].open( (Char *)m_acLayerCfg[layer].getInputFile().c_str(),  false, m_inputBitDepthY, m_inputBitDepthC, m_internalBitDepthY, m_internalBitDepthC );  // read  mode
973#endif
974    m_acTVideoIOYuvInputFile[layer].skipFrames(m_FrameSkip, m_acLayerCfg[layer].getSourceWidth() - m_acLayerCfg[layer].getPad()[0], m_acLayerCfg[layer].getSourceHeight() - m_acLayerCfg[layer].getPad()[1]);
975
976    if (!m_acLayerCfg[layer].getReconFile().empty())
977    {
978#if O0194_DIFFERENT_BITDEPTH_EL_BL
979      m_acTVideoIOYuvReconFile[layer].open((Char *)m_acLayerCfg[layer].getReconFile().c_str(), true, m_acLayerCfg[layer].m_outputBitDepthY, m_acLayerCfg[layer].m_outputBitDepthC, m_acLayerCfg[layer].m_internalBitDepthY, m_acLayerCfg[layer].m_internalBitDepthC );  // write mode
980#else
981      m_acTVideoIOYuvReconFile[layer].open((Char *)m_acLayerCfg[layer].getReconFile().c_str(), true, m_outputBitDepthY, m_outputBitDepthC, m_internalBitDepthY, m_internalBitDepthC );  // write mode
982#endif
983    }
984
985    m_acTEncTop[layer].create();
986  }
987#else //SVC_EXTENSION
988  m_cTVideoIOYuvInputFile.open( m_pchInputFile,     false, m_inputBitDepthY, m_inputBitDepthC, m_internalBitDepthY, m_internalBitDepthC );  // read  mode
989  m_cTVideoIOYuvInputFile.skipFrames(m_FrameSkip, m_iSourceWidth - m_aiPad[0], m_iSourceHeight - m_aiPad[1]);
990
991  if (m_pchReconFile)
992    m_cTVideoIOYuvReconFile.open(m_pchReconFile, true, m_outputBitDepthY, m_outputBitDepthC, m_internalBitDepthY, m_internalBitDepthC);  // write mode
993
994  // Neo Decoder
995  m_cTEncTop.create();
996#endif //SVC_EXTENSION
997}
998
999Void TAppEncTop::xDestroyLib()
1000{
1001  // Video I/O
1002#if SVC_EXTENSION
1003  // destroy ROM
1004  destroyROM();
1005
1006  for(UInt layer=0; layer<m_numLayers; layer++)
1007  {
1008#if LAYER_CTB
1009    g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1010    g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1011    g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1012    g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1013#endif
1014
1015    m_acTVideoIOYuvInputFile[layer].close();
1016    m_acTVideoIOYuvReconFile[layer].close();
1017
1018    m_acTEncTop[layer].destroy();
1019  }
1020#else //SVC_EXTENSION
1021  m_cTVideoIOYuvInputFile.close();
1022  m_cTVideoIOYuvReconFile.close();
1023
1024  // Neo Decoder
1025  m_cTEncTop.destroy();
1026#endif //SVC_EXTENSION
1027}
1028
1029Void TAppEncTop::xInitLib(Bool isFieldCoding)
1030{
1031#if SVC_EXTENSION
1032  for(UInt layer=0; layer<m_numLayers; layer++)
1033  {
1034#if O0194_DIFFERENT_BITDEPTH_EL_BL
1035    //3
1036    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1037    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1038
1039    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1040    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1041#endif
1042#if LAYER_CTB
1043    g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1044    g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1045    g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1046    g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1047
1048    memcpy( g_auiZscanToRaster, g_auiLayerZscanToRaster[layer], sizeof( g_auiZscanToRaster ) );
1049    memcpy( g_auiRasterToZscan, g_auiLayerRasterToZscan[layer], sizeof( g_auiRasterToZscan ) );
1050    memcpy( g_auiRasterToPelX,  g_auiLayerRasterToPelX[layer],  sizeof( g_auiRasterToPelX ) );
1051    memcpy( g_auiRasterToPelY,  g_auiLayerRasterToPelY[layer],  sizeof( g_auiRasterToPelY ) );
1052#endif
1053    m_acTEncTop[layer].init(isFieldCoding);
1054#if P0182_VPS_VUI_PS_FLAG
1055    m_acTEncTop[layer].getVPS()->setSPSId(layer, m_acTEncTop[layer].getSPS()->getSPSId());
1056    m_acTEncTop[layer].getVPS()->setPPSId(layer, m_acTEncTop[layer].getPPS()->getPPSId());
1057#endif
1058  }
1059  m_acTEncTop[0].getVPS()->setMaxLayers( m_numLayers );
1060#if VPS_EXTN_OP_LAYER_SETS
1061  TComVPS* vps = m_acTEncTop[0].getVPS();
1062  vps->setMaxLayerId(m_numLayers - 1);    // Set max-layer ID
1063
1064  vps->setVpsExtensionFlag( m_numLayers > 1 ? true : false );
1065
1066#if Q0078_ADD_LAYER_SETS
1067  if (m_numLayerSets > 0)
1068  {
1069    vps->setNumLayerSets(m_numLayerSets+1);
1070    for (Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1071    {
1072      for (Int layerId = 0; layerId <= vps->getMaxLayerId(); layerId++)
1073      {
1074        vps->setLayerIdIncludedFlag(false, setId, layerId);
1075      }
1076    }
1077    for (Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1078    {
1079      for (Int i = 0; i < m_numLayerInIdList[setId-1]; i++)
1080      {
1081        Int layerId = m_layerSetLayerIdList[setId-1][i];
1082
1083#if O0194_DIFFERENT_BITDEPTH_EL_BL
1084        //4
1085        g_bitDepthY = m_acLayerCfg[layerId].m_internalBitDepthY;
1086        g_bitDepthC = m_acLayerCfg[layerId].m_internalBitDepthC;
1087
1088        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthY : m_acLayerCfg[layerId].m_internalBitDepthY;
1089        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthC : m_acLayerCfg[layerId].m_internalBitDepthC;
1090#endif
1091
1092        vps->setLayerIdIncludedFlag(true, setId, layerId);
1093      }
1094    }
1095  }
1096  else
1097  {
1098    // Default layer sets
1099#endif
1100    vps->setNumLayerSets(m_numLayers);
1101    for (Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1102    {
1103      for (Int layerId = 0; layerId <= vps->getMaxLayerId(); layerId++)
1104      {
1105#if O0194_DIFFERENT_BITDEPTH_EL_BL
1106        //4
1107        g_bitDepthY = m_acLayerCfg[layerId].m_internalBitDepthY;
1108        g_bitDepthC = m_acLayerCfg[layerId].m_internalBitDepthC;
1109
1110        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthY : m_acLayerCfg[layerId].m_internalBitDepthY;
1111        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthC : m_acLayerCfg[layerId].m_internalBitDepthC;
1112#endif
1113        if (layerId <= setId)
1114        {
1115          vps->setLayerIdIncludedFlag(true, setId, layerId);
1116        }
1117        else
1118        {
1119          vps->setLayerIdIncludedFlag(false, setId, layerId);
1120        }
1121      }
1122    }
1123#if Q0078_ADD_LAYER_SETS
1124  }
1125#endif
1126#if Q0078_ADD_LAYER_SETS
1127  vps->setVpsNumLayerSetsMinus1(vps->getNumLayerSets() - 1);
1128  vps->setNumAddLayerSets(m_numAddLayerSets);
1129  vps->setNumLayerSets(vps->getNumLayerSets() + vps->getNumAddLayerSets());
1130  if (m_numAddLayerSets > 0)
1131  {
1132    for (Int setId = 0; setId < m_numAddLayerSets; setId++)
1133    {
1134      for (Int j = 0; j < m_numHighestLayerIdx[setId]; j++)
1135      {
1136        vps->setHighestLayerIdxPlus1(setId, j + 1, m_highestLayerIdx[setId][j] + 1);
1137      }
1138    }
1139  }
1140#endif
1141#if VPS_EXTN_MASK_AND_DIM_INFO
1142  UInt i = 0, dimIdLen = 0;
1143#if AVC_BASE
1144  vps->setAvcBaseLayerFlag(m_avcBaseLayerFlag);
1145#else
1146  vps->setAvcBaseLayerFlag(false);
1147#endif
1148  vps->setSplittingFlag(false);
1149  for(i = 0; i < MAX_VPS_NUM_SCALABILITY_TYPES; i++)
1150  {
1151    vps->setScalabilityMask(i, false);
1152  }
1153  if(m_numLayers > 1)
1154  {
1155    Int scalabilityTypes = 0;
1156    for(i = 0; i < MAX_VPS_NUM_SCALABILITY_TYPES; i++)
1157    {
1158      vps->setScalabilityMask(i, m_scalabilityMask[i]);
1159      scalabilityTypes += m_scalabilityMask[i];
1160    }
1161#if AUXILIARY_PICTURES
1162    assert( scalabilityTypes <= 2 );
1163#else
1164    assert( scalabilityTypes == 1 );
1165#endif
1166    vps->setNumScalabilityTypes(scalabilityTypes);
1167  }
1168  else
1169  {
1170    vps->setNumScalabilityTypes(0);
1171  }
1172  while((1 << dimIdLen) < m_numLayers)
1173  {
1174    dimIdLen++;
1175  }
1176  vps->setDimensionIdLen(0, dimIdLen);
1177  vps->setNuhLayerIdPresentFlag(false);
1178  vps->setLayerIdInNuh(0, 0);
1179  vps->setLayerIdInVps(0, 0);
1180  for(i = 1; i < vps->getMaxLayers(); i++)
1181  {
1182    vps->setLayerIdInNuh(i, i);
1183    vps->setLayerIdInVps(vps->getLayerIdInNuh(i), i);
1184    vps->setDimensionId(i, 0, i);
1185  }
1186#if AUXILIARY_PICTURES
1187  if (m_scalabilityMask[3])
1188  {
1189    UInt maxAuxId = 0;
1190    UInt auxDimIdLen = 1;
1191    for(i = 1; i < vps->getMaxLayers(); i++)
1192    {
1193      if (m_acLayerCfg[i].getAuxId() > maxAuxId)
1194      {
1195        maxAuxId = m_acLayerCfg[i].getAuxId();
1196      }
1197    }
1198    while((1 << auxDimIdLen) < (maxAuxId + 1))
1199    {
1200      auxDimIdLen++;
1201    }
1202    vps->setDimensionIdLen(1, auxDimIdLen);
1203    for(i = 1; i < vps->getMaxLayers(); i++)
1204    {
1205      vps->setDimensionId(i, 1, m_acLayerCfg[i].getAuxId());
1206    }
1207  }
1208#endif
1209#endif
1210#if VPS_TSLAYERS
1211    vps->setMaxTSLayersPresentFlag(true);
1212
1213    for( i = 0; i < vps->getMaxLayers(); i++ )
1214    {
1215      vps->setMaxTSLayersMinus1(i, vps->getMaxTLayers()-1);
1216    }
1217#endif
1218  vps->setMaxTidRefPresentFlag(m_maxTidRefPresentFlag);
1219  if (vps->getMaxTidRefPresentFlag())
1220  {
1221    for( i = 0; i < vps->getMaxLayers() - 1; i++ )
1222    {
1223#if O0225_MAX_TID_FOR_REF_LAYERS
1224      for( Int j = i+1; j < vps->getMaxLayers(); j++)
1225      {
1226        vps->setMaxTidIlRefPicsPlus1(i, j, m_acTEncTop[i].getMaxTidIlRefPicsPlus1());
1227      }
1228#else
1229      vps->setMaxTidIlRefPicsPlus1(i, m_acTEncTop[i].getMaxTidIlRefPicsPlus1());
1230#endif
1231    }
1232  }
1233  else
1234  {
1235    for( i = 0; i < vps->getMaxLayers() - 1; i++ )
1236    {
1237#if O0225_MAX_TID_FOR_REF_LAYERS
1238      for( Int j = i+1; j < vps->getMaxLayers(); j++)
1239      {
1240        vps->setMaxTidIlRefPicsPlus1(i, j, 7);
1241      }
1242#else
1243      vps->setMaxTidIlRefPicsPlus1(i, 7);
1244#endif
1245    }
1246  }
1247    vps->setIlpSshSignalingEnabledFlag(false);
1248#if VPS_EXTN_PROFILE_INFO
1249  vps->getPTLForExtnPtr()->resize(vps->getNumLayerSets());
1250  for(Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1251  {
1252    vps->setProfilePresentFlag(setId, true);
1253    // Note - may need to be changed for other layer structures.
1254    *(vps->getPTLForExtn(setId)) = *(m_acTEncTop[setId].getSPS()->getPTL());
1255  }
1256#endif
1257#if VPS_EXTN_DIRECT_REF_LAYERS
1258  // Direct reference layers
1259  UInt maxDirectRefLayers = 0;
1260#if O0096_DEFAULT_DEPENDENCY_TYPE
1261  Bool isDefaultDirectDependencyTypeSet = false;
1262#endif
1263  for (UInt layerCtr = 1; layerCtr <= vps->getMaxLayers() - 1; layerCtr++)
1264  {
1265    vps->setNumDirectRefLayers(layerCtr, m_acTEncTop[layerCtr].getNumDirectRefLayers());
1266    maxDirectRefLayers = max<UInt>(maxDirectRefLayers, vps->getNumDirectRefLayers(layerCtr));
1267
1268    for (i = 0; i < vps->getNumDirectRefLayers(layerCtr); i++)
1269    {
1270      vps->setRefLayerId(layerCtr, i, m_acTEncTop[layerCtr].getRefLayerId(i));
1271    }
1272    // Set direct dependency flag
1273    // Initialize flag to 0
1274    for (Int refLayerCtr = 0; refLayerCtr < layerCtr; refLayerCtr++)
1275    {
1276      vps->setDirectDependencyFlag(layerCtr, refLayerCtr, false);
1277    }
1278    for (i = 0; i < vps->getNumDirectRefLayers(layerCtr); i++)
1279    {
1280      vps->setDirectDependencyFlag(layerCtr, vps->getLayerIdInVps(m_acTEncTop[layerCtr].getRefLayerId(i)), true);
1281    }
1282    // prediction indications
1283    vps->setDirectDepTypeLen(2); // sample and motion types are encoded
1284    for (Int refLayerCtr = 0; refLayerCtr < layerCtr; refLayerCtr++)
1285    {
1286      if (vps->getDirectDependencyFlag(layerCtr, refLayerCtr))
1287      {
1288        assert(m_acTEncTop[layerCtr].getSamplePredEnabledFlag(refLayerCtr) || m_acTEncTop[layerCtr].getMotionPredEnabledFlag(refLayerCtr));
1289        vps->setDirectDependencyType(layerCtr, refLayerCtr, ((m_acTEncTop[layerCtr].getSamplePredEnabledFlag(refLayerCtr) ? 1 : 0) |
1290          (m_acTEncTop[layerCtr].getMotionPredEnabledFlag(refLayerCtr) ? 2 : 0)) - 1);
1291#if O0096_DEFAULT_DEPENDENCY_TYPE
1292        if (!isDefaultDirectDependencyTypeSet)
1293        {
1294          vps->setDefaultDirectDependecyTypeFlag(1);
1295          vps->setDefaultDirectDependecyType(vps->getDirectDependencyType(layerCtr, refLayerCtr));
1296          isDefaultDirectDependencyTypeSet = true;
1297        }
1298        else if (vps->getDirectDependencyType(layerCtr, refLayerCtr) != vps->getDefaultDirectDependencyType())
1299        {
1300          vps->setDefaultDirectDependecyTypeFlag(0);
1301        }
1302#endif
1303      }
1304      else
1305      {
1306        vps->setDirectDependencyType(layerCtr, refLayerCtr, 0);
1307      }
1308    }
1309  }
1310
1311#if O0092_0094_DEPENDENCY_CONSTRAINT
1312  vps->setNumRefLayers();
1313
1314  if (vps->getMaxLayers() > MAX_REF_LAYERS)
1315  {
1316    for (UInt layerCtr = 1; layerCtr <= vps->getMaxLayers() - 1; layerCtr++)
1317    {
1318      assert(vps->getNumRefLayers(vps->getLayerIdInNuh(layerCtr)) <= MAX_REF_LAYERS);
1319    }
1320  }
1321#endif
1322#if Q0078_ADD_LAYER_SETS
1323  vps->setPredictedLayerIds();
1324  vps->setTreePartitionLayerIdList();
1325  vps->setLayerIdIncludedFlagsForAddLayerSets();
1326#endif
1327#endif
1328  // Target output layer
1329  vps->setNumOutputLayerSets(vps->getNumLayerSets());
1330  vps->setNumProfileTierLevel(vps->getNumLayerSets());
1331#if P0295_DEFAULT_OUT_LAYER_IDC
1332  vps->setDefaultTargetOutputLayerIdc(1);
1333#else
1334#if O0109_DEFAULT_ONE_OUT_LAYER_IDC
1335  vps->setDefaultOneTargetOutputLayerIdc(1);
1336#else
1337  vps->setDefaultOneTargetOutputLayerFlag(true);
1338#endif
1339#endif
1340  for(i = 1; i < vps->getNumLayerSets(); i++)
1341  {
1342    vps->setProfileLevelTierIdx(i, i);
1343    vps->setOutputLayerSetIdx(i, i);
1344  } 
1345#endif
1346 #if VPS_DPB_SIZE_TABLE
1347  // The Layer ID List variables can be derived here. 
1348#if DERIVE_LAYER_ID_LIST_VARIABLES
1349  vps->deriveLayerIdListVariables();
1350#endif
1351#if RESOLUTION_BASED_DPB
1352  vps->assignSubDpbIndices();
1353#else
1354  vps->deriveNumberOfSubDpbs();
1355#endif
1356
1357  // derive OutputLayerFlag[i][j]
1358  if( vps->getDefaultTargetOutputLayerIdc() == 1 )
1359  {
1360    // default_output_layer_idc equal to 1 specifies that only the layer with the highest value of nuh_layer_id such that nuh_layer_id equal to nuhLayerIdA and
1361    // AuxId[ nuhLayerIdA ] equal to 0 in each of the output layer sets with index in the range of 1 to vps_num_layer_sets_minus1, inclusive, is an output layer of its output layer set.
1362
1363    // Include the highest layer as output layer for each layer set
1364    for(Int lsIdx = 1; lsIdx < vps->getNumLayerSets(); lsIdx++)
1365    {
1366      for( UInt layer = 0; layer < vps->getNumLayersInIdList(lsIdx); layer++ )
1367      {
1368#if !Q0078_ADD_LAYER_SETS  // the following condition is incorrect and is not needed anyway
1369        if( vps->getLayerIdIncludedFlag(lsIdx, layer) )     
1370#endif
1371        {       
1372          vps->setOutputLayerFlag( lsIdx, layer, layer == vps->getNumLayersInIdList(lsIdx) - 1 );
1373        }
1374      }
1375    }
1376  }
1377  else
1378  {
1379    // cases when default_output_layer_idc is not equal to 1
1380    assert(!"default_output_layer_idc not equal to 1 is not yet supported");
1381  }
1382
1383  // Initialize dpb_size_table() for all ouput layer sets in the VPS extension
1384  for(i = 1; i < vps->getNumOutputLayerSets(); i++)
1385  {
1386#if CHANGE_NUMSUBDPB_IDX
1387    Int layerSetIdxForOutputLayerSet = vps->getOutputLayerSetIdx( i );
1388#endif
1389    Int layerSetId = vps->getOutputLayerSetIdx(i);
1390
1391    for(Int j = 0; j < vps->getMaxTLayers(); j++)
1392    {
1393
1394      Int maxNumReorderPics = -1;
1395#if CHANGE_NUMSUBDPB_IDX
1396#if RESOLUTION_BASED_DPB
1397      for(Int k = 0; k < vps->getNumLayersInIdList(layerSetIdxForOutputLayerSet); k++)
1398#else
1399      for(Int k = 0; k < vps->getNumSubDpbs(layerSetIdxForOutputLayerSet); k++)
1400#endif
1401#else
1402      for(Int k = 0; k < vps->getNumSubDpbs(i); k++)
1403#endif
1404      {
1405        Int layerId = vps->getLayerSetLayerIdList(layerSetId, k); // k-th layer in the output layer set
1406#if RESOLUTION_BASED_DPB
1407        vps->setMaxVpsLayerDecPicBuffMinus1( i, k, j, m_acTEncTop[layerId].getMaxDecPicBuffering(j) - 1 );
1408        // Add sub-DPB sizes of layers belonging to a sub-DPB. If a different sub-DPB size is calculated
1409        // at the encoder, modify below
1410        Int oldValue = vps->getMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j );
1411        oldValue += vps->getMaxVpsLayerDecPicBuffMinus1( i, k, j ) + 1;
1412        vps->setMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j, oldValue );
1413#else
1414        vps->setMaxVpsDecPicBufferingMinus1( i, k, j,  m_acTEncTop[layerId].getMaxDecPicBuffering(j) - 1 );
1415#endif
1416        maxNumReorderPics       = std::max( maxNumReorderPics, m_acTEncTop[layerId].getNumReorderPics(j));
1417      }
1418#if RESOLUTION_BASED_DPB
1419      for(Int k = 0; k < vps->getNumSubDpbs(i); k++)
1420      {
1421        // Decrement m_maxVpsDecPicBufferingMinus1
1422        Int oldValue = vps->getMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j );
1423        vps->setMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j, oldValue - 1 );
1424      }
1425#endif
1426      vps->setMaxVpsNumReorderPics(i, j, maxNumReorderPics);
1427      vps->determineSubDpbInfoFlags();
1428    }
1429  }
1430#endif
1431    vps->setMaxOneActiveRefLayerFlag(maxDirectRefLayers > 1 ? false : true);
1432#if O0062_POC_LSB_NOT_PRESENT_FLAG
1433    for(i = 1; i< vps->getMaxLayers(); i++)
1434    {
1435      if( vps->getNumDirectRefLayers( vps->getLayerIdInNuh(i) ) == 0  )
1436      {
1437#if Q0078_ADD_LAYER_SETS
1438        vps->setPocLsbNotPresentFlag(i, true); // make independedent layers base-layer compliant
1439#else
1440        vps->setPocLsbNotPresentFlag(i, false);
1441#endif
1442      }
1443    }
1444#endif
1445#if O0223_PICTURE_TYPES_ALIGN_FLAG
1446    vps->setCrossLayerPictureTypeAlignFlag( m_crossLayerPictureTypeAlignFlag );
1447#endif
1448#if P0068_CROSS_LAYER_ALIGNED_IDR_ONLY_FOR_IRAP_FLAG
1449    vps->setCrossLayerAlignedIdrOnlyFlag( m_crossLayerAlignedIdrOnlyFlag );
1450#endif
1451    vps->setCrossLayerIrapAlignFlag( m_crossLayerIrapAlignFlag );
1452    for(UInt layerCtr = 1;layerCtr <= vps->getMaxLayers() - 1; layerCtr++)
1453    {
1454      for(Int refLayerCtr = 0; refLayerCtr < layerCtr; refLayerCtr++)
1455      {
1456        if (vps->getDirectDependencyFlag( layerCtr, refLayerCtr))
1457        {
1458          if(m_acTEncTop[layerCtr].getIntraPeriod() !=  m_acTEncTop[refLayerCtr].getIntraPeriod())
1459          {
1460            vps->setCrossLayerIrapAlignFlag(false);
1461            break;
1462          }
1463        }
1464      }
1465    }
1466#if M0040_ADAPTIVE_RESOLUTION_CHANGE
1467  vps->setSingleLayerForNonIrapFlag(m_adaptiveResolutionChange > 0 ? true : false);
1468#endif
1469#if HIGHER_LAYER_IRAP_SKIP_FLAG
1470  vps->setHigherLayerIrapSkipFlag(m_skipPictureAtArcSwitch);
1471#endif
1472#if !P0125_REVERT_VPS_EXTN_OFFSET_TO_RESERVED
1473#if !VPS_EXTN_OFFSET_CALC
1474#if VPS_EXTN_OFFSET
1475  // to be updated according to the current semantics
1476  vps->setExtensionOffset( 0xffff );
1477#endif
1478#endif
1479#endif
1480
1481#if O0215_PHASE_ALIGNMENT
1482  vps->setPhaseAlignFlag( m_phaseAlignFlag );
1483#endif
1484
1485#if P0300_ALT_OUTPUT_LAYER_FLAG
1486  for (Int k = 0; k < MAX_VPS_LAYER_SETS_PLUS1; k++)
1487  {
1488    vps->setAltOuputLayerFlag( k, m_altOutputLayerFlag );
1489  }
1490#else
1491#if O0153_ALT_OUTPUT_LAYER_FLAG
1492  vps->setAltOuputLayerFlag( m_altOutputLayerFlag );
1493#endif
1494#endif
1495
1496#if P0312_VERT_PHASE_ADJ
1497  Bool vpsVuiVertPhaseInUseFlag = false;
1498  for( UInt layerId = 1; layerId < m_numLayers; layerId++ )
1499  {
1500    for( i = 0; i < m_acLayerCfg[layerId].m_numScaledRefLayerOffsets; i++ )
1501    {
1502      if( m_acTEncTop[layerId].getVertPhasePositionEnableFlag(i) )
1503      {
1504        vpsVuiVertPhaseInUseFlag = true;
1505        break;
1506      }
1507    }
1508  }
1509  vps->setVpsVuiVertPhaseInUseFlag( vpsVuiVertPhaseInUseFlag );
1510#endif
1511
1512#if O0164_MULTI_LAYER_HRD
1513  vps->setVpsVuiBspHrdPresentFlag(false);
1514  TEncTop *pcCfg = &m_acTEncTop[0];
1515  if( pcCfg->getBufferingPeriodSEIEnabled() )
1516  {
1517    vps->setVpsVuiBspHrdPresentFlag(true);
1518#if Q0078_ADD_LAYER_SETS
1519    vps->setVpsNumBspHrdParametersMinus1(vps->getVpsNumLayerSetsMinus1() - 1); 
1520#else
1521    vps->setVpsNumBspHrdParametersMinus1(vps->getNumLayerSets() - 2); 
1522#endif
1523    vps->createBspHrdParamBuffer(vps->getVpsNumBspHrdParametersMinus1() + 1);
1524    for ( i = 0; i <= vps->getVpsNumBspHrdParametersMinus1(); i++ )
1525    {
1526      vps->setBspCprmsPresentFlag(i, true);
1527
1528      UInt layerId = i + 1;
1529      TEncTop *pcCfgLayer = &m_acTEncTop[layerId];
1530
1531      Int iPicWidth         = pcCfgLayer->getSourceWidth();
1532      Int iPicHeight        = pcCfgLayer->getSourceHeight();
1533#if LAYER_CTB
1534      UInt uiWidthInCU       = ( iPicWidth  % m_acLayerCfg[layerId].m_uiMaxCUWidth  ) ? iPicWidth  / m_acLayerCfg[layerId].m_uiMaxCUWidth  + 1 : iPicWidth  / m_acLayerCfg[layerId].m_uiMaxCUWidth;
1535      UInt uiHeightInCU      = ( iPicHeight % m_acLayerCfg[layerId].m_uiMaxCUHeight ) ? iPicHeight / m_acLayerCfg[layerId].m_uiMaxCUHeight + 1 : iPicHeight / m_acLayerCfg[layerId].m_uiMaxCUHeight;
1536#else
1537      UInt uiWidthInCU       = ( iPicWidth %m_uiMaxCUWidth  ) ? iPicWidth /m_uiMaxCUWidth  + 1 : iPicWidth /m_uiMaxCUWidth;
1538      UInt uiHeightInCU      = ( iPicHeight%m_uiMaxCUHeight ) ? iPicHeight/m_uiMaxCUHeight + 1 : iPicHeight/m_uiMaxCUHeight;
1539#endif
1540      UInt uiNumCUsInFrame   = uiWidthInCU * uiHeightInCU;
1541
1542#if LAYER_CTB
1543      UInt maxCU = pcCfgLayer->getSliceArgument() >> ( m_acLayerCfg[layerId].m_uiMaxCUDepth << 1);
1544#else
1545      UInt maxCU = pcCfgLayer->getSliceArgument() >> ( m_uiMaxCUDepth << 1);
1546#endif
1547      UInt numDU = ( pcCfgLayer->getSliceMode() == 1 ) ? ( uiNumCUsInFrame / maxCU ) : ( 0 );
1548      if( uiNumCUsInFrame % maxCU != 0 || numDU == 0 )
1549      {
1550        numDU ++;
1551      }
1552      vps->getBspHrd(i)->setNumDU( numDU );
1553      vps->setBspHrdParameters( i, pcCfgLayer->getFrameRate(), numDU, pcCfgLayer->getTargetBitrate(), ( pcCfgLayer->getIntraPeriod() > 0 ) );
1554    }
1555#if Q0078_ADD_LAYER_SETS
1556    for (UInt h = 1; h <= vps->getVpsNumLayerSetsMinus1(); h++)
1557#else
1558    for(UInt h = 1; h <= (vps->getNumLayerSets()-1); h++)
1559#endif
1560    {
1561      vps->setNumBitstreamPartitions(h, 1);
1562      for( i = 0; i < vps->getNumBitstreamPartitions(h); i++ )
1563      {
1564        for( UInt j = 0; j <= (vps->getMaxLayers()-1); j++ )
1565        {
1566          if (vps->getLayerIdIncludedFlag(h, j) && h == j)
1567          {
1568            vps->setLayerInBspFlag(h, i, j, true);
1569          }
1570        }
1571      }
1572      vps->setNumBspSchedCombinations(h, 1);
1573      for( i = 0; i < vps->getNumBspSchedCombinations(h); i++ )
1574      {
1575        for( UInt j = 0; j < vps->getNumBitstreamPartitions(h); j++ )
1576        {
1577          vps->setBspCombHrdIdx(h, i, j, 0);
1578          vps->setBspCombSchedIdx(h, i, j, 0);
1579        }
1580      }
1581    }
1582  }
1583#endif
1584
1585#else //SVC_EXTENSION
1586  m_cTEncTop.init(isFieldCoding);
1587#endif //SVC_EXTENSION
1588}
1589
1590// ====================================================================================================================
1591// Public member functions
1592// ====================================================================================================================
1593
1594/**
1595 - create internal class
1596 - initialize internal variable
1597 - until the end of input YUV file, call encoding function in TEncTop class
1598 - delete allocated buffers
1599 - destroy internal class
1600 .
1601 */
1602#if SVC_EXTENSION
1603Void TAppEncTop::encode()
1604{
1605  fstream bitstreamFile(m_pBitstreamFile, fstream::binary | fstream::out);
1606  if (!bitstreamFile)
1607  {
1608    fprintf(stderr, "\nfailed to open bitstream file `%s' for writing\n", m_pBitstreamFile);
1609    exit(EXIT_FAILURE);
1610  }
1611
1612  TComPicYuv*       pcPicYuvOrg [MAX_LAYERS];
1613  TComPicYuv*       pcPicYuvRec = NULL;
1614
1615  // initialize internal class & member variables
1616  xInitLibCfg();
1617  xCreateLib();
1618  xInitLib(m_isField);
1619
1620  // main encoder loop
1621  Int   iNumEncoded = 0, iTotalNumEncoded = 0;
1622  Bool  bEos = false;
1623
1624  list<AccessUnit> outputAccessUnits; ///< list of access units to write out.  is populated by the encoding process
1625
1626  for(UInt layer=0; layer<m_numLayers; layer++)
1627  {
1628#if O0194_DIFFERENT_BITDEPTH_EL_BL
1629    //5
1630    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1631    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1632
1633    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1634    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1635#endif
1636    // allocate original YUV buffer
1637    pcPicYuvOrg[layer] = new TComPicYuv;
1638    if( m_isField )
1639    {
1640#if SVC_EXTENSION
1641#if LAYER_CTB
1642#if AUXILIARY_PICTURES
1643      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_acLayerCfg[layer].getChromaFormatIDC(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1644#else
1645      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1646#endif
1647#else
1648#if AUXILIARY_PICTURES
1649      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_acLayerCfg[layer].getChromaFormatIDC(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1650#else
1651      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1652#endif
1653#endif
1654#else
1655      pcPicYuvOrg->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
1656#endif
1657    }
1658    else
1659    {
1660#if SVC_EXTENSION
1661#if LAYER_CTB
1662#if AUXILIARY_PICTURES
1663      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1664#else
1665      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1666#endif
1667#else
1668#if AUXILIARY_PICTURES
1669      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1670#else
1671      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1672#endif
1673#endif
1674#else
1675      pcPicYuvOrg->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
1676#endif
1677    }
1678  }
1679
1680  Bool bFirstFrame = true;
1681  while ( !bEos )
1682  {
1683    // Read enough frames
1684    Bool bFramesReadyToCode = false;
1685    while(!bFramesReadyToCode)
1686    {
1687      for(UInt layer=0; layer<m_numLayers; layer++)
1688      {
1689#if O0194_DIFFERENT_BITDEPTH_EL_BL
1690        //6
1691        g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1692        g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1693
1694        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1695        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1696#endif
1697#if LAYER_CTB
1698        g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1699        g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1700        g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1701        g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1702#endif
1703
1704        // get buffers
1705        xGetBuffer(pcPicYuvRec, layer);
1706
1707        // read input YUV file
1708        m_acTVideoIOYuvInputFile[layer].read( pcPicYuvOrg[layer], m_acLayerCfg[layer].getPad() );
1709
1710#if AUXILIARY_PICTURES
1711        if (m_acLayerCfg[layer].getChromaFormatIDC() == CHROMA_400)
1712        {
1713          pcPicYuvOrg[layer]->convertToMonochrome();
1714        }
1715#endif
1716
1717        if(layer == m_numLayers-1)
1718        {
1719          // increase number of received frames
1720          m_iFrameRcvd++;
1721          // check end of file
1722          bEos = (m_isField && (m_iFrameRcvd == (m_framesToBeEncoded >> 1) )) || ( !m_isField && (m_iFrameRcvd == m_framesToBeEncoded) );
1723        }
1724
1725        if ( m_isField )
1726        {
1727          m_acTEncTop[layer].encodePrep( pcPicYuvOrg[layer], m_isTopFieldFirst );
1728        }
1729        else
1730        {
1731          m_acTEncTop[layer].encodePrep( pcPicYuvOrg[layer] );
1732        }
1733      }
1734
1735      bFramesReadyToCode = !(!bFirstFrame && ( m_acTEncTop[m_numLayers-1].getNumPicRcvd() != m_iGOPSize && m_iGOPSize ) && !bEos );
1736    }
1737    Bool flush = 0;
1738    // if end of file (which is only detected on a read failure) flush the encoder of any queued pictures
1739    if (m_acTVideoIOYuvInputFile[m_numLayers-1].isEof())
1740    {
1741      flush = true;
1742      bEos = true;
1743      m_iFrameRcvd--;
1744      m_acTEncTop[m_numLayers-1].setFramesToBeEncoded(m_iFrameRcvd);
1745    }
1746
1747#if RC_SHVC_HARMONIZATION
1748    for(UInt layer=0; layer<m_numLayers; layer++)
1749    {
1750      if ( m_acTEncTop[layer].getUseRateCtrl() )
1751      {
1752        (m_acTEncTop[layer].getRateCtrl())->initRCGOP(m_acTEncTop[layer].getNumPicRcvd());
1753      }
1754    }
1755#endif
1756
1757#if M0040_ADAPTIVE_RESOLUTION_CHANGE
1758    if (m_adaptiveResolutionChange)
1759    {
1760      for(UInt layer = 0; layer < m_numLayers; layer++)
1761      {
1762        TComList<TComPicYuv*>::iterator iterPicYuvRec;
1763        for (iterPicYuvRec = m_acListPicYuvRec[layer].begin(); iterPicYuvRec != m_acListPicYuvRec[layer].end(); iterPicYuvRec++)
1764        {
1765          TComPicYuv* recPic = *(iterPicYuvRec);
1766          recPic->setReconstructed(false);
1767        }
1768      }
1769    }
1770#endif
1771
1772    // loop through frames in one GOP
1773    for ( UInt iPicIdInGOP=0; iPicIdInGOP < (bFirstFrame? 1:m_iGOPSize); iPicIdInGOP++ )
1774    {
1775      // layer by layer for each frame
1776      for(UInt layer=0; layer<m_numLayers; layer++)
1777      {
1778#if O0194_DIFFERENT_BITDEPTH_EL_BL
1779        //7
1780        g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1781        g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1782
1783        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1784        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1785#endif
1786#if LAYER_CTB
1787        g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1788        g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1789        g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1790        g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1791
1792        memcpy( g_auiZscanToRaster, g_auiLayerZscanToRaster[layer], sizeof( g_auiZscanToRaster ) );
1793        memcpy( g_auiRasterToZscan, g_auiLayerRasterToZscan[layer], sizeof( g_auiRasterToZscan ) );
1794        memcpy( g_auiRasterToPelX,  g_auiLayerRasterToPelX[layer],  sizeof( g_auiRasterToPelX ) );
1795        memcpy( g_auiRasterToPelY,  g_auiLayerRasterToPelY[layer],  sizeof( g_auiRasterToPelY ) );
1796#endif
1797        // call encoding function for one frame
1798        if ( m_isField )
1799        {
1800          m_acTEncTop[layer].encode( flush ? 0 : pcPicYuvOrg[layer], m_acListPicYuvRec[layer], outputAccessUnits, iPicIdInGOP, m_isTopFieldFirst );
1801        }
1802        else
1803        {
1804          m_acTEncTop[layer].encode( flush ? 0 : pcPicYuvOrg[layer], m_acListPicYuvRec[layer], outputAccessUnits, iPicIdInGOP );
1805        }
1806      }
1807    }
1808
1809#if RC_SHVC_HARMONIZATION
1810    for(UInt layer=0; layer<m_numLayers; layer++)
1811    {
1812      if ( m_acTEncTop[layer].getUseRateCtrl() )
1813      {
1814        (m_acTEncTop[layer].getRateCtrl())->destroyRCGOP();
1815      }
1816    }
1817#endif
1818
1819    iTotalNumEncoded = 0;
1820    for(UInt layer=0; layer<m_numLayers; layer++)
1821    {
1822#if O0194_DIFFERENT_BITDEPTH_EL_BL
1823      //8
1824      g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1825      g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1826
1827      g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1828      g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1829#endif
1830      // write bistream to file if necessary
1831      iNumEncoded = m_acTEncTop[layer].getNumPicRcvd();
1832      if ( iNumEncoded > 0 )
1833      {
1834        xWriteRecon(layer, iNumEncoded);
1835        iTotalNumEncoded += iNumEncoded;
1836      }
1837      m_acTEncTop[layer].setNumPicRcvd( 0 );
1838    }
1839
1840    // write bitstream out
1841    if(iTotalNumEncoded)
1842    {
1843#if P0130_EOB
1844      if( bEos )
1845      {
1846        OutputNALUnit nalu(NAL_UNIT_EOB);
1847        nalu.m_layerId = 0;
1848
1849        AccessUnit& accessUnit = outputAccessUnits.back();
1850#if T_ID_EOB_BUG_FIX
1851        nalu.m_temporalId = 0;
1852#else
1853        nalu.m_temporalId = accessUnit.front()->m_temporalId;
1854#endif
1855        accessUnit.push_back(new NALUnitEBSP(nalu));
1856      }
1857#endif
1858      xWriteStream(bitstreamFile, iTotalNumEncoded, outputAccessUnits);
1859      outputAccessUnits.clear();
1860    }
1861
1862    // print out summary
1863    if (bEos)
1864    {
1865      printOutSummary(m_isTopFieldFirst);
1866    }
1867
1868    bFirstFrame = false;
1869  }
1870  // delete original YUV buffer
1871  for(UInt layer=0; layer<m_numLayers; layer++)
1872  {
1873    pcPicYuvOrg[layer]->destroy();
1874    delete pcPicYuvOrg[layer];
1875    pcPicYuvOrg[layer] = NULL;
1876
1877    // delete used buffers in encoder class
1878    m_acTEncTop[layer].deletePicBuffer();
1879  }
1880
1881  // delete buffers & classes
1882  xDeleteBuffer();
1883  xDestroyLib();
1884
1885  printRateSummary();
1886
1887  return;
1888}
1889
1890Void TAppEncTop::printOutSummary(Bool isField)
1891{
1892  UInt layer;
1893
1894  // set frame rate
1895  for(layer = 0; layer < m_numLayers; layer++)
1896  {
1897    if(isField)
1898    {
1899      m_gcAnalyzeAll[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2);
1900      m_gcAnalyzeI[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2 );
1901      m_gcAnalyzeP[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2 );
1902      m_gcAnalyzeB[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2 );
1903    }
1904    else
1905    {
1906      m_gcAnalyzeAll[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate());
1907      m_gcAnalyzeI[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() );
1908      m_gcAnalyzeP[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() );
1909      m_gcAnalyzeB[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() );
1910    }
1911  }
1912
1913  //-- all
1914  printf( "\n\nSUMMARY --------------------------------------------------------\n" );
1915  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1916  for(layer = 0; layer < m_numLayers; layer++)
1917  {
1918    m_gcAnalyzeAll[layer].printOut('a', layer);
1919  }
1920
1921  printf( "\n\nI Slices--------------------------------------------------------\n" );
1922  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1923  for(layer = 0; layer < m_numLayers; layer++)
1924  {
1925    m_gcAnalyzeI[layer].printOut('i', layer);
1926  }
1927
1928  printf( "\n\nP Slices--------------------------------------------------------\n" );
1929  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1930  for(layer = 0; layer < m_numLayers; layer++)
1931  {
1932    m_gcAnalyzeP[layer].printOut('p', layer);
1933  }
1934
1935  printf( "\n\nB Slices--------------------------------------------------------\n" );
1936  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1937  for(layer = 0; layer < m_numLayers; layer++)
1938  {
1939    m_gcAnalyzeB[layer].printOut('b', layer);
1940  }
1941
1942  if(isField)
1943  {
1944    for(layer = 0; layer < m_numLayers; layer++)
1945    {
1946      //-- interlaced summary
1947      m_gcAnalyzeAll_in.setFrmRate( m_acLayerCfg[layer].getFrameRate());
1948      printf( "\n\nSUMMARY INTERLACED ---------------------------------------------\n" );
1949      m_gcAnalyzeAll_in.printOutInterlaced('a',  m_gcAnalyzeAll[layer].getBits());
1950
1951#if _SUMMARY_OUT_
1952      m_gcAnalyzeAll_in.printSummaryOutInterlaced();
1953#endif
1954    }
1955  }
1956}
1957
1958#else
1959Void TAppEncTop::encode()
1960{
1961  fstream bitstreamFile(m_pchBitstreamFile, fstream::binary | fstream::out);
1962  if (!bitstreamFile)
1963  {
1964    fprintf(stderr, "\nfailed to open bitstream file `%s' for writing\n", m_pchBitstreamFile);
1965    exit(EXIT_FAILURE);
1966  }
1967
1968  TComPicYuv*       pcPicYuvOrg = new TComPicYuv;
1969  TComPicYuv*       pcPicYuvRec = NULL;
1970
1971  // initialize internal class & member variables
1972  xInitLibCfg();
1973  xCreateLib();
1974  xInitLib(m_isField);
1975
1976  // main encoder loop
1977  Int   iNumEncoded = 0;
1978  Bool  bEos = false;
1979
1980  list<AccessUnit> outputAccessUnits; ///< list of access units to write out.  is populated by the encoding process
1981
1982  // allocate original YUV buffer
1983  if( m_isField )
1984  {
1985    pcPicYuvOrg->create( m_iSourceWidth, m_iSourceHeightOrg, m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
1986  }
1987  else
1988  {
1989    pcPicYuvOrg->create( m_iSourceWidth, m_iSourceHeight, m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
1990  }
1991
1992  while ( !bEos )
1993  {
1994    // get buffers
1995    xGetBuffer(pcPicYuvRec);
1996
1997    // read input YUV file
1998    m_cTVideoIOYuvInputFile.read( pcPicYuvOrg, m_aiPad );
1999
2000    // increase number of received frames
2001    m_iFrameRcvd++;
2002
2003    bEos = (m_isField && (m_iFrameRcvd == (m_framesToBeEncoded >> 1) )) || ( !m_isField && (m_iFrameRcvd == m_framesToBeEncoded) );
2004    Bool flush = 0;
2005    // if end of file (which is only detected on a read failure) flush the encoder of any queued pictures
2006    if (m_cTVideoIOYuvInputFile.isEof())
2007    {
2008      flush = true;
2009      bEos = true;
2010      m_iFrameRcvd--;
2011      m_cTEncTop.setFramesToBeEncoded(m_iFrameRcvd);
2012    }
2013
2014    // call encoding function for one frame
2015    if ( m_isField )
2016    {
2017      m_cTEncTop.encode( bEos, flush ? 0 : pcPicYuvOrg, m_cListPicYuvRec, outputAccessUnits, iNumEncoded, m_isTopFieldFirst);
2018    }
2019    else
2020    {
2021    m_cTEncTop.encode( bEos, flush ? 0 : pcPicYuvOrg, m_cListPicYuvRec, outputAccessUnits, iNumEncoded );
2022    }
2023
2024    // write bistream to file if necessary
2025    if ( iNumEncoded > 0 )
2026    {
2027      xWriteOutput(bitstreamFile, iNumEncoded, outputAccessUnits);
2028      outputAccessUnits.clear();
2029    }
2030  }
2031
2032  m_cTEncTop.printSummary(m_isField);
2033
2034  // delete original YUV buffer
2035  pcPicYuvOrg->destroy();
2036  delete pcPicYuvOrg;
2037  pcPicYuvOrg = NULL;
2038
2039  // delete used buffers in encoder class
2040  m_cTEncTop.deletePicBuffer();
2041
2042  // delete buffers & classes
2043  xDeleteBuffer();
2044  xDestroyLib();
2045
2046  printRateSummary();
2047
2048  return;
2049}
2050#endif
2051
2052// ====================================================================================================================
2053// Protected member functions
2054// ====================================================================================================================
2055
2056/**
2057 - application has picture buffer list with size of GOP
2058 - picture buffer list acts as ring buffer
2059 - end of the list has the latest picture
2060 .
2061 */
2062#if SVC_EXTENSION
2063Void TAppEncTop::xGetBuffer( TComPicYuv*& rpcPicYuvRec, UInt layer)
2064{
2065  assert( m_iGOPSize > 0 );
2066
2067  // org. buffer
2068  if ( m_acListPicYuvRec[layer].size() == (UInt)m_iGOPSize )
2069  {
2070    rpcPicYuvRec = m_acListPicYuvRec[layer].popFront();
2071
2072  }
2073  else
2074  {
2075    rpcPicYuvRec = new TComPicYuv;
2076
2077#if LAYER_CTB
2078#if AUXILIARY_PICTURES
2079    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
2080#else
2081    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
2082#endif
2083#else
2084#if AUXILIARY_PICTURES
2085    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
2086#else
2087    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
2088#endif
2089#endif
2090
2091  }
2092  m_acListPicYuvRec[layer].pushBack( rpcPicYuvRec );
2093}
2094
2095Void TAppEncTop::xDeleteBuffer( )
2096{
2097  for(UInt layer=0; layer<m_numLayers; layer++)
2098  {
2099    TComList<TComPicYuv*>::iterator iterPicYuvRec  = m_acListPicYuvRec[layer].begin();
2100
2101    Int iSize = Int( m_acListPicYuvRec[layer].size() );
2102
2103    for ( Int i = 0; i < iSize; i++ )
2104    {
2105      TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2106      pcPicYuvRec->destroy();
2107      delete pcPicYuvRec; pcPicYuvRec = NULL;
2108    }
2109  }
2110}
2111
2112Void TAppEncTop::xWriteRecon(UInt layer, Int iNumEncoded)
2113{
2114#if REPN_FORMAT_IN_VPS
2115  ChromaFormat chromaFormatIdc = m_acLayerCfg[layer].getChromaFormatIDC();
2116  Int xScal = TComSPS::getWinUnitX( chromaFormatIdc );
2117  Int yScal = TComSPS::getWinUnitY( chromaFormatIdc );
2118#endif
2119
2120  if (m_isField)
2121  {
2122    //Reinterlace fields
2123    Int i;
2124    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_acListPicYuvRec[layer].end();
2125
2126    for ( i = 0; i < iNumEncoded; i++ )
2127    {
2128      --iterPicYuvRec;
2129    }
2130
2131    for ( i = 0; i < iNumEncoded/2; i++ )
2132    {
2133      TComPicYuv*  pcPicYuvRecTop  = *(iterPicYuvRec++);
2134      TComPicYuv*  pcPicYuvRecBottom  = *(iterPicYuvRec++);
2135
2136#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2137      if (!m_acLayerCfg[layer].getReconFile().empty() && pcPicYuvRecTop->isReconstructed() && pcPicYuvRecBottom->isReconstructed())
2138#else
2139      if (!m_acLayerCfg[layer].getReconFile().empty())
2140#endif
2141      {
2142#if REPN_FORMAT_IN_VPS
2143        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRecTop, pcPicYuvRecBottom, m_acLayerCfg[layer].getConfWinLeft() * xScal, m_acLayerCfg[layer].getConfWinRight() * xScal, 
2144          m_acLayerCfg[layer].getConfWinTop() * yScal, m_acLayerCfg[layer].getConfWinBottom() * yScal, m_isTopFieldFirst );
2145#else
2146        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRecTop, pcPicYuvRecBottom, m_acLayerCfg[layer].getConfWinLeft(), m_acLayerCfg[layer].getConfWinRight(), m_acLayerCfg[layer].getConfWinTop(), m_acLayerCfg[layer].getConfWinBottom(), m_isTopFieldFirst );
2147#endif
2148      }
2149    }
2150  }
2151  else
2152  {
2153    Int i;
2154
2155    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_acListPicYuvRec[layer].end();
2156
2157    for ( i = 0; i < iNumEncoded; i++ )
2158    {
2159      --iterPicYuvRec;
2160    }
2161
2162    for ( i = 0; i < iNumEncoded; i++ )
2163    {
2164      TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2165#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2166      if (!m_acLayerCfg[layer].getReconFile().empty() && pcPicYuvRec->isReconstructed())
2167#else
2168      if (!m_acLayerCfg[layer].getReconFile().empty())
2169#endif
2170      {
2171#if REPN_FORMAT_IN_VPS
2172        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRec, m_acLayerCfg[layer].getConfWinLeft() * xScal, m_acLayerCfg[layer].getConfWinRight() * xScal,
2173          m_acLayerCfg[layer].getConfWinTop() * yScal, m_acLayerCfg[layer].getConfWinBottom() * yScal );
2174#else
2175        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRec, m_acLayerCfg[layer].getConfWinLeft(), m_acLayerCfg[layer].getConfWinRight(),
2176          m_acLayerCfg[layer].getConfWinTop(), m_acLayerCfg[layer].getConfWinBottom() );
2177#endif
2178      }
2179    }
2180  }
2181}
2182
2183Void TAppEncTop::xWriteStream(std::ostream& bitstreamFile, Int iNumEncoded, const std::list<AccessUnit>& accessUnits)
2184{
2185  if (m_isField)
2186  {
2187    //Reinterlace fields
2188    Int i;
2189    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2190
2191#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2192    for ( i = 0; i < iNumEncoded/2 && iterBitstream != accessUnits.end(); i++ )
2193#else
2194    for ( i = 0; i < iNumEncoded/2; i++ )
2195#endif
2196    {
2197      const AccessUnit& auTop = *(iterBitstream++);
2198      const vector<UInt>& statsTop = writeAnnexB(bitstreamFile, auTop);
2199      rateStatsAccum(auTop, statsTop);
2200
2201      const AccessUnit& auBottom = *(iterBitstream++);
2202      const vector<UInt>& statsBottom = writeAnnexB(bitstreamFile, auBottom);
2203      rateStatsAccum(auBottom, statsBottom);
2204    }
2205  }
2206  else
2207  {
2208    Int i;
2209
2210    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2211
2212#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2213    for ( i = 0; i < iNumEncoded && iterBitstream != accessUnits.end(); i++ )
2214#else
2215    for ( i = 0; i < iNumEncoded; i++ )
2216#endif
2217    {
2218      const AccessUnit& au = *(iterBitstream++);
2219      const vector<UInt>& stats = writeAnnexB(bitstreamFile, au);
2220      rateStatsAccum(au, stats);
2221    }
2222  }
2223}
2224
2225#else // SVC_EXTENSION
2226Void TAppEncTop::xGetBuffer( TComPicYuv*& rpcPicYuvRec)
2227{
2228  assert( m_iGOPSize > 0 );
2229
2230  // org. buffer
2231  if ( m_cListPicYuvRec.size() == (UInt)m_iGOPSize )
2232  {
2233    rpcPicYuvRec = m_cListPicYuvRec.popFront();
2234
2235  }
2236  else
2237  {
2238    rpcPicYuvRec = new TComPicYuv;
2239
2240    rpcPicYuvRec->create( m_iSourceWidth, m_iSourceHeight, m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
2241
2242  }
2243  m_cListPicYuvRec.pushBack( rpcPicYuvRec );
2244}
2245
2246Void TAppEncTop::xDeleteBuffer( )
2247{
2248  TComList<TComPicYuv*>::iterator iterPicYuvRec  = m_cListPicYuvRec.begin();
2249
2250  Int iSize = Int( m_cListPicYuvRec.size() );
2251
2252  for ( Int i = 0; i < iSize; i++ )
2253  {
2254    TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2255    pcPicYuvRec->destroy();
2256    delete pcPicYuvRec; pcPicYuvRec = NULL;
2257  }
2258
2259}
2260
2261/** \param iNumEncoded  number of encoded frames
2262 */
2263Void TAppEncTop::xWriteOutput(std::ostream& bitstreamFile, Int iNumEncoded, const std::list<AccessUnit>& accessUnits)
2264{
2265  if (m_isField)
2266  {
2267    //Reinterlace fields
2268    Int i;
2269    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_cListPicYuvRec.end();
2270    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2271
2272    for ( i = 0; i < iNumEncoded; i++ )
2273    {
2274      --iterPicYuvRec;
2275    }
2276
2277    for ( i = 0; i < iNumEncoded/2; i++ )
2278    {
2279      TComPicYuv*  pcPicYuvRecTop  = *(iterPicYuvRec++);
2280      TComPicYuv*  pcPicYuvRecBottom  = *(iterPicYuvRec++);
2281
2282      if (m_pchReconFile)
2283      {
2284        m_cTVideoIOYuvReconFile.write( pcPicYuvRecTop, pcPicYuvRecBottom, m_confWinLeft, m_confWinRight, m_confWinTop, m_confWinBottom, m_isTopFieldFirst );
2285      }
2286
2287      const AccessUnit& auTop = *(iterBitstream++);
2288      const vector<UInt>& statsTop = writeAnnexB(bitstreamFile, auTop);
2289      rateStatsAccum(auTop, statsTop);
2290
2291      const AccessUnit& auBottom = *(iterBitstream++);
2292      const vector<UInt>& statsBottom = writeAnnexB(bitstreamFile, auBottom);
2293      rateStatsAccum(auBottom, statsBottom);
2294    }
2295  }
2296  else
2297  {
2298    Int i;
2299    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_cListPicYuvRec.end();
2300    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2301
2302    for ( i = 0; i < iNumEncoded; i++ )
2303    {
2304      --iterPicYuvRec;
2305    }
2306
2307    for ( i = 0; i < iNumEncoded; i++ )
2308    {
2309      TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2310      if (m_pchReconFile)
2311      {
2312        m_cTVideoIOYuvReconFile.write( pcPicYuvRec, m_confWinLeft, m_confWinRight, m_confWinTop, m_confWinBottom );
2313      }
2314
2315      const AccessUnit& au = *(iterBitstream++);
2316      const vector<UInt>& stats = writeAnnexB(bitstreamFile, au);
2317      rateStatsAccum(au, stats);
2318    }
2319  }
2320}
2321#endif
2322
2323/**
2324 *
2325 */
2326void TAppEncTop::rateStatsAccum(const AccessUnit& au, const std::vector<UInt>& annexBsizes)
2327{
2328  AccessUnit::const_iterator it_au = au.begin();
2329  vector<UInt>::const_iterator it_stats = annexBsizes.begin();
2330
2331  for (; it_au != au.end(); it_au++, it_stats++)
2332  {
2333    switch ((*it_au)->m_nalUnitType)
2334    {
2335    case NAL_UNIT_CODED_SLICE_TRAIL_R:
2336    case NAL_UNIT_CODED_SLICE_TRAIL_N:
2337    case NAL_UNIT_CODED_SLICE_TSA_R:
2338    case NAL_UNIT_CODED_SLICE_TSA_N:
2339    case NAL_UNIT_CODED_SLICE_STSA_R:
2340    case NAL_UNIT_CODED_SLICE_STSA_N:
2341    case NAL_UNIT_CODED_SLICE_BLA_W_LP:
2342    case NAL_UNIT_CODED_SLICE_BLA_W_RADL:
2343    case NAL_UNIT_CODED_SLICE_BLA_N_LP:
2344    case NAL_UNIT_CODED_SLICE_IDR_W_RADL:
2345    case NAL_UNIT_CODED_SLICE_IDR_N_LP:
2346    case NAL_UNIT_CODED_SLICE_CRA:
2347    case NAL_UNIT_CODED_SLICE_RADL_N:
2348    case NAL_UNIT_CODED_SLICE_RADL_R:
2349    case NAL_UNIT_CODED_SLICE_RASL_N:
2350    case NAL_UNIT_CODED_SLICE_RASL_R:
2351    case NAL_UNIT_VPS:
2352    case NAL_UNIT_SPS:
2353    case NAL_UNIT_PPS:
2354      m_essentialBytes += *it_stats;
2355      break;
2356    default:
2357      break;
2358    }
2359
2360    m_totalBytes += *it_stats;
2361  }
2362}
2363
2364void TAppEncTop::printRateSummary()
2365{
2366#if SVC_EXTENSION
2367  Double time = (Double) m_iFrameRcvd / m_acLayerCfg[m_numLayers-1].getFrameRate();
2368#else
2369  Double time = (Double) m_iFrameRcvd / m_iFrameRate;
2370#endif
2371  printf("Bytes written to file: %u (%.3f kbps)\n", m_totalBytes, 0.008 * m_totalBytes / time);
2372#if VERBOSE_RATE
2373  printf("Bytes for SPS/PPS/Slice (Incl. Annex B): %u (%.3f kbps)\n", m_essentialBytes, 0.008 * m_essentialBytes / time);
2374#endif
2375}
2376
2377//! \}
Note: See TracBrowser for help on using the repository browser.