source: SHVCSoftware/branches/SHM-dev/source/App/TAppEncoder/TAppEncTop.cpp @ 851

Last change on this file since 851 was 849, checked in by sharp, 10 years ago

JCTVC-R0340 Resampling modifications (Macro:R0340_RESAMPLING_MODIFICATION)

Include generic phase (R0209), ref. region offset (R0013), move scaled ref offset to PPS (R0013), remove clip to scaled ref window (R0220) and ref offset signal change (R0220).

From: Tomoyuki Yamamoto <yamamoto.tomoyuki@…>

  • Property svn:eol-style set to native
File size: 97.5 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2014, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34/** \file     TAppEncTop.cpp
35    \brief    Encoder application class
36*/
37
38#include <list>
39#include <fstream>
40#include <stdlib.h>
41#include <stdio.h>
42#include <fcntl.h>
43#include <assert.h>
44
45#include "TAppEncTop.h"
46#include "TLibEncoder/AnnexBwrite.h"
47
48using namespace std;
49
50//! \ingroup TAppEncoder
51//! \{
52
53// ====================================================================================================================
54// Constructor / destructor / initialization / destroy
55// ====================================================================================================================
56
57TAppEncTop::TAppEncTop()
58{
59  m_iFrameRcvd = 0;
60  m_totalBytes = 0;
61  m_essentialBytes = 0;
62#if SVC_EXTENSION
63  for(UInt layer=0; layer < MAX_LAYERS; layer++)
64  {
65    m_apcTEncTop[layer] = &m_acTEncTop[layer];
66  }
67#endif
68}
69
70TAppEncTop::~TAppEncTop()
71{
72}
73
74#if SVC_EXTENSION
75Void TAppEncTop::xInitLibCfg()
76{
77  TComVPS* vps = m_acTEncTop[0].getVPS();
78
79  vps->setMaxTLayers                       ( m_maxTempLayer );
80  if (m_maxTempLayer == 1)
81  {
82    vps->setTemporalNestingFlag(true);
83  }
84  for(Int i = 0; i < MAX_TLAYER; i++)
85  {
86    vps->setNumReorderPics                 ( m_numReorderPics[i], i );
87    vps->setMaxDecPicBuffering             ( m_maxDecPicBuffering[i], i );
88  }
89
90#if REPN_FORMAT_IN_VPS 
91  Int maxRepFormatIdx = -1;
92  Int formatIdx = -1;
93  for(UInt layer=0; layer < m_numLayers; layer++)
94  {
95    // Auto generation of the format index
96    if( m_acLayerCfg[layer].getRepFormatIdx() == -1 )
97    {     
98      Bool found = false;
99      for( UInt idx = 0; idx < layer; idx++ )
100      {
101        if( m_acLayerCfg[layer].getSourceWidth() == m_acLayerCfg[idx].getSourceWidth() && m_acLayerCfg[layer].getSourceHeight() == m_acLayerCfg[idx].getSourceHeight()
102#if AUXILIARY_PICTURES
103          && m_acLayerCfg[layer].getChromaFormatIDC() == m_acLayerCfg[idx].getChromaFormatIDC()
104#endif
105#if O0194_DIFFERENT_BITDEPTH_EL_BL
106          && m_acLayerCfg[layer].m_internalBitDepthY == m_acLayerCfg[idx].m_internalBitDepthY && m_acLayerCfg[layer].m_internalBitDepthC == m_acLayerCfg[idx].m_internalBitDepthC
107#endif
108          )
109        {
110          found = true;
111          break;
112        }
113      }
114      if( !found )
115      {
116        formatIdx++;
117      }
118
119      m_acLayerCfg[layer].setRepFormatIdx( formatIdx );
120    }
121
122    assert( m_acLayerCfg[layer].getRepFormatIdx() != -1 && "RepFormatIdx not assigned for a layer" );
123
124    vps->setVpsRepFormatIdx( layer, m_acLayerCfg[layer].getRepFormatIdx() );
125
126    maxRepFormatIdx = std::max( m_acLayerCfg[layer].getRepFormatIdx(), maxRepFormatIdx );
127  }
128
129  assert( vps->getVpsRepFormatIdx( 0 ) == 0 );  // Base layer should point to the first one.
130
131  Int* mapIdxToLayer = new Int[maxRepFormatIdx + 1];
132
133  // Check that all the indices from 0 to maxRepFormatIdx are used in the VPS
134  for(Int i = 0; i <= maxRepFormatIdx; i++)
135  {
136    mapIdxToLayer[i] = -1;
137    UInt layer;
138    for(layer=0; layer < m_numLayers; layer++)
139    {
140      if( vps->getVpsRepFormatIdx(layer) == i )
141      {
142        mapIdxToLayer[i] = layer;
143        break;
144      }
145    }
146    assert( layer != m_numLayers );   // One of the VPS Rep format indices not set
147  }
148
149  vps->setVpsNumRepFormats( maxRepFormatIdx + 1 );
150
151#if Q0195_REP_FORMAT_CLEANUP
152  // When not present, the value of rep_format_idx_present_flag is inferred to be equal to 0
153  vps->setRepFormatIdxPresentFlag( vps->getVpsNumRepFormats() > 1 ? true : false );
154#else
155  vps->setRepFormatIdxPresentFlag( true );
156#endif
157
158  for(UInt idx=0; idx < vps->getVpsNumRepFormats(); idx++)
159  {
160    RepFormat *repFormat = vps->getVpsRepFormat( idx );
161#if REPN_FORMAT_CONTROL_FLAG
162    repFormat->setChromaAndBitDepthVpsPresentFlag( true ); 
163    if (idx==0)
164    {
165      assert(repFormat->getChromaAndBitDepthVpsPresentFlag() == true); 
166    }
167#endif
168    repFormat->setPicWidthVpsInLumaSamples  ( m_acLayerCfg[mapIdxToLayer[idx]].getSourceWidth()   );
169    repFormat->setPicHeightVpsInLumaSamples ( m_acLayerCfg[mapIdxToLayer[idx]].getSourceHeight()  );
170#if AUXILIARY_PICTURES
171    repFormat->setChromaFormatVpsIdc        ( m_acLayerCfg[mapIdxToLayer[idx]].getChromaFormatIDC() );
172#else
173    repFormat->setChromaFormatVpsIdc        ( 1                                             );  // Need modification to change for each layer - corresponds to 420
174#endif
175    repFormat->setSeparateColourPlaneVpsFlag( 0                                             );  // Need modification to change for each layer
176#if O0194_DIFFERENT_BITDEPTH_EL_BL
177    repFormat->setBitDepthVpsLuma           ( getInternalBitDepthY(mapIdxToLayer[idx])      );  // Need modification to change for each layer
178    repFormat->setBitDepthVpsChroma         ( getInternalBitDepthC(mapIdxToLayer[idx])      );  // Need modification to change for each layer
179#else
180    repFormat->setBitDepthVpsLuma           ( getInternalBitDepthY()                        );  // Need modification to change for each layer
181    repFormat->setBitDepthVpsChroma         ( getInternalBitDepthC()                        );  // Need modification to change for each layer
182#endif
183#if HIGHER_LAYER_IRAP_SKIP_FLAG
184    m_acTEncTop[mapIdxToLayer[idx]].setSkipPictureAtArcSwitch( m_skipPictureAtArcSwitch );
185#endif
186  }
187  delete [] mapIdxToLayer;
188#endif
189
190  assert( m_numLayers <= MAX_LAYERS );
191
192  for(UInt layer=0; layer<m_numLayers; layer++)
193  {
194#if O0194_DIFFERENT_BITDEPTH_EL_BL
195    //1
196    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
197    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
198
199    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
200    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
201
202    // Set this to be used in Upsampling filter in function "TComUpsampleFilter::upsampleBasePic"
203    g_bitDepthYLayer[layer] = g_bitDepthY;
204    g_bitDepthCLayer[layer] = g_bitDepthC;
205
206#if O0194_WEIGHTED_PREDICTION_CGS
207    m_acTEncTop[layer].setInterLayerWeightedPredFlag( m_useInterLayerWeightedPred );
208#endif
209#endif
210    //m_acTEncTop[layer].setVPS(&vps);
211    m_acTEncTop[layer].setFrameRate                    ( m_acLayerCfg[layer].getFrameRate() );
212    m_acTEncTop[layer].setFrameSkip                    ( m_FrameSkip );
213    m_acTEncTop[layer].setSourceWidth                  ( m_acLayerCfg[layer].getSourceWidth() );
214    m_acTEncTop[layer].setSourceHeight                 ( m_acLayerCfg[layer].getSourceHeight() );
215    m_acTEncTop[layer].setConformanceWindow            ( m_acLayerCfg[layer].m_confWinLeft, m_acLayerCfg[layer].m_confWinRight, m_acLayerCfg[layer].m_confWinTop, m_acLayerCfg[layer].m_confWinBottom );
216    m_acTEncTop[layer].setFramesToBeEncoded            ( m_framesToBeEncoded );
217
218    m_acTEncTop[layer].setProfile(m_profile);
219    m_acTEncTop[layer].setLevel(m_levelTier, m_level);
220    m_acTEncTop[layer].setProgressiveSourceFlag(m_progressiveSourceFlag);
221    m_acTEncTop[layer].setInterlacedSourceFlag(m_interlacedSourceFlag);
222    m_acTEncTop[layer].setNonPackedConstraintFlag(m_nonPackedConstraintFlag);
223    m_acTEncTop[layer].setFrameOnlyConstraintFlag(m_frameOnlyConstraintFlag);
224
225#if REF_IDX_MFM
226#if AVC_BASE
227    m_acTEncTop[layer].setMFMEnabledFlag(layer == 0 ? false : ( m_avcBaseLayerFlag ? false : true ) && m_acLayerCfg[layer].getNumMotionPredRefLayers());
228#else
229    m_acTEncTop[layer].setMFMEnabledFlag(layer == 0 ? false : ( m_acLayerCfg[layer].getNumMotionPredRefLayers() > 0 ) );
230#endif
231#endif
232    // set layer ID
233    m_acTEncTop[layer].setLayerId ( layer );
234    m_acTEncTop[layer].setNumLayer ( m_numLayers );
235    m_acTEncTop[layer].setLayerEnc(m_apcTEncTop);
236
237    //====== Coding Structure ========
238    m_acTEncTop[layer].setIntraPeriod                  ( m_acLayerCfg[layer].m_iIntraPeriod );
239    m_acTEncTop[layer].setDecodingRefreshType          ( m_iDecodingRefreshType );
240    m_acTEncTop[layer].setGOPSize                      ( m_iGOPSize );
241#if Q0108_TSA_STSA
242    m_acTEncTop[layer].setGopList                      ( layer ? m_EhGOPList[layer] : m_GOPList );
243#else
244    m_acTEncTop[layer].setGopList                      ( m_GOPList );
245#endif
246
247#if !Q0108_TSA_STSA
248    m_acTEncTop[layer].setExtraRPSs                    ( m_extraRPSs );
249#else
250    m_acTEncTop[layer].setExtraRPSs                    ( m_extraRPSs[layer] );
251#endif
252    for(Int i = 0; i < MAX_TLAYER; i++)
253    {
254      m_acTEncTop[layer].setNumReorderPics             ( m_numReorderPics[i], i );
255      m_acTEncTop[layer].setMaxDecPicBuffering         ( m_maxDecPicBuffering[i], i );
256    }
257    for( UInt uiLoop = 0; uiLoop < MAX_TLAYER; ++uiLoop )
258    {
259      m_acTEncTop[layer].setLambdaModifier( uiLoop, m_adLambdaModifier[ uiLoop ] );
260    }
261    m_acTEncTop[layer].setQP                           ( m_acLayerCfg[layer].getIntQP() );
262
263    m_acTEncTop[layer].setPad                          ( m_acLayerCfg[layer].getPad() );
264#if !Q0108_TSA_STSA
265    m_acTEncTop[layer].setMaxTempLayer                 ( m_maxTempLayer );
266#else
267    if (layer== 0)
268    {
269      m_acTEncTop[layer].setMaxTempLayer                 ( m_maxTempLayer );
270    }
271    else
272    {
273      m_acTEncTop[layer].setMaxTempLayer                 ( m_EhMaxTempLayer[layer] );
274    }
275#endif
276    m_acTEncTop[layer].setUseAMP( m_enableAMP );
277
278    if( layer < m_numLayers - 1 )
279    {
280       m_acTEncTop[layer].setMaxTidIlRefPicsPlus1 ( m_acLayerCfg[layer].getMaxTidIlRefPicsPlus1());
281    }
282
283#if VPS_EXTN_DIRECT_REF_LAYERS
284    if(layer)
285    {
286      for(Int i = 0; i < MAX_VPS_LAYER_ID_PLUS1; i++)
287      {
288        m_acTEncTop[layer].setSamplePredEnabledFlag(i, false);
289        m_acTEncTop[layer].setMotionPredEnabledFlag(i, false);
290      }
291      if(m_acLayerCfg[layer].getNumSamplePredRefLayers() == -1)
292      {
293        // Not included in the configuration file; assume that each layer depends on previous layer
294        m_acTEncTop[layer].setNumSamplePredRefLayers   (1);      // One sample pred ref. layer
295        m_acTEncTop[layer].setSamplePredRefLayerId     (0, layer - 1);   // Previous layer
296        m_acTEncTop[layer].setSamplePredEnabledFlag    (layer - 1, true);
297      }
298      else
299      {
300        m_acTEncTop[layer].setNumSamplePredRefLayers   ( m_acLayerCfg[layer].getNumSamplePredRefLayers() );
301        for(Int i = 0; i < m_acTEncTop[layer].getNumSamplePredRefLayers(); i++)
302        {
303          m_acTEncTop[layer].setSamplePredRefLayerId   ( i, m_acLayerCfg[layer].getSamplePredRefLayerId(i));
304          m_acTEncTop[layer].setSamplePredEnabledFlag  (m_acLayerCfg[layer].getSamplePredRefLayerId(i), true);
305        }
306      }
307      if(m_acLayerCfg[layer].getNumMotionPredRefLayers() == -1)
308      {
309        // Not included in the configuration file; assume that each layer depends on previous layer
310        m_acTEncTop[layer].setNumMotionPredRefLayers   (1);      // One motion pred ref. layer
311        m_acTEncTop[layer].setMotionPredRefLayerId     (0, layer - 1);   // Previous layer
312        m_acTEncTop[layer].setMotionPredEnabledFlag    (layer - 1, true);
313      }
314      else
315      {
316        m_acTEncTop[layer].setNumMotionPredRefLayers   ( m_acLayerCfg[layer].getNumMotionPredRefLayers() );
317        for(Int i = 0; i < m_acTEncTop[layer].getNumMotionPredRefLayers(); i++)
318        {
319          m_acTEncTop[layer].setMotionPredRefLayerId   ( i, m_acLayerCfg[layer].getMotionPredRefLayerId(i));
320          m_acTEncTop[layer].setMotionPredEnabledFlag  (m_acLayerCfg[layer].getMotionPredRefLayerId(i), true);
321        }
322      }
323      Int numDirectRefLayers = 0;
324
325      assert( layer < MAX_LAYERS );
326
327      for (Int i = 0; i < layer; i++)
328      {
329        if (m_acTEncTop[layer].getSamplePredEnabledFlag(i) || m_acTEncTop[layer].getMotionPredEnabledFlag(i))
330        {
331          m_acTEncTop[layer].setRefLayerId(numDirectRefLayers, i);
332          numDirectRefLayers++;
333        }
334      }
335      m_acTEncTop[layer].setNumDirectRefLayers(numDirectRefLayers);
336
337      if(m_acLayerCfg[layer].getNumActiveRefLayers() == -1)
338      {
339        m_acTEncTop[layer].setNumActiveRefLayers( m_acTEncTop[layer].getNumDirectRefLayers() );
340        for( Int i = 0; i < m_acTEncTop[layer].getNumActiveRefLayers(); i++ )
341        {
342          m_acTEncTop[layer].setPredLayerId(i, i);
343        }
344      }
345      else
346      {
347        m_acTEncTop[layer].setNumActiveRefLayers       ( m_acLayerCfg[layer].getNumActiveRefLayers() );
348        for(Int i = 0; i < m_acTEncTop[layer].getNumActiveRefLayers(); i++)
349        {
350          m_acTEncTop[layer].setPredLayerId             ( i, m_acLayerCfg[layer].getPredLayerId(i));
351        }
352      }
353#if REF_REGION_OFFSET
354      for(Int i = 0; i < m_acLayerCfg[layer].m_numScaledRefLayerOffsets; i++)
355      {
356#if AUXILIARY_PICTURES
357        Int cf = m_acLayerCfg[i].m_chromaFormatIDC;
358        Int rlSubWidthC  = ( cf == CHROMA_420 || cf == CHROMA_422 ) ? 2 : 1;
359        Int rlSubHeightC = ( cf == CHROMA_420 ) ? 2 : 1;
360#else
361        Int rlSubWidthC  = 2;
362        Int rlSubHeightC = 2;
363#endif
364        m_acTEncTop[layer].setRefRegionOffsetPresentFlag( i, m_acLayerCfg[layer].m_refRegionOffsetPresentFlag );
365        m_acTEncTop[layer].getRefLayerWindow(i).setWindow( rlSubWidthC  * m_acLayerCfg[layer].m_refRegionLeftOffset[i], rlSubWidthC  * m_acLayerCfg[layer].m_refRegionRightOffset[i],
366                                                           rlSubHeightC * m_acLayerCfg[layer].m_refRegionTopOffset[i],  rlSubHeightC * m_acLayerCfg[layer].m_refRegionBottomOffset[i]);
367      }
368#endif
369    }
370    else
371    {
372      assert( layer == 0 );
373      m_acTEncTop[layer].setNumDirectRefLayers(0);
374    }
375#endif //VPS_EXTN_DIRECT_REF_LAYERS
376    //===== Slice ========
377
378    //====== Loop/Deblock Filter ========
379    m_acTEncTop[layer].setLoopFilterDisable            ( m_bLoopFilterDisable       );
380    m_acTEncTop[layer].setLoopFilterOffsetInPPS        ( m_loopFilterOffsetInPPS );
381    m_acTEncTop[layer].setLoopFilterBetaOffset         ( m_loopFilterBetaOffsetDiv2  );
382    m_acTEncTop[layer].setLoopFilterTcOffset           ( m_loopFilterTcOffsetDiv2    );
383    m_acTEncTop[layer].setDeblockingFilterControlPresent( m_DeblockingFilterControlPresent);
384    m_acTEncTop[layer].setDeblockingFilterMetric       ( m_DeblockingFilterMetric );
385
386    //====== Motion search ========
387    m_acTEncTop[layer].setFastSearch                   ( m_iFastSearch  );
388    m_acTEncTop[layer].setSearchRange                  ( m_iSearchRange );
389    m_acTEncTop[layer].setBipredSearchRange            ( m_bipredSearchRange );
390
391    //====== Quality control ========
392    m_acTEncTop[layer].setMaxDeltaQP                   ( m_iMaxDeltaQP  );
393    m_acTEncTop[layer].setMaxCuDQPDepth                ( m_iMaxCuDQPDepth  );
394
395    m_acTEncTop[layer].setChromaCbQpOffset             ( m_cbQpOffset     );
396    m_acTEncTop[layer].setChromaCrQpOffset             ( m_crQpOffset  );
397
398#if ADAPTIVE_QP_SELECTION
399    m_acTEncTop[layer].setUseAdaptQpSelect             ( m_bUseAdaptQpSelect   );
400#endif
401   
402    m_acTEncTop[layer].setUseAdaptiveQP                ( m_bUseAdaptiveQP  );
403    m_acTEncTop[layer].setQPAdaptationRange            ( m_iQPAdaptationRange );
404
405    //====== Tool list ========   
406    m_acTEncTop[layer].setDeltaQpRD                    ( m_uiDeltaQpRD  );
407    m_acTEncTop[layer].setUseASR                       ( m_bUseASR      );
408    m_acTEncTop[layer].setUseHADME                     ( m_bUseHADME    );   
409    m_acTEncTop[layer].setdQPs                         ( m_acLayerCfg[layer].getdQPs() );
410    m_acTEncTop[layer].setUseRDOQ                      ( m_useRDOQ     );
411    m_acTEncTop[layer].setUseRDOQTS                    ( m_useRDOQTS   );
412    m_acTEncTop[layer].setRDpenalty                    ( m_rdPenalty );
413#if LAYER_CTB
414    m_acTEncTop[layer].setQuadtreeTULog2MaxSize        ( m_acLayerCfg[layer].m_uiQuadtreeTULog2MaxSize );
415    m_acTEncTop[layer].setQuadtreeTULog2MinSize        ( m_acLayerCfg[layer].m_uiQuadtreeTULog2MinSize );
416    m_acTEncTop[layer].setQuadtreeTUMaxDepthInter      ( m_acLayerCfg[layer].m_uiQuadtreeTUMaxDepthInter );
417    m_acTEncTop[layer].setQuadtreeTUMaxDepthIntra      ( m_acLayerCfg[layer].m_uiQuadtreeTUMaxDepthIntra );
418#else
419    m_acTEncTop[layer].setQuadtreeTULog2MaxSize        ( m_uiQuadtreeTULog2MaxSize );
420    m_acTEncTop[layer].setQuadtreeTULog2MinSize        ( m_uiQuadtreeTULog2MinSize );
421    m_acTEncTop[layer].setQuadtreeTUMaxDepthInter      ( m_uiQuadtreeTUMaxDepthInter );
422    m_acTEncTop[layer].setQuadtreeTUMaxDepthIntra      ( m_uiQuadtreeTUMaxDepthIntra );
423#endif
424    m_acTEncTop[layer].setUseFastEnc                   ( m_bUseFastEnc  );
425    m_acTEncTop[layer].setUseEarlyCU                   ( m_bUseEarlyCU  );
426    m_acTEncTop[layer].setUseFastDecisionForMerge      ( m_useFastDecisionForMerge  );
427    m_acTEncTop[layer].setUseCbfFastMode               ( m_bUseCbfFastMode  );
428    m_acTEncTop[layer].setUseEarlySkipDetection        ( m_useEarlySkipDetection );
429#if FAST_INTRA_SHVC
430    m_acTEncTop[layer].setUseFastIntraScalable         ( m_useFastIntraScalable );
431#endif
432
433    m_acTEncTop[layer].setUseTransformSkip             ( m_useTransformSkip      );
434    m_acTEncTop[layer].setUseTransformSkipFast         ( m_useTransformSkipFast  );
435    m_acTEncTop[layer].setUseConstrainedIntraPred      ( m_bUseConstrainedIntraPred );
436    m_acTEncTop[layer].setPCMLog2MinSize               ( m_uiPCMLog2MinSize);
437    m_acTEncTop[layer].setUsePCM                       ( m_usePCM );
438    m_acTEncTop[layer].setPCMLog2MaxSize               ( m_pcmLog2MaxSize);
439    m_acTEncTop[layer].setMaxNumMergeCand              ( m_maxNumMergeCand );
440
441
442    //====== Weighted Prediction ========
443    m_acTEncTop[layer].setUseWP                   ( m_useWeightedPred      );
444    m_acTEncTop[layer].setWPBiPred                ( m_useWeightedBiPred   );
445#if O0194_WEIGHTED_PREDICTION_CGS
446    if( layer != 0 && m_useInterLayerWeightedPred )
447    {
448      // Enable weighted prediction for enhancement layer
449      m_acTEncTop[layer].setUseWP                 ( true   );
450      m_acTEncTop[layer].setWPBiPred              ( true   );
451    }
452#endif
453    //====== Parallel Merge Estimation ========
454    m_acTEncTop[layer].setLog2ParallelMergeLevelMinus2 ( m_log2ParallelMergeLevel - 2 );
455
456    //====== Slice ========
457    m_acTEncTop[layer].setSliceMode               ( m_sliceMode                );
458    m_acTEncTop[layer].setSliceArgument           ( m_sliceArgument            );
459
460    //====== Dependent Slice ========
461    m_acTEncTop[layer].setSliceSegmentMode        ( m_sliceSegmentMode         );
462    m_acTEncTop[layer].setSliceSegmentArgument    ( m_sliceSegmentArgument     );
463#if LAYER_CTB
464    Int iNumPartInCU = 1<<(m_acLayerCfg[layer].m_uiMaxCUDepth<<1);
465#else
466    Int iNumPartInCU = 1<<(m_uiMaxCUDepth<<1);
467#endif
468    if(m_sliceSegmentMode==FIXED_NUMBER_OF_LCU)
469    {
470      m_acTEncTop[layer].setSliceSegmentArgument ( m_sliceSegmentArgument * iNumPartInCU );
471    }
472    if(m_sliceMode==FIXED_NUMBER_OF_LCU)
473    {
474      m_acTEncTop[layer].setSliceArgument ( m_sliceArgument * iNumPartInCU );
475    }
476    if(m_sliceMode==FIXED_NUMBER_OF_TILES)
477    {
478      m_acTEncTop[layer].setSliceArgument ( m_sliceArgument );
479    }
480
481    if(m_sliceMode == 0 )
482    {
483      m_bLFCrossSliceBoundaryFlag = true;
484    }
485    m_acTEncTop[layer].setLFCrossSliceBoundaryFlag( m_bLFCrossSliceBoundaryFlag );
486    m_acTEncTop[layer].setUseSAO ( m_bUseSAO );
487    m_acTEncTop[layer].setMaxNumOffsetsPerPic (m_maxNumOffsetsPerPic);
488
489    m_acTEncTop[layer].setSaoLcuBoundary (m_saoLcuBoundary);
490    m_acTEncTop[layer].setPCMInputBitDepthFlag  ( m_bPCMInputBitDepthFlag);
491    m_acTEncTop[layer].setPCMFilterDisableFlag  ( m_bPCMFilterDisableFlag);
492
493    m_acTEncTop[layer].setDecodedPictureHashSEIEnabled(m_decodedPictureHashSEIEnabled);
494    m_acTEncTop[layer].setRecoveryPointSEIEnabled( m_recoveryPointSEIEnabled );
495    m_acTEncTop[layer].setBufferingPeriodSEIEnabled( m_bufferingPeriodSEIEnabled );
496    m_acTEncTop[layer].setPictureTimingSEIEnabled( m_pictureTimingSEIEnabled );
497    m_acTEncTop[layer].setToneMappingInfoSEIEnabled                 ( m_toneMappingInfoSEIEnabled );
498    m_acTEncTop[layer].setTMISEIToneMapId                           ( m_toneMapId );
499    m_acTEncTop[layer].setTMISEIToneMapCancelFlag                   ( m_toneMapCancelFlag );
500    m_acTEncTop[layer].setTMISEIToneMapPersistenceFlag              ( m_toneMapPersistenceFlag );
501    m_acTEncTop[layer].setTMISEICodedDataBitDepth                   ( m_toneMapCodedDataBitDepth );
502    m_acTEncTop[layer].setTMISEITargetBitDepth                      ( m_toneMapTargetBitDepth );
503    m_acTEncTop[layer].setTMISEIModelID                             ( m_toneMapModelId );
504    m_acTEncTop[layer].setTMISEIMinValue                            ( m_toneMapMinValue );
505    m_acTEncTop[layer].setTMISEIMaxValue                            ( m_toneMapMaxValue );
506    m_acTEncTop[layer].setTMISEISigmoidMidpoint                     ( m_sigmoidMidpoint );
507    m_acTEncTop[layer].setTMISEISigmoidWidth                        ( m_sigmoidWidth );
508    m_acTEncTop[layer].setTMISEIStartOfCodedInterva                 ( m_startOfCodedInterval );
509    m_acTEncTop[layer].setTMISEINumPivots                           ( m_numPivots );
510    m_acTEncTop[layer].setTMISEICodedPivotValue                     ( m_codedPivotValue );
511    m_acTEncTop[layer].setTMISEITargetPivotValue                    ( m_targetPivotValue );
512    m_acTEncTop[layer].setTMISEICameraIsoSpeedIdc                   ( m_cameraIsoSpeedIdc );
513    m_acTEncTop[layer].setTMISEICameraIsoSpeedValue                 ( m_cameraIsoSpeedValue );
514    m_acTEncTop[layer].setTMISEIExposureCompensationValueSignFlag   ( m_exposureCompensationValueSignFlag );
515    m_acTEncTop[layer].setTMISEIExposureCompensationValueNumerator  ( m_exposureCompensationValueNumerator );
516    m_acTEncTop[layer].setTMISEIExposureCompensationValueDenomIdc   ( m_exposureCompensationValueDenomIdc );
517    m_acTEncTop[layer].setTMISEIRefScreenLuminanceWhite             ( m_refScreenLuminanceWhite );
518    m_acTEncTop[layer].setTMISEIExtendedRangeWhiteLevel             ( m_extendedRangeWhiteLevel );
519    m_acTEncTop[layer].setTMISEINominalBlackLevelLumaCodeValue      ( m_nominalBlackLevelLumaCodeValue );
520    m_acTEncTop[layer].setTMISEINominalWhiteLevelLumaCodeValue      ( m_nominalWhiteLevelLumaCodeValue );
521    m_acTEncTop[layer].setTMISEIExtendedWhiteLevelLumaCodeValue     ( m_extendedWhiteLevelLumaCodeValue );
522#if P0050_KNEE_FUNCTION_SEI
523    m_acTEncTop[layer].setKneeSEIEnabled                            ( m_kneeSEIEnabled );
524    m_acTEncTop[layer].setKneeSEIId                                 ( m_kneeSEIId );
525    m_acTEncTop[layer].setKneeSEICancelFlag                         ( m_kneeSEICancelFlag );
526    m_acTEncTop[layer].setKneeSEIPersistenceFlag                    ( m_kneeSEIPersistenceFlag );
527    m_acTEncTop[layer].setKneeSEIMappingFlag                        ( m_kneeSEIMappingFlag );
528    m_acTEncTop[layer].setKneeSEIInputDrange                        ( m_kneeSEIInputDrange );
529    m_acTEncTop[layer].setKneeSEIInputDispLuminance                 ( m_kneeSEIInputDispLuminance );
530    m_acTEncTop[layer].setKneeSEIOutputDrange                       ( m_kneeSEIOutputDrange );
531    m_acTEncTop[layer].setKneeSEIOutputDispLuminance                ( m_kneeSEIOutputDispLuminance );
532    m_acTEncTop[layer].setKneeSEINumKneePointsMinus1                ( m_kneeSEINumKneePointsMinus1 );
533    m_acTEncTop[layer].setKneeSEIInputKneePoint                     ( m_kneeSEIInputKneePoint );
534    m_acTEncTop[layer].setKneeSEIOutputKneePoint                    ( m_kneeSEIOutputKneePoint );
535#endif
536#if Q0074_SEI_COLOR_MAPPING
537    m_acTEncTop[layer].setColorMappingInfoSEIFile                   ( m_acLayerCfg[layer].m_cSeiColorMappingFile.empty() ? NULL : const_cast<Char *>(m_acLayerCfg[layer].m_cSeiColorMappingFile.c_str()) );
538#endif
539    m_acTEncTop[layer].setFramePackingArrangementSEIEnabled( m_framePackingSEIEnabled );
540    m_acTEncTop[layer].setFramePackingArrangementSEIType( m_framePackingSEIType );
541    m_acTEncTop[layer].setFramePackingArrangementSEIId( m_framePackingSEIId );
542    m_acTEncTop[layer].setFramePackingArrangementSEIQuincunx( m_framePackingSEIQuincunx );
543    m_acTEncTop[layer].setFramePackingArrangementSEIInterpretation( m_framePackingSEIInterpretation );
544    m_acTEncTop[layer].setDisplayOrientationSEIAngle( m_displayOrientationSEIAngle );
545    m_acTEncTop[layer].setTemporalLevel0IndexSEIEnabled( m_temporalLevel0IndexSEIEnabled );
546    m_acTEncTop[layer].setGradualDecodingRefreshInfoEnabled( m_gradualDecodingRefreshInfoEnabled );
547    m_acTEncTop[layer].setDecodingUnitInfoSEIEnabled( m_decodingUnitInfoSEIEnabled );
548#if LAYERS_NOT_PRESENT_SEI
549    m_acTEncTop[layer].setLayersNotPresentSEIEnabled( m_layersNotPresentSEIEnabled );
550#endif
551    m_acTEncTop[layer].setSOPDescriptionSEIEnabled( m_SOPDescriptionSEIEnabled );
552    m_acTEncTop[layer].setScalableNestingSEIEnabled( m_scalableNestingSEIEnabled );
553#if Q0189_TMVP_CONSTRAINTS
554    m_acTEncTop[layer].setTMVPConstraintsSEIEnabled( m_TMVPConstraintsSEIEnabled);           
555#endif
556#if N0383_IL_CONSTRAINED_TILE_SETS_SEI
557    m_acTEncTop[layer].setInterLayerConstrainedTileSetsSEIEnabled( m_interLayerConstrainedTileSetsSEIEnabled );
558    m_acTEncTop[layer].setIlNumSetsInMessage( m_ilNumSetsInMessage );
559    m_acTEncTop[layer].setSkippedTileSetPresentFlag( m_skippedTileSetPresentFlag );
560    m_acTEncTop[layer].setTopLeftTileIndex( m_topLeftTileIndex );
561    m_acTEncTop[layer].setBottomRightTileIndex( m_bottomRightTileIndex );
562    m_acTEncTop[layer].setIlcIdc( m_ilcIdc );
563#endif
564    m_acTEncTop[layer].setTileUniformSpacingFlag     ( m_tileUniformSpacingFlag );
565    m_acTEncTop[layer].setNumColumnsMinus1           ( m_numTileColumnsMinus1 );
566    m_acTEncTop[layer].setNumRowsMinus1              ( m_numTileRowsMinus1 );
567    if(!m_tileUniformSpacingFlag)
568    {
569      m_acTEncTop[layer].setColumnWidth              ( m_tileColumnWidth );
570      m_acTEncTop[layer].setRowHeight                ( m_tileRowHeight );
571    }
572    m_acTEncTop[layer].xCheckGSParameters();
573    Int uiTilesCount = (m_numTileRowsMinus1+1) * (m_numTileColumnsMinus1+1);
574    if(uiTilesCount == 1)
575    {
576      m_bLFCrossTileBoundaryFlag = true;
577    }
578    m_acTEncTop[layer].setLFCrossTileBoundaryFlag( m_bLFCrossTileBoundaryFlag );
579    m_acTEncTop[layer].setWaveFrontSynchro           ( m_iWaveFrontSynchro );
580    m_acTEncTop[layer].setWaveFrontSubstreams        ( m_acLayerCfg[layer].m_iWaveFrontSubstreams );
581    m_acTEncTop[layer].setTMVPModeId ( m_TMVPModeId );
582    m_acTEncTop[layer].setUseScalingListId           ( m_useScalingListId  );
583    m_acTEncTop[layer].setScalingListFile            ( m_scalingListFile   );
584    m_acTEncTop[layer].setSignHideFlag(m_signHideFlag);
585#if RC_SHVC_HARMONIZATION
586    m_acTEncTop[layer].setUseRateCtrl     (m_acLayerCfg[layer].getRCEnableRateControl());
587    m_acTEncTop[layer].setTargetBitrate   (m_acLayerCfg[layer].getRCTargetBitrate());
588    m_acTEncTop[layer].setKeepHierBit     (m_acLayerCfg[layer].getRCKeepHierarchicalBit());
589    m_acTEncTop[layer].setLCULevelRC      (m_acLayerCfg[layer].getRCLCULevelRC());
590    m_acTEncTop[layer].setUseLCUSeparateModel (m_acLayerCfg[layer].getRCUseLCUSeparateModel());
591    m_acTEncTop[layer].setInitialQP           (m_acLayerCfg[layer].getRCInitialQP());
592    m_acTEncTop[layer].setForceIntraQP        (m_acLayerCfg[layer].getRCForceIntraQP());
593#else
594    m_acTEncTop[layer].setUseRateCtrl         ( m_RCEnableRateControl );
595    m_acTEncTop[layer].setTargetBitrate       ( m_RCTargetBitrate );
596    m_acTEncTop[layer].setKeepHierBit         ( m_RCKeepHierarchicalBit );
597    m_acTEncTop[layer].setLCULevelRC          ( m_RCLCULevelRC );
598    m_acTEncTop[layer].setUseLCUSeparateModel ( m_RCUseLCUSeparateModel );
599    m_acTEncTop[layer].setInitialQP           ( m_RCInitialQP );
600    m_acTEncTop[layer].setForceIntraQP        ( m_RCForceIntraQP );
601#endif
602    m_acTEncTop[layer].setTransquantBypassEnableFlag(m_TransquantBypassEnableFlag);
603    m_acTEncTop[layer].setCUTransquantBypassFlagForceValue(m_CUTransquantBypassFlagForce);
604    m_acTEncTop[layer].setUseRecalculateQPAccordingToLambda( m_recalculateQPAccordingToLambda );
605    m_acTEncTop[layer].setUseStrongIntraSmoothing( m_useStrongIntraSmoothing );
606    m_acTEncTop[layer].setActiveParameterSetsSEIEnabled ( m_activeParameterSetsSEIEnabled );
607    m_acTEncTop[layer].setVuiParametersPresentFlag( m_vuiParametersPresentFlag );
608    m_acTEncTop[layer].setAspectRatioInfoPresentFlag( m_aspectRatioInfoPresentFlag);
609    m_acTEncTop[layer].setAspectRatioIdc( m_aspectRatioIdc );
610    m_acTEncTop[layer].setSarWidth( m_sarWidth );
611    m_acTEncTop[layer].setSarHeight( m_sarHeight );
612    m_acTEncTop[layer].setOverscanInfoPresentFlag( m_overscanInfoPresentFlag );
613    m_acTEncTop[layer].setOverscanAppropriateFlag( m_overscanAppropriateFlag );
614    m_acTEncTop[layer].setVideoSignalTypePresentFlag( m_videoSignalTypePresentFlag );
615    m_acTEncTop[layer].setVideoFormat( m_videoFormat );
616    m_acTEncTop[layer].setVideoFullRangeFlag( m_videoFullRangeFlag );
617    m_acTEncTop[layer].setColourDescriptionPresentFlag( m_colourDescriptionPresentFlag );
618    m_acTEncTop[layer].setColourPrimaries( m_colourPrimaries );
619    m_acTEncTop[layer].setTransferCharacteristics( m_transferCharacteristics );
620    m_acTEncTop[layer].setMatrixCoefficients( m_matrixCoefficients );
621    m_acTEncTop[layer].setChromaLocInfoPresentFlag( m_chromaLocInfoPresentFlag );
622    m_acTEncTop[layer].setChromaSampleLocTypeTopField( m_chromaSampleLocTypeTopField );
623    m_acTEncTop[layer].setChromaSampleLocTypeBottomField( m_chromaSampleLocTypeBottomField );
624    m_acTEncTop[layer].setNeutralChromaIndicationFlag( m_neutralChromaIndicationFlag );
625    m_acTEncTop[layer].setDefaultDisplayWindow( m_defDispWinLeftOffset, m_defDispWinRightOffset, m_defDispWinTopOffset, m_defDispWinBottomOffset );
626    m_acTEncTop[layer].setFrameFieldInfoPresentFlag( m_frameFieldInfoPresentFlag );
627    m_acTEncTop[layer].setPocProportionalToTimingFlag( m_pocProportionalToTimingFlag );
628    m_acTEncTop[layer].setNumTicksPocDiffOneMinus1   ( m_numTicksPocDiffOneMinus1    );
629    m_acTEncTop[layer].setBitstreamRestrictionFlag( m_bitstreamRestrictionFlag );
630    m_acTEncTop[layer].setTilesFixedStructureFlag( m_tilesFixedStructureFlag );
631    m_acTEncTop[layer].setMotionVectorsOverPicBoundariesFlag( m_motionVectorsOverPicBoundariesFlag );
632    m_acTEncTop[layer].setMinSpatialSegmentationIdc( m_minSpatialSegmentationIdc );
633    m_acTEncTop[layer].setMaxBytesPerPicDenom( m_maxBytesPerPicDenom );
634    m_acTEncTop[layer].setMaxBitsPerMinCuDenom( m_maxBitsPerMinCuDenom );
635    m_acTEncTop[layer].setLog2MaxMvLengthHorizontal( m_log2MaxMvLengthHorizontal );
636    m_acTEncTop[layer].setLog2MaxMvLengthVertical( m_log2MaxMvLengthVertical );
637    m_acTEncTop[layer].setElRapSliceTypeB(layer == 0? 0 : m_elRapSliceBEnabled);
638    if( layer > 0 )
639    {
640#if REF_REGION_OFFSET
641#if AUXILIARY_PICTURES
642      Int cf = m_acLayerCfg[layer].m_chromaFormatIDC;
643      Int subWidthC  = ( cf == CHROMA_420 || cf == CHROMA_422 ) ? 2 : 1;
644      Int subHeightC = ( cf == CHROMA_420 ) ? 2 : 1;
645#else
646      Int subWidthC  = 2;
647      Int subHeightC = 2;
648#endif
649#endif
650      m_acTEncTop[layer].setNumScaledRefLayerOffsets( m_acLayerCfg[layer].m_numScaledRefLayerOffsets );
651      for(Int i = 0; i < m_acLayerCfg[layer].m_numScaledRefLayerOffsets; i++)
652      {
653#if O0098_SCALED_REF_LAYER_ID
654        m_acTEncTop[layer].setScaledRefLayerId(i, m_acLayerCfg[layer].m_scaledRefLayerId[i]);
655#endif
656#if REF_REGION_OFFSET
657        m_acTEncTop[layer].setScaledRefLayerOffsetPresentFlag( i, m_acLayerCfg[layer].m_scaledRefLayerOffsetPresentFlag[i] );
658        m_acTEncTop[layer].getScaledRefLayerWindow(i).setWindow( subWidthC  * m_acLayerCfg[layer].m_scaledRefLayerLeftOffset[i], subWidthC  * m_acLayerCfg[layer].m_scaledRefLayerRightOffset[i],
659                                                                 subHeightC * m_acLayerCfg[layer].m_scaledRefLayerTopOffset[i],  subHeightC * m_acLayerCfg[layer].m_scaledRefLayerBottomOffset[i]);
660#else
661#if P0312_VERT_PHASE_ADJ
662        m_acTEncTop[layer].setVertPhasePositionEnableFlag( i, m_acLayerCfg[layer].m_vertPhasePositionEnableFlag[i] );
663        m_acTEncTop[layer].getScaledRefLayerWindow(i).setWindow( 2*m_acLayerCfg[layer].m_scaledRefLayerLeftOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerRightOffset[i],
664                                                  2*m_acLayerCfg[layer].m_scaledRefLayerTopOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerBottomOffset[i], m_acLayerCfg[layer].m_vertPhasePositionEnableFlag[i] );
665#else
666        m_acTEncTop[layer].getScaledRefLayerWindow(i).setWindow( 2*m_acLayerCfg[layer].m_scaledRefLayerLeftOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerRightOffset[i],
667                                                  2*m_acLayerCfg[layer].m_scaledRefLayerTopOffset[i], 2*m_acLayerCfg[layer].m_scaledRefLayerBottomOffset[i]);
668#endif
669#endif
670#if R0209_GENERIC_PHASE
671        m_acTEncTop[layer].setResamplePhaseSetPresentFlag( i, m_acLayerCfg[layer].m_resamplePhaseSetPresentFlag[i] );
672        m_acTEncTop[layer].setPhaseHorLuma( i, m_acLayerCfg[layer].m_phaseHorLuma[i] );
673        m_acTEncTop[layer].setPhaseVerLuma( i, m_acLayerCfg[layer].m_phaseVerLuma[i] );
674        m_acTEncTop[layer].setPhaseHorChroma( i, m_acLayerCfg[layer].m_phaseHorChroma[i] );
675        m_acTEncTop[layer].setPhaseVerChroma( i, m_acLayerCfg[layer].m_phaseVerChroma[i] );
676#endif
677      }
678    }
679#if M0040_ADAPTIVE_RESOLUTION_CHANGE
680    m_acTEncTop[layer].setAdaptiveResolutionChange( m_adaptiveResolutionChange );
681#endif
682#if AUXILIARY_PICTURES
683    m_acTEncTop[layer].setChromaFormatIDC( m_acLayerCfg[layer].m_chromaFormatIDC );
684#endif
685#if O0153_ALT_OUTPUT_LAYER_FLAG
686    m_acTEncTop[layer].setAltOuputLayerFlag( m_altOutputLayerFlag );
687#endif
688#if O0149_CROSS_LAYER_BLA_FLAG
689    m_acTEncTop[layer].setCrossLayerBLAFlag( m_crossLayerBLAFlag );
690#endif
691#if Q0048_CGS_3D_ASYMLUT
692    m_acTEncTop[layer].setCGSFlag( layer == 0 ? 0 : m_nCGSFlag );
693    m_acTEncTop[layer].setCGSMaxOctantDepth( m_nCGSMaxOctantDepth );
694    m_acTEncTop[layer].setCGSMaxYPartNumLog2( m_nCGSMaxYPartNumLog2 );
695    m_acTEncTop[layer].setCGSLUTBit( m_nCGSLUTBit );
696#if R0151_CGS_3D_ASYMLUT_IMPROVE
697    m_acTEncTop[layer].setCGSAdaptChroma( m_nCGSAdaptiveChroma );
698#endif
699#endif
700#if Q0078_ADD_LAYER_SETS
701    m_acTEncTop[layer].setNumAddLayerSets( m_numAddLayerSets );
702#endif
703  }
704}
705#else //SVC_EXTENSION
706Void TAppEncTop::xInitLibCfg()
707{
708  TComVPS vps;
709
710  vps.setMaxTLayers                       ( m_maxTempLayer );
711  if (m_maxTempLayer == 1)
712  {
713    vps.setTemporalNestingFlag(true);
714  }
715  vps.setMaxLayers                        ( 1 );
716  for(Int i = 0; i < MAX_TLAYER; i++)
717  {
718    vps.setNumReorderPics                 ( m_numReorderPics[i], i );
719    vps.setMaxDecPicBuffering             ( m_maxDecPicBuffering[i], i );
720  }
721  m_cTEncTop.setVPS(&vps);
722
723  m_cTEncTop.setProfile(m_profile);
724  m_cTEncTop.setLevel(m_levelTier, m_level);
725  m_cTEncTop.setProgressiveSourceFlag(m_progressiveSourceFlag);
726  m_cTEncTop.setInterlacedSourceFlag(m_interlacedSourceFlag);
727  m_cTEncTop.setNonPackedConstraintFlag(m_nonPackedConstraintFlag);
728  m_cTEncTop.setFrameOnlyConstraintFlag(m_frameOnlyConstraintFlag);
729
730  m_cTEncTop.setFrameRate                    ( m_iFrameRate );
731  m_cTEncTop.setFrameSkip                    ( m_FrameSkip );
732  m_cTEncTop.setSourceWidth                  ( m_iSourceWidth );
733  m_cTEncTop.setSourceHeight                 ( m_iSourceHeight );
734  m_cTEncTop.setConformanceWindow            ( m_confWinLeft, m_confWinRight, m_confWinTop, m_confWinBottom );
735  m_cTEncTop.setFramesToBeEncoded            ( m_framesToBeEncoded );
736
737  //====== Coding Structure ========
738  m_cTEncTop.setIntraPeriod                  ( m_iIntraPeriod );
739  m_cTEncTop.setDecodingRefreshType          ( m_iDecodingRefreshType );
740  m_cTEncTop.setGOPSize                      ( m_iGOPSize );
741  m_cTEncTop.setGopList                      ( m_GOPList );
742  m_cTEncTop.setExtraRPSs                    ( m_extraRPSs );
743  for(Int i = 0; i < MAX_TLAYER; i++)
744  {
745    m_cTEncTop.setNumReorderPics             ( m_numReorderPics[i], i );
746    m_cTEncTop.setMaxDecPicBuffering         ( m_maxDecPicBuffering[i], i );
747  }
748  for( UInt uiLoop = 0; uiLoop < MAX_TLAYER; ++uiLoop )
749  {
750    m_cTEncTop.setLambdaModifier( uiLoop, m_adLambdaModifier[ uiLoop ] );
751  }
752  m_cTEncTop.setQP                           ( m_iQP );
753
754  m_cTEncTop.setPad                          ( m_aiPad );
755
756  m_cTEncTop.setMaxTempLayer                 ( m_maxTempLayer );
757  m_cTEncTop.setUseAMP( m_enableAMP );
758
759  //===== Slice ========
760
761  //====== Loop/Deblock Filter ========
762  m_cTEncTop.setLoopFilterDisable            ( m_bLoopFilterDisable       );
763  m_cTEncTop.setLoopFilterOffsetInPPS        ( m_loopFilterOffsetInPPS );
764  m_cTEncTop.setLoopFilterBetaOffset         ( m_loopFilterBetaOffsetDiv2  );
765  m_cTEncTop.setLoopFilterTcOffset           ( m_loopFilterTcOffsetDiv2    );
766  m_cTEncTop.setDeblockingFilterControlPresent( m_DeblockingFilterControlPresent);
767  m_cTEncTop.setDeblockingFilterMetric       ( m_DeblockingFilterMetric );
768
769  //====== Motion search ========
770  m_cTEncTop.setFastSearch                   ( m_iFastSearch  );
771  m_cTEncTop.setSearchRange                  ( m_iSearchRange );
772  m_cTEncTop.setBipredSearchRange            ( m_bipredSearchRange );
773
774  //====== Quality control ========
775  m_cTEncTop.setMaxDeltaQP                   ( m_iMaxDeltaQP  );
776  m_cTEncTop.setMaxCuDQPDepth                ( m_iMaxCuDQPDepth  );
777
778  m_cTEncTop.setChromaCbQpOffset               ( m_cbQpOffset     );
779  m_cTEncTop.setChromaCrQpOffset            ( m_crQpOffset  );
780
781#if ADAPTIVE_QP_SELECTION
782  m_cTEncTop.setUseAdaptQpSelect             ( m_bUseAdaptQpSelect   );
783#endif
784
785  m_cTEncTop.setUseAdaptiveQP                ( m_bUseAdaptiveQP  );
786  m_cTEncTop.setQPAdaptationRange            ( m_iQPAdaptationRange );
787
788  //====== Tool list ========
789  m_cTEncTop.setDeltaQpRD                    ( m_uiDeltaQpRD  );
790  m_cTEncTop.setUseASR                       ( m_bUseASR      );
791  m_cTEncTop.setUseHADME                     ( m_bUseHADME    );
792  m_cTEncTop.setdQPs                         ( m_aidQP        );
793  m_cTEncTop.setUseRDOQ                      ( m_useRDOQ     );
794  m_cTEncTop.setUseRDOQTS                    ( m_useRDOQTS   );
795  m_cTEncTop.setRDpenalty                 ( m_rdPenalty );
796  m_cTEncTop.setQuadtreeTULog2MaxSize        ( m_uiQuadtreeTULog2MaxSize );
797  m_cTEncTop.setQuadtreeTULog2MinSize        ( m_uiQuadtreeTULog2MinSize );
798  m_cTEncTop.setQuadtreeTUMaxDepthInter      ( m_uiQuadtreeTUMaxDepthInter );
799  m_cTEncTop.setQuadtreeTUMaxDepthIntra      ( m_uiQuadtreeTUMaxDepthIntra );
800  m_cTEncTop.setUseFastEnc                   ( m_bUseFastEnc  );
801  m_cTEncTop.setUseEarlyCU                   ( m_bUseEarlyCU  );
802  m_cTEncTop.setUseFastDecisionForMerge      ( m_useFastDecisionForMerge  );
803  m_cTEncTop.setUseCbfFastMode            ( m_bUseCbfFastMode  );
804  m_cTEncTop.setUseEarlySkipDetection            ( m_useEarlySkipDetection );
805#if FAST_INTRA_SHVC
806  m_cTEncTop.setUseFastIntraScalable            ( m_useFastIntraScalable );
807#endif
808
809  m_cTEncTop.setUseTransformSkip             ( m_useTransformSkip      );
810  m_cTEncTop.setUseTransformSkipFast         ( m_useTransformSkipFast  );
811  m_cTEncTop.setUseConstrainedIntraPred      ( m_bUseConstrainedIntraPred );
812  m_cTEncTop.setPCMLog2MinSize          ( m_uiPCMLog2MinSize);
813  m_cTEncTop.setUsePCM                       ( m_usePCM );
814  m_cTEncTop.setPCMLog2MaxSize               ( m_pcmLog2MaxSize);
815  m_cTEncTop.setMaxNumMergeCand              ( m_maxNumMergeCand );
816
817
818  //====== Weighted Prediction ========
819  m_cTEncTop.setUseWP                   ( m_useWeightedPred      );
820  m_cTEncTop.setWPBiPred                ( m_useWeightedBiPred   );
821  //====== Parallel Merge Estimation ========
822  m_cTEncTop.setLog2ParallelMergeLevelMinus2 ( m_log2ParallelMergeLevel - 2 );
823
824  //====== Slice ========
825  m_cTEncTop.setSliceMode               ( m_sliceMode                );
826  m_cTEncTop.setSliceArgument           ( m_sliceArgument            );
827
828  //====== Dependent Slice ========
829  m_cTEncTop.setSliceSegmentMode        ( m_sliceSegmentMode         );
830  m_cTEncTop.setSliceSegmentArgument    ( m_sliceSegmentArgument     );
831  Int iNumPartInCU = 1<<(m_uiMaxCUDepth<<1);
832  if(m_sliceSegmentMode==FIXED_NUMBER_OF_LCU)
833  {
834    m_cTEncTop.setSliceSegmentArgument ( m_sliceSegmentArgument * iNumPartInCU );
835  }
836  if(m_sliceMode==FIXED_NUMBER_OF_LCU)
837  {
838    m_cTEncTop.setSliceArgument ( m_sliceArgument * iNumPartInCU );
839  }
840  if(m_sliceMode==FIXED_NUMBER_OF_TILES)
841  {
842    m_cTEncTop.setSliceArgument ( m_sliceArgument );
843  }
844
845  if(m_sliceMode == 0 )
846  {
847    m_bLFCrossSliceBoundaryFlag = true;
848  }
849  m_cTEncTop.setLFCrossSliceBoundaryFlag( m_bLFCrossSliceBoundaryFlag );
850  m_cTEncTop.setUseSAO ( m_bUseSAO );
851  m_cTEncTop.setMaxNumOffsetsPerPic (m_maxNumOffsetsPerPic);
852
853  m_cTEncTop.setSaoLcuBoundary (m_saoLcuBoundary);
854  m_cTEncTop.setPCMInputBitDepthFlag  ( m_bPCMInputBitDepthFlag);
855  m_cTEncTop.setPCMFilterDisableFlag  ( m_bPCMFilterDisableFlag);
856
857  m_cTEncTop.setDecodedPictureHashSEIEnabled(m_decodedPictureHashSEIEnabled);
858  m_cTEncTop.setRecoveryPointSEIEnabled( m_recoveryPointSEIEnabled );
859  m_cTEncTop.setBufferingPeriodSEIEnabled( m_bufferingPeriodSEIEnabled );
860  m_cTEncTop.setPictureTimingSEIEnabled( m_pictureTimingSEIEnabled );
861  m_cTEncTop.setToneMappingInfoSEIEnabled                 ( m_toneMappingInfoSEIEnabled );
862  m_cTEncTop.setTMISEIToneMapId                           ( m_toneMapId );
863  m_cTEncTop.setTMISEIToneMapCancelFlag                   ( m_toneMapCancelFlag );
864  m_cTEncTop.setTMISEIToneMapPersistenceFlag              ( m_toneMapPersistenceFlag );
865  m_cTEncTop.setTMISEICodedDataBitDepth                   ( m_toneMapCodedDataBitDepth );
866  m_cTEncTop.setTMISEITargetBitDepth                      ( m_toneMapTargetBitDepth );
867  m_cTEncTop.setTMISEIModelID                             ( m_toneMapModelId );
868  m_cTEncTop.setTMISEIMinValue                            ( m_toneMapMinValue );
869  m_cTEncTop.setTMISEIMaxValue                            ( m_toneMapMaxValue );
870  m_cTEncTop.setTMISEISigmoidMidpoint                     ( m_sigmoidMidpoint );
871  m_cTEncTop.setTMISEISigmoidWidth                        ( m_sigmoidWidth );
872  m_cTEncTop.setTMISEIStartOfCodedInterva                 ( m_startOfCodedInterval );
873  m_cTEncTop.setTMISEINumPivots                           ( m_numPivots );
874  m_cTEncTop.setTMISEICodedPivotValue                     ( m_codedPivotValue );
875  m_cTEncTop.setTMISEITargetPivotValue                    ( m_targetPivotValue );
876  m_cTEncTop.setTMISEICameraIsoSpeedIdc                   ( m_cameraIsoSpeedIdc );
877  m_cTEncTop.setTMISEICameraIsoSpeedValue                 ( m_cameraIsoSpeedValue );
878  m_cTEncTop.setTMISEIExposureIndexIdc                    ( m_exposureIndexIdc );
879  m_cTEncTop.setTMISEIExposureIndexValue                  ( m_exposureIndexValue );
880  m_cTEncTop.setTMISEIExposureCompensationValueSignFlag   ( m_exposureCompensationValueSignFlag );
881  m_cTEncTop.setTMISEIExposureCompensationValueNumerator  ( m_exposureCompensationValueNumerator );
882  m_cTEncTop.setTMISEIExposureCompensationValueDenomIdc   ( m_exposureCompensationValueDenomIdc );
883  m_cTEncTop.setTMISEIRefScreenLuminanceWhite             ( m_refScreenLuminanceWhite );
884  m_cTEncTop.setTMISEIExtendedRangeWhiteLevel             ( m_extendedRangeWhiteLevel );
885  m_cTEncTop.setTMISEINominalBlackLevelLumaCodeValue      ( m_nominalBlackLevelLumaCodeValue );
886  m_cTEncTop.setTMISEINominalWhiteLevelLumaCodeValue      ( m_nominalWhiteLevelLumaCodeValue );
887  m_cTEncTop.setTMISEIExtendedWhiteLevelLumaCodeValue     ( m_extendedWhiteLevelLumaCodeValue );
888#if P0050_KNEE_FUNCTION_SEI
889  m_cTEncTop.setKneeSEIEnabled              ( m_kneeSEIEnabled );
890  m_cTEncTop.setKneeSEIId                   ( m_kneeSEIId );
891  m_cTEncTop.setKneeSEICancelFlag           ( m_kneeSEICancelFlag );
892  m_cTEncTop.setKneeSEIPersistenceFlag      ( m_kneeSEIPersistenceFlag );
893  m_cTEncTop.setKneeSEIMappingFlag          ( m_kneeSEIMappingFlag );
894  m_cTEncTop.setKneeSEIInputDrange          ( m_kneeSEIInputDrange );
895  m_cTEncTop.setKneeSEIInputDispLuminance   ( m_kneeSEIInputDispLuminance );
896  m_cTEncTop.setKneeSEIOutputDrange         ( m_kneeSEIOutputDrange );
897  m_cTEncTop.setKneeSEIOutputDispLuminance  ( m_kneeSEIOutputDispLuminance );
898  m_cTEncTop.setKneeSEINumKneePointsMinus1  ( m_kneeSEINumKneePointsMinus1 );
899  m_cTEncTop.setKneeSEIInputKneePoint       ( m_kneeSEIInputKneePoint );
900  m_cTEncTop.setKneeSEIOutputKneePoint      ( m_kneeSEIOutputKneePoint );
901#endif
902#if Q0074_SEI_COLOR_MAPPING
903  m_cTEncTop.setColorMappingInfoSEIFile                   ( m_pchSEIColorMappingFile );
904#endif
905  m_cTEncTop.setFramePackingArrangementSEIEnabled( m_framePackingSEIEnabled );
906  m_cTEncTop.setFramePackingArrangementSEIType( m_framePackingSEIType );
907  m_cTEncTop.setFramePackingArrangementSEIId( m_framePackingSEIId );
908  m_cTEncTop.setFramePackingArrangementSEIQuincunx( m_framePackingSEIQuincunx );
909  m_cTEncTop.setFramePackingArrangementSEIInterpretation( m_framePackingSEIInterpretation );
910  m_cTEncTop.setDisplayOrientationSEIAngle( m_displayOrientationSEIAngle );
911  m_cTEncTop.setTemporalLevel0IndexSEIEnabled( m_temporalLevel0IndexSEIEnabled );
912  m_cTEncTop.setGradualDecodingRefreshInfoEnabled( m_gradualDecodingRefreshInfoEnabled );
913  m_cTEncTop.setDecodingUnitInfoSEIEnabled( m_decodingUnitInfoSEIEnabled );
914#if LAYERS_NOT_PRESENT_SEI
915  m_cTEncTop.setLayersNotPresentSEIEnabled( m_layersNotPresentSEIEnabled );
916#endif
917  m_cTEncTop.setSOPDescriptionSEIEnabled( m_SOPDescriptionSEIEnabled );
918  m_cTEncTop.setScalableNestingSEIEnabled( m_scalableNestingSEIEnabled );
919  m_cTEncTop.setTileUniformSpacingFlag     ( m_tileUniformSpacingFlag );
920  m_cTEncTop.setNumColumnsMinus1           ( m_numTileColumnsMinus1 );
921  m_cTEncTop.setNumRowsMinus1              ( m_numTileRowsMinus1 );
922  if(!m_tileUniformSpacingFlag)
923  {
924    m_cTEncTop.setColumnWidth              ( m_tileColumnWidth );
925    m_cTEncTop.setRowHeight                ( m_tileRowHeight );
926  }
927  m_cTEncTop.xCheckGSParameters();
928  Int uiTilesCount          = (m_numTileRowsMinus1+1) * (m_numTileColumnsMinus1+1);
929  if(uiTilesCount == 1)
930  {
931    m_bLFCrossTileBoundaryFlag = true;
932  }
933  m_cTEncTop.setLFCrossTileBoundaryFlag( m_bLFCrossTileBoundaryFlag );
934  m_cTEncTop.setWaveFrontSynchro           ( m_iWaveFrontSynchro );
935  m_cTEncTop.setWaveFrontSubstreams        ( m_iWaveFrontSubstreams );
936  m_cTEncTop.setTMVPModeId ( m_TMVPModeId );
937  m_cTEncTop.setUseScalingListId           ( m_useScalingListId  );
938  m_cTEncTop.setScalingListFile            ( m_scalingListFile   );
939  m_cTEncTop.setSignHideFlag(m_signHideFlag);
940  m_cTEncTop.setUseRateCtrl         ( m_RCEnableRateControl );
941  m_cTEncTop.setTargetBitrate       ( m_RCTargetBitrate );
942  m_cTEncTop.setKeepHierBit         ( m_RCKeepHierarchicalBit );
943  m_cTEncTop.setLCULevelRC          ( m_RCLCULevelRC );
944  m_cTEncTop.setUseLCUSeparateModel ( m_RCUseLCUSeparateModel );
945  m_cTEncTop.setInitialQP           ( m_RCInitialQP );
946  m_cTEncTop.setForceIntraQP        ( m_RCForceIntraQP );
947  m_cTEncTop.setTransquantBypassEnableFlag(m_TransquantBypassEnableFlag);
948  m_cTEncTop.setCUTransquantBypassFlagForceValue(m_CUTransquantBypassFlagForce);
949  m_cTEncTop.setUseRecalculateQPAccordingToLambda( m_recalculateQPAccordingToLambda );
950  m_cTEncTop.setUseStrongIntraSmoothing( m_useStrongIntraSmoothing );
951  m_cTEncTop.setActiveParameterSetsSEIEnabled ( m_activeParameterSetsSEIEnabled );
952  m_cTEncTop.setVuiParametersPresentFlag( m_vuiParametersPresentFlag );
953  m_cTEncTop.setAspectRatioInfoPresentFlag( m_aspectRatioInfoPresentFlag);
954  m_cTEncTop.setAspectRatioIdc( m_aspectRatioIdc );
955  m_cTEncTop.setSarWidth( m_sarWidth );
956  m_cTEncTop.setSarHeight( m_sarHeight );
957  m_cTEncTop.setOverscanInfoPresentFlag( m_overscanInfoPresentFlag );
958  m_cTEncTop.setOverscanAppropriateFlag( m_overscanAppropriateFlag );
959  m_cTEncTop.setVideoSignalTypePresentFlag( m_videoSignalTypePresentFlag );
960  m_cTEncTop.setVideoFormat( m_videoFormat );
961  m_cTEncTop.setVideoFullRangeFlag( m_videoFullRangeFlag );
962  m_cTEncTop.setColourDescriptionPresentFlag( m_colourDescriptionPresentFlag );
963  m_cTEncTop.setColourPrimaries( m_colourPrimaries );
964  m_cTEncTop.setTransferCharacteristics( m_transferCharacteristics );
965  m_cTEncTop.setMatrixCoefficients( m_matrixCoefficients );
966  m_cTEncTop.setChromaLocInfoPresentFlag( m_chromaLocInfoPresentFlag );
967  m_cTEncTop.setChromaSampleLocTypeTopField( m_chromaSampleLocTypeTopField );
968  m_cTEncTop.setChromaSampleLocTypeBottomField( m_chromaSampleLocTypeBottomField );
969  m_cTEncTop.setNeutralChromaIndicationFlag( m_neutralChromaIndicationFlag );
970  m_cTEncTop.setDefaultDisplayWindow( m_defDispWinLeftOffset, m_defDispWinRightOffset, m_defDispWinTopOffset, m_defDispWinBottomOffset );
971  m_cTEncTop.setFrameFieldInfoPresentFlag( m_frameFieldInfoPresentFlag );
972  m_cTEncTop.setPocProportionalToTimingFlag( m_pocProportionalToTimingFlag );
973  m_cTEncTop.setNumTicksPocDiffOneMinus1   ( m_numTicksPocDiffOneMinus1    );
974  m_cTEncTop.setBitstreamRestrictionFlag( m_bitstreamRestrictionFlag );
975  m_cTEncTop.setTilesFixedStructureFlag( m_tilesFixedStructureFlag );
976  m_cTEncTop.setMotionVectorsOverPicBoundariesFlag( m_motionVectorsOverPicBoundariesFlag );
977  m_cTEncTop.setMinSpatialSegmentationIdc( m_minSpatialSegmentationIdc );
978  m_cTEncTop.setMaxBytesPerPicDenom( m_maxBytesPerPicDenom );
979  m_cTEncTop.setMaxBitsPerMinCuDenom( m_maxBitsPerMinCuDenom );
980  m_cTEncTop.setLog2MaxMvLengthHorizontal( m_log2MaxMvLengthHorizontal );
981  m_cTEncTop.setLog2MaxMvLengthVertical( m_log2MaxMvLengthVertical );
982}
983#endif //SVC_EXTENSION
984
985Void TAppEncTop::xCreateLib()
986{
987  // Video I/O
988#if SVC_EXTENSION
989  // initialize global variables
990  initROM();
991
992  for(UInt layer=0; layer<m_numLayers; layer++)
993  {
994#if O0194_DIFFERENT_BITDEPTH_EL_BL
995    //2
996    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
997    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
998
999    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1000    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1001#endif
1002#if LAYER_CTB
1003    g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1004    g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1005    g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1006    g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1007#endif
1008#if O0194_DIFFERENT_BITDEPTH_EL_BL
1009    m_acTVideoIOYuvInputFile[layer].open( (Char *)m_acLayerCfg[layer].getInputFile().c_str(),  false, m_acLayerCfg[layer].m_inputBitDepthY, m_acLayerCfg[layer].m_inputBitDepthC, m_acLayerCfg[layer].m_internalBitDepthY, m_acLayerCfg[layer].m_internalBitDepthC );  // read  mode
1010#else
1011    m_acTVideoIOYuvInputFile[layer].open( (Char *)m_acLayerCfg[layer].getInputFile().c_str(),  false, m_inputBitDepthY, m_inputBitDepthC, m_internalBitDepthY, m_internalBitDepthC );  // read  mode
1012#endif
1013    m_acTVideoIOYuvInputFile[layer].skipFrames(m_FrameSkip, m_acLayerCfg[layer].getSourceWidth() - m_acLayerCfg[layer].getPad()[0], m_acLayerCfg[layer].getSourceHeight() - m_acLayerCfg[layer].getPad()[1]);
1014
1015    if (!m_acLayerCfg[layer].getReconFile().empty())
1016    {
1017#if O0194_DIFFERENT_BITDEPTH_EL_BL
1018      m_acTVideoIOYuvReconFile[layer].open((Char *)m_acLayerCfg[layer].getReconFile().c_str(), true, m_acLayerCfg[layer].m_outputBitDepthY, m_acLayerCfg[layer].m_outputBitDepthC, m_acLayerCfg[layer].m_internalBitDepthY, m_acLayerCfg[layer].m_internalBitDepthC );  // write mode
1019#else
1020      m_acTVideoIOYuvReconFile[layer].open((Char *)m_acLayerCfg[layer].getReconFile().c_str(), true, m_outputBitDepthY, m_outputBitDepthC, m_internalBitDepthY, m_internalBitDepthC );  // write mode
1021#endif
1022    }
1023
1024    m_acTEncTop[layer].create();
1025  }
1026#else //SVC_EXTENSION
1027  m_cTVideoIOYuvInputFile.open( m_pchInputFile,     false, m_inputBitDepthY, m_inputBitDepthC, m_internalBitDepthY, m_internalBitDepthC );  // read  mode
1028  m_cTVideoIOYuvInputFile.skipFrames(m_FrameSkip, m_iSourceWidth - m_aiPad[0], m_iSourceHeight - m_aiPad[1]);
1029
1030  if (m_pchReconFile)
1031    m_cTVideoIOYuvReconFile.open(m_pchReconFile, true, m_outputBitDepthY, m_outputBitDepthC, m_internalBitDepthY, m_internalBitDepthC);  // write mode
1032
1033  // Neo Decoder
1034  m_cTEncTop.create();
1035#endif //SVC_EXTENSION
1036}
1037
1038Void TAppEncTop::xDestroyLib()
1039{
1040  // Video I/O
1041#if SVC_EXTENSION
1042  // destroy ROM
1043  destroyROM();
1044
1045  for(UInt layer=0; layer<m_numLayers; layer++)
1046  {
1047#if LAYER_CTB
1048    g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1049    g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1050    g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1051    g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1052#endif
1053
1054    m_acTVideoIOYuvInputFile[layer].close();
1055    m_acTVideoIOYuvReconFile[layer].close();
1056
1057    m_acTEncTop[layer].destroy();
1058  }
1059#else //SVC_EXTENSION
1060  m_cTVideoIOYuvInputFile.close();
1061  m_cTVideoIOYuvReconFile.close();
1062
1063  // Neo Decoder
1064  m_cTEncTop.destroy();
1065#endif //SVC_EXTENSION
1066}
1067
1068Void TAppEncTop::xInitLib(Bool isFieldCoding)
1069{
1070#if SVC_EXTENSION
1071  for(UInt layer=0; layer<m_numLayers; layer++)
1072  {
1073#if O0194_DIFFERENT_BITDEPTH_EL_BL
1074    //3
1075    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1076    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1077
1078    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1079    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1080#endif
1081#if LAYER_CTB
1082    g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1083    g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1084    g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1085    g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1086
1087    memcpy( g_auiZscanToRaster, g_auiLayerZscanToRaster[layer], sizeof( g_auiZscanToRaster ) );
1088    memcpy( g_auiRasterToZscan, g_auiLayerRasterToZscan[layer], sizeof( g_auiRasterToZscan ) );
1089    memcpy( g_auiRasterToPelX,  g_auiLayerRasterToPelX[layer],  sizeof( g_auiRasterToPelX ) );
1090    memcpy( g_auiRasterToPelY,  g_auiLayerRasterToPelY[layer],  sizeof( g_auiRasterToPelY ) );
1091#endif
1092    m_acTEncTop[layer].init(isFieldCoding);
1093#if P0182_VPS_VUI_PS_FLAG
1094    m_acTEncTop[layer].getVPS()->setSPSId(layer, m_acTEncTop[layer].getSPS()->getSPSId());
1095    m_acTEncTop[layer].getVPS()->setPPSId(layer, m_acTEncTop[layer].getPPS()->getPPSId());
1096#endif
1097  }
1098  m_acTEncTop[0].getVPS()->setMaxLayers( m_numLayers );
1099#if VPS_EXTN_OP_LAYER_SETS
1100  TComVPS* vps = m_acTEncTop[0].getVPS();
1101  vps->setMaxLayerId(m_numLayers - 1);    // Set max-layer ID
1102
1103  vps->setVpsExtensionFlag( m_numLayers > 1 ? true : false );
1104
1105#if Q0078_ADD_LAYER_SETS
1106  if (m_numLayerSets > 0)
1107  {
1108    vps->setNumLayerSets(m_numLayerSets+1);
1109    for (Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1110    {
1111      for (Int layerId = 0; layerId <= vps->getMaxLayerId(); layerId++)
1112      {
1113        vps->setLayerIdIncludedFlag(false, setId, layerId);
1114      }
1115    }
1116    for (Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1117    {
1118      for (Int i = 0; i < m_numLayerInIdList[setId-1]; i++)
1119      {
1120        Int layerId = m_layerSetLayerIdList[setId-1][i];
1121
1122#if O0194_DIFFERENT_BITDEPTH_EL_BL
1123        //4
1124        g_bitDepthY = m_acLayerCfg[layerId].m_internalBitDepthY;
1125        g_bitDepthC = m_acLayerCfg[layerId].m_internalBitDepthC;
1126
1127        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthY : m_acLayerCfg[layerId].m_internalBitDepthY;
1128        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthC : m_acLayerCfg[layerId].m_internalBitDepthC;
1129#endif
1130
1131        vps->setLayerIdIncludedFlag(true, setId, layerId);
1132      }
1133    }
1134  }
1135  else
1136  {
1137    // Default layer sets
1138#endif
1139    vps->setNumLayerSets(m_numLayers);
1140    for (Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1141    {
1142      for (Int layerId = 0; layerId <= vps->getMaxLayerId(); layerId++)
1143      {
1144#if O0194_DIFFERENT_BITDEPTH_EL_BL
1145        //4
1146        g_bitDepthY = m_acLayerCfg[layerId].m_internalBitDepthY;
1147        g_bitDepthC = m_acLayerCfg[layerId].m_internalBitDepthC;
1148
1149        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthY : m_acLayerCfg[layerId].m_internalBitDepthY;
1150        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layerId].m_inputBitDepthC : m_acLayerCfg[layerId].m_internalBitDepthC;
1151#endif
1152        if (layerId <= setId)
1153        {
1154          vps->setLayerIdIncludedFlag(true, setId, layerId);
1155        }
1156        else
1157        {
1158          vps->setLayerIdIncludedFlag(false, setId, layerId);
1159        }
1160      }
1161    }
1162#if Q0078_ADD_LAYER_SETS
1163  }
1164#endif
1165#if Q0078_ADD_LAYER_SETS
1166  vps->setVpsNumLayerSetsMinus1(vps->getNumLayerSets() - 1);
1167  vps->setNumAddLayerSets(m_numAddLayerSets);
1168  vps->setNumLayerSets(vps->getNumLayerSets() + vps->getNumAddLayerSets());
1169  if (m_numAddLayerSets > 0)
1170  {
1171    for (Int setId = 0; setId < m_numAddLayerSets; setId++)
1172    {
1173      for (Int j = 0; j < m_numHighestLayerIdx[setId]; j++)
1174      {
1175        vps->setHighestLayerIdxPlus1(setId, j + 1, m_highestLayerIdx[setId][j] + 1);
1176      }
1177    }
1178  }
1179#endif
1180#if VPS_EXTN_MASK_AND_DIM_INFO
1181  UInt i = 0, dimIdLen = 0;
1182#if AVC_BASE
1183  vps->setAvcBaseLayerFlag(m_avcBaseLayerFlag);
1184#else
1185  vps->setAvcBaseLayerFlag(false);
1186#endif
1187  vps->setSplittingFlag(false);
1188  for(i = 0; i < MAX_VPS_NUM_SCALABILITY_TYPES; i++)
1189  {
1190    vps->setScalabilityMask(i, false);
1191  }
1192  if(m_numLayers > 1)
1193  {
1194    Int scalabilityTypes = 0;
1195    for(i = 0; i < MAX_VPS_NUM_SCALABILITY_TYPES; i++)
1196    {
1197      vps->setScalabilityMask(i, m_scalabilityMask[i]);
1198      scalabilityTypes += m_scalabilityMask[i];
1199    }
1200#if AUXILIARY_PICTURES
1201    assert( scalabilityTypes <= 2 );
1202#else
1203    assert( scalabilityTypes == 1 );
1204#endif
1205    vps->setNumScalabilityTypes(scalabilityTypes);
1206  }
1207  else
1208  {
1209    vps->setNumScalabilityTypes(0);
1210  }
1211  while((1 << dimIdLen) < m_numLayers)
1212  {
1213    dimIdLen++;
1214  }
1215  vps->setDimensionIdLen(0, dimIdLen);
1216  vps->setNuhLayerIdPresentFlag(false);
1217  vps->setLayerIdInNuh(0, 0);
1218  vps->setLayerIdInVps(0, 0);
1219  for(i = 1; i < vps->getMaxLayers(); i++)
1220  {
1221    vps->setLayerIdInNuh(i, i);
1222    vps->setLayerIdInVps(vps->getLayerIdInNuh(i), i);
1223    vps->setDimensionId(i, 0, i);
1224  }
1225#if AUXILIARY_PICTURES
1226  if (m_scalabilityMask[3])
1227  {
1228    UInt maxAuxId = 0;
1229    UInt auxDimIdLen = 1;
1230    for(i = 1; i < vps->getMaxLayers(); i++)
1231    {
1232      if (m_acLayerCfg[i].getAuxId() > maxAuxId)
1233      {
1234        maxAuxId = m_acLayerCfg[i].getAuxId();
1235      }
1236    }
1237    while((1 << auxDimIdLen) < (maxAuxId + 1))
1238    {
1239      auxDimIdLen++;
1240    }
1241    vps->setDimensionIdLen(1, auxDimIdLen);
1242    for(i = 1; i < vps->getMaxLayers(); i++)
1243    {
1244      vps->setDimensionId(i, 1, m_acLayerCfg[i].getAuxId());
1245    }
1246  }
1247#endif
1248#endif
1249#if VPS_TSLAYERS
1250    vps->setMaxTSLayersPresentFlag(true);
1251
1252    for( i = 0; i < vps->getMaxLayers(); i++ )
1253    {
1254      vps->setMaxTSLayersMinus1(i, vps->getMaxTLayers()-1);
1255    }
1256#endif
1257  vps->setMaxTidRefPresentFlag(m_maxTidRefPresentFlag);
1258  if (vps->getMaxTidRefPresentFlag())
1259  {
1260    for( i = 0; i < vps->getMaxLayers() - 1; i++ )
1261    {
1262#if O0225_MAX_TID_FOR_REF_LAYERS
1263      for( Int j = i+1; j < vps->getMaxLayers(); j++)
1264      {
1265        vps->setMaxTidIlRefPicsPlus1(i, j, m_acTEncTop[i].getMaxTidIlRefPicsPlus1());
1266      }
1267#else
1268      vps->setMaxTidIlRefPicsPlus1(i, m_acTEncTop[i].getMaxTidIlRefPicsPlus1());
1269#endif
1270    }
1271  }
1272  else
1273  {
1274    for( i = 0; i < vps->getMaxLayers() - 1; i++ )
1275    {
1276#if O0225_MAX_TID_FOR_REF_LAYERS
1277      for( Int j = i+1; j < vps->getMaxLayers(); j++)
1278      {
1279        vps->setMaxTidIlRefPicsPlus1(i, j, 7);
1280      }
1281#else
1282      vps->setMaxTidIlRefPicsPlus1(i, 7);
1283#endif
1284    }
1285  }
1286    vps->setIlpSshSignalingEnabledFlag(false);
1287#if VPS_EXTN_PROFILE_INFO
1288  vps->getPTLForExtnPtr()->resize(vps->getNumLayerSets());
1289  for(Int setId = 1; setId < vps->getNumLayerSets(); setId++)
1290  {
1291    vps->setProfilePresentFlag(setId, true);
1292    // Note - may need to be changed for other layer structures.
1293    *(vps->getPTLForExtn(setId)) = *(m_acTEncTop[setId].getSPS()->getPTL());
1294  }
1295#endif
1296#if VPS_EXTN_DIRECT_REF_LAYERS
1297  // Direct reference layers
1298  UInt maxDirectRefLayers = 0;
1299#if O0096_DEFAULT_DEPENDENCY_TYPE
1300  Bool isDefaultDirectDependencyTypeSet = false;
1301#endif
1302  for (UInt layerCtr = 1; layerCtr <= vps->getMaxLayers() - 1; layerCtr++)
1303  {
1304    vps->setNumDirectRefLayers(layerCtr, m_acTEncTop[layerCtr].getNumDirectRefLayers());
1305    maxDirectRefLayers = max<UInt>(maxDirectRefLayers, vps->getNumDirectRefLayers(layerCtr));
1306
1307    for (i = 0; i < vps->getNumDirectRefLayers(layerCtr); i++)
1308    {
1309      vps->setRefLayerId(layerCtr, i, m_acTEncTop[layerCtr].getRefLayerId(i));
1310    }
1311    // Set direct dependency flag
1312    // Initialize flag to 0
1313    for (Int refLayerCtr = 0; refLayerCtr < layerCtr; refLayerCtr++)
1314    {
1315      vps->setDirectDependencyFlag(layerCtr, refLayerCtr, false);
1316    }
1317    for (i = 0; i < vps->getNumDirectRefLayers(layerCtr); i++)
1318    {
1319      vps->setDirectDependencyFlag(layerCtr, vps->getLayerIdInVps(m_acTEncTop[layerCtr].getRefLayerId(i)), true);
1320    }
1321    // prediction indications
1322    vps->setDirectDepTypeLen(2); // sample and motion types are encoded
1323    for (Int refLayerCtr = 0; refLayerCtr < layerCtr; refLayerCtr++)
1324    {
1325      if (vps->getDirectDependencyFlag(layerCtr, refLayerCtr))
1326      {
1327        assert(m_acTEncTop[layerCtr].getSamplePredEnabledFlag(refLayerCtr) || m_acTEncTop[layerCtr].getMotionPredEnabledFlag(refLayerCtr));
1328        vps->setDirectDependencyType(layerCtr, refLayerCtr, ((m_acTEncTop[layerCtr].getSamplePredEnabledFlag(refLayerCtr) ? 1 : 0) |
1329          (m_acTEncTop[layerCtr].getMotionPredEnabledFlag(refLayerCtr) ? 2 : 0)) - 1);
1330#if O0096_DEFAULT_DEPENDENCY_TYPE
1331        if (!isDefaultDirectDependencyTypeSet)
1332        {
1333          vps->setDefaultDirectDependecyTypeFlag(1);
1334          vps->setDefaultDirectDependecyType(vps->getDirectDependencyType(layerCtr, refLayerCtr));
1335          isDefaultDirectDependencyTypeSet = true;
1336        }
1337        else if (vps->getDirectDependencyType(layerCtr, refLayerCtr) != vps->getDefaultDirectDependencyType())
1338        {
1339          vps->setDefaultDirectDependecyTypeFlag(0);
1340        }
1341#endif
1342      }
1343      else
1344      {
1345        vps->setDirectDependencyType(layerCtr, refLayerCtr, 0);
1346      }
1347    }
1348  }
1349
1350#if O0092_0094_DEPENDENCY_CONSTRAINT
1351  vps->setNumRefLayers();
1352
1353  if (vps->getMaxLayers() > MAX_REF_LAYERS)
1354  {
1355    for (UInt layerCtr = 1; layerCtr <= vps->getMaxLayers() - 1; layerCtr++)
1356    {
1357      assert(vps->getNumRefLayers(vps->getLayerIdInNuh(layerCtr)) <= MAX_REF_LAYERS);
1358    }
1359  }
1360#endif
1361#if Q0078_ADD_LAYER_SETS
1362  vps->setPredictedLayerIds();
1363  vps->setTreePartitionLayerIdList();
1364  vps->setLayerIdIncludedFlagsForAddLayerSets();
1365#endif
1366#endif
1367  // Target output layer
1368  vps->setNumOutputLayerSets(vps->getNumLayerSets());
1369  vps->setNumProfileTierLevel(vps->getNumLayerSets());
1370#if P0295_DEFAULT_OUT_LAYER_IDC
1371  vps->setDefaultTargetOutputLayerIdc(1);
1372#else
1373#if O0109_DEFAULT_ONE_OUT_LAYER_IDC
1374  vps->setDefaultOneTargetOutputLayerIdc(1);
1375#else
1376  vps->setDefaultOneTargetOutputLayerFlag(true);
1377#endif
1378#endif
1379  for(i = 1; i < vps->getNumLayerSets(); i++)
1380  {
1381    vps->setProfileLevelTierIdx(i, i);
1382    vps->setOutputLayerSetIdx(i, i);
1383  } 
1384#endif
1385 #if VPS_DPB_SIZE_TABLE
1386  // The Layer ID List variables can be derived here. 
1387#if DERIVE_LAYER_ID_LIST_VARIABLES
1388  vps->deriveLayerIdListVariables();
1389#endif
1390#if RESOLUTION_BASED_DPB
1391  vps->assignSubDpbIndices();
1392#else
1393  vps->deriveNumberOfSubDpbs();
1394#endif
1395
1396  // derive OutputLayerFlag[i][j]
1397  if( vps->getDefaultTargetOutputLayerIdc() == 1 )
1398  {
1399    // default_output_layer_idc equal to 1 specifies that only the layer with the highest value of nuh_layer_id such that nuh_layer_id equal to nuhLayerIdA and
1400    // AuxId[ nuhLayerIdA ] equal to 0 in each of the output layer sets with index in the range of 1 to vps_num_layer_sets_minus1, inclusive, is an output layer of its output layer set.
1401
1402    // Include the highest layer as output layer for each layer set
1403    for(Int lsIdx = 1; lsIdx < vps->getNumLayerSets(); lsIdx++)
1404    {
1405      for( UInt layer = 0; layer < vps->getNumLayersInIdList(lsIdx); layer++ )
1406      {
1407#if !Q0078_ADD_LAYER_SETS  // the following condition is incorrect and is not needed anyway
1408        if( vps->getLayerIdIncludedFlag(lsIdx, layer) )     
1409#endif
1410        {       
1411          vps->setOutputLayerFlag( lsIdx, layer, layer == vps->getNumLayersInIdList(lsIdx) - 1 );
1412        }
1413      }
1414    }
1415  }
1416  else
1417  {
1418    // cases when default_output_layer_idc is not equal to 1
1419    assert(!"default_output_layer_idc not equal to 1 is not yet supported");
1420  }
1421
1422  // Initialize dpb_size_table() for all ouput layer sets in the VPS extension
1423  for(i = 1; i < vps->getNumOutputLayerSets(); i++)
1424  {
1425#if CHANGE_NUMSUBDPB_IDX
1426    Int layerSetIdxForOutputLayerSet = vps->getOutputLayerSetIdx( i );
1427#endif
1428    Int layerSetId = vps->getOutputLayerSetIdx(i);
1429
1430    for(Int j = 0; j < vps->getMaxTLayers(); j++)
1431    {
1432
1433      Int maxNumReorderPics = -1;
1434#if CHANGE_NUMSUBDPB_IDX
1435#if RESOLUTION_BASED_DPB
1436      for(Int k = 0; k < vps->getNumLayersInIdList(layerSetIdxForOutputLayerSet); k++)
1437#else
1438      for(Int k = 0; k < vps->getNumSubDpbs(layerSetIdxForOutputLayerSet); k++)
1439#endif
1440#else
1441      for(Int k = 0; k < vps->getNumSubDpbs(i); k++)
1442#endif
1443      {
1444        Int layerId = vps->getLayerSetLayerIdList(layerSetId, k); // k-th layer in the output layer set
1445#if RESOLUTION_BASED_DPB
1446        vps->setMaxVpsLayerDecPicBuffMinus1( i, k, j, m_acTEncTop[layerId].getMaxDecPicBuffering(j) - 1 );
1447        // Add sub-DPB sizes of layers belonging to a sub-DPB. If a different sub-DPB size is calculated
1448        // at the encoder, modify below
1449        Int oldValue = vps->getMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j );
1450        oldValue += vps->getMaxVpsLayerDecPicBuffMinus1( i, k, j ) + 1;
1451        vps->setMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j, oldValue );
1452#else
1453        vps->setMaxVpsDecPicBufferingMinus1( i, k, j,  m_acTEncTop[layerId].getMaxDecPicBuffering(j) - 1 );
1454#endif
1455        maxNumReorderPics       = std::max( maxNumReorderPics, m_acTEncTop[layerId].getNumReorderPics(j));
1456      }
1457#if RESOLUTION_BASED_DPB
1458      for(Int k = 0; k < vps->getNumSubDpbs(i); k++)
1459      {
1460        // Decrement m_maxVpsDecPicBufferingMinus1
1461        Int oldValue = vps->getMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j );
1462        vps->setMaxVpsDecPicBufferingMinus1( i, vps->getSubDpbAssigned( layerSetIdxForOutputLayerSet, k ), j, oldValue - 1 );
1463      }
1464#endif
1465      vps->setMaxVpsNumReorderPics(i, j, maxNumReorderPics);
1466      vps->determineSubDpbInfoFlags();
1467    }
1468  }
1469#endif
1470    vps->setMaxOneActiveRefLayerFlag(maxDirectRefLayers > 1 ? false : true);
1471#if O0062_POC_LSB_NOT_PRESENT_FLAG
1472    for(i = 1; i< vps->getMaxLayers(); i++)
1473    {
1474      if( vps->getNumDirectRefLayers( vps->getLayerIdInNuh(i) ) == 0  )
1475      {
1476#if Q0078_ADD_LAYER_SETS
1477        vps->setPocLsbNotPresentFlag(i, true); // make independedent layers base-layer compliant
1478#else
1479        vps->setPocLsbNotPresentFlag(i, false);
1480#endif
1481      }
1482    }
1483#endif
1484#if O0223_PICTURE_TYPES_ALIGN_FLAG
1485    vps->setCrossLayerPictureTypeAlignFlag( m_crossLayerPictureTypeAlignFlag );
1486#endif
1487#if P0068_CROSS_LAYER_ALIGNED_IDR_ONLY_FOR_IRAP_FLAG
1488    vps->setCrossLayerAlignedIdrOnlyFlag( m_crossLayerAlignedIdrOnlyFlag );
1489#endif
1490    vps->setCrossLayerIrapAlignFlag( m_crossLayerIrapAlignFlag );
1491    for(UInt layerCtr = 1;layerCtr <= vps->getMaxLayers() - 1; layerCtr++)
1492    {
1493      for(Int refLayerCtr = 0; refLayerCtr < layerCtr; refLayerCtr++)
1494      {
1495        if (vps->getDirectDependencyFlag( layerCtr, refLayerCtr))
1496        {
1497          if(m_acTEncTop[layerCtr].getIntraPeriod() !=  m_acTEncTop[refLayerCtr].getIntraPeriod())
1498          {
1499            vps->setCrossLayerIrapAlignFlag(false);
1500            break;
1501          }
1502        }
1503      }
1504    }
1505#if M0040_ADAPTIVE_RESOLUTION_CHANGE
1506  vps->setSingleLayerForNonIrapFlag(m_adaptiveResolutionChange > 0 ? true : false);
1507#endif
1508#if HIGHER_LAYER_IRAP_SKIP_FLAG
1509  vps->setHigherLayerIrapSkipFlag(m_skipPictureAtArcSwitch);
1510#endif
1511#if !P0125_REVERT_VPS_EXTN_OFFSET_TO_RESERVED
1512#if !VPS_EXTN_OFFSET_CALC
1513#if VPS_EXTN_OFFSET
1514  // to be updated according to the current semantics
1515  vps->setExtensionOffset( 0xffff );
1516#endif
1517#endif
1518#endif
1519
1520#if O0215_PHASE_ALIGNMENT
1521  vps->setPhaseAlignFlag( m_phaseAlignFlag );
1522#endif
1523
1524#if P0300_ALT_OUTPUT_LAYER_FLAG
1525  for (Int k = 0; k < MAX_VPS_LAYER_SETS_PLUS1; k++)
1526  {
1527    vps->setAltOuputLayerFlag( k, m_altOutputLayerFlag );
1528  }
1529#else
1530#if O0153_ALT_OUTPUT_LAYER_FLAG
1531  vps->setAltOuputLayerFlag( m_altOutputLayerFlag );
1532#endif
1533#endif
1534
1535#if P0312_VERT_PHASE_ADJ
1536  Bool vpsVuiVertPhaseInUseFlag = false;
1537  for( UInt layerId = 1; layerId < m_numLayers; layerId++ )
1538  {
1539    for( i = 0; i < m_acLayerCfg[layerId].m_numScaledRefLayerOffsets; i++ )
1540    {
1541      if( m_acTEncTop[layerId].getVertPhasePositionEnableFlag(i) )
1542      {
1543        vpsVuiVertPhaseInUseFlag = true;
1544        break;
1545      }
1546    }
1547  }
1548  vps->setVpsVuiVertPhaseInUseFlag( vpsVuiVertPhaseInUseFlag );
1549#endif
1550
1551#if O0164_MULTI_LAYER_HRD
1552  vps->setVpsVuiBspHrdPresentFlag(false);
1553  TEncTop *pcCfg = &m_acTEncTop[0];
1554  if( pcCfg->getBufferingPeriodSEIEnabled() )
1555  {
1556    vps->setVpsVuiBspHrdPresentFlag(true);
1557#if Q0078_ADD_LAYER_SETS
1558    vps->setVpsNumBspHrdParametersMinus1(vps->getVpsNumLayerSetsMinus1() - 1); 
1559#else
1560    vps->setVpsNumBspHrdParametersMinus1(vps->getNumLayerSets() - 2); 
1561#endif
1562    vps->createBspHrdParamBuffer(vps->getVpsNumBspHrdParametersMinus1() + 1);
1563    for ( i = 0; i <= vps->getVpsNumBspHrdParametersMinus1(); i++ )
1564    {
1565      vps->setBspCprmsPresentFlag(i, true);
1566
1567      UInt layerId = i + 1;
1568      TEncTop *pcCfgLayer = &m_acTEncTop[layerId];
1569
1570      Int iPicWidth         = pcCfgLayer->getSourceWidth();
1571      Int iPicHeight        = pcCfgLayer->getSourceHeight();
1572#if LAYER_CTB
1573      UInt uiWidthInCU       = ( iPicWidth  % m_acLayerCfg[layerId].m_uiMaxCUWidth  ) ? iPicWidth  / m_acLayerCfg[layerId].m_uiMaxCUWidth  + 1 : iPicWidth  / m_acLayerCfg[layerId].m_uiMaxCUWidth;
1574      UInt uiHeightInCU      = ( iPicHeight % m_acLayerCfg[layerId].m_uiMaxCUHeight ) ? iPicHeight / m_acLayerCfg[layerId].m_uiMaxCUHeight + 1 : iPicHeight / m_acLayerCfg[layerId].m_uiMaxCUHeight;
1575#else
1576      UInt uiWidthInCU       = ( iPicWidth %m_uiMaxCUWidth  ) ? iPicWidth /m_uiMaxCUWidth  + 1 : iPicWidth /m_uiMaxCUWidth;
1577      UInt uiHeightInCU      = ( iPicHeight%m_uiMaxCUHeight ) ? iPicHeight/m_uiMaxCUHeight + 1 : iPicHeight/m_uiMaxCUHeight;
1578#endif
1579      UInt uiNumCUsInFrame   = uiWidthInCU * uiHeightInCU;
1580
1581#if LAYER_CTB
1582      UInt maxCU = pcCfgLayer->getSliceArgument() >> ( m_acLayerCfg[layerId].m_uiMaxCUDepth << 1);
1583#else
1584      UInt maxCU = pcCfgLayer->getSliceArgument() >> ( m_uiMaxCUDepth << 1);
1585#endif
1586      UInt numDU = ( pcCfgLayer->getSliceMode() == 1 ) ? ( uiNumCUsInFrame / maxCU ) : ( 0 );
1587      if( uiNumCUsInFrame % maxCU != 0 || numDU == 0 )
1588      {
1589        numDU ++;
1590      }
1591      vps->getBspHrd(i)->setNumDU( numDU );
1592      vps->setBspHrdParameters( i, pcCfgLayer->getFrameRate(), numDU, pcCfgLayer->getTargetBitrate(), ( pcCfgLayer->getIntraPeriod() > 0 ) );
1593    }
1594#if Q0078_ADD_LAYER_SETS
1595    for (UInt h = 1; h <= vps->getVpsNumLayerSetsMinus1(); h++)
1596#else
1597    for(UInt h = 1; h <= (vps->getNumLayerSets()-1); h++)
1598#endif
1599    {
1600      vps->setNumBitstreamPartitions(h, 1);
1601      for( i = 0; i < vps->getNumBitstreamPartitions(h); i++ )
1602      {
1603        for( UInt j = 0; j <= (vps->getMaxLayers()-1); j++ )
1604        {
1605          if (vps->getLayerIdIncludedFlag(h, j) && h == j)
1606          {
1607            vps->setLayerInBspFlag(h, i, j, true);
1608          }
1609        }
1610      }
1611      vps->setNumBspSchedCombinations(h, 1);
1612      for( i = 0; i < vps->getNumBspSchedCombinations(h); i++ )
1613      {
1614        for( UInt j = 0; j < vps->getNumBitstreamPartitions(h); j++ )
1615        {
1616          vps->setBspCombHrdIdx(h, i, j, 0);
1617          vps->setBspCombSchedIdx(h, i, j, 0);
1618        }
1619      }
1620    }
1621  }
1622#endif
1623
1624#else //SVC_EXTENSION
1625  m_cTEncTop.init(isFieldCoding);
1626#endif //SVC_EXTENSION
1627}
1628
1629// ====================================================================================================================
1630// Public member functions
1631// ====================================================================================================================
1632
1633/**
1634 - create internal class
1635 - initialize internal variable
1636 - until the end of input YUV file, call encoding function in TEncTop class
1637 - delete allocated buffers
1638 - destroy internal class
1639 .
1640 */
1641#if SVC_EXTENSION
1642Void TAppEncTop::encode()
1643{
1644  fstream bitstreamFile(m_pBitstreamFile, fstream::binary | fstream::out);
1645  if (!bitstreamFile)
1646  {
1647    fprintf(stderr, "\nfailed to open bitstream file `%s' for writing\n", m_pBitstreamFile);
1648    exit(EXIT_FAILURE);
1649  }
1650
1651  TComPicYuv*       pcPicYuvOrg [MAX_LAYERS];
1652  TComPicYuv*       pcPicYuvRec = NULL;
1653
1654  // initialize internal class & member variables
1655  xInitLibCfg();
1656  xCreateLib();
1657  xInitLib(m_isField);
1658
1659  // main encoder loop
1660  Int   iNumEncoded = 0, iTotalNumEncoded = 0;
1661  Bool  bEos = false;
1662
1663  list<AccessUnit> outputAccessUnits; ///< list of access units to write out.  is populated by the encoding process
1664
1665  for(UInt layer=0; layer<m_numLayers; layer++)
1666  {
1667#if O0194_DIFFERENT_BITDEPTH_EL_BL
1668    //5
1669    g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1670    g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1671
1672    g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1673    g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1674#endif
1675    // allocate original YUV buffer
1676    pcPicYuvOrg[layer] = new TComPicYuv;
1677    if( m_isField )
1678    {
1679#if SVC_EXTENSION
1680#if LAYER_CTB
1681#if AUXILIARY_PICTURES
1682      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_acLayerCfg[layer].getChromaFormatIDC(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1683#else
1684      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1685#endif
1686#else
1687#if AUXILIARY_PICTURES
1688      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_acLayerCfg[layer].getChromaFormatIDC(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1689#else
1690      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1691#endif
1692#endif
1693#else
1694      pcPicYuvOrg->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeightOrg(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
1695#endif
1696    }
1697    else
1698    {
1699#if SVC_EXTENSION
1700#if LAYER_CTB
1701#if AUXILIARY_PICTURES
1702      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1703#else
1704      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
1705#endif
1706#else
1707#if AUXILIARY_PICTURES
1708      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1709#else
1710      pcPicYuvOrg[layer]->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
1711#endif
1712#endif
1713#else
1714      pcPicYuvOrg->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
1715#endif
1716    }
1717  }
1718
1719  Bool bFirstFrame = true;
1720  while ( !bEos )
1721  {
1722    // Read enough frames
1723    Bool bFramesReadyToCode = false;
1724    while(!bFramesReadyToCode)
1725    {
1726      for(UInt layer=0; layer<m_numLayers; layer++)
1727      {
1728#if O0194_DIFFERENT_BITDEPTH_EL_BL
1729        //6
1730        g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1731        g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1732
1733        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1734        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1735#endif
1736#if LAYER_CTB
1737        g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1738        g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1739        g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1740        g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1741#endif
1742
1743        // get buffers
1744        xGetBuffer(pcPicYuvRec, layer);
1745
1746        // read input YUV file
1747        m_acTVideoIOYuvInputFile[layer].read( pcPicYuvOrg[layer], m_acLayerCfg[layer].getPad() );
1748
1749#if AUXILIARY_PICTURES
1750        if (m_acLayerCfg[layer].getChromaFormatIDC() == CHROMA_400)
1751        {
1752          pcPicYuvOrg[layer]->convertToMonochrome();
1753        }
1754#endif
1755
1756        if(layer == m_numLayers-1)
1757        {
1758          // increase number of received frames
1759          m_iFrameRcvd++;
1760          // check end of file
1761          bEos = (m_isField && (m_iFrameRcvd == (m_framesToBeEncoded >> 1) )) || ( !m_isField && (m_iFrameRcvd == m_framesToBeEncoded) );
1762        }
1763
1764        if ( m_isField )
1765        {
1766          m_acTEncTop[layer].encodePrep( pcPicYuvOrg[layer], m_isTopFieldFirst );
1767        }
1768        else
1769        {
1770          m_acTEncTop[layer].encodePrep( pcPicYuvOrg[layer] );
1771        }
1772      }
1773
1774      bFramesReadyToCode = !(!bFirstFrame && ( m_acTEncTop[m_numLayers-1].getNumPicRcvd() != m_iGOPSize && m_iGOPSize ) && !bEos );
1775    }
1776    Bool flush = 0;
1777    // if end of file (which is only detected on a read failure) flush the encoder of any queued pictures
1778    if (m_acTVideoIOYuvInputFile[m_numLayers-1].isEof())
1779    {
1780      flush = true;
1781      bEos = true;
1782      m_iFrameRcvd--;
1783      m_acTEncTop[m_numLayers-1].setFramesToBeEncoded(m_iFrameRcvd);
1784    }
1785
1786#if RC_SHVC_HARMONIZATION
1787    for(UInt layer=0; layer<m_numLayers; layer++)
1788    {
1789      if ( m_acTEncTop[layer].getUseRateCtrl() )
1790      {
1791        (m_acTEncTop[layer].getRateCtrl())->initRCGOP(m_acTEncTop[layer].getNumPicRcvd());
1792      }
1793    }
1794#endif
1795
1796#if M0040_ADAPTIVE_RESOLUTION_CHANGE
1797    if (m_adaptiveResolutionChange)
1798    {
1799      for(UInt layer = 0; layer < m_numLayers; layer++)
1800      {
1801        TComList<TComPicYuv*>::iterator iterPicYuvRec;
1802        for (iterPicYuvRec = m_acListPicYuvRec[layer].begin(); iterPicYuvRec != m_acListPicYuvRec[layer].end(); iterPicYuvRec++)
1803        {
1804          TComPicYuv* recPic = *(iterPicYuvRec);
1805          recPic->setReconstructed(false);
1806        }
1807      }
1808    }
1809#endif
1810
1811    // loop through frames in one GOP
1812    for ( UInt iPicIdInGOP=0; iPicIdInGOP < (bFirstFrame? 1:m_iGOPSize); iPicIdInGOP++ )
1813    {
1814      // layer by layer for each frame
1815      for(UInt layer=0; layer<m_numLayers; layer++)
1816      {
1817#if O0194_DIFFERENT_BITDEPTH_EL_BL
1818        //7
1819        g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1820        g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1821
1822        g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1823        g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1824#endif
1825#if LAYER_CTB
1826        g_uiMaxCUWidth  = g_auiLayerMaxCUWidth[layer];
1827        g_uiMaxCUHeight = g_auiLayerMaxCUHeight[layer];
1828        g_uiMaxCUDepth  = g_auiLayerMaxCUDepth[layer];
1829        g_uiAddCUDepth  = g_auiLayerAddCUDepth[layer];
1830
1831        memcpy( g_auiZscanToRaster, g_auiLayerZscanToRaster[layer], sizeof( g_auiZscanToRaster ) );
1832        memcpy( g_auiRasterToZscan, g_auiLayerRasterToZscan[layer], sizeof( g_auiRasterToZscan ) );
1833        memcpy( g_auiRasterToPelX,  g_auiLayerRasterToPelX[layer],  sizeof( g_auiRasterToPelX ) );
1834        memcpy( g_auiRasterToPelY,  g_auiLayerRasterToPelY[layer],  sizeof( g_auiRasterToPelY ) );
1835#endif
1836        // call encoding function for one frame
1837        if ( m_isField )
1838        {
1839          m_acTEncTop[layer].encode( flush ? 0 : pcPicYuvOrg[layer], m_acListPicYuvRec[layer], outputAccessUnits, iPicIdInGOP, m_isTopFieldFirst );
1840        }
1841        else
1842        {
1843          m_acTEncTop[layer].encode( flush ? 0 : pcPicYuvOrg[layer], m_acListPicYuvRec[layer], outputAccessUnits, iPicIdInGOP );
1844        }
1845      }
1846    }
1847
1848#if RC_SHVC_HARMONIZATION
1849    for(UInt layer=0; layer<m_numLayers; layer++)
1850    {
1851      if ( m_acTEncTop[layer].getUseRateCtrl() )
1852      {
1853        (m_acTEncTop[layer].getRateCtrl())->destroyRCGOP();
1854      }
1855    }
1856#endif
1857
1858    iTotalNumEncoded = 0;
1859    for(UInt layer=0; layer<m_numLayers; layer++)
1860    {
1861#if O0194_DIFFERENT_BITDEPTH_EL_BL
1862      //8
1863      g_bitDepthY = m_acLayerCfg[layer].m_internalBitDepthY;
1864      g_bitDepthC = m_acLayerCfg[layer].m_internalBitDepthC;
1865
1866      g_uiPCMBitDepthLuma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthY : m_acLayerCfg[layer].m_internalBitDepthY;
1867      g_uiPCMBitDepthChroma = m_bPCMInputBitDepthFlag ? m_acLayerCfg[layer].m_inputBitDepthC : m_acLayerCfg[layer].m_internalBitDepthC;
1868#endif
1869      // write bistream to file if necessary
1870      iNumEncoded = m_acTEncTop[layer].getNumPicRcvd();
1871      if ( iNumEncoded > 0 )
1872      {
1873        xWriteRecon(layer, iNumEncoded);
1874        iTotalNumEncoded += iNumEncoded;
1875      }
1876      m_acTEncTop[layer].setNumPicRcvd( 0 );
1877    }
1878
1879    // write bitstream out
1880    if(iTotalNumEncoded)
1881    {
1882#if P0130_EOB
1883      if( bEos )
1884      {
1885        OutputNALUnit nalu(NAL_UNIT_EOB);
1886        nalu.m_layerId = 0;
1887
1888        AccessUnit& accessUnit = outputAccessUnits.back();
1889#if T_ID_EOB_BUG_FIX
1890        nalu.m_temporalId = 0;
1891#else
1892        nalu.m_temporalId = accessUnit.front()->m_temporalId;
1893#endif
1894        accessUnit.push_back(new NALUnitEBSP(nalu));
1895      }
1896#endif
1897      xWriteStream(bitstreamFile, iTotalNumEncoded, outputAccessUnits);
1898      outputAccessUnits.clear();
1899    }
1900
1901    // print out summary
1902    if (bEos)
1903    {
1904      printOutSummary(m_isTopFieldFirst);
1905    }
1906
1907    bFirstFrame = false;
1908  }
1909  // delete original YUV buffer
1910  for(UInt layer=0; layer<m_numLayers; layer++)
1911  {
1912    pcPicYuvOrg[layer]->destroy();
1913    delete pcPicYuvOrg[layer];
1914    pcPicYuvOrg[layer] = NULL;
1915
1916    // delete used buffers in encoder class
1917    m_acTEncTop[layer].deletePicBuffer();
1918  }
1919
1920  // delete buffers & classes
1921  xDeleteBuffer();
1922  xDestroyLib();
1923
1924  printRateSummary();
1925
1926  return;
1927}
1928
1929Void TAppEncTop::printOutSummary(Bool isField)
1930{
1931  UInt layer;
1932
1933  // set frame rate
1934  for(layer = 0; layer < m_numLayers; layer++)
1935  {
1936    if(isField)
1937    {
1938      m_gcAnalyzeAll[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2);
1939      m_gcAnalyzeI[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2 );
1940      m_gcAnalyzeP[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2 );
1941      m_gcAnalyzeB[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() * 2 );
1942    }
1943    else
1944    {
1945      m_gcAnalyzeAll[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate());
1946      m_gcAnalyzeI[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() );
1947      m_gcAnalyzeP[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() );
1948      m_gcAnalyzeB[layer].setFrmRate( m_acLayerCfg[layer].getFrameRate() );
1949    }
1950  }
1951
1952  //-- all
1953  printf( "\n\nSUMMARY --------------------------------------------------------\n" );
1954  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1955  for(layer = 0; layer < m_numLayers; layer++)
1956  {
1957    m_gcAnalyzeAll[layer].printOut('a', layer);
1958  }
1959
1960  printf( "\n\nI Slices--------------------------------------------------------\n" );
1961  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1962  for(layer = 0; layer < m_numLayers; layer++)
1963  {
1964    m_gcAnalyzeI[layer].printOut('i', layer);
1965  }
1966
1967  printf( "\n\nP Slices--------------------------------------------------------\n" );
1968  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1969  for(layer = 0; layer < m_numLayers; layer++)
1970  {
1971    m_gcAnalyzeP[layer].printOut('p', layer);
1972  }
1973
1974  printf( "\n\nB Slices--------------------------------------------------------\n" );
1975  printf( "\tTotal Frames |  "   "Bitrate    "  "Y-PSNR    "  "U-PSNR    "  "V-PSNR \n" );
1976  for(layer = 0; layer < m_numLayers; layer++)
1977  {
1978    m_gcAnalyzeB[layer].printOut('b', layer);
1979  }
1980
1981  if(isField)
1982  {
1983    for(layer = 0; layer < m_numLayers; layer++)
1984    {
1985      //-- interlaced summary
1986      m_gcAnalyzeAll_in.setFrmRate( m_acLayerCfg[layer].getFrameRate());
1987      printf( "\n\nSUMMARY INTERLACED ---------------------------------------------\n" );
1988      m_gcAnalyzeAll_in.printOutInterlaced('a',  m_gcAnalyzeAll[layer].getBits());
1989
1990#if _SUMMARY_OUT_
1991      m_gcAnalyzeAll_in.printSummaryOutInterlaced();
1992#endif
1993    }
1994  }
1995}
1996
1997#else
1998Void TAppEncTop::encode()
1999{
2000  fstream bitstreamFile(m_pchBitstreamFile, fstream::binary | fstream::out);
2001  if (!bitstreamFile)
2002  {
2003    fprintf(stderr, "\nfailed to open bitstream file `%s' for writing\n", m_pchBitstreamFile);
2004    exit(EXIT_FAILURE);
2005  }
2006
2007  TComPicYuv*       pcPicYuvOrg = new TComPicYuv;
2008  TComPicYuv*       pcPicYuvRec = NULL;
2009
2010  // initialize internal class & member variables
2011  xInitLibCfg();
2012  xCreateLib();
2013  xInitLib(m_isField);
2014
2015  // main encoder loop
2016  Int   iNumEncoded = 0;
2017  Bool  bEos = false;
2018
2019  list<AccessUnit> outputAccessUnits; ///< list of access units to write out.  is populated by the encoding process
2020
2021  // allocate original YUV buffer
2022  if( m_isField )
2023  {
2024    pcPicYuvOrg->create( m_iSourceWidth, m_iSourceHeightOrg, m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
2025  }
2026  else
2027  {
2028    pcPicYuvOrg->create( m_iSourceWidth, m_iSourceHeight, m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
2029  }
2030
2031  while ( !bEos )
2032  {
2033    // get buffers
2034    xGetBuffer(pcPicYuvRec);
2035
2036    // read input YUV file
2037    m_cTVideoIOYuvInputFile.read( pcPicYuvOrg, m_aiPad );
2038
2039    // increase number of received frames
2040    m_iFrameRcvd++;
2041
2042    bEos = (m_isField && (m_iFrameRcvd == (m_framesToBeEncoded >> 1) )) || ( !m_isField && (m_iFrameRcvd == m_framesToBeEncoded) );
2043    Bool flush = 0;
2044    // if end of file (which is only detected on a read failure) flush the encoder of any queued pictures
2045    if (m_cTVideoIOYuvInputFile.isEof())
2046    {
2047      flush = true;
2048      bEos = true;
2049      m_iFrameRcvd--;
2050      m_cTEncTop.setFramesToBeEncoded(m_iFrameRcvd);
2051    }
2052
2053    // call encoding function for one frame
2054    if ( m_isField )
2055    {
2056      m_cTEncTop.encode( bEos, flush ? 0 : pcPicYuvOrg, m_cListPicYuvRec, outputAccessUnits, iNumEncoded, m_isTopFieldFirst);
2057    }
2058    else
2059    {
2060    m_cTEncTop.encode( bEos, flush ? 0 : pcPicYuvOrg, m_cListPicYuvRec, outputAccessUnits, iNumEncoded );
2061    }
2062
2063    // write bistream to file if necessary
2064    if ( iNumEncoded > 0 )
2065    {
2066      xWriteOutput(bitstreamFile, iNumEncoded, outputAccessUnits);
2067      outputAccessUnits.clear();
2068    }
2069  }
2070
2071  m_cTEncTop.printSummary(m_isField);
2072
2073  // delete original YUV buffer
2074  pcPicYuvOrg->destroy();
2075  delete pcPicYuvOrg;
2076  pcPicYuvOrg = NULL;
2077
2078  // delete used buffers in encoder class
2079  m_cTEncTop.deletePicBuffer();
2080
2081  // delete buffers & classes
2082  xDeleteBuffer();
2083  xDestroyLib();
2084
2085  printRateSummary();
2086
2087  return;
2088}
2089#endif
2090
2091// ====================================================================================================================
2092// Protected member functions
2093// ====================================================================================================================
2094
2095/**
2096 - application has picture buffer list with size of GOP
2097 - picture buffer list acts as ring buffer
2098 - end of the list has the latest picture
2099 .
2100 */
2101#if SVC_EXTENSION
2102Void TAppEncTop::xGetBuffer( TComPicYuv*& rpcPicYuvRec, UInt layer)
2103{
2104  assert( m_iGOPSize > 0 );
2105
2106  // org. buffer
2107  if ( m_acListPicYuvRec[layer].size() == (UInt)m_iGOPSize )
2108  {
2109    rpcPicYuvRec = m_acListPicYuvRec[layer].popFront();
2110
2111  }
2112  else
2113  {
2114    rpcPicYuvRec = new TComPicYuv;
2115
2116#if LAYER_CTB
2117#if AUXILIARY_PICTURES
2118    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
2119#else
2120    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].m_uiMaxCUWidth, m_acLayerCfg[layer].m_uiMaxCUHeight, m_acLayerCfg[layer].m_uiMaxCUDepth, NULL );
2121#endif
2122#else
2123#if AUXILIARY_PICTURES
2124    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_acLayerCfg[layer].getChromaFormatIDC(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
2125#else
2126    rpcPicYuvRec->create( m_acLayerCfg[layer].getSourceWidth(), m_acLayerCfg[layer].getSourceHeight(), m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth, NULL );
2127#endif
2128#endif
2129
2130  }
2131  m_acListPicYuvRec[layer].pushBack( rpcPicYuvRec );
2132}
2133
2134Void TAppEncTop::xDeleteBuffer( )
2135{
2136  for(UInt layer=0; layer<m_numLayers; layer++)
2137  {
2138    TComList<TComPicYuv*>::iterator iterPicYuvRec  = m_acListPicYuvRec[layer].begin();
2139
2140    Int iSize = Int( m_acListPicYuvRec[layer].size() );
2141
2142    for ( Int i = 0; i < iSize; i++ )
2143    {
2144      TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2145      pcPicYuvRec->destroy();
2146      delete pcPicYuvRec; pcPicYuvRec = NULL;
2147    }
2148  }
2149}
2150
2151Void TAppEncTop::xWriteRecon(UInt layer, Int iNumEncoded)
2152{
2153#if REPN_FORMAT_IN_VPS
2154  ChromaFormat chromaFormatIdc = m_acLayerCfg[layer].getChromaFormatIDC();
2155  Int xScal = TComSPS::getWinUnitX( chromaFormatIdc );
2156  Int yScal = TComSPS::getWinUnitY( chromaFormatIdc );
2157#endif
2158
2159  if (m_isField)
2160  {
2161    //Reinterlace fields
2162    Int i;
2163    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_acListPicYuvRec[layer].end();
2164
2165    for ( i = 0; i < iNumEncoded; i++ )
2166    {
2167      --iterPicYuvRec;
2168    }
2169
2170    for ( i = 0; i < iNumEncoded/2; i++ )
2171    {
2172      TComPicYuv*  pcPicYuvRecTop  = *(iterPicYuvRec++);
2173      TComPicYuv*  pcPicYuvRecBottom  = *(iterPicYuvRec++);
2174
2175#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2176      if (!m_acLayerCfg[layer].getReconFile().empty() && pcPicYuvRecTop->isReconstructed() && pcPicYuvRecBottom->isReconstructed())
2177#else
2178      if (!m_acLayerCfg[layer].getReconFile().empty())
2179#endif
2180      {
2181#if REPN_FORMAT_IN_VPS
2182        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRecTop, pcPicYuvRecBottom, m_acLayerCfg[layer].getConfWinLeft() * xScal, m_acLayerCfg[layer].getConfWinRight() * xScal, 
2183          m_acLayerCfg[layer].getConfWinTop() * yScal, m_acLayerCfg[layer].getConfWinBottom() * yScal, m_isTopFieldFirst );
2184#else
2185        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRecTop, pcPicYuvRecBottom, m_acLayerCfg[layer].getConfWinLeft(), m_acLayerCfg[layer].getConfWinRight(), m_acLayerCfg[layer].getConfWinTop(), m_acLayerCfg[layer].getConfWinBottom(), m_isTopFieldFirst );
2186#endif
2187      }
2188    }
2189  }
2190  else
2191  {
2192    Int i;
2193
2194    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_acListPicYuvRec[layer].end();
2195
2196    for ( i = 0; i < iNumEncoded; i++ )
2197    {
2198      --iterPicYuvRec;
2199    }
2200
2201    for ( i = 0; i < iNumEncoded; i++ )
2202    {
2203      TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2204#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2205      if (!m_acLayerCfg[layer].getReconFile().empty() && pcPicYuvRec->isReconstructed())
2206#else
2207      if (!m_acLayerCfg[layer].getReconFile().empty())
2208#endif
2209      {
2210#if REPN_FORMAT_IN_VPS
2211        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRec, m_acLayerCfg[layer].getConfWinLeft() * xScal, m_acLayerCfg[layer].getConfWinRight() * xScal,
2212          m_acLayerCfg[layer].getConfWinTop() * yScal, m_acLayerCfg[layer].getConfWinBottom() * yScal );
2213#else
2214        m_acTVideoIOYuvReconFile[layer].write( pcPicYuvRec, m_acLayerCfg[layer].getConfWinLeft(), m_acLayerCfg[layer].getConfWinRight(),
2215          m_acLayerCfg[layer].getConfWinTop(), m_acLayerCfg[layer].getConfWinBottom() );
2216#endif
2217      }
2218    }
2219  }
2220}
2221
2222Void TAppEncTop::xWriteStream(std::ostream& bitstreamFile, Int iNumEncoded, const std::list<AccessUnit>& accessUnits)
2223{
2224  if (m_isField)
2225  {
2226    //Reinterlace fields
2227    Int i;
2228    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2229
2230#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2231    for ( i = 0; i < iNumEncoded/2 && iterBitstream != accessUnits.end(); i++ )
2232#else
2233    for ( i = 0; i < iNumEncoded/2; i++ )
2234#endif
2235    {
2236      const AccessUnit& auTop = *(iterBitstream++);
2237      const vector<UInt>& statsTop = writeAnnexB(bitstreamFile, auTop);
2238      rateStatsAccum(auTop, statsTop);
2239
2240      const AccessUnit& auBottom = *(iterBitstream++);
2241      const vector<UInt>& statsBottom = writeAnnexB(bitstreamFile, auBottom);
2242      rateStatsAccum(auBottom, statsBottom);
2243    }
2244  }
2245  else
2246  {
2247    Int i;
2248
2249    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2250
2251#if M0040_ADAPTIVE_RESOLUTION_CHANGE
2252    for ( i = 0; i < iNumEncoded && iterBitstream != accessUnits.end(); i++ )
2253#else
2254    for ( i = 0; i < iNumEncoded; i++ )
2255#endif
2256    {
2257      const AccessUnit& au = *(iterBitstream++);
2258      const vector<UInt>& stats = writeAnnexB(bitstreamFile, au);
2259      rateStatsAccum(au, stats);
2260    }
2261  }
2262}
2263
2264#else // SVC_EXTENSION
2265Void TAppEncTop::xGetBuffer( TComPicYuv*& rpcPicYuvRec)
2266{
2267  assert( m_iGOPSize > 0 );
2268
2269  // org. buffer
2270  if ( m_cListPicYuvRec.size() == (UInt)m_iGOPSize )
2271  {
2272    rpcPicYuvRec = m_cListPicYuvRec.popFront();
2273
2274  }
2275  else
2276  {
2277    rpcPicYuvRec = new TComPicYuv;
2278
2279    rpcPicYuvRec->create( m_iSourceWidth, m_iSourceHeight, m_uiMaxCUWidth, m_uiMaxCUHeight, m_uiMaxCUDepth );
2280
2281  }
2282  m_cListPicYuvRec.pushBack( rpcPicYuvRec );
2283}
2284
2285Void TAppEncTop::xDeleteBuffer( )
2286{
2287  TComList<TComPicYuv*>::iterator iterPicYuvRec  = m_cListPicYuvRec.begin();
2288
2289  Int iSize = Int( m_cListPicYuvRec.size() );
2290
2291  for ( Int i = 0; i < iSize; i++ )
2292  {
2293    TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2294    pcPicYuvRec->destroy();
2295    delete pcPicYuvRec; pcPicYuvRec = NULL;
2296  }
2297
2298}
2299
2300/** \param iNumEncoded  number of encoded frames
2301 */
2302Void TAppEncTop::xWriteOutput(std::ostream& bitstreamFile, Int iNumEncoded, const std::list<AccessUnit>& accessUnits)
2303{
2304  if (m_isField)
2305  {
2306    //Reinterlace fields
2307    Int i;
2308    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_cListPicYuvRec.end();
2309    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2310
2311    for ( i = 0; i < iNumEncoded; i++ )
2312    {
2313      --iterPicYuvRec;
2314    }
2315
2316    for ( i = 0; i < iNumEncoded/2; i++ )
2317    {
2318      TComPicYuv*  pcPicYuvRecTop  = *(iterPicYuvRec++);
2319      TComPicYuv*  pcPicYuvRecBottom  = *(iterPicYuvRec++);
2320
2321      if (m_pchReconFile)
2322      {
2323        m_cTVideoIOYuvReconFile.write( pcPicYuvRecTop, pcPicYuvRecBottom, m_confWinLeft, m_confWinRight, m_confWinTop, m_confWinBottom, m_isTopFieldFirst );
2324      }
2325
2326      const AccessUnit& auTop = *(iterBitstream++);
2327      const vector<UInt>& statsTop = writeAnnexB(bitstreamFile, auTop);
2328      rateStatsAccum(auTop, statsTop);
2329
2330      const AccessUnit& auBottom = *(iterBitstream++);
2331      const vector<UInt>& statsBottom = writeAnnexB(bitstreamFile, auBottom);
2332      rateStatsAccum(auBottom, statsBottom);
2333    }
2334  }
2335  else
2336  {
2337    Int i;
2338    TComList<TComPicYuv*>::iterator iterPicYuvRec = m_cListPicYuvRec.end();
2339    list<AccessUnit>::const_iterator iterBitstream = accessUnits.begin();
2340
2341    for ( i = 0; i < iNumEncoded; i++ )
2342    {
2343      --iterPicYuvRec;
2344    }
2345
2346    for ( i = 0; i < iNumEncoded; i++ )
2347    {
2348      TComPicYuv*  pcPicYuvRec  = *(iterPicYuvRec++);
2349      if (m_pchReconFile)
2350      {
2351        m_cTVideoIOYuvReconFile.write( pcPicYuvRec, m_confWinLeft, m_confWinRight, m_confWinTop, m_confWinBottom );
2352      }
2353
2354      const AccessUnit& au = *(iterBitstream++);
2355      const vector<UInt>& stats = writeAnnexB(bitstreamFile, au);
2356      rateStatsAccum(au, stats);
2357    }
2358  }
2359}
2360#endif
2361
2362/**
2363 *
2364 */
2365void TAppEncTop::rateStatsAccum(const AccessUnit& au, const std::vector<UInt>& annexBsizes)
2366{
2367  AccessUnit::const_iterator it_au = au.begin();
2368  vector<UInt>::const_iterator it_stats = annexBsizes.begin();
2369
2370  for (; it_au != au.end(); it_au++, it_stats++)
2371  {
2372    switch ((*it_au)->m_nalUnitType)
2373    {
2374    case NAL_UNIT_CODED_SLICE_TRAIL_R:
2375    case NAL_UNIT_CODED_SLICE_TRAIL_N:
2376    case NAL_UNIT_CODED_SLICE_TSA_R:
2377    case NAL_UNIT_CODED_SLICE_TSA_N:
2378    case NAL_UNIT_CODED_SLICE_STSA_R:
2379    case NAL_UNIT_CODED_SLICE_STSA_N:
2380    case NAL_UNIT_CODED_SLICE_BLA_W_LP:
2381    case NAL_UNIT_CODED_SLICE_BLA_W_RADL:
2382    case NAL_UNIT_CODED_SLICE_BLA_N_LP:
2383    case NAL_UNIT_CODED_SLICE_IDR_W_RADL:
2384    case NAL_UNIT_CODED_SLICE_IDR_N_LP:
2385    case NAL_UNIT_CODED_SLICE_CRA:
2386    case NAL_UNIT_CODED_SLICE_RADL_N:
2387    case NAL_UNIT_CODED_SLICE_RADL_R:
2388    case NAL_UNIT_CODED_SLICE_RASL_N:
2389    case NAL_UNIT_CODED_SLICE_RASL_R:
2390    case NAL_UNIT_VPS:
2391    case NAL_UNIT_SPS:
2392    case NAL_UNIT_PPS:
2393      m_essentialBytes += *it_stats;
2394      break;
2395    default:
2396      break;
2397    }
2398
2399    m_totalBytes += *it_stats;
2400  }
2401}
2402
2403void TAppEncTop::printRateSummary()
2404{
2405#if SVC_EXTENSION
2406  Double time = (Double) m_iFrameRcvd / m_acLayerCfg[m_numLayers-1].getFrameRate();
2407#else
2408  Double time = (Double) m_iFrameRcvd / m_iFrameRate;
2409#endif
2410  printf("Bytes written to file: %u (%.3f kbps)\n", m_totalBytes, 0.008 * m_totalBytes / time);
2411#if VERBOSE_RATE
2412  printf("Bytes for SPS/PPS/Slice (Incl. Annex B): %u (%.3f kbps)\n", m_essentialBytes, 0.008 * m_essentialBytes / time);
2413#endif
2414}
2415
2416//! \}
Note: See TracBrowser for help on using the repository browser.