source: 3DVCSoftware/branches/HTM-14.1-update-dev1-RWTH/source/Lib/TLibCommon/TComCodingStatistics.h @ 1227

Last change on this file since 1227 was 1227, checked in by hhi, 9 years ago
  • SDC with DMM seems to work now (incompatible with DLT -> high level syntax problem?).
  • Renamed macros for intra and inter SDC.
  • Property svn:eol-style set to native
File size: 17.5 KB
Line 
1/* The copyright in this software is being made available under the BSD
2 * License, included below. This software may be subject to other third party
3 * and contributor rights, including patent rights, and no such rights are
4 * granted under this license.
5 *
6 * Copyright (c) 2010-2015, ITU/ISO/IEC
7 * All rights reserved.
8 *
9 * Redistribution and use in source and binary forms, with or without
10 * modification, are permitted provided that the following conditions are met:
11 *
12 *  * Redistributions of source code must retain the above copyright notice,
13 *    this list of conditions and the following disclaimer.
14 *  * Redistributions in binary form must reproduce the above copyright notice,
15 *    this list of conditions and the following disclaimer in the documentation
16 *    and/or other materials provided with the distribution.
17 *  * Neither the name of the ITU/ISO/IEC nor the names of its contributors may
18 *    be used to endorse or promote products derived from this software without
19 *    specific prior written permission.
20 *
21 * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
22 * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23 * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24 * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS
25 * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26 * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
27 * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
28 * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
29 * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30 * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
31 * THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34#ifndef __TCOMCODINGSTATISTICS__
35#define __TCOMCODINGSTATISTICS__
36
37#include "CommonDef.h"
38#include <stdio.h>
39#include <string>
40#include <map>
41#include <math.h>
42#include "TComChromaFormat.h"
43
44static const Int64 TCOMCODINGSTATISTICS_ENTROPYSCALE=32768;
45
46
47enum TComCodingStatisticsType
48{
49  STATS__NAL_UNIT_TOTAL_BODY,// This is a special case and is not included in the total sums.
50  STATS__NAL_UNIT_PACKING,
51  STATS__EMULATION_PREVENTION_3_BYTES,
52  STATS__NAL_UNIT_HEADER_BITS,
53  STATS__CABAC_INITIALISATION,
54  STATS__CABAC_BITS__TQ_BYPASS_FLAG,
55  STATS__CABAC_BITS__SKIP_FLAG,
56  STATS__CABAC_BITS__MERGE_FLAG,
57  STATS__CABAC_BITS__MERGE_INDEX,
58  STATS__CABAC_BITS__MVP_IDX,
59  STATS__CABAC_BITS__SPLIT_FLAG,
60  STATS__CABAC_BITS__PART_SIZE,
61  STATS__CABAC_BITS__PRED_MODE,
62  STATS__CABAC_BITS__INTRA_DIR_ANG,
63  STATS__CABAC_BITS__INTER_DIR,
64  STATS__CABAC_BITS__REF_FRM_IDX,
65  STATS__CABAC_BITS__MVD,
66  STATS__CABAC_BITS__MVD_EP,
67  STATS__CABAC_BITS__TRANSFORM_SUBDIV_FLAG,
68  STATS__CABAC_BITS__QT_ROOT_CBF,
69  STATS__CABAC_BITS__DELTA_QP_EP,
70  STATS__CABAC_BITS__CHROMA_QP_ADJUSTMENT,
71  STATS__CABAC_BITS__QT_CBF,
72  STATS__CABAC_BITS__CROSS_COMPONENT_PREDICTION,
73  STATS__CABAC_BITS__TRANSFORM_SKIP_FLAGS,
74
75  STATS__CABAC_BITS__LAST_SIG_X_Y,
76  STATS__CABAC_BITS__SIG_COEFF_GROUP_FLAG,
77  STATS__CABAC_BITS__SIG_COEFF_MAP_FLAG,
78  STATS__CABAC_BITS__GT1_FLAG,
79  STATS__CABAC_BITS__GT2_FLAG,
80  STATS__CABAC_BITS__SIGN_BIT,
81  STATS__CABAC_BITS__ESCAPE_BITS,
82
83  STATS__CABAC_BITS__SAO,
84  STATS__CABAC_TRM_BITS,
85  STATS__CABAC_FIXED_BITS,
86  STATS__CABAC_PCM_ALIGN_BITS,
87  STATS__CABAC_PCM_CODE_BITS,
88  STATS__BYTE_ALIGNMENT_BITS,
89  STATS__TRAILING_BITS,
90  STATS__EXPLICIT_RDPCM_BITS,
91  STATS__CABAC_EP_BIT_ALIGNMENT,
92  STATS__CABAC_BITS__ALIGNED_SIGN_BIT,
93  STATS__CABAC_BITS__ALIGNED_ESCAPE_BITS,
94
95#if NH_3D_DMM || NH_3D_SDC_INTRA || H_3D_INTER_SDC
96  STATS__CABAC_BITS__DELTADC_SIGN_EP,
97  STATS__CABAC_BITS__DELTADC_PREFIX,
98  STATS__CABAC_BITS__DELTADC_SUFFIX_EP,
99#endif
100#if NH_3D_DMM
101  STATS__CABAC_BITS__NOTDMM_FLAG,
102  STATS__CABAC_BITS__DMMMODE,
103  STATS__CABAC_BITS__DMM1_BITS_EP,
104#endif
105
106  STATS__NUM_STATS
107};
108
109static inline const Char* getName(TComCodingStatisticsType name)
110{
111  static const Char *statNames[]=
112  {
113    "NAL_UNIT_TOTAL_BODY", // This is a special case and is not included in the total sums.
114    "NAL_UNIT_PACKING",
115    "EMULATION_PREVENTION_3_BYTES",
116    "NAL_UNIT_HEADER_BITS",
117    "CABAC_INITIALISATION-and-rounding",
118    "CABAC_BITS__TQ_BYPASS_FLAG",
119    "CABAC_BITS__SKIP_FLAG",
120    "CABAC_BITS__MERGE_FLAG",
121    "CABAC_BITS__MERGE_INDEX",
122    "CABAC_BITS__MVP_IDX",
123    "CABAC_BITS__SPLIT_FLAG",
124    "CABAC_BITS__PART_SIZE",
125    "CABAC_BITS__PRED_MODE",
126    "CABAC_BITS__INTRA_DIR_ANG",
127    "CABAC_BITS__INTER_DIR",
128    "CABAC_BITS__REF_FRM_IDX",
129    "CABAC_BITS__MVD",
130    "CABAC_BITS__MVD_EP",
131    "CABAC_BITS__TRANSFORM_SUBDIV_FLAG",
132    "CABAC_BITS__QT_ROOT_CBF",
133    "CABAC_BITS__DELTA_QP_EP",
134    "CABAC_BITS__CHROMA_QP_ADJUSTMENT",
135    "CABAC_BITS__QT_CBF",
136    "CABAC_BITS__CROSS_COMPONENT_PREDICTION",
137    "CABAC_BITS__TRANSFORM_SKIP_FLAGS",
138    "CABAC_BITS__LAST_SIG_X_Y",
139    "CABAC_BITS__SIG_COEFF_GROUP_FLAG",
140    "CABAC_BITS__SIG_COEFF_MAP_FLAG",
141    "CABAC_BITS__GT1_FLAG",
142    "CABAC_BITS__GT2_FLAG",
143    "CABAC_BITS__SIGN_BIT",
144    "CABAC_BITS__ESCAPE_BITS",
145    "CABAC_BITS__SAO",
146    "CABAC_TRM_BITS",
147    "CABAC_FIXED_BITS",
148    "CABAC_PCM_ALIGN_BITS",
149    "CABAC_PCM_CODE_BITS",
150    "BYTE_ALIGNMENT_BITS",
151    "TRAILING_BITS",
152    "EXPLICIT_RDPCM_BITS",
153    "CABAC_EP_BIT_ALIGNMENT",
154    "CABAC_BITS__ALIGNED_SIGN_BIT",
155    "CABAC_BITS__ALIGNED_ESCAPE_BITS"
156#if NH_3D_DMM || NH_3D_SDC_INTRA || H_3D_INTER_SDC
157   ,"STATS__CABAC_BITS__DELTADC_SIGN_EP"
158   ,"STATS__CABAC_BITS__DELTADC_PREFIX"
159   ,"STATS__CABAC_BITS__DELTADC_SUFFIX_EP"
160#endif
161#if NH_3D_DMM
162   ,"STATS__CABAC_BITS__NOTDMM_FLAG"
163   ,"STATS__CABAC_BITS__DMMMODE"
164   ,"STATS__CABAC_BITS__DMM1_BITS_EP"
165#endif
166  };
167  assert(STATS__NUM_STATS == sizeof(statNames)/sizeof(Char *) && name < STATS__NUM_STATS);
168  return statNames[name];
169}
170
171static inline Bool isAlignedBins(TComCodingStatisticsType statT) { return statT==STATS__CABAC_BITS__ALIGNED_SIGN_BIT || statT==STATS__CABAC_BITS__ALIGNED_ESCAPE_BITS; }
172
173static const UInt CODING_STATS_NUM_WIDTHS=7;
174static const UInt CODING_STATS_NUM_SUBCLASSES=CODING_STATS_NUM_WIDTHS*(1+MAX_NUM_COMPONENT+MAX_NUM_CHANNEL_TYPE);
175
176class TComCodingStatisticsClassType
177{
178public:
179
180  TComCodingStatisticsClassType(const TComCodingStatisticsType t)
181    : type(t), subClass(0)
182  { }
183  TComCodingStatisticsClassType(const TComCodingStatisticsType t, const UInt log2w )
184    : type(t), subClass(log2w)
185  { }
186  TComCodingStatisticsClassType(const TComCodingStatisticsType t, const Int log2w )
187    : type(t), subClass(log2w)
188  { }
189  TComCodingStatisticsClassType(const TComCodingStatisticsType t, const ComponentID cid )
190    : type(t), subClass((cid+1)*CODING_STATS_NUM_WIDTHS)
191  { }
192  TComCodingStatisticsClassType(const TComCodingStatisticsType t, const ChannelType chid )
193    : type(t), subClass((chid+MAX_NUM_COMPONENT+1)*CODING_STATS_NUM_WIDTHS)
194  { }
195  TComCodingStatisticsClassType(const TComCodingStatisticsType t, const UInt log2w, const ComponentID cid )
196    : type(t), subClass((cid+1)*CODING_STATS_NUM_WIDTHS + log2w)
197  { }
198  TComCodingStatisticsClassType(const TComCodingStatisticsType t, const UInt log2w, const ChannelType chid )
199    : type(t), subClass((chid+MAX_NUM_COMPONENT+1)*CODING_STATS_NUM_WIDTHS + log2w)
200  { }
201
202  static UInt GetSubClassWidth(const UInt subClass)
203  {
204    return subClass%CODING_STATS_NUM_WIDTHS;
205  }
206
207  static const Char *GetSubClassString(const UInt subClass)
208  {
209    assert (subClass<CODING_STATS_NUM_SUBCLASSES);
210    static const Char *strings[1+MAX_NUM_COMPONENT+MAX_NUM_CHANNEL_TYPE]={"-", "Y", "Cb", "Cr", "Luma", "Chroma"};
211    return strings[subClass/CODING_STATS_NUM_WIDTHS];
212  }
213
214  TComCodingStatisticsType type;
215  UInt subClass;
216};
217
218
219
220class TComCodingStatistics
221{
222  public:
223
224
225    struct StatLogValue
226    {
227      UInt values[512+1];
228      StatLogValue()
229      {
230        const Double es=Double(TCOMCODINGSTATISTICS_ENTROPYSCALE);
231        values[0]=0;
232        for(UInt i=1; i<sizeof(values)/sizeof(UInt); i++)
233        {
234          values[i]=UInt(    log(Double(i))*es/log(2.0)  );
235        }
236      }
237    };
238
239    struct SStat
240    {
241      SStat() : bits(0), count(0), sum(0) { }
242      Int64 bits;
243      Int64 count;
244      Int64 sum;
245      Void clear() { bits=0; count=0; sum=0; }
246
247      SStat &operator+=(const SStat &src)
248      { bits+=src.bits; count+=src.count; sum+=src.sum; return *this; }
249    };
250
251    class TComCodingStatisticsData
252    {
253      private:
254        SStat statistics[STATS__NUM_STATS+1][CODING_STATS_NUM_SUBCLASSES];
255        SStat statistics_ep[STATS__NUM_STATS+1][CODING_STATS_NUM_SUBCLASSES ];
256        std::map<std::string, SStat> mappings_ep;
257        friend class TComCodingStatistics;
258    };
259
260  private:
261
262    TComCodingStatisticsData data;
263
264    TComCodingStatistics() : data()
265    { }
266
267    static Void OutputLine(const Char *pName, const Char sep, UInt width, const Char *pSubClassStr, const SStat &sCABAC, const SStat &sEP)
268    {
269      if (width==0)
270      {
271        OutputLine(pName, sep, "-", pSubClassStr, sCABAC, sEP);
272      }
273      else
274      {
275        printf("%c%-45s%c  %6d %6s %12lld %12lld %12lld %12lld %12lld %12lld %12lld (%12lld)%c\n",
276          sep=='~'?'[':' ', pName, sep, 1<<width, pSubClassStr,
277              sCABAC.count, sCABAC.sum, sCABAC.bits, sEP.count, sEP.sum, sEP.bits, sCABAC.bits+sEP.bits, (sCABAC.bits+sEP.bits)/8, sep=='~'?']':' ');
278      }
279    }
280    static Void OutputLine(const Char *pName, const Char sep, const Char *pWidthString, const Char *pSubClassStr, const SStat &sCABAC, const SStat &sEP)
281    {
282      printf("%c%-45s%c  %6s %6s %12lld %12lld %12lld %12lld %12lld %12lld %12lld (%12lld)%c\n",
283          sep=='~'?'[':' ', pName, sep, pWidthString, pSubClassStr,
284              sCABAC.count, sCABAC.sum, sCABAC.bits, sEP.count, sEP.sum, sEP.bits, sCABAC.bits+sEP.bits, (sCABAC.bits+sEP.bits)/8, sep=='~'?']':' ');
285    }
286    static Void OutputLine(const Char *pName, const Char sep, const Char *pWidthString, const Char *pSubClassStr,  const SStat &sEP)
287    {
288      printf("%c%-45s%c  %6s %6s %12s %12s %12s %12lld %12lld %12lld %12lld (%12lld)%c\n",
289          sep=='~'?'[':' ', pName, sep, pWidthString, pSubClassStr,
290              "", "", "", sEP.count, sEP.sum, sEP.bits, sEP.bits, (sEP.bits)/8, sep=='~'?']':' ');
291    }
292
293    static Void OutputDashedLine(const Char *pText)
294    {
295      printf("--%s",pText);
296      UInt tot=0;
297      for(;pText[tot]!=0; tot++);
298
299      tot+=2;
300      for (; tot<168; tot++)
301      {
302        printf("-");
303      }
304      printf("\n");
305    }
306
307    ~TComCodingStatistics()
308    {
309      const Int64 es=TCOMCODINGSTATISTICS_ENTROPYSCALE;
310
311      Int64 cr=0; // CABAC remainder, which is added to "STATS__CABAC_INITIALISATION"
312      {
313        Int64 totalCABACbits=0, roundedCABACbits=0;
314        for(Int i=STATS__NAL_UNIT_PACKING; i<STATS__NUM_STATS; i++)
315        {
316          for(UInt c=0; c<CODING_STATS_NUM_SUBCLASSES; c++)
317          {
318            totalCABACbits+=data.statistics[i][c].bits;
319            roundedCABACbits+=data.statistics[i][c].bits/es;
320          }
321        }
322        Int64 remainder=totalCABACbits - roundedCABACbits*es;
323        cr=(remainder+es/2)/es;
324      }
325
326      printf("Note %s will be excluded from the total as it should be the sum of all the other entries (except for %s)\n", getName(STATS__NAL_UNIT_TOTAL_BODY), getName(STATS__NAL_UNIT_PACKING));
327      printf(" %-45s-   Width   Type  CABAC Count    CABAC Sum   CABAC bits     EP Count       EP Sum      EP bits   Total bits ( Total bytes)\n", "Decoder statistics");
328
329      OutputDashedLine("");
330      SStat cabacTotalBits, epTotalBits;
331      SStat statTotals_cabac[CODING_STATS_NUM_SUBCLASSES];
332      SStat statTotals_ep[CODING_STATS_NUM_SUBCLASSES];
333
334      for(Int i=0; i<STATS__NUM_STATS; i++)
335      {
336        SStat cabacSubTotal, epSubTotal;
337        Bool bHadClassifiedEntry=false;
338        const Char *pName=getName(TComCodingStatisticsType(i));
339
340        for(UInt c=0; c<CODING_STATS_NUM_SUBCLASSES; c++)
341        {
342          SStat &sCABACorig=data.statistics[i][c];
343          SStat &sEP=data.statistics_ep[i][c];
344
345          if (sCABACorig.bits==0 && sEP.bits==0)
346          {
347            continue;
348          }
349
350          SStat sCABAC;
351          {
352            Int64 thisCABACbits=sCABACorig.bits/es;
353            if (i==STATS__CABAC_INITIALISATION && sCABACorig.bits!=0)
354            {
355              thisCABACbits+=cr;
356              cr=0;
357            }
358            sCABAC.bits=thisCABACbits;
359            sCABAC.count=sCABACorig.count;
360            sCABAC.sum=sCABACorig.sum;
361          }
362          UInt width=TComCodingStatisticsClassType::GetSubClassWidth(c);
363          OutputLine(pName, ':', width, TComCodingStatisticsClassType::GetSubClassString(c), sCABAC, sEP);
364          cabacSubTotal+=sCABAC;
365          epSubTotal+=sEP;
366          if (i!=STATS__NAL_UNIT_TOTAL_BODY)
367          {
368            cabacTotalBits+=sCABAC;
369            epTotalBits+=sEP;
370            statTotals_cabac[c]+=sCABAC;
371            statTotals_ep[c]+=sEP;
372          }
373          bHadClassifiedEntry=bHadClassifiedEntry||(c!=0);
374        }
375        if (bHadClassifiedEntry)
376        {
377          OutputLine(pName, '~', "~~ST~~", "~~ST~~", cabacSubTotal, epSubTotal);
378        }
379        if (i==STATS__NAL_UNIT_TOTAL_BODY)
380        {
381          OutputDashedLine("");
382        }
383      }
384      OutputDashedLine("");
385      OutputLine("CABAC Sub-total", '~', "~~ST~~", "~~ST~~", cabacTotalBits, epTotalBits);
386
387      OutputDashedLine("CAVLC HEADER BITS");
388      SStat cavlcTotalBits;
389      for(std::map<std::string, SStat>::iterator it=data.mappings_ep.begin(); it!=data.mappings_ep.end(); it++)
390      {
391        SStat s=it->second;
392        cavlcTotalBits+=s;
393        OutputLine(it->first.c_str(), ':', "-", "-", s);
394      }
395
396      OutputDashedLine("");
397      OutputLine("CAVLC Header Sub-total", '~', "~~ST~~", "~~ST~~", cavlcTotalBits);
398
399      // Now output the breakdowns
400      OutputDashedLine("CABAC Break down by size");
401      for(UInt s=0; s<CODING_STATS_NUM_WIDTHS; s++)
402      {
403        SStat subTotalCabac, subTotalEP;
404        for(UInt c=0; c<CODING_STATS_NUM_SUBCLASSES; c+=CODING_STATS_NUM_WIDTHS)
405        {
406          subTotalCabac+=statTotals_cabac[c+s];
407          subTotalEP+=statTotals_ep[c+s];
408        }
409        if (subTotalCabac.bits!=0 || subTotalEP.bits!=0)
410        {
411          OutputLine("CABAC by size Sub-total", '=', s, "All", subTotalCabac, subTotalEP);
412        }
413      }
414      OutputDashedLine("Break down by component/Channel type");
415      for(UInt c=0; c<CODING_STATS_NUM_SUBCLASSES; c+=CODING_STATS_NUM_WIDTHS)
416      {
417        SStat subTotalCabac, subTotalEP;
418        for(UInt s=0; s<CODING_STATS_NUM_WIDTHS; s++)
419        {
420          subTotalCabac+=statTotals_cabac[c+s];
421          subTotalEP+=statTotals_ep[c+s];
422        }
423        if (subTotalCabac.bits!=0 || subTotalEP.bits!=0)
424        {
425          OutputLine("CABAC by type Sub-total", '=', "-", TComCodingStatisticsClassType::GetSubClassString(c), subTotalCabac, subTotalEP);
426        }
427      }
428      OutputDashedLine("Break down by size and component/Channel type");
429      for(UInt c=0; c<CODING_STATS_NUM_SUBCLASSES; c+=CODING_STATS_NUM_WIDTHS)
430      {
431        for(UInt s=0; s<CODING_STATS_NUM_WIDTHS; s++)
432        {
433          SStat subTotalCabac, subTotalEP;
434          subTotalCabac+=statTotals_cabac[c+s];
435          subTotalEP+=statTotals_ep[c+s];
436          if (subTotalCabac.bits!=0 || subTotalEP.bits!=0)
437          {
438            OutputLine("CABAC by size and type Sub-total", '=', s, TComCodingStatisticsClassType::GetSubClassString(c), subTotalCabac, subTotalEP);
439          }
440        }
441      }
442
443      OutputDashedLine("");
444      OutputLine("CABAC Sub-total", '~', "~~ST~~", "~~ST~~", cabacTotalBits, epTotalBits);
445      OutputLine("CAVLC Header Sub-total", '~', "~~ST~~", "~~ST~~", cavlcTotalBits);
446      OutputDashedLine("GRAND TOTAL");
447      epTotalBits+=cavlcTotalBits;
448      OutputLine("TOTAL", '~', "~~GT~~", "~~GT~~", cabacTotalBits, epTotalBits);
449    }
450
451
452  public:
453    static TComCodingStatistics& GetSingletonInstance()
454    {
455      static TComCodingStatistics inst;
456      return inst;
457    }
458
459    static const TComCodingStatisticsData &GetStatistics()         { return GetSingletonInstance().data; }
460    static Void SetStatistics(const TComCodingStatisticsData &src) { GetSingletonInstance().data=src; }
461
462    static SStat &GetStatisticEP(const TComCodingStatisticsClassType &stat) { return GetSingletonInstance().data.statistics_ep[stat.type][stat.subClass]; }
463
464    static SStat &GetStatisticEP(const std::string &str) { return GetSingletonInstance().data.mappings_ep[str]; }
465
466    static SStat &GetStatisticEP(const Char *pKey) {return GetStatisticEP(std::string(pKey)); }
467
468    static Void IncrementStatisticEP(const TComCodingStatisticsClassType &stat, const Int numBits, const Int value)
469    {
470      SStat &s=GetStatisticEP(stat);
471      s.bits+=numBits;
472      s.count++;
473      s.sum+=value;
474    }
475
476    static Void IncrementStatisticEP(const std::string &str, const Int numBits, const Int value)
477    {
478      SStat &s=GetStatisticEP(str);
479      s.bits+=numBits;
480      s.count++;
481      s.sum+=value;
482    }
483
484    static Void IncrementStatisticEP(const Char *pKey, const Int numBits, const Int value)
485    {
486      SStat &s=GetStatisticEP(pKey);
487      s.bits+=numBits;
488      s.count++;
489      s.sum+=value;
490    }
491
492    StatLogValue values;
493
494    static Void UpdateCABACStat(const TComCodingStatisticsClassType &stat, UInt uiRangeBefore, UInt uiRangeAfter, Int val)
495    {
496      TComCodingStatistics &inst=GetSingletonInstance();
497      // doing rangeBefore*p(x)=rangeAfter
498      // p(x)=rangeAfter/rangeBefore
499      // entropy = -log2(p(x))=-log(p(x))/log(2) = -(log rangeAfter - log rangeBefore) / log(2) = (log rangeBefore / log 2 - log rangeAfter / log 2)
500      SStat &s=inst.data.statistics[stat.type][stat.subClass];
501      s.bits+=inst.values.values[uiRangeBefore]-inst.values.values[uiRangeAfter];
502      s.count++;
503      s.sum+=val;
504    }
505};
506
507#endif
Note: See TracBrowser for help on using the repository browser.