crc32

探究CRC32算法实现原理-why table-driven implemention

Author : Kevin Lynx
email  : [e-mail]

Preface

基于不重造轮子的原则，本文尽量不涉及网络上遍地都是的资料。

What's CRC ?

简而言之，CRC是一个数值。该数值被用于校验数据的正确性。CRC数值简单地说就是通过让你需要做
处理的数据除以一个常数而得到的余数。当你得到这个数值后你可以将这个数值附加到你的数据后，
当数据被传送到其他地方后，取出原始数据(可能在传送过程中被破坏)与附加的CRC数值，然后将这里
的原始数据除以之前那个常数(约定好的)然后得到新的CRC值。比较两个CRC值是否相等即可确认你的
数据是否在传送过程中出现错误。

那么，如何让你的数据除以一个常数？方法是对你的数据进行必要的编码处理，逐字节处理成数字。
那么这个常数是什么？你不必关注它是什么，也不需要关注它是如何获得的。当你真的要动手写一个
CRC的实现算法时，我可以告诉你，CRC的理论学家会告诉你。不同长度的常数对应着不同的CRC实现算法。
当这个常数为32位时，也就是这里所说的CRC32。

以上内容你不必全部理解，因为你需要查阅其他资料来获取CRC完整的理论介绍。

The mathematics behind CRC ?

很多教科书会把CRC与多项式关联起来。这里的多项式指的是系数为0或1的式子，例如：
a0 + a1*x + a2*x^2 + ... + an*x^n。其中a0, a1, ..., an要么为0要么为1。我们并不关注x取什么值。
(如果你要关注，你可以简单地认为x为2) 这里把a0, a1, ..., an的值取出来排列起来，就可以表示比特
流。例如 1 + x + x^3所表示的比特流就为：1101。部分资料会将这个顺序颠倒，这个很正常。

什么是生成多项式？

所谓的生成多项式，就是上面我所说的常数。注意，在这里，一个多项式就表示了一个比特流，也就是一堆
1、0，组合起来最终就是一个数值。例如CRC32算法中，这个生成多项式为：
c(x) = 1 + x + x^2 + x^4 + x^5 + x^7 + x^8 + x^10 + x^11 + x^12 + x^16 + x^22 + x^23 + x^26 + x^32。
其对应的数字就为：11101101101110001000001100100000(x^32在实际计算时隐含给出，因此这里没有包含它
的系数)，也就是0xEDB88320(多项式对应的数字可能颠倒，颠倒后得到的是0x04C11DB7，其实也是正确的)。

由此可以看出，CRC值也可以看成我们的数据除以一个生成多项式而得到的余数。

如何做这个除法？

套用大部分教科书给出的计算方法，因为任何数据都可以被处理成纯数字，因此，在某种程度上说，我们可以
直接开始这个除法。尽管事实上这并不是标准的除法。例如，我们的数据为1101011011(方便起见我直接给二进制
表示了，从这里也可以看出，CRC是按bit进行计算的)，给定的生成多项式(对应的值)为10011。通常的教科书
会告诉我们在进行这个除法前，会把我们的数据左移几位(生成多项式位数-1位)，从而可以容纳将来计算得到
的CRC值(我上面所说的将CRC值附加到原始数据后)。但是为什么要这样做？我也不知道。(不知道的东西不能含糊
而过)那么，除法就为：
            1100001010
       _______________
10011 ) 11010110110000 附加了几个零的新数据
        10011......... 这里的减法(希望你不至于忘掉小学算术)是一个异或操作
        -----.........
         10011........
         10011........
         -----........
          00001....... 逐bit计算
          00000.......
          -----.......
           00010......
           00000......
           -----......
            00101.....
            00000.....
            -----.....
             01011....
             00000....
             -----....
              10110...
              10011...
              -----...
               01010..
               00000..
               -----..
                10100.
                10011.
                -----.
                 01110
                 00000
                 -----
                  1110 = 这个余数也就是所谓的CRC值，通常又被称为校验值。

希望进行到这里，你可以获取更多关于CRC的感性认识。而我们所要做的，也就是实现一个CRC的计算算法。
说白了，就是提供一个程序，给定一段数据，以及一个生成多项式(对于CRC32算法而言该值固定)，然后
计算得出上面的1110余数。

The simplest algorithm.

最简单的实现算法，是一种模拟算法。我们模拟上面的除法过程，遵从网上一份比较全面的资料，我们设定
一个变量register。我们逐bit地将我们的数据放到register中。然后判断register最高位是否为1，如果是
则与生成多项式异或操作，否则继续处理。这个过程简单地模拟了上述除法过程：

 

2. /// The simplest CRC implement algorithm.
3. ///
4. /**//*
5.    Load the register with zero bits.
6.    Augment the message by appending W zero bits to the end of it.
7.    While (more message bits)
8.       Begin
9.       Shift the register left by one bit, reading the next bit of the
10.          augmented message into register bit position 0.
11.       If (a 1 bit popped out of the register during step 3)
12.          Register = Register XOR Poly.
13.       End
14.    The register now contains the remainder.
15. */
17. #include <stdio.h>
19. #define POLY 0x13
21. int main()
22. {
23.  /**//// the data 
24.  unsigned short data = 0x035b;
25.  /**//// load the register with zero bits
26.  unsigned short regi = 0x0000;
27.  /**//// augment the data by appending W(4) zero bits to the end of it.
28.  data <<= 4;
30.  /**//// we do it bit after bit
31.  for( int cur_bit = 15; cur_bit >= 0; -- cur_bit )
32.  {
33.   /**//// test the highest bit which will be poped later.
34.   /// in fact, the 5th bit from right is the hightest bit here
35.   if( ( ( regi >> 4 ) & 0x0001 ) == 0x1 )
36.   {
37.    regi = regi ^ POLY;
38.   }
39.   /**//// shift the register
40.   regi <<= 1;
41.   /**//// reading the next bit of the augmented data
42.   unsigned short tmp = ( data >> cur_bit ) & 0x0001;
43.   regi |= tmp;
45.  }
47.  /**//// and now, register contains the remainder which is also called CRC value.
49.  return 0;
50. }

better algorithm ?

很多时候这种让人容易理解的算法都不会被实际用到。这种逐bit操作的算法实在很慢。你可能知道
一般的CRC32算法都是一种基于表(table-driven)的算法。但是你可能不知道这个表是如何来的。

一种改善这种bit after bit的方法就是将这个bit扩大，例如典型的做法就是换成byte。这里我要详细地叙述下
上面那种算法的过程：

我们每次会先检查register的最高位是否为1，如果为1，则将生成多项式(所谓的Poly)与register进行异或操作。
然后，将register左移一位，也就舍弃了最高位。然后将我们的数据拿一bit出来放到register的最低位。

也就是说，register中的某一位的值会决定后面几位的值。如果将register最高字节每一bit编码为：
t7 t6 t5 t4 t3 t2 t1 t0。那么，t7会决定t6-t0的值(如果为1)，t6会决定t5-t0的值，依次类推。但是，无论谁
决定谁的值，当上面那个算法迭代一个字节后(8bits)，t7-t0都会被丢弃(whatever you do)。唯一留下来的东西，
就是对这个字节以后字节的影响。

那么，如果我们可以直接获取这个影响，我们就可以byte after byte地处理，而不是bit after bit。如何获取这个
影响呢？这个影响又是什么呢？这个影响就对应着我们的table-driven CRC算法中的表元素！

但是，为什么我们逐bit进行计算的过程为什么可以简化为一步操作？事实上，我们没有简化这个操作。一种用于教学
的算法，是实时地计算这个影响值：

 

1. ///
2. /// The table-driven CRC implement algorithm part 1.
3. ///
4. /**//*
5.   While (augmented message is not exhausted)
6.       Begin
7.       Examine the top byte of the register
8.       Calculate the control byte from the top byte of the register
9.       Sum all the Polys at various offsets that are to be XORed into
10.          the register in accordance with the control byte
11.       Shift the register left by one byte, reading a new message byte
12.          into the rightmost byte of the register
13.       XOR the summed polys to the register
14.       End
15. */
17. #include <stdio.h>
18. #include <stdlib.h>
19. #include <memory.h>
21. #define POLY 0x04C11DB7L
23. int main()
24. {
25.  /**//// the data 
26.  unsigned long data = 0x1011035b;
27.  /**//// load the register with the data
28.  unsigned long regi = 0;
29.  /**//// allocate memory to contain the AUGMENTED data (added some zeros)
30.  unsigned char p[8];
31.  /**//// copy data
32.  memset( p, 0, 8 );
33.  memcpy( p, &data, 4 );
35.  /**//// because data contains 4 bytes
36.  for( int i = 0; i < 8; ++ i )
37.  {
38.   /**//// get the top byte of the register
39.   unsigned char top_byte = (unsigned char)( ( regi >> 24 ) & 0xff );
40.   /**//// sum all the polys at various offsets 
41.   unsigned long sum_poly = top_byte << 24;
42.   for( int j = 0; j < 8; ++ j )
43.   {
44.    /**//// check the top bit
45.    if( ( sum_poly >> 31 ) != 0 )
46.    {
47.     /**//// TODO : understand why '<<' first
48.     sum_poly = ( sum_poly << 1 ) ^ POLY;
49.    }
50.    else
51.    {
52.     sum_poly <<= 1;
53.    }
54.   }
55.   /**//// shift the register left by on byte, reading a new 
56.   regi = ( ( regi << 8 ) | p[i] );
57.   /**//// xor the summed polys to the register
58.   regi ^= sum_poly;
59.  }
61.  /**//// and now, register contains the remainder which is also called CRC value.
63.  return 0;
64. }

其中：

  

1. /// sum all the polys at various offsets 
2.   unsigned long sum_poly = top_byte << 24;
3.   for( int j = 0; j < 8; ++ j )
4.   {
5.    /**//// check the top bit
6.    if( ( sum_poly >> 31 ) != 0 )
7.    {
8.     /**//// TODO : understand why '<<' first
9.     sum_poly = ( sum_poly << 1 ) ^ POLY;
10.    }
11.    else
12.    {
13.     sum_poly <<= 1;
14.    }
15.   }

就是用于计算这个影响值的。事实上，table-driven CRC算法中的那个表就是通过这段代码生成的(排除其他一些细节)。
你可能并不是很理解，这里我建议你忽略各种细节(更多的细节见参考资料)。你所需要知道的是，我们将8次逐bit的操
作合并到了一次byte操作中。而这个byte操作，就是8次bit操作的合操作(上面提到的影响值)。这个byte操作其实就是
一个数值，也就是table-driven CRC算法中那个表的一个元素。不同序列的bit操作其实对应着不同的unsigned char
值，因此那个table有256个元素。

show me where the table is :

如上所说，上面的算法很容易地就可以引进一个表：

进一步简化：

上述算法一个典型特征是会在我们的数据后面添加若干0。这样做其他做了很多没用的计算。一种简化做法就是将这些
没用的计算合并到其他计算中。其实这都是一些位操作的技巧：

 

1. **////
2. /// The table-driven CRC implement algorithm part 2.
3. ///
4. /**//*
5.   While (augmented message is not exhausted)
6.       Begin
7.       Examine the top byte of the register
8.       Calculate the control byte from the top byte of the register
9.       Sum all the Polys at various offsets that are to be XORed into
10.          the register in accordance with the control byte
11.       Shift the register left by one byte, reading a new message byte
12.          into the rightmost byte of the register
13.       XOR the summed polys to the register
14.       End
15. */
17. #include <stdio.h>
18. #include <stdlib.h>
19. #include <memory.h>
21. #define POLY 0x04C11DB7L
23. unsigned long get_sum_poly( unsigned char top_byte )
24. {
25.  /**//// sum all the polys at various offsets 
26.  unsigned long sum_poly = top_byte << 24;
27.  for( int j = 0; j < 8; ++ j )
28.  {
29.   /**//// check the top bit
30.   if( ( sum_poly >> 31 ) != 0 )
31.   {
32.    /**//// TODO : understand why '<<' first
33.    sum_poly = ( sum_poly << 1 ) ^ POLY;
34.   }
35.   else
36.   {
37.    sum_poly <<= 1;
38.   }
39.  }
41.  return sum_poly;
42. }
44. void create_table( unsigned long *table )
45. {
46.  for( int i = 0; i < 256; ++ i )
47.  {
48.   table[i] = get_sum_poly( (unsigned char) i );
49.  }
50. }
52. int main()
53. {
54.  /**//// the data 
55.  unsigned long data = 0x1011035b;
56.  /**//// load the register with the data
57.  unsigned long regi = 0;
58.  /**//// allocate memory to contain the AUGMENTED data (added some zeros)
59.  unsigned char p[8];
60.  /**//// copy data
61.  memset( p, 0, 8 );
62.  memcpy( p, &data, 4 );
64.  /**//// the table
65.  unsigned long table[256];
66.  /**//// create the table
67.  create_table( table );
69.  /**//// because data contains 4 bytes
70.  for( int i = 0; i < 8; ++ i )
71.  {
72.   /**//// get the top byte of the register
73.   unsigned char top_byte = (unsigned char)( ( regi >> 24 ) & 0xff );
74.   /**//// shift the register left by on byte, reading a new 
75.   regi = ( ( regi << 8 ) | p[i] );
76.   /**//// xor the summed polys to the register
77.   regi ^= table[top_byte];
78.  }
80.  /**//// and now, register contains the remainder which is also called CRC value.
82.  return 0;
83. }

讨厌的附加0

以上算法有个很大的特征就是要为我们的数据附加很多0。附加0后其实也附加了很多无用的操作。我们要将这些
讨厌的0去掉：

 

1. int main()
2. {
3.  /**//// the data 
4.  unsigned long data = 0x1011035b;
5.  /**//// load the register with the data
6.  unsigned long regi = 0;
7.  /**//// allocate memory to contain the data
8.  unsigned char p[4];
9.  /**//// copy data
10.  memcpy( p, &data, 4 );
12.  /**//// the table
13.  unsigned long table[256];
14.  /**//// create the table
15.  create_table( table );
17.  /**//// because data contains 4 bytes
18.  for( int i = 0; i < 4; ++ i )
19.  {
20.   regi = ( regi << 8 ) ^ table[ ( regi >> 24 ) ^ p[i] ];
21.  }
23.  /**//// and now, register contains the remainder which is also called CRC value.
25.  return 0;
26. }

关键的一句regi = ( regi << 8 ) ^ table[ ( regi >> 24 ) ^ p[i] ]; 简化了很多没用的操作。

In practice :

似乎一切被我说的很简单。我想只是因为我没说清楚。我尽量让你注意到事情的重点。我们进行到这里，似乎
我们立马就可以写出自己的CRC32算法并用于实践。但是你很快就会发现，事情并不如你想像的那么简单。

在实际处理时，很多数据的bit会进行一种颠倒操作，例如1010会被颠倒为0101。出现这样的情况是因为某些硬件
在实现CRC算法时，采用了这种(丑陋的)习惯。有些软件实现CRC算法时，也延用了这个习惯。

另外，关于register的初始值问题，有些CRC算法会初始化为0xffffffff。以下给出一个会进行bit颠倒的算法，
该算法可以直接输出table-driven中的表：

 

 

1. **////
2. /// The table-driven CRC implement algorithm part 4.
3. ///
4. /// Donot need augment W/8 zero bytes.
5. ///
6. #include <stdio.h>
7. #include <stdlib.h>
8. #include <memory.h>
10. #define POLY 0x04C11DB7L
12. #define BITMASK(X) (1L << (X))
14. unsigned long refelect( unsigned long v, int b )
15. {
16.  int   i;
17.  unsigned long  t = v;
18.  for( i = 0; i < b; ++ i )
19.  {
20.   if( t & 1L )
21.    v |=  BITMASK( (b-1)-i );
22.   else
23.    v &= ~BITMASK( (b-1)-i );
24.   t >>= 1;
25.  }
27.  return v;
28. }
30. /**//// i'll try to write a correct algorithm
31. unsigned long get_sum_poly( unsigned char byte )
32. {
33.  byte = (unsigned long) refelect( byte, 8 );
34.  unsigned long sum_poly = byte << 24;
36.  for( int i = 0; i < 8; ++ i )
37.  {
38.   /**//// check the top bit
39.   if( ( sum_poly >> 31 ) != 0 )
40.   {
41.    /**//// TODO : understand why '<<' first
42.    sum_poly = ( sum_poly << 1 ) ^ POLY;
43.   }
44.   else
45.   {
46.    sum_poly <<= 1;
47.   }
48.  }
50.  sum_poly = refelect( sum_poly, 32 );
51.  return sum_poly;
52. }
54. void create_table( unsigned long *table )
55. {
56.  for( int i = 0; i <= 255; ++ i )
57.  {
58.   table[i] = get_sum_poly( (unsigned char) i );
59.  }
60. }
62. void output_table( const unsigned long *table )
63. {
64.  FILE *fp = fopen( "table.txt", "w" );
66.  for( int y = 0; y < 64; ++ y )
67.  {
68.   fprintf( fp, "0x%08lXL,/t0x%08lXL,/t0x%08lXL,/t0x%08lXL, /n", 
69.    table[ y * 4 + 0], 
70.    table[ y * 4 + 1], 
71.    table[ y * 4 + 2], 
72.    table[ y * 4 + 3] );
73.  }
75.  fclose( fp );
76. }
78. int main()
79. {
80.  /**//// the table
81.  unsigned long table[256];
82.  /**//// the data 
83.  unsigned long data = 0x1011035b;
84.  /**//// load the register with the data
85.  unsigned long regi = 0;
86.  /**//// allocate memory to contain the data
87.  unsigned char p[4];
88.  /**//// copy data
89.  memcpy( p, &data, 4 );
90.  /**//// create the table
91.  create_table( table );
92.  /**//// output the table
93.  output_table( table );
95.  /**//// because data contains 4 bytes
96.  for( int i = 0; i < 4; ++ i )
97.  {
98.   regi = ( regi << 8 ) ^ table[ ( regi >> 24 ) ^ p[i] ];
99.  }
101.  /**//// and now, register contains the remainder which is also called CRC value.
103.  return 0;
104. }

Please FORGIVE me

我想我并没有将整个过程彻底地讲清楚。但是我希望你能明白大致的原理。关于table-driven中那个神奇的表的来历，
关于CRC32算法的推导过程等等之类。

本文代码下载： http://www.cppblog.com/Files/kevinlynx/CRC%20Implement.rar

参考资料：
http://www34.brinkster.com/dizzyk/math-crc.asp
http://www.greenend.org.uk/rjk/2004/crc.html
http://www.ross.net/crc/crcpaper.html