r42: Moved from a plugin to a statically linked component of Cinelerra.
[cinelerra/simeon] / mpeg2enc / vlc.h
1 /* vlc.h, variable length code tables (used by routines in putvlc.c)        */
2
3 /* Copyright (C) 1996, MPEG Software Simulation Group. All Rights Reserved. */
4
5 /*
6  * Disclaimer of Warranty
7  *
8  * These software programs are available to the user without any license fee or
9  * royalty on an "as is" basis.  The MPEG Software Simulation Group disclaims
10  * any and all warranties, whether express, implied, or statuary, including any
11  * implied warranties or merchantability or of fitness for a particular
12  * purpose.  In no event shall the copyright-holder be liable for any
13  * incidental, punitive, or consequential damages of any kind whatsoever
14  * arising from the use of these programs.
15  *
16  * This disclaimer of warranty extends to the user of these programs and user's
17  * customers, employees, agents, transferees, successors, and assigns.
18  *
19  * The MPEG Software Simulation Group does not represent or warrant that the
20  * programs furnished hereunder are free of infringement of any third-party
21  * patents.
22  *
23  * Commercial implementations of MPEG-1 and MPEG-2 video, including shareware,
24  * are subject to royalty fees to patent holders.  Many of these patents are
25  * general enough such that they are unavoidable regardless of implementation
26  * design.
27  *
28  */
29
30 /* type definitions for variable length code table entries */
31
32 typedef struct
33 {
34   unsigned char code; /* right justified */
35   char len;
36 } VLCtable;
37
38 /* for codes longer than 8 bits (excluding leading zeroes) */
39 typedef struct
40 {
41   unsigned short code; /* right justified */
42   char len;
43 } sVLCtable;
44
45
46 /* data from ISO/IEC 13818-2 DIS, Annex B, variable length code tables */
47
48 /* Table B-1, variable length codes for macroblock_address_increment
49  *
50  * indexed by [macroblock_address_increment-1]
51  * 'macroblock_escape' is treated elsewhere
52  */
53
54 static VLCtable addrinctab[33]=
55 {
56   {0x01,1},  {0x03,3},  {0x02,3},  {0x03,4},
57   {0x02,4},  {0x03,5},  {0x02,5},  {0x07,7},
58   {0x06,7},  {0x0b,8},  {0x0a,8},  {0x09,8},
59   {0x08,8},  {0x07,8},  {0x06,8},  {0x17,10},
60   {0x16,10}, {0x15,10}, {0x14,10}, {0x13,10},
61   {0x12,10}, {0x23,11}, {0x22,11}, {0x21,11},
62   {0x20,11}, {0x1f,11}, {0x1e,11}, {0x1d,11},
63   {0x1c,11}, {0x1b,11}, {0x1a,11}, {0x19,11},
64   {0x18,11}
65 };
66
67
68 /* Table B-2, B-3, B-4 variable length codes for macroblock_type
69  *
70  * indexed by [macroblock_type]
71  */
72
73 static VLCtable mbtypetab[3][32]=
74 {
75  /* I */
76  {
77   {0,0}, {1,1}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0},
78   {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0},
79   {0,0}, {1,2}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0},
80   {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}
81  },
82  /* P */
83  {
84   {0,0}, {3,5}, {1,2}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0},
85   {1,3}, {0,0}, {1,1}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0},
86   {0,0}, {1,6}, {1,5}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0},
87   {0,0}, {0,0}, {2,5}, {0,0}, {0,0}, {0,0}, {0,0}, {0,0}
88  },
89  /* B */
90  {
91   {0,0}, {3,5}, {0,0}, {0,0}, {2,3}, {0,0}, {3,3}, {0,0},
92   {2,4}, {0,0}, {3,4}, {0,0}, {2,2}, {0,0}, {3,2}, {0,0},
93   {0,0}, {1,6}, {0,0}, {0,0}, {0,0}, {0,0}, {2,6}, {0,0},
94   {0,0}, {0,0}, {3,6}, {0,0}, {0,0}, {0,0}, {2,5}, {0,0}
95  }
96 };
97
98
99 /* Table B-5 ... B-8 variable length codes for macroblock_type in
100  *  scalable sequences
101  *
102  * not implemented
103  */
104
105 /* Table B-9, variable length codes for coded_block_pattern
106  *
107  * indexed by [coded_block_pattern]
108  */
109
110 static VLCtable cbptable[64]=
111 {
112   {0x01,9}, {0x0b,5}, {0x09,5}, {0x0d,6}, 
113   {0x0d,4}, {0x17,7}, {0x13,7}, {0x1f,8}, 
114   {0x0c,4}, {0x16,7}, {0x12,7}, {0x1e,8}, 
115   {0x13,5}, {0x1b,8}, {0x17,8}, {0x13,8}, 
116   {0x0b,4}, {0x15,7}, {0x11,7}, {0x1d,8}, 
117   {0x11,5}, {0x19,8}, {0x15,8}, {0x11,8}, 
118   {0x0f,6}, {0x0f,8}, {0x0d,8}, {0x03,9}, 
119   {0x0f,5}, {0x0b,8}, {0x07,8}, {0x07,9}, 
120   {0x0a,4}, {0x14,7}, {0x10,7}, {0x1c,8}, 
121   {0x0e,6}, {0x0e,8}, {0x0c,8}, {0x02,9}, 
122   {0x10,5}, {0x18,8}, {0x14,8}, {0x10,8}, 
123   {0x0e,5}, {0x0a,8}, {0x06,8}, {0x06,9}, 
124   {0x12,5}, {0x1a,8}, {0x16,8}, {0x12,8}, 
125   {0x0d,5}, {0x09,8}, {0x05,8}, {0x05,9}, 
126   {0x0c,5}, {0x08,8}, {0x04,8}, {0x04,9},
127   {0x07,3}, {0x0a,5}, {0x08,5}, {0x0c,6}
128 };
129
130
131 /* Table B-10, variable length codes for motion_code
132  *
133  * indexed by [abs(motion_code)]
134  * sign of motion_code is treated elsewhere
135  */
136
137 static VLCtable motionvectab[17]=
138 {
139   {0x01,1},  {0x01,2},  {0x01,3},  {0x01,4},
140   {0x03,6},  {0x05,7},  {0x04,7},  {0x03,7},
141   {0x0b,9},  {0x0a,9},  {0x09,9},  {0x11,10},
142   {0x10,10}, {0x0f,10}, {0x0e,10}, {0x0d,10},
143   {0x0c,10}
144 };
145
146
147 /* Table B-11, variable length codes for dmvector
148  *
149  * treated elsewhere
150  */
151
152 /* Table B-12, variable length codes for dct_dc_size_luminance
153  *
154  * indexed by [dct_dc_size_luminance]
155  */
156
157 static sVLCtable DClumtab[12]=
158 {
159   {0x0004,3}, {0x0000,2}, {0x0001,2}, {0x0005,3}, {0x0006,3}, {0x000e,4},
160   {0x001e,5}, {0x003e,6}, {0x007e,7}, {0x00fe,8}, {0x01fe,9}, {0x01ff,9}
161 };
162
163
164 /* Table B-13, variable length codes for dct_dc_size_chrominance
165  *
166  * indexed by [dct_dc_size_chrominance]
167  */
168
169 static sVLCtable DCchromtab[12]=
170 {
171   {0x0000,2}, {0x0001,2}, {0x0002,2}, {0x0006,3}, {0x000e,4}, {0x001e,5},
172   {0x003e,6}, {0x007e,7}, {0x00fe,8}, {0x01fe,9}, {0x03fe,10},{0x03ff,10}
173 };
174
175
176 /* Table B-14, DCT coefficients table zero
177  *
178  * indexed by [run][level-1]
179  * split into two tables (dct_code_tab1, dct_code_tab2) to reduce size
180  * 'first DCT coefficient' condition and 'End of Block' are treated elsewhere
181  * codes do not include s (sign bit)
182  */
183
184 static VLCtable dct_code_tab1[2][40]=
185 {
186  /* run = 0, level = 1...40 */
187  {
188   {0x03, 2}, {0x04, 4}, {0x05, 5}, {0x06, 7},
189   {0x26, 8}, {0x21, 8}, {0x0a,10}, {0x1d,12},
190   {0x18,12}, {0x13,12}, {0x10,12}, {0x1a,13},
191   {0x19,13}, {0x18,13}, {0x17,13}, {0x1f,14},
192   {0x1e,14}, {0x1d,14}, {0x1c,14}, {0x1b,14},
193   {0x1a,14}, {0x19,14}, {0x18,14}, {0x17,14},
194   {0x16,14}, {0x15,14}, {0x14,14}, {0x13,14},
195   {0x12,14}, {0x11,14}, {0x10,14}, {0x18,15},
196   {0x17,15}, {0x16,15}, {0x15,15}, {0x14,15},
197   {0x13,15}, {0x12,15}, {0x11,15}, {0x10,15}
198  },
199  /* run = 1, level = 1...18 */
200  {
201   {0x03, 3}, {0x06, 6}, {0x25, 8}, {0x0c,10},
202   {0x1b,12}, {0x16,13}, {0x15,13}, {0x1f,15},
203   {0x1e,15}, {0x1d,15}, {0x1c,15}, {0x1b,15},
204   {0x1a,15}, {0x19,15}, {0x13,16}, {0x12,16},
205   {0x11,16}, {0x10,16}, {0x00, 0}, {0x00, 0},
206   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
207   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
208   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
209   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
210   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}
211  }
212 };
213
214 static VLCtable dct_code_tab2[30][5]=
215 {
216   /* run = 2...31, level = 1...5 */
217   {{0x05, 4}, {0x04, 7}, {0x0b,10}, {0x14,12}, {0x14,13}},
218   {{0x07, 5}, {0x24, 8}, {0x1c,12}, {0x13,13}, {0x00, 0}},
219   {{0x06, 5}, {0x0f,10}, {0x12,12}, {0x00, 0}, {0x00, 0}},
220   {{0x07, 6}, {0x09,10}, {0x12,13}, {0x00, 0}, {0x00, 0}},
221   {{0x05, 6}, {0x1e,12}, {0x14,16}, {0x00, 0}, {0x00, 0}},
222   {{0x04, 6}, {0x15,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
223   {{0x07, 7}, {0x11,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
224   {{0x05, 7}, {0x11,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
225   {{0x27, 8}, {0x10,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
226   {{0x23, 8}, {0x1a,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
227   {{0x22, 8}, {0x19,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
228   {{0x20, 8}, {0x18,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
229   {{0x0e,10}, {0x17,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
230   {{0x0d,10}, {0x16,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
231   {{0x08,10}, {0x15,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
232   {{0x1f,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
233   {{0x1a,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
234   {{0x19,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
235   {{0x17,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
236   {{0x16,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
237   {{0x1f,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
238   {{0x1e,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
239   {{0x1d,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
240   {{0x1c,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
241   {{0x1b,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
242   {{0x1f,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
243   {{0x1e,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
244   {{0x1d,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
245   {{0x1c,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
246   {{0x1b,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}}
247 };
248
249
250 /* Table B-15, DCT coefficients table one
251  *
252  * indexed by [run][level-1]
253  * split into two tables (dct_code_tab1a, dct_code_tab2a) to reduce size
254  * 'End of Block' is treated elsewhere
255  * codes do not include s (sign bit)
256  */
257
258 static VLCtable dct_code_tab1a[2][40]=
259 {
260  /* run = 0, level = 1...40 */
261  {
262   {0x02, 2}, {0x06, 3}, {0x07, 4}, {0x1c, 5},
263   {0x1d, 5}, {0x05, 6}, {0x04, 6}, {0x7b, 7},
264   {0x7c, 7}, {0x23, 8}, {0x22, 8}, {0xfa, 8},
265   {0xfb, 8}, {0xfe, 8}, {0xff, 8}, {0x1f,14},
266   {0x1e,14}, {0x1d,14}, {0x1c,14}, {0x1b,14},
267   {0x1a,14}, {0x19,14}, {0x18,14}, {0x17,14},
268   {0x16,14}, {0x15,14}, {0x14,14}, {0x13,14},
269   {0x12,14}, {0x11,14}, {0x10,14}, {0x18,15},
270   {0x17,15}, {0x16,15}, {0x15,15}, {0x14,15},
271   {0x13,15}, {0x12,15}, {0x11,15}, {0x10,15}
272  },
273  /* run = 1, level = 1...18 */
274  {
275   {0x02, 3}, {0x06, 5}, {0x79, 7}, {0x27, 8},
276   {0x20, 8}, {0x16,13}, {0x15,13}, {0x1f,15},
277   {0x1e,15}, {0x1d,15}, {0x1c,15}, {0x1b,15},
278   {0x1a,15}, {0x19,15}, {0x13,16}, {0x12,16},
279   {0x11,16}, {0x10,16}, {0x00, 0}, {0x00, 0},
280   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
281   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
282   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
283   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0},
284   {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}
285  }
286 };
287
288 static VLCtable dct_code_tab2a[30][5]=
289 {
290   /* run = 2...31, level = 1...5 */
291   {{0x05, 5}, {0x07, 7}, {0xfc, 8}, {0x0c,10}, {0x14,13}},
292   {{0x07, 5}, {0x26, 8}, {0x1c,12}, {0x13,13}, {0x00, 0}},
293   {{0x06, 6}, {0xfd, 8}, {0x12,12}, {0x00, 0}, {0x00, 0}},
294   {{0x07, 6}, {0x04, 9}, {0x12,13}, {0x00, 0}, {0x00, 0}},
295   {{0x06, 7}, {0x1e,12}, {0x14,16}, {0x00, 0}, {0x00, 0}},
296   {{0x04, 7}, {0x15,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
297   {{0x05, 7}, {0x11,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
298   {{0x78, 7}, {0x11,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
299   {{0x7a, 7}, {0x10,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
300   {{0x21, 8}, {0x1a,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
301   {{0x25, 8}, {0x19,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
302   {{0x24, 8}, {0x18,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
303   {{0x05, 9}, {0x17,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
304   {{0x07, 9}, {0x16,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
305   {{0x0d,10}, {0x15,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
306   {{0x1f,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
307   {{0x1a,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
308   {{0x19,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
309   {{0x17,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
310   {{0x16,12}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
311   {{0x1f,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
312   {{0x1e,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
313   {{0x1d,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
314   {{0x1c,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
315   {{0x1b,13}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
316   {{0x1f,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
317   {{0x1e,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
318   {{0x1d,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
319   {{0x1c,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}},
320   {{0x1b,16}, {0x00, 0}, {0x00, 0}, {0x00, 0}, {0x00, 0}}
321 };