Домашняя страница › Индекса Многоязычнoго Архива › Зашифрование энтропии

Зашифрование энтропии

В теория информации зашифрование энтропии lossless уплотнений данных замышляйте независимо специфически характеристик средства.

Один из GLAVNых типов кодирвоания энтропии задает Кодих к символам для того чтобы сопрягать длины Кодего с вероятности символов. Типично, эти энтропия шифраторы использованы для того чтобы обжать данные путем заменять ть символы представленные Кодими равн-длины при символы представленные Кодими где длина каждого codeword пропорционально к недостатку логарифм вероятности. Поэтому, самые общие символы используют скоро Кодих.

Согласно Шеннон теорема кодирвоания источника, оптимальной длиной Кодего для символа будет −log_bP, где b число символов используемых для того чтобы сделать Кодих выхода и P вероятность символа входного сигнала.

2 из методов самой общей энтропии шифруя Кодирвоание Huffman и арифметическое кодирвоание. Если приблизительные характеристики энтропии потока данных известный заранее, то (специально для обжатие сигнала), более просто статическое Кодий может быть полезно. Эти статические Кодие вклюают всеобщие Кодие (such as Кодирвоание Elias gamma или Кодирвоание Fibonacci) и Кодие Golomb (such as унарное кодирвоание или Кодирвоание риса).

Энтропия как измерение сходства

Кроме использования зашифрования энтропии как дорога обжать (и losslessly взять) цифровые данные, шифратор энтропии можно также использовать для того чтобы измерить количество сходства между потоками данных. Это сделано путем производить кодер/компрессор энтропии для каждого типа данных; неизвестные данные после этого расклассифицированы путем подавать uncompressed данные к каждому компрессору и видеть который компрессор производит самое высокое обжатие. Кодер с самым лучшим обжатием будет вероятно кодером натренированным на данных были само подобно к неизвестным данным.

Внешние соединения

• On-line учебник: Теория информации, подразумеваемый, и учя алгоритмы, мимо Дэвид MacKay - дает доступное введение к теории и уплотнений данных Шеннон, включая Кодирвоание Huffman и арифметическое кодирвоание.
• Spam фильтруя использующ модели обжатия статистические данные Andrej Bratko, Гордон v. Cormack, Bogdan Filipic, R. Thomas. Lynam и Blaz Zupan, журнал исследования учить машины, cVol 7 (Dec), 2006.

Более предыдущий (вариант открытого содержания) вышеуказанной статьи был вывешен дальше PlanetMath.