Фильтр Блума

Фильтр Блума (англ. Bloom filter) — это вероятностная структура данных, придуманная Бёртоном Блумом в 1970 году^[1], позволяющая компактно хранить множество элементов и проверять принадлежность заданного элемента к множеству. При этом существует возможность получить ложноположительное срабатывание (элемента в множестве нет, но структура данных сообщает, что он есть), но не ложноотрицательное.

Фильтр Блума может использовать любой объём памяти, заранее заданный пользователем, причем чем он больше, тем меньше вероятность ложного срабатывания. Поддерживается операция добавления новых элементов в множество, но не удаления существующих (если только не используется модификация со счётчиками).

Описание структуры данных

Пример фильтра Блума с $m=18$ и $k=3$, хранящего множество {x, y, z}. Цветные стрелки указывают на места в битовом массиве, соответствующие каждому элементу множества. Этот фильтр Блума может определить, что элемент w не входит в множество, так как один из соответствующих ему битов равен нулю.

Фильтр Блума представляет собой битовый массив из m бит. Изначально, когда структура данных хранит пустое множество, все m бит обнулены. Пользователь должен определить k независимых хеш-функций h₁, …, h_k, отображающих каждый элемент в одну из m позиций битового массива достаточно равномерным образом.

Для добавления элемента e необходимо записать единицы на каждую из позиций h₁(e), …, h_k(e) битового массива.

Для проверки принадлежности элемента e к множеству хранимых элементов, необходимо проверить состояние битов h₁(e), …, h_k(e). Если хотя бы один из них равен нулю, элемент не может принадлежать множеству (иначе бы при его добавлении все эти биты были установлены). Если все они равны единице, то структура данных сообщает, что е принадлежит множеству. При этом может возникнуть две ситуации: либо элемент действительно принадлежит к множеству, либо все эти биты оказались установлены по случайности при добавлении других элементов, что и является источником ложных срабатываний в этой структуре данных.

Вероятность ложноположительного срабатывания

Оценка вероятности ложного срабатывания p как функция от числа вставленных элементов n и размера битового массива m, при оптимальном числе хеш-функций: $k=(m/n)\ln 2$.

Пусть размер битового массива равен m бит и задано k хеш-функций. Предположим, что множество хеш-функций выбирается случайно, и для любого элемента x каждая хеш-функция h_i назначает ему одно из мест в битовом массиве с равной вероятностью:

$\Pr(h_i(x) = k) = \frac{1}{m},\quad k=1..m,$

и, кроме того, значения $h_i(x)$ являются независимыми в совокупности случайными величинами (для упрощения последующего анализа).

Тогда вероятность того, что в некоторый p-й бит не будет записана единица во время операции вставки очередного элемента равна:

$\Pr(h_1(x) \ne p \cap \ldots \cap h_k(x) \ne p) = \Pr(h_i(x) \ne p)^k = \left(1 - \frac{1}{m}\right)^k$

А вероятность того, что p-й бит останется равным нулю после вставки n различных элементов x₁, …, x_n в изначально пустой фильтр Блума равна:

$\Pr(\forall i \in 1..n \ \forall j \in 1..m \ h_j(x_i) \ne p) = \left(1 - \frac{1}{m}\right)^{kn} \approx e^{-kn/m}$

для достаточно большого m ввиду второго замечательного предела.

Ложноположительное срабатывание состоит в том, что для некоторого элемента y, не равного ни одному из вставленных, все k бит с номерами h_i(y) окажутся ненулевыми, и фильтр Блума ошибочно ответит, что y входит во множество вставленных элементов. Вероятность такого события примерно равна:

$\! (1 - e^{-kn/m})^k$

Очевидно, что эта вероятность уменьшается с ростом m (размера битового массива), и увеличивается с ростом n (числа вставленных элементов). Для фиксированных m и n, оптимальное число k (число хеш-функций), минимизирующих её, равно:

$\textstyle k = \frac{m}{n}\ln 2 \approx 0.6931 \frac{m}{n},$

При этом сама вероятность ложного срабатывания равна:

$2^{-k} \approx {0.6185}^{m/n}.$

Как следствие, заметим, что для того, чтобы фильтр Блума поддерживал заданную ограниченную вероятность ложного срабатывания, размер битового массива должен быть линейно-пропорционален числу вставленных элементов.

Свойства

• В отличие от многих других структур данных (например, хеш-таблиц), также хранящих множество элементов, фильтр Блума может представлять универсальное множество всех возможных элементов. В этом случае все биты в его битовом массиве равны единице.

• Объединение и пересечение двух фильтров Блума одинакового размера и c одинаковым множеством хеш-функций может быть реализовано побитовыми операциями OR и AND над их битовыми массивами.

Применение

По сравнению с хеш-таблицами, фильтр Блума может обходиться на несколько порядков меньшими объёмами памяти, жертвуя детерминизмом. Обычно он используется для уменьшения числа запросов к несуществующим данным в структуре данных с более дорогостоящим доступом (например, расположенной на жестком диске или в сетевой базе данных), то есть для «фильтрации» запросов к ней.

Примеры практических применений:

• Прокси-сервер Squid использует фильтры Блума для опции cache digests.
• Google BigTable использует фильтры Блума для уменьшения числа обращений к жесткому диску при проверке на существование заданной строки или столбца в таблице базы данных.^[2]
• Компьютерные программы для проверки орфографии.

Примечания

1. ↑ Bloom, Burton H. (1970), "«Space/time trade-offs in hash coding with allowable errors»", Communications of the ACM Т. 13 (7): 422–426, DOI 10.1145/362686.362692 
2. ↑ Bigtable: A Distributed Storage System for Structured Data