Детерминированные ГПСЧ
Никакой детерминированный алгоритм не может генерировать полностью случайные числа, он может только аппроксимировать некоторые свойства случайных чисел. Как сказал Джон фон Нейман , "всякий, кто питает слабость к арифметическим методам получения случайных чисел, грешен вне всяких сомнений ".
Любой ГПСЧ с ограниченными ресурсами рано или поздно зацикливается - начинает повторять одну и ту же последовательность чисел. Длина циклов ГПСЧ зависит от самого генератора и в среднем составляет около 2 n/2 , где n - размер внутреннего состояния в битах, хотя линейные конгруэнтные и LFSR -генераторы обладают максимальными циклами порядка 2 n . Если ГПСЧ может сходиться к слишком коротким циклам, такой ГПСЧ становится предсказуемым и является непригодным.
Большинство простых арифметических генераторов хотя и обладают большой скоростью, но страдают от многих серьёзных недостатков:
- Слишком короткий период/периоды.
- Последовательные значения не являются независимыми.
- Некоторые биты "менее случайны", чем другие.
- Неравномерное одномерное распределение.
- Обратимость.
В частности, алгоритм мейнфреймах, оказался очень плохим , что вызвало сомнения в достоверности результатов многих исследований, использовавших этот алгоритм.
ГПСЧ с источником энтропии или ГСЧ
Наравне с существующей необходимостью генерировать легко воспроизводимые последовательности случайных чисел, также существует необходимость генерировать совершенно непредсказуемые или попросту абсолютно случайные числа. Такие генераторы называются генераторами случайных чисел (ГСЧ - англ. random number generator, RNG ). Так как такие генераторы чаще всего применяются для генерации уникальных симметричных и асимметричных ключей для шифрования, они чаще всего строятся из комбинации криптостойкого ГПСЧ и внешнего источника энтропии (и именно такую комбинацию теперь и принято понимать под ГСЧ).
Почти все крупные производители микрочипов поставляют аппаратные ГСЧ с различными источниками энтропии, используя различные методы для их очистки от неизбежной предсказуемости. Однако на данный момент скорость сбора случайных чисел всеми существующими микрочипами (несколько тысяч бит в секунду) не соответствует быстродействию современных процессоров.
В персональных компьютерах авторы программных ГСЧ используют гораздо более быстрые источники энтропии, такие, как шум звуковой карты или счётчик тактов процессора . До появления возможности считывать значения счётчика тактов, сбор энтропии являлся наиболее уязвимым местом ГСЧ. Эта проблема до сих пор полностью не разрешена во многих устройствах (например, смарт-картах), которые таким образом остаются уязвимыми. Многие ГСЧ до сих пор используют традиционные (устаревшие) методы сбора энтропии вроде измерения реакции пользователя (движение мыши и т. п.), как, например, в , или взаимодействия между потоками , как, например, в Java secure random.
Примеры ГСЧ и источников энтропии
Несколько примеров ГСЧ с их источниками энтропии и генераторами:
| Источник энтропии | ГПСЧ | Достоинства | Недостатки | |
|---|---|---|---|---|
| /dev/random в Linux | Счётчик тактов процессора, однако собирается только во время аппаратных прерываний | LFSR , с хешированием выхода через | Очень долго "нагревается", может надолго "застревать", либо работает как ГПСЧ (/dev/urandom ) | |
| Yarrow от Брюса Шнайера | Традиционные (устаревшие) методы | AES -256 и | Гибкий криптостойкий дизайн | Долго "нагревается", очень маленькое внутреннее состояние, слишком сильно зависит от криптостойкости выбранных алгоритмов, медленный, применим исключительно для генерации ключей |
| Генератор Леонида Юрьева | Шум звуковой карты | ? | Скорее всего, хороший и быстрый источник энтропии | Нет независимого, заведомо криптостойкого ГПСЧ, доступен исключительно в виде Windows |
| Microsoft | Маленькое внутреннее состояние, легко предсказуем | |||
| Взаимодействие между потоками | В Java другого выбора пока нет, большое внутреннее состояние | Медленный сбор энтропии | ||
| Chaos от Ruptor | Счётчик тактов процессора, собирается непрерывно | Хеширование 4096-битового внутреннего состояния на основе нелинейного варианта Marsaglia-генератора | Пока самый быстрый из всех, большое внутреннее состояние, не "застревает" | |
| RRAND от Ruptor | Счётчик тактов процессора | Зашифровывание внутреннего состояния поточным шифром | Очень быстр, внутреннее состояние произвольного размера по выбору, не "застревает" |
ГПСЧ в криптографии
Разновидностью ГПСЧ являются ГПСБ (PRBG) - генераторы псевдо-случайных бит, а так же различных поточных шифров . ГПСЧ, как и поточные шифры, состоят из внутреннего состояния (обычно размером от 16 бит до нескольких мегабайт), функции инициализации внутреннего состояния ключом или семенем (англ. seed ), функции обновления внутреннего состояния и функции вывода. ГПСЧ подразделяются на простые арифметические, сломанные криптографические и криптостойкие . Их общее предназначение - генерация последовательностей чисел, которые невозможно отличить от случайных вычислительными методами.
Хотя многие криптостойкие ГПСЧ или поточные шифры предлагают гораздо более "случайные" числа, такие генераторы гораздо медленнее обычных арифметических и могут быть непригодны во всякого рода исследованиях, требующих, чтобы процессор был свободен для более полезных вычислений.
В военных целях и в полевых условиях применяются только засекреченные синхронные криптостойкие ГПСЧ (поточные шифры), блочные шифры не используются. Примерами известных криптостойких ГПСЧ являются ISAAC, SEAL , Snow, совсем медленный теоретический алгоритм Блюма, Блюма и Шуба , а так же счётчики с криптографическими хеш-функциями или криптостойкими блочными шифрами вместо функции вывода.
Аппаратные ГПСЧ
Кроме устаревших, хорошо известных LFSR-генераторов, широко применявшихся в качестве аппаратных ГПСЧ в XX веке, к сожалению, очень мало известно о современных аппаратных ГПСЧ (поточных шифрах), так как большинство из них разработано для военных целей и держатся в секрете. Почти все существующие коммерческие аппаратные ГПСЧ запатентованы и также держатся в секрете. Аппаратные ГПСЧ ограничены строгими требованиями к расходуемой памяти (чаще всего использование памяти запрещено), быстродействию (1-2 такта) и площади (несколько сотен FPGA - или
Из-за недостатка хороших аппаратных ГПСЧ производители вынуждены применять имеющиеся под рукой гораздо более медленные, но широко известные блочные шифры ( Компьютерное обозрение № 29 (2003)
Урок 15. Случай - душа игры
Вы уже научили черепашку многому. Но у нее есть еще и другие, скрытые возможности. Может ли черепашка самостоятельно сделать что-нибудь такое, что
удивит вас?
Оказывается, да! В списке датчиков черепашки есть датчик случайных чисел
:
случайный
Со случайными числами мы встречаемся часто: кидая игральную кость в детской игре, слушая в лесу кукушку-предсказательницу
или просто "загадывая любое число". Датчик случайных чисел в ЛогоМирах может принимать значение любого целого положительно-то числа от 0 до заданной в
качестве параметра границы значений.
Само число, указанноев качестве параметра датчика случайных чисел, не выпадает никогда.
Например, датчик случайный 20 может оказаться любым целым числом от 0 до 19, включая 19, датчик случайный 1000 - любым целым числом от 0 до 999, включая
999.
Вы, вероятно, удивитесь, где же здесь игра - одни числа. Но не забывайте, что в ЛогоМирах с помощью чисел можно задать и форму черепашки, и толщину
пишущего пера, и его размер, и цвет, и многое другое. Главное - правильно выбрать границу значений. Границы изменения основных параметров
черепашки приведены в таблице.
Датчик случайных чисел можно использовать в качестве параметра любой команды, например вперед
, направо
и т. п.
Задание 24.
Использование датчика случайных чисел
Организуйте при помощи датчика случайных чисел одну из предложенных ниже игр и запустите черепашку.
1. Поместите черепашку в центр экрана.
2. Наберите в Рюкзаке команды и задайте режим Много раз
:
нов_цвет случайный 140 крась жди 10
Команда крась
выполняет те же действия, что и инструмент Заливка в графическом редакторе.
3. Озвучьте сюжет.
1. Измените игру № 1, расчертив экран линиями на произвольные участки с непрерывными границами:
2. Дополните инструкцию в Рюкзаке черепашки случайными поворотами и перемещениями:
направо случайный 360
вперед случайный 150
Разработайте сюжет, в котором красная черепашка охотится за черной. Черная черепашка движется по случайной траектории, а направление движения красной черепашки управляется бегунком.
Вопросы для самоконтроля
1. Что такое датчик случайных чисел?
2. Какой параметр у датчика случайных чисел?
3. Что означает граница значений?
4. Выпадает ли когда-либо само число, указанное в качестве параметра?
Первый алгоритм для получения псевдослучайных чисел был предложен Дж. Нейманом. Его называют методом середины квадратов.
Пусть задано 4-значное число R 0 =0.9876. Возведём его в квадрат. Получим 8-значное числоR 0 2 =0.97535376. Выберем 4 средние цифры из этого числа и положимR 1 =0.5353. Затем снова возведём в квадрат и извлечём из него 4 средние цифры. ПолучимR 2 и т.д. Этот алгоритм не оправдал себя. Получалось больше чем нужно малых значенийR i .
Однако, представляет интерес исследовать качество этого генератора со смещённой вправо группой выбора цифр у R i 2 :
где a-максимальная значность дроби для данной ЭВМ (например, а=8).
b-количество знаков после запятой в числеR i (например, 5).
INT(А)- целая часть числа.
Для a=8,b=5,R 0 =0.51111111 на ПКZX-Spectrumполучается около 1200 неповторяющихся чисел.
Задание: Исследование следует проводить при варьировании а,b,R 0 . Найти при каких величинахa,b,R 0 получается наибольшая длинаLпоследовательности неповторяющихся чисел при "хороших" стохастических параметрах. Установить влияет ли величинаR 0 на качество датчика. Если влияет, то определить область "приемлемых" значений параметраR 0 . Представить результаты тестирования оптимального варианта значенийa,b,R 0 .
Мультипликативные алгоритмы. Датчик №2: Линейный конгруэнтный генератор Лемера 1951.
где U i ,M,Cиp-целые числа.
AmodB- остаток от деления нацелоAнаB,
A mod B =A-B*INT (A/B)
Генерируемая последовательность имеет повторяющийся цикл не превышающий pчисел.
Максимальный период получается при C0, но такой генератор даёт плохие стохастические результаты .
При C=0 генераторы называют мультипликативными. Они имеют лучшие стохастические параметры. Формулы их использования называют ещё методом вычетов.
Наиболее популярным для получения псевдослучайных чисел является метод вычетов по такой формуле :
где U i ,M,p-целые числа, 0<R i <1, 1U i p-1.
Если выбрать U 0 иMтакими, чтобы дляR 0 =U 0 /pполучалась несократимая дробь и взятьpиMвзаимно простыми, тогда всеR i будут несократимыми дробями вида:R i =U i /p.
Получим наибольшую (но не более p) длину неповторяющейся последовательности чисел. ЗначенияU 0 ,pиMудобно выбрать из простых чисел.
Задание: Исследовать при какихU 0 ,pиMдлина последовательности неповторяющихся чисел будет не менее 10000 при "хороших" стохастических параметрах. Определить влияет ли величинаR 0 приMиp=constна статистические характеристики датчика. Если влияет, то определить область допустимых величинU 0 . Представить результаты тестирования генератора для оптимальных величинp,MиU 0 .
Датчик №3: Модификация Коробова.
где p- большое простое число, например 2027, 5087, ...
М - целое число, отвечающее условиям:
n- целое число. Т.е. выбираемMблизким кp/2 из множества чиселM=p- 3 n .
Например, для p=5087 берёмn=7. Потому что 3 7 =2187, а 3 8 =6561 будет уже большеp. Итак: М=5087-2187=2900.
Получаем числа U i в интервале = и числаR i в интервале (0,1).
Задание: ПодобратьMиpпри которых получаются лучшие статистические параметры датчика и наибольшая длинаL. Выяснить влияет ли величинаR 0 на стохастические характеристики датчика и, если влияет, то определить область допустимых значенийR 0 . Представить результаты тестирования датчика для оптимальных значенийM,pиR 0 .
Заметим, что в идеале кривая плотности распределения случайных чисел выглядела бы так, как показано на рис. 22.3 . То есть в идеальном случае в каждый интервал попадает одинаковое число точек: N i = N /k , где N общее число точек, k количество интервалов, i = 1, , k .
Рис. 22.3. Частотная диаграмма выпадения случайных чисел,порождаемых идеальным генератором теоретически
Следует помнить, что генерация произвольного случайного числа состоит из двух этапов:
- генерация нормализованного случайного числа (то есть равномерно распределенного от 0 до 1);
- преобразование нормализованных случайных чисел r i в случайные числа x i , которые распределены по необходимому пользователю (произвольному) закону распределения или в необходимом интервале.
Генераторы случайных чисел по способу получения чисел делятся на:
- физические;
- табличные;
- алгоритмические.
Физические ГСЧ
Примером физических ГСЧ могут служить: монета ("орел" 1, "решка" 0); игральные кости; поделенный на секторы с цифрами барабан со стрелкой; аппаратурный генератор шума (ГШ), в качестве которого используют шумящее тепловое устройство, например, транзистор (рис. 22.422.5 ).
Рис. 22.4. Схема аппаратного метода генерации случайных чиселРис. 22.5. Диаграмма получения случайных чисел аппаратным методом
Задача "Генерация случайных чисел при помощи монеты"
Сгенерируйте случайное трехразрядное число, распределенное по равномерному закону в интервале от 0 до 1, с помощью монеты. Точность три знака после запятой.
Первый способ решения задачи
Подбросьте монету 9 раз, и если монета упала решкой, то запишите
"0", если орлом, то "1". Итак, допустим, что в результате эксперимента получили случайную
последовательность 100110100.
Начертите интервал от 0 до 1. Считывая числа в последовательности слева направо, разбивайте интервал пополам и выбирайте каждый раз одну из частей очередного интервала (если выпал 0, то левую, если выпала 1, то правую). Таким образом, можно добраться до любой точки интервала, сколь угодно точно.
Итак, 1 : интервал делится пополам и , выбирается правая половина, интервал сужается: . Следующее число, 0 : интервал делится пополам и , выбирается левая половина , интервал сужается: . Следующее число, 0 : интервал делится пополам и , выбирается левая половина , интервал сужается: . Следующее число, 1 : интервал делится пополам и , выбирается правая половина , интервал сужается: .
По условию точности задачи решение найдено: им является любое число из интервала , например, 0.625.
В принципе, если подходить строго, то деление интервалов нужно продолжить до тех пор, пока левая и правая границы найденного интервала не СОВПАДУТ между собой с точностью до третьего знака после запятой. То есть с позиций точности сгенерированное число уже не будет отличимо от любого числа из интервала, в котором оно находится.
Второй способ решения задачи
Разобьем полученную двоичную последовательность 100110100 на триады: 100, 110,
100. После перевода этих двоичных чисел в десятичные получаем: 4, 6, 4.
Подставив спереди "0.", получим: 0.464. Таким методом могут
получаться только числа от 0.000 до 0.777 (так как максимум, что можно
"выжать" из трех двоичных разрядов это
111 2 = 7 8) то есть, по сути, эти числа
представлены в восьмеричной системе счисления. Для перевода восьмеричного
числа в десятичное
представление выполним:
0.464 8 = 4 · 8 1 + 6 · 8 2 + 4 · 8 3 = 0.6015625 10 = 0.602 10
.
Итак, искомое число равно: 0.602.
Табличные ГСЧ
Табличные ГСЧ в качестве источника случайных чисел используют специальным образом составленные таблицы, содержащие проверенные некоррелированные, то есть никак не зависящие друг от друга, цифры. В табл. 22.1 приведен небольшой фрагмент такой таблицы. Обходя таблицу слева направо сверху вниз, можно получать равномерно распределенные от 0 до 1 случайные числа с нужным числом знаков после запятой (в нашем примере мы используем для каждого числа по три знака). Так как цифры в таблице не зависят друг от друга, то таблицу можно обходить разными способами, например, сверху вниз, или справа налево, или, скажем, можно выбирать цифры, находящиеся на четных позициях.
| Таблица 22.1. Случайные цифры. Равномерно распределенные от 0 до 1 случайные числа |
|||||||||||||||||||||||||||||||||||
| Случайные цифры | Равномерно распределенные от 0 до 1 случайные числа | |||||||
| 9 | 2 | 9 | 2 | 0 | 4 | 2 | 6 | 0.929 |
| 9 | 5 | 7 | 3 | 4 | 9 | 0 | 3 | 0.204 |
| 5 | 9 | 1 | 6 | 6 | 5 | 7 | 6 | 0.269 |
Достоинство данного метода в том, что он дает действительно случайные числа, так как таблица содержит проверенные некоррелированные цифры. Недостатки метода: для хранения большого количества цифр требуется много памяти; большие трудности порождения и проверки такого рода таблиц, повторы при использовании таблицы уже не гарантируют случайности числовой последовательности, а значит, и надежности результата.
Находится таблица, содержащая 500 абсолютно случайных проверенных чисел (взято из книги И. Г. Венецкого, В. И. Венецкой "Основные математико-статистические понятия и формулы в экономическом анализе").
Алгоритмические ГСЧ
Числа, генерируемые с помощью этих ГСЧ, всегда являются псевдослучайными (или квазислучайными), то есть каждое последующее сгенерированное число зависит от предыдущего:
r i + 1 = f (r i ) .
Последовательности, составленные из таких чисел, образуют петли, то есть обязательно существует цикл, повторяющийся бесконечное число раз. Повторяющиеся циклы называются периодами .
Достоинством данных ГСЧ является быстродействие; генераторы практически не требуют ресурсов памяти, компактны. Недостатки: числа нельзя в полной мере назвать случайными, поскольку между ними имеется зависимость, а также наличие периодов в последовательности квазислучайных чисел.
Рассмотрим несколько алгоритмических методов получения ГСЧ:
- метод серединных квадратов;
- метод серединных произведений;
- метод перемешивания;
- линейный конгруэнтный метод.
Метод серединных квадратов
Имеется некоторое четырехзначное число R 0 . Это число возводится в квадрат и заносится в R 1 . Далее из R 1 берется середина (четыре средних цифры) новое случайное число и записывается в R 0 . Затем процедура повторяется (см. рис. 22.6 ). Отметим, что на самом деле в качестве случайного числа необходимо брать не ghij , а 0.ghij с приписанным слева нулем и десятичной точкой. Этот факт отражен как на рис. 22.6 , так и на последующих подобных рисунках.
Рис. 22.6. Схема метода серединных квадратов