Математики проверили на прочность закон Ципфа

Испанские математики проверили на прочность закон Ципфа, согласно которому при попытке упорядочить все слова языка или текст по убыванию частоты их использования частота n-го слова в таком списке окажется приблизительно обратно пропорциональной его порядковому номеру n. О результатах исследования рассказывается в свежем выпуске журнала PLOS ONE.

Для того чтобы определить правильность закона Ципфа, исследователи решили использовать его применительно к проекту «Гутенберг» — инициативе по созданию и распространению электронной универсальной библиотеки, которая включает 31075 книг на английском языке. Прежние попытки применить закон Ципфа ограничивались десятками текстов, а теперь исследователи работали с настоящим массивом данных.

Ученые поставили перед собой задачу определить, вписываются ли тексты в закономерность, согласно которой второе по используемости слово встречается примерно в два раза реже, чем первое, третье — в три раза реже, чем первое, и так далее. Таким образом, ими была избрана простейшая формулировка закона Ципфа.

Согласно итогам исследования, при условии, что опущены наиболее редкие и архаичные формы слов, порядка 55 процентов текстов вписываются в закон Ципфа. Если учитывать эти слова, то соответствие закономерности снижается до 40 процентов.

Лингвист Джордж Кингсли Ципф исследовал частотность слов: одних в тексте попадается больше, других меньше, и по этому принципу все слова разбиваются на группы. Ученый предложил дать этим группам порядковые номера (ранги): самые частотные слова получают номер 1, с частотностью пониже — 2, еще на уровень ниже — 3, и так далее.

После этого вычисляется вероятность встретить слово Икс в тексте: количество слов Икс в тексте делится на число всех слов. Ципф обнаружил, что если вероятность для слова Икс помножить на порядковый номер ранга, в котором оно оказалось, то каждый раз будет получаться приблизительно одна и та же величина. Так, для английского языка эта константа равна примерно 0,1, а для русского — 0,06-0,07.

Обсудить
«Верните наше будущее!»
О чем мечтают альтернативные правые — друзья Трампа и враги политкорретности
От ковбоя до рака легких
Сложная история отношений американцев и табачной продукции
Бирманские солдаты на руинах сожженного дома в столице штата РакхайнВас здесь не стояло
Из-за чего власти Мьянмы конфликтуют с мусульманами-рохинджа
«Зеленый профессор Саша»
Ультраправых в Австрии одолел потомок беженцев из России
Видео: Самый быстрый «МАЗ»
Дакаровский «МАЗ», десантный корабль на воздушной подушке и заброшенная авиабаза
Кёрлинг по-крупному
Массовые аварии и другие скользкие видео в честь прихода зимы
Самые продаваемые автомобили в России
25 самых популярных автомобилей ноября 2016 года
Чех, два японца и кореец: выбираем лучший компактный седан
Длительный тест четырех компактных седанов. Часть 3
От роддома до могилы
Тайны фамильных особняков, в которых живут поколения фермеров и журналистов
Извращенные вкусы
Откровения риелторов о клиентах-геях, богеме, политиках и шизофрениках
Пассажиры в зале ожидания в аэропорту СочиКвартирный вопрос их испортил
Как обманывают приезжих нечистоплотные москвичи
Халявщики и партнеры
Застройщики и банки шокируют заемщиков ипотечными условиями