Диаграмма частоты использования букв в русском языке. Поисковая оптимизация текстов — оптимальная частота употребления ключевых слов и его идеальная длина

Краткая постановка задачи

Есть набор файлов с текстами на русском языке от художественной литературы разных жанров до новостных сообщений. Нужно собрать статистику употребления предлогов с другими частями речи.

Важные моменты в задаче

1. Среди предлогов есть не только у и к , но устойчивые сочетания слов, употребляющиеся в качестве предлогов, например в сравнении с или несмотря на . Поэтому просто покрошить тексты по пробелам нельзя.

2. Текстов много, несколько Гб, поэтому обработка должна быть достаточно быстрой, по крайней мере укладываться в несколько часов.

Наброски решения и результаты

Учитывая имеющийся опыт решения задач с обработкой текстов, решено придерживаться модифицированного "unix-way", а именно - разбить обработку на несколько этапов, так чтобы на каждом этапе в результате получался обычный текст. В отличие от чистого unix-way, вместо передачи текстового сырья через каналы будем сохранять все в виде дисковых файлов. Благо стоимость гигабайта на жестком диске нынче мизерна.

Каждый этап реализуется как отдельная, маленькая и простая утилитка, читающая текстовые файлы и сохраняющая продукты своей кремниевой жизнедеятельности.

Дополнительный бонус такого подхода, помимо простоты утилит, заключается в инкрементальности решения - можно отладить первый этап, прогнать через него все гигабайты текста, затем начать отлаживать второй этап, уже не затрачивая время на повторение первого.

Разбивка текста на слова

Так как исходные тексты, подлежащие обработке, уже хранятся как плоские файлы в кодировке utf-8, то нулевой этап - парсинг документов, выдергивание из них текстового содержимого и сохранение в виде простых текстовиков, пропускаем, сразу переходя к задаче токенизации.

Все было бы просто и скучно, если бы не тот простой факт, что некоторые предлоги в русском языке состоят из нескольких "строк", разделяемых пробелом, а иногда и запятой. Чтобы не раскрошить такие многословные предлоги, сначала я привлек функцию токенизации в API словаря. Макет на C# получился простой и незамысловатый, буквально сотня строк. Вот исходник . Если отбросить вступительную часть, загрузку словаря и финальную часть с его удалением, то все сводится к паре десятков строк.

Все это успешно перемалывает файлы, но на тестах обнаружился существенный недостаток - очень низкая скорость. На x64 платформе получилось примерно 0.5 Мб в минуту. Конечно, токенизатор учитывает всевозможные особые случаи типа "А.С. Пушкин ", но для решения исходной задачи такая точность излишня.

В качестве ориентира на возможную скорость имеется утилита статистической обработки файлов Empirika. Она делает частотную обработку 22 Гб текстов примерно за 2 часа. Там внутри есть и более шустрое решение проблемы многословных предлогов, поэтому я добавил новый сценарий, включаемый опцией -tokenize в командной строке. По результатам прогона получилось примерно 500 секунд на 900 Мб, то есть около 1.6 Мб в секунду.

Результат работы с этими 900 Мб текста - файл примерно такого же размера, 900 Мб. Каждое слово сохранено на отдельной строке.

Частота употребления предлогов

Так как вбивать список предлогов в текст программы не хотелось, я опять-таки подцепил к C# проекту грамматический словарь, с помощью функции sol_ListEntries получил полный список предлогов, около 140 штук, ну а далее все тривиально. Текст програмки на C# . Она собирает только пары предлог+слово, но расширить проблем не составит.

Обработка 1 Гб текстового файла со словами занимает всего несколько минут, в результате получается частотная таблица, которую выгружаем на диск опять-таки как текстовый файл. Предлог, второе слово и число употреблений отделены в нем символом табуляции:

ПРО РАЗБИТЫЕ 3
ПРО ЗАБИТЫЕ 1
ПРО ФОРМУ 1
ПРО НОРМУ 1
ПРО ГОЛОДАВШИЙ 1
В ЗАКОННОМ 9
С ТЕРРАСКИ 1
НЕСМОТРЯ НА ЛЕНТУ 1
НАД ЯЩИКОМ 14

Всего из исходных 900 Мб текста получилось примерно 600 тысяч пар.

Анализ и просмотр результатов

Таблицу с результатами удобно анализировать в Excel или Access. Я в силу привычки к SQL загрузил данные в Access.

Первое, что можно сделать - отсортировать результаты в порядке убывания частоты, чтобы увидеть самые частые пары. Исходный объем обработанного текста слишком мал, поэтому выборка не очень репрезентативна и может отличаться от итоговых результатов, но вот первая десятка:

У НАС 29193
В ТОМ 26070
У МЕНЯ 25843
О ТОМ 24410
У НЕГО 22768
В ЭТОМ 22502
В РАЙОНЕ 20749
ВО ВРЕМЯ 20545
ОБ ЭТОМ 18761
С НИМ 18411

Теперь можно построить график, так чтобы частоты было по оси OY, а паттерны выстроились вдоль OX по убыванию. Это даст вполне ожидаемое распределение с длиннющим хвостом:

Зачем нужна эта статистика

Кроме того факта, что две утилитки на C# могут использоваться для демонстрации работы с процедурным API, есть еще важная цель - дать переводчику и алгоритму реконструкции текста статистическое сырье. Кроме пар слов еще потребуются триграммы, для этого надо будет немного расширить вторую из упомянутых утилиту.

Частота употребления

сущ. , кол-во синонимов: 1

употребительность (10)


  • - Лексика, употребление которой ограничено в силу каких-л. экстралингвистических причин. К Л.о.у. относятся: диалектизмы, термины и профессионализмы, жаргонизмы, просторечные слова и выражения, вульгаризмы...

    Словарь социолингвистических терминов

  • Общее языкознание. Социолингвистика: Словарь-справочник

  • - перевод немецкого термина Gebrauchstypen, введенного Дельбрюком для обозначения установившихся видов употребления грамматических форм. К Т. уп. относятся, напр., различные виды синтаксического употребления...

    Энциклопедический словарь Брокгауза и Евфрона

  • - Лексика, употребление которой ограничено экстралингвистическими причинами: 1) диалектизмы, ограниченные территориально; 2) термины, используемые в научном стиле...
  • Словарь лингвистических терминов Т.В. Жеребило

  • Словарь лингвистических терминов Т.В. Жеребило

  • - Употребления, запрещающие использовать отличия одного объекта от другого: Живые организмы не могут существовать без...
  • - Употребления, соотносящиеся с конкретными представителями данного класса объектов: Мне нужно увидеть этого человека...

    Термины и понятия общей морфологии: Словарь-справочник

  • - 1) Варианты, предусмотренные правилами оформления сложных бессоюзных предложений: при пояснении или мотивации вместо двоеточия может употребляться тире: Разлука призрачна – мы будем вместе скоро...

    Синтаксис: Словарь-справочник

  • - нареч, кол-во синонимов: 1 под спудом...

    Словарь синонимов

  • - прил., кол-во синонимов: 10 выходивший в тираж изживавший себя не соответствовавший современным требованиям отживавший отживавший свой век отходивший в область предания ...

    Словарь синонимов

  • - См....

    Словарь синонимов

  • - прил., кол-во синонимов: 19 анахронический архаический архаичный вышедший в тираж изживший себя несовременный обветшалый отживший отживший свой век отошедший в область...

    Словарь синонимов

  • - прил., кол-во синонимов: 2 непригодный для использования неупотребительный...

    Словарь синонимов

  • - прил., кол-во синонимов: 3 оставивший без применения отложивший положивший под спуд...

    Словарь синонимов

  • - 1) Варианты, предусмотренные правилами оформления сложных бессоюзных предложений: при пояснении или мотивации вместо двоеточия может употребляться тире: Разлука призрачна - мы будем вместе скоро 2) При обособлении...

    Словарь лингвистических терминов Т.В. Жеребило

"частота употребления" в книгах

Частота кормления

автора Хармар Хиллери

Частота кормления

автора Хармар Хиллери

Частота кормления Необходимое число кормлений щенка в течение суток зависит от размера породы. Большинство щенков хорошо развивается при кормлении через каждые три часа днем и ночью, но если они родились преждевременно или весят при рождении меньше 85 г, их, вероятно,

Частота кормления

Из книги Разведение собак автора Хармар Хиллери

Частота кормления Необходимое число кормлений щенка в течение суток зависит от размера породы. Большинство щенков хорошо развивается при кормлении через каждые три часа днем и ночью, но если они родились преждевременно или весят при рождении меньше 85 г, их, вероятно,

Частота кормления

Из книги Собаки и их разведение [Разведение собак] автора Хармар Хиллери

Частота кормления Необходимое число кормлений щенка в течение суток зависит от размера породы. Большинство щенков хорошо развивается при кормлении через каждые три часа днем и ночью, но если они родились преждевременно или весят при рождении меньше 85 г, их, вероятно,

Частота

Из книги Недвижимость. Как ее рекламировать автора Назайкин Александр

14.2.3. Частота взаимодействия

автора Димитри Никола

14.2.3. Частота взаимодействия Чем чаще взаимодействует одна и та же группа конкурентов, тем более устойчивым становится сговор, поскольку нарушения наказываются более своевременно. Если, например, фирмы конкурируют реже, то их способность к поддержанию сговора ниже,

15.4.6. Частота аукционов

Из книги Руководство по закупкам автора Димитри Никола

15.4.6. Частота аукционов Как было рассмотрено выше, некоторые аукционные ринги могут производить перевод средств между собой после проведения аукциона, ради которого они сформировали сговор, или же вести записи сумм, подлежащих уплате, и только время от времени

8. Частота употребления служебных слов оказывается авторским инвариантом

Из книги Книга 2. Меняем даты - меняется всё. [Новая хронология Греции и Библии. Математика вскрывает обман средневековых хронологов] автора Фоменко Анатолий Тимофеевич

8. Частота употребления служебных слов оказывается авторским инвариантом Замечательным исключением является наш параметр 3 - частота употребления всех служебных слов - ПРЕДЛОГОВ, СОЮЗОВ И ЧАСТИЦ. Эволюция этого параметра в зависимости от роста объема выборки показана

Частота

Из книги Большая Советская Энциклопедия (ЧА) автора БСЭ

Частота

автора Назайкин Александр

Частота

Из книги Медиапланирование на 100 автора Назайкин Александр

Частота Телеканалы выходят в эфир на метровых и дециметровых частотах. Первыми на телевидении были освоены метровые диапазоны. В 90-е годы XX века в Москве активно заработали дециметровые каналы.Ранее частота имела существенное значение, так как для приема разных каналов

Частота

Из книги Медиапланирование на 100 автора Назайкин Александр

Частота От частоты передачи сигнала зависит его качество. В большей степени оно обеспечивается в диапазонах УКВ (частотное модулирование FM). Слушатели предпочитают хорошее звучание, поэтому у УКВ-станций значительные рейтинги аудитории, и они предпочитаемы

3.2. Частота

автора Иванов Дмитрий Олегович

3.2. Частота Когда обсуждается значимость какой-либо патологии в медицине, то, на наш взгляд, важно говорить не только об этиологии, патогенезе, клинике и тяжести возникших или могущих возникнуть повреждений и осложнений, но и о распространенности данной патологии. К

4.2. Частота

Из книги Нарушения теплового баланса у новорожденных детей автора Иванов Дмитрий Олегович

4.2. Частота Гипертермия у новорожденных встречается, вероятно, гораздо реже, чем гипотермия. Вероятно, с этим связан тот факт, что работ, посвященных гипертермии у младенцев в научной литературе чрезвычайно мало. Maayan-Metzger A. et al. (2003) проанализировали 42313 историй болезни

Частота

Из книги Нарушения обмена глюкозы у новорожденных детей автора Иванов Дмитрий Олегович

Частота Корблант М., определявший гипогликемию как концентрацию глюкозы крови менее 30 мг% (1,67 ммоль/л) в первые 72 часа жизни, обнаружил ее у 4,4%о всех живорожденных.В 1971 году Lubchenco L. О. и Bard Н. , используя критерии Корбланта М., выявили гипогликемии у новорожденных с большей

Частота применения букв в русском языке

А вы знаете, что некоторые буквы алфавита встречаются в словах чаще остальных...Причем частота употребляемости гласных букв в языке выше, чем согласных.

Какие буквы русского алфавита чаще или реже всего встречаются в словах, используемых для написания текста?

Выявлением и исследованием общих закономерностей занимается статистика. С помощью этого научного направления можно ответить на поставленный выше вопрос, сосчитав количество каждой из букв русского алфавита, применяемых слов, выбрав отрывок из произведений различных авторов. Для собственного интереса и ради занятия от скуки каждый может проделать это самостоятельно. Я же сошлюсь на статистику уже проведенного исследования...

Русский алфавит кириллический. За время своего существования он пережил несколько реформ, в результате которых сложилась современная русская азбучная система, включающая 33 буквы.

о — 9.28%
а — 8.66%
е — 8.10%
и — 7.45%
н — 6.35%
т — 6.30%
р — 5.53%
с — 5.45%
л — 4.32%
в — 4.19%
к — 3.47%
п — 3.35%
м — 3.29%
у — 2.90%
д — 2.56%
я — 2.22%
ы — 2.11%
ь — 1.90%
з — 1.81%
б — 1.51%
г — 1.41%
й — 1.31%
ч — 1.27%
ю — 1.03%
х — 0.92%
ж — 0.78%
ш — 0.77%
ц — 0.52%
щ — 0.49%
ф — 0.40%
э — 0.17%
ъ — 0.04%

Русская буква, имеющая наибольшую частотность в использовании - это гласная «О », как здесь уже справедливо предположили. Есть и характерные примеры, наподобие «ОбОрОнОспОсОбнОсти » (7 штук в одном слове и ничего экзотического или удивительного; очень привычно для русского языка). Высокая популярность буквы «О» во многом объясняется таким грамматическим явлением, как полногласие. То есть, «холод» вместо «хлад» и «мороз» вместо «мраз».

А в самом начале слов чаще всего встречается согласная буква «П ». Это лидерство также уверенно и безоговорочно. Скорее всего, объяснение даёт большое количество приставок на букву «П»: пере-, пре-, пред-, при-, про- и другие.

Частота использования букв основа криптоанализа.

- — Тематики защита информации EN word usage frequency … Справочник технического переводчика

Ы; частоты; ж. 1. к Частый (1 зн.). Следить за частотой повторения ходов. Необходимая ч. посадки картофеля. Обратить внимание на частоту пульса. 2. Число повторений одинаковых движений, колебаний в какую л. единицу времени. Ч. вращения колеса. Ч … Энциклопедический словарь

I Алкоголизм хронический заболевание, характеризующееся совокупностью психических и соматических расстройств, возникших в результате систематического злоупотребления алкоголем. Важнейшими проявлениями А. х. являются измененная выносливость к… … Медицинская энциклопедия

ЗАХВАТ - один из специфических терминов, используемый в крюковых записях рус. безлинейного многоголосия, характеризующегося развитым подголосочно полифоническим складом и резкой диссонантностью вертикали. Певч. реализация термина в наст. время не изучена … Православная энциклопедия

Стилостатистический метод анализа текста - – это применение инструментария математической статистики в области стилистики для определения типов функционирования языка в речи, закономерностей функционирования языка в разных сферах общения, типах текстов, специфики функц. стилей и… …

Порционный ароматизированный снюс, мини порция Снюс вид табачного изделия. Представляет собой измельчённый увлажнённый табак, который помещают между верхней (реже нижней) губой и десной … Википедия

Научный стиль - представляет науч. сферу общения и речевой деятельности, связанную с реализацией науки как формы общественного сознания; отражает теоретическое мышление, выступающее в понятийно логической форме, для которого характерны объективность и отвлечение … Стилистический энциклопедический словарь русского языка

- (в специализированной литературе также патроним) часть родового имени, которая присваивается ребёнку по имени отца. Вариации патронимических имён могут связывать их носителей и с более дальними предками дедами, прадедами… … Википедия

Общеупотребительность, применимость, распространенность, применяемость, ходкость, общепринятость Словарь русских синонимов. употребительность сущ., кол во синонимов: 10 общепринятость (11) … Словарь синонимов

Рассуждение - – функционально смысловой тип речи (см.) – (ФСТР), соответствующий форме абстрактного мышления – умозаключению, выполняющий особое коммуникативное задание – придать речи аргументированный характер (прийти логическим путем к новому суждению или… … Стилистический энциклопедический словарь русского языка

Словарь включает наиболее употребительные слова современного русского языка (2-я половина XX – начало XXI вв.), снабженные информацией о частотности употребления, статистическом распределении по текстам и жанрам, по времени создания текстов. Словарь основан на текстах Национального корпуса русского языка объемом 100 млн. словоупотреблений. Подробнее об истории частотных словарей русского языка и методах создания «Нового частотного словаря русской лексики» словаря можно прочитать во .

Разработка концепции словаря и его подготовка к изданию осуществлена О.Н.Ляшевской и С.А.Шаровым, электронная версия подготовлена А. В. Санниковым. Авторы выражают благодарность В. А. Плунгяну, А. Я. Шайкевичу, Е. А. Гришиной, Б. П. Кобрицову, Е. В. Рахилиной, С. О. Савчук, Д. В. Сичинаве и другим участникам семинара НКРЯ, принимавшим участие в обсуждении принципов создания словаря. Мы благодарим О. Урюпину, Д. и Г. Бронниковых, Б. Кобрицова, а также сотрудников ООО «Яндекс» А. Аброскина, Н. Григорьева, А. Сокирко за помощь на разных этапах сбора и компьютерной обработки материала.

Как найти слово в словаре?

Два основных раздела словаря – список слов, упорядоченный по алфавиту и по общей частоте употребления в корпусе. Все слова приводятся в исходной (начальной) форме: для имен это форма именительного падежа (для имен существительных, как правило, форма единственного числа, для имен прилагательных – полная форма мужского рода), для глаголов – форма инфинитива.

В алфавитном списке приведено 60 тысяч наиболее частотных словоформ. Чтобы найти информацию о нужном слове, перейдите в раздел , выберите первую букву слова и найдите искомое слово в таблице. Чтобы быстро найти слово, вы можете также воспользоваться окном поиска, например:

Слово : вящий

Таким способом можно найти информацию не только о каком-то конкретном слове, но и о группе слов, начинающихся или заканчивающихся одинаковым образом. Для этого в окне поиска используйте знак звездочки (*) после набранной последовательности букв («все слова, начинающиеся с…») или до цепочки букв («все слова, оканчивающиеся на…». Например, если вы хотите найти все слова, начинающиеся на пере- , наберите в окне поиска:

Слово : пере*

Если вы хотите найти все слова, оканчивающиеся на –енько , наберите в окне поиска:

Слово : *нько

В частотном списке лемм слова упорядочены по общей частоте употребления в корпусе современного русского литературного языка. Частотный список включает 20 000 наиболее употребительных лемм.

Чтобы найти информацию о нужном слове, перейдите в раздел и найдите искомое слово в таблице. Для поиска информации об отдельных словах лучше всего воспользоваться окном быстрого поиска слова.

Почему я не могу найти слова в словаре, хотя я могу найти его в корпусе?

Это может объясняться несколькими причинами. Во-первых, слово может иметь низкую частотность (например, всего 3 употребления в корпусе) или употребляться только в текстах, написанных до 1950-го года. Во-вторых, слово может встретиться много раз, но в одном-двух текстах: такие леммы были сознательно исключены из словника словаря. В третьих, мы не можем исключить, что произошла ошибка автоматического определения исходной формы или частеречной характеристики слова, или же слово было ошибочно атрибуировано как имя собственное. На сайте представлена «тестовая» версия частотного словаря, и мы собираемся продолжать работу по уточнению его лексического состава.

Какую информацию об употреблении слова можно получить?

В словаре можно получить следующую информацию об употреблении слова в корпусе:

  • общее количество употреблений леммы (общая частота в единицах ipm), см. разделы , частотные словари художественной литературы и других функциональных стилей; частотные словари имен существительных, глаголов и других частей речи
  • частотный ранг слова (то есть порядковый номер в общем частотном списке), см. разделы , частотные словари имен существительных, глаголов и других частей речи.
  • число текстов, в которых встретилось слово (число документов), см. раздел ;
  • коэффициент вариации D, см. разделы и частотные словари имен существительных, глаголов и других частей речи
  • распределение употребления слова в текстах, созданных в разные десятилетия (1950-е годы, 1960-е годы и т. д.), см. раздел ;
  • общая частота употребления отдельных словоформ, см. раздел Алфавитный список словоформ.

    В словарях значимой лексики можно также получить информацию о сравнительной частотности слова в общем корпусе и в подкорпусе текстов определенного функционального стиля (художественная литература, публицистика и т. д.) и показателе правдоподобия LL-score.

    Помимо количественных показателей, при слове указывается часть речи. Это делается для того, чтобы развести слова разных частей речи, которые имеют одинаковую исходную форму (ср. печь – имя существительное и глагол).

    Что такое ipm?

    Общая частота характеризует число употреблений на миллион слов корпуса, или ipm (instances per million words). Это общепринятая в мировой практике единица измерения частотности, которая упрощает сравнение частоты слова в разных частотных словарях и в разных корпусах. Дело в том, что выборки текстов, на которых измеряется частотность, могут довольно сильно отличаться по своим размерам. Например, если слово власть встречается 55 раз в корпусе размером 400 тыс. слов, 364 раза в миллионном корпусе и 40598 раз в 100-миллионном корпусе современного русского языка и 55673 раза в большом 135-миллио¬нном корпусе НКРЯ, то его частота в ipm составит 137.5, 364.0, 372.06 и 412.39, соответственно.

    Частотные словари под ред. Л.Н. Засориной и Л.Леннгрена были построены на выборке размером в один миллион словоупотреблений, соответственно, можно считать, что фигурирующие там абсолютные показатели также приводятся в ipm.

    Что такое коэффициент вариации D?

    Коэффициент D, введенный А. Жуйаном (Juilland et al. 1970), используется во многих частотных словарях (русском словаре Л. Леннгрена, словаре Британского национального корпуса, словаря французской лексики в области бизнеса). Этот коэффициент позволяет увидеть, насколько равномерно распределено слово в разных текстах.

    Значение коэффициента определяется в интервале от 0 до 100. Например, слово и встречается практически во всех текстах корпуса, и значение D у него близко к 100. Слово комиссуротомия встречается в корпусе 5 раз, но только в одном тексте; у него значение D около 0.

    Указание коэффициента D для каждого слова дает возможность оценить, насколько оно специфично для отдельных предметных обла¬стей. Например, слова перезрелый и имплант имеют примерно равную частоту (0,56 ipm), но при этом коэффициент D у перезрелый равен 90, а у имплант – 0. Это означает, что первое слово равномерно встречается в текстах разного направления и значимо для большого числа предметных областей, в то время как слово имплант присутствует лишь в нескольких текстах тематики «медицина и здоровье».

    Что можно узнать об истории употребления слова в разные периоды?

    Информацию о распределении частотности слова в разные десятилетия 2-ой половины XX века и в начале XXI века можно получить в . Например, можно видеть, как складывалась судьба слова перестройка :

    Резкий всплеск его употребления в 1980-е годы вполне объясним социально-историческими реалиями того времени; вместе с тем, с лингвистической точки зрения этот факт можно трактовать таким образом: слово перестройка обогатилось новым значением, которое стало доминирующим в последующие годы.

    Почему имена собственные и аббревиатуры выделены в отдельный список?

    Имена собственные отделены от основной части словника, так как образуют значительно менее стабильную в статистическом отношении группу, а их частотность в большой степени зависит от выбора текстов в корпусе и от их темы (в частности, от места и времени описываемых событий). В Леннгрен 1993 высказано мнение, что включение имен собственных в частотный словарь на общих основаниях неизбежно приводит к его преждевременному устареванию.

    В словарь включена ядерная часть этого списка, насчитывающая 3 000 наиболее частотных единиц. Для поиска данных об употреблении имен, отчеств, фамилий, прозвищ, кличек, топонимов, названий организаций и аббревиатур перейдите в раздел Алфавитный список собственных имен и аббревиатур , выберите букву, с которой начинается искомое слово и найдите его в таблице. Можно также воспользоваться окном быстрого поиска слова.

    Как получить информацию об употреблении отдельных форм слова?

    Помимо информации об употреблении леммы (то есть слова во всех формах словоизменения), в словаре можно узнать, как употребляются отдельные словоформы. Перейдите в раздел Алфавитный список словоформ, выберите букву, с которой начинается словоформа и найдите ее в таблице. Можно также воспользоваться окном быстрого поиска, например:

    Словоформа : лету

    Чтобы найти все словоформы, начинающиеся (или заканчивающиеся) с определенной последовательности букв, используйте в окне поиска знак звездочки (*). Например, все словоформы, начинающиеся с усыпи- , можно найти, набрав:

    Словоформа : усыпи*

    Все словоформы, заканчивающиеся на ¬–иком , можно найти, набрав:

    Словоформа : *иком

    Алфавитный список словоформ включает все словоформы корпуса с частотой выше 0,1 ipm (всего около 15 тыс.) и содержит информацию об их общей частоте. Омонимичные словоформы помечены в таблице знаком *.

    Как найти информацию о «самых употребительных» словах?

    С помощью нашего словаря можно найти информацию о классах слов, отличающихся общими статистическими характеристиками. Это, в частности:

  • наиболее частотные слова по общей выборке из корпуса; среднечастотные слова по общей выборке и т.д. (см. раздел );
  • слова, наиболее часто встречающиеся в подкорпусе художественной литературы (см. раздел Частотный словарь художественной литературы);
  • слова, наиболее часто встречающиеся в подкорпусе публицистики (см. раздел Частотный словарь публицистики);
  • слова, наиболее часто встречающиеся в подкорпусе другой нехудожественной литературы (см. раздел Частотный словарь другой нехудожественной литературы);
  • слова, наиболее характерные для устной речи (см. раздел Частотный словарь живой устной речи).
  • наиболее частотные имена существительные (см. раздел Частотный список имен существительных);
  • наиболее частотные глаголы (см. раздел Частотный список глаголов);

    и прочие частотные списки частеречных классов.

    Кроме предлагаемых классов, вы можете самостоятельно исследовать другие группы слов, воспользовавшись в разделе Алфавитного списка словоформ таблицей «Общий алфавитный список» (например, можно исследовать наиболее частотные глаголы с приставкой пере- , слова, встречающиеся более чем в 200-х текстах и многое другое: принципы группировки классов зависят от ваших задач и от вашей фантазии).

    Как проследить распределение частотности в текстах разных функциональных стилей?

    В частотном словаре Л.Н.Засориной приводятся данные об употреблении слова в четырех типах текстов: (I) газетно-журнальных текстах, (II) драматургии, (III) научных и публицистических текстах, (IV) художественной прозе. В нашем словаре можно получить сходную информацию, воспользовавшись разделом «Распределением лемм по функциональным стилям».

    Частотные словари функциональных стилей составлены на основе подкорпусов художественной литературы, публицистики, другой нехудожественной литературы и живой устной речи. По сравнением со словарем Л. Н. Засориной состав рубрик несколько изменен: вместо драматургии используются записи живой устной речи и расшифровки фонограмм кинофильмов, научная литература выделена в отдельную рубрику, наряду с официально-деловой, церковной и прочей нехудожественной литературой.

    В список включены 5 000 самых частотных лемм этих подкорпусов. Для каждой леммы указана часть речи, частотность в подкорпусе и коэффициент D.

    Что такое словарь значимой лексики (художественной литературы и т. д.)?

    Существуют слова, которые гораздо чаще употребляются в одном из фунциональных стилей, нежели в остальных. Например, для живой устной речи такими словами являются вот, вообще и ладно. Дейсвительно, трудно предположить, что в научно-технической литературе эти слова употребляются также часто, как в бытовом языке.

    Список наиболее типичных лемм для каждого функционального типа текстов был выделен на основе сравнения частоты лемм в данном подкорпусе текстов и в остальном корпусе. Словари значимой лексики включают по 500 лемм.

    Что означают показатели frq1, frq2 и LL-score в словаре значимой лексики?

    Frq1 – это общая частота леммы во всем корпусе (в единицах ipm), frq2 – это частота леммы в данном подкорпусе (подкорпус художественной литературы, публицистики, прочей нехудожественной литературы и живой устной речи, соответственно), LL-score – это коэффициент правдоподобия, вычисляемый на основе frq1 и frq2 по формуле, предложенной П.Рейсоном и А.Гарсайдом (см. об этом подробнее во Введении к словарю). Чем выше показатель LL-score, тем более значимо слово для данного функционального стиля.

    Как получить список 100 самых частотных глаголов?

    В разделе «Общая лексика: части речи» частотный список лемм разбит на семь подсписков: имена существительные, глаголы, имена прилагательные, наречия и предикативы, местоимения, числительные и служебные части речи. Здесь для каждой леммы указана ее общая частота и ранг (порядковый номер) в общем списке. Каждый список содержит по 1 000 наиболее частотных лемм.

    Таким образом, можно получить список 100 самых частотных глаголов, зайдя в подраздел Частотный список глаголов и выбрав первые 100 глаголов в верхней части списка. Точно так же можно узнать, какое прилагательное является наиболее частотным (как указано в разделе Частотный список имен прилагательных, это прилагательное новый ) и выяснить много других интересных фактов, касающихся состава частеречных классов.

    Как пользоваться вспомогательными таблицами?

    Вспомогательные таблицы включают, во-первых, в данные о частотности частеречных классов, а также других грамматических категорий. Эти данные получены на основание подкорпуса НКРЯ со снятой (вручную) лексико-грамматической неоднозначностиью (размер более 6 млн. словупотреблений). Поскольку статистические данные касаются крупных классов слов, есть основания полагать, что и во всем корпусе пропорция частей речи и других грамматических категорий будет такой же.

    Во-вторых, в данном разделе приводится информация о покрытии текста лексемами, средней длине слова, словоформы и предложения.

    В-третьих, здесь приводятся частотные списки употреблений букв русского алфавита, знаков препинания, а также двубуквенных и многобуквенных сочетаний.



  • Loading...Loading...