Rambler - формы запросов и поиск

используйте оператор ${counter=ID}, где counter - название счетчика

(top100, topshop, toplist, spylog или hotlog), а ID - номер счетчика

(идентификатор ресурса).

Пример: для того, чтобы найти в Интернете все страницы раздела Рамблер-

Открытки (идентификатор Top100 - 193680), подайте Рамблеру запрос

${top100=193680}.

Принципы работы поисковой машины Рамблер,

или как выжить в условиях постоянно растущего Интернета

Интернет постоянно растет, так же как растет и число пользователей, которые

обращаются с запросами к поисковым системам. Увеличение объема информации и

количества запросов, в свою очередь, приводит к повышению требований к

скорости работы поисковых машин, качеству поиска и наглядности

представления результатов. Так, для того чтобы пользователь остался доволен

результатом, на сегодняшний день поисковой системе нужно собрать,

обработать, обновить, найти и отсортировать в два раза больше документов,

чем год назад. А основная задача поиска как раз и состоит в том, чтобы

пользователь был доволен его результатами.

Когда пользователь обращается с запросом к поисковой машине, он хочет найти

то, что ему нужно, максимально быстро и просто. Получая результат, он

оценивает работу системы, руководствуясь несколькими основными параметрами.

Нашел ли он то, что искал? Если не нашел, то сколько раз ему пришлось

переформулировать запрос, чтобы найти искомое? Насколько актуальную

информацию он смог найти? Насколько быстро обрабатывала запрос поисковая

машина? Насколько удобно были представлены результаты поиска? Был ли

искомый результат первым или сотым? Как много ненужного мусора было найдено

наравне с полезной информацией? Сможет ли он, вернувшись завтра и дав тот

же запрос, получить те же результаты?

Для того, чтобы ответы на эти вопросы оставались удовлетворительными,

разработчики поисковых машин постоянно совершенствуют алгоритмы и принципы

поиска, добавляют новые функции, ускоряют работу системы. В этой статье мы

обратимся к механизму работы поисковой машины Рамблер, и на примере ее

устройства продемонстрируем, как достигается повышение качества и скорости

поиска в условиях постоянного роста объема информации в сети Интернет.

Полнота

Полнота - это одна из основных характеристик поисковой системы, которая

представляет собой отношение количества найденных по запросу документов к

общему числу документов в Интрнете, удовлетворяющих данному запросу.

Например, если в сети Интернет имеется 100 страниц, содержащих

словосочетание "Красная площадь", а по соответствующему запросу было

найдено всего 70 из них, то полнота поиска будет 0,7. Чем полнее поиск, тем

меньше вероятность, что пользователь не сможет найти нужный ему документ,

при условии, что он вообще существует в Интернете.

Полнота поиска в большой мере зависит от работы системы сбора и обработки

информации. В связи с постоянным ростом количества документов в сети, эта

система в первую очередь должна быть масштабируемой. В Рамблере

масштабируемость достигается за счет параллельного исполнения задачи

произвольным количеством машин.

Сбором информации занимается робот-паук, который обходит страницы с

заданными URL и скачивает их в базу данных, а затем архивирует и

перекладывает в хранилище суточными порциями. Робот размещается на

нескольких машинах, и каждая из них выполняет свое задание. Так, робот на

одной машине может качать новые страницы, которые еще не были известны

поисковой системе, а на другой - страницы, которые ранее уже были скачаны

не менее месяца, но и не более года назад. Хранилище у всех машин едино.

При необходимости работу можно распределить другим способом, например,

разбив список URL на 10 частей и раздав их 10 машинам. Параллельная работа

программы позволяет легко выдерживать дополнительную нагрузку: при

увеличении количества страниц, которые нужно обойти роботу, достаточно

просто распределить задачу на большее число машин.

В хранилище информация в сжатом виде собирается и разбивается на куски по

50 Мб. Эти части постепенно распределяются между 70 машинами, на которых

запущена программа-индексатор. Как только индексатор на одной из машин

заканчивает обработку очередной части страниц, он обращается за следующей

порцией. В результате на первом этапе формируется много маленьких индексных

баз, каждая из которых содержит информацию о некоторой части Интернета.

Таким образом, вся интеллектуальная обработка данных осуществляется

параллельно, поэтому ускорение процесса индексации достигается простым

добавлением машин в систему.

После того, как все части информации обработаны, начинается объединение

(слияние) результатов. Благодаря тому, что частичные индексные базы и

основная база, к которой обращается поисковая машина, имеют одинаковый

формат, процедура слияния является простой и быстрой операцией, не

требующей никаких дополнительных модификаций частичных индексов. Основная

база участвует в анализе как одна из частей нового индекса. Так, если

объединяются 70 новых частей, то в анализе участвует 71 фрагмент (70 новых

+ основная база предыдущей редакции). Кроме того, единый формат позволяет

проводить тестирование частичных баз еще до объединения их с основной, и

обнаруживать ошибки на более раннем этапе.

Специальная программа ("сливатор") составляет таблицы перенумерации

документов базы. Содержимое всех частей объединяется. Среди страниц с

одинаковыми адресами выбирается наиболее свежая версия; если при скачивании

URL последней информацией была ошибка 404 (запрашиваемая страница не

существует), она временно удаляется из индексной базы. Параллельно

осуществляется склейка дублей: страницы, которые имеют одинаковое

содержимое, но различные URL, объединяются в один документ.

Сборка единой базы из частичных индексных баз представляет собой простой и

быстрый процесс. Сопоставление страниц не требует никакой интеллектуальной

обработки и происходит со скоростью чтения данных с диска. Если информации,

которая генерируется на машинах-индексаторах, получается слишком много, то

процедура "сливания" частей проходит в несколько этапов. В начале частичные

индексы объединяются в несколько промежуточных баз, а затем промежуточные

базы и основная база предыдущей редакции пересекаются. Таких этапов может

быть сколько угодно. Промежуточные базы могут сливаться в другие

промежуточные базы, а уже потом объединяться окончательно. Поэтапная работа

незначительно замедляет формирование единого индекса и не отражается на

качестве результатов.

Точность

Точность - еще одна основная характеристика поисковой машины, которая

определяется как степень соответствия найденных документов запросу

пользователя. Например, если по запросу "Красная площадь" находится 150

документов, в 70 из них содержится словосочетание "Красная площадь", а в

остальных просто присутствуют эти слова ("красная баба кричала на всю

площадь"), то точность поиска считается равной 70/150 (~0,5). Чем точнее

поиск, тем быстрее пользователь находит нужные ему документы, тем меньше

"мусора" среди них встречается, тем реже найденные документы не

соответствуют запросу.

Повышение точности в поисковой машине Рамблер достигается за счет

использования различных технологий на всех этапах обработки и поиска

информации. Одним из наиболее интересных процессов является распознавание

грамматических омонимов. Омонимы - это слова, которые имеют одинаковое

написание, но различный смысл. Различают лексические и грамматические

омонимы. Лексические омонимы относятся к одной части речи, как, например,

существительное "бор": хвойный лес, стальное сверло и химический элемент.

Грамматические омонимы относятся к разным частям речи, поэтому по написанию

у них обычно совпадают только отдельные формы. Примерами грамматических

омонимов могут служить слова "печь" - существительное русская "печь" и

глагол "печь" пирожки; "рядовой" - прилагательное "рядовой" сотрудник и

существительное "рядовой" Иванов.

Омонимы не только увеличивают размер индексной базы (так как для каждого

такого слова приходится хранить все его возможные значения), но и

отрицательно сказываются на точности поиска. Если пользователь ищет слово

"данные", ему неинтересно получить в найденном все документы, которые

содержат слово "дать". Для того, чтобы результаты поиска были точнее,

модуль синтаксического анализа проводит разбор окружения слов-омонимов с

целью установления их наиболее вероятных значений. Например, если рядом со

словом "печь" стоит существительное ("пирожки", "картошка"), то с высокой

вероятностью "печь" в данном контексте является глаголом. На сегодняшний

день анализатор способен распознавать значения только грамматических

омонимов.

Синтаксический анализ позволяет также с определенной вероятностью

распознавать некоторые имена собственные. Например, если в тексте несколько

слов подряд написано с большой буквы, они чаще всего представляют собой имя

собственное (Петр Петрович, Московский Государственный Университет). Данные

о таких конструкциях учитываются при индексации и обработке запроса.

Еще один способ повышения точности поиска - это выделение устойчивых

обозначений и поиск их как отдельных лексических единиц. На сегодняшний

день в Рамблере реализована система распознавания таких конструкций,

например C++, б/у, п/п-к. Если по запросу С++ поднимать все тексты, в

которых присутствуют латинская буква С, а также знак +, то получится

огромное количество документов, далеко не все из которых соответствуют

запросу; кроме того, это большая работа, значительно увеличивающая время

поиска.

Огромную роль в повышении точности поиска играет ранжирование. Пользователь

очень редко просматривает больше трех страниц с результатами поиска.

Поэтому субъективно он оценивает точность по "верхним" документам. Даже

если нужный документ найден поисковой машиной, но расположен на двухсотой

позиции, скорее всего, он никогда не будет найден пользователем.

По умолчанию в Рамблере результаты ранжируются по степени соответствия

(релевантности) запросу и группируются по сайтам. При ранжировании

оцениваются различные характеристики текстов, такие как:

Количество вхождений слов (словосочетаний) в документ - чем больше раз

словосочетание "Красная площадь" присутствует в тексте, тем выше

вероятность, что в нем действительно говорится о Красной площади;

Расположение слов запроса в документе - если словосочетание "Красная

площадь" присутствует в заголовках или названии документа, то документ с

большей вероятностью посвящен Красной площади;

Формы слов запроса - преимущество отдается вхождениям, в которых слова

имеют тот же падеж, число, склонение и т.д., что и в запросе пользователя

("Красная площадь", а не "Красной площадью"). Помимо точного совпадения,

выделяются две группы форм слов - близкие и далекие. Близкими считаются

изменения по падежам, склонениям, спряжениям, числам и родам. Далекими

формами являются причастия, деепричастия и т.п. При ранжировании

преимущество отдается близким формам слов запроса.

Расстояние между словами запроса - если запрос состоит из нескольких слов,

то в найденных документах оценивается, насколько близко друг от друга

расположены эти слова. Преимущество отдается документам, в которых слова

запроса находятся ближе друг к другу, потому что в этом случае они с

большей вероятностью связаны между собой. Например, если слово "Красная"

расположено в тексте на 5 позиции, а слово "площадь" - на 650, то скорее

всего в документе речь идет не о Красной площади.

Относительная частота (отношение количества вхождений слов запроса в

документ к общему количеству слов в документе) - если словосочетание

встречается 10 раз в документе из 100 слов, то он скорее соответствует

запросу, чем если оно встречается те же 10 раз в документе из 20 тысяч

слов;

Популярность - поисковая машина автоматически вычисляет коэффициент

популярности каждой страницы Интернет на основе данных счетчика Top100 и

анализа гипертекстовых ссылок между страницами. Преимущество отдается более

популярным ресурсам.

Ссылочный вес документа - при ранжировании учитывается ссылочный вес

страницы, рассчитанный на основании учета гиперссылок, содержащих слова

запроса. Так, если на некоторый документ словами "Красная площадь"

ссылается большое количество страниц с высокими поэффициентами

популярности, то ему отдается приоритет по запросу Красная площадь.

Помимо автоматических способов увеличения точности поиска, существуют

различные средства, с помощью которых пользователь сам может уточнить поиск

по отдельным запросам. В первую очередь к ним относится специальный язык

поискового запроса, используя который можно ограничивать количество

найденных документов. Например, запрос или его часть, взятые в кавычки,

обрабатываются буквально, с учетом всех стоп-слов, форм, порядка, знаков

препинания. Это повышает точность поиска, но уменьшает его полноту: если

часть, заключенная в кавычки, неточна, нужный документ найден не будет.

Использование логического оператора OR (ИЛИ) позволяет расширить сферу

поиска и увеличить его полноту, в то время как оператор NOT (И-НЕ),

наоборот, повышает точность поиска за счет нахождения документов, которые

содержат одни слова запроса и не содержат другие. Для повышения точности

можно также задавать расстояние между словами. Если в искомом

словосочетании порядок слов обычно сохраняется (например, Красная площадь),

то в запросе для повышения точности имеет смысл ограничить расстояние,

указав его в скобках через запятую: (2, Красная площадь). Это позволит

отсеять документы, в которых слова красная и площадь не расположены рядом,

а разбросаны по тексту.

Увеличить точность можно с помощью использования поиска в найденном.

Уточняющий поиск, проводится уже не по всей индексной базе, а только по

результатам предыдущего поиска. Таким образом, круг найденных документов

сужается. Например, если дать запрос Красная площадь, а затем, провести

поиск в найденном по запросу Москва, то результат будет содержать только те

документы, в которых говорится о Красной площади города Москвы.

Актуальность

Актуальность - не менее важная характеристика поиска, которая определяется

временем, проходящим с момента публикации документов в сети Интернет, до

занесения их в индексную базу. Например, на следующий день после теракта в

Тушино огромное количество пользователей обратились к поисковой машине

Рамблер с соответствующими запросами. Объективно с момента публикации

новостной информации на эту тему прошло меньше суток. Однако основные

документы уже были заиндексированы и доступны для поиска, благодаря

существованию "быстрой базы", которая обновляется два раза в день, а при

необходимости может обновляться быстрее.

На сегодняшний день индексная база поисковой системы Рамблер состоит из 8

частей, каждая из которых живет своей независимой жизнью. Весь Интернет

условно разделен на 7 секторов и называется своим цветом: красный,

оранжевый, желтый, зеленый, голубой, синий, фиолетовый. Сайт компании

Рамблер относится к голубому сектору. Информация о web-ресурсах каждого

сектора хранится в соответствующей части индексной базы. Восьмая часть -

"быстрая база" - включает в себя страницы, на которых размещен счетчик Тор

100 и которые еще не успели попасть в основную индексную базу.

Все части индексной базы собираются и обновляются по отдельности. Так,

сегодня происходит переиндексация и обновление красного сектора, завтра -

оранжевого и желтого, послезавтра - зеленого и т.д. Благодаря такому

ступенчатому алгоритму в поисковой машине регулярно появляется свежая

информация. Полный цикл обновления занимает около недели. При этом сбор

информации происходит параллельно, а непосредственно на изготовление

индекса документов одного сектора уходит всего несколько часов. Поэтому

существует принципиальная возможность обновлять индексную базу быстрее.

Разделение Интернета на 7 секторов условно. При необходимости он может быть

разбит на 10, 20 или 40 секторов, каждый из которых будет обрабатываться

автономно. В такой системе заложена возможность значительного увеличения

нагрузки. С ростом объема информации в сети Интернет растет и индексная

база поисковой машины. Постепенно переиндексация и сборка базы начинает

занимать все больше времени, а процесс обновления индекса становится более

громоздким. Поступление новых данных затягивается, информация начинает

терять свою актуальность. Возможность "передела" Интернета на большее число

секторов позволяет удерживать размер каждой части базы в оптимальном

диапазоне, контролировать время ее сборки и обновления.

"Быстрая база" отличается от остальных частей индекса меньшим объемом и

очень оперативным обновлением: время ее построения занимает около двух

часов. В базе содержится информация о страницах, на которых был установлен

счетчик Тор 100. Участниками рейтинга Тор 100 являются новостные порталы,

сайты крупных компаний, Интернет-магазины, форумы, - все наиболее

популярные ресурсы в сети. Каждый раз при установке счетчика на новую

страницу сайта, зарегистрированного в Тор 100, информация передается в

поисковую систему. Страница ищется во всех цветах основной базы и, если она

Страницы: 1, 2, 3, 4