Rambler - формы запросов и поиск

еще не известна поисковой системе, отправляется в очередь на обработку.

Перед обработкой страницы дополнительно фильтруются, из них отбираются

самые посещаемые. Таким образом, "сливки" с Интернета собираются два раза в

день.

"Быстрая база" представляет собой разумное решение проблемы актуальности

данных в поиске. Информационное агентство может выложить новость через

десять минут после ее появления, потому что тратит время только на верстку

страницы. Поисковая машина должна сначала заиндексировать текст, а на это

требуется гораздо больше времени. "Быстрая база" охватывает все ресурсы

Интернет, зарегистрированные в Тор 100, на которых был размещен счетчик, и

которые еще не успели попасть в основную базу. При этом индексируются как

страницы с новостями, так и другие свежие документы, появившиеся в Тор 100.

В результате через сутки после теракта в поиске Рамблера была доступна не

только основная информация, опубликованная на сайтах новостных агентств,

которую можно найти и прочитать в разделах новостей, но и комментарии,

высказывания очевидцев, обсуждения на форумах, все, что было к этому

времени опубликовано на наиболее посещаемых страницах Интернета.

Скорость поиска

Скорость поиска тесно связана с его устойчивостью к нагрузкам. На

сегодняшний день в рабочие часы к поисковой машине Рамблер приходит около

60 запросов в секунду. Такая загруженность требует сокращения времени

обработки отдельного запроса. Здесь интересы пользователя и поисковой

системы совпадают: посетитель хочет получить результаты как можно быстрее,

а поисковая машина должна отрабатывать запрос максимально оперативно, чтобы

не тормозить вычисление следующих. Схематично обработка поискового запроса

изображена на рисунке 1.

Запрос поступает в поисковую систему через маршрутизатор Cisco 6000 series.

Cisco передает его наименее загруженной машине первого уровня - frontend

(1.1 - 1.3, на рис. машине 1.3). Frontend, в свою очередь, отправляет

запрос дальше, на один из восьми proxy-серверов, также выбирая наиболее

свободный сервер (2.1 - 2.8, на рис. машине 2.2). Одновременно frontend

отправляет запрос на машины, осуществляющие поиск по товарам (3.1 - 3.2, на

рис. машине 3.1) и по базе Тор 100 (4.1 - 4.2, на рис. машине 4.1). На

proxy проводится поиск по ссылочному индексу, и его результаты вместе с

поисковым запросом передаются на машины, которые содержат основную

индексную базу, - backends (5.1.х - 5.7.х, на рис. машинам 5.1.2, 5.2.11,

5.3.1 и т.д.) Та же информация отправляется на машины с "быстрой базой"

(6.1 - 6.2, на рис. 6.1).

[pic]

На текущий момент в поиск включено 77 backend'ов. Они сгруппированы по 11

машин, и каждая группа содержит копию одной из частей поискового индекса.

Таким образом, информация о сайтах, условно входящих в красный сектор

Интернета, находится на backend'ах первой группы (5.1.1 - 5.1.11 на рис),

оранжевый сектор - на backend'ах второй группы (5.2.1 - 5.2.11) и т.д.

Proxy-сервер выбирает наименее загруженный backend в каждой группе машин и

отправляет на него поисковый запрос с результатами ссылочного поиска. На

backend'ах осуществляется поиск по частям индексной базы и ранжирование с

учетом результатов поиска по ссылочному индексу. При ранжировании для всех

найденных документов высчитываются веса по конкретному запросу.

После того, как запрос обработан на backend'ах, информация о результатах и

ранжировании отдается обратно на proxy-сервер. Туда же поступают

отсортированные результаты с машин "быстрой базы". Proxy интегрирует

данные, полученные с восьми машин: клеит дубли, объединяет зеркала сайтов,

переранжирует документы в общий список по весам, рассчитанным на

backend'ах. Так, первым в списке найденного может быть документ с машины

5.3.1, вторым и третьим - с 6.1, четвертым - с 5.5.2 и т.д. На proxy-

сервере также реализуется построение цитат к документам и подсветка слов

запроса в тексте. Полученные результаты отдаются на frontend.

Помимо информации с proxy-сервера, frontend получает результаты из поиска

по товарам и из базы Тор 100, отсортированные, с цитатами и подсветкой слов

запроса. Frontend осуществляет окончательное объединение результатов,

генерирует html со списком найденного, вставляет баннеры и перевязки

(ссылки на различные разделы Рамблера) и отдает html Cisco, который

маршрутизирует информацию пользователю.

Каждый из этапов обработки запроса многократно продублирован и защищен

системой балансировки нагрузки. Благодаря дублированию информации поисковая

система Рамблер является устойчивой к сбоям на отдельных участках, авариям,

отказам оборудования. Если одна их машин перестала функционировать,

нагрузка перераспределяется на другие машины, и выпадения документов из

поиска не происходит. Масштабируемость достигается простым добавлением в

систему машин соответствующего уровня. До недавнего времени в Рамблере

работало 45 backend'а. В связи с тем, что осенью нагрузка на поисковые

системы обычно возрастает, число backend'ов было увеличено до 77, что

позволило значительно ускорить вычисление запросов.

Еще один способ повышения скорости поиска - "кэширование", сохранение

информации о запросах и результатах поиска в буфере. Многие люди дают одни

и те же поисковые запросы. Вычислять их каждый раз заново было бы

неразумной тратой времени. Поэтому если запрос уже обрабатывался в течение

некоторого интервала времени, результаты поиска отдаются пользователю из

"кэша".

Лингвистический анализ текста документов и запроса также позволяет ускорить

обработку информации. Например, определение значения омонимов уменьшает

количество нерелевантных запросу документов, которые нужно ранжировать и

цитировать. Выделение устойчивых обозначений (С++, б/у) на этапах

индексации и обработки запроса приводит одновременно к повышению точности и

сокращению временных затрат на обработку каждого отдельного элемента

обозначения (раньше запрос С++ обрабатывался как отдельно латинское С,

отдельно плюс и еще один плюс. Запрос вычислялся долго, а среди результатов

поиска было много нерелевантных документов, например, страницы, содержащие

математические формулы и т.п.) С этой же целью используются словари стоп-

слов. Стоп-слова - это наиболее частотные слова языка, которые встречаются

практически в любом тексте и являются малоинформативными. В основном, это

служебные слова - предлоги, частицы, артикли. Если нет специальных

указаний, поисковая машина игнорирует стоп-слова, встречающиеся в запросе,

чтобы не тратить время на обработку дополнительной информации, снижающей

качество поиска.

Наглядность

Наглядность представления результатов является необходимым компонентом

удобного поиска. На плохой витрине легко не заметить хороший товар. По

большинству запросов поисковая машина находит сотни, а то и тысячи

документов. В следствие нечеткости запросов или неточности поиска, даже

первые страницы не всегда содержат только нужную информацию. Это означает,

что пользователю часто приходится проводить свой собственный поиск внутри

списка найденного. Различные элементы ответной страницы помогают

ориентироваться в результатах поиска.

Группировка по сайтам предназначена для того, чтобы на странице можно было

вывести как можно больше Интернет-ресурсов, релевантных запросу

пользователя. Это бывает важным, когда необходимо получить информацию из

различных источников. Если более информативной для посетителя является дата

обновления или релевантность отдельных документов, в ответной странице

Рамблера существует возможность сортировки по этим параметрам.

В некоторых случаях полезным бывает знание имени сайта. Если пользователя

интересует конкретный Интернет-ресурс, имя может дать ему гораздо больше

информации, чем заголовок страницы или цитата.

Если запросу соответствует больше одной страницы с сайта, то в качестве

результата поиска предъявляется наиболее релевантная из них, а ниже

располагается частичный список остальных документов. Это увеличивает

количество потенциально полезной информации на ответной странице и часто

позволяет уточнить поиск без дополнительного запроса.

Цитата помогает определить, насколько полезную информацию содержит

найденный документ. Очень часто посетителю не требуется переходить по

ссылке, чтобы обнаружить, что текст не соответствует его интересам и

потребностям. Иногда ответ на вопрос пользователя содержится

непосредственно в цитате документа. Это экономит время и повышает

эффективность работы поисковой системы.

Восстановить текст - иногда единственный способ получить доступ к

содержимому найденного документа. Ресурс бывает недоступен по разным

причинам. Документ может быть удален, перенесен, изменен, но его текстовое

содержание некоторое время сохраняется в индексной базе. Кроме того, внутри

самого документа часто отсутствует навигация, позволяющая быстро найти

фрагмент, релевантный запросу. В восстановленном тексте все слова запроса

подсвечиваются.

Ассоциации представляют собой список запросов, которые часто подаются

пользователями в течении одной поисковой сессии. Алгоритм построения

ассоциаций устроен так, что они почти всегда связаны между собой по смыслу.

В некоторых случаях ассоциации позволяют повысить качество поиска за счет

уточнения запроса (запрос "отдых в Польше" - ассоциации "отдых в Польше с

детьми", "семейный отдых", "пансионаты в Польше"), исправления

распространенных ошибок (запрос "gjujlf" - ассоциация "погода"),

возможности сориентироваться в незнакомой тематике (запрос "антибиотик" -

ассоциации "сумамед", "цифран", "бисептол" и т.д.)

Как сделать, чтобы Rambler находил мои документы?

Прежде всего рекомендуем заполнить регистрационную анкету в поисковой

системе Rambler. Это будет гарантией того, что роботы Рамблера узнают о

Вашем сайте и скорее начнут его индексацию. Анкета находится по адресу

http://www.rambler.ru/doc/add_site_form.shtml.

Автоматически роботы Rambler сканируют сайты, находящиеся в следующих

доменах первого уровня:

Российская Федерация: .ru, .su

Украина: .ua

Белоруссия: .by

Казахстан: .kz

Киргизия: .kg

Узбекистан: .uz

Грузия: .ge

и игнорируют сайты из других доменов.

Если Ваш сайт находится вне названных доменов (например, в зонах .com,

.org, .net), но существенная часть сайта содержит русскоязычные материалы

или, по Вашему мнению, он может представлять интерес для русскоязычной

аудитории Рамблера, Вы можете отослать письмо на адрес

search.support@rambler-co.ru с просьбой включить Ваш сайт в число

сканируемых, либо заполнить форму обратной связи. Наши сотрудники

рассмотрят эту просьбу и примут решение о целесообразности такого

включения.

Рекомендуем зарегистрировать сайт в рейтинге Top100 и расставить счетчик на

всех страницах сайта. Анкета, заполняемая при регистрации в этом рейтинге,

индексируется ежедневно, а специальный робот Рамблера дважды в день

пополняет базу поисковой машины новыми страницами, на которых размещен

счетчик. Таким образом, включение сайта в Тор100 - это самый быстрый способ

попасть в результаты поиска!

При заполнении полей анкеты "Название сайта" и "Описание" не следует

вводить в них длинные перечни ключевых слов. Эти поля все равно пока не

используются для поиска. Название и описание должны быть предназначены для

прочтения человеком, так как эти поля используются в наших внутренних базах

данных и просматриваются редакторами.

Рамблер умеет извлекать гиперссылки из объектов Macromedia Flash. Если Ваш

сайт имеет заставку или навигационные панели, выполненные c использованием

этой технологии, Рамблер обработает их, найдет адреса всех страниц сайта и

проиндексирует весь сайт. Однако, сами тексты flash-объектов не

индексируются. Это решение принято потому, что большая часть таких объектов

содержит элементы навигации, заставки, меню и другие фрагменты, очень

важные в качестве источника гиперссылок, но малоинформативные как текст.

Для сайтов, которые целиком состоят из flash-объектов, рекомендуется

создать HTML-копию и зарегистрировать ее в поисковой машине.

Роботы Рамблера при сканировании игнорируют поля

и все другие поля , кроме . Это связано с

тем, что наша система старается индексировать документ таким, какой он есть

(то есть таким, каким его видит пользователь). Не секрет, что зачастую

создатели интернет-страниц злоупотребляют этими полями, пытаясь заставить

поисковые машины находить документ по запросам, не имеющим к нему прямого

отношения.

Не следует также использовать невидимый текст (в котором цвет шрифта

совпадает с цветом фона).

Комментарии в документе роботы Рамблера тоже не сканируют, поэтому советуем

использовать их по прямому назначению. Помните, что каждый комментарий

увеличивает размер Вашего документа, а значит, снижает вероятность того,

что документ будет просмотрен пользователем до конца.

Обратите внимание на заголовки и выделения в документе. Базовые понятия и

ключевые для данного сайта слова целесообразно включать в следующие HTML-

теги (в порядке значимости):

...

, ,

Чем чаще слово встречается в этих полях, тем более вероятно, что поисковая

система Rambler выдаст ссылку на Ваш документ ближе к началу списка

результатов поиска. Конечно, использование этих тегов должно органично

сочетаться с дизайном Вашего сайта.

С точки зрения поиска, использование фреймов в документе не приветствуется.

Это не означает, что роботы не умеют сканировать фреймы. Роботы Rambler

прекрасно справляются с конструкциями фреймов, однако наличие лишнего этажа

ссылок (от головного навигационного фрейма к "содержательным") замедляет

индексацию.

Мы советуем включать в документы с фреймами HTML-тег с текстом

документа и ссылками. Разумеется, это увеличит размер документа, но будет

являться актом доброй воли по отношению к пользователям текстовых браузеров

(например, Lynx) и поисковым машинам.

Максимальный размер документа для роботов Рамблера составляет 200 килобайт.

Документы большего размера усекаются до указанной величины. Впрочем,

размещать в Сети документы такого размера без особой на то необходимости -

все равно дурной тон; мы рекомендуем в любом случае ограничивать объем

документа разумными рамками.

Роботы Рамблера обрабатывают ссылки типа ,

однако наряду со ссылкой такого вида мы рекомендуем поместить в текст

документа конструкцию . Это ускорит индексацию документов,

указанных в imagemap, и облегчит доступ к документам для обычных браузеров.

При написании документов внимательно следите за соблюдением

русского/латинского регистров. Часто, например вместо русской буквы 'р'

используют латинскую 'p', вместо русского 'с' - латинское 'c'. Некоторые

подобные ошибки индексатор исправляет, но не все. Слова с подобными

опечатками теряют информативность.

Старайтесь не использовать дефисы '-' в качестве символов переноса. При

этом слова разбиваются и теряют информативность; кроме того, такие переносы

имеют все шансы оказаться у пользователя в середине строки. Помните, что

браузер сам осуществляет представление документа согласно текущим

установкам каждого конкретного пользователя.

Часто изменяющиеся (динамические) документы рекомендуется исключить из

списка индексируемых, т. к. актуальность этих документов быстро теряется.

Осуществить это можно с помощью стандартного для HTTP механизма -

посредством файла robots.txt в головной директории Вашего сайта или HTML-

тега .

Части документа, не требующие, по Вашему мнению, индексации, можно отделять

в документе с помощью тегов ... . Из частей документа,

размеченных этими тегами, также не будут выделены ссылки для дальнейшего

обхода.

При задании перекрестных ссылок в документе будьте предельно внимательны,

проверьте работоспособность каждой ссылки, иначе роботы (и пользователи!)

не смогут добраться до некоторых из Ваших документов.

Следует также иметь в виду, что с точки зрения HTML записи типа:

и

("слэш" в конце href)

являются разными ссылками. Обычно при запросе по первой ссылке робот

получит редирект на вторую, а значит извлечет сам документ при обращении к

Вашему серверу только на следующем проходе. Тем самым Вы замедляете

индексацию Вашего сайта.

Отнеситесь к планированию и размещению Вашего сайта серьезно, чтобы

впоследствии не пришлось забрасывать администраторов поисковых систем

письмами с просьбой переиндексировать сайт в связи с его переносом или

полным изменением структуры. Поисковые машины - вещь достаточно

инерционная, и переиндексация не будет мгновенной.

Как управлять индексированием сайта

Использование файлов robots.txt

Роботы и файл robots.txt

Рамблер, как и другие поисковые машины, для поиска и индексации интернет-

ресурсов использует программу-робот. Робот скачивает документы,

выставленные в Интернет, находит в них ссылки на другие документы,

скачивает вновь найденные документы и находят в них ссылки, и так далее,

пока не обойдет весь интересующий его участок Сети. Наш робот "зовут"

StackRambler.

Когда робот-индексатор поисковой машины приходит на web-сайт (к примеру, на

http://www.rambler.ru/), он прежде всего проверяет, нет ли в корневом

каталоге сайта служебного файла robots.txt (в нашем примере -

http://www.rambler.ru/robots.txt).

Если робот обнаруживает этот документ, все дальнейшие действия по

индексированию сайта осуществляются в соответствии с указаниями robots.txt.

Вы можете запретить доступ к определенным каталогам и/или файлам своего

сайта любым роботам-индексаторам или же роботам конкретной поисковой

системы.

Правда, инструкциям файла robots.txt (как и meta-тегов Robots, см. ниже)

следуют только так называемые "вежливые" роботы - к числу которых робот-

индексатор Рамблера, разумеется, относится.

Размещение файла robots.txt

Робот ищет robots.txt только в корневом каталоге Вашего сервера. Под именем

сервера здесь понимаются доменное имя и, если он есть, порт.

Размещать на сайте несколько файлов robots.txt, размещать robots.txt в

подкаталогах (в том числе подкаталогах пользователей типа

www.hostsite.ru/~user1/) бессмысленно: "лишние" файлы просто не будут

учтены роботом. Таким образом, вся информация о запретах на индексирование

подкаталогов сайта должна быть собрана в едином файле robots.txt в "корне"

сайта.

Имя robots.txt должно быть набрано строчными (маленькими) буквами,

поскольку имена интернет-ресурсов (URI) чувствительны к регистру.

Ниже приведены примеры правильных и неправильных размещений robots.txt.

Правильные:

http://www.w3.org/robots.txt

http://w3.org/robots.txt

http://www.w3.org:80/robots.txt

(В данном случае все эти три ссылки ведут на один и тот же файл.)

Неправильные:

http://www.yoursite.ru/publick/robots.txt

http://www.yoursite.ru/~you/robots.txt

http://www.yoursite.ru/Robots.txt

http://www.yoursite.ru/ROBOTS.TXT

Формат файла robots.txt

Пример

Следующий простой файл robots.txt запрещает индексацию всех страниц сайта

всем роботам, кроме робота Рамблера, которому, наоборот, разрешена

индексация всех страниц сайта.

# Инструкции для всех роботов

User-agent: *

Disallow: /

# Инструкции для робота Рамблера

User-agent: StackRambler

Disallow:

Группы инструкций для отдельных роботов: User-agent

Любой файл robots.txt состоит из групп инструкций. Каждая из них начинается

со строки User-agent, указывающей, к каким роботам относятся следующие за

ней инструкции Disallow.

Для каждого робота пишется своя группа инструкций. Это означает, что робот

может быть упомянут только в одной строке User-agent, и в каждой строке

User-agent может быть упомянут только один робот.

Исключение составляет строка User-agent: *. Она означает, что следующие

за ней Disallow относятся ко всем роботам, кроме тех, для которых есть свои

строки User-agent.

Инструкции: Disallow

В каждой группе, вводимой строкой User-agent, должна быть хотя бы одна

инструкция Disallow. Количество инструкций Disallow не ограничено.

Строка "Disallow: /dir" запрещает посещение всех страниц сервера, полное

имя которых (от корня сервера) начинается с "/dir". Например: "/dir.html",

"/dir/index.html", "/directory.html".

Чтобы запрещать посещение именно каталога "/dir", инструкция должна иметь

вид: "Disallow: /dir/".

Для того, чтобы инструкция что-либо запрещала, указанный в ней путь должен

начинаться с "/". Соответственно, инструкция "Disallow:" не запрещает

ничего, то есть все разрешает.

Внимание: точно так же и инструкции "Disallow: *", "Disallow: *.doc",

"Disallow: /dir/*.doc" не запрещают ничего, поскольку файлов, имя которых

начинается со звездочки или содержит ее, не существует! Использование

регулярных выражений в строках Disallow, равно как и в файле robots.txt

вообще, не предусмотрено.

К сожалению, инструкций Allow в файлах robots.txt не бывает. Поэтому даже

если закрытых для индексирования документов очень много, Вам все равно

придется перечислять именно их, а не немногочисленные "открытые" документы.

Продумайте структуру сайта, чтобы закрытые для индексирования документы

были собраны по возможности в одном месте.

Пустые строки и комментарии

Пустые строки допускаются между группами инструкций, вводимыми User-agent.

Инструкция Disallow учитывается, только если она подчинена какой-либо

строке User-agent - то есть если выше нее есть строка User-agent.

Любой текст от знака решетки "#" до конца строки считается комментарием и

игнорируется.

Использование META-тегов "Robots"

В отличие от файлов robots.txt, описывающих индексацию сайта в целом, тег

управляет индексацией конкретной web-

страницы. При этом роботам можно запретить не только индексацию самого

документа, но и проход по имеющимся в нем ссылкам.

Инструкции по индексации записываются в поле content. Возможны следующие

инструкции:

NOINDEX - запрещает индексирование документа;

NOFOLLOW - запрещает проход по ссылкам, имеющимся в документе;

INDEX - разрешает индексирование документа;

FOLLOW - разрешает проход по ссылкам.

ALL - равносильно INDEX, FOLLOW

NONE - равносильно NOINDEX, NOFOLLOW

Значение по умолчанию: .

В следующем примере робот может индексировать документ, но не должен

выделять из него ссылки для поиска дальнейших документов:

Имя тега, названия и значения полей нечувствительны к регистру.

В поле content дублирование инструкций, наличие противоречивых инструкций и

т.п. не допускается; в частности, значение поле content не может иметь вид

"none, nofollow".

Заключение

Заключение пишется в конце и предполагает конечность. Но рост информации

бесконечен, а потому нет предела совершенствованию поисковых машин.

Важнейшей задачей разработчиков является улучшение качества поиска,

движение в сторону большей эффективности и удобства в использовании

системы. С этой целью постоянно меняются поисковые алгоритмы, создаются

дополнительные сервисы, дорабатывается дизайн.

Однако для того, чтобы выжить в мире динамичного Интернета, при разработке

необходимо закладывать большой запас устойчивости, постоянно заглядывать в

завтрашний день и примерять будущую нагрузку на сегодняшний поиск. Все, что

сегодня программируется в Рамблере, рассчитано "на вырост". Такой подход

позволяет заниматься не только постоянной борьбой и приспособлением

поисковой машины к растущим объемам информации, но и реализовывать что-то

новое, действительно важное и нужное для повышения эффективности поиска в

сети Интернет.

Использованные ссылки:

http://www.rambler.ru

http://top100.rambler.ru

http://rambler-tv.ru

http://people.rambler.ru

http://r0.ru

http://www.nakarte.ru

http://groups.rambler.ru

http://www.ferra.ru

http://mixei.ru

http://raskrutka.net

http://www.connect.ru

http://www.ramtel.ru

Страницы: 1, 2, 3, 4