×
Россия +7 (495) 139-20-33

Оценка исходящих ссылок для подсчета PR с учетом не проиндексированных

Россия +7 (495) 139-20-33
Шрифт:
1 3514

Введение

Отбор и упорядочивание результатов по запросам для трех миллиардов гипертекстовых документов, которые составляют веб-граф G(V,E), представляется работой крайне трудной, вместе с тем, очень важной. Анализу ссылочного ранжирования отводится главная роль в статье.

Постепенное разрастание и динамическая природа веб-графа вынуждают проводить анализ ссылочного ранжирования, основываясь на схемах ранжирования, подобных PageRank. При этом обязательно нужно учесть “потерянную” информацию, возникающую в связи с тем, что некоторые гипертекстовые документы не проиндексированы поисковыми системами.

В связи с этим возникает вопрос о точности рассчитанной величины PageRank: как можно оценить “потерянную” информацию и включить ее в расчет PageRank. Об этом будет сказано позже.

Итерационный расчет PageRank и недостаточные данные

Недостаток информации о ссылках со страниц, которые не были проиндексированы роботами поисковых систем, представляется в итерациях при расчете PR в качестве незаполненных строк матрицы переходов, чье стационарное распределение выражается через вектор PageRank. Под стационарным распределением понимается такое распределение вероятности, которое не меняется с течением времени.

Таким образом, необходимо либо удалить те вершины графа, которые учитываются при расчете, либо изменить предсказанное распределение (нормализованный вектор вершин графа). Далее будет показано, как недостаток информации может серьезно повлиять на точность расчета PageRank.

Но для начала дадим определение словосочетанию “точность PageRank”.

Определение №1: Дано подмножество Vk вершин графа G(V,E), реальные PR подмножества Vk – это PR, учтенные в подграфе G’(Vk,Ek) и смоделированные для вершин Vk, следовательно, G’ имеет ограничения xy∈E, x,y∈Vk

На любой стадии процесса подсчета PR все множество гипертекстовых документов V может быть разделено на подмножество проиндексированных страниц С и подмножество не проиндексированных страниц С’. Определим множество С следующим образом F={p:∃(q∈C)(q,p)∈E}. Впредь запись q→p будет использоваться для обозначения записи вида (q,p)∈E. Выделим также подмножество страниц, известных, но не проиндексированные роботами поисковых систем Fc'={F∩C'} . Ссылки с данных страниц и на эти страницы не будут учитываться при расчете PR. Также обозначим множество {C∪Fc'} уже известным Vk и введем следующее обозначение Nk=Vk.

Определение №2. “Достоверность”:Зададим неполной матрице переходов размерность N и распределение p(⋅) , чтобы получить ряды, не соответствующие заданным условиям (нормализованный вектор исходящих ссылок). Подсчет PR считается достоверным в том случае, если разница между рассчитанным и реальным PR составляет O.

Замечание №1: Для исходящих ссылок, с равномерным распределением p(⋅), расчет PR верен, если размерность подмножества неизвестных вершин веб-графа не превышает O(√Nk).

Предположим, что распределение исходящих ссылок равномерное, однако это утверждение, не является догмой. Предполагается, что выборка исходящих ссылок больше разрежена, нежели та, которая получена равномерной дискретизацией по всему множеству N. Более точное приближение может быть получено, если брать симплексы с меньшей размерностью. Под симплексом понимается геометрическая фигура, представляющая собой n-мерное обобщение треугольника.

Установим нашему симплексу размерность N. Однако, может оказаться так, что разница результатов, полученных при равномерном распределении и при выборе симплексов меньшей размерности, возрастет.

Данный момент необходимо учесть в качестве неизвестных переменных матрицы переходов. За более подробным объяснением данного аспекта нужно обратиться к источнику [2], где описывается работа исключительно с проиндексированными страницами.

Стационарное распределение может быть выявлено. Однако, окончательные PR могут быть подсчитаны только после того, как будут проделаны многочисленные расчеты. Также не стоит забывать, что только определенное количество итераций может быть использовано для расчета PR вершин из подмножества FC' .

Дальнейший анализ позволит нам определиться с PR для страниц, которые не проиндексированы.

Оценка количества “висящих” ссылок.

Рассматривается тот метод, когда будут заполняться неизвестные строки матрицы переходов переменными, не связанными с равномерным распределением. Можно предположить, что распределение значений переходов учитывает усредненное значение, чтобы под влиянием достаточно слабых ограничений перейти к стационарному распределению или к оценкам PR.

Замена неизвестных значений их ожиданиями является одним из самых известных допущений. Наиболее наглядным способом представления веб-графа является графический. График должен сыграть решающую роль в понимании основных моментов. Модель, в которой одни вершины связаны с другими вершинами пропорционально их PR вырабатывает фундаментальные законы, описанные в источнике [3].

Необходимо проводить итерационные вычисления многократно, где каждый следующий PR будет рассчитываться, заполняя при этом пустые строки матрицы. Таким образом, найдем вектор r, при замене которого как неизвестного ряда, мы вновь получим наши PR. Величину r можно будет рассчитать аналитическим путем, не прибегая к большому количеству расчетов на каждой итерации.

Замечание №2: Подсчет PR страниц из подмножества С, осуществляемый итерацией за итерацией, постепенно заполняя PR матрицу переходов, обеспечивает достоверность PR при условии, что входные данные в неизвестных строках будут иметь такое же распределение как и вектор r.

Кластеризованная оценка.

В данном случае нашей целью является оценка неопределенных рядов PR-ов матрицы T, то есть выявление условного распределения P(y2y1) и соответствующего стационарного распределение вектора новых PR-ов, вектора r. Для этого вводится динамическая модель.

Существует вероятность того, что страница , связанная со страницей , может быть выражена через множество переменных Z. Данная модель исчислена в случайных переменных Z путем введения таких ограничений, что конечные столбцы и строки имеют одинаковое распределение. Данные ограничения имеют также большую ценность в том, что совместное распределение дискретных случайных величин, может быть отражено с помощью цепей Маркова.

Таким образом, появляется возможность пусть более грубого подсчета PR, но с возможностью конечной оценки данного подсчета. Модель можно представить следующим образом:

Множество Y может быть смоделировано как фиксированное множество независимых параметров, несмотря на то, будет ли меняться множество Y или нет. Данный аспект позволяет использовать модель в качестве динамической. Однако здесь мы сталкиваемcя с очередной проблемой: как оценить P(y2)? Для этого нужно определиться с вероятностями переходов P(y2y1), которые в свою очередь требуют знания P(y2).

Введем следующие обозначения:

U[i,j]=P(Z(yi)=iyi

диагональная матрица R[i,j]=p(yi)=ri и r[i] = P(yi)

Используя равенство (1) и свойство стационарности получаем:

Составив для матриц A и U линейное уравнение Y=Nk, неизвестные могут быть найдены многочисленными итерациями с выбранной максимальной энтропией линейных ограничений.

Расстояние L1 между реальными и предсказанными строками матрицы переходов показано на рис.1 для некоторого подмножества веб-графа. Байесовский подход используется здесь для сравнения


Рис.1 Сравнение результатов предсказания веса исходящих оценка висящих ссылок, кластеризованная оценка, байесовский подход, равномерное распределение и распределение, соответствующее нулевой гипотезе.

Более полную информацию о расчете PR можно получить из следующих источников:

  1. http://www-dbv.cs.uni-bonn.de/abstracts/hofmann.TR-98-042.html;
  2. http://dbpubs.stanford.edu:8090/pub/1999-66;
  3. http://www.cs.brown.edu/research/pubs/pdfs/2005/Pandurangan-2005-UPC.pdf.

Sreangsu Acharyya, Joydeep Ghosh

Перевод под редакцией Сергея Стружкова
(Голосов: 5, Рейтинг: 5)
Читайте нас в Telegram - digital_bar

Есть о чем рассказать? Тогда присылайте свои материалы Ане Макаровой


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
  • Денис Щеглов
    7
    комментариев
    0
    читателей
    Денис Щеглов
    больше года назад
    Я страюсь в такие подробности не вдаваться, если доподлинно известно, что много жирных ссылок это хорошо, то их просто надо ставить. Подобные труды хороши для тех, кто создает поисковые системы, а не для сеошников.
    -
    0
    +
    Ответить
ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
«Юзабилити-лаборатория»: оставляйте заявку на участие!
Анна Макарова
381
комментарий
0
читателей
Полный профиль
Анна Макарова - Антон, добрый день! Ваш сайт не попал в основную выборку для юзабилити-анализа, но эксперты постараются сделать по вашему сайту видеоразбор (ю-ревью). Будем держать вас в курсе )
Тест по SEO – проверь свой уровень знаний
Артем Дорофеев
8
комментариев
0
читателей
Полный профиль
Артем Дорофеев - Полный текст вопроса со скриншотом панели прикладываю. Итого, что имеем: - на скриншоте отмечено, что это фильтр МПК - сайт коммерческий - рекламы на сайте нет С вероятностью 95% это ошибка (которая уже дважды случалась в Яндексе), когда они случайно "закосили" неповинные сайты. Тогда по запросу Платону фильтр быстренько снимали. Но вопрос даже не на знание этого нюанса. В любой непонятной ситуации, прежде чем что-либо предпринимать (особенно переписывать весь контент на сайте или менять дизайн, как указано в других вариантах) - фильтр следует подтвердить. Правильный ответ: "Написать письмо в техподдержку Яндекса".
Кейс: как за 30 дней вывести новый сайт в ТОП выдачи Google
Сергей
2
комментария
0
читателей
Полный профиль
Сергей - Прошёл у Паши курс год назад, пытался продвигать свой сайт portativ.org.ua, но особых продвижений нет. Наверное сео уже умерло??
Выбираем CMS для сайта с точки зрения SEO: базовые требования
SEO.RU
6
комментариев
0
читателей
Полный профиль
SEO.RU - Спасибо за замечание, действительно была допущена неточность - возможно информация была не так давно обновилась. Данные в статье поправим на актуальные.
100+ ресурсов по SEO для изучения поисковой оптимизации с нуля
Марина Ибушева
0
комментариев
0
читателей
Полный профиль
Марина Ибушева - Спасибо за добавление. Мы уже работаем над отдельным материалом про курсы, потому что одной статьи мало, чтобы охватить все крутое по обучению)
Digital-marketing: как выжить в кризис. Опыт реальной компании
Maks
1
комментарий
0
читателей
Полный профиль
Maks - Спасибо за опыт Вашей компании, Иван Папусь. Интересно получилось! Желаю Вашему бизнесу стабильности и успешно пережить все кризисы))
SEO must go on! Почему в кризис нельзя останавливать продвижение сайта
everystraus
43
комментария
0
читателей
Полный профиль
everystraus - Мы даже варианты не рассматривали. Если проект неустойчив, сразу предлагали сбавить обороты до минимума, но и так, чтоб не свалиться в штопор. Именно по СЕО чаще всего.
Как стандартизировать данные семантики с помощью логарифмов
Юлий
1
комментарий
0
читателей
Полный профиль
Юлий - Чем снималась коммерцелизация?
Гайд по работе с освобождающимися доменами: перехват, восстановление, создание сетки и заработок
Daniel Dan
1
комментарий
0
читателей
Полный профиль
Daniel Dan - Интересно и полезно читать, Спасибо!
Платные и бесплатные курсы по SEO и интернет-маркетингу для новичков и опытных специалистов
Алексей Терещенко
1
комментарий
0
читателей
Полный профиль
Алексей Терещенко - Запустил бесплатный марафон для SEO специалистов с нуля в Фейсбуке. Рекомендую начинать совой путь с него и дальше уже определятся, нравится направление или нет. Так же на базе обучающего марафона есть сообщестово в котором все в удобном формате общаются и постигают профессию. Моя миссия - создать сообщество крутых и образованых seo специалистов и поднять качество услуг на высокий уровень. Кому интересно, присоеденяйтесь www.facebook.com/groups/startseofree/
ТОП КОММЕНТАТОРОВ
Комментариев
910
Комментариев
834
Комментариев
554
Комментариев
540
Комментариев
483
Комментариев
381
Комментариев
373
Комментариев
262
Комментариев
249
Комментариев
171
Комментариев
156
Комментариев
141
Комментариев
121
Комментариев
113
Комментариев
97
Комментариев
97
Комментариев
96
Комментариев
89
Комментариев
80
Комментариев
77
Комментариев
67
Комментариев
60
Комментариев
60
Комментариев
59
Комментариев
57

Отправьте отзыв!
Отправьте отзыв!