×
Россия +7 (495) 139-20-33

RSS новости: некоторые способы импорта ленты новостей

Россия +7 (495) 139-20-33
Шрифт:
1 26656
Подпишитесь на нас в Telegram

1. Введение
2. Как подключить RSS
3. Способы получения RSS при помощи php
4. Способы обработки xml
5. Оптимизация работы с RSS
6. Некоторые проблемы при работе с RSS
7. Заключение

1. Введение

О том, как RSS может помочь продвижению – можно почитать здесь. В общем - данные ленты новостей позволяют часто обновлять контент на сайте, это приводит к тому, что роботы начинают чаще посещать сайт. В этом МК я постараюсь дать несколько способов внедрения данной технологии на странички сайта.

«Для начала, определимся с тем, что такое RSS. Кратко, RSS – это формат синдикации web-контента. Это обычный формат представления данных, основанный на языке XML. Первоначально этот формат был разработан специально для экспорта заголовков новостей. Однако область его применения может выходить далеко за рамки этой задачи. Вы с легкостью можете экспортировать любую информацию, любые материалы. Формат примечателен тем, что дает единство представления данных. Любая информация, оформленная в RSS должна соответствовать определенной структуре... Благодаря такой формализации, конечный пользователь получает информацию в стандартизированном виде, что упрощает чтение и работу с ней. Именно удобством работы и объясняется растущий интерес к этому формату и его всё большая популяризация».
(http://www.kanban.ru/info/webmaster/)

Подробнее о том, что такое RSS можно почитать здесь (http://blogs.law.harvard.edu/tech/rss, http://podolsk.biz/p147.htm, http://www.kanban.ru/info/webmaster/).

В начале данного мастер-класса я покажу, как можно внедрить RSS непосредственно на страницу (здесь будут рассмотрены способы подключения RSS только при помощи php). Затем – некоторые способы оптимизации работы с RSS. В заключении я расскажу о некоторых проблемах RSS и способах их решения.

2. Как подключить RSS

RSS - данные, представленные в виде xml определенной структуры. Общий принцип подключения RSS можно представить следующим образом:

  1. Получение RSS из определенного источника.
  2. Обработка RSS.
  3. Включение обработанной информации в текст страницы (это самый простой пункт. Достаточно сделать echo результата).

3. Способы получения RSS при помощи php

1. Cокетами

Пусть URL RSS = https://www.seonews.ru/rss/ (для всех остальных примеров).
Код получения rss новости будет примерно следующим:

< ?
$out = '';
$fp = fsockopen("www.seonews.ru", 80, $errno, $errstr, 1);
if ($fp) {
    $out = "GET /rss/ HTTP/1.1 ";
    $out .= "Host: www.seonews.ru ";
    $out .= "Connection: Close ";
    fwrite($fp, $out);
     $out = '';
     while (!feof($fp)) {
       $out .= fgets($fp, 128);
     }
    fclose($fp);
}
?>

Плюсы – Работает на всех версиях php, не требует дополнительных модулей.
Минусы – громоздкий код.

Возможные проблемы:

Одна из главных проблем – то, что контент скачивается с другого хоста. Соответственно, время загрузки основной страницы увеличивается на время загрузки RSS. Может быть такое, что канал будет забит, или сервер с новостью будет недоступен. Поэтому нужно ограничить время получения rss новости. Первое ограничение уже было сделано: последний параметр функции fsockopen установлен в 1 – это значит, что сокет будет открываться не дольше секунды, в случае неудачи переменная $out вернет пустую строку. Но есть еще одно «но»: сокет может открыться быстро, а данные будут скачиваться долго. Чтобы этого не произошло, перепишем код следующим образом:

< ?
$out= '';
$fp = fsockopen("www.seonews.ru", 80, $errno, $errstr, 1);
if ($fp) {
    $time = time();
    stream_set_timeout($fp, 1);
    $out = "GET /rss/ HTTP/1.1 ";
    $out .= "Host: www.seonews.ru ";
    $out .= "Connection: Close ";
    fwrite($fp, $out);
    $out = '';
    while (!feof($fp)) {
      $out .= fgets($fp, 128);
      if (time() - $time > 2) {
        $out = '';
        break;
      }
    }
    fclose($fp);
}
?>

Таким образом, в самом плохом случае задержка загрузки страницы из-за RSS не будет превышать 3 секунд: 1 секунда на открытие сокета и 2 секунды на получение данных. Функция stream_set_timeout($fp, 1); устанавливает максимальное время чтения из потока, а временем мы контролируем, чтобы вовремя выйти из цикла чтения из сокета данных.
О том, что делать, если данные не пришли – см. далее.

2. Curl

Это библиотека, которая позволяет взаимодействовать с различными серверами по различным протоколам.
Код с контролем времени будет выглядеть примерно следующим образом:

< ?
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, "https://www.seonews.ru/rss/");
// вернуть значение а не вывести на страницу
curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);
// чтобы заголовок не входил в контент
curl_setopt($ch, CURLOPT_HEADER, 0);
// ограничение по времени получения
// (сюда уже входит и время открытия соединения
// и время получения данных)
curl_setopt($ch, CURLOPT_TIMEOUT, 3);

$out = curl_exec($ch);
curl_close($ch);
?>

Плюсы – достаточно компактный код, с возможностью быстрой модификации.
Минусы – необходимо наличие установленного расширения для php и библиотеки curl, а также версия php не ниже 4.0.2

3. Другие способы

PHP позволяет получить данные из сети и другими способами, например, при помощи include с перехватом буфера содержимого или file_get_contents. Но управлять временем получения данных будет не так просто, как в описанных выше случаях.

4. Способы обработки xml

После того как мы получили данные, их необходимо обработать. Данные RSS хранятся в xml файле определенной структуры. Поэтому чтобы вписать ленту в дизайн сайта, а также избавится от ненужной информации, данные необходимо обработать.

Для начала – общая структура RSS. Упрощенно, структура RSS-файла выглядит так:
< ?xml version="1.0" encoding="UTF-8" ?>


  
    < title >
    < link>
    < description>
   
            < link>
      < title >
   
        item
      < title >
      < link>
      < description>
    /item>
    . . .
   /channel

Подробнее см., например, http://www.kanban.ru/info/webmaster/ или http://intenter.ru/rss_links.do. Зная структуру, можно вытащить необходимые данные. Ниже перечислено несколько способов.

1. xslt

Так как RSS – это xml, можно использовать xslt преобразование. Пусть у нас в переменной $out содержится полученная rss лента новостей в виде xml.
Пусть xslt шаблон находится в файле rss_temp.xsl, и содержит код, приведенный ниже:

< ?xml version="1.0" encoding="utf-8" ?>
< xsl:stylesheet
    version="1.0"
    xmlns:xsl="http://www.w3.org/1999/XSL/Transform">
    < xsl:output method="html" />
    < xsl:template match="rss/channel">
     


        < h1>< xsl:value-of select="title" />< /h1>
        < xsl:apply-templates select="title" />
        < xsl:apply-templates select="item" />
     

    < /xsl:template>
    < xsl:template match="title">
     

        < xsl:value-of select="text()" />
     

    < /xsl:template>
    < xsl:template match="item">
     

       

          < xsl:value-of select="title" />
       

       

          < a href="{link}">Link - < xsl:value-of select="pubDate" /> - < a href="mailto:{author}">Email
       

       

          Описание: < xsl:value-of select="description" />
       

     

    < /xsl:template>
< /xsl:stylesheet>

Чтобы использовать данное преобразование, можно воспользоваться следующим кодом:

< ?
    $result="";
    $xslt = xslt_create();
    $result = xslt_process($xslt, "arg:/_xml", "arg:/_xsl", NULL, array('/_xml' => $out, '/_xsl' => file_get_contents('rss_temp.xsl')));
    xslt_free($xslt);
?>

В результате, в переменной $result будет содержаться готовый для вставки кусок кода.
Плюсы – достаточно поменять шаблон, чтобы получить новый вид отображения ленты; достаточно гибкая технология.
Минусы – необходимо наличие модуля и библиотек xslt преобразования (sablotron для 4 версии php). Для пятой версии php код будет выглядеть иначе, т.к в пятой версии используется другая библиотека xslt преобразований: libxslt. Как вариант решения данной проблемы – можно использовать код, описанный в статье http://alexandre.alapetite.net/doc-alex/xslt-php4-php5/

2. Другие способы

В интернете можно найти достаточно большое количество готового кода для обработки RSS и адаптировать под свои нужды, например, http://www.rss.net.ua/rss_doc018.html или http://danneo.com/forum/showthread.php?t=1178. Также можно использовать регулярные выражения, например, если хостинг не поддерживает работу с xml технологиями.

5. Оптимизация работы с RSS

Одна из проблем RSS, как было сказано выше, - это то, что они находятся на других серверах. Если у вашего сайта большая посещаемость, то для каждого пользователя, зашедшего на сайт, нужно повторно вытаскивать одинаковую информацию из интернета, что забивает канал и уменьшает скорость работы сервера, а вследствии – скорость загрузки страницы. У каждой ленты есть период обновления. Поэтому приходит мысль использовать одни и те же данные повторно, то есть – кэшировать. К тому же технология xslt, например – достаточно ресурсоемкая и каждый раз использовать преобразование – это также может повлиять на скорость работы сайта.

Первый способ – это полученный результат сохранять в файле, и проверять время модификации этого файла. Если разница между текущем временем и временем модификации файла превышает заданный интервал (например, час), то попытаться снова получить данные и после обработки – переписать файл.

< ?
// Это добавить перед получением и обработкой rss
$rss_cache = 'rss_cashe.inc';
// если нет файла или время последнего изменения файла > 3600 с (1ч),
// то получить и обработать rss
if (!file_exists($rss_cache) (time() - filemtime()) > 3600) {
    // код получения и обработки rss,
    // на выходе – переменная с готовым для
    // отображения содержанием ($result)
    ...
    // запишем в кэш
    $f = fopen($rss_cache, 'wt');
    fwrite($f, $result);
    fclose($f)
} else {
    $result = file_get_contents($rss_cache);
}
?>

Второй способ – это обрабатывать новости сторонним скриптом, который запускается, например, по crontab, а результат сохранять в файле. На страницу импортировать уже готовый файл.

< ?
// предполагаем, Что скрипт лежит там-же, Где лежит страница, которая будет забирать новость.
$rss_cache = dirname(__FILE__) . '/rss_cashe.inc';
// если нет файла или время последнего изменения файла > 3600 с (1ч),
// то получить и обработать rss
if (!file_exists($rss_cache) (time() - filemtime()) > 3600) {
    // код получения и обработки rss,
    ...
    // запишем в кэш
    $f = fopen($rss_cache, 'wt');
    fwrite($f, $result);
    fclose($f)
}
?>

Этот скрипт следует поместить в файл, который будет запускаться по crontab или еще какому-либо планировщику. А на странице только в нужном месте указать:

< ?
$rss_cache = 'rss_cashe.inc';
include($rss_cache);
?>

6. Некоторые проблемы при работе с RSS
  1. Во всех примерах не указаны способы обработки ошибок. А так как и получение данных из интернета, и обработка данных в данном случае могут вызвать ошибки, то необходимо предусмотреть, как будет вести себя скрипт. Например, используя кэширование (о чем было написано выше), можно показывать последнюю удачно обработанную информацию. Или вообще ничего не показывать.
  2. Некоторые ленты могут пропадать или менять свой адрес (например, редизайн сайта, или сайт прекратил существование). Поэтому, если возникают ошибки достаточно часто, то нужно сигнализировать об этом администратору.
  3. Кодировка новости иногда не совпадает с той, что прописана в заголовке. Особенно это актуально для русских кодировок. Решения могут быть различными: можно вручную определить кодировку и конвертировать в нужную нам, можно автоматически определять кодировку (http://ivr.webzone.ru/articles/defcod_2/index.htm).

7. Заключение

Данный мастер-класс показывает лишь некоторые способы использования и обработки RSS при помощи php. Более подробную информацию можно получить из указанных источников. Код, который расположен на внешних источниках, приведен в качестве примера, его работоспособность проверена лишь частично. Код, используемый в данной статье проверен, но все мы можем ошибаться. Поэтому, при обнаружении неточностей, или неработоспособности кода – просьба сообщить автору мастер-класса.

Друзья, теперь вы можете поддержать SEOnews https://pay.cloudtips.ru/p/8828f772
Ваши донаты помогут нам развивать издание и дальше радовать вас полезным контентом.
Читайте нас в Telegram - digital_bar

Есть о чем рассказать? Тогда присылайте свои материалы Марине Ибушевой


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
  • Алексей
    больше года назад
    Call to undefined function xslt_create()
    -
    0
    +
    Ответить
ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
Продуктовый подход в SEO: новая эпоха поисковой оптимизации
Борис
1
комментарий
0
читателей
Полный профиль
Борис - Почитал и спич очень близок к тому, что гугловоды говорят у себя на курсере. К комменту ниже: инклюзивность, доступность - это часть маркетинга и seo становится. Удивился даже, что в снг о таком слышали)))))
Альманах фатальных ошибок b2b-сайта: как владельцы бизнеса обрекают сайты на бесславное существование. Часть первая
Сергей Ерофеев
3
комментария
0
читателей
Полный профиль
Сергей Ерофеев - Спасибо за комментарий! Вы правы, если за CMS следит заинтересованный профессионал - риски минимальны. Но мы же с вами понимаем, что: а) Не каждый разработчик делает все, как "для себя". б) После создания сайта разработчик редко остается на проекте в) Часто разработчик не является маркетологом. В этом случае принцип "функционал работает и этого достаточно" может быть на первом месте. Мы тоже видели большое количество хороших и качественных проектов на бесплатных CMS, но проблемных проектов мы видели сильно больше. Просто статистика.
Почему сайтам нужно переезжать с конструкторов на полноценные CMS
Seodm.ru
3
комментария
0
читателей
Полный профиль
Seodm.ru - Ааа по мне, сам seo специалист, вероятность внедрения необходимого контента на тильда того же блока этапом работы или преимуществ, намного выше чем на движке. А что тильда что движок малый бизнес норм продвигается особо супер разработки не требуется
Белые и серые методы продвижения. Тренды 2023
sarges
2
комментария
0
читателей
Полный профиль
sarges - Нужно учитывать и тот факт, что со временем методы продвижения меняются и необходимо подстраиваться под новые реалии. Посоветую заглянуть на zenlink.ru/blog/kak-izmenilsja-internet-marketing-za-10-let и почитать статью, там рассказывается о том, как изменился интернет-маркетинг за последние 10 лет, какие сейчас тенденции и какие прогнозы в этой сфере.
Почему не стоит отказываться от SEO на этапе разработки
Максимус
3
комментария
0
читателей
Полный профиль
Максимус - Я уже сделал и сегодня в первый класс отвёл!
Как мы увеличили для клиента трафик из поиска в 7 раз. Кейс
Кирилл Половников
2
комментария
0
читателей
Полный профиль
Кирилл Половников - Оба этих статуса (редирект и малополезная) преобладали в качестве проблем с индексацией. Помогла работа с .htaccess (в нем были ошибки и его чистили), работа над корректировкой редиректов, каноникалами и прочими техническими ошибками. Нельзя сказать, что только редиректы были ключевым препятствием.
Как показывать рекламу посетителям сайтов конкурентов
Павел
2
комментария
0
читателей
Полный профиль
Павел - Спасибо за комментарий. Гипотеза была в том, что с указанными счетчиками конкурентов показы будут не просто похожей аудитории их сайтов (как при рекламе по доменам), а именно на аудиторию которую Яндекс для себя разметил как целевая дл сайтов конкурентов. Важно, это гипотеза. А про белые нитки, как говорится, доверяй, но проверяй))
Как автоматизировать мессенджеры для бизнеса в CRM-системе
Алиналина
1
комментарий
0
читателей
Полный профиль
Алиналина - Кстати да. Но мы зарегались, CRMка реально интересная
Как монетизировать трафик с помощью push-подписок
Андрей
1
комментарий
0
читателей
Полный профиль
Андрей - Полностью согласен! Сейчас прикрыли регистрацию без активации ака, активация только через менеджера, но это говорит лишь о том что качество должно быть выше. Сотрудничаю, плюсую!
Кейс MediaNation: увеличили еженедельный трафик автомобильной компании на 50% за год и вышли в топ поиска по 300 запросам
Игорь Скляр
1
комментарий
0
читателей
Полный профиль
Игорь Скляр - Действительно, изначально рост был именно по информационным запросам. Но рост позиций и трафика по информационным запросам положительно повлиял и на связанные позиции по коммерческим запросам и сдвинул видимость с мёртвой точки
ТОП КОММЕНТАТОРОВ
Комментариев
910
Комментариев
834
Комментариев
554
Комментариев
540
Комментариев
483
Комментариев
385
Комментариев
373
Комментариев
262
Комментариев
249
Комментариев
171
Комментариев
156
Комментариев
141
Комментариев
121
Комментариев
115
Комментариев
100
Комментариев
97
Комментариев
97
Комментариев
96
Комментариев
80
Комментариев
77
Комментариев
74
Комментариев
67
Комментариев
63
Комментариев
60
Комментариев
59

Отправьте отзыв!
Отправьте отзыв!