Вышло обновление моего любимого инструмента Screaming Frog SEO Spider, версия 15.0, которую разработчики назвали «disparity», что при адаптации на русский язык переводится как «различие».
Как заявляют разработчики, в этом обновлении основное внимание уделяется важной функции, которую они уже давно хотели представить и постепенно развивали её. Давайте разберемся что имели ввиду разработчики и что нового.
Сравнение данных сканирований
Теперь вы можете сравнить несколько сканирований и увидеть, как с течением времени изменялись данные сайта, ошибки и рекомендации во вкладках и фильтрах инструмента.

Эта функция помогает увидеть прогресс в исправлении технических проблем в оптимизации сайта, предоставляя подробные данные об изменениях.
Для сравнения перейдите в «File > Crawls», выделите два файла сканирования и нажмите «Select To Compare».

Также сравнить сканирования можно через меню «Mode > Compare» нажав на кнопку «Select Crawl» для выбора файлов сканирования. Также можно настроить конфигурацию сканирований (подробнее об этом - далее) или просто нажать «Compare».

Это запустит сравнительный анализ сканирований, и правая вкладка Overview заполнится, показав текущие и предыдущие данные сканирования, а также то, как они изменились.
Также в Overview показано, были ли ранее отсканированные URL-адреса, найденные при предыдущем сканировании, перемещены из вкладки или фильтра («Added» - добавлены и «Removed» - удалены) или они полностью новые («New») или пропали при последнем сканировании («Missing»). Это может помочь отследить динамику и выявить проблемы с URL которые уже были ранее на сайте.

Вы можете посмотреть конкретные URL, которых коснулись изменения, для этого в отчете выберите интересующий фильтр: «Added», «Removed», «New» или «Missing».

Функция сравнения доступна только в лицензионной версии инструмента и в режиме памяти «Database Storage». Если у вас всё ещё не настроен данный режим памяти, то перейдите в «Configuration > System > Storage Mode» и в выпадающем меню выберите «Database Storage».
Сравнение структуры сайта
Вкладка Site Structure позволяет посмотреть на изменение структуры каталога. Тут показано в каких разделах сайта есть новые страницы или в каких разделах страниц стало меньше. Например, на следующем скриншоте видно что в разделах /sites/, /fanzone/, /fixture/ и /news/ стало больше страниц.

Это может помочь получить больше информации о том, как сайт изменился между сканированиями.
Вы можете кликнуть по интересующему разделу и посмотреть, какие конкретные URL-адреса были изменены.

Также можно построить диаграмму позволяющую отследить как изменилась глубина сканирования, что ещё лучше помогает оценить изменения во внутренних ссылках и структуре.

Обнаружение изменений
Хотя на вкладке Overview можно отследить большинство важных изменений между сканированиями, на ней не посмотреть изменились ли важные для оптимизации элементы или показатели, например: тег title, количество слов документа, глубина сканирования, внутренние ссылки, микроразметка и т.д.
Но, на ней можно посмотреть, например, что в заголовке страницы теперь указано слишком много символов «Over X Characters» или заголовок вообще отсутствует «Missing», все то что использовалось в фильтрах Screaming Frog SEO Spider. Быть в курсе таких изменений важно, так как они могут повлиять на ранжирование страниц сайта в поиске.
Посмотреть все это можно в новой вкладке «Change Detection».

Это может пригодиться для проверки выполнения рекомендации по оптимизации (внедрил ли клиент ваши рекомендации по мета-тегам) или при мониторинге сайта, ведь теперь можно получать уведомления об изменениях!
Ещё одна возможность использования - это проверки на соответствие мобильной и десктопной версии сайта, также проверка сайта с учетом JavaScript и без учета JavaScript на предмет различий.
Находясь в режиме сравнения «Compare», вы можете перейти в настройки сравнения кликнув по шестеренке сверху (или в меню «Configuration > Compare») и выбрать, по каким показателям вам нужно отслеживать изменения.

После нажатия кнопки «Compare» и выполнения сравнения становится доступной вкладка «Change Detection», на которой показана подробная информация об изменениях.
Вы можете нажать на элемент и просмотреть изменения во вкладке с данными, например, вы можете видеть рядом текущие и предыдущие теги Title страниц и понять, как они изменились.

Внутренние ссылки важны для продвижения, и функция сравнения может предупредить вас о страницах, которые внезапно потеряли некоторые внутренние ссылки.

Вы также можете следить за страницами, контент которых был расширен.

Или изменилась глубина вложенности страниц при сканировании.

На этом полезности не заканчиваются, мы также можем использовать фильтр сравнения в нижнем окне. Например, если в верхнем окне мы видим что глубина вложенности страницы стала «2» вместо «3», то в нижнем окне мы можем посмотреть какие появились внутренние ссылки на эту страницу выбрав фильтр «Added» во вкладке «Inlinks».

В приведённом на скриншоте выше примере текущее сканирование было сканированием с включенным JavaScript, а предыдущее сканирование выполнялось без JavaScript (только базовый HTML). А это значит, что на главной странице сайта есть ссылки на страницу с портфолио, которые выводятся с использованием JavaScript (и тот же Яндекс эти ссылки не увидит).
Для обнаружения изменений контента «Content» необходимо чтобы HTML-код страниц сохранялся при сканировании («Configuration > Spider > Extraction > Store HTML & Store Rendered HTML»). Данный анализ занимает чуть больше времени из-за использования алгоритма minhash, но позволяет приблизительно понять процент изменения контента страницы от предыдущего к текущему сканированию на основе вашей настроенной области основного контента («Configuration > Content > Area»).

В примере на скриншоте выше контент сообщения разработчиков Screaming Frog в их блоге о версии SEO Spider 14.0 изменился на 1% между сканированиями.
Вы можете щелкнуть вкладку «View Source» в нижнем окне, выбрать сравнение «Compare» и показ различий «Show Differences», чтобы изменения в HTML были подсвечены.

Сопоставление URL-адресов разных доменов
В рамках сравнения сканирования была добавлена функция сопоставления URL-адресов, которая позволяет сравнивать URL различных доменов. Это полезно при сравнении действующего сайта с тестовым или мобильной версии сайта на поддомене, с его основной версией (для компьютеров).
Для настройки сопоставления URL, перейдите в настройки сравнения («Crawl Comparison Configuration») и «URL Mapping». Затем введите регулярное выражение заменяющее вычленяющее из URL тестовый домен и введите сам действующий домен. Например, команда Screaming Frog недавно перешли на хостинг Kinsta и протестировали размещенный на новом хостинге сайт перед переездом с использованием этой новой функции.

В результате тестовый домен Kinsta перезапишется на основной сайт, и эквивалентные URL-адреса будут сравниваться друг с другом для получения данных во вкладки Overview, Issues и Opportunities, Site Structure и Change Detection.
Вы можете переключаться между текущим и предыдущим сканированием, чтобы изучать различные структуры URL.

Эта функция также отлично подходит для вычисления глобальных изменений в URL вроде настройки редиректа со страниц со слэшем на конце (на страницы без слэша).
Что ещё нового
В версию 15.0 также вошли небольшие обновления и исправления ошибок. Все они перечислены далее:
- Стала поддерживаться микроразметка «Math solvers», используемая Google.
- На вкладке «Internal» появился новый столбец «Crawl Timestamp» со временем сканирования URL.
- Папки проекта в меню «File > Crawls» теперь свернуты по умолчанию.
- В адресной строке теперь по умолчанию будет использоваться HTTPS, если вы не укажете протокол.
- Исправлена проблема размытия интерфейса на экранах с высоким разрешением как в Windows, так и в Linux (при любых настройках масштабирования).
- Исправлено множество ошибок, которые довольно скучные и не стоят подробного описания (по словам разработчиков).
На этом пока все. С пожеланиями по доработке инструмента или исправлению ошибок, то можно обратиться к разработчиками инструмента на странице поддержки.