只需 4 个简单步骤即可查找网站上的所有页面

Advancing Forum Analytics at China Data
Post Reply
jibag32316
Posts: 30
Joined: Mon Dec 09, 2024 3:56 am

只需 4 个简单步骤即可查找网站上的所有页面

Post by jibag32316 »

步骤 1:下载 Screaming Frog(免费版本功能强大,非常棒)
就在这里打开新窗口。

总体而言,我并不喜欢这种浏览器工具,而 Screaming Frog 的免费版本功能过于强大,任何从事类似网站管理员或 SEO 工作的人都应该至少拥有它。不,这不是联盟链接,我只是非常相信这个产品。

第 2 步:配置 Screaming Frog Spider
从技术上讲,这一步是可选的,但 阿尔巴尼亚手机号码数据库 它可以让你抓取更多的页面,这就是你所需要的。

安装并运行 Screaming Frog 后,转到配置 > Spider:

尖叫青蛙爬行配置。

保留其他所有设置,但如果要包含带有“nofollow”链接的页面,请选中“关注内部‘nofollow’”。不过,nofollow 链接仍可被搜索引擎编入索引。还有另一个设置“忽略 robots.txt”,您需要考虑一下。即使 robots.txt 阻止机器人,您也可以抓取页面。虽然从技术上讲忽略 robots.txt 并不违法,但这样做相当不妥,我建议除了您自己的网站外,不要在任何其他网站上这样做:

尖叫青蛙爬行配置屏幕

步骤 3:扫描网站
这很容易理解。在顶部的文本框中输入网站名称,点击“开始”,然后等待它完成。

尖叫青蛙开始爬行

“开始”和“清除”按钮旁边的进度条将为您提供已抓取的页面数量的估计:

尖叫青蛙 总页数

您还可以在右下角找到更多详细信息:

进度对话框显示任务完成率为 42.06%,485 项中已完成 204 项,剩余 281 项。

请记住,每当这些进度指示器发现指向以前未知的新页面的链接时,它们就会向后移动。

步骤 4:缩小列表范围
假设您听到的是网站页面列表,而不是一堆图片、javascript 文件和其他东西,现在我们需要将其缩小一点。留在“内部”选项卡中,转到“过滤器”下拉菜单,然后选择“HTML”。



Image

Screaming Frog 仅过滤 HTML 文档

对于本文的其余部分,我将假设您只对网站上实际运行的页面感兴趣,但如果您还对重定向页面、404 页面等的链接感兴趣,那么您已经拥有了所需的一切……除了,您需要注意一些事情。如果您像我一样,没有在顶部的文本框中输入 准确、正确的 主页地址,您将获得一个重定向页面,该页面不一定链接到网站上的任何其他页面:

尖叫青蛙排序数据

如果您正在寻找这样的 301,您应该点击此列表,然后查看窗口底部的框架,点击“内部链接”选项卡,并查看其内容。如果显示“未发现内部链接”,则意味着此网站上没有任何页面链接到该页面,因此它显示的唯一原因是您输入了它。

尖叫青蛙查看传入链接

现在,假设您只对实时页面感兴趣,这就是我的做法。首先按状态代码排序:

Screaming Frog 按状态代码排序

然后向下滚动,直到找到状态代码为 200 的页面,选择它们,复制它们(ctrl+c),然后将它们粘贴到您最喜欢的电子表格程序中。您也可以使用 Screaming Frog 的“批量导出”导出整个内容,但我个人更喜欢选择我需要的内容并直接复制。

就是这样!

当然,既然您已经走到这一步,您可能会发现,您获得的宝贵信息远不止 URL 列表。您可以查找重复项、查找缺失的标题标签和其他标记、查找网站架构中的问题,等等。


卡拉·林恩·卡特
Cara Lynn Carter 拥有统计学和物理学的学术背景,在自由职业和公司内部工作了 13 年,担任过作家、策略师和分析师。她在caralynncarter.com上出版科幻小说打开新窗口她即将出版的小说《莱拉》讲述了灰色市场奶酪、辐射营养真菌和野性太阳系中的宝藏。
分享
打开新窗口
打开新窗口
打开新窗口
打开新窗口
等一下,还有更多实用见解吗?是的,请!
这是七幅圆形肖像的拼贴画,画中有四男三女在不同背景下微笑。
经验丰富的营销人员有何不同?新研究(以及 9 位资深内容专家的提示)
安迪·克雷斯托迪纳

1998 年至 2024 年关键词演变的时间线,显示了 SEO 策略的变化,包括内容营销和销售页面,以及导致访问网站意图关键词的变化。
人工智能时代的 SEO:调整策略的 3 种方法(并让人工智能提及您的品牌)
安迪·克雷斯托迪纳

“关键词优先”与“主题优先”概念的插图,带有云朵和两个对比鲜明的背景:左侧为深色,带有黄色圆圈,右侧为浅色,带有橙色圆圈。
关键词优先 SEO 与主题优先 SEO:两种相关性方法 [流程图]
安迪·克雷斯托迪纳

还有更多……
本博客的最佳内容都集中于一处 - 我们的书。目前已是第 7 版。

《内容化学:内容营销图解手册》包含实用技巧、真实案例和专家见解。对于任何想要制定能够产生实际业务影响的内容策略的人来说,这都是必读之作。查看亚马逊上的评论打开新窗口。

立即购买直接 $29.95打开新窗口
Post Reply