我们本月遇到的另一个问题是处理
Posted: Mon Mar 24, 2025 9:32 am
Moz 工具
又到了这个时候了——11 月份的 Mozscape 指数现已发布!查看Open Site Explorer 、 Mozbar 、 PRO 活动和 Mozscape API中最新的 Mozscape 数据 。
11 月份的 Mozscape 索引发布时间比原计划晚了几天。由于最初对所包含的抓取数据量计算有误,而且我们的抓取工具效率极高,导致我们本月首次尝试编制的索引大小约为我们 770 亿个 URL 目标的两倍。如果我们没有犯下这个错误,我们本来可以按原定的发布日期 11 月 5 日发布,但重新启动索引导致我们的发布日期推迟了几天。
760 亿个 URL。这比我们之前 10 月份 丹麦电话号码列表 的索引(只有 550 亿个 URL)花费的时间要长一些。这在我们索引处理的一个特定步骤中变得非常明显。在整个处理过程中,我们会定期检查已处理的文件,以便在发生灾难性事件(机器故障、文件损坏等)时可以回滚。由于本月的索引较大,这些检查点步骤花费的时间明显更长;在某些情况下,检查一些较大的步骤需要几天时间。感谢 Mozscape 团队的天才工程师, Martin 和 Brandon 能够想出一个解决方案,大大减少了检查点所花费的时间。随着 Martin 对处理软件的更新,其中一些步骤所花费的时间从几天缩短到几分钟!再一次, 退一步 让 Mozscape 团队前进了两步。
Mozscape 团队在弗吉尼亚州的私有云解决方案最终确定方面继续取得重大进展。我们有望在今年年底前在 AWS 云和我们自己的私有云中生成索引。在成功完成测试索引后,第一个 Mozscape 索引现在正在进行中,在我们自己的私有云中运行。这对 Mozscape 团队来说是一项令人兴奋的成就!
又到了这个时候了——11 月份的 Mozscape 指数现已发布!查看Open Site Explorer 、 Mozbar 、 PRO 活动和 Mozscape API中最新的 Mozscape 数据 。
11 月份的 Mozscape 索引发布时间比原计划晚了几天。由于最初对所包含的抓取数据量计算有误,而且我们的抓取工具效率极高,导致我们本月首次尝试编制的索引大小约为我们 770 亿个 URL 目标的两倍。如果我们没有犯下这个错误,我们本来可以按原定的发布日期 11 月 5 日发布,但重新启动索引导致我们的发布日期推迟了几天。
760 亿个 URL。这比我们之前 10 月份 丹麦电话号码列表 的索引(只有 550 亿个 URL)花费的时间要长一些。这在我们索引处理的一个特定步骤中变得非常明显。在整个处理过程中,我们会定期检查已处理的文件,以便在发生灾难性事件(机器故障、文件损坏等)时可以回滚。由于本月的索引较大,这些检查点步骤花费的时间明显更长;在某些情况下,检查一些较大的步骤需要几天时间。感谢 Mozscape 团队的天才工程师, Martin 和 Brandon 能够想出一个解决方案,大大减少了检查点所花费的时间。随着 Martin 对处理软件的更新,其中一些步骤所花费的时间从几天缩短到几分钟!再一次, 退一步 让 Mozscape 团队前进了两步。
Mozscape 团队在弗吉尼亚州的私有云解决方案最终确定方面继续取得重大进展。我们有望在今年年底前在 AWS 云和我们自己的私有云中生成索引。在成功完成测试索引后,第一个 Mozscape 索引现在正在进行中,在我们自己的私有云中运行。这对 Mozscape 团队来说是一项令人兴奋的成就!