谷歌搜索算法内幕被扒,2500页巨细文件实名泄密!搜索排名谎言被揭穿
日前,谷歌2500页的内部文档被泄露,揭示了搜索——「互联网最强大的仲裁者」的运作方式。
SparkToro的联合创始人兼CEO是一位匿名人士,他在个人网站上发表博客文章,宣称“一位匿名人士与我分享了数千页泄露的谷歌搜索API文档,SEO中的每个人都应该看到它们!”
多年来,Rand Fishkin一直是SEO领域(Search Engine Optimization,搜索引擎优化)的顶级代言人,「网站权威性」(Domain Rating)这个概念就是他提出的。
既然在这个领域德高望重,Rand Fishkin爆料之前自然要对这位不明身份的匿名人士小心查验。
上周五,在发送了几封电子邮件之后,Rand Fishkin与这位神秘人进行了视频通话,当然,对方并没有露脸。
这次通话让Rand了解了这份泄密文件的更多信息:这是一份超过2500页的API文档,其中包含14014条属性。这些属性类似于Google的内部部分“Content API Warehouse”。
根据文档的提交历史记录,该代码于2024年3月27日上传到GitHub,直到2024年5月7日才被删除。
在通话结束后,Rand确认了匿名人的工作经历和他们在营销界共同认识的人。他决定满足匿名人的期望——发表一篇文章来分享这次泄露,并驳斥了谷歌员工「多年来一直传播的一些谎言」。
Matt Cutts、Gary Ilyes和John Mueller否认谷歌在多年来将基于点击的用户数据用于排名
Rand的文章谈到了沙箱、点击率、停留时间等影响SEO的因素,而这正是谷歌之前极力否认的。
文章一经发布,果然立刻引发了舆论哗然,尤其受到了SEO圈的特别关注。
另一位SEO专家Mike King也发表文章,揭示谷歌「算法的秘密」。
Mike King表示,「泄露的文件涉及谷歌收集和使用哪些数据、谷歌将哪些网站提升为选举等敏感话题、谷歌如何处理小型网站等主题。」
诸多信息表明,谷歌多年来并未完全如实报道,「文件中的一些信息似乎与谷歌代表的公开声明相冲突。」
面对大家的质疑,谷歌选择沉默,拒绝对此次爆炸性泄漏事件发表评论。
正主没有发声,反倒是此前匿名提供消息的神秘人士露面了。5月28日,神秘人终于决定挺身而出,发布了一段视频,在视频中公布了他的身份。
他叫Erfan Azimi,也是一名SEO从业者,EA Eagle Digital的创始人。
那么,既然Erfan Azimi提供的文档来自Google的内部「Content API Warehouse」,我们有必要了解一下什么是谷歌API Content Warehouse,以及这份文档究竟泄露了哪些内容?
谷歌搜索「黑箱」
这次泄密事件似乎来自GitHub,最可信的解释与Erfan Azimi在通话中告诉Rand的一致:
这些文档可能是无意中被短暂公开了,因为文档中的许多链接指向私人GitHub仓库,以及谷歌公司网站上需要特定认证登录的内部页面。
在2024年3月至5月这段可能是偶然的公开时间里,API文档被传播到Hexdocs(索引公开的GitHub仓库),并被其他人发现并传播。
让Rand疑惑的是,他确信其他人也有一份副本,但直到此次爆料发生以前,这份文件并没有被公开讨论。
据前谷歌开发人员透露,几乎每个谷歌团队都有这样的文档,用于解释各种API属性和模块,帮助项目人员熟悉可用的数据元素。
该泄漏信息与GitHub公共仓库和谷歌云API文档中的其他信息相吻合,使用了相同的符号风格、格式,甚至流程/模块/功能名称和引用。
「API Content Warehouse」听起来像个技术术语,但我们可以把它看作是给谷歌搜索引擎团队成员的一份指南。
它就像图书馆里的图书目录,谷歌用它来告诉员工有哪些书以及如何获取。
但不同的是,图书馆是公开的,而谷歌搜索却是世界上最神秘、防守森严的黑匣子之一。在过去的二十多年中,谷歌搜索部门从未发生过如此大规模或如此详细的泄密事件。
「泄露」了什么?
1. 对用户点击数据的使用
文档中的一些模块提到了「goodClicks」、「badClicks」、「lastLongestClicks」、印象、压扁、未压扁和独角兽点击等功能。这些都与Navboost和Glue有关,看过谷歌司法部证词的人可能对这两个词并不陌生。
以下是司法部律师Kenneth Dintzer对搜索质量团队搜索副总裁Pandu Nayak的交叉询问的相关摘录:
Q. 那么请提醒我一下,Navboost是否可以追溯到 2005 年?
A. 在这个范围内,甚至可能更早。
Q. 它已经更新过了,它已经不是当年的那个Navboost了?
A. 不是了
Q. 还有一个是glue,对吗?
A. glue只是Navboost的另一个名称,包括页面上的所有其他功能。
Q. 好的。我本来打算稍后再谈,但我们现在就可以谈。就像我们讨论过的那样,Navboost可以生成网页结果,对吗?
A. 是的。
Q. glue还可以处理页面上所有不是网页结果的内容,对吗?
A. 没错。
Q. 它们共同帮助找到最终显示在我们搜索结果页上的内容并对其进行排名?
A. 没错。它们都是这方面的信号,是的。
这份泄露的API文档支持Nayak先生的证词,并与Google的网站质量专利保持一致。
谷歌似乎有办法过滤掉他们不想计入排名系统的点击量,并将他们希望计入排名系统的点击量纳入其中。
他们似乎还能衡量点击时长(pogo-sticking,指搜索者点击结果后,因对找到的答案不满意而迅速点击返回按钮)和印象。
2. 征用Chrome的点击流
谷歌代表多次表示,它不会使用Chrome数据对页面进行排名,但泄密文档在有关网站如何在搜索中显示的部分中,特别提到了Chrome。
泄露文件的匿名消息源称,早在2005年,谷歌就希望获得数十亿互联网用户的完整点击流,而通过Chrome浏览器,他们已经得偿所愿。
API文档显示,谷歌可以使用Chrome浏览器计算与单个页面和整个域相关的几类指标。
这份文档介绍了谷歌如何创建Sitelinks的相关功能,特别有趣。
它展示了一个名为topUrl的调用,即 「A list of top urls with highest two_level_score, i.e., chrome_trans_clicks.」
据此可以推测出,谷歌很可能使用了 Chrome 浏览器中网页的点击次数,并以此来确定网站上最受欢迎或是最重要的 URL,进而计算出哪些URL应包含在Sitelinks功能中。
在谷歌搜索结果中,它总能显示用户访问量最大的页面,这是它通过跟踪数十亿Chrome用户的点击流得来的。
对于谷歌的这一行为,网友当然表示不满。
3. 为严肃话题创建白名单
我们不难通过「优质旅游网站」 模块得出这样一个推论——谷歌在旅游领域存在一个白名单,尽管尚不清楚这是否专门用于谷歌的「旅游」搜索选项,还是更广泛的网络搜索。
此外,文档中多处提到的 「isCovidLocalAuthority」(新冠本地权威)和 「isElectionAuthority」(选举权威)进一步表明,谷歌正在对特定域名进行白名单管理,这些域名可能会在用户搜索极具争议的问题时被优先显示。
例如,在2020年美国总统大选之后,某位候选人在没有证据的情况下声称选票被偷,并鼓励其追随者冲击国会山。
谷歌几乎肯定会成为人们最先搜索这一事件相关信息的地方之一,如果他们的搜索引擎返回的是不准确描述选举证据的宣传网站,这可能会直接导致更多的争论、暴力,甚至是美国民主的终结。
从这个角度上来说,白名单有其现实意义。Rand Fishkin表示「我们这些希望自由公正的选举继续下去的人应该非常感谢谷歌的工程师们在这种情况下使用了白名单。」
4. 采用人工评估网站质量
长期以来,谷歌一直有一个名为EWOK的质量评级平台,我们现在有证据表明,搜索系统中使用了质量评估者中的某些元素。
Rand Fishkin觉得有趣的是,EWOK质量评估者生成的分数和数据可能会直接参与谷歌的搜索系统,而不仅仅是实验的训练集。
当然,这些可能「只是用于测试」,但是当浏览泄露的文档时,你就会发现当这是真的,它会在注释和模块详细信息中明确指出。
其中提到的「每份文档相关性评级」即来自 EWOK 的评估,虽然没有详细的说明,但我们不难想象,人类对网站的评估到底有多重要。
文档还提到了「人工评级」(例如来自 EWOK 的评级),并指出它们「通常只填充在评估管道中」,这表明它们可能主要是该模块中的训练数据。
但Rand Fishkin认为这仍然是一个非常重要的角色,营销人员不应忽视质量评级者对其网站的良好感知和评级有多么重要。
5. 利用点击数据确定权重
谷歌将链接索引分为三个等级(低、中、高质量),点击数据用于确定网站属于哪个等级。
- 如果网站没有被点击,就会进入低质量索引,链接也会被忽略
- 如果网站来自可验证设备的点击量很高,它就会进入高质量索引,并且链接会传递排名信号
一旦链接因为属于更高层次的索引而成为 “可信 ”链接,它就可以流动PageRank和锚点,或者被垃圾链接系统过滤/删除。
来自低质量链接索引的链接不会损害网站的排名,它们只会被忽略。
谷歌的搜索算法可能是互联网上最重要的系统,它决定了不同网站的生死存亡以及我们在网上所能看到的内容。
可它到底是如何对网站进行排名的,长期以来一直是个谜,记者、研究人员和从事SEO工作的人们都在不断拼凑这个谜题的答案。
在这次泄漏事件中,谷歌依旧保持沉默,似乎会让这个谜题长久存在下去。
但这次谷歌有史以来最严重的泄密,还是撕开了一个裂缝,让人们对搜索的工作原理有了前所未有的了解。
以上是谷歌搜索算法内幕被扒,2500页巨细文件实名泄密!搜索排名谎言被揭穿的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

DDREASE是一种用于从文件或块设备(如硬盘、SSD、RAM磁盘、CD、DVD和USB存储设备)恢复数据的工具。它将数据从一个块设备复制到另一个块设备,留下损坏的数据块,只移动好的数据块。ddreasue是一种强大的恢复工具,完全自动化,因为它在恢复操作期间不需要任何干扰。此外,由于有了ddasue地图文件,它可以随时停止和恢复。DDREASE的其他主要功能如下:它不会覆盖恢复的数据,但会在迭代恢复的情况下填补空白。但是,如果指示工具显式执行此操作,则可以将其截断。将数据从多个文件或块恢复到单

0.这篇文章干了啥?提出了DepthFM:一个多功能且快速的最先进的生成式单目深度估计模型。除了传统的深度估计任务外,DepthFM还展示了在深度修复等下游任务中的最先进能力。DepthFM效率高,可以在少数推理步骤内合成深度图。下面一起来阅读一下这项工作~1.论文信息标题:DepthFM:FastMonocularDepthEstimationwithFlowMatching作者:MingGui,JohannesS.Fischer,UlrichPrestel,PingchuanMa,Dmytr

谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow,7项指标排名第一。而且测试并不是在JAX性能表现最好的TPU上完成的。虽然现在在开发者中,Pytorch依然比Tensorflow更受欢迎。但未来,也许有更多的大模型会基于JAX平台进行训练和运行。模型最近,Keras团队为三个后端(TensorFlow、JAX、PyTorch)与原生PyTorch实现以及搭配TensorFlow的Keras2进行了基准测试。首先,他们为生成式和非生成式人工智能任务选择了一组主流

波士顿动力Atlas,正式进入电动机器人时代!昨天,液压Atlas刚刚「含泪」退出历史舞台,今天波士顿动力就宣布:电动Atlas上岗。看来,在商用人形机器人领域,波士顿动力是下定决心要和特斯拉硬刚一把了。新视频放出后,短短十几小时内,就已经有一百多万观看。旧人离去,新角色登场,这是历史的必然。毫无疑问,今年是人形机器人的爆发年。网友锐评:机器人的进步,让今年看起来像人类的开幕式动作、自由度远超人类,但这真不是恐怖片?视频一开始,Atlas平静地躺在地上,看起来应该是仰面朝天。接下来,让人惊掉下巴

在iPhone上面临滞后,缓慢的移动数据连接?通常,手机上蜂窝互联网的强度取决于几个因素,例如区域、蜂窝网络类型、漫游类型等。您可以采取一些措施来获得更快、更可靠的蜂窝互联网连接。修复1–强制重启iPhone有时,强制重启设备只会重置许多内容,包括蜂窝网络连接。步骤1–只需按一次音量调高键并松开即可。接下来,按降低音量键并再次释放它。步骤2–该过程的下一部分是按住右侧的按钮。让iPhone完成重启。启用蜂窝数据并检查网络速度。再次检查修复2–更改数据模式虽然5G提供了更好的网络速度,但在信号较弱

特斯拉机器人Optimus最新视频出炉,已经可以在厂子里打工了。正常速度下,它分拣电池(特斯拉的4680电池)是这样的:官方还放出了20倍速下的样子——在小小的“工位”上,拣啊拣啊拣:这次放出的视频亮点之一在于Optimus在厂子里完成这项工作,是完全自主的,全程没有人为的干预。并且在Optimus的视角之下,它还可以把放歪了的电池重新捡起来放置,主打一个自动纠错:对于Optimus的手,英伟达科学家JimFan给出了高度的评价:Optimus的手是全球五指机器人里最灵巧的之一。它的手不仅有触觉

哭死啊,全球狂炼大模型,一互联网的数据不够用,根本不够用。训练模型搞得跟《饥饿游戏》似的,全球AI研究者,都在苦恼怎么才能喂饱这群数据大胃王。尤其在多模态任务中,这一问题尤为突出。一筹莫展之际,来自人大系的初创团队,用自家的新模型,率先在国内把“模型生成数据自己喂自己”变成了现实。而且还是理解侧和生成侧双管齐下,两侧都能生成高质量、多模态的新数据,对模型本身进行数据反哺。模型是啥?中关村论坛上刚刚露面的多模态大模型Awaker1.0。团队是谁?智子引擎。由人大高瓴人工智能学院博士生高一钊创立,高

多模态文档理解能力新SOTA!阿里mPLUG团队发布最新开源工作mPLUG-DocOwl1.5,针对高分辨率图片文字识别、通用文档结构理解、指令遵循、外部知识引入四大挑战,提出了一系列解决方案。话不多说,先来看效果。复杂结构的图表一键识别转换为Markdown格式:不同样式的图表都可以:更细节的文字识别和定位也能轻松搞定:还能对文档理解给出详细解释:要知道,“文档理解”目前是大语言模型实现落地的一个重要场景,市面上有很多辅助文档阅读的产品,有的主要通过OCR系统进行文字识别,配合LLM进行文字理
