请问一下微博和百度贴吧的热门话题排行榜是如何生成的？

Question

微博和贴吧都是国内数一数二的PHP构建的高并发网站，请问他们的这个热门话题排行榜是如何得出的？我目前只想得到用中文分词库对全站内容分词和统计，但是这类高并发网站每天都是成千上亿的数据产出，用分词的话如何是如果解决效率问题的？或者他们还用了其他什么技术？

三叔 · Answer

我最近也在做类似的功能。思路是这样：

对最近的文本聚类，得到topic

考虑topic包含的文档数量和文档来源的权重

考虑topic的时间

最后得到话题排行榜