目录
一、什么是哈希算法
二、哈希算法的使用场景
2.1 安全加密
2.2 唯一标志
2.3 数据校验
2.4 散列函数
2.5 负载均衡
2.6 数据分片
2.7 分布式存储
三、总结
首页 科技周边 人工智能 一文搞懂Hash算法以及应用场景

一文搞懂Hash算法以及应用场景

Apr 13, 2023 am 11:55 AM
哈希算法 大文件 hash

一、什么是哈希算法

哈希和散列都来源于单词hash,前者是音译,后者是意译。是一种可以将任意长度的二进制值映射为固定长度二进制值的算法,映射后固定长度的二进制值被称为哈希值。一个优秀的哈希算法需要满足以下几点要求:

不能从哈希值反向推导出原始数据;

对输入数据非常敏感,一个bit不同就会导致哈希值非常不一样;

散列冲突的概率要很小;

哈希算法的计算过程要足够简单高效,即使原始数据很长,也能很快得到哈希值;

二、哈希算法的使用场景

2.1 安全加密

比较常见的哈希加密算法有MD5(MD5 Message-Digest Algorithm, MD5消息摘要算法)和SHA(Secure Hash Algorithm, 安全散列算法)。

不能从哈希值密文反推出明文密码,且散列冲突概率比较小,这两点确保了哈希算法作为安全加密手段的可靠性。

为什么哈希算法不能完全避免散列冲突,只能尽量减少?

鸽巢原理告诉我们,11个鸽子飞进10个鸽子笼,那么必定有一个鸽子笼里面有2只及以上的鸽子。那么散列值是固定长度的,也就决定了散列值可以被穷举,但是理论上原始数据是无穷无尽的,因此必定有可能会导致散列冲突。

这种应用场景用到了哈希算法的特点1和3,其中3保证了密码被正向破解的难度很大(以MD5为例,散列值长度为128位,有2^128个不同的哈希值,很难被破解)。

安全领域没有绝对的安全,虽然MD5很难被破解,但是还是有办法被破解的,比如使用彩虹表匹配可以很轻松地破解常见密码。

所以一般我们会使用加盐的哈希算法来进行安全加密,加盐的方法需要严格保密,如此让破解的难度和成本都大大增加。

2.2 唯一标志

我们在校验两个文件是否一样的时候,是不能简单地通过文件名来进行判断的。因为同名文件的存在太常见了。

我们可以从大文件中按照特定的规则取一些二进制数据,利用哈希算法得出哈希值作为该文件的唯一标志。如此相同的文件必定具有相同的哈希值,也就是相同的唯一标志;不同的文件在很大概率上是具有不同的哈希值唯一标志的;

即使真的遇到了散列冲突,我们可以再详细比对两个文件的全部二进制数据,进一步判断它们是否是同一个文件,这个事件发生的概率太小了。但是这种方案既保证了高效,又保证了可靠。

这种应用场景用到了哈希算法的特点2和3。

2.3 数据校验

在P2P下载协议中,我们会从不同的机器上下载同一部电影的不同部分,然后在自己的机器上将电影组装起来。如果这其中某个部分的电影下载过程中出了错误或者内容被篡改了,就可能导致下载出错或者中病毒。

因此,我们先对所有部分进行hash计算,并保存在种子文件中。等到所有部分下载完成,我们对所有部分进行哈希计算得到哈希值,再和种子文件中的进行比较,以此来校验文件是否完整。

这种应用场景用到了哈希算法的特点2和4。

2.4 散列函数

这种场景在前面讲过散列表的时候就已经介绍了。这种场景下,对特点1要求不是很高,特点2的要求是散列值要尽量均匀分布,特点3也在一定程度上可以接受冲突,使用开放寻址法和拉链法就可以解决,就是特点4要求高一点,需要追求性能。

2.5 负载均衡

负载均衡的算法有很多,比如轮询、随机、加权轮询等,但是目标是要实现一个会话粘滞的负载均衡算法,即同一个客户端在一个会话期间所有的请求都是路由到同一台服务器的。

我们可以将客户端的IP或者会话ID进行哈希计算,得到的哈希值与服务器个数进行取模运算,最终得到的值就是需要路由的服务器,这样就能实现会话粘滞的目的。

2.6 数据分片

当我们需要处理海量数据的时候,单台服务器无法加载和计算如此海量的数据,那么我们就需要将海量数据均匀地分给N台服务器进行并行计算,如何将数据均匀地分给N台服务器呢?

我们对数据进行哈希计算,用得到的哈希值对服务器个数N取模,相同结果的数据会被分到相同的服务器上,交给这台服务器处理。N台服务器并行处理海量数据,最终再将结果合并起来即可。

2.7 分布式存储

将海量数据存储到分布式缓存或者分布式数据库中,借用的思想和上面的数据分片是类似的。只不过,当原先设定好的服务器数量不够的时候该如何处理呢?

并不是简单地加几台机器就能解决的,这会破坏哈希值的取模运算,导致缓存穿透,引起雪崩效应。同理,当某个机器故障被移除时也会导致相同的问题。这个时候需要借助一致性哈希算法来解决这个问题。

一致性哈希算法简单地说就是构造一个hash环,环上有2^32个节点,将服务器IP和文件都hash计算映射到对应的节点上。所有文件顺时针遇到的第一个服务器就作为自己存放的服务器。如此,当增加或者删除某个服务器的时候,影响的文件个数就可控,不会造成全局雪崩。

一文搞懂Hash算法以及应用场景

hash环

但是,在一定概率上,服务器IP在映射到hash环上时,会出现hash环偏斜的问题,此时会导致服务器上文件分布极其不均匀,退化为一开始在增删服务器时容易造成雪崩效应的场景。

一文搞懂Hash算法以及应用场景

hash环的偏斜

我们可以人为地为这些服务器增加若干虚拟节点,使得所有服务器节点在hash环上分布均匀。

一文搞懂Hash算法以及应用场景

带虚拟节点的hash环

三、总结

Hash算法的使用场景远远不止上述这些,还有比如CRC校验。

以上是一文搞懂Hash算法以及应用场景的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您听不到任何人,如何修复音频
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解锁Myrise中的所有内容
1 个月前 By 尊渡假赌尊渡假赌尊渡假赌

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

Golang函数的hash、crc32、md5和sha1计算方法 Golang函数的hash、crc32、md5和sha1计算方法 May 18, 2023 am 08:12 AM

Golang是一门新型的高性能编程语言,具有丰富的标准库和内置函数。其中就包括哈希函数,它们可以用来生成数据的哈希值,用于文件校验、数据验证等方面。本文将介绍Golang中常用的函数hash、crc32、md5和sha1的计算方法及其应用。一、hash函数Golang的hash函数包含了多种哈希算法,如SHA-1、MD5、SHA-224、SHA-256、SH

php如何实现Redis的Hash操作 php如何实现Redis的Hash操作 May 30, 2023 am 08:58 AM

Hash操作//为hash表中的字段赋值。成功返回1,失败返回0。若hash表不存在会先创建表再赋值,若字段已存在会覆盖旧值。$ret=$redis->hSet('user','realname','jetwu');//获取hash表中指定字段的值。若hash表不存在则返回false。$ret=$redis->hGet('user','rea

Golang文件读取操作:快速读取大文件的技巧 Golang文件读取操作:快速读取大文件的技巧 Jan 19, 2024 am 08:33 AM

Golang文件读取操作:快速读取大文件的技巧,需要具体代码示例在Golang程序设计中,文件读取是一个非常常见的操作。但当需要读取大文件时,通常是一件比较耗费时间和资源的操作。因此,如何快速读取大文件是一个非常值得探讨的话题。本文将介绍如何利用Golang的特性和一些技巧来快速读取大文件,并提供具体的代码示例。利用bufio读取文件在Golang中,文件读

Java 函数库中都有哪些常用哈希算法工具? Java 函数库中都有哪些常用哈希算法工具? Apr 30, 2024 pm 03:21 PM

在Java函数库中,MessageDigest类可用于哈希算法,并提供MD5、SHA和其他哈希算法的实现,包括:1.MD5算法:使用MessageDigest.getInstance("MD5")获取实例。2.SHA算法:包括SHA-1、SHA-256、SHA-384和SHA-512,使用MessageDigest.getInstance("SHA-256")获取实例。3.其他哈希算法:可以使用第三方库,例如Algorithms.MessageDigest或BouncyCastle库。

Laravel开发:如何使用Laravel Hash生成密码散列? Laravel开发:如何使用Laravel Hash生成密码散列? Jun 17, 2023 am 10:59 AM

Laravel是目前最为流行的PHPweb框架之一,为开发人员提供了许多强大的功能和组件,其中LaravelHash也是其中之一。LaravelHash是一个用于密码散列的PHP库,其可以用于保护密码的安全,并使应用程序的用户数据更加安全。在本文中,我们将了解LaravelHash的工作原理以及如何使用它来对密码进行散列和验证。前置知识在学习Lara

如何使用java实现MD5哈希算法 如何使用java实现MD5哈希算法 Sep 21, 2023 am 08:31 AM

如何使用Java实现MD5哈希算法MD5(MessageDigestAlgorithm5)是一种常用的哈希算法,用于对数据进行加密和校验的操作。在Java中,我们可以利用MessageDigest类来实现MD5哈希算法。以下是一个简单的示例代码,演示了如何使用Java实现MD5算法。importjava.security.MessageDigest;

用PHP实现自己的sha-256哈希算法! 用PHP实现自己的sha-256哈希算法! May 23, 2022 am 11:39 AM

哈希 又称作 “散列”,它接收任何一组任意长度的输入信息,通过 哈希 算法变换成固定长度的数据指纹,该指纹就是 哈希值。总体而言,哈希 可理解为一种消息摘要。

Python底层技术揭秘:如何实现哈希表 Python底层技术揭秘:如何实现哈希表 Nov 08, 2023 am 11:53 AM

Python底层技术揭秘:如何实现哈希表哈希表是在计算机领域中十分常见且重要的数据结构,它可以高效地存储和查找大量的键值对。在Python中,我们可以使用字典来使用哈希表,但是很少有人深入了解它的实现细节。本文将揭秘Python中哈希表的底层实现技术,并给出具体的代码示例。哈希表的核心思想是将键通过哈希函数映射到一个固定大小的数组中,而不是简单地按顺序存储。

See all articles