网站首页 > 教程文章 正文
在当今互联网软件开发的高并发、海量数据场景下,如何高效处理数据、提升系统性能成为了开发者们持续关注的焦点。缓存作为提升系统性能的重要手段,在常规机制中却面临着缓存穿透的难题。当大量无效请求(请求的 key 既不存在于缓存,也不存在于数据库)蜂拥而至时,数据库压力剧增,系统性能急剧下降。而布隆过滤器(Bloom Filter)作为一种高效的解决方案,在 Spring Boot3 开发中愈发凸显其价值,今天就让我们深入探索 Spring Boot3 中如何使用布隆过滤器。
布隆过滤器是什么
布隆过滤器是一种空间效率极高的概率性数据结构,主要用于快速判断某个元素是否在集合中。它具有以下显著特点:
- 内存占用小:相较于传统的集合结构,布隆过滤器在存储相同数量元素时,内存使用量要少得多。这一特性使得它在处理海量数据时优势明显。
- 可能存在误判:需要注意的是,布隆过滤器只能判断某个元素 “可能存在” 或 “绝对不存在”。也就是说,当它判断元素存在时,该元素有可能是误判;但当它判断元素不存在时,那么该元素一定不存在。
- 不支持删除:布隆过滤器内部机制决定了它不支持删除已添加的元素。一旦执行删除操作,会导致误判率大幅增加。
布隆过滤器的工作原理基于多个哈希函数和一个位数组。当向布隆过滤器添加一个元素时,会通过多个不同的哈希函数对该元素进行计算,得到多个哈希值。这些哈希值对应到位数组的不同索引位置,然后将这些位置的比特位设置为 1。在查询元素时,同样对元素进行哈希计算,若所有对应索引位置的比特位都为 1,则认为该元素可能存在于集合中;若有任意一位为 0,则可确定该元素一定不存在。
布隆过滤器的适用场景
(一)防止缓存穿透
这是布隆过滤器最为常见的应用场景之一。在高并发系统中,将数据库中不存在的 key 预先存储在布隆过滤器中。当有查询请求到来时,先通过布隆过滤器判断该 key 是否可能存在。如果布隆过滤器判断该 key 不存在,那么直接返回,避免了无效请求穿透缓存,直接查询数据库,从而大大降低了数据库的压力。
(二)防止重复数据
在大规模数据处理过程中,例如数据清洗、日志处理等场景,使用布隆过滤器可以快速判断数据是否已经被处理过,避免对相同数据进行重复处理,提高数据处理的效率和准确性。
(三)爬虫 URL 过滤
在网络爬虫开发中,需要避免重复抓取同一 URL。通过布隆过滤器,可以快速判断一个 URL 是否已经被抓取过,从而提高爬虫的效率,避免对同一资源的重复访问。
(四)安全黑名单
在安全防护领域,比如防止恶意 IP 访问、垃圾邮件过滤等场景,布隆过滤器可以将已知的恶意 IP、垃圾邮件发送者等信息存储在其中。当有新的访问请求或邮件到来时,先通过布隆过滤器进行判断,快速拦截黑名单中的对象。
在 Spring Boot3 中使用布隆过滤器的实现方式
(一)基于 Redis 的实现
Redis 作为一款高性能的内存数据库,提供了开箱即用的布隆过滤器功能,通过 Redis 的插件 RedisBloom,我们可以方便地使用布隆过滤器来存储和管理 key。
引入相关依赖:在 Spring Boot3 项目的 pom.xml 文件中,添加 Redis 以及 Spring Data Redis 相关依赖,以实现与 Redis 的交互。
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>
此外,如果使用 RedisBloom 插件,还需根据实际情况添加对应的依赖。
配置 Redis 连接信息:在 application.yml 文件中,配置 Redis 的连接地址、端口、密码等信息。
spring:
data:
redis:
host: localhost
port: 6379
password: 123456
timeout: 60000
database: 0
lettuce:
pool:
max-active: 8
max-idle: 8
min-idle: 0
max-wait: -1ms
创建布隆过滤器服务:利用 Redisson 提供的 API,我们可以轻松实现布隆过滤器服务。Redisson 是一个基于 Redis 的 Java 客户端,提供了丰富的分布式数据结构和服务的实现。
import org.redisson.api.RBloomFilter;
import org.redisson.api.RedissonClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
@Service
public class BloomFilterService {
@Autowired
private RedissonClient redissonClient;
public void initBloomFilter() {
// 创建布隆过滤器,预计元素数量为1000000,误判率为0.01
RBloomFilter<String> bloomFilter = redissonClient.getBloomFilter("productBloomFilter");
bloomFilter.tryInit(1000000, 0.01);
// 假设从数据库中获取所有商品ID并添加到布隆过滤器中
// 这里简单模拟添加一些商品ID
String[] productIds = {"1", "2", "3", "4", "5"};
for (String productId : productIds) {
bloomFilter.add(productId);
}
}
public boolean mightContain(String productId) {
RBloomFilter<String> bloomFilter = redissonClient.getBloomFilter("productBloomFilter");
return bloomFilter.contains(productId);
}
}
在上述代码中,initBloomFilter 方法用于初始化布隆过滤器,设置预计插入的元素数量和误判率,并将模拟的商品 ID 添加到布隆过滤器中。mightContain 方法用于判断某个商品 ID 是否可能存在于布隆过滤器中。
在业务中使用布隆过滤器:在查询商品的业务方法中,我们可以先通过布隆过滤器判断商品 ID 是否可能存在,若不存在则直接返回,避免查询数据库。
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.stereotype.Service;
@Service
public class ProductService {
@Autowired
private BloomFilterService bloomFilterService;
@Autowired
private RedisTemplate<String, Object> redisTemplate;
public Object queryProduct(String productId) {
if (!bloomFilterService.mightContain(productId)) {
return null;
}
Object product = redisTemplate.opsForValue().get("product:" + productId);
if (product == null) {
// 从数据库查询商品
product = queryProductFromDatabase(productId);
if (product == null) {
// 缓存空值
redisTemplate.opsForValue().set("product:" + productId, "null", 5, TimeUnit.MINUTES);
} else {
// 缓存商品信息
redisTemplate.opsForValue().set("product:" + productId, product);
}
}
return product;
}
private Object queryProductFromDatabase(String productId) {
// 实际的数据库查询逻辑
// 这里简单返回null模拟数据库中不存在该商品
return null;
}
}
在上述代码中,queryProduct 方法首先调用 BloomFilterService 的 mightContain 方法判断商品 ID 是否可能存在于布隆过滤器中。如果不存在,则直接返回 null,避免了无效的数据库查询。如果可能存在,则继续从缓存中查询商品信息。若缓存未命中,则查询数据库,并根据查询结果进行相应的缓存操作。
(二)基于 Guava 库的实现
除了基于 Redis 的实现方式,我们还可以使用 Google 的 Guava 库来在 Spring Boot3 项目中实现布隆过滤器。Guava 库提供了简单易用且性能可靠的布隆过滤器实现。
添加依赖:在项目的 pom.xml 文件中添加 Guava 库的依赖。
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>32.1.2-jre</version>
</dependency>
配置布隆过滤器:创建一个配置类 BloomFilterConfig,用于初始化布隆过滤器。
import com.google.common.hash.BloomFilter;
import com.google.common.hash.Funnels;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class BloomFilterConfig {
private static final int EXPECTED_INSERTIONS = 1000000;
private static final double FPP = 0.01;
@Bean
public BloomFilter<String> bloomFilter() {
return BloomFilter.create(Funnels.stringFunnel(), EXPECTED_INSERTIONS, FPP);
}
}
在上述代码中,我们指定了预期插入的元素数量 EXPECTED_INSERTIONS 和可接受的误判率 FPP,Guava 会根据这些参数自动优化布隆过滤器内部的位数组大小和哈希函数个数。
使用布隆过滤器:创建一个服务类 BloomFilterService,用于封装与布隆过滤器交互的业务逻辑。
import com.google.common.hash.BloomFilter;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
@Service
public class BloomFilterService {
private final BloomFilter<String> bloomFilter;
@Autowired
public BloomFilterService(BloomFilter<String> bloomFilter) {
this.bloomFilter = bloomFilter;
}
public boolean mightContain(String value) {
return bloomFilter.mightContain(value);
}
public void put(String value) {
bloomFilter.put(value);
}
}
这个服务类提供了两个方法,mightContain 用于判断元素是否可能存在,put 用于向布隆过滤器中添加元素。
编写测试接口:为了验证布隆过滤器的功能,我们可以创建一个简单的 TestController 来进行测试。
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
@RestController
public class TestController {
@Autowired
private BloomFilterService bloomFilterService;
@GetMapping("/bloom/add")
public String addToBloomFilter(@RequestParam String value) {
bloomFilterService.put(value);
return "Element added to Bloom Filter";
}
@GetMapping("/bloom/check")
public boolean checkInBloomFilter(@RequestParam String value) {
return bloomFilterService.mightContain(value);
}
}
通过这两个接口,我们可以方便地向布隆过滤器添加元素,并检查元素是否可能已存在。启动 Spring Boot 应用程序后,使用工具(如 Postman)来访问接口进行测试。先添加几个元素,例如访问
http://localhost:8080/bloom/add?value=element1,然后检查这些元素是否存在,访问
http://localhost:8080/bloom/check?value=element1应返回 true,若访问
http://localhost:8080/bloom/check?value=nonexistent(假设从未添加过该值),根据误判率有一定概率返回 false,多次测试可观察到布隆过滤器的特性。
使用布隆过滤器的注意事项
(一)误判率的设置
误判率是布隆过滤器的一个重要参数。在初始化布隆过滤器时,需要根据实际业务场景合理设置误判率。如果误判率设置过低,会导致布隆过滤器的位数组过大,占用过多的内存空间;如果误判率设置过高,则可能会导致较多的误判,影响系统的准确性。例如,在防止缓存穿透场景中,如果误判率过高,可能会导致部分正常请求被误判为无效请求,从而影响用户体验。
(二)数据动态变化的处理
由于布隆过滤器本身不支持删除操作,对于数据动态变化的场景,需要额外的处理机制。例如,在一些数据频繁更新或删除的业务场景中,可以考虑定期重建布隆过滤器,将最新的数据重新添加到布隆过滤器中,以保证布隆过滤器的准确性。或者结合其他数据结构,如 Counting Bloom Filter(计数布隆过滤器),它支持对元素的删除操作,但会增加一定的空间复杂度。
(三)与其他技术的结合
在实际项目中,布隆过滤器通常需要与其他技术结合使用,以达到更好的效果。例如,在防止缓存穿透场景中,除了使用布隆过滤器,还可以结合缓存空值、熔断机制等技术。缓存空值可以在布隆过滤器误判时,进一步防止无效请求查询数据库;熔断机制可以在系统出现异常高负载时,快速切断无效请求,保护系统的稳定性。
总结
通过本文的介绍,我们深入了解了布隆过滤器的原理、适用场景,以及在 Spring Boot3 项目中如何使用布隆过滤器。无论是基于 Redis 的实现方式,还是基于 Guava 库的实现方式,都为我们在实际开发中应对缓存穿透、数据去重等问题提供了有效的解决方案。在使用布隆过滤器时,需要注意合理设置误判率、妥善处理数据动态变化的情况,并结合其他技术,以构建高效、稳定的系统。希望本文能为广大互联网软件开发人员在 Spring Boot3 开发中运用布隆过滤器提供有益的参考,助力大家开发出性能更优、体验更佳的软件产品。在不断变化的技术领域中,持续探索和实践新的技术方案,是我们提升开发能力、满足业务需求的关键。让我们一起在技术的海洋中乘风破浪,创造更多价值。
猜你喜欢
- 2025-08-03 Chrome插件Talend API Tester核心竞争力与功能深度解析
- 2025-08-03 十分钟带你了解阿里、美团、滴滴、头条等互联网头部大厂面经
- 2025-08-03 什么是RPC?什么是Restful?它们有什么区别?
- 2025-08-03 基于Java实现,支持在线发布API接口读取数据库,有哪些工具?
- 2025-08-03 最近做了一个搜索接口的优化,反复压测了四次,终于达到要求了
- 2025-08-03 HTTP链接保活,3个层面的保活机制,让你的认知入木三分
- 2025-08-03 每天一个 Python 库:httpx异步请求,让接口测试飞起来
- 2025-08-03 20. 综合项目
- 2025-08-03 工厂模式+策略模式消除 if else 实战
- 2025-08-03 架构篇-一分钟掌握性能优化小技巧
- 08-05 Docker Compose 编排实战:一键部署多容器应用!
- 08-05 Docker 命令入门实战:搞懂这些才算真正入门!
- 08-05Docker 镜像构建加速与镜像瘦身实战,一篇就够!
- 08-05Docker 常用命令手册
- 08-05Docker命令大全详解(39个常用命令)
- 08-05Docker镜像越来越大?我用这 3 个技巧直接瘦身 80%!附实战优化对比
- 08-05Docker容器与镜像详解(6大核心区别)
- 08-05docker镜像操作
- 最近发表
- 标签列表
-
- location.href (44)
- document.ready (36)
- git checkout -b (34)
- 跃点数 (35)
- 阿里云镜像地址 (33)
- qt qmessagebox (36)
- mybatis plus page (35)
- vue @scroll (38)
- 堆栈区别 (33)
- 什么是容器 (33)
- sha1 md5 (33)
- navicat导出数据 (34)
- 阿里云acp考试 (33)
- 阿里云 nacos (34)
- redhat官网下载镜像 (36)
- srs服务器 (33)
- pico开发者 (33)
- https的端口号 (34)
- vscode更改主题 (35)
- 阿里云资源池 (34)
- os.path.join (33)
- redis aof rdb 区别 (33)
- 302跳转 (33)
- http method (35)
- js array splice (33)