面试官：10万QPS系统架构是怎么设计的？

一、问题背景
10万QPS意味着每秒需要处理10万次请求，这对系统的吞吐量、延迟和稳定性提出了极高要求。单机往往无法承受如此压力，因此需要整体架构设计、分布式部署和性能优化 。
常见痛点包括：
请求过载：瞬时高峰导致服务崩溃
数据库瓶颈：单机数据库无法承受大量写入
缓存穿透/雪崩/击穿：高并发导致缓存失效，引发数据库压力
消息堆积：异步队列未处理及时，导致延迟积累
我整理了一套完整Java面试题 库，
完整版在我的技术站：https://myquotego.com/html/questions?_from=csdn_123_1

二、技术原理解析
1. 架构层级设计
高并发系统一般采用 前端负载均衡 → 应用服务层 → 数据层 的三层架构：
负载均衡
Nginx 或 LVS 分发请求
实现四层/七层负载，保证请求均匀分布
应用服务层（微服务）
使用 Spring Boot / Spring Cloud 构建
服务拆分，水平扩展
使用线程池、异步任务、非阻塞IO提升吞吐量
数据层
分库分表，读写分离
使用 Redis / Memcached 缓存热点数据
数据库优化：索引、批量操作
2. 高并发优化核心技术
2.1 缓存优化
缓存预热：系统启动时加载热点数据到Redis
缓存穿透：使用布隆过滤器过滤非法请求
缓存雪崩：设置不同过期时间，或者二级缓存策略
2.2 异步化与消息队列
通过 RabbitMQ、Kafka 或 RocketMQ 异步处理高耗时操作
将同步操作转为异步，降低主线程压力
2.3 限流与降级
限流：漏桶算法、令牌桶算法
熔断：Hystrix 或 Resilience4j
防止雪崩效应，让系统保持基本可用
2.4 数据库优化
分库分表 + 读写分离
索引优化、SQL 批量操作
使用 Redis 缓存热点查询，降低数据库压力
2.5 分布式架构
服务注册与发现（Eureka、Consul）
分布式锁（Redisson）防止并发写冲突
分布式事务：TCC、最终一致性
我整理了一套完整Java面试题库，
完整版在我的技术站：https://myquotego.com/html/questions?_from=csdn_123_1

三、代码示例
1. 使用线程池处理高并发请求
import java.util.concurrent.*;
public class QPSDemo {
    public static void main(String[] args) {
        int corePoolSize = 50;
        int maxPoolSize = 200;
        int queueCapacity = 5000;
        ThreadPoolExecutor executor = new ThreadPoolExecutor(
                corePoolSize, maxPoolSize, 60, TimeUnit.SECONDS,
                new ArrayBlockingQueue<>(queueCapacity),
                new ThreadPoolExecutor.CallerRunsPolicy()
        );
        for (int i = 0; i < 100_000; i++) {
            executor.execute(() -> {
                // 模拟请求处理逻辑
                try {
                    Thread.sleep(10); // 模拟耗时
                    System.out.println(Thread.currentThread().getName() + " processed request");
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            });
        }
        executor.shutdown();
    }
}
2. Redis  缓存热点数据示例
import redis.clients.jedis.Jedis;
public class RedisCacheDemo {
    private static final Jedis jedis = new Jedis("localhost");
    public static String getUserInfo(String userId) {
        String key = "user:" + userId;
        String value = jedis.get(key);
        if (value == null) {
            // 模拟数据库查询
            value = "UserInfo for " + userId;
            jedis.setex(key, 60, value); // 缓存1分钟
        }
        return value;
    }
    public static void main(String[] args) {
        System.out.println(getUserInfo("12345"));
    }
} 3. 限流示例（令牌桶算法）
import com.google.common.util.concurrent.RateLimiter;
public class RateLimitDemo {
    // 每秒发放100个令牌
    private static final RateLimiter limiter = RateLimiter.create(100.0);
    public static void main(String[] args) {
        for (int i = 0; i < 200; i++) {
            limiter.acquire();
            System.out.println("Request " + i + " processed at " + System.currentTimeMillis());
        }
    }
} 四、实际应用场景
电商秒杀系统

高并发订单请求，Redis + MQ 异步处理
限流和排队保证系统可用性
社交媒体消息推送

高峰期消息异步入队
使用缓存热点数据减少数据库压力
支付系统

分布式事务 + 消息队列保证一致性
限流、防重入、幂等性处理
这些场景中，10万QPS系统需要考虑整体架构、缓存 优化、异步化处理、分布式协作以及限流降级策略。

我整理了一套完整Java面试题库，
完整版在我的技术站：https://myquotego.com/html/questions?_from=csdn_123_1

五、总结
设计10万QPS系统，核心原则是：

系统拆分、分层：负载均衡 + 服务拆分 + 数据分层
缓存 + 异步 + 队列：减少数据库压力，提高吞吐量
限流 + 降级：保证系统稳定性
分布式架构与监控：服务注册、分布式锁、日志和指标监控
通过上述方法，Java开发 者可以设计出高可用、高并发的系统，应对10万QPS压力。理解原理、掌握工具、能落地实现，是面试官最关心的点。

关注我，持续更新Java面试核心知识。
————————————————
版权声明：本文为CSDN博主「花无缺000」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/huazaijake/article/details/159126836