ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

java-如何在春季创建一个非阻塞的@RestController Web服务?

2019-12-10 23:20:16  阅读:284  来源: 互联网

标签:spring-boot spring-web spring java spring-mvc


我有一个@RestController webservice方法,该方法可能会通过长时间运行的服务调用来阻塞响应线程.如下:

@RestController
public class MyRestController {
    //could be another webservice api call, a long running database query, whatever
    @Autowired
    private SomeSlowService service;

    @GetMapping()
    public Response get() {
        return service.slow();
    }

    @PostMapping()
    public Response get() {
        return service.slow();
    }
}

问题:如果X用户在这里呼叫我的服务怎么办?执行线程将全部阻塞,直到返回响应.因此吃掉了“最大连接数”,最大线程数等.

我记得前段时间读过一篇有关如何解决此问题的文章,该文章以某种方式驻留线程直到收到缓慢的服务响应.这样这些线程就不会阻塞,例如tomcat max连接/池.

但是我找不到了.也许有人知道如何解决这个问题?

解决方法:

有一些解决方案,例如使用asynchronous requests.在这些情况下,一旦返回CompletableFuture,DeferredResult,Callable …(并不一定完成),线程将再次变为空闲.

例如,假设我们这样配置Tomcat:

server.tomcat.max-threads=5 # Default = 200

我们有以下控制器:

@GetMapping("/bar")
public CompletableFuture<String> getSlowBar() {
    return CompletableFuture.supplyAsync(() -> {
        silentSleep(10000L);
        return "Bar";
    });
}

@GetMapping("/baz")
public String getSlowBaz() {
    logger.info("Baz");
    silentSleep(10000L);
    return "Baz";
}

如果我们一次触发100个请求,则必须等待至少200秒才能处理所有getSlowBar()调用,因为在给定的时间只能处理5个请求.另一方面,对于异步请求,您将必须等待至少10秒钟,因为所有请求都可能会立即处理,然后该线程可供其他人使用.

CompletableFuture,Callable和DeferredResult有区别吗?结果方面没有任何区别,它们的行为都相似.

但是,您处理线程的方式有些不同:

>使用Callable,您依靠Spring使用TaskExecutor执行Callable
>使用DeferredResult,您必须自己进行线程处理.例如,通过执行ForkJoinPool.commonPool()中的逻辑.
>使用CompletableFuture,您可以依赖默认线程池(ForkJoinPool.commonPool()),也可以指定自己的线程池.

除此之外,CompletableFuture和Callable是Java规范的一部分,而DeferredResult是Spring框架的一部分.

但是请注意,即使释放了线程,连接仍然对客户端保持开放状态.这意味着,使用这两种方法,一次可以处理的最大请求数量限制为10000,并且可以配置为:

server.tomcat.max-connections=100 # Default = 10000

标签:spring-boot,spring-web,spring,java,spring-mvc
来源: https://codeday.me/bug/20191210/2104755.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有