获取NoHttpResponseException以进行负载测试

小编典典

获取NoHttpResponseException以进行负载测试

tomcat

我正在为我的应用程序运行负载测试。我有两台服务器：一台与我的应用程序一起，还有一台虚拟服务器，负责获得我的回复。

在我的虚拟服务器中，我有以下jsp代码：

<%@ page import="java.util.Random" %>
<%@ page language="java" %>
<%@ page session="false" %>
<%
   String retVal = "some json string";
   Thread.sleep(50);
%>

我正在使用tomcat7运行该应用程序。我的server.xml连接池（在两个服务器中）如下所示：

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="1500" minSpareThreads="1000" prestartminSpareThreads="true" /> 
<Connector port="9031" protocol="HTTP/1.1" 
           connectionTimeout="20000" 
           maxConnections="4000"
           executor="tomcatThreadPool"
           redirectPort="8443" />

我从服务器运行的Java代码是：

 HttpPost post = new HttpPost(bidderUrl);
 post.setHeader("Content-Type", "application/json");    
 // I'm using http client with ThreadSafeClientConnManager
 // total conn = 500,  max conn per route = 100, timeout=500millis
 HttpClient httpClient = httpClientFactory.getHttpClient();
    try {
        post.setEntity(new StringEntity(jsobBidRequest));
        HttpResponse response = httpClient.execute(post);
        ...
    catch (NoHttpResponseException e){
        log.error(e);
    }

我正在使用50个并发线程（无循环）运行Jmetter，并得到很多像这样的异常：

org.apache.http.NoHttpResponseException The target server failed to respond

当我只运行5个或10个并发线程时，一切正常。

您能告诉我我的设置有什么问题吗？以我的理解，对于50个并发线程请求，我看不到任何错误。

阅读 731

2020-06-16

共1个答案

小编典典

我找到了问题的根本原因。

由于某种原因，连接变为无效，并且池不知道该连接。

在这种情况下，NoHttpResponseException将引发且请求仅失败。我认为此类问题应在HTTP客户端池层中解决，并且对我的代码是透明的，但事实并非如此。

要解决此问题HttpRequestRetryHandler，HTTP客户端应被覆盖：

ThreadSafeClientConnManager cm = new ThreadSafeClientConnManager(schemeRegistry);
...
DefaultHttpClient httpClient = new DefaultHttpClient(cm, params);
httpClient.setHttpRequestRetryHandler(new HttpRequestRetryHandler() {
    @Override
    public boolean retryRequest(IOException exception, int executionCount, 
                                HttpContext context) {
        if (executionCount > 3) {
           LOGGER.warn("Maximum tries reached for client http pool ");
                return false;
        }
        if (exception instanceof org.apache.http.NoHttpResponseException) {
            LOGGER.warn("No response from server on " + executionCount + " call");
            return true;
        }
        return false;
      }
   });

2020-06-16