<div dir="ltr"><div><div><div><div><div><div><div><div><div><div>Hi All,<br><br></div>I ran some benchmarks on our DreamFactory product running on NGINX using Apache Benchmark<br><br></div>DreamFactory is a REST API platform, but from a server point of view it should look more or less like a simple WordPress website<br><br></div>see the graphical results here:   www<b>.<a href="http://dreamfactory.com/publications/comparison.png">dreamfactory.com/publications/comparison.png</a></b><br></div><br></div>the red lines show the average and maximum response time for 500 requests at different levels of concurrency running on a "medium" aws server with 1 CPU<br><br>the blue lines show the average and maximum response time for 500 requests at different levels of concurrency running on a "large" aws server with 2 CPUs<br><br></div>Does anyone know why at about 100 concurrent requests we start to see some requests taking much longer to finish?<br><br></div>Is this too much work for the processor? The database is overloaded? There is some server setting that limits concurrency?<br><br></div>I have also included one of the benchmark reports below, as you can see most of the requests are handled promptly but about 5% are deferred and take a much longer time....<br><br></div>Any help would be appreciated!<br><br><br></div>Thanks,<br><div><div><br></div><div>Bill Appleton<br></div><div><div><div><div><div><div><div><div><div><div><div><div><div><div><div class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><img alt="">www.<a href="http://dreamfactory.com" target="_blank">dreamfactory.com</a><br><br></div><br><br><br>Server Software:        nginx<br>Server Hostname:        <a href="http://next.cloud.dreamfactory.com">next.cloud.dreamfactory.com</a><br>Server Port:            80<br>Document Length:        126 bytes<br><br>Concurrency Level:      200<br>Time taken for tests:   16.147 seconds<br>Complete requests:      500<br>Failed requests:        0<br>Non-2xx responses:      500<br>Total transferred:      298000 bytes<br>HTML transferred:       63000 bytes<br>Requests per second:    30.97 [#/sec] (mean)<br>Time per request:       6458.755 [ms] (mean)<br>Time per request:       32.294 [ms] (mean, across all concurrent requests)<br>Transfer rate:          18.02 [Kbytes/sec] received<br><br>Connection Times (ms)<br>              min  mean[+/-sd] median   max<br>Connect:       85  209 208.7     91     725<br>Processing:   146 3605 2629.2   3096   15633<br>Waiting:      145 3604 2629.2   3095   15633<br>Total:        243 3814 2725.4   3189   16143<br><br>Percentage of the requests served within a certain time (ms)<br>  50%   3189<br>  66%   3264<br>  75%   3831<br>  80%   4175<br>  90%   6766<br>  95%  10568<br>  98%  11114<br>  99%  16069<br> 100%  16143 (longest request)<br><br><br><br><br><br><br><br><br></div></div></div></div></div></div></div></div>
</div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div>