Периодические зависания в ответах на запросы

[waster]

Здравствуйте,

Установлен Nginx 1.10.1, нагрузка в пике достигает 2Gbps (~6K
handled_requests/sec). Sysctl поднастроен:
----------------------------------------------------------------------------------------------------------------
# Custom
net.ipv4.tcp_fin_timeout=10
net.ipv4.tcp_tw_recycle = 0
net.ipv4.tcp_tw_reuse = 1
net.core.somaxconn = 65535
net.ipv4.tcp_max_syn_backlog = 65536
net.ipv4.tcp_rfc1337 = 1
net.ipv4.ip_local_port_range = 16384 65535

fs.file-max = 200000
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
vm.overcommit_memory = 1
----------------------------------------------------------------------------------------------------------------
Пример конфигурации: https://forum.nginx.org/read.php?21,270342

Почему-то периодически (раз в несколько минут) наблюдаются зависания в
ответах, причем даже на статусный запрос. C включенным keepalive для
upstream "затыки" встречаются гораздо чаще, при снижении нагрузки (в ночные
часы) они сохраняются. Ниже даны примеры обычного запроса, и запроса, на
котором наблюдается "затык". Видно, что в этот момент резко подскакивает
Writing.

# curl http://localhost/status
Active connections: 12917 
server accepts handled requests
 39318277 39318277 473217981 
Reading: 1 Writing: 100 Waiting: 12806 
------------------------------------------------------------
# curl http://localhost/status
(несколько секунд ждем ответ)
Active connections: 16261 
server accepts handled requests
 39322503 39322503 473225372 
Reading: 0 Writing: 6960 Waiting: 9282
------------------------------------------------------------

Кроме того, в этот момент видно увеличение очереди TCP:

#ss -lt
State      Recv-Q Send-Q      Local Address:Port          Peer Address:Port
...
LISTEN     1579          65535                   *:http                     
     *:*
...

Подскажите, пожалуйста, в чем может быть причина?

С уважением, Андрей.

Posted at Nginx Forum: https://forum.nginx.org/read.php?21,271081,271081#msg-271081