Indicadores de rendimiento: QPS, TPS, RT, rendimiento

QPS: Consultas por segundo significa "tasa de consultas por segundo", que es la cantidad de consultas que un servidor puede manejar por segundo. Es una medida de la cantidad de tráfico que maneja un servidor de consultas específico dentro de un período específico. tiempo. En Internet, el rendimiento de una máquina que sirve como servidor del sistema de nombres de dominio a menudo se mide en términos de tasa de consultas por segundo.

TPS: es la abreviatura de TransactionsPerSecond, que es el número de transacciones/segundo. Es una unidad de medida para los resultados de las pruebas de software. Una transacción se refiere al proceso en el que un cliente envía una solicitud al servidor y el servidor responde. El cliente comienza a cronometrar cuando envía una solicitud y finaliza cuando recibe la respuesta del servidor para calcular el tiempo utilizado y el número de transacciones completadas. QPS vs TPS: QPS es básicamente similar a TPS, pero la diferencia es que una visita a una página forma un TPS; pero una solicitud de página puede generar múltiples solicitudes al servidor, y el servidor puede contar estas solicitudes como "QPS". Por ejemplo, acceder a una página solicitará al servidor dos veces. Un acceso generará una "T" y dos "Q".

Tiempo de respuesta: el tiempo total que lleva ejecutar una solicitud desde el principio hasta el final cuando se reciben los datos de respuesta, es decir, el tiempo desde que el cliente inicia la solicitud hasta que recibe el resultado de la respuesta del servidor. El tiempo de respuesta RT (tiempo de respuesta) es uno de los indicadores más importantes de un sistema. Su valor numérico refleja directamente la velocidad del sistema.

El número de concurrencia se refiere al número de solicitudes que el sistema puede manejar al mismo tiempo, lo que también refleja la capacidad de carga del sistema.

El rendimiento del sistema (capacidad de soportar presión) está estrechamente relacionado con el consumo de CPU, interfaces externas, IO, etc. de la solicitud. Cuanto mayor sea el consumo de CPU de una sola solicitud, más lenta será la interfaz del sistema externo y la velocidad de E/S, y menor será la capacidad de rendimiento del sistema, y ​​viceversa. Varios parámetros importantes del rendimiento del sistema: QPS (TPS), número de concurrencias y tiempo de respuesta.

QPS (TPS): (Query Per Second) número de solicitudes/transacciones por segundo

Número de concurrencia: número de solicitudes/transacciones procesadas por el sistema al mismo tiempo

Tiempo de respuesta: Generalmente, se toma el tiempo de respuesta promedio

Después de comprender el significado de los tres elementos anteriores, se puede calcular la relación entre ellos:

QPS ( TPS) = número de concurrencias/tiempo de respuesta promedio

Número de concurrencias = QPS*Tiempo de respuesta promedio

Entendamos los conceptos anteriores a través de un ejemplo. Según la regla 80/20, si el 80% de las visitas diarias se concentran en un 20% del tiempo, ese 20% del tiempo se denomina hora punta.

1. Si se utilizan 3 millones de PV por día en una sola máquina, ¿cuántos QPS requiere esta máquina?

(3000000 * 0.8) / (86400 * 0.2) = 139 (QPS)

2. Si el QPS de una máquina es 58, ¿cuántas máquinas se necesitan para soportarlo?

139 / 58 = 3

Para el mismo sistema, cuantos más subprocesos admita, mayor será el QPS. Suponiendo que un RT es de 80 ms, puede calcular fácilmente el QPS, QPS = 1000/80 = 12,5

En un escenario de subprocesos múltiples, si el número de subprocesos en el servidor aumenta a 2, entonces el QPS de todo el sistema es 2 * (1000/80) = 25. Se puede ver que QPS aumenta linealmente con el aumento de subprocesos. Si QPS no puede aumentar, simplemente agregue subprocesos. Suena razonable y la empresa tiene sentido, pero la realidad. muchas veces no es el caso.

Nuestra relación imaginada entre QPS y RT es la siguiente

La relación real entre QPS y RT es la siguiente

El número crítico de subprocesos que solo consume el Los recursos de cuello de botella del servidor son los siguientes:

Cuando se alcanza el número óptimo de subprocesos, si el número de subprocesos continúa aumentando, el QPS permanecerá sin cambios, pero el tiempo de respuesta será más largo, y si el Si el número de subprocesos continúa aumentando, el QPS comenzará a disminuir.

Cada sistema tiene su número óptimo de subprocesos, pero el número óptimo de subprocesos cambiará en diferentes condiciones.

Los recursos de cuello de botella pueden ser CPU, memoria, recursos de bloqueo, recursos de IO: exceder el número óptimo de subprocesos, lo que lleva a la competencia de recursos, exceder el número óptimo de subprocesos, aumenta el tiempo de respuesta.