Let’s Handle 1 Million Requests per Second, It’s Scarier Than You Think!
Show description
Let's see what it's like to handle 1 million HTTP requests per second! In this video, we will set up a powerful infrastructure on AWS and handle more than a million requests per second. We will deal with Node.js, C++, PostgreSQL and Redis. Understanding Node.js Core Concepts Course: https://www.cododev.ca/uncc ------------------------------- SOURCE CODES: ------------------------------- Node.js Source Code: https://github.com/agile8118/node-1m-rps C++ Source Code: https://github.com/agile8118/cpp-1m-rps Tester Source Code: https://github.com/agile8118/1m-rps-tester ------------------------------- CHAPTERS: ------------------------------- Introduction 00:00 CPU Utilization & Threads 8:23 Getting Started 16:32 More on AutoCannon 20:30 Utilizing More CPU with Clustering 24:01 Moving to AWS 34:24 Adding a Storage-Based Database 1:01:50 Speeding Up with a Memory-Based Database 1:24:10 Redis Cluster Mode 1:36:18 C++ with Drogon and RapidJSON 1:51:52 The Final Colossal Tests 2:09:01 Outro 2:35:18 ------------------------------- LINKS: ------------------------------- AutoCannon: https://www.npmjs.com/package/autocannon Fastify: https://www.npmjs.com/package/fastify Cpeak: https://www.npmjs.com/package/cpeak AWS IAM 10th Anniversary: https://aws.amazon.com/blogs/apn/iam-10th-anniversary-top-recommendations-for-working-with-iam-from-our-aws-heroes-part-1/ AWS EC2 Price Calculator: https://calculator.aws/#/createCalculator/ec2-enhancement AWS RDS Price Calculator: https://calculator.aws/#/createCalculator/RDSPostgreSQL AWS Load Balancer LCU Calculator: https://exampleloadbalancer.com/ondemand_capacity_reservation_calculator.html www.cododev.ca ------------------------------- PVCFVTSY1BWZE4HP
Have questions about this video?
Sign up to chat with AI and get deeper insights.
Sign up — 5 free creditsEn este video, el anfitrión simula manejar más de 1 millón de solicitudes HTTP por segundo, explorando los desafíos y estrategias involucradas en lograr una escalabilidad tan alta utilizando varias tecnologías, incluyendo C++, Redis y AWS.
La cobertura profunda de temas complejos y aplicaciones del mundo real proporciona un valor de aprendizaje significativo para la audiencia objetivo.
Desarrolladores e ingenieros que buscan entender el diseño de sistemas escalables y la optimización del rendimiento.
Principiantes o aquellos que buscan tutoriales básicos de programación sobre temas introductorios.
El video ofrece profundas ideas técnicas con un enfoque en aplicaciones del mundo real, aunque algunos segmentos podrían simplificarse para una mayor accesibilidad.
- Entender los algoritmos es crucial en entornos de alta presión.
- Errores menores de codificación pueden llevar a pérdidas financieras significativas.
- Utilizar bases de datos en memoria como Redis puede mejorar mucho el rendimiento.
- Los marcos de codificación eficientes son esenciales para manejar cargas de solicitudes extremas.
- Probar bajo cargas simuladas es necesario para comprender los límites del sistema.
- AWS ofrece una infraestructura poderosa para escalar aplicaciones.
- El multihilo y la utilización de la CPU son críticos para maximizar el rendimiento.
- 1Experimentar con la configuración de pruebas de carga utilizando autocannon.
- 2Explorar diferentes soluciones de bases de datos para encontrar cuellos de botella en el rendimiento.
- 3Implementar Redis para el almacenamiento de datos en memoria.
- 4Refinar el código y los algoritmos para mejorar la eficiencia en escenarios de alto tráfico.
- Comprensión básica de los principios de ingeniería de software.
- Familiaridad con el desarrollo backend y las solicitudes HTTP.
- Conocimiento sobre computación en la nube y gestión de servidores.
Discutido como el proveedor de servicios en la nube utilizado para las pruebas.
Utilizado para ilustrar el manejo de datos en memoria.
Marco web de C++ mencionado para el manejo de alto rendimiento.
Un marco liviano desarrollado en el video para el manejo de solicitudes.
Herramienta utilizada para pruebas de carga de los servidores bajo alto tráfico.
tutorial
positive
intermediate
technical
Ingenieros de software y desarrolladores interesados en escalabilidad y aplicaciones de alto rendimiento.