Erreichen von mehr als 70,000 HTTP-Anforderungen pro Sekunde beim Cloud Load Balancing

ZVNcloud ist eine Lastverteilungs-Service-Lösung, die in der Cloud entwickelt wurde und auf der #ZenLoadBalancer-Technologie und der #DigitalOcean-Cloud-Plattform basiert, um Lastverteilungsdienste nach Bedarf zu koordinieren. Dank dieser Technologie Benutzer können einen virtuellen Lastenausgleich in mehr als 12-Datencentern auf der ganzen Welt in weniger als 2-Minuten in der Cloud bereitstellen.

Das folgende Dokument zeigt, wie ZVNcloud kann mehr als 70,000 HTTP-Verbindungen gleichzeitig verarbeiten mit einem einfachen virtuellen Lastverteiler, der 0.134 € / Stunde kostet.

Im Bild unten ist die getestete Umgebung dargestellt:

• • Dieser Webclient ist in einem Datacenter von London installiert und kann tausende HTTP-Verbindungen gleichzeitig pro Sekunde senden.
  • Dieser zweite Webclient, der in einem Frankfurter Rechenzentrum installiert ist, ist bereit, pro Sekunde Tausende von HTTP-Verbindungen gleichzeitig zu senden.
  • Ein Virtual Load Balancer, der in einem Rechenzentrum von New York mit öffentlichem virtuellen IP und Raw-TCP-Scheduler über Port 80 bereitgestellt wird und so konfiguriert ist, dass er einen Lastausgleichsdienst für zwei Webserver in San Francisco anbietet.
  • Eine in einem Rechenzentrum von San Francisco bereitgestellte Webanwendung mit öffentlicher IP-Adresse und Port 8080
  • Dieselbe Webanwendung, die in einem zweiten Webserver in einem anderen Rechenzentrum von San Francisco mit öffentlicher IP-Adresse und Port 8080 repliziert wurde

Hier die Konfiguration des virtuellen Lastverteilers von ZVNcloud mit L4xNAT-Profil

Sobald das Load Balancer-Setup abgeschlossen ist, kann es Anfragen beantworten und sie auf den Backends-Servern freigeben.

Der Client 1 aus London und der Client2 aus Frankfurt führen den Befehl wrk aus, mit dem Tausende gleichzeitiger Webverbindungen gestartet werden können. Hier sind die Ergebnisse:

client1:London
Started: Tue Aug 30 11:01:16 AM 2016
Running 30s test @ http://162.243.165.124
  12 threads and 40500 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency     1.05s     1.93s   28.81s    90.16%
    Req/Sec     1.29k   406.93     3.45k    72.76%
  457400 requests in 30.10s, 100.33MB read
Requests/sec:  15193.81
Transfer/sec:  3.33MB
Finished: Tue Aug 30 11:01:46 AM 2016

client2: Frankfurt
Tue Aug 30 11:01:16 AM 2016
Running 30s test @ http://162.243.165.124
  12 threads and 40500 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency     1.34s     2.45s   29.24s    90.60%
    Req/Sec     1.34k   454.44     3.72k    72.57%
  475069 requests in 30.12s, 104.20MB read
Requests/sec:  15773.61
Transfer/sec:  3.46MB
Finished: Tue Aug 30 11:01:46 AM 2016

Der Test wurde während der 30-Sekunde ausgeführt. Folgende Zahlen wurden erhalten: Anzahl der 932,469-HTTP-Anforderungen in 30-Sekunden, die 204,53 MB übertrugen.

Das folgende Diagramm zeigt, wie der Load Balancer die Verbindungen während des Benchmarks verwaltet:

Hier eine vollständige Tabelle mit den Ergebnissen pro Sekunde:

Zusammenfassend kann ZVNcloud als virtueller Lastverteiler von 0.134 € / Stunde mit der Cloud-Infrastruktur von Digital Ocean die Lastverteilungsanforderung für 70,408-HTTP-Verbindungen von zwei Clients an zwei in unterschiedlichen Rechenzentren geografisch verteilte Webserver ohne Fehler erreichen.

Weitere Informationen in www.zvncloud.com