Testy wydajnościowe i stress testy w k6, także dla aplikacji z LLM
Dowiedz się, ilu użytkowników wytrzyma Twoja aplikacja, jak rośnie czas odpowiedzi modelu pod obciążeniem i czy limity tokenów naprawdę działają, zanim sprawdzi to kampania marketingowa.
Umów bezpłatną konsultacjęDla kogo
- Aplikacje z chatbotem lub agentem (koszt i latencja LLM)
- E-commerce przed sezonem
- Startupy przed premierą
- Aplikacje z SLA (DORA)
Rodzaje testów
- Load, stress, spike i soak
- Dla LLM: czas do pierwszego tokenu (TTFT) i pełnej odpowiedzi, p95
- Dla LLM: zachowanie kolejek i rate limitów dostawcy modelu
- Dla LLM: koszt tokenów na 1000 rozmów
- Dla LLM: odporność na długie prompty
Jak przebiegają testy
k6 i skrypty w TypeScript lub JS, scenariusze oparte na realnych ścieżkach, progi (p95, błędy, koszt), monitoring po stronie aplikacji, jeśli jest dostępny.
Środowisko wskazujesz Ty, a na produkcji testy odbywają się tylko za zgodą i w uzgodnionym oknie. Endpointy LLM są testowane z mockiem modelu lub w uzgodnionym budżecie.
Co dostajesz
- Skrypty k6, które są Twoją własnością
- Raport z wykresami
- Wąskie gardła i rekomendacje
- Progi do wpięcia w CI
Pakiety
| Pakiet | Co zawiera | Czas |
|---|---|---|
| Testy wydajnościowe | scenariusze k6 (w tym endpointy LLM), wykonanie, raport z progami | ok. 5 dni roboczych |
| Wydajność w CI | progi k6 wpięte w pipeline | indywidualnie |
Najczęstsze pytania
Czy testy obciążeniowe zużyją nasz budżet na API modelu?
Endpointy LLM są testowane z mockiem modelu albo w budżecie uzgodnionym z góry. Bez zgody nie ma obciążenia na produkcyjnym kluczu.
Czy testy odbywają się na produkcji?
Tylko za zgodą i w uzgodnionym oknie. Domyślnie testy odbywają się na środowisku, które wskażesz.
Czy skrypty zostają u nas?
Tak. Skrypty k6 są Twoją własnością, a progi można wpiąć w CI.
Kontakt
Wystarczy kilka zdań: co robi Twoja aplikacja, gdzie korzysta z AI i co chcesz przetestować. Odpowiedź przychodzi w ciągu 1 dnia roboczego, razem z propozycją terminu bezpłatnej rozmowy.