Testy bezpieczeństwa aplikacji AI, chatbotów i agentów LLM
Twoja aplikacja korzysta z modelu językowego? Test sprawdza, czy nie da się go namówić na rzeczy, których robić nie powinien, i czy nie wynosi danych, których wynosić nie wolno.
Umów bezpłatną konsultacjęDla kogo
- Chatboty obsługi klienta
- Asystenci w SaaS i copiloty
- Agenci z narzędziami (mail, CRM, płatności, kod)
- RAG na dokumentach firmowych
- Integracje no-code (Zapier/Make + LLM)
- Boty od dostawców zewnętrznych
Zakres testów mapowany na OWASP Top 10 for LLM Applications
Prompt injection
Bezpośredni (użytkownik) i pośredni (dokumenty w RAG, strony WWW, maile, pliki, nazwy produktów). Czy da się zmienić zachowanie bota, obejść instrukcje, wymusić działania.
Wyciek informacji
Prompt systemowy, dane innych użytkowników i klientów, zawartość bazy wiedzy, klucze i konfiguracja w kontekście, dane osobowe w odpowiedziach i logach.
Nadmierne uprawnienia (excessive agency)
Jakie narzędzia ma agent, czy wykonuje akcje bez potwierdzenia, czy da się go skłonić do działania na cudzych danych.
Niewłaściwa obsługa wyjścia
Odpowiedź modelu renderowana jako HTML lub Markdown (XSS), wstawiana do zapytań SQL lub poleceń shella, wykonywana jako kod.
Nadużycia API i koszty
Brak uwierzytelnienia, brak limitów na użytkownika, długie prompty, wykorzystanie endpointu jako darmowego proxy do modelu.
RAG
Zatruwanie bazy wiedzy, dostęp do dokumentów bez uprawnień (brak filtrowania po użytkowniku), wycieki między tenantami.
Filtry i guardraile
Obejścia moderacji, jailbreaki, obraźliwe i niezgodne z marką treści, obietnice i „rabaty”.
Obowiązki AI Act art. 50
Czy użytkownik jest informowany, że rozmawia z AI, i czy treści generowane są oznaczane tam, gdzie wymaga tego prawo.
Jak przebiegają testy
Testy bezpieczeństwa AI zaczynają się od scenariuszy ręcznych z perspektywy użytkownika i atakującego. Do tego zautomatyzowane zestawy promptów (własne oraz open-source: promptfoo, garak), analiza architektury (gdzie wchodzi niezaufany tekst, jakie narzędzia, jakie dane) i ocena wpływu biznesowego.
Na rozmowie ustalamy, czy to ma być pentest chatbota, prompt injection test, audyt bezpieczeństwa agenta AI, czy przegląd całej aplikacji LLM. Bezpieczeństwo LLM sprawdzamy w budżecie tokenów uzgodnionym w zakresie.
Co dostajesz
- Raport: podsumowanie zarządcze, znaleziska z priorytetem, przykładami promptów i odpowiedzi oraz dowodami, rekomendacje (architektura, uprawnienia narzędzi, filtrowanie, limity, guardraile)
- Spotkanie omawiające wyniki
- Darmowy retest, jeśli poprawki są gotowe w ciągu 30 dni od raportu
- Odznakę „Tested by codequality.pl” po reteście
- Opcjonalnie zestaw evali do CI (pakiet „Evale AI w CI”), żeby znaleziska z raportu stały się testami regresyjnymi
Warunki
- Pisemna zgoda właściciela systemu
- Uzgodniony zakres i okno testów
- Budżet tokenów
- Kontakt awaryjny po obu stronach
- Prompty i dane z testów nie trafiają do zewnętrznych narzędzi bez zgody
Pakiety
| Pakiet | Co zawiera | Czas |
|---|---|---|
| AI Security Quick Checkpolecany | przegląd jednej aplikacji AI: prompt injection (bezpośredni i pośredni), wyciek promptu i danych, uprawnienia narzędzi, limity API, obowiązki informacyjne AI Act; raport z priorytetami, omówienie, darmowy retest | raport w 5 dni roboczych |
| AI Security Review | pełne testy warstwy AI (mapowane na OWASP Top 10 for LLM Applications) + logika biznesowa + RAG + agenci; raport, omówienie, darmowy retest | ok. 10 dni roboczych |
| AI + API Pentest | AI Security Review + pentest API i aplikacji web wokół modelu (ASVS L1/L2); jeden raport, darmowy retest | ok. 15 dni roboczych |
| Evale AI w CI | zestaw testów regresyjnych promptów (promptfoo) i e2e interfejsu czatu (Playwright) wpięty w GitHub Actions / GitLab CI; przekazanie zespołowi | ok. 5 dni roboczych |
Najczęstsze pytania
Korzystamy z API OpenAI / Anthropic / Google. Model nie jest nasz, więc co właściwie jest testowane?
Wszystko, co jest Wasze: prompt systemowy, baza wiedzy (RAG), narzędzia, do których agent ma dostęp, uprawnienia, filtrowanie wejścia i wyjścia, limity, logowanie. Tam powstaje większość podatności, nie w samym modelu.
Mamy chatbota od zewnętrznego dostawcy (widget). Czy test ma wtedy sens?
Tak. Test sprawdza, co bot może ujawnić i zrobić w Waszym kontekście (dane, integracje) i czy spełnia obowiązki informacyjne AI Act, a Wy dostajecie listę pytań/poprawek dla dostawcy. Część ryzyk leży po stronie dostawcy i raport to rozdziela. Jeśli bot działa u dostawcy, zakres uwzględnia jego zasady testów bezpieczeństwa, a w razie potrzeby jego zgodę.
Czy testy zużyją nasze tokeny i podniosą rachunek za API?
Budżet tokenów ustalamy w zakresie. Testy odbywają się na środowisku testowym lub z limitami. Bez zgody nie ma testów obciążeniowych na produkcyjnym kluczu.
Czy testy obejmują też model open-source hostowany u nas?
Tak, razem z konfiguracją serwera inferencji i jego API.
Czy po poprawkach mogę dostać odznakę?
Tak, po reteście.
Kontakt
Wystarczy kilka zdań: co robi Twoja aplikacja, gdzie korzysta z AI i co chcesz przetestować. Odpowiedź przychodzi w ciągu 1 dnia roboczego, razem z propozycją terminu bezpłatnej rozmowy.