# Przegląd bezpieczeństwa wdrożenia AI

> Sprawdzamy, jak AI jest podłączone do danych i systemów firmy i kto co przez nie widzi.

**Źródło:** https://algorsec.pl/uslugi/bezpieczenstwo-ai/przeglad-wdrozenia-ai  
**Język:** pl-PL  
**Wydawca:** AlgorSec (ALGORSEC sp. z o.o.)

---

Przeglądamy architekturę i konfigurację wdrożenia AI, które korzysta z danych firmy, np. asystenta przeszukującego dokumenty albo integracji modelu z systemami. Sprawdzamy, kto co widzi, gdzie trafiają dane, jak chronione są klucze dostępu i co zostaje w logach. Przegląd nie wymaga ataku na działający system, więc można go zrobić także przed uruchomieniem.

Usługa nadrzędna: [Bezpieczeństwo AI](https://algorsec.pl/uslugi/bezpieczenstwo-ai)

## Zakres w tym obszarze

- **Uprawnienia do danych** - Czy asystent pokazuje użytkownikowi tylko to, do czego ten użytkownik ma dostęp, także w bazie dokumentów (OWASP LLM09).
- **Przepływ danych** - Jakie dane trafiają do modelu i do dostawcy, gdzie są przechowywane i jak długo.
- **Klucze i integracje** - Jak przechowywane są klucze API i jakie uprawnienia mają integracje z innymi systemami.
- **Logi i nadzór** - Co jest zapisywane, kto ma dostęp do zapisów rozmów i czy nietypowe użycie da się zauważyć.

## Przebieg prac

- **Opis wdrożenia** - Architektura, integracje i dane, z których korzysta AI.
- **Przegląd konfiguracji** - Uprawnienia, klucze, przepływ danych i logi.
- **Raport** - Ryzyka z priorytetami i rekomendacjami zmian.
- **Omówienie z zespołem** - Wyniki i plan zmian z osobami, które utrzymują wdrożenie.

## Efekty

- Mapa danych i integracji wdrożenia AI
- Ocena uprawnień i ochrony kluczy
- Raport z ryzykami i rekomendacjami
- Lista zmian przed uruchomieniem albo rozbudową

## Technologie i ramy

RAG, Uprawnienia, Klucze API, Logi

## Bezpieczeństwo wdrożenia AI i RAG - przegląd architektury i konfiguracji

Asystent, który przeszukuje dokumenty firmy, jest tak bezpieczny, jak uprawnienia i integracje, na których stoi. Przegląd bezpieczeństwa wdrożenia AI sprawdza architekturę i konfigurację: kto co widzi, gdzie trafiają dane, jak chronione są klucze i co zostaje w logach. Nie wymaga ataku na działający system, więc można go zrobić jeszcze przed uruchomieniem.

### Bezpieczeństwo RAG - gdzie powstaje ryzyko

RAG to sposób, w jaki asystent znajduje w bazie dokumentów fragmenty pasujące do pytania i podaje je modelowi. OWASP opisuje to w punkcie LLM09: gdy wyszukiwanie podobieństwa stoi między źródłem danych a modelem, warstwa wektorowa staje się częścią granicy zaufania aplikacji. Mówiąc prościej, baza dokumentów decyduje o tym, co model zobaczy.

Najważniejsze pytanie brzmi więc: czy asystent pokazuje użytkownikowi tylko to, do czego ten użytkownik ma dostęp w systemie źródłowym. Jeśli dokumenty kadrowe, finansowe i ogólne trafiły do jednego indeksu bez przeniesienia uprawnień, model może zacytować komuś treść, której ta osoba nigdy nie powinna zobaczyć.

### Przepływ danych, klucze i logi

Ustalamy, jakie dane trafiają do modelu i do dostawcy, gdzie są przechowywane i jak długo. Sprawdzamy, jak przechowywane są klucze API i jakie uprawnienia mają integracje z innymi systemami, bo konto techniczne z szerokim dostępem to prosta droga do danych, które nie powinny przez AI przechodzić.

Osobno patrzymy na logi. Zapisy rozmów mogą zawierać te same dane, które chroni się w systemach źródłowych, więc liczy się to, kto ma do nich dostęp. Sprawdzamy też, czy nietypowe użycie asystenta da się w ogóle zauważyć.

### Przegląd czy test aplikacji

Przegląd ocenia projekt i konfigurację na podstawie dokumentacji i ustawień. Test aplikacji z AI sprawdza działający system próbami ataków. Oba spojrzenia się uzupełniają: najpierw przegląd, który wskaże zmiany w architekturze, potem test, który potwierdzi, że działają. Najlepszy moment na przegląd to czas przed uruchomieniem albo przed podłączeniem nowych danych, bo wtedy zmiana uprawnień czy architektury jest najprostsza.

### Co przygotować i co dostajesz

Potrzebujemy opisu architektury, listy integracji i źródeł danych, z których korzysta AI, oraz wglądu w ustawienia uprawnień, kluczy i logowania. Wynikiem jest mapa danych i integracji wdrożenia, ocena uprawnień i ochrony kluczy oraz raport z ryzykami i rekomendacjami. Wyniki i listę zmian omawiamy z osobami, które utrzymują wdrożenie.
