Zatrudniliście personel, którym nikt nie zarządza

Każdy wdrożony przez was agent AI to pracownik z kluczem do waszych systemów. Loguje się, czyta dane, wywołuje inne usługi i działa bez nadzoru człowieka. Różnica polega na tym, że nikt w firmie nie traktuje go jak członka personelu, więc nikt nie stosuje wobec niego kontroli, które zastosowałby wobec pracownika.

Liczb nie da się już ignorować. KPMG podaje, że tożsamości nieludzkie, czyli konta serwisowe, klucze API, poświadczenia automatyzacji i agenty AI działające wewnątrz firmy, przewyższają liczebnie użytkowników będących ludźmi nawet w stosunku 80 do 1 w dużych organizacjach. Badania branżowe pokazują, że 47 procent tych tożsamości ma ponad rok bez rotacji poświadczeń, a zdecydowana większość ma o wiele szerszy dostęp, niż kiedykolwiek potrzebuje.

Łańcuch dostaw agentów stał się powierzchnią ataku

Nowoczesne agenty nie działają w pojedynkę. Pobierają umiejętności, wtyczki i konektory ze wspólnych platform, a każdy z tych elementów to pakiet z dostępem do waszych danych i waszych systemów. Ta wygoda jest zarazem furtką. Gdy instalujecie umiejętność, dziedziczycie wszystko, co jej autor w niej umieścił.

To już nie teoria. Na jednej z powszechnie używanych platform z umiejętnościami dla agentów badacze bezpieczeństwa odkryli, że mniej więcej jedna na pięć opublikowanych umiejętności została przekształcona w broń, a ponad jedna trzecia zawierała co najmniej jedną lukę bezpieczeństwa, od wstrzykiwania promptów po ujawnione sekrety. Autonomiczne agenty odpowiadają już za mniej więcej jeden na osiem zgłoszonych incydentów bezpieczeństwa AI, a większość firm przyznaje, że w minionym roku doświadczyła co najmniej jednego incydentu z udziałem agenta.

Zarządzajcie agentami tak, jak zarządzacie ludźmi

Odpowiedzią nie jest spowalnianie wdrożeń ani kolejny produkt do wykrywania zagrożeń doczepiony po fakcie. Jest nią traktowanie tożsamości nieludzkich z tą samą dyscypliną, którą już stosujecie wobec pracowników: pełny spis tego, jakie agenty istnieją, jakie poświadczenia posiadają i do czego wolno im sięgać.

Oznacza to domyślnie najmniejsze uprawnienia, zaplanowaną rotację poświadczeń, monitorowanie tego, co każdy agent faktycznie robi, oraz rzeczywisty proces wycofywania, tak aby wycofany agent tracił dostęp tego samego dnia, w którym przestaje być używany. Firmy, które robią to dobrze, zachowują szybkość agentów, nie dziedzicząc niezarządzanej powierzchni ataku. Te, które tego nie robią, przekonają się, że ich największym personelem był ten, którego nigdy nie wdrożyły.

Czytaj dalej: Pierwsza platforma agentów AI, którą CISA każe pilnie załatać  |  Sfałszowany token otwiera każdy PC pod zarządem narzędzia