Poziomy autonomii agentów AI: jak dobrać zakres działania

Autonomia nie oznacza jednego przełącznika „samodzielnie” albo „ręcznie”. Agent może sam przygotować propozycję, wybrać źródła, wykonać odwracalną czynność albo przeprowadzić cały proces. Każdy z tych poziomów wymaga innych danych, uprawnień i sposobu odbioru.

Najbezpieczniej rozwijać autonomię razem z dowodami jakości. Bezpieczne wdrożenie agenta AI powinno opisywać nie tylko narzędzia, ale także warunki zatrzymania i odpowiedzialność człowieka.

Autonomia to zakres odpowiedzialności

Najpierw opisz decyzję, którą agent ma wspierać. Kto ponosi skutek błędu, czy działanie można cofnąć, jak szybko można je wykryć i jakie dane są potrzebne? Te pytania są ważniejsze niż liczba kroków w promptcie.

Rozdziel autonomię poznawczą od wykonawczej. Agent może samodzielnie porównać źródła, ale nie powinien samodzielnie zmieniać rekordu. Może zaplanować serię działań, ale nadal czekać na zatwierdzenie przed każdym krokiem o skutku zewnętrznym. Takie rozdzielenie pozwala zwiększać użyteczność bez automatycznego zwiększania ryzyka.

Ustal pięć poziomów działania

Na poziomie pierwszym agent odpowiada na pytanie w ograniczonym zakresie, a człowiek sam wykonuje dalsze czynności. Na poziomie drugim agent przygotowuje propozycję wraz ze źródłami i ostrzeżeniami, lecz decyzję podejmuje człowiek.

Na poziomie trzecim agent wybiera spośród dozwolonych wariantów i wykonuje czynności odwracalne po jednej akceptacji. Na poziomie czwartym może samodzielnie realizować powtarzalny proces w zamkniętym zakresie, pod warunkiem walidacji, limitów i możliwości zatrzymania. Poziom piąty oznacza autonomię w szerokim zakresie i powinien być traktowany jako wyjątek, nie domyślny cel.

Poziom nie jest etykietą marketingową. Dwa agenty na tym samym poziomie mogą mieć zupełnie inne ryzyko, jeśli jeden korzysta z odczytu dokumentów, a drugi wysyła komunikaty lub zmienia dane. Klasyfikuj konkretne operacje, a nie całą aplikację jednym słowem.

Połącz poziom z bramkami i uprawnieniami

Każdy poziom powinien mieć bramkę wejścia, bramkę wykonania i bramkę wyniku. Wejście sprawdza kompletność danych. Wykonanie potwierdza, że narzędzie i argumenty są dozwolone. Wynik sprawdza, czy rezultat spełnia kryteria jakości i czy nie wymaga eskalacji.

Uprawnienia nadaj minimalnie i rozdziel je według operacji. Dostęp do odczytu nie powinien oznaczać prawa zapisu, a prawo przygotowania komunikatu nie powinno oznaczać prawa jego wysłania. Loguj decyzję o przyznaniu dostępu, wersję konfiguracji i osobę lub regułę zatwierdzającą.

Przejście na wyższy poziom

Awans autonomii powinien wynikać z wyników, nie z samego czasu działania systemu. Zmierz poprawność, trafne eskalacje, niebezpieczne próby, czas, koszt i obciążenie kontroli. Wynik średni nie może kompensować pojedynczego błędu krytycznego.

Przejście wykonuj etapami. Najpierw zwiększ liczbę przypadków o niskim ryzyku, później dodaj przypadki graniczne. Zachowaj próbkę ręcznej kontroli i osobny zestaw testowy, którego agent nie widział wcześniej. Po zmianie zakresu uprawnień powtórz testy bezpieczeństwa, nawet jeśli prompt nie został zmieniony.

Zaplanuj cofnięcie autonomii

Mechanizm wycofania powinien być prostszy niż awans. Przygotuj możliwość przełączenia operacji do trybu rekomendacji, wyłączenia konkretnego narzędzia i powrotu do poprzedniej wersji konfiguracji. Nie czekaj na pełną diagnozę, jeśli pojawia się sygnał naruszenia zakresu.

Po cofnięciu zapisz przyczynę, wpływ i warunek ponownego uruchomienia. Incydent powinien zasilić nowy przypadek testowy, a nie zostać tylko komentarzem w raporcie. Taki rytm pozwala zwiększać autonomię stopniowo i zachować kontrolę nad skutkami.

Przydatna karta oceny powinna zawierać: operację, poziom autonomii, wymagane uprawnienie, warunek akceptacji, dowód wykonania i sposób cofnięcia. Właściciel procesu może wtedy ocenić pojedynczą czynność zamiast dyskutować o abstrakcyjnym poziomie całego systemu. Karta powinna również wskazywać, jakie dane są niedostępne dla agenta oraz do kogo trafia eskalacja.

Poziom autonomii warto przeglądać po zmianie modelu, narzędzia, źródła danych lub procesu. Zmiana techniczna może zmienić zachowanie nawet wtedy, gdy zakres funkcji wygląda tak samo. Krótki przegląd przed wydaniem i próbka ręcznej kontroli po wydaniu są tańsze niż odtwarzanie skutków niejawnego rozszerzenia uprawnień.

Najważniejsza zasada brzmi: zakres działania musi być zrozumiały dla osoby odpowiedzialnej za proces.

Przegląd nie powinien być jednorazową formalnością. Powtarzaj go po zmianie zakresu danych, narzędzi, modelu lub sposobu akceptacji. Jeśli osoba odbierająca wynik nie potrafi w kilku zdaniach powiedzieć, co agent może zrobić i kiedy musi się zatrzymać, autonomia jest zbyt szeroka albo kontrakt jest nieczytelny. Wyniki takiego przeglądu warto połączyć z pomiarem jakości agenta.