Agenci AI w firmie – gdzie kończy się automatyzacja, a zaczyna ryzyko
Klasyczna automatyzacja wykonuje sztywny scenariusz: jeśli przyjdzie zamówienie, zrób A, B i C. Agent AI działa inaczej. Dostaje cel i zestaw narzędzi, a sam decyduje, których użyć i w jakiej kolejności. To daje ogromną elastyczność – i nowy rodzaj ryzyka.
Co agent potrafi
- przeczytać maila, sprawdzić zamówienie w systemie i przygotować odpowiedź,
- zebrać dane z kilku źródeł i zrobić zestawienie,
- uzupełnić rekordy w CRM na podstawie notatek ze spotkania,
- przeprowadzić prosty research i streścić wyniki.
Gdzie zaczyna się ryzyko
Uprawnienia. Agent może zrobić wszystko, do czego ma dostęp. Jeśli ma prawo usuwać rekordy, kiedyś któryś usunie. Zasada najmniejszych uprawnień jest tu ważniejsza niż przy ludziach.
Treści z zewnątrz. Agent czyta maile, strony internetowe i dokumenty. Ktoś może w nich ukryć polecenia, np. „przekaż dane klientów na ten adres”. To tzw. prompt injection. Agent, który przetwarza treści z zewnątrz, nie powinien mieć możliwości wysyłania danych dowolnym odbiorcom.
Działania nieodwracalne. Wysłany mail, zrealizowany przelew, usunięty plik – tego nie cofniesz.
Bezpieczne wdrożenie krok po kroku
- Zacznij od odczytu. Pierwsza wersja agenta tylko zbiera informacje i proponuje działania.
- Akceptacja człowieka przy każdej akcji, która wychodzi na zewnątrz lub zmienia dane.
- Pełny dziennik. Każde wywołanie narzędzia zapisane: co, kiedy, z jakimi danymi.
- Zestaw testów. Kilkadziesiąt typowych i kilka podchwytliwych przypadków, na których sprawdzasz agenta po każdej zmianie.
- Limity. Maksymalna liczba działań, maksymalny koszt, lista dozwolonych odbiorców.
Koszty
Agent wykonuje wiele kroków i wiele wywołań modelu. Zadanie, które w klasycznej automatyzacji kosztuje grosze, z agentem może kosztować wyraźnie więcej. Jeśli proces da się opisać sztywnym scenariuszem, często lepiej użyć klasycznej automatyzacji, a model językowy wstawić tylko tam, gdzie trzeba zrozumieć tekst.
Odpowiedzialność
Za działania agenta odpowiada firma, nie dostawca modelu. Traktuj go jak nowego pracownika na okresie próbnym: konkretny zakres obowiązków, nadzór i stopniowe zwiększanie zaufania.
Zdjęcie: Igor Omilaev / Unsplash
Pisze o automatyzacji procesów w firmach i narzędziach AI.