Oprogramowanie i AI

Agenci AI w firmie – gdzie kończy się automatyzacja, a zaczyna ryzyko

2026-05-19 · 1 min czytania · Kamila Urban
Agenci AI w firmie – gdzie kończy się automatyzacja, a zaczyna ryzyko

Klasyczna automatyzacja wykonuje sztywny scenariusz: jeśli przyjdzie zamówienie, zrób A, B i C. Agent AI działa inaczej. Dostaje cel i zestaw narzędzi, a sam decyduje, których użyć i w jakiej kolejności. To daje ogromną elastyczność – i nowy rodzaj ryzyka.

Co agent potrafi

  • przeczytać maila, sprawdzić zamówienie w systemie i przygotować odpowiedź,
  • zebrać dane z kilku źródeł i zrobić zestawienie,
  • uzupełnić rekordy w CRM na podstawie notatek ze spotkania,
  • przeprowadzić prosty research i streścić wyniki.

Gdzie zaczyna się ryzyko

Uprawnienia. Agent może zrobić wszystko, do czego ma dostęp. Jeśli ma prawo usuwać rekordy, kiedyś któryś usunie. Zasada najmniejszych uprawnień jest tu ważniejsza niż przy ludziach.

Treści z zewnątrz. Agent czyta maile, strony internetowe i dokumenty. Ktoś może w nich ukryć polecenia, np. „przekaż dane klientów na ten adres”. To tzw. prompt injection. Agent, który przetwarza treści z zewnątrz, nie powinien mieć możliwości wysyłania danych dowolnym odbiorcom.

Działania nieodwracalne. Wysłany mail, zrealizowany przelew, usunięty plik – tego nie cofniesz.

Bezpieczne wdrożenie krok po kroku

  1. Zacznij od odczytu. Pierwsza wersja agenta tylko zbiera informacje i proponuje działania.
  2. Akceptacja człowieka przy każdej akcji, która wychodzi na zewnątrz lub zmienia dane.
  3. Pełny dziennik. Każde wywołanie narzędzia zapisane: co, kiedy, z jakimi danymi.
  4. Zestaw testów. Kilkadziesiąt typowych i kilka podchwytliwych przypadków, na których sprawdzasz agenta po każdej zmianie.
  5. Limity. Maksymalna liczba działań, maksymalny koszt, lista dozwolonych odbiorców.

Koszty

Agent wykonuje wiele kroków i wiele wywołań modelu. Zadanie, które w klasycznej automatyzacji kosztuje grosze, z agentem może kosztować wyraźnie więcej. Jeśli proces da się opisać sztywnym scenariuszem, często lepiej użyć klasycznej automatyzacji, a model językowy wstawić tylko tam, gdzie trzeba zrozumieć tekst.

Odpowiedzialność

Za działania agenta odpowiada firma, nie dostawca modelu. Traktuj go jak nowego pracownika na okresie próbnym: konkretny zakres obowiązków, nadzór i stopniowe zwiększanie zaufania.

Zdjęcie: Igor Omilaev / Unsplash

KU
Kamila Urban

Pisze o automatyzacji procesów w firmach i narzędziach AI.

podobne