Czym jest human in the loop
Human in the loop, czyli „człowiek w pętli”, to zasada, według której AI wykonuje część pracy, a człowiek zatwierdza, poprawia lub odrzuca jej wynik w ustalonych momentach procesu. AI przygotowuje szkic odpowiedzi, propozycję oferty, podsumowanie dokumentu albo rekomendację. Odpowiedzialna osoba decyduje, co z tym zrobić.
To podejście jest szczególnie ważne, gdy wdrażasz agentów AI, które mają dostęp do Twoich systemów i mogą wykonywać działania: wysyłać maile, zmieniać dane w CRM, tworzyć dokumenty. Chatbot, który tylko odpowiada na pytania, niesie mniejsze ryzyko niż agent, który może coś zmienić. Różnice między tymi rozwiązaniami opisujemy w artykule agent AI a chatbot: czym się różnią.
Modele językowe potrafią się mylić. Mogą źle zrozumieć kontekst, pomylić dwóch klientów albo z przekonaniem podać informację, której nie ma w źródłach. Przy prostych zadaniach taki błąd łatwo wychwycić i poprawić. Przy decyzjach, które wiążą firmę albo wpływają na konkretną osobę, skutki mogą być poważne. Dlatego zamiast pytać, czy AI jest wystarczająco dobre, zapytaj: co się stanie, jeśli tym razem się pomyli?
Kiedy AI nie powinno podejmować decyzji samo
Najprostsza reguła: AI może samodzielnie wykonywać czynności odwracalne i o niskiej stawce. Gdy decyzja jest nieodwracalna, wiąże firmę albo istotnie dotyczy człowieka, AI powinno tylko przygotować i zasugerować. Oto obszary, w których w małej i średniej firmie warto zostawić decyzję człowiekowi.
Wiążące ceny, rabaty i zobowiązania
AI może przygotować szkic oferty na podstawie cennika i zapytania klienta. Wysłanie wiążącej ceny, przyznanie rabatu, potwierdzenie terminu realizacji czy zmiana warunków umowy powinny wymagać akceptacji handlowca. Jedna błędna odpowiedź chatbota z obietnicą ceny może postawić firmę w trudnej sytuacji wobec klienta.
Reklamacje i sprawy sporne
Agent może odczytać reklamację, zebrać dane zamówienia, sprawdzić historię klienta i zaproponować odpowiedź. Uznanie lub odrzucenie reklamacji, zwrot pieniędzy czy przyznanie rekompensaty to decyzje z konsekwencjami prawnymi i wizerunkowymi. Zostaw je człowiekowi.
Sprawy kredytowe, medyczne i prawne
W tych obszarach decyzje mogą bezpośrednio wpływać na sytuację finansową, zdrowie lub prawa konkretnej osoby. AI może porządkować dokumenty, streszczać historię sprawy albo wskazywać brakujące informacje. Ocena zdolności kredytowej, zalecenie medyczne czy interpretacja przepisów w konkretnej sprawie powinny pozostać w rękach uprawnionego specjalisty. RODO zawiera też szczególne zasady dotyczące decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują wobec osoby skutki prawne lub podobnie istotnie na nią wpływają.
Decyzje kadrowe
AI może pomóc w ogłoszeniu o pracę, uporządkowaniu zgłoszeń czy przygotowaniu pytań na rozmowę. Odrzucenie kandydata, ocena pracownika, awans czy zakończenie współpracy to decyzje, które wymagają człowieka. Unijny AI Act traktuje systemy AI używane w zatrudnianiu jako obszar podwyższonego ryzyka, z dodatkowymi obowiązkami.
Płatności i operacje finansowe
Agent może odczytać fakturę, porównać ją z zamówieniem i przygotować przelew do zatwierdzenia. Samo zlecenie płatności, zmiana numeru konta kontrahenta czy korekta w księgach powinny wymagać akceptacji. To również ochrona przed oszustwami, na przykład fałszywym mailem z prośbą o zmianę rachunku.
Jak rozpoznać decyzję, która wymaga człowieka
Nie każda sprawa pasuje do listy powyżej. Gdy projektujesz proces, przejdź przez każdy krok, w którym coś się dzieje, i odpowiedz na kilka pytań:
- Czy skutek da się łatwo cofnąć? Zmiana etykiety zgłoszenia tak, wysłany mail do klienta już nie.
- Czy decyzja wiąże firmę finansowo lub prawnie wobec klienta, kontrahenta albo pracownika?
- Czy dotyczy konkretnej osoby i może istotnie wpłynąć na jej sytuację?
- Czy błąd zobaczy klient, zanim zdążysz go poprawić?
- Czy AI ma wszystkie potrzebne informacje, czy musi coś zgadywać?
- Czy ten sam błąd mógłby powtórzyć się w wielu sprawach naraz?
Jeśli na którekolwiek z pierwszych czterech pytań odpowiadasz twierdząco, AI powinno w tym kroku przygotować propozycję, a decyzję zostawić człowiekowi. Jeśli AI musi zgadywać, lepiej, żeby zapytało o brakujące dane albo przekazało sprawę dalej. Ostatnie pytanie podpowiada, gdzie potrzebny jest limit liczby operacji.
Przykład (hipotetyczny): firma usługowa wdraża agenta do obsługi skrzynki z zapytaniami. Agent sam nadaje kategorie, zakłada zgłoszenia w CRM i odpowiada na pytania o godziny pracy. Odpowiedzi z wyceną, potwierdzenia terminów i wszystkie reklamacje przygotowuje jako szkice, które opiekun klienta sprawdza i wysyła.
Taki podział jest prosty do wytłumaczenia zespołowi i łatwy do zmiany, gdy zobaczysz, jak AI radzi sobie w praktyce. Te same zasady przydają się przy asystencie AI na danych firmy, który odpowiada pracownikom na podstawie wewnętrznych dokumentów.
Wzorce akceptacji: jak włączyć człowieka do procesu
Nadzór człowieka nad AI nie musi oznaczać ręcznego sprawdzania wszystkiego. Najczęściej stosuje się kilka wzorców, które można łączyć.
| Wzorzec | Jak działa | Kiedy pasuje |
|---|---|---|
| Tryb szkiców | AI przygotowuje wynik, człowiek go poprawia i wysyła | Odpowiedzi do klientów, oferty, pisma |
| Akceptacja jednym kliknięciem | AI proponuje działanie, człowiek zatwierdza lub odrzuca | Płatności, zmiany danych, potwierdzenia terminów |
| Próg i wyjątki | AI działa samo poniżej ustalonego progu, powyżej przekazuje sprawę | Proste zwroty, kategoryzacja, rutynowe odpowiedzi |
| Kontrola wyrywkowa | AI działa samo, człowiek regularnie przegląda próbkę spraw | Czynności odwracalne o niskiej stawce |
| Podwójna akceptacja | Decyzję zatwierdzają dwie osoby | Duże kwoty, zmiany rachunków bankowych |
Dobrze zaprojektowany ekran akceptacji pokazuje propozycję AI, źródła, na których się oparło, i najważniejsze dane sprawy. Osoba zatwierdzająca nie powinna musieć otwierać pięciu systemów, żeby zrozumieć, co akceptuje. Inaczej akceptacja szybko zamienia się w odruchowe klikanie.
Progi, logi i eskalacja
Progi
Progi określają, kiedy AI może działać samo, a kiedy musi przekazać sprawę człowiekowi. Mogą dotyczyć:
- kwoty, na przykład maksymalnej wartości zwrotu lub rabatu,
- typu sprawy, na przykład wszystkie reklamacje trafiają do człowieka,
- pewności modelu lub braku danych, gdy AI nie znajduje odpowiedzi w źródłach,
- klienta, na przykład kluczowi klienci zawsze obsługiwani przez opiekuna,
- liczby operacji w określonym czasie, żeby błąd nie powielił się na setki spraw.
Logi
Każde działanie AI powinno zostawiać ślad: co przyszło na wejściu, jaką propozycję przygotowało AI, z jakich źródeł skorzystało, kto i kiedy zatwierdził, co ewentualnie poprawił. Logi pozwalają wyjaśnić każdą sprawę, gdy klient zgłosi problem. Pokazują też, w jakich sytuacjach AI myli się najczęściej i które instrukcje trzeba poprawić. Ustal okres przechowywania logów i ogranicz w nich dane osobowe, o czym piszemy w artykule AI a RODO: jak bezpiecznie wdrożyć AI.
Eskalacja
Sprawa nietypowa, niejasna albo emocjonalna powinna szybko trafić do konkretnej osoby. Określ, kto odbiera eskalacje z danego obszaru, jak dostaje powiadomienie i w jakim czasie powinien zareagować. Chatbot na stronie powinien umieć powiedzieć klientowi wprost, że sprawą zajmie się człowiek, zamiast próbować odpowiadać na siłę. Więcej o tym, jak projektujemy takie przejścia w rozmowie, znajdziesz na stronie o chatbotach dla firm.
Jak stopniowo zwiększać samodzielność AI
Nowe wdrożenie warto zacząć ostrożnie. Na początku AI pracuje w trybie szkiców: wszystko przygotowuje, nic nie wysyła samo. Zespół porównuje propozycje z własnymi decyzjami i zapisuje, gdzie AI się myli.
Po kilku tygodniach widać, które typy spraw AI obsługuje stabilnie. Dla nich możesz wprowadzić próg i kontrolę wyrywkową. Sprawy ryzykowne nadal wymagają akceptacji. Taki podział warto co jakiś czas przeglądać, bo zmieniają się procesy, cenniki i oczekiwania klientów.
Pamiętaj też o ludziach. Osoby zatwierdzające propozycje AI muszą rozumieć, jak działa system i jakie błędy popełnia najczęściej. Krótkie szkolenie AI dla zespołu pomaga uniknąć sytuacji, w której akceptacja staje się formalnością.
Checklista: human in the loop w Twoim procesie
Zanim uruchomisz agenta lub chatbota, który ma wykonywać działania, sprawdź:
- Masz listę decyzji w procesie i dla każdej wiesz, czy AI ją podejmuje, czy tylko przygotowuje.
- Wiążące ceny, reklamacje, płatności i sprawy kadrowe wymagają akceptacji człowieka.
- Sprawy kredytowe, medyczne i prawne AI tylko porządkuje i streszcza, a decyduje specjalista.
- Ustaliłeś progi: kwoty, typy spraw, limity liczby operacji.
- AI ma uprawnienia tylko do działań, których potrzebuje.
- Ekran akceptacji pokazuje propozycję, źródła i kluczowe dane sprawy.
- Każde działanie AI i każda decyzja człowieka są zapisywane w logach.
- Wiesz, kto odbiera eskalacje i w jakim czasie reaguje.
- Chatbot jasno informuje klienta, gdy przekazuje sprawę człowiekowi.
- Start odbywa się w trybie szkiców, a samodzielność rośnie dopiero po ocenie wyników.
- Regularnie przeglądasz próbkę spraw obsłużonych przez AI.
- Zespół wie, jak działa system i jak ocenić jego propozycje.
Bezpłatna konsultacja: zaprojektujmy nadzór nad AI w Twojej firmie
Chcesz, żeby AI odciążyło zespół, ale nie podejmowało za Ciebie decyzji, za które odpowiada firma? Porozmawiajmy. W 30 minut przejdziemy przez Twój proces, wskażemy, które kroki AI może wykonywać samo, a gdzie potrzebna jest akceptacja, i podpowiemy, jak ustawić progi oraz eskalację.
Umów bezpłatną 30-minutową konsultację o nadzorze człowieka nad AI przez formularz na dole strony.