Człowiek w pętli: jak nadzorować AI w procesach firmy
Człowiek w pętli to zasada, że AI proponuje, a człowiek zatwierdza decyzje o istotnych skutkach. Jak ją wdrożyć: bramki zatwierdzeń, zapis działań i eskalacja.
Człowiek w pętli oznacza, że AI przygotowuje propozycję, a człowiek ją weryfikuje i zatwierdza, zanim ma ona istotne skutki dla klienta, pieniędzy lub danych. Nadzór nie polega na sprawdzaniu wszystkiego, tylko na wskazaniu, które decyzje wymagają zatwierdzenia, kto zatwierdza, co jest zapisywane i co się dzieje, gdy AI nie jest pewne.
Cztery elementy nadzoru
| Element | Pytanie | Przykład |
|---|---|---|
| Bramka zatwierdzenia | Które działania wymagają zgody człowieka? | Wysyłka wiadomości do klienta, zmiana ceny, usunięcie danych |
| Odpowiedzialny | Kto zatwierdza i w jakim czasie? | Właściciel procesu, zastępca na urlopie |
| Ścieżka audytu | Co jest zapisywane? | Propozycja AI, dane wejściowe, kto zatwierdził, kiedy, co zmienił |
| Eskalacja | Co, gdy AI nie jest pewne lub wynik odbiega od normy? | Przekazanie sprawy człowiekowi z kontekstem, nie odpowiedź „na siłę” |
Jak ustalić, co wymaga zatwierdzenia
Użyj dwóch pytań: jaki jest skutek błędu i czy da się go cofnąć. Działania o małych, odwracalnych skutkach (szkic notatki, wstępna kategoria zgłoszenia) mogą przechodzić bez zatwierdzenia, jeśli są zapisywane. Działania nieodwracalne lub dotyczące klientów i pieniędzy powinny mieć bramkę. Lepiej zacząć od większej liczby bramek i stopniowo je zdejmować na podstawie obserwacji niż odwrotnie.
Ścieżka audytu: co zapisywać
- dane wejściowe, na których oparto propozycję,
- propozycję AI w oryginalnej postaci,
- decyzję człowieka (zatwierdzono, zmieniono, odrzucono) i uzasadnienie przy zmianie,
- czas i osobę,
- wersję modelu lub reguł, jeśli się zmienia.
Taki zapis pozwala odpowiedzieć na pytanie „dlaczego tak postąpiono?” i uczyć się z poprawek. Bez niego nadzór jest deklaracją, nie praktyką.
Eskalacja i granice AI
System powinien umieć powiedzieć „nie wiem” i przekazać sprawę dalej. Ustal, po czym to poznać: brak danych, niska pewność, sytuacja spoza opisanych przypadków. Ustal też, kto dostaje sprawę i jak szybko powinien zareagować. Brak takiej ścieżki zachęca system do zgadywania.
Jak to wygląda u nas
W naszym systemie Company OS obowiązuje zasada: AI proponuje, człowiek weryfikuje, człowiek decyduje. System jest w realizacji, a jego interfejs pokazujemy na danych przykładowych. Panel zatwierdzeń jest jednym z elementów, które rozwijamy, więc nie opisujemy go jako gotowego produktu.
Kiedy nadzór może być lżejszy, a kiedy nie
- Lżejszy: zadania o małych i odwracalnych skutkach, z zapisem działań i możliwością cofnięcia.
- Pełna bramka: kontakt z klientem, rozliczenia, dane osobowe, zmiany w systemach produkcyjnych.
Najczęstsze błędy
- Zatwierdzanie „z rozpędu”, bez realnego sprawdzenia (zbyt wiele bramek męczy zespół).
- Brak zapisu, więc nie wiadomo, dlaczego system postąpił tak, a nie inaczej.
- Brak właściciela zatwierdzeń i zastępstwa.
- Pełna autonomia od pierwszego dnia.
Szerzej o AI w firmach: AI dla firm i agenci AI. O ocenie jakości odpowiedzi: Jak ocenić jakość odpowiedzi AI.
Przykład: odpowiedź na zapytanie klienta
AI przygotowuje szkic odpowiedzi na zapytanie. Szkic trafia do osoby odpowiedzialnej, która widzi wiadomość klienta, propozycję i źródła, na których ją oparto. Może zatwierdzić, poprawić lub odrzucić. System zapisuje wszystkie trzy elementy: wejście, propozycję i decyzję. Jeśli zapytanie dotyczy tematu spoza opisanych przypadków, AI nie odpowiada, tylko przekazuje sprawę z krótkim opisem, czego brakuje. To ilustracja podejścia, nie opis konkretnego wdrożenia klienta.
Jak wprowadzać nadzór krok po kroku
- Wypisz działania, które AI może wykonać w procesie.
- Oceń każde pod kątem skutku błędu i możliwości cofnięcia.
- Ustal bramki zatwierdzeń dla działań o istotnych skutkach i wskaż odpowiedzialnych.
- Zaprojektuj zapis: co, kiedy, kto.
- Uruchom z pełnym nadzorem. Po kilku tygodniach przejrzyj, które bramki zawsze kończyły się zatwierdzeniem bez zmian, i rozważ ich zdjęcie.
Najczęstsze pytania
Czy człowiek w pętli spowalnia proces?
Może, jeśli bramek jest zbyt wiele. Dlatego zatwierdzenia ogranicza się do działań o istotnych skutkach, a resztę pilnuje zapis i okresowy przegląd.
Czy to dotyczy tylko AI?
Nie. Ta sama zasada obowiązuje w każdej automatyzacji o istotnych skutkach, ale przy AI jest ważniejsza, bo jego zachowanie jest mniej przewidywalne.
Następny krok
Jeśli chcesz ustalić, które decyzje w Twoim procesie powinny zostać po stronie człowieka, Umów 30-minutową rozmowę: przejdziemy przez jeden proces i powiemy wprost, co warto zrobić, a czego nie.