Baza wiedzy
Co w automatyzacji powinno zostać pod kontrolą człowieka?
Jak rozdzielić zadania między system i człowieka, szczególnie tam, gdzie decyzja wpływa na pieniądze, ludzi, poufne dane lub reputację firmy.
Których decyzji nie należy całkowicie przekazywać automatyzacji lub AI?
Człowiek powinien zachować kontrolę tam, gdzie decyzja ma duże skutki, sytuacja jest nietypowa, dane są niepewne albo potrzebna jest formalna odpowiedzialność. System może przygotować informacje i propozycję, ale nie zawsze powinien wykonywać ostateczne działanie.
Dobra automatyzacja nie polega na usunięciu człowieka z każdego etapu. Chodzi o to, aby system wykonywał zadania przewidywalne, a człowiek włączał się tam, gdzie jego ocena naprawdę zmniejsza ryzyko.
Granica zależy od skutków błędu, jakości danych, możliwości odwrócenia działania i odpowiedzialności za decyzję.
Decyzje o dużych skutkach
Im większy wpływ decyzji na finanse, klienta, pracownika, zobowiązania firmy lub jej reputację, tym silniejsza powinna być kontrola.
System może zebrać dane, wskazać ryzyko i przygotować rekomendację, ale ostateczne zatwierdzenie warto pozostawić osobie posiadającej odpowiedzialność i pełny kontekst.
Nietypowe i niejednoznaczne przypadki
Automatyzacja najlepiej działa w ramach znanych reguł.
Gdy brakuje danych, informacje są sprzeczne albo sytuacja nie pasuje do przewidzianych wariantów, system powinien umieć zatrzymać proces i przekazać sprawę człowiekowi wraz z wyjaśnieniem przyczyny.
Wydatki i zobowiązania
Płatności, zwroty, rabaty, zamówienia czy inne zobowiązania mogą mieć ustalone progi i limity.
Drobne, rutynowe działania da się wykonywać automatycznie, a przypadki przekraczające określony próg kierować do właściwej osoby.
Dane poufne i uprawnienia
System nie powinien samodzielnie rozszerzać dostępu ani ujawniać informacji tylko dlatego, że potrafi je znaleźć.
Role, zakres widoczności i zasady wyjątków powinny być określone przez firmę, a zmiany uprawnień rejestrowane i możliwe do sprawdzenia.
Komunikacja wymagająca odpowiedzialności lub wyczucia
Niektóre wiadomości mają większe znaczenie niż zwykła odpowiedź informacyjna — na przykład reklamacja, konflikt, poważny błąd czy komunikat dotyczący warunków współpracy.
Automatyzacja może przygotować szkic i zebrać potrzebne informacje, ale ostateczna treść może wymagać zatwierdzenia przez człowieka.
Zmiana reguł procesu
System może wykryć, że określony wyjątek pojawia się coraz częściej. Nie oznacza to jednak, że powinien sam zmieniać zasady działania firmy.
Zmiana procesu wymaga oceny wpływu, decyzji właściciela i poinformowania osób, których dotyczy.
Jak zachować kontrolę bez blokowania pracy?
Nie każda sprawa musi trafiać do ręcznego zatwierdzenia.
Warto ustawić:
- progi wartości lub ryzyka;
- listę wyjątków;
- warunki automatycznego zatrzymania;
- osobną kolejkę spraw wymagających decyzji;
- jasny czas reakcji i osobę odpowiedzialną.
Dzięki temu człowiek otrzymuje do oceny przede wszystkim te przypadki, w których jego udział rzeczywiście ma znaczenie.