Human-in-the-loop nie jest strategią AI: za co ludzie powinni nadal odpowiadać?

„Człowiek w pętli” (human-in-the-loop) stał się jedną ze standardowych odpowiedzi na ryzyka związane z AI.

Jest jednak istotna różnica między człowiekiem, który jest technicznie obecny w procesie, a takim, który faktycznie potrafi samodzielnie ocenić sytuację, zakwestionować system i wziąć odpowiedzialność za wynik.

Jeśli pracownik weryfikuje setki rekomendacji AI, ale rzadko ma powód – lub uprawnienia – by je podważyć, nadzór człowieka może szybko zamienić się w obserwację człowieka. Jednocześnie wymaganie, by ludzie zatwierdzali każde działanie wspierane przez AI, może spowalniać procesy, niekoniecznie czyniąc je bezpieczniejszymi lub lepszymi.

To pytanie staje się coraz ważniejsze, w miarę jak AI wnika głębiej w działalność operacyjną firm. We wrześniu 2026 r. Bitkom podał, że AI wykorzystuje 57% niemieckich firm zatrudniających co najmniej 20 osób, wobec 36% rok wcześniej. Mimo to dziewięć na dziesięć z nich nadal uważa, że jest na początku swojej drogi z AI (Bitkom, 2026). Systemy AI coraz częściej klasyfikują informacje, wykrywają anomalie, ustalają priorytety spraw, rekomendują działania, a w niektórych procesach same realizują ich fragmenty.

Prawdziwe pytanie z perspektywy modelu operacyjnego nie brzmi więc po prostu, gdzie firmy potrzebują człowieka w pętli. Brzmi ono: za co ludzie powinni nadal odpowiadać, w miarę jak coraz większa część realizacji zadań przechodzi na AI – i gdzie ich ocena, uprawnienia i odpowiedzialność faktycznie zmieniają wynik.

Gdzie znajduje się Państwa organizacja? Nasz Test AI Operating Model pozwala szybko ocenić obecny model operacyjny AI.

1. Nadzór człowieka nie oznacza automatycznie lepszych decyzji

Podstawowe założenie systemów human-in-the-loop jest takie, że AI zapewnia szybkość, skalę i zdolności analityczne, a człowiek wnosi własną ocenę. Teoretycznie połączenie tych dwóch elementów powinno dać lepszy rezultat. W praktyce nie dzieje się to automatycznie.

Metaanaliza z 2024 r., opublikowana w Nature Human Behaviour, objęła 106 badań eksperymentalnych, w których zgłoszono 370 wielkości efektu. Połączenia człowieka z AI zazwyczaj radziły sobie lepiej niż sami ludzie, ale średnio wypadały gorzej niż lepszy z dwóch uczestników działający samodzielnie – człowiek albo AI. W zadaniach decyzyjnych połączenia człowieka z AI wypadały średnio gorzej niż lepszy z tych dwóch podmiotów działający samodzielnie (Vaccaro i in., 2024).

Ma to znaczenie, ponieważ weryfikacja przez człowieka łatwo staje się czynnością czysto proceduralną. Jeśli pracownik otrzymuje setki rekomendacji AI, a system przez większość czasu ma rację, naturalnie pojawia się skłonność do akceptowania jego wyników. Gdy osoby weryfikujące dysponują niewielką dodatkową wiedzą lub nie mają jasnych kryteriów interwencji, etap zatwierdzania może wydłużać proces bez wnoszenia realnej oceny merytorycznej.

Badania Policy Lab Komisji Europejskiej pokazują, jak trudne może to być przy decyzjach o poważnych skutkach. W eksperymencie z udziałem około 1400 specjalistów z obszaru HR i bankowości w Niemczech i we Włoszech uczestnicy podejmowali decyzje o zatrudnieniu i udzieleniu kredytu przy wsparciu AI. Nadzór człowieka nie eliminował w sposób wiarygodny wyników dyskryminujących; indywidualne uprzedzenia nadal wpływały na to, jak ludzie wykorzystywali rekomendacje AI lub je ignorowali (European Commission Policy Lab, 2024).

Nie chodzi o to, że nadzór człowieka nie ma wartości. Chodzi o to, że obecność człowieka to nie to samo, co realna odpowiedzialność człowieka. Nadzór działa tylko wtedy, gdy sama rola człowieka została właściwie zaprojektowana.

2. Różne branże potrzebują różnych granic roli człowieka

Widać to już dziś w niemieckich branżach.

Przemysł wytwórczy stosunkowo szybko zmierza w stronę operational AI. W 2025 r. 42% niemieckich firm przemysłowych zatrudniających co najmniej 100 osób wykorzystywało już AI w produkcji, a kolejne 35% planowało to zrobić. Do najczęstszych zastosowań należały analityka i monitorowanie maszyn; firmy badały też zastosowania AI w robotyce, zarządzaniu energią i innych obszarach produkcji (Bitkom, 2025).

Kontrola jakości pokazuje, jak może zmienić się podział pracy. Jeśli system wizyjny AI potrafi przesiewać duże wolumeny komponentów i wiarygodnie rozpoznawać przypadki standardowe, nie ma sensu, by doświadczony technik ręcznie powtarzał tę samą kontrolę. Bardziej wartościowa rola człowieka polega na analizowaniu przypadków niepewnych, rozumieniu nietypowych wzorców wad, decydowaniu, czy produkcję trzeba zatrzymać, oraz ocenie, czy reguły kontroli wymagają zmiany. AI przejmuje część wykonania, a odpowiedzialność człowieka przesuwa się w stronę wyjątków, eskalacji i doskonalenia procesów.

Usługi finansowe pokazują inną granicę. Według Deutsche Bundesbank wykorzystanie AI w niemieckim sektorze finansowym i ubezpieczeniowym sięgnęło w 2025 r. 54%. Mniejsze i średnie banki oraz kasy oszczędnościowe wykorzystują jednak AI głównie w procesach wspierających, takich jak generowanie tekstów, wewnętrzni asystenci, wykrywanie nadużyć i obsługa klientów. W podstawowych obszarach działalności, takich jak ocena zdolności kredytowej i handel, AI jest nadal znacznie rzadsza (Deutsche Bundesbank, 2025).

Ta różnica jest istotna. Wewnętrzny asystent, który pomaga pracownikowi znaleźć informacje, niesie zupełnie inne ryzyko niż system, który realnie wpływa na to, czy klient otrzyma kredyt. Sektor ubezpieczeń pokazuje, jak ta granica może się zmieniać: raport EIOPA opublikowany w 2026 r., oparty na badaniu przeprowadzonym w 2025 r. wśród 347 europejskich ubezpieczycieli, wykazał, że blisko dwie trzecie z nich korzysta już z generatywnej AI, choć większość zgłaszanych zastosowań znajdowała się jeszcze na etapie proof of concept lub eksperymentów. Zastosowania koncentrowały się na produktywności wewnętrznej i procesach back office. Jednocześnie ubezpieczyciele spodziewają się, że w ciągu najbliższych trzech lat zastosowania typu agentic staną się bardziej powszechne (EIOPA, 2026).

W miarę jak AI staje się bardziej autonomiczna, weryfikowanie każdego działania wspieranego przez AI będzie coraz mniej praktyczne. Organizacje będą musiały zamiast tego zdecydować, które przypadki mogą przechodzić automatycznie, a które warunki powinny uruchamiać interwencję człowieka.

3. Za co ludzie powinni nadal odpowiadać?

Nie ma jednej odpowiedzi, która pasowałaby do każdego procesu. Powtarzalny proces o niskim ryzyku wymaga innego poziomu zaangażowania człowieka niż decyzja o zatrudnieniu, ocena zdolności kredytowej czy kwestia bezpieczeństwa produkcji. Cztery obszary odpowiedzialności nabierają jednak szczególnego znaczenia, gdy AI przejmuje coraz więcej zadań wykonawczych.

Po pierwsze, ludzie muszą nadal odpowiadać za cel i reguły. AI może optymalizować względem wskazanego celu, ale ktoś nadal musi zdecydować, co optymalizować i w jakich granicach. System produkcyjny może na przykład optymalizować przepustowość, ale to kierownictwo decyduje, jak równoważyć ją z jakością produktu, bezpieczeństwem, zużyciem energii czy przestojami. Takie kompromisy są decyzjami biznesowymi, a nie wynikami technicznymi.

Po drugie, ludzie powinni nadal odpowiadać za istotne wyjątki. AI tworzy największą wartość tam, gdzie wzorce są wystarczająco stabilne, a wyniki można mierzyć. Rola człowieka zyskuje na znaczeniu, gdy te warunki przestają być spełnione, na przykład przy nietypowej awarii maszyny, sprzecznych informacjach w zgłoszeniu szkody ubezpieczeniowej albo okolicznościach, których dostępne dane nie odzwierciedlają właściwie.

Wcześniejsze badania nad podejmowaniem decyzji przez człowieka i AI wskazują na podobne rozróżnienie. AI jest silna w przetwarzaniu dużych ilości informacji i złożoności obliczeniowej, a ludzie pozostają szczególnie ważni tam, gdzie na decyzję wpływają kontekst, niepewność i niejednoznaczność (Jarrahi, 2018). Z perspektywy modelu operacyjnego organizacje nie powinny więc umieszczać człowieka w każdej pętli. Powinny określić wyjątki, które wymagają interwencji człowieka.

Po trzecie, ludzie potrzebują rzeczywistych uprawnień do interwencji. Odzwierciedla to także unijne rozporządzenie o sztucznej inteligencji (EU AI Act). W przypadku systemów wysokiego ryzyka nadzór człowieka musi być współmierny do ryzyka i poziomu autonomii. Osoby odpowiedzialne muszą rozumieć ograniczenia systemu, dostrzegać ryzyko nadmiernego polegania na wynikach AI, w stosownych przypadkach pomijać lub odwracać rekomendację oraz w razie potrzeby przerywać pracę systemu. Podmioty stosujące są również zobowiązane powierzyć nadzór osobom o odpowiednich kompetencjach, przeszkoleniu i uprawnieniach (European Union, 2024, art. 14 i 26).

Kluczowe jest tu słowo uprawnienia. Jeśli pracownik dostrzega problem, ale nie może zmienić decyzji systemu ani przekazać sprawy wyżej, organizacja nie ma realnego nadzoru człowieka. Ma obserwację człowieka.

Wreszcie, ktoś musi nadal odpowiadać za wyniki całego procesu. Wykracza to poza zatwierdzanie pojedynczych przypadków. Organizacje muszą rozumieć, czy zmienia się poziom błędów, które wyjątki powtarzają się regularnie, jak często pracownicy zmieniają decyzje systemu, czy takie zmiany są uzasadnione i czy pierwotne reguły decyzyjne nadal mają sens. W miarę jak AI przejmuje coraz więcej zadań wykonawczych, taka odpowiedzialność za proces staje się ważniejsza, a nie mniej ważna.

4. Co to oznacza dla modelu operacyjnego

W tym miejscu human-in-the-loop staje się pytaniem o model operacyjny.

Jeśli AI realizuje standardowe zadania wykonawcze, nie należy prosić pracowników o weryfikowanie każdego wyniku tylko dlatego, że organizacja chce mieć w procesie człowieka. Praca ludzi powinna przesuwać się w stronę miejsc, w których ocena człowieka faktycznie zmienia wynik: wyjątków, eskalacji, kontroli jakości i decyzji wymagających istotnych kompromisów.

Jeśli ludzie nadal odpowiadają za te decyzje, potrzebują też informacji, umiejętności i uprawnień niezbędnych do ich podejmowania. W przeciwnym razie organizacja tworzy kolejną warstwę zatwierdzania, nie zapewniając realnej kontroli.

Odpowiedzialność trzeba też zdefiniować poza poziomem pojedynczego użytkownika. Właściciele procesów ustalają progi i reguły eskalacji. Eksperci merytoryczni określają standardy jakości. Zespoły technologiczne monitorują działanie systemów. Kierownictwo pozostaje odpowiedzialne za wynik biznesowy. W niemieckich organizacjach AI w miejscu pracy może ponadto wiązać się z prawami do informacji, konsultacji i współdecydowania wynikającymi z niemieckiej ustawy o ustroju zakładowym (Betriebsverfassungsgesetz), zależnie od sposobu wykorzystania technologii.

Poprzedni artykuł z tego cyklu wskazywał, że automatyzacja i augmentacja nie są przeciwieństwami. W miarę jak AI przejmuje standardowe zadania wykonawcze, praca ludzi coraz bardziej przesuwa się w stronę nadzoru, obsługi wyjątków i oceny.

Human-in-the-loop jest kolejną częścią tej dyskusji. Pytanie nie brzmi, jak zapewnić udział człowieka w każdym procesie wspieranym przez AI, lecz jak zaprojektować proces tak, aby AI wykonywała zadania tam, gdzie jest niezawodna, a ludzie pozostawali odpowiedzialni tam, gdzie ocena, uprawnienia i odpowiedzialność faktycznie zmieniają wynik.

To właśnie sprawia, że nadzór człowieka przestaje być etapem zatwierdzania, a staje się częścią modelu operacyjnego.

Chcą Państwo wdrożyć te założenia w praktyce? Zapraszamy do skorzystania z naszego Testu AI Operating Model, aby ocenić, gdzie znajduje się Państwa organizacja, i wskazać obszary do poprawy. Więcej perspektyw na temat AI, odpowiedzialności człowieka i modeli operacyjnych znajdą Państwo, obserwując ProNexum Consulting na LinkedIn.

Ten artykuł został po raz pierwszy opublikowany na LinkedIn (po angielsku): oryginał. Polska wersja jest tłumaczeniem angielskiego oryginału. Artykuł służy wyłącznie ogólnemu informowaniu i nie stanowi porady prawnej, podatkowej ani inwestycyjnej.

Więcej artykułów

AI Operating Model

Automatyzacja kontra augmentacja to błędna debata

Czytaj więcej →AI Operating Model

Conversational AI, Operational AI i Agentic AI: różnica, którą liderzy biznesu powinni znać

Czytaj więcej →