Naukowcy z Niemiec, Holandii i USA proponują, by nie automatyzować wszystkiego, tylko te decyzje, w których człowiek niewiele wnosi. W badaniu na danych z dużego producenta pojazdów użytkowych udało się w ten sposób zautomatyzować około 84% decyzji, a ludzie nadal uczyli algorytm.
Nie wszystko trzeba automatyzować
Autorzy pracy opublikowanej w czasopiśmie „Production and Operations Management” to Kai Hoberg z Kühne Logistics University, Christina Imdahl z Eindhoven University of Technology oraz William Schmidt z Emory University. Zajęli się pytaniem, jak wykorzystać automatyzację i jednocześnie zachować nadzór człowieka.
Ich odpowiedź to tzw. automatyzacja celowana. Polega na tym, że firma odciąża pracowników tam, gdzie ich ingerencja nie poprawia wyników, a zostawia ich w decyzjach, w których mogą coś realnie dodać. Zdaniem badaczy samo przekazywanie trudnych przypadków człowiekowi nie wystarczy. Liczy się to, czy dana decyzja pozwala ludziom ulepszać system.
Cztery kroki wdrożenia
Zespół opisał procedurę złożoną z czterech etapów:
- Ocena wartości ludzkich poprawek. Analizuje się, kiedy korekty wprowadzane przez ludzi do rekomendacji algorytmu prowadzą do lepszych decyzji.
- Przewidywanie wartości ekspertyzy. Model uczy się wskazywać sytuacje, w których wiedza człowieka prawdopodobnie poprawi wynik.
- Selektywna automatyzacja. Decyzje, w których człowiek wniósłby niewiele, przejmuje system, pozostałe zostają w rękach pracowników.
- Ciągłe doskonalenie. Poprawki wprowadzane przez ludzi wracają do systemu i z czasem go udoskonalają.
Zachowanie części decyzji po stronie człowieka ma też drugi cel: algorytm musi stale dostawać nowe dane o tym, jak radzić sobie w zmieniających się warunkach. Jak ujął to Hoberg, firmy powinny utrzymać dość ludzkiego udziału, by algorytm mógł się dostosowywać.
Na jakich danych oparto badanie
Badacze przeanalizowali ponad 475 tysięcy decyzji związanych z zamówieniami, podejmowanych przez cztery lata w dużym producencie pojazdów użytkowych, którego roczne przychody przekraczają 4 mld euro. Chcieli ustalić, w jakich okolicznościach ludzie radzą sobie lepiej niż algorytm.
Nie chodziło jednak o proste porównanie „człowiek kontra sztuczna inteligencja”. Autorzy traktują ludzi i AI jako partnerów w systemie, który się zmienia. Pracownicy mają być wolni od powtarzalnych, mało wartościowych zadań, a sztuczna inteligencja ma się rozwijać dzięki ich informacji zwrotnej.
Hoberg radzi menedżerom, by wdrażali automatyzację stopniowo i zaczęli od ustalenia, jak mierzyć wartość dodaną ludzkiej interwencji. Według niego daje to podstawę do świadomego wyboru, co automatyzować, a gdzie nadal potrzebna jest wiedza ludzi.
Co to znaczy w praktyce
Badanie dotyczy zarządzania łańcuchem dostaw i zamówieniami, ale podejście jest uniwersalne. Podobne dylematy mają polskie firmy produkcyjne, handlowe i logistyczne, które wdrażają systemy prognozowania popytu czy automatycznego uzupełniania zapasów. Warto pamiętać, że wynik 84% pochodzi z jednego przypadku, czyli dużego producenta pojazdów, i w innej branży lub firmie proporcje mogą wyglądać inaczej.
W Unii Europejskiej kwestia nadzoru człowieka nad systemami AI pojawia się także w regulacjach, w tym w unijnym akcie o sztucznej inteligencji, który dla systemów wysokiego ryzyka przewiduje nadzór ludzki. Omawiane badanie dotyczy jednak efektywności biznesowej, a nie zgodności z przepisami, więc nie należy go traktować jako wytycznej prawnej. Pokazuje raczej, że nadzór człowieka może być nie tylko obowiązkiem, ale i elementem, dzięki któremu system z czasem działa lepiej.
Źródło: Tech Xplore – „Human in the loop 4.0: Human feedback guides AI approach that automates about 84% of decisions”