Campania "Piramida nevoilor umane în era digitală – Munca și identitatea profesională în organizațiile digitalizate"
Un sistem de inteligență artificială analizează datele
disponibile și recomandă o acțiune. Managerul validează recomandarea. Ulterior,
se constată că decizia a produs un rezultat greșit.
Cine răspunde?
Întrebarea devine mai dificilă pe măsură ce sistemele AI se integrează în analiza, prioritizarea, evaluarea și planificarea organizațională. Distincția aparent simplă dintre „decizia omului” și „decizia algoritmului” poate deveni, în practică, mult mai puțin clară.
Un sistem nu trebuie să emită formal decizia finală
pentru a exercita o influență decisivă asupra acesteia. Dacă recomandarea sa
este tratată în mod curent drept răspunsul implicit, iar intervenția umană se
limitează la confirmarea rezultatului, autoritatea decizională se poate deplasa
către tehnologie chiar dacă organigrama și procedurile afirmă contrariul.
De aici rezultă una dintre problemele centrale ale guvernanței AI: prezența unui om în proces nu este același lucru cu existența unui control uman efectiv.
Human-in-the-loop: între supraveghere reală și validare
formală
Conceptul de human-in-the-loop este utilizat
pentru situațiile în care intervenția umană este integrată într-un proces
automatizat. În mediul organizațional, formula poate crea însă o falsă senzație
de siguranță dacă nu analizăm ce poate face, în realitate, persoana aflată „în
circuit”.
Să presupunem că un manager primește o recomandare
algoritmică, dar nu cunoaște suficient limitele sistemului, nu are acces la
informațiile necesare pentru verificare și nu există o procedură clară pentru
situația în care dorește să respingă rezultatul. Formal, decizia este umană.
Substanțial, capacitatea de control este redusă.
Supravegherea devine reală numai atunci când persoana responsabilă are competența, informația, timpul și autoritatea necesare pentru a interveni.
Problema este amplificată de ceea ce literatura de
specialitate numește automation bias: tendința de a acorda o greutate
excesivă rezultatelor furnizate de sistemele automatizate și de a ignora sau
subevalua informațiile care le contrazic. Într-un mediu de lucru caracterizat
de presiune temporală, volume mari de informații și obiective de eficiență,
acceptarea recomandării sistemului poate deveni cea mai simplă cale
procedurală.
Într-o întreprindere din CAEN 46, un instrument poate
clasifica clienții în funcție de potențial comercial sau poate recomanda
prioritizarea unor comenzi. Dacă angajatul aplică mecanic clasificarea,
informații relevante despre relația comercială, particularitățile pieței sau un
eveniment recent pot rămâne în afara deciziei.
În CAEN 14, un sistem de planificare poate optimiza
distribuirea sarcinilor în funcție de capacitatea de producție și termene.
Rezultatul matematic optim poate să nu reflecte integral diferențele de
experiență, particularitățile unei operațiuni sau efectele unei încărcări
excesive asupra unei anumite echipe.
În CAEN 86, necesitatea delimitării este și mai evidentă. AI poate sprijini organizarea informației și anumite activități profesionale, însă utilizarea unui instrument de suport nu transferă către sistem responsabilitatea asociată deciziei umane.
Controlul există numai dacă intervenția este posibilă
Regulamentul european privind inteligența artificială
oferă un reper relevant. Pentru sistemele AI cu grad ridicat de risc, articolul
14 al AI Act prevede supravegherea umană efectivă și stabilește că măsurile
trebuie să fie proporționale cu riscurile, nivelul de autonomie și contextul de
utilizare. Persoanele cărora li se încredințează supravegherea trebuie, în
funcție de situație, să poată înțelege capacitățile și limitările relevante ale
sistemului și să îi monitorizeze funcționarea.
Regulamentul merge astfel dincolo de ideea unei aprobări umane pur formale. Considerentele sale precizează inclusiv necesitatea ca persoanele însărcinate cu supravegherea să dispună de competența, pregătirea și autoritatea necesare pentru acest rol și, atunci când este cazul, să poată interveni sau opri sistemul dacă acesta nu funcționează conform intenției.
Pentru organizații, această logică este utilă și dincolo
de situațiile juridice în care un anumit sistem este încadrat formal drept AI
cu grad ridicat de risc. Ea oferă un principiu sănătos de guvernanță: nivelul
controlului uman trebuie corelat cu impactul deciziei.
Nu toate recomandările algoritmice necesită același nivel
de verificare. O sugestie privind ordinea unor operațiuni administrative nu are
aceeași miză ca o recomandare care influențează evaluarea unei persoane,
accesul la o oportunitate profesională sau o decizie cu implicații asupra
sănătății și siguranței. O organizație matură nu aplică aceeași procedură
tuturor utilizărilor AI, ci stabilește praguri de intervenție proporționale cu
consecințele posibile.
De aici derivă o serie de întrebări de guvernanță pe care organizația trebuie să le rezolve înainte, nu după apariția unei erori: cine validează rezultatul sistemului? În ce situații este obligatorie verificarea suplimentară? Ce informații trebuie să primească persoana care decide? Ce se întâmplă atunci când evaluarea profesională și recomandarea algoritmică sunt diferite? Cum este documentată abaterea de la recomandarea AI? Cine are autoritatea de a suspenda utilizarea instrumentului atunci când apar rezultate neașteptate?
Răspunsurile definesc arhitectura reală a
responsabilității.
Există și o dimensiune culturală. Dacă angajații sunt
formal autorizați să conteste sistemul, dar organizația sancționează implicit
abaterea de la recomandările sale, controlul uman rămâne teoretic.
Posibilitatea de a spune „nu” trebuie să existe nu numai în interfața tehnică,
ci și în cultura managerială.
În același timp, supravegherea umană nu înseamnă refacerea manuală a fiecărei analize produse de AI. O asemenea abordare ar elimina o parte importantă din valoarea automatizării. Miza este alta: stabilirea situațiilor în care verificarea devine necesară și asigurarea capacității reale de intervenție atunci când consecințele o justifică.
Aceasta este diferența dintre un om care figurează
în circuitul decizional și un om care controlează efectiv procesul.
Maturitatea unei organizații asistate de AI nu va putea fi evaluată doar prin numărul instrumentelor implementate, volumul de date procesat sau timpul economisit. Ea se va vedea și în capacitatea organizației de a delimita clar unde se încheie recomandarea algoritmică, unde începe judecata profesională și cine își asumă decizia.
AI poate prelua o parte tot mai mare din analiză. Responsabilitatea
pentru modul în care analiza este transformată în acțiune rămâne o problemă de
guvernanță umană.
Transformarea digitală începe cu investiția în oameni.
Dacă ești angajat cu vârsta între 18 și 64 de ani, ai absolvit cel puțin liceul și lucrezi în Regiunea Sud-Vest Oltenia într-o companie din domeniile CAEN 14 – fabricarea articolelor de îmbrăcăminte, CAEN 46 – comerț cu ridicata sau CAEN 86 – sănătate, proiectul AVANGARDE – Digital Skills Center îți oferă oportunitatea de a participa la programe de formare adaptate nivelului tău actual de competențe digitale.
Dacă reprezinți o companie din aceste domenii, AVANGARDE îți oferă oportunitatea de a sprijini dezvoltarea competențelor digitale ale angajaților și de a pregăti echipa pentru schimbările tehnologice și economice.
Pentru mai multe detalii, scrie-ne la avangarde.adds@gmail.com și urmărește pagina de Facebook pentru ultimele noutăți.
Tehnologia nu așteaptă. Nici tu nu ar trebui. Investește în competențe. Investește în oameni. Pregătește-te pentru munca de mâine.