Opinie Cristiana Deca, CEO & Cofondator Decalex Digital
Organizatiile incep sa opereze schimbari organizationale menite sa genereze valoare adaugata din inteligenta artificiala de ultima generatie, se arata in cel mai recent studiu global McKinsey privind adoptia solutiilor bazate pe AI. Este vorba, printre altele, despre reproiectarea fluxurilor de lucru pe masura ce implementeaza inteligenta artificiala de ultima generatie si plasarea liderilor seniori in roluri critice, cum ar fi supravegherea guvernantei inteligentei artificiale. Constatarile arata, de asemenea, ca organizatiile lucreaza pentru a atenua un set din ce in ce mai mare de riscuri legate de integrarea inteligentei artificiale in procese si fac angajari pentru noi roluri legate de inteligenta artificiala, in timp ce isi recalifica angajatii pentru a participa la implementarea inteligentei artificiale.
Daca valul de schimbari va ajunge, inevitabil, in toate domeniile si companiile, indifferent de domeniu si dimensiune, cert este in acest context ca autoritatile din fiecare tara sunt preocupate si de partea de reglementare. La nivelul Uniunii Europene a fost deja adoptat regulamentul cunoscuta sub numele de Act AI, care urmeaza se aplice in integralitatea ei incepand de anul viitor.
Actul AI, reglementare obligatorie in domeniul utilizarii inteligentei artificiale in Uniunea Europeana, impune companiilor sa se conformeze unor conditii stricte inainte de a implementa solutii AI, cu scopul de a asigura utilizarea responsabila si etica a tehnologiilor AI. Unele prevederi ale regulamentului au intrat in vigoare incepand cu luna februarie a acestui an si produc efecte deja in companiile care utilizeaza instrumente bazate pe AI.
Cele trei conditii principale care trebuie indeplinite incepand cu luna februarie 2025 sunt:
Obligatia de a face cursuri de instruire a personalului
Una dintre cele mai importante cerinte ale Actului AI este obligativitatea de a organiza cursuri de instruire pentru personalul care va utiliza solutii AI. Aceste cursuri au rolul de a educa angajatii cu privire la functionarea, avantajele si riscurile asociate utilizarii inteligentei artificiale. Instruirea trebuie sa acopere aspecte precum:
Etica utilizarii AI: Angajatii trebuie sa inteleaga implicatiile etice ale deciziilor luate de algoritmi si sa fie constienti de posibilele prejudicii cauzate de utilizarea necorespunzatoare a tehnologiilor AI.
Reglementarile legale: Este esential ca personalul sa fie informat despre legislatia in vigoare, inclusiv despre Actul AI si alte reglementari relevante, pentru a evita sanctiunile legale.
Utilizarea responsabila a tehnologiilor: Cursurile trebuie sa ofere instruire practica privind utilizarea corecta a solutiilor AI, inclusiv gestionarea datelor si protectia informatiilor sensibile.
Cine are nevoie de alfabetizare AI?
Trebuie sa mentionam din start faptul ca angajatii unei companii au nevoi diferite, de utilizare si, respectiv, educare in ceea ce priveste utilizarea instrumentelor bazate pe inteligenta artificiala. Astfel, de exemplu personalul IT va avea nevoie de un nivel superior de alfabetizare in AI comparative cu echipa de vanzari. Specialistii IT trebuie sa inteleaga detaliile tehnice ale unui sistem AI, in timp ce echipele de vanzari trebuie sa fie capabile sa identifice anomaliile solutiei AI si sa le raporteze catre echipele de conformitate si suport ethnic.
In al doilea rand, vorbim despre obligatia de a analiza aplicatiile/instrumentele bazate pe AI, cu scopul de a verifica daca solutiile AI implementate sunt permise pe teritoriul Uniunii Europeane. In baza acestei obligatii, companiile trebuie sa parcurga cativa pasi obligatorii, astfel: evaluarea detaliata a riscurilor asociate fiecarei solutii AI, inclusiv impactul asupra drepturilor fundamentale ale indivizilor; verificarea conformitatii, unde companiile trebuie sa se asigure ca solutiile utilizate respecta reglementarile europene si nu sunt incluse pe lista tehnologiilor interzise. In final, este vorba despre adoptia unor masuri corrective, iar in cazul in care se identifica solutii neconforme, companiile trebuie sa ia masuri pentru a le elimina sau a le adapta conform cerintelor legale.
In al treilea rand, vorbim despre obligatia de actualizare a clauzelor contractuale, pas care implica:
Revizuirea contractelor existente: Companiile trebuie sa analizeze si sa actualizeze clauzele contractuale cu furnizorii de solutii AI pentru a se asigura ca acestea respecta reglementarile Actului AI.
Includerea responsabilitatilor: Este esential ca contractele sa clarifice responsabilitatile partilor in ceea ce priveste utilizarea solutiilor AI, inclusiv aspecte legate de protectia datelor si gestionarea riscurilor.
Negocierea termenilor: Companiile ar trebui sa fie pregatite sa negocieze termenii contractuali pentru a reflecta cerintele legale si pentru a proteja interesele organizatiei.
Respectarea celor trei conditii impuse de Actul AI devine esentiala pentru companiile care doresc sa implementeze solutii de inteligenta artificiala responsabil, in conformitate cu prevederile in vigoare.
Aceste masuri protejeaza organizatiile de riscuri legale si contribuie la construirea unei culturi organizationale bazate pe responsabilitate si inovatie.
Studiul companiei de consultanta McKinsey, citat mai sus, releva faptul ca o buna parte dintre organizatii isi intensifica eforturile de atenuare a riscurilor legate de Gen-AI. Respondentii sunt mai predispusi decat la inceputul anului 2024 sa afirme ca organizatiile lor gestioneaza in mod activ riscurile legate de inexactitate, securitate cibernetica si incalcarea proprietatii intelectuale - trei dintre riscurile legate de gen-AI despre care respondentii afirma cel mai frecvent ca au provocat consecinte negative pentru organizatiile lor.
Se justifica, exact in acest context, analiza si aplicarea cu promptitudine a celor trei masuri prevazute in Act AI, ca preambul pentru anul 2026, cand toate prevederile regulamentului vor deveni obligatorii.
