Digitalizare IT&C Robotica Ultimele stiri

Bruxelles-ul vrea Inteligență Artificială de încredere în UE: Fără sisteme sau aplicații care permit guvernelor să efectueze o evaluare a comportamentului social

Comisia Europeană propune noi norme și măsuri menite să transforme Europa în polul mondial al unei inteligenței artificiale (IA) de încredere. Bruxelles-ul își dorește ca dezvoltarea digitală în Europa, utilizând Inteligența Artificială, să nu depășească anumite limite. Astfel, printre riscurile inacceptabile prevăzute de dezvoltarea inevitabilă a noii tehnologii se numără amenințarea clară la adresa siguranței, a mijloacelor de subzistență și a drepturilor persoanelor. În acest sens, CE anunță că nu va accepta sisteme sau aplicații de IA care manipulează comportamentul uman pentru a împiedica utilizatorii să își exercite liberul arbitru și sisteme care permit guvernelor să efectueze o evaluare a comportamentului social („social scoring”).

Comisia Europeană a propus miercuri, 21 aprilie, un nou plan coordonat cu statele membre care, îmbinat cu primul cadru juridic privind IA, va garanta siguranța și drepturile fundamentale ale cetățenilor și ale întreprinderilor, consolidând totodată adoptarea IA, precum și investițiile și inovarea în domeniul IA în întreaga UE.

Margrethe Vestager, vicepreședinta executivă pentru o Europă pregătită pentru era digitală, a declarat: „În ceea ce privește inteligența artificială, încrederea constituie o necesitate absolută, nu un element opțional. Odată cu adoptarea acestor norme de referință, UE va impulsiona elaborarea unor noi reguli la nivel mondial care să asigure că inteligența artificială este de încredere. Prin definirea standardelor, putem să deschidem calea către o tehnologie etică în întreaga lume și să ne asigurăm că UE își menține competitivitatea pe termen lung. Adaptate exigențelor viitorului și favorabile inovării, normele noastre vor interveni în cazurile în care este strict necesar: atunci când sunt în joc siguranța și drepturile fundamentale ale cetățenilor UE.”

Normele proporționale și flexibile vor aborda riscurile specifice pe care le prezintă sistemele de IA și vor stabili cele mai înalte standarde pe plan mondial. Planul coordonat prezintă schimbările de politică și investițiile necesare la nivelul statelor membre pentru a consolida poziția de lider a Europei în dezvoltarea unei IA centrate pe factorul uman, durabile, sigure, favorabile incluziunii și de încredere.

Abordarea europeană privind o IA de încredere

Noile norme vor fi aplicate direct în același mod în toate statele membre, pe baza unei definiții a IA adaptate exigențelor viitorului, și urmează o abordare bazată pe riscuri:

Risc inacceptabil: Vor fi interzise sistemele de IA considerate o amenințare clară la adresa siguranței, a mijloacelor de subzistență și a drepturilor persoanelor. Printre acestea se numără sistemele sau aplicațiile de IA care manipulează comportamentul uman pentru a împiedica utilizatorii să își exercite liberul arbitru (de exemplu, jucării care utilizează asistența vocală încurajând un comportament periculos din partea minorilor) și sistemele care permit guvernelor să efectueze o evaluare a comportamentului social („social scoring”).

Risc ridicat: Sunt considerate ca prezentând un grad ridicat de risc sistemele în care tehnologia IA este utilizată în infrastructurile critice (de exemplu, transporturile), care ar putea pune în pericol viața și sănătatea cetățenilor; formarea educațională sau profesională, care poate determina accesul la educație și traiectoria profesională a unei persoane (de exemplu, sistemul de notare utilizat în cadrul examenelor); componentele de siguranță ale produselor (de exemplu, o aplicație a IA utilizată în chirurgia robotică); ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente (de exemplu, software de selecție a CV-urilor pentru procedurile de recrutare); serviciile publice și private esențiale (de exemplu, evaluarea bonității care îi împiedică pe cetățeni să aibă posibilitatea de a obține un împrumut); activitatea de asigurare a respectării legii care poate aduce atingere drepturilor fundamentale ale cetățenilor (de exemplu, evaluarea fiabilității probelor); gestionarea migrației, a azilului și a controlului la frontiere (de exemplu, verificarea autenticității documentelor de călătorie); administrarea justiției și procesele democratice (de exemplu, aplicarea legii în cazul unui set concret de date factuale).

CE precizează că înainte de a putea fi introduse pe piață, sistemele de IA care prezintă un grad ridicat de risc vor face obiectul unor obligații stricte, astfel încât să se asigure următoarele:

  • sisteme adecvate de evaluare și reducere a riscurilor;
  • calitatea ridicată a seturilor de date care alimentează sistemul, pentru a se reduce la minimum riscurile și rezultatele discriminatorii;
  • înregistrarea activității pentru a asigura trasabilitatea rezultatelor;
  • documentația detaliată care să furnizeze toate informațiile necesare privind sistemul și scopul acestuia, pentru ca autoritățile să poată evalua conformitatea sistemului în cauză;
  • informații clare și adecvate pentru utilizatori;
  • măsuri care să garanteze o supraveghere umană corespunzătoare, în vederea reducerii la minimum a riscului;
  • un nivel ridicat de robustețe, securitate și precizie.

Risc limitat, și anume sistemele de IA care fac obiectul unor obligații specifice în materie de transparență: „Atunci când utilizează sisteme de IA, cum ar fi roboții de chat, utilizatorii ar trebui să fie conștienți de faptul că interacționează cu un aparat, astfel încât să aibă posibilitatea de a lua o decizie în cunoștință de cauză: fie să folosească în continuare respectivul sistem de IA, fie să renunțe la serviciile acestuia”, explică reprezentanții CE.

Risc minim: Propunerea legislativă permite utilizarea gratuită a unor aplicații cum ar fi jocurile video bazate pe IA sau filtrele antispam. Marea majoritate a sistemelor de IA se încadrează în această categorie. Proiectul de regulament nu intervine aici, întrucât aceste sisteme de IA prezintă doar un grad de risc minim sau nu prezintă niciun risc pentru drepturile sau siguranța cetățenilor.

În ceea ce privește guvernanța, Comisia propune ca autoritățile naționale competente de supraveghere a pieței să asigure respectarea noilor norme. Instituirea Comitetului european pentru inteligența artificială va facilita punerea în aplicare a noilor norme și va stimula elaborarea de standarde în domeniul IA. În plus, se propun coduri de conduită voluntare pentru sistemele de IA care nu prezintă un grad ridicat de risc, precum și spații de testare în materie de reglementare pentru a facilita inovarea responsabilă.

„Coordonarea va consolida poziția de lider a Europei în ceea ce privește o IA centrată pe factorul uman, durabilă, sigură, favorabilă incluziunii și de încredere. Pentru a rămâne competitivă la nivel mondial, Comisia se angajează să promoveze inovarea în dezvoltarea și utilizarea tehnologiei IA în toate sectoarele, în toate statele membre”, se arată convinși reprezentanții executivului european.

Planul coordonat privind IA a fost publicat pentru prima dată în anul 2018, cu scopul de a defini măsuri și instrumente de finanțare pentru dezvoltarea și adoptarea IA. Actualizarea cuprinzătoare a Planului propune măsuri comune concrete de colaborare, care să asigure că toate eforturile sunt aliniate la Strategia europeană privind IA și la Pactul verde european, ținând seama totodată de noile provocări generate de pandemia de COVID-19.

De asemenea, Planul coordonat actualizat va utiliza fondurile alocate prin intermediul programelor Europa digitală și Orizont Europa, precum și prin intermediul Mecanismului de redresare și reziliență, care prevede un obiectiv de 20 % pentru cheltuielile din domeniul digital și prin programele politicii de coeziune, în următoarele scopuri:

Etapele următoare

Propunerile Comisiei privind o abordare europeană în domeniile inteligenței artificiale și echipamentelor tehnice urmează să fie adoptate de Parlamentul European și statele membre în cadrul procedurii legislative ordinare. Odată adoptate, regulamentele vor fi direct aplicabile în întreaga UE. În paralel, Comisia va continua să colaboreze cu statele membre pentru a pune în aplicare măsurile anunțate în Planul coordonat. Astfel, până când propunerea CE va deveni reglementare vor mai trece cel puțin 2 ani.

Related posts

Autostrada Lugoj – Deva: şoferii vor economisi 45 de minute după inaugurarea loturilor 3 şi 4

Stefana Muresan

Webinarii gratuite de business pentru a combate efectele crizei economice

Traian Dan

CFR SA a testat noul sistem centralizat de semnalizare şi dirijare a traficului feroviar, pe tronsonul Arad-Curtici

Stefana Muresan

Tranzacție: Apx Hotels a cumpărat fostul Hotel Libra din Sibiu pentru 1.85 mil euro

Ion Surdu

Părinții din Cluj își fac cumpărăturile în spațiul virtual

Nora Dumitrescu

Sprijin financiar de peste 320 mil. de lei pentru reducerea accizei la motorina utilizată în agricultură

Stefana Muresan

IMMOFINANZ acquires head office from Erste Group in Bucharest

Ionut Oprea

„Cele mai bune pârtii din România vor fi tot la Brașov”. Pregătirile pentru schiat, pe final la Poiana Brașov

Papuc Irina

O firmă românească face locomotive hybrid plug-in din vechituri de acum 40 de ani

redactia

Ministerul Economiei: Până acum s-a investit în 30% din perimetrele ce ar putea avea resurse de uraniu

Stefana Muresan

Proprietarul agenției de turism Christian Tour lansează propria companie aeriană: AnimaWings

Papuc Irina

Autostrada Transilvania, accelerată din birourile de la București

Nora Dumitrescu

World Class, primul chirias in AFI Tech Park

Ionut Oprea

Auchan și foodpanda extind parteneriatul pentru livrări la domiciliul clienților

Traian Dan

Mihai Daraban (CCIR), la Seul: Produsele made in România pot ajunge și pe piața din Coreea de Sud

redactia

„Ziua Grâului” de la Seuca, experiment reuşit marca DAFCOCHIM

Stefana Muresan

Mai mult de zece mii de specialişti în domeniul IT din Timişoara şi-au mutat integral activitatea la domiciliu

Robert Bloancă

Aplicație unică pentru realizarea bugetelor pe anul 2021

Traian Dan

Cel mai important proiect pentru 2021 pe care îl va dezvolta producătorul mondial de farfurii din Alba Iulia

Ion Surdu

Wizz va avea chartere de Grecia din Cluj și Iași

Nora Dumitrescu

Strabag va face drumul de legătură dintre Centura Oradea și Autostrada A3

Traian Dan

Emilia Bocan, Senior Leasing & Development Manager al P3

Ionut Oprea

Consiliul Concurenţei a autorizat preluarea Net Brinel de către francezii de la SNEF

redactia

Brandul de ciocolată belgiană Leonidas se extinde în franciză în Braşov, Oradea şi Sibiu

redactia

Leave a Comment