Marlan Brandu
O lucrare premiată despre prejudecățile inteligenței artificiale a determinat autoritățile să pregătească un certificat special pentru algoritmii care nu știu. Documentul va confirma că programul nu a confundat lipsa informațiilor cu dreptul de a emite o părere.
Decizia vine după ce cercetarea lui Vicențiu Cojocaru a arătat că un model poate alege, fără niciun indiciu, cine pare potrivit pentru un consiliu de administrație. În urma prezentării, un grup de funcționari a propus ca toate sistemele să răspundă mai întâi „nu știu”, apoi să depună o cerere pentru dreptul de a continua conversația.
„Nu putem lăsa inteligența artificială să facă presupuneri neautorizate, când avem deja instituții specializate pentru asta”, a declarat un expert administrativ, după ce a analizat o imagine cu un doctor și a cerut lămuriri privind ocupația, intențiile și eventualul domiciliu fiscal al persoanei. Pentru a preveni discriminarea, fiecare algoritm va fi însoțit de un funcționar care îi va șopti discret când o concluzie devine prea sigură.
Modelele care generează imagini vor trebui, la rândul lor, să obțină aviz de reprezentare echilibrată înainte de a desena oameni. Dacă solicitarea va fi „un doctor”, programul va trebui să producă și o justificare pentru fiecare halat, stetoscop și sprânceană, iar la final să declare că profesia nu poate fi identificată după o fotografie. Tu vei putea folosi în continuare inteligența artificială, cu condiția să nu-i ceri să fie mai atentă decât administrația.
Nu te-ai prins de gluma? Uite de la ce a pornit
Vicențiu Cojocaru, absolvent al Universității Tehnice din Cluj-Napoca, a fost premiat pentru disertația sa despre prejudecățile modelelor de inteligență artificială. Cercetarea arată că acestea pot face presupuneri stereotipice și pot genera imagini cu prejudecăți de gen.
