ԵՄ իրավապաշտպան մարմինը զգուշացնում է ԱԲ-ի օգնությամբ հանցագործությունները բացահայտելու հարցում կողմնակալության մասին

Հավելվածները, որոնք օգտագործում են արհեստական բանականությունը (ԱԲ)՝ հանցագործությունը կանխատեսելու եւ համացանցում ատելություն հրահրելը մեղմելու նպատակով, պետք է զերծ լինեն կողմնակալությունից՝ խտրականությունից խուսափելու համար:

ԵՄ Հիմնական իրավունքների գործակալության (FRA) զեկույցում ասվում է, որ տվյալների ցածր որակի վրա հիմնված ալգորիթմները կարող են վնաս հասցնել մարդկանց կյանքին։

Ուսումնասիրությունը կատարվում է Եվրոպական հանձնաժողովի կողմից առաջարկված ԱԲ-ի մասին օրենքի ֆոնին, որը քննադատության է արժանացել ամբողջ ԵՄ երկրներից օրենսդիրների եւ սպառողների խմբերի կողմից այն բանի համար, որ լիովին չի վերացնում ԱԲ-ի համակարգերի հետ կապված ռիսկերը, որոնք կարող են խախտել հիմնական իրավունքները:

«Մեզ անհրաժեշտ է համակարգ, որը կգնահատի եւ կմեղմի կողմնակալությունը ալգորիթմների օգտագործումից առաջ եւ դրա ժամանակ՝ մարդկանց խտրականությունից պաշտպանելու համար»,- ասել է FRA-ի տնօրեն Մայքլ Օ'Ֆլաերտին:

Նշվում է, որ հանցագործությունների բացահայտումը տարբեր է եւ կարող է ազդել տվյալների վրա, քանի որ որոշ հանցագործություններ հեշտ են բացահայտվում, մինչդեռ կանխատեսումները չափազանց կենտրոնացած են այն հանցագործությունների վրա, որոնք ոստիկանության համար ավելի հեշտ է արձանագրել։

Արդյունքում, որոշ ժողովրդագրական խմբեր կարող են հաճախ կապված լինել «ավելի պարզ հանցագործությունների հետ», ինչը կարող է հանգեցնել իրավապահ մարմիններում կողմնակալության, ասել է FRA-ի հաղորդագրության մեջ։

Վիրավորական արտահայտությունների մոդերացիայի դեպքում գործակալությունը հայտնաբերել է ալգորիթմներ, որոնք մշակված են ատելության խոսքը ավտոմատ հայտնաբերելու համար, անվստահելի են, քանի որ նշել են ոչ վիրավորական տերմինները անգլերենում, որտեղ «մուսուլման», «գեյ» կամ «հրեա» բառերը հիշատակվում են որպես վիրավորական:

Նույն կերպ գերմաներենում եւ իտալերենում որոշ ալգորիթմներ տերմինի իգական տարբերակը համարել են ավելի վիրավորական, քան արականը, կամ հակառակը:

FRA-ն հայտարարել է, որ ալգորիթմների կանխատեսումները չափազանց մեծ արձագանքման միտում ունեն, քանի որ դրանք կապված են համացանցում ատելության հետ՝ այնտեղի տեքստային տվյալների բազաների հիման վրա: