За притесненията от новите регламенти за изкуствения интелект

Министерството на електронното управление вече е обсъдило възможните законодателни промени, засягащи новите европейски правила за използване на изкуствения интелект. Разговорите са започнали в края на миналата година по времето, което и Европейската комисия обяви законодателството си за прилагане на изкуствения интелект. Но част от обявените мерки предизвикаха безпокойство в правозащитните организации.   

Още не се знае какво са си говорили представителите в Министерството на електронното управление по темата. От министерството писмено казаха, че:

"Все още Актът за изкуствения интелект не е приет, законодателството не е финализирано, само са приключили триалозите. В този ред на мисли предстои скоро да сформираме работна група в Министерството и тогава ще можем да коментираме обстойно темата“. 

Захари Янков, адвокат от Българския център за нестопанско право, е бил на тази среща и разказа пред БНР за предизвикателствата, които новото законодателство ще представлява.

"Първата среща беше концентрирана върху права на човека - на различни групи с максимално включване. Това е едно от притесненията за AI - че има потенциал да изключи групи от обществото в зависимост от данните, които "храним" алгоритъма. Първата стъпка беше да идентифицираме нуждите на различните групи. Втората е да разширим, работят в група с технологичните компании. Това е разговор, който няма как да бъде изолиран само в хуманитарните науки или само в точните науки. Това ще бъде технология, до която всеки от нас ще се докосва до нея. Разговорът трябва да се води интердисциплинарно. На този етап, според мен, най-същественият проблем е събирането на данни България, тоест това да идентифицираме кой и какви технологии използват. В България имаме проблем, генерален, със събирането на данни и това резултира в трудно правене на политики. Ние сме в началото на разговора. Целият свят е в началото на разговора, ако трябва да съм честен. Сега всички започваме да говорим, защото на широка публика беше предоставено да пипне с ръцете си тази технология посредством, естествено, ChatGPT".

Целият свят започна разговора за регулацията на ИИ, обяснява Захари Янков от Българския център за нестопанско право. А България, по неговите думи е доста напред. Янков отчита като положителен факт, че страната ни е част от Глобална инициатива за отворено управление, където се обсъждат темите на ИИ.

"В последния 4 план по тази инициатива се предвиди като една от мерките да се разработят етични правила за имплементация на AI технологии. Оттам нататък мярката се бави, защото знаем, че сме в политическа криза и доста от процесите не се случват, както би следвало в темпото. Но вече започват първи стъпки по сформиране на група и по разработване на тези етични правила под егидата на МЕУ. Тези правила могат да помогнат на България още на този етап, преди дори да видим текстовете, да започнем работа. Имайте предвид, че един път приет този акт, той ще има период, в който ще бъде транспониран".

Всички очакват да видят окончателните текстове на европейското законодателство за ИИ. Как ще работи регулацията ще разберем най-рано през 2025 година. Но още при оповестяването на редицата плюсове – гаранция за качеството на използваните данни при обучението на алгоритмите, защита на авторските права, прозрачност, групи за правата на човека видяха минусите. Като легализиране за първи път в ЕС на публичното лицево разпознаване в реално време, по оценката на групата "Юръпиън диджитал райтс". Защото изключение предвижда използването на ИИ при биометрично наблюдение на хората в реално време на обществени места в случаи на издирване на жертви, на определени престъпления, престъпници, превенция на заплахи и терористични атаки. Юристът в Българския център за нестопанско право Захари Янков очаква сериозни отстъпления с тези изключения. Примерът от Нидерландия:

"Имаше случай, в който се установи, че социалните служби на Холандия използват алгоритми, базирани на изкуствен интелект, да оценяват кой да взима социални помощи. Ето ви високорисково приложение от страна на публичния сектор и на АI и технология. И тук една оценка на въздействието би следвало да разгледа как този алгоритъм влияе върху възползването на хората от техните права - право на жилище, право на социална помощ, право на достъп до пазара на труда и така нататък. Тъй нареченото масово видеонаблюдение. И ние сега знаем, че по улиците ни е пълна с камери. А в някои градове - още повече. Част престъпленията ще се разкриват и част от грешките ще се дължат на тази технология. Оттук винаги подлагам на съмнение кое е по важно - да заловим един престъпник? Или да превентираме 2 или 3 грешки, тоест да заловим несправедливо 3 човека. Аз винаги поставям под по-голяма важност второто - всеки неоправдано репресиран, арестуван човек е много по-голяма вреда, отколкото дори един престъпник, заловен. Споменахме вече за полицейската държава! "Това ли е светът, в който искаме да живеем" е първият въпрос, който да си зададем - всяка минимална грешка да бъде установявана, да бъдем наказани, да бъдем постоянно следени, да моделираме поведението си не спрямо желанието ни да постъпваме правилно, а спрямо нежеланието ни да бъдем хванати. Винаги в основата на нормалното функциониране на общество е личното желание на човека той да постъпва правилно, а не страхът от това да го хванат".