Натали Невжан: Права за роботите? Заключете тази врата!

Известният хуманоиден робот София, който гостува и в България преди време, е гражданин на Саудитска Арабия от 2007 година. В Япония друг робот получава лична карта. Тези факти припомня Натали Невжан, защитавайки твърдо консервативният си подход в дебатите по темата.

Роботите нямат права, казва Натали Невжан и припомня, че само преди време Европейският парламент е предвиждал да даде правен статут на автономните роботи. 

Натали Невжан е част от групата на 285 юристи, психолози, медици, философи, изследователи от всички области, написали отворено писмо, за да се противопоставят на идеята да се даде правен статут на роботите. В петицията си те са посочили, че даването на правен статут на роботите и системите на изкуствен интелект създава неприемлив морален риск.

Непредвидими ли са роботите

„Ако автономните роботи и изкуственият интелект имат отделен правен статут, дефиницията за отговорност ще бъде изцяло променена. Отговорността в случай на щета, причинена от такова устройство, не би могла да бъде доказана. Не е вярно! В Европа има правила, които са приложими при тези случаи. А директивата за дефектните роботи е от 1985-та година. И там може да се уточни каква е отговорността на ползвателя и производителя. Във Франция имаме, например т.нар. отговорност за грешка. Новото законодателство предвиждаше, че поведението на робота е непредвидимо и се опитваше да се прехвърли отговорността към производителя. В ЕС обаче вече има правила, задължаващи производителя да вземе мерки машината да е безопасна. Тоест, в ЕС не се допуска да се продава машина, която да причини щета на живо същество. Машините в същото време не са непредвидими“, подчертава тя.

„И ако има бъг в робот, който дава хапчета на болен, това трябва да бъде предвидено. Дори и фактът, че човек може да бъде убит от робот - със сигурност това не би станало по желание на робота. Това явно ще стане заради дефект в замисъла на машината“, коментира Натали Невжан.

Роботите са като консервни кутии - нямат нито воля, нито съзнание, не страдат и нямат чувства, изтъква още Натали Невжан.

„Роботите са по-компетентни за дадена конкретна задача. Могат да играят на шах, умеят да хващат топка и могат да се самообучават. Но ако един робот може да хваща топка, а му се хвърли плюшена играчка, той няма да съумее да я хване и отново ще трябва да започне самообучение. Роботът, предназначен да се грижи за възрастен човек, е още в лабораториите, защото е много трудно да се създаде машина, която дори да може да слуша човешкия език, а после и да реагира и да има адекватно поведение на това, което й се казва. Дори само ходенето е нещо много трудно.“

Човекът отчита грешката на машината

Ако все пак се създаде машина, която има чувства и желания, съществува рискът да постави своите чувства и желания пред нашите и тогава може да ни навреди. За щастие, все още не съществува такава машина, човекът все още е необходим, той единствен може да забележи момента, в който машината греши, отбелязва експертът по право и етика в областта на изкуствения интелект Натали Невжан. Тя обаче предупреждава, че човекът върви все повече към желанието си да очовечи робота и изкуствения интелект.

„Изследователите работят върху емпатията и комуникацията между човек и машина, за да направят робота приемлив - дават му например симпатична физиономия, защото ако е сладък и приятен, ще имаме повече желание да общуваме с него. Работи се и с гласа на машините - да е мил и нежен, да насърчава човека да говори. Има дори машини, които правят малки мимики и издават звуци, наподобяващи смях. Според изследванията несъзнателно това насърчава хората да говорят на машината. Дори начинът, по който са произнесени думите и скоростта, с която се говори, имат значение.“

Връзката между човека и робота

„Има много начини да се създаде желание у човека да общува с машината - например роботът може да каже "обичам те", "ти си важен за мен" и човек, който не е осведомен, би повярвал, че роботът има истински емоции. Ето ви пример, дори да няма красиво лице. Войниците персонифицират машините. Особено онези с веригите, които обезвреждат бомби. Въпреки това, войниците смятат, че роботите им спасяват живота и им дават имена на свои приятели. Има случаи дори на погребения на машини, а някои войници изпадали в депресия, когато роботът, с който работят, експлоадира. Представете си сега реакцията на хуманоиден робот, който всеки ден ти казва "обичам те". Представете си робот, който обслужва възрастен човек или му прави компания. Какво трябва да се направи, за да не изпадат хората в такава заблуда“, пита Невжан.

„Макар изследователите да се опитват да създадат машина, която да прилича на човек, все още това не може да бъде направено. Дори и да си представим, че съществува система, в която са включени всички софтуери, не може да се достигне до създаване на съзнание. Затова съм против роботът да бъде разглеждан като правен субект. Това според мен означава, че е третиран като човешко същество. И възникват въпросите за даване на права и поемане на отговорност. Роботът технически е неспособен да разсъждава. Как може да разбере, че е причинил злополука?! Това би дало възможности производителят да има по-малка отговорност за бъгове, смята Натали Невжан.

Натали Невжан смята, че е важно да се концентрираме върху етичните въпроси на изкуствения интелект - как ние, хората, ще живеем в общество, пълно с машини. Тя изтъква и сега съществуващите проблеми в междучовешките отношения и отслабването на социалните връзки заради мобилните телефони.

„Хората предпочитат да влязат в социалните мрежи, вместо да общуват с човека срещу себе си, в ресторантите даже двойките понякога не си говорят, казва Натали Невжан. По думите й въпросите, свързани с правата на човешки общности, са по-важни от дискусиите за правата на роботите.

Роботите не бива да имат права

„Вероятно ще бъдете шокирани. Но според мен не трябва да има дискусионни групи по никакъв начин по отношение на правата, които се дават на машините. От една страна поради това, че те нямат съзнание, не могат да имат права и не трябва да имат права. Ако решим да мислим да създаваме такива групи и да обсъждаме тези процеси, това би означавало, че ние вече вървим към едно съгласие, че трябва да признаем права. Искам възможно най-здраво да се заключи тази врата. Преди да обсъждаме правата на роботите и изкуствения интелект, трябва да помислим за правата на жените, правата на малцинствата… Имаме толкова много битки за водене. Защо да водим битка, отнасяща се до съзнанието на една машина?“

Това според Натали Невжан би позволило на производителите да не поемат никаква отговорност за това, което създават, а на един глобален пазар те трябва да бъдат отговорни за това, което продават.

„Аз например се боря за създаване на изкуствен интелект, който да бъде инструмент, оръдие и да се използва от човека. Можем да имате робот, например в болниците, който ще позволи сестрите да не носят прекалено тежко оборудване, роботи, които да вадят химически продукти вместо човека. Искам да стане така, че всички тези машини да служат на обществото. Да ни дават нещо, а не да ни отнемат от нашата свобода“, категорична е Натали Невжан.

Докторът по право и философия Стоян Ставру откроява две страни на въпроса за правата на машините. Едната е психологическа и се корени в опита на производителите да създадат връзка между човека и робота, при която човек разпознава в машината „същество“, подобно на него, с неговата психика, желания и страхове. Юридическата страна пък е формална – тя няма цел да превърне робота в морален субект, а цели по-скоро разпределение на риска.

Регламентите изостават от иновациите, които се движат със съвсем различно темпо, а правото винаги е догонващо, признава Стоян Ставру, който би отворил вратата, затворена от Натали Невжан. Според него един от основните проблеми в технологиите се корени "в предвидимостта на рисковете, които те създават", особено когато имат социално значение. Ставру дава пример с робот, който се грижи за възрастни хора и посочва, че тук вече е на ход социалната функция на роботиката, а тя би изисквала регулация. 

"Правото определено трябва да приеме тази хвърлена му ръкавица от технологиите", убеден е Стоян Ставру. 

Какви са дилемите оттук нататък? Мненията чуйте в звуковите файлове.