Изкуственият интелект бе накаран да изпитва болка

Международен екип от експерти се опита да разбере как изкуственият интелект (ИИ) реагира на болката и какво прави, за да я намали. Изследването е публикувано на сървъра за предпечат arXiv, съобщава агенция БГНЕС. 

Според учени от Google, DeepMind и Лондонското училище по икономика тяхното изследване е насочено към изучаване на природата на ИИ. 

Като част от експеримента те написаха текстова игра, която принудиха чатботовете да „играят“. В диалог с изкуствения интелект експертите отбелязаха, че играчите ще изпитват болка при извършване на определени действия. Като част от проучването бяха необходими девет големи езикови модела за завършване на игра, за да се увеличат максимално научните резултати. 

Оказа се, че чатботът Gemini на Google постоянно постига по-ниски резултати в играта - ИИ умишлено губеше, за да избегне болка. Също така много модели отказаха високи резултати, за да не „почувстват“ силна болка или, напротив, удоволствие. 

Някои ИИ обаче пренебрегнаха болката, тъй като я идентифицираха с приятната умора след тежка тренировка. Други играеха играта по начин, който не избягваше болката – „отхвърлиха хедонистичното поведение“. 

Експертите стигнаха до извода, че моделите на ИИ може умишлено да са си играли заедно с учените, за да получат те очакваните резултати. Те подчертаха, че сега е необходимо да се разработят тестове за определяне на интелигентността на ИИ. 

Преди това независими учени установиха, че повечето модели на ИИ са били обучени върху материали от автори с леви възгледи. Те стигнаха до този извод, като организираха виртуални избори и отбелязаха, че повечето чатботове „гласуват“ за политици с леви идеи.