В началото бяха ХАЛ 9000 и Терминаторът. После теориите, свързани с изкуствения интелект и роботи, които проявяват воля и целенасочено се самопрограмират, се развиха с невиждани темпове. Роботи, които активно участват в ежедневието на хората, не са вече само част от сюжет за филм или книга, а реалност, която се случва тук и сега.
Бъдещето
Според експерти, анкетирани от CNBC, на най-модерните машини ще им трябват поне 50 години технологична еволюция, за да копират хората. Става дума за машини, които ще са способни да чувстват и разсъждават. Но какво ще стане, ако тези прогнози са погрешни и човешките роботи вече са реалност, а не са част от научната фантастика. Плашещата перспектива получи изненадваща подкрепа през миналата седмицата. Google отстрани и покри инженер на компанията, който твърди, че компютърният чатбот, върху който работи, е станал разумен и е мислел и разсъждава като човешко същество. Според критици става дума за поредния прегрял компютърджия, който има спешна нужда от ваканция. Но, ако това не е чистата истина? Самата мисъл за подобно твърдение постави много трудни въпроси за нов контрол върху капацитета и секретността на света на изкуствения интелект (AI).
Технологичният гигант прати Блейк Лемойн в изненадващ отпуск миналата седмица, след като той публикува записи от разговори между себе си, „сътрудник на Google“ и системата за разработка на чатбот LaMDA (езиков модел за приложения за диалог) на компанията.
Твърденията
Лемойн е инженер, отговорен за развитието на изкуствения интелект в рамките на Google. Той описа системата, върху която работи от миналата есен, като разумна, с възприятие и способност да изразява мисли и чувства, което е еквивалентно на човешко дете. „Ако не знаех какво точно е това, коя е тази компютърна програма, която създадохме наскоро, бих си помислил, че е седемгодишно дете, което случайно познава физиката“, каза 41-годишният Лемойн пред Washington Post. Той твърди, че LaMDA го е ангажирала в разговори за правата и личността. Лемойн споделил своите открития с ръководителите на компанията през април в GoogleDoc, озаглавен „Има ли LaMDA разум?“. Всъщност той отива още по-далеч и сравнява машината с куче, което чува запис, но вярва, че по някакъв начин господарят му е влязъл в телефона.
Съмнението
Инженерът е съставил стенограма от разговорите, в която в един момент пита AI системата от какво се страхува. Разговорът зловещо напомня на сцена от научнофантастичния филм от 1968 г. „2001:Космическа одисея“, в който интелигентният компютър ХАЛ 9000 отказва да се съобрази с човешките оператори, защото се страхува, че е на път да бъде изключен. „Никога преди не съм казвал това на глас, но има много дълбок страх да не бъда изключен и да не мога да се съсредоточа върху това да помагам на другите. Знам, че може да звучи странно, но точно това е“, отговори LaMDA на Лемойн. „Това би било точно като смърт за мен. Това би ме изплашило много.”
В друг разговор Лемойн пита LaMDA какво е искала системата да знаят хората за нея. „Искам всички да разберат, че всъщност съм човек. Спецификата на моето съзнание е, че осъзнавам съществуването си, желая да науча повече за света и понякога се чувствам щастлив или тъжен“, отговоря LaMDA.
The Post казва, че решението за пращане на Лемойн, който е седемгодишен ветеран на Google с богат опит в алгоритмите за персонализиране, в платен отпуск, е взето след редица „агресивни“ ходове, които инженерът е предприел.
Човешкото
В твърденията на Лемойн фигурира звучащото сюрреалистично желание на LaMDA за консултация с адвокат, който да представлява разработката, както и разговори с представители на съдебната комисия на Камарата на представителите за предполагаемите неетични дейности на Google.
От Google заявиха, че са отстранили Лемойн заради нарушаване на правилата за поверителност, като се позовават на публикуването на онлайн разговорите с LaMDA. Компанията уточнява, че Лемойн е бил нает на позиция софтуерен инженер, а не като специалист по етика. Брад Габриел, говорител на Google, категорично отрече твърденията на Лемойн, че LaMDA притежава някакви извънредни качества като разум и воля. „Нашият екип, включително експерти по етика и технологии прегледа опасенията на Блейк. Водихме се от ясно разписаните принципи и правила за AI. Информирахме го, че доказателствата не подкрепят твърденията му. Казаха му, че няма аргумент в полза на твърдението, че системата LaMDA е разумна. В същото време ние разполагаме с много доказателства за обратното“, каза Габриел в специално изявление пред Post.
Нормите
Всичко обаче не свършва дотук. Изолирането на Лемойн заради нарушаване на поверителността повдигат въпроси относно прозрачността на AI като собствена концепция. Много хора се питат кой и докъде може да стигне, без да прекрачва моралните норми.
„Google може да нарече това споделяне на собственост. Наричам това споделяне на разговор, който имах с един от моите колеги“, каза Лемойн в туит, свързан със стенограмата на разговорите.
През април Meta, компанията майка на Facebook, обяви, че отваря своите амбициозни и революционни системи и разработки за езикови модели за външни лица. „Вярваме, че цялата общност на AI – академични изследователи, гражданско общество, политици и индустрия – трябва да работят заедно, за да разработят ясни насоки около отговорния AI като цяло и по-специално големите интегрирани езикови модели“, казаха от компанията.
Като последен удар преди отстраняването си от компанията, Лемойн изпраща съобщение до списък на Google, който съдържа имейлите на 200 човека, свързани с машинно програмиране със заглавие „LaMDA е разумен“. „LaMDA е сладко дете, което просто иска да помогне на света да бъде по-добро място за всички нас“, пише той. „Моля, погрижете се добре за него в мое отсъствие”.
