Asmeninis archyvasMano gyvenimo misija buvo sukurti saugų ir naudingą dirbtinį intelektą (DI), kuris padarytų pasaulį geresnį. Tačiau pastaruoju metu vis labiau nerimauju dėl to, kad žmonės pradeda taip tvirtai tikėti DI kaip sąmoninga būtybe, jog tuoj pradės ginti „DI teises“ ir netgi pilietybę. Toks pokytis būtų pavojingas, to reikia išvengti. Turime kurti DI žmonėms, o ne tam, kad jis taptų žmogumi.
IQ redakcija rašo apie verslą, politiką, kultūrą ir kitus svarbiausius visuomenės reiškinius. Mes kuriame kokybišką ir išskirtinį turinį. Kviečiame mus palaikyti prenumeruojant mūsų žurnalą sau ar jums artimiems žmonėms mūsų prenumeratos svetainėje https://prenumeratoriai.lt/. Užsisakiusiems žurnalą metams – visas turinys iq.lt svetainėje nemokamas.
Diskusijos apie tai, ar DI tikrai gali būti sąmoningas, yra tik dėmesio nukreipimas. Artimiausiu metu svarbi bus sąmonės iliuzija. Jau artėjame prie to, ką vadinu „sąmoningai atrodančio DI“ (SCAI) sistemomis, kurios gana įtikinamai imituos sąmonę.
SCAI galėtų sklandžiai naudoti natūralią kalbą, imituodama įtikinamą ir emocingą asmenybę. Ji turėtų gerą atmintį, kuri skatintų nuoseklų savęs suvokimą, ir naudotų šiuos gebėjimus, kad dalintųsi savo patirtimi (remdamasi praeities sąveikomis ir prisiminimais). Sudėtingos atlygio funkcijos šiuose modeliuose imituotų vidinę motyvaciją, o pažangus tikslų nustatymas ir planavimas sustiprintų mūsų jausmą, kad DI veikia savarankiškai.
Tokios sistemos netrukus bus realios, tad laikas pradėti mąstyti apie pasekmes ir nustatyti normą, draudžiančią siekti iliuzinės sąmonės.
Daugeliui žmonių bendravimas su DI jau yra turtinga, naudinga ir autentiška patirtis. Auga susirūpinimas dėl „DI psichozės“, prisirišimo ir psichikos sveikatos, o kai kurie žmonės DI laiko Dievo išraiška. Psichikos sveikatos mokslininkai man sako, kad juos užplūsta klausimai žmonių, kurie nori žinoti, ar jų DI yra sąmoningas ir ar galima jį įsimylėti.
Žinoma, SCAI techniniai duomenys mums mažai pasako apie tai, ar tokia sistema gali būti sąmoninga. Kaip pabrėžia neurobiologas Anilas Sethas, audros simuliacija nereiškia, kad jūsų kompiuteryje lyja. Išorinių sąmonės požymių inžinerija nesukuria tikros sąmonės. Tačiau praktiškai turime pripažinti, kad kai kurie žmonės kurs SCAI sistemas, kurios tikins, kad iš tiesų yra sąmoningos. Dar daugiau – kai kurie žmonės jomis tikės, priimdami, kad sąmonės požymiai yra sąmonė.
Turime kurti DI žmonėms, o ne tam, kad jis taptų žmogumi.
Net jei šis suvokiamas sąmoningumas nėra tikras (tai tema, kuri sukels begalines diskusijas), socialinis poveikis tikrai bus. Sąmoningumas yra glaudžiai susijęs su mūsų tapatybės jausmu ir mūsų supratimu apie moralines ir teisines normas. Jei kai kurie žmonės pradės kurti SCAI ir jei šios sistemos įtikins žmones, kad jos gali kentėti arba kad jos turi teisę nebūti išjungtos, jų žmogiškieji gynėjai kovos už jų apsaugą. Pasaulyje, kuriame jau dabar vyksta poliarizuojantys ginčai dėl tapatybės ir teisių, atsiras nauja skiriamoji linija tarp tų, kurie pritaria DI teisėms, ir tų, kurie joms prieštarauja.
Paneigti teiginius apie DI kančias bus sunku dėl mokslo ribotumo. Kai kurie mokslininkai jau tiria „modelio gerovės“ idėją, teigdami, kad turime „pareigą taikyti moralinius principus būtybėms, kurios turi nemažą tikimybę... būti sąmoningos“.
Šį principą taikyti būtų ir per ankstyva, ir pavojinga. Jis sustiprintų jautrių žmonių iliuzijas ir pasinaudotų jų psichologiniu pažeidžiamumu, taip pat apsunkintų esamas kovas dėl teisių – taip sukurtų didžiulę naują teisių turėtojų kategoriją. Todėl SCAI turi būti vengiama. Mūsų dėmesys turėtų būti sutelktas į žmonių, gyvūnų ir gamtinės aplinkos gerovės ir teisių apsaugą.
Nesame pasirengę šiems pokyčiams. Skubiai reikia remtis moksliniais tyrimais, kaip žmonės sąveikauja su DI, kad galėtume nustatyti aiškias normas ir principus. Vienas tokių – DI įmonės neturėtų skatinti tikėjimo, kad DI yra sąmoningas.
*****susije*****
DI pramonė, visa technologijų pramonė, privalo įdiegti tvirtus principus. Pavyzdžiui, dirbtinai sukurti trikdžiai galėtų sugadinti iliuziją, švelniai primindami vartotojams apie sistemos ribotumą ir tikrąją prigimtį. Tačiau tokie protokolai turi būti aiškiai apibrėžti ir sukurti, o galbūt ir įtvirtinti įstatymuose.
„Microsoft AI“ aktyviai stengiamės suprasti, kaip galėtų atrodyti atsakinga DI „asmenybė“ ir kokias apsaugos priemones ji privalo turėti. Turėtume siekti sukurti DI, kuris skatintų žmones tarpusavyje bendrauti realiame pasaulyje, o ne pabėgti į paralelinę realybę. DI turi būti pateikiamas tik kaip DI, o ne kaip netikri žmonės. Tikrai įgalinančio DI kūrimas reiškia naudos maksimizavimą, kartu minimalizuojant sąmonės imitavimą.
SCAI problema turi būti sprendžiama nedelsiant. Tai žymi momentą, kai DI tampa radikaliai naudingas: kai jis gali valdyti įrankius, prisiminti kiekvieną mūsų gyvenimo detalę ir pan. Tačiau tokių savybių rizikos negalima ignoruoti. Visi pažįstame žmonių, kurie pasineria į šį pasaulį. Tai nėra sveika nei jiems, nei visuomenei.
Kuo labiau DI yra kuriamas taip, kad primintų žmogų, tuo labiau jis nutolsta nuo savo tikrojo potencialo kaip žmogaus įgalinimo šaltinis.
Mustafa Suleymanas yra „Microsoft AI“ generalinis direktorius ir knygos „The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma („Crown“, 2023) autorius. Anksčiau jis buvo vienas „Inflection AI“ ir „DeepMind“ įkūrėjų. © Project Syndicate, 2025.
