Jość vierahodnaść, što nas zabje štučny intelekt. Što čałaviectva moža z hetym zrabić?
U novaj navukovaj pracy tłumačycca, što nam daviadziecca być aściarožnymi i ŭvažlivymi pry prahramavańni štučnaha intelektu budučyni, inakš heta moža pryvieści da žudasnych nastupstvaŭ dla čałaviectva, piša «Papularnaja miechanika».
03.11.2022 / 23:50
Fota: rawpixel.com
Nazyvajucca kankretnyja faktary niebiaśpieki, jakija my možam dakładna vykazać adnosna peŭnaha kštałtu štučnaha intelektu, što moža navučać sam siabie i pracuje na ŭznaharodžańnie.
U nas jość instrumienty i viedy, jakija dapamohuć paźbiehnuć niekatorych z hetych prablem (ale nie ŭsich), tamu nam varta być vielmi aściarožnymi.
U novym daśledavańni navukoŭcy razhladajuć adzin z našych samych vialikich strachaŭ: što adbudziecca, kali peŭny typ prasunutaha štučnaha intelektu sutykniecca z prablemaj, jakaja paŭpłyvaje na realny śviet? Ci zvarjacieje jon i ci nie pačnie sprabavać pieratvaryć ludziej u treski? I jak my možam heta praduchilić?
U svaim artykule navukoŭcy z Oksfardskaha ŭniviersiteta i Aŭstralijskaha nacyjanalnaha ŭniviersiteta tłumačać:
«My śćviardžajem, što jon sutykniecca z prablemaj nieadnaznačnaści svajoj mety. Naprykład, kali my dajom vialikuju ŭznaharodu, kab pakazać, što niešta ŭ śviecie nas zadavalniaje, jon moža vykazać zdahadku, što bolš za ŭsio ŭ žyćci nam padabajecca jaho ŭznaharodžvać. Nijaki ekśpierymient nie moža hetaha abvierhnuć».
Film «Matryca» źjaŭlajecca prykładam antyŭtapičnaha scenaryja, u jakim štučny intelekt, što imkniecca zdabyvać resursy, źbiraje bolšuju častku čałaviectva i ŭkaraniaje ŭjaŭnuju matrycu ŭ ich mozh, zdabyvajučy pry hetym ich mientalnyja resursy. Heta nazyvajecca «wireheading» abo «ŭzłom» ŭznaharodžańnia — situacyja, u jakoj prasunuty štučny intelekt atrymlivaje vielmi litaralna sfarmulavanuju metu i znachodzić niečakany sposab jaje vykanać, uzłamaŭšy sistemu abo całkam uziaŭšy jaje pad kantrol.
U artykule pryvodzicca šerah kankretnych prykładaŭ taho, jak zaprahramavanyja mety i stymuły mohuć ustupać u kanflikt. U im pieraličanyja šeść asnoŭnych «dapuščeńniaŭ», jakija, kali ich nie paźbiahać, mohuć pryvieści da «katastrafičnych nastupstvaŭ». Ale, na ščaście, «amal usie hetyja dapuščeńni možna asprečyć abo, mahčyma, paźbiehnuć ich», skazana ŭ dakumiencie. Naściarožvaje, što jany kažuć «amal usie».
Artykuł słužyć papiaredžańniem pra niekatoryja strukturnyja prablemy, pra jakija prahramisty pavinny viedać, bo jany navučajuć štučny intelekt dasiahnieńniu ŭsio bolš składanych metaŭ.
Fota: pxhere.com
Apakalipsis saščepak
U halinie etyki i fiłasofii štučnaha intelektu isnuje vialikaja kolkaść razvažańniaŭ pra jahonyja mahčymyja pamyłki i zahany. Fiłosaf Nik Bostram na prostym prykładzie pakazaŭ, jak stvareńnie zvyšrazumnaha štučnaha intelektu moža źniščyć śviet.
Uiavim sabie, što dobry prahramist stvaraje štučny intelekt, jaki musić spryjać vytvorčaści saščepak na fabrycy. Heta vielmi praŭdapadobnaja rola dla štučnaha intelektu ŭ najbližejšaj budučyni, jakaja patrabuje pryniaćcia rašeńniaŭ i analizu, ale jaje možna ŭjavić. Štučny intelekt moža navat pracavać razam z čałaviekam-mieniedžaram, jaki budzie vyrašać prablemy, što ŭźnikajuć na vytvorčaści ŭ režymie realnaha času, a taksama prymać kančatkovyja rašeńni (prynamsi, pakul štučny intelekt nie navučycca jaho padmanvać). Hučyć niadrenna, praŭda? Heta dobry prykład taho, jak technałohii mohuć dapamahčy ŭparadkavać i palepšyć žyćcio rabočych na pramysłovaści i ich kiraŭnikoŭ.
Ale što, kali štučny intelekt nie budzie zaprahramavany bieź pieraściarohaŭ? Jon budzie pracavać u realnym śviecie, jaki prahramisty ličać «nieviadomym asiaroddziem», bo jany nie mohuć płanavać i prahramavać usie mahčymyja scenary. Sens vykarystańnia samanavučalnaha štučnaha intelektu ŭ pieršuju čarhu ŭ tym, kab jon sam raspracoŭvaŭ rašeńni, da jakich čałaviek nikoli nie zmoh by dadumacca samastojna. Ale heta spałučana ź niebiaśpiekaj niaviedańnia taho, što moža prydumać štučny intelekt.
A što, kali jon pačnie dumać pra niestandartnyja sposaby, jakija pavialičać vytvorčaść saščepak? Jon moža navučyć siabie vyrablać maksimalnuju kolkaść saščepak lubymi sposabami.
Što, kali jon pačnie pahłynać inšyja resursy, kab zrabić ź ich saščepki, abo vyrašyć zamianić svajho kiraŭnika-čałavieka? Hety prykład u peŭnym sensie hučyć paciešna — mnohija ekśpierty vykazvajuć mierkavańnie, što štučny intelekt budzie zastavacca adnosna prymityŭnym ciaham davoli doŭhaha času, nie majučy mahčymaści raspracavać ideju zabojstva, abo kradziažu, abo čaho-niebudź jašče. Ale kali dastatkova razumnamu i tvorčamu štučnamu intelektu dać svabodu dziejańniaŭ, to absurdnym zaviaršeńniem stanie cełaja Soniečnaja sistema biez žyvych ludziej, dapoŭnienaja śfieraj Dajsana, jakaja źbiraje enierhiju dla vytvorčaści novych saščepak miljardami.
Ale heta tolki adzin sa scenaryjaŭ taho, jak štučny intelekt moža vyjści z-pad kantrolu, i daśledčyki padrabiazna tłumačać inšyja sposaby, z dapamohaj jakich jon moža ŭzłamać sistemu i stvaryć katastrofy, pra jakija my navat nie padazravali.
Dyk što rabić?
Jość prablema, jakaja hruntujecca ŭ pryrodzie zdahadak, na jakich zasiarodzilisia daśledčyki Oksfarda i Aŭstralijskaha nacyjanalnaha ŭniviersiteta ŭ svajoj pracy. Sistema biez vonkavaha kantekstu pavinna być vielmi staranna padrychtavanaja, kab dobra vykanać zadaču i atrymać dastatkovuju stupień aŭtanomnaści. Isnujuć łahičnyja struktury i inšyja kancepcyi prahramavańnia, jakija dapamohuć dakładna vyznačyć ramki i mety štučnaha intelektu. Šmat u čym heta taja ž taktyka, jakuju prahramisty vykarystoŭvajuć siońnia, kab paźbiehnuć pamyłak, takich jak biaskoncaje zacykleńnie. Prosta pamyłka ŭ prasunutym štučnym intelekcie budučyni moža nanieści značna bolšuju škodu, čym stračanaje zachavańnie kampjutarnaj hulni.
Daśledčyki nazvali kankretnyja sposaby, z dapamohaj jakich my možam praduchilić niespryjalnyja nastupstvy:
- Zaprahramujcie imitacyjnaje navučańnie, kali štučny intelekt pracuje, pierajmajučy čałavieka ŭ vyhladzie kantralavanaha navučańnia. Heta zusim inšy typ štučnaha intelektu, nie taki karysny, ale jon moža być źviazany z tymi ž patencyjalnymi niebiaśpiekami;
- Daručycie štučnamu intelektu vyznačać pryjarytety metaŭ, jakija mohuć być dasiahnutyja na praciahu karotkaha pieryjadu času, što nazyvajecca «blizarukaściu», zamiest taho, kab šukać niestandartnyja (i patencyjna katastrafičnyja) rašeńni ŭ doŭhaterminovaj pierśpiektyvie;
- Izalujcie štučny intelekt ad źniešnich sietak, takich jak internet, abmiežavaŭšy abjom infarmacyi i ŭpłyvu, jakija jon moža atrymać;
- Vykarystoŭvajcie kvantylizacyjny padychod, raspracavany Džesikaj Tejłar, pry jakim štučny intelekt vykarystoŭvaje maksimum varyjantaŭ, jakija pasujuć čałavieku, a nie daskanała racyjanalnyja;
- Zakładzicie ŭ štučny intelekt nieprymańnie ryzyki.
Ci zmožam my kali-niebudź całkam kantralavać pa-sapraŭdnamu razumny štučny intelekt, zdolny dumać samastojna? Što, kali naš najhoršy kašmar stanie praŭdaj i štučny intelekt atrymaje dostup da resursaŭ i vialikaj sietki?