Garry kasparov pravi, da nas lahko "naredimo bolj"

Garry Kasparov je bil eden prvih žrtev revolucije avtomatizacije AI. Zaradi izgube IBM-ovega Deep Blue-ja je postal prvi človeški šahovski prvak, ki je izgubil tekmo z računalnikom. Toda Kasparov ni zmeden; njegova knjiga Globoko razmišljanje raziskuje, kako nam AI dejansko lahko pomaga postati bolj človeški.

Pravi izziv, mi je Kasparov dejal na SXSW v Austinu ta mesec, je, da ta orodja shranijo pred ljudmi, ki jih želijo uporabiti za škodo. In v zvezi s tem smo morda že prepozni.

Dan Costa: Po karieri v igranju šaha in boju proti Deep Blueu ste od takrat postali strokovnjak za šahovski AI. Kako želite, da ljudje razumejo umetno inteligenco?

Garry Kasparov: Priznati moram, da poznam meje svoje nevednosti. Zato z veseljem govorim o stvareh, pri katerih sem prepričan o svojem strokovnem znanju in mislim, da imam določena znanja o odnosih med človekom in strojem in bi lahko z neko avtoriteto govoril o prihodnjih rezultatih.

Prav tako menim, da smo še vedno v zelo zgodnji starosti AI in bi morali razpravljati o nekaterih izrazih. Gre za semantiko, filozofijo in vedno trdim, da ljudje mislijo, da smo v eri Windows 10, medtem ko smo še vedno vsi v MS-DOS-u.

V tem trenutku je zelo pomembno, da dejansko razumemo: "Kaj je AI? Ko rečemo AI, kaj mislimo?" Ker če vprašate 10 strokovnjakov o AI, stavim, da boste dobili 11 ali 12 odgovorov. Še vedno obstaja precej nesoglasij.

Še vedno je nekaj podrobnosti, vendar mislim, da na splošno priznamo, da je v redu skupina ljudi, ki jih bomo imenovali optimisti, in se soočajo z veliko množico obsojencev. Javnost je nekako bolj pripravljena sprejeti scenarije za doomsayerja, mislim, da je naš nagon, da se bojimo prihodnosti, kar je zanimivo tudi zato, ker je bil znanstveni when fiz zelo optimističen, ko se vrnete v 50. in 60. let. Vse je bilo za nas, samo za delo s stroji.

Zdaj, ko gledate v 70., 80., 90., se preusmeri na distopijski vid. Gre za terminatorje. Gre za Matrix in zdaj je žanr sci-fi skoraj mrtev, ker gre bolj za fantazijo, pa za magijo. Ljudje se resnično bojimo govoriti o prihodnosti, saj nismo prepričani, kaj se bo tam zgodilo. Mislim, da bi morali preprosto prepoznati, da AI ni čarobna palica, vendar ni terminator. Ne gre za predsodke utopije ali distopije. To je orodje. To je nekaj, s čimer bi se morali spoprijeti.

Ne odpira vrata pekla, ni pa tudi raj. To ni rešitev za vse. To ni odrešitev. Poglejmo zemeljska vprašanja in moja največja skrb danes ni o robotih morilcih ali nekakšni virtualni resničnosti, ki bi nam lahko uničila občutek za resničnost, ampak gre za slabe igralce. Gre za teroriste. Gre za skalni prostor s pomočjo te tehnologije, da nam škodi. Vedno pravim, da imajo ljudje monopol zlo. Mislim, da bi se morali koncentrirati, vendar bi tudi moral priznati, da bi AI lahko naredil toliko dobrih stvari za nas, kajti ljudje bodo rekli: "Oh, AI ustvarja nove izzive. AI bi mi lahko odvzel veliko delovnih mest." Točno tako. To se je zgodilo z delovnimi mesti v kmetijstvu, s proizvodnjo. Moteča tehnologija vedno uničuje panoge, hkrati pa ustvarja nova delovna mesta.

Pravim, da je tehnologija glavni razlog, da se toliko ljudi še vedno pritožuje nad tehnologijo, ker preprosto ne priznamo, da je povprečna življenjska doba narasla, mislim, da je 45, 47 v začetku 20. stoletja do danes 75, zahvaljujoč tehnologiji. Želimo ugodnosti, želimo udobje in ne gledamo na ceno. Ljudje kupujejo Alexa ali naložijo aplikacijo za prepoznavanje obraza in se nato pritožujejo nad zasebnostjo. Čas je, da razumemo, kaj pričakujemo od teh tehnologij, torej kako se bomo spoprijemali z njimi? Kako nam lahko izboljšajo življenje in hkrati prepoznajo, da ne bi smeli razpravljati o razlita mleka. Zgodilo se bo.

Ne bi se smeli spraševati, hočemo ali ne, se dogaja. Vsak poskus podaljšanja agonije in upočasnitev procesa se mi zdi ravno kontraproduktiven, saj delovnih mest, ki so obsojene, ni mogoče rešiti. Moramo pa razmišljati o novih panogah. Kako lahko ustvarimo nova delovna mesta, ki nam bodo pomagala ustvariti… finančno blazino za skrb za tiste, ki so ostali za sabo?

Dan Costa: To je bila ena od točk, ki jih navajate pri Globokem razmišljanju . AI predstavlja priložnost, da smo bolj človeški. Mislim, da moramo to izoblikovati in ljudi občutiti in razumeti.

Garry Kasparov: Poročilo McKinseyja o ameriškem trgu dela v letu 2016 je bilo očiten dokaz. Kako malo kreativnosti smo uporabili?

Veliko delovnih mest, ki jih ponavljamo, surove. Intelektualna delovna mesta so lahko tudi ponavljajoča. Stroji jih lahko enostavno izvajajo tudi veliko bolj učinkovito. Tukaj pridete do tistega, kar smo se naučili iz iger… šaha, golfa, katere koli druge igre, dokler imamo okvir, ki smo ga ustvarili ljudje in vemo, kaj počnemo, stroji bodo naredili boljše.

Priznati bi morali, da bodo stroji v vseh zaprtih sistemih boljši. Mimogrede, ni nam treba razumeti, kako to počnejo. To je še ena napaka. Želimo razlago. Stroji bi to lahko storili na zelo neroden način od naših standardov. Letala so hitro letela, ptica pa je dvigala krila. Zato je razmišljanje, da nas bodo stroji prekašali celo v napakah intelekta, če naredimo nekaj, za kar razumete, da je narobe. Morali bi iskati rezultate, in to je druga težava podjetij, ker obstaja toliko predpisov, ki od njih zahtevajo, da pojasnijo, kaj počnejo, vendar razlage morda ne bo, če želite iskati učinkovitost in produktivnost.

Dan Costa: Na odru ste predstavili film Go, in stvar, ki je naredila Go AI toliko bolj učinkovito, je ta, ko se je sam naučil igrati igro. Ni imel pravil, ki jih je vsiljeval človek.

Garry Kasparov: To je isto kot šah zdaj. Ponovno je prihodnost odnosov med človeškimi misijami zelo odvisna od lastnih ljudi, ki se bodo obnašali kot pastirji, saj bomo morali najti način, kako ustvariti te kul sisteme, področja ozke inteligence, kjer bodo stroji opravili delo veliko bolje kot kateri koli človek. Nato si oglejte, kako se povezujejo. Ta področja ozke inteligence do splošnega polja, odprtega sistema. Ponovno se sliši enostavno, vendar mislim, da je to velik izziv, saj bi se lahko prostor za ljudi in njihov odnos do strojev zmanjšal vse manjši. Morda zadnja nekaj decimalnih mest, vendar ni pomembno. Lahko bi bilo veliko bolj učinkovito, ker je toliko moči. Preusmerjanje ali spreminjanje smeri za 0, 1 odstotka stopinje tega kota bi lahko imelo ogromno, ogromno razliko, cilj eno miljo stran.

Dan Costa: Ena od stvari, ki me skrbi pri AI, je, da dobre AI sisteme poganja veliko in veliko podatkov ter res odlični algoritmi. Če pogledate, kdo ima trenutno večino podatkov v tem prostoru, je to velik tehnični podatek, to so vlade držav. Kako vidite vlogo posameznika v tej AI revoluciji? Ker se zdi, da obstaja nekaj asimetrije dostopa do teh novih tehnologij in različnih motivacij.

Garry Kasparov: Da. Ne bi se mogel več strinjati. Te težave imamo in mislim, da javnost to težavo priznava, vendar še vedno ni dovolj pritiska vlad, da korporacijam, ki kršijo zasebnost, dejansko naložijo zelo stroga pravila in zelo kaznovalne ukrepe.

Ena od mojih skrbi kot predsednika Fundacije za človekove pravice je, da se pravila razlikujejo od demokratičnega do svobodnega sveta. Zelo me muči to, da ti večnacionalni velikani, kot so Google, Apple, Microsoft, Facebook, uporabljajo zelo različna pravila za svoje stranke v Ameriki ali Evropi in za tiste, ki niso imeli sreče, da bi se rodili v prostem svetu in živeli v Kitajska, Rusija, Turčija - kjer bi bilo lahko objavljanje podatkov o družbenih dejavnostih dobesedno vprašanje življenja in smrti. Mislim, da je to korak številka ena, vendar bi morali tudi prepoznati, če se podatki zbirajo, bodo zbrani.

Prepričan sem, da obstaja veliko načinov, kako bi vlade lahko omejile uporabo teh podatkov. Prav tako menim, da je to bonus javne strani, ker je bilo po pričevanju Marka Zuckerberga v ameriškem senatu, ki sem ga ugotovil… neverjeten prikaz nevednosti ameriških zakonodajalcev. Pet ur niso mogli postaviti dobrih vprašanj; imeli so ga na vročem sedežu in bil je škoda. Nisem videl ogorčenja javnosti. Tako velika priložnost je bila zamujena.

Preprost nasvet: "Razdelimo jih." To ni standardno olje. Če šele začnete deliti - in sovražim monopole -, pa boste imeli veliko, veliko Googlov s podatki, razporejenimi naokoli. Morali bi najti način opolnomočenja posameznikov. Ne poznam tehnologij blockchain, ampak verjetno je to način, kako ljudem dejansko pomagati pri nadzoru nad lastnimi podatki in svojo prihodnostjo. Mislim, da še vedno obstaja trenutek, ko gre za prvotni koncept interneta, družbenih omrežij. Kar naenkrat gre za socialne medije. Ljudje preprosto ne prepoznajo. Ne gre za semantično razliko.

Dan Costa: Monetiramo ga na popolnoma drugačen način.

Garry Kasparov: Gre za povezovanje ljudi. Gre za to, da je bila celotna ideja, kako nas združiti. Kako zastavljati posameznika, dobiti dostop do podatkov in ustvariti nekaj, kar bi lahko koristilo njemu ali njej in je le del tega globalnega sistema. Socialni mediji so drugačni, vi ste tarča. Zdaj ste… tarča velikih korporacij. Kako se vrnemo k temu konceptu družbenih omrežij? Nimam rešitev, tukaj priznam svoje neznanje glede tehničnih rešitev, vendar vem, da je ravno to filozofija tisto pravo vprašanje. Mislim, da javnost ne razume resnosti tega izziva.

Dan Costa: Ruski državljan si...

Garry Kasparov: Tudi hrvaški državljan, imam E-potni list, tako potujem.

Dan Costa:… živite v Združenih državah Amerike, vendar ste veliko pisali o propagandi, njenih učinkih in njenih pristojnostih ter o tem, kako jo uporablja ruska vlada. Tukaj v ZDA imamo zdaj Facebook, Twitter, Googlovo medijsko vesolje, ki je skoraj kot zasebni propagandni stroj, do katerega lahko dostopajo vlade, posamezna podjetja. Kot nekdo, ki se je ukvarjal s temi vprašanji in jih razume, kakšen nasvet imate za ZDA? Ko gremo v ta sistem, kjer ne moremo več verjeti temu, kar vidimo na spletu.

Garry Kasparov: Glej, v Putinovi Rusiji se od začetka tega stoletja srečujem z naraščanjem lažnih novic in tovarn trolov. Približno okoli 2004–2005 so Putinovi propagandni strokovnjaki, KGB-ji, sprejeli zvesto odločitev, da Kitajska ne bodo spremljali požarnih zidov. Bolj pa ustvarjanje ponarejenih internetnih spletnih strani, ki prenašajo veliko resničnih informacij o teh strupenih delih. Namesto da bi imeli naslovnico primernega časopisa, zgodbo, ki jo morajo spremljati vsi, stranko, bi jo lahko razširili v več delih, v več deset kosov. Dajte ga v paket, zavit v veliko resničnih zgodb.

Ni tako preprosto reči, da je Garry Kasparov sovražnik države. Ne, nekdo pravi, da je Garry Kasparov sovražnik države, toda nekdo drug je prišel reči ne, bil pa je odličen šahist, verjetno pa je zdaj vdrl glas in propaganda. Nekdo bo rekel, ne, ne, ne, on je dober fant. Torej bi lahko bila celotna stran komentarjev ponarejena.

Dan Costa: Boti se prepirajo z roboti.

Garry Kasparov: Boti in v tem so zelo dobri, zato je nekega dne, ko je Putin napadel ameriške volitve v ZDA, resnično imel več kot 10 let izkušenj s temi industrijami. Delo v Rusiji, v sosednjih državah z velikimi ruskimi skupnostmi v vzhodni Evropi, v zahodni Evropi.

V svoji knjigi Zima prihaja: Zakaj je treba ustaviti Vladimirja Putina in sovražnike svobodnega sveta , 2015, sem rekel, da je samo vprašanje časa. Ni, če, ampak kdaj in kam bi napadel. Ker spet, so že zgradili ta stroj in je razmeroma poceni. Še vedno gre za več milijard dolarjev naložb, a v primerjavi z odprtim vojaškim posredovanjem, soočenjem… je razmeroma poceni. Pa tudi, da ustreza Putinovi mentaliteti KGB, njegovemu ozadju KGB, vohunskemu ozadju. Tako namesto odprtega soočenja vedno išče priložnost za infiltracijo. To so klasične judovske metode, proti njemu uporabljate prednosti svojega nasprotnika. Za Putina je bilo to briljantno, ker sta bila zahodna tehnologija in svobodni svet, vi pa bi ga lahko uporabili za spodkopavanje samih temeljev svobodnega sveta.

Dan Costa: Imate kakšen nasvet, kako izstopiti iz te situacije? Ker se zdi, da se dogaja, se v resnici ni ustavilo.

Garry Kasparov: Ne, in ne bo se ustavilo. Za vse, ki imate neomejeno strokovno znanje, je odgovor očiten. Obramba je izgubljajoča trditev. Na področju kibernetske varnosti lahko zgradite obrambo, vendar je na koncu edini odgovor odvračanje. Je kot hladna vojna, všeč ali ne, je cyber hladna vojna. Stalno smo napadi Putina ali drugih sovražnikov svobodnega sveta. Naj gre za države, kot so Iran, Severna Koreja ali Kitajska, ali pa kvazidržavne organizacije, ki uporabljajo iste metode.

Samo odvračanje bi lahko dejansko zaustavilo te napade ali jih omejilo. Ker bodo razumeli posledice prekomerne agresivnosti. Tu in tam poskušamo zaščititi svoje šibke točke, pomembno je, da zgradimo nekaj obrambe. Pomembno je, da ozaveščamo javnost o grožnjah, vendar ne bo šlo. Kar zadeva panoge lažnih novic, je v naši brezplačni družbi veliko izzivov, ki so omogočili industriji lažnih novic. Gre za strah pred partizanstvom, gre za odsotnost dialoga med ljudmi z različnimi ideološkimi pogledi, ki so Putinu in drugim sovražnikom svobodnega sveta pomagali uporabiti ponarejene novice za zapolnitev te vrzeli.

Dan Costa: Torej, zdaj sodelujete z Avastom, podjetjem, ki ga bralci PCMag zelo dobro poznajo. Kakšen nasvet svetujete potrošnikom, kako dvigniti raven obrambe?

Garry Kasparov: Kar zadeva individualno raven obrambe, je to zelo enostavno. Prvo sporočilo je lastnikom pametnih domov. Bil sem malo šokiran, ker sem celo na jugu ob jugozahodu govoril z veliko ljudmi, ljudje z dobrim strokovnim znanjem ne razumejo, kako ranljivi so pametni domovi danes.

39 milijonov ameriških gospodinjstev ima vsaj eno ranljivo napravo. Ljudje ne razumejo, da ena ranljiva naprava naredi celoten pameten dom ranljiv. Ker so prednosti vaše obrambne piramide odvisne od najšibkejših vezi. Eno slabo jabolko povzroči gnitje celotnega pakiranja.

Večino težav ustvarijo proizvajalci tradicionalnih gospodinjskih aparatov - pralnih, kavnih aparatov, ker nimajo strokovnega znanja o gradnji digitalnih sistemov. Ampak to morajo zdaj storiti. Z zelo nizkimi stroški, ker gre za cenovno konkurenco, vendar želijo biti del sistema. Večina sistemov preprosto nima ustrezne zaščite. Mislim, da potrebujemo… vladni nadzor, pritiskati moramo, da bomo dosegli določene standarde.

Pa tudi, da morate imeti ločene priročnike, saj nihče ne bere priročnika na 100 strani. Na strani 85 nekaj preberete o tej digitalni stvari, ljudje je ne berejo. Večina jih uporablja privzeti način, kar je seveda odprto vabilo za hekerja. Mislim, da je zelo pomembno, da bodo ljudje začeli delati to, čemur pravim digitalna higiena, saj si umivamo roke, si umivamo zobe, to počnemo samodejno. Ne rešuje nas pred nekaterimi resnimi boleznimi, vendar se je mogoče izogniti 90 odstotkom težav. Enako kot z mobilnimi povezanimi napravami bi se še vedno morali zaščititi pred virusi, vendar bi marsikaj lahko naredili tako, da pokažemo, da nam je mar za to, ker je tako pomembno kot naše zdravje.

Dan Costa: Torej, želim vam postaviti tri vprašanja, ki jih postavim vsem, ki pridejo na razstavo. Ali obstaja tehnološki trend, ki vas zadeva in vas spremlja ponoči?

Garry Kasparov: Ne, jaz sem nepopustljiv optimist. Skrbi me za slabe ljudi, ne za slabo tehnologijo, ker ima vsaka tehnologija dvojno uporabo. Lahko sestavite jedrski reaktor, vendar preden na žalost zgradite jedrsko bombo. Precej nesrečno je, da je uničenje lažje kot gradnja. Zato v zgodovini vedno vemo, da je bila nova, moteča tehnologija preizkušena na kakšno škodo.

Dan Costa: Vas ne skrbi, da se bo z AI zgodilo isto? Se bom uporabil za uničenje, preden se navadi na ustvarjanje?

Garry Kasparov: Spet ne gre za robote morilce. Gre za slabe fante, za njimi slabe igralce. Ljudje bodo rekli oh, morali bi razmišljati o etični AI. AI ne bi mogel biti bolj etičen od svojih ustvarjalcev. Ne razumem, kaj to pomeni, kot etična elektrika. Če imamo v svoji družbi pristranskost, ji AI sledi. Vide v neskladje, ne glede na to, ali je to rasno, spolno ali dohodkovno. Upošteva ga; AI je algoritem, ki temelji na kvotah. Tako da se nekako pritoževati nad etičnim AI je kot pritoževati se zaradi ogledala, ker nam ni všeč to, kar vidimo tam.

Dan Costa: Ali obstaja tehnologija, ki jo uporabljate vsak dan in ki še vedno navdihuje čudenje?

Garry Kasparov: Ne. Pravo čudo sveta je dostop do informacij. Ker lahko zbiram podatke, to olajša. Odraščal sem v Sovjetski zvezi in informacij je bilo malo, knjig ni bilo veliko. Zdaj, dejstvo je, da znam zapaliti… samo dobro se počutim. Zdaj nas obdaja toliko tehnologije, ki nam pomaga, da se izboljšamo. Tudi kaj je neverjetno, ljudje se kar naprej pritožujejo, kaj lahko storimo? Nič novega ni mogoče izumiti… in rečem počakaj malo. Če pogledate to napravo v žepu, vrnimo se leta 1976 ali 1977, superračunalnik Cray je bil kot čudež. Ta naprava je kaj? Deset tisoč krat močnejši?

• AI je (tudi) sila za dobro AI je (tudi) sila za dobro
• Ta AI je preveč močan, da bi ga lahko javno objavil. Ta AI je preveč močan, da bi ga lahko objavil v javnosti
• Ta AI napoveduje spletni trolling, preden se zgodi. Ta AI napoveduje spletni trolling, preden se zgodi

Dan Costa: Močnejši od vesoljskega šatla.

Garry Kasparov: Točno tako. Imamo toliko moči in… želim, da spet začnemo sanjati velike. Ker imamo te priložnosti zdaj. Tako mi je žal zaradi vesoljske dirke, da smo ustavili vesoljsko raziskovanje, raziskovanje globokega oceana. Vrnimo se nazaj, poskusimo narediti velike stvari. Pred štirimi leti sem na univerzi Saint Louis v Missouriju nastopil govor. Če sem nagovoril študente, sem rekel, da morate oživiti duh raziskovanja, še posebej zato, ker je St. Louis vrata proti zahodu in danes je varneje leteti na Mars kot za Columbus, da prečka Atlantik. Ker vsaj poznamo razdaljo in imamo zemljevid. Upam, da bodo naši otroci, naši vnuki… v sanjah bolj agresivni, s pomočjo te fenomenalne tehnologije, da nas gnajo naprej, ker mislim, priznajmo, priznajmo to pomembno dejstvo; naša generacija se je pri iskanju čudežev sveta, vesolja ali oceanov upočasnila.