Nepoštena prednost: ne pričakujte, da se bo ai igral kot človek

Nedavni poskusi DeepMind-a v razvoju umetne inteligence, ki lahko premagajo igralce svetovnega razreda na StarCraft II, so povzročili veliko vznemirjenja. Medtem ko je DeepMind to označil za velik preboj, so drugi trdili, da je to varanje, nepošteno in nadčloveško.

Toda kar kaže celotna razprava, je, da bomo morda morali spremeniti kontekst, v katerem razpravljamo in ocenjujemo zmožnosti AI, in nehati primerjati njegovega igranja z našim.

AlphaStar, igralec botrov DeepMind StarCraft, uporablja globoko učenje, priljubljeno področje AI, v katerem programerji razvijajo vedenje svojih AI modelov, tako da jim dajo noro število primerov. AlphaStar se je najprej izučil v veliki zbirki podatkov o človeških igrah, ki jih je izdal Blizzard, pri čemer je igral več milijonov iger, da bi se naučil in obvladal pravila StarCrafta. Nato je bil postavljen proti ljudem, ki je pometel lastne ljubiteljske igralce DeepMind-a, preden je nadaljeval proti svetovnim prvakom.

Ko je AlphaStar premagal TLO in MaNo, dva najboljša svetovna igralca, je bilo mogoče verjeti, da je industrija umetne inteligence prestala mejnik. V objavi na spletnem dnevniku je DeepMind AlphaStar označil za korak naprej pri naši misiji ustvarjanja inteligentnih sistemov, ki nam bodo nekega dne pomagali pri odklepanju novih rešitev za nekatere najpomembnejše svetovne znanstvene težave."

Toda potem so prišle kritike.

Nepoštena prednost

Kritiki trdijo, da ima AlphaStar več značilnosti, zaradi katerih je nepošten nasprotnik do ljudi.

Prvič, AlphaStar hitro utripa. Inženirji DeepMind pravijo, da so ovirali AlphaStar, da bi mu preprečili izvajanje več dejanj, kot bi jih človek lahko izvedel. Toda človeški igralci storijo veliko klicev neželene pošte ali impulzivnih dejanj, ki za seboj nimajo nobene vrednosti ali razmišljanja.

Na primer, ko želijo igralci naročiti svojim enotam, da se premaknejo na lokacijo ali napadejo sovražnika, pogosto večkrat kliknejo na isti lokaciji ali na poti do cilja, ker daje napačen občutek, da bo s klikom pospešil to dejanje. V resnici enote izvršijo samo najnovejši ukaz in bodo prezrle prejšnje. Nasprotno pa je AlphaStar vsak korak natančen.

Kritiki trdijo, da neskladje AlphaStarju dovoljuje, da igra na nadčloveški način. Na primer, v veliki bitki, v kateri sodeluje veliko enot, lahko AlphaStar vsaki posamezni enoti da posamezne ukaze s hitrostjo in natančnostjo, ki bi bila nemogoča za njene človeške nasprotnike. Timothy B. Lee je v analizi uspešnosti AlphaStar-ja opisal nekaj scenarijev, v katerih bi mu hitrost in natančnost AlphaStar-ja pripisala nepošteno prednost.

Drugi analitiki so poudarili, da AlphaStar prejme več informacij kot človeški igralci. Različica bota, ki je premagal MaNa in TLO, je imela dostop do celotnega zemljevida, v nasprotju z videnjem monitorja vrednega prostora na bojišču kot človeški igralec. Vendar je bila še vedno omejena z "vojno meglo", kar pomeni, da ni mogel črpati informacij z območij, kjer ni imel aktivnih enot.

Drugi pa so kritizirali omejitve AlphaStarja: Igral bi lahko le kot Protoss, eno od treh dirk v StarCraft-u in samo na enem od mnogih zemljevidov igre. Glede na novo dirko in zemljevid bi AlphaStar verjetno izgubil proti ljubiteljskim človeškim nasprotnikom, saj bi bilo z vidika AI to, kot da bi igrali povsem drugo igro.

Kaj je fair play?

DeepMind še vedno ni objavil tehničnih podrobnosti, vendar nekateri sumijo, da bi AlphaStar namesto da bi moral obdelati surove slikovne pike, kot to počnejo ljudje, imeti dostop do surovih podatkov o igrah prek API-jev (vmesnikov za programiranje aplikacij).

hvala! vendar to ne pove, ali je določena programska oprema, ki je zmagala proti strokovnjakom, uporabljala slikovne pike ali vnaprej pripravljene elemente APi, ki so na voljo, vendar zelo različni

- Gary Marcus (@GaryMarcus) 31. januarja 2019

Ars 'Timothy B. Lee je prišel do tega zaključka: "Končni način za izravnavo enakih pogojev bi bil, da AlphaStar uporabi popolnoma enak uporabniški vmesnik kot človeški igralci." To pomeni, da bi imel AI podoben človeški igralec, ki strmi v računalniški monitor, dostop le do grafike igre in bi moral namesto interakcije z igro prek klicev API-ja simulirati pritiske tipk, miške in drsenje.

To bi bilo pošteno, če bi pričakovali, da bo AI natančno posnemala človeške možgane in čute. Toda globoko učenje in nevronske mreže, ki so še vedno vrhunski del AI, imajo različne meje, ki jim preprečujejo, da bi reproducirali nekatere najosnovnejše človeške funkcije.

Globoko učenje je ozek AI, kar pomeni, da je zelo dober pri opravljanju določenih nalog, kot je označevanje slik ali prepoznavanje govora, grozno pa je pri posploševanju nalog ali prenosu svojega znanja na druga področja. Bolj kot razširite problematično domeno, bolj je omejena sposobnost AI in več usposabljanja potrebuje. Zato AlphaStar ne bo mogel igrati druge igre RTS, na primer Warcraft 3 ali Company of Heroes.

Tudi 200-letnim igram AlphaStar je bilo potrebno, da so na enem nivoju obvladali Protoss. Verjetno bi bilo potrebno prav toliko, da se naučimo igrati Terrana ali Zerga, drugi dve dirki StarCrafta. V nasprotju s tem bi človeški igralec lahko hitro prenašal znanje, ki ga je pridobil iz ene igre v novo.

Še vedno smo desetletja oddaljeni (vsaj) od splošne AI, vrste, ki se lahko ujema s kognitivnimi sposobnostmi ljudi. Nekateri znanstveniki verjamejo, da nam človeških možganov nikoli ne bo uspelo reproducirati.

Toda ozka AI je zelo dobra za obdelavo velikih količin informacij po zelo hitrih hitrostih. Zato AlphaStar lahko hkrati vodi celoten zemljevid StarCrafta. Oblikovalci StarCrafta bi lahko spremenili igro, da bi igralcem zagotovili celoten pregled zemljevida iger, vendar bi to verjetno zmedlo igralce, namesto da bi jim pomagalo. Ljudje lahko dobijo tudi dostop do surovih podatkov o divjadi, vendar tudi to ne bi pomagalo.

Ljudje počasi obdelujejo podatke, vendar imajo zdrave pameti in abstraktno mišljenje, ki jim omogočajo načrtovanje in sprejemanje odločitev brez popolnih informacij. Zato imajo raje omejen pogled na zemljevid in se osredotočajo na posamezen del bojišča; hkrati imajo občutek, kaj se dogaja v drugih delih igre, in lahko razvijejo splošni načrt igre.

Ali je AlphaStar varanje?

Glede na razlike med AI in človeškimi možgani je pošteno reči, da so bili kritiki prav pri svoji oceni: DeepMind je konkurenco v korist AlphaStarja omejila tako, da ga je omejila na en zemljevid in eno samo dirko. Toda razprava o AlphaStarju nas lahko pripelje do zelo pomembnih zaključkov.

Prvič, glavna igra igre ne sme biti preverjanje, ali AI lahko klikne in se pomakne kot človek. Namesto tega bi se morali osredotočiti na delovanje AI v igri, ki zagotavlja nepopolne informacije in zahteva sprejemanje odločitev v realnem času. V zvezi s tem je AlphaStar opravil precej dobro delo.

• Kaj bi vam zaupalo pomočnika AI? Kaj pa obraz? Kaj bi vam zaupalo pomočnika AI? Kaj pa obraz?
• Leto etičnega obračuna AI industrije Leto etičnega računanja v AI industriji
• Ta AI je preveč močan, da bi ga lahko javno objavil. Ta AI je preveč močan, da bi ga lahko objavil v javnosti

Drugič, StarCraft morda ni najboljše mesto za preizkušanje strategij in načrtovanja zmogljivosti AI. Kot je poudaril en analitik, je "StarCraft II igra, ki jo lahko mehanska dovršenost razbije." To pomeni, da lahko AI nadomešča svoje slabe strategije strategije s svojo nadčloveško hitrostjo in kirurško natančnostjo.

Končno sta AI in človeška inteligenca tako različni, da verjetno ne bi bilo mogoče ustvariti enakih konkurenčnih pogojev med njima. Najmanjše spremembe pravil bi hitro nagnile igro v korist ene ali druge strani do te mere, da bi bila konkurenca nelojalna.

Morali bi iskati okolja in nastavitve, kjer bomo lahko sprostili in preizkusili AI v polnem potencialu, namesto da bi ga upočasnili z umetnimi človeškimi omejitvami. Kaj bi lahko ljudje in AI dosegli, če sodelujejo, namesto da tekmujejo?