Tehonomija: inovacije, ai in etika

Nekatera moja najljubša zasedanja na konferenci Techonomy v začetku tega meseca so se ukvarjala z etiko, vrednotami, inovacijami in tem, kako se na teh področjih uveljavlja umetna inteligenca.

Človeške vrednote za tehnološko dobo

Ustanovitelj tehonomije David Kirkpatrick je konferenco začel s pogovorom o osredotočenosti na človeške vrednote tehnologije. Prvi veliki pogovor je bil o "človeških vrednotah" z Julie Hanno, izvršno predsednico Kiva, ki je govorila o tehnologiji kot demokratični sili in ugotovila, da velik del sveta živi z manj kot 2 dolarjema na dan. Povedala je, da je "največja oblika pravičnosti pravičen dostop."

Vd. Michael C. McFarland, blagajnik, ameriška severovzhodna provinca Družbe Jezusove, je dejal, da se moramo vprašati, kje je pravičnost, glede na način uporabe tehnologije in razmišljati o predpostavkah, ki so vgrajene v tehnologijo. Skrbi ga, da je tehnologija na delovnem mestu, ki lahko prinese večjo učinkovitost in produktivnost, pogosto uporabljena brez razmišljanja o vplivu na delavce, ki včasih trpijo uničujoče. Občinstvo je pozval, naj začne z razmišljanjem o delavčevih izkušnjah.

Erica Kochi, izvršna direktorica za inovacije in soustanoviteljica UNICEF Innovation, je zapisala, da pred sedmimi leti ni bilo dobre tehnološke rešitve, usmerjene v najrevnejše revne, edini skupni imenovalec pa je bilo besedilno sporočilo. Njena skupina se je osredotočila na oblikovanje lastnih rešitev z uporabo besedilnih sporočil in ugotovila, da je OS sicer zgrajen za ljudi s podatkovnim načrtom, ne pa za tiste, ki živijo manj kot 2 dolarja na dan. "Če bomo gradili izdelke in storitve za ljudi, ki nas niso, moramo o tem razmišljati z njihovega vidika, " je dejala.

Hanna je govorila o "napačni izbiri med namenom in dobičkom, med poslanstvom in izdelkom" in dejala, da so kulture, ki jih vodijo misije, boljši prostori za delo, večjo zvestobo in pomoč pri gradnji trajnih podjetij. Kochi je dejal, da zmorete oboje, in dejal, da je treba model osnovnega poslovanja uskladiti z družbeno odgovornostjo, kar ne bi smelo biti nekaj, kar bi se storilo ob strani.

McFarland je govoril o tem, da se ni osredotočil le na delničarje, temveč na vse deležnike v podjetju in kot primer uporabil AT&T's Bell Labs pred razpadom družbe. Skrbi ga, da ne vlagajo v dolgoročne raziskave in razvoj, in dejal, da "moramo spremeniti kulturo o tem, kako razmišljamo o poslu in kaj pomeni, da smo uspešni."

Knjižnica

Navdušil me je kasnejši pogovor Tonyja Marxa, predsednika Newyorške javne knjižnice, ki je dejal, da je v nasprotju s predpostavko, da nekatere knjižnice odhajajo, videl, da nova tehnologija ponuja največjo priložnost v zgodovini za knjižnice že od nekdaj stojijo za pomoč ljudem pri dostopu do informacij.

Opozoril je, da so v preteklosti knjižnice zadrževale fizične in finančne omejitve privabljanja ljudi v zbirke, vendar je dejal, da se to spreminja.

Knjižnice lahko vplivajo na tri velike načine, je dejal. Prvo je samo s povezovanjem ljudi in ugotovil je, da tretjina Američanov doma nima internetne povezave, knjižnice pa lahko služijo tudi za usposabljanje ljudi, kako uporabljati računalnike, pa tudi kako kodirati.

Dejal je, da imajo današnji iskalniki "neverjetne", vendar imajo omejitve, in ugotovil, da veliko osnovnih informacij o kakovosti, pridobljenih z tisočletnimi napori, še vedno ni na voljo. Povedal je, da je njegova vizija pokroviteljem knjižnice "brezplačno ponuditi vsako knjigo, vsako sliko, vsak dokument in vsak arhiv kjerkoli na svetu."

Vse se vrne k staromodni predstavi o knjižnici kot fundaciji, je dejal Marx in nas pozval, naj si zamislimo, ali bi se vsi talenti na svetu lahko učili, ustvarjali in inovirali, kakorkoli so izbrali. "Imamo orodja, s katerimi lahko postanemo neustavljivi, " je dejal. "Naredimo to."

Bogovi v škatlah: vsemogočni algoritmi in skrite vrednote

Oren Boiman, soustanovitelj in izvršni direktor družbe Magisto, ki uporablja AI za urejanje videov, je dejal, da "računalniki postajajo vse bolj črne škatle", z algoritmi, ki so jih ustvarile nevronske mreže, pa premagajo najboljše algoritme, ki so jih zasnovali programerji. Čeprav lahko ti algoritmi sprejemajo odločitve veliko bolje kot ljudje, nihče ne razume povsem, kako to storijo.

Vivienne Ming, soustanoviteljica in izvršna predsednica Socosa, ki prodaja programsko opremo, ki otrokom pomaga pri učenju, tako da staršem pošlje eno priporočilo na dan, je govorila o ustvarjanju inteligentnih algoritmov. Dejala je, da je veliko dela z globokimi nevronskimi mrežami odvisno od sklopov vadbe, in govorila o algoritmu prepoznavanja obrazov, ki črnih obrazov ni prepoznal zaradi prirojene pristranskosti treninga. "Računalniki so tako kot ljudje, " je dejala. "Odvisno je, kako jih vzgajaš."

Glavni znanstvenik Yahooja Ron Brachman je dejal, da čeprav za opisovanje strojev uporabljamo antropomorfizirane izraze, še vedno obstaja temeljna razlika med ljudmi in računalniki. Ljudje sprejemajo odločitve na podlagi svojih potreb in želja, kar je zelo drugače kot način, na katerega v teh dneh odločajo računalniški sistemi.

Boiman je pojasnil, kako je v večini teh "črnih škatel" vse povezano, in majhne spremembe vnosa lahko povzročijo velike in včasih kaotične razlike v rezultatih, na primer, ko gre za video posnetke. Povedal je, da je to stvari nepredvidljivo, in težko je izslediti stvari, ki so se na začetku dogajale. Brachman je opozoril, da nimamo nadzora nad tem, kaj se otroci učijo, enako velja tudi za računske mehanizme.

Inteligentni poslovni stroji

Razprava o AI in etičnih vprašanjih, ki se pojavljajo, se je nadaljevala na drugem panelu z vodji nekaterih bolj specializiranih programskih podjetij. Babak Hodjat, soustanovitelj in glavni znanstvenik podjetja za strojno učenje Sentient Technologies, je dejal, da je vprašanje etike nekoliko moteče pri AI in da etika vpliva tudi na vse vrste drugih tehnologij, od pametnih telefonov do ocen FICO.

George John, predsednik in ustanovitelj programskega oglaševalskega podjetja Rocket Fuel, je opozoril na prednosti tehnologije in dejal: "Če AI resnično deluje, bi morali ljudje prej priti domov." Govoril je o potrebi po novih veščinah upravljanja in upravljanju tako ljudi kot pametnih strojev. Govoril je tudi o iskanju aplikacij AI, ki niso primerne samo za velika podjetja, ampak bi lahko koristile tudi posameznikom.

Jag Duggal, SVP oddelka za upravljanje izdelkov za podjetje za merjenje občinstva Quantcast, je dejal, da so to orodja, namenjena temu, da naredimo bolj produktivne, naredimo več stvari in povečamo svoje zmogljivosti. Dejal je, da iz tega lahko izhaja ogromno inovativnosti in produktivnosti, in dejal, da čeprav obstajajo strahovi pred tem, da bi tehnologija postala preveč dobra, ga veliko bolj skrbijo meje tehnologije.

Zlasti so ga zanimale spodbude in kaj se zgodi, ko algoritmi strojnega učenja končajo po napačnih spodbudah. Na primer, zapisal je, kako na spletnem trgu umeščanja oglaševalcev prodajalci e-trgovine dajejo kredit zadnjem oglasu, ki ga je oseba videla pred oddajo naročila. Posledica tega je več oglaševanja oglasov, ko je oseba že obiskala spletno mesto za e-trgovino in pogosto potem, ko se je nekdo odločil za nakup; z drugimi besedami, kdaj se oglas lahko zapravi. "Quantcast poskuša postaviti boljše zglede, je dejal.

Jon Stein, ustanovitelj in izvršni direktor investicijske družbe Betterment s sedežem na AI, je govoril o dobrem, ki ga tehnologija lahko naredi, in se strinjal, da je treba določiti jasne spodbude. Govoril je o sledenju zaupnim standardom, kot je na primer delovanje v najboljšem interesu vaše stranke, in dejal, da mora imeti transparentnost veliko vlogo, da lahko ljudje razumejo, kje lahko pride do konfliktov.

Stein je dejal, da bo zaradi tehnologije težje postati zločinec, toda Duggal je dejal, da je bolj skeptičen, saj imajo tudi prevaranti tehnologijo. Kljub temu je navdušen nad potencialom tehnologije in navaja primer Googlovega projekta, pri katerem lahko AI prepozna kolike raka na koži. Dejal je, da ga skrbi "napačno določitev" vprašanja s strani nasprotnikov tehnologije.