Leto etičnega obračuna v ai industriji

Odkar so globoke nevronske mreže leta 2012 zmagale na najpomembnejšem svetovnem tekmovanju v prepoznavanju slike, so bili vsi navdušeni nad tem, kaj lahko sprosti umetna inteligenca. Toda v tekmi za razvoj novih AI tehnik in aplikacij so bili možni negativni vplivi zadnji.

Zdaj opazimo premik k večjemu zavedanju o AI etiki. V letu 2018 so se razvijalci AI bolj zavedali možnih posledic svojih stvaritev. Mnogi inženirji, raziskovalci in razvijalci so jasno povedali, da ne bodo gradili tehnologij, ki škodujejo ali povzročajo škode življenju nedolžnih ljudi, in držali so svoje družbe.

Prepoznavanje obrazov pri kazenskem pregonu

V preteklosti je bilo ustvarjanje aplikacij za prepoznavanje obraza naporno, veliko sredstev in napak. Toda z napredkom računalniškega vida - podskupine AI, ki računalnikom omogoča prepoznavanje vsebine slik in videoposnetkov - je ustvarjanje aplikacij za prepoznavanje obraza postalo veliko lažje in dosegljivo vsem.

Velika tehnološka podjetja, kot so Microsoft, Amazon in IBM, so začela ponujati storitve v oblaku, ki so vsakemu razvijalcu omogočile, da je v svojo programsko opremo vključil tehnologijo prepoznavanja obraza. To je odklenilo veliko novih primerov uporabe in aplikacij na različnih področjih, kot so zaščita identitete in overjanje, varnost pametnih domov in trgovina na drobno. Toda zagovorniki pravic zasebnosti so izrazili zaskrbljenost zaradi možnosti zlorabe.

Ameriška zveza civilnih svoboščin je maja 2018 razkrila, da je Amazon na področju kazenskega pregona in vladnih agencij tržil Rekognacijo, tehnologijo za video analitiko v realnem času. Po navedbah ACLU so policisti v vsaj treh državah uporabljali Rekognizacijo za prepoznavanje obraza na nadzornih video virih.

"Z Rekognacijo lahko vlada zdaj zgradi sistem za avtomatizacijo prepoznavanja in sledenja komur koli. Če bi bile na primer kamere policijskih teles opremljene s prepoznavanjem obraza, bi se naprave, namenjene preglednosti in odgovornosti častnika, še dodatno spremenile v nadzorne naprave, namenjene javnosti, "je opozoril ACLU. "Z avtomatizacijo množičnega nadzora sistemi prepoznavanja obrazov, kot je Rekognezija, ogrožajo to svobodo in predstavljajo posebno grožnjo skupnostim, ki so že neupravičeno usmerjene v trenutni politični klimi. Ko bodo mogočni sistemi za nadzor, kot so ti, zgrajeni in uporabljeni, bo škodo izjemno težko odpraviti."

Zaskrbljenost ACLU-a je odmevala zaposlene v Amazonu, ki so junija napisali pismo Jeffu ​​Bezosu, izvršnemu direktorju podjetja, in zahtevali, naj preneha prodati Rekognance policijskim organom. "Naše podjetje ne bi smelo biti v nadzornem poslu; ne bi smeli biti v policiji; ne bi smeli podpirati tistih, ki spremljajo in zatirajo marginalizirano prebivalstvo, " je zapisano v pismu.

Oktobra je anonimni uslužbenec Amazona razkril, da je vsaj 450 zaposlenih podpisalo še eno pismo, v katerem je Bezos in druge vodstvene delavce pozval, naj nehajo prodati Rekognance policiji. "Ne moremo profitirati iz podmnožice močnih strank na račun naših skupnosti; ne moremo odvrniti oči od človeških stroškov našega poslovanja. Ne bomo tiho gradili tehnologije za zatiranje in ubijanje ljudi, bodisi pri nas ali v drugih, " je reklo.

Izpad Googlovega vojaškega AI projekta

Medtem ko se je Amazon ukvarjal s tem notranjim zastojem, se je Google spopadal s podobnimi težavami zaradi pogodbe o razvoju AI za ameriško vojsko, ki so jo poimenovali Project Maven.

Google naj bi obrambnemu ministrstvu pomagal razviti tehnologijo računalniškega vida, ki bi obdelala posnetke brezpilotnih videov. Količina video posnetkov, ki jih vsak dan snemajo droni, je bila človeška analitika prevelika, zato je Pentagon želel del postopka avtomatizirati.

Tiskovni predstavnik Googla je ob priznanju sporne narave naloge določil, da ponuja samo API-je za TensorFlow, njegovo platformo za strojno učenje, za odkrivanje predmetov v video virih. Google je tudi poudaril, da razvija politike in zaščitne ukrepe za obravnavo etičnih vidikov svoje tehnologije.

Toda Projekt Maven ni dobro sodeloval z Googlovimi zaposlenimi - od tega jih je 3.000, vključno z desetinami inženirjev, kmalu podpisalo odprto pismo izvršnemu direktorju Sundarju Pichaiu, v katerem je pozval k ukinitvi programa.

"Verjamemo, da Google ne bi smel biti v vojni, " je zapisano v pismu. Družba je zahtevala, da "pripravi, objavi in ​​uveljavi jasno politiko, ki navaja, da niti Google niti njegovi izvajalci ne bodo nikoli gradili tehnologije vojskovanja."

Tudi zaposleni v Googlu so opozorili, da njihov delodajalec ogroža njegov ugled in sposobnost, da se v prihodnosti poteguje za talent. "Moralne odgovornosti svojih tehnologij ne moremo oddajati tretjim osebam, " so poudarili Googlovi strokovnjaki.

Kmalu zatem je peticija, ki jo je podpisalo 90 akademikov in raziskovalcev, pozvala vodilne Googlove vodstvene delavce, naj prenehajo z delom na področju vojaške tehnologije. Podpisniki so opozorili, da bo Googlovo delo postavilo oder za "avtomatizirano prepoznavanje ciljev in avtonomne orožne sisteme." Opozorili so tudi, da bodo z razvojem tehnologije stali "na korak od tega, da bi avtonomnim brezpilotnim letalom ubili samodejno, brez človeškega nadzora ali smiselnega človeškega nadzora."

Ko so napetosti rasle, je več Googlovih uslužbencev v znak protesta odstopilo.

Kako so se odzvali tehnični vodje

Google je pod pritiskom junija izjavil, da ne bo podaljšal pogodbe z ministrstvom za obrambo na Project Maven, potem ko se bo ta iztekel leta 2019.

V blog blogu je izvršni direktor Sundar Pichai (na spodnji sliki) razglasil nabor etičnih načel, ki bodo urejala razvoj in prodajo AI tehnologije v podjetju. Po Pichaijevem mnenju bo podjetje od zdaj obravnavalo projekte, ki so v dobro družbe kot celote in se izognili razvoju AI, ki je okrepil obstoječe nepoštene pristranskosti ali spodkopaval javno varnost.

Pichai je tudi izrecno izjavil, da njegovo podjetje ne bo delalo na tehnologijah, ki kršijo standarde človekovih pravic.

Amazonski Bezos je bil manj očaran nad ogorčenjem nad Rekognizacijo. "Še naprej bomo podpirali DoD in mislim, da bi morali, " je dejal Bezos na tehnološki konferenci v San Franciscu oktobra. "Ena od nalog višjega vodstva je, da se pravilno odločimo, tudi če je to nepriljubljeno."

Bezos je tudi poudaril potrebo po tehnološki skupnosti za podporo vojske. "Če bodo velika tehnološka podjetja obrnila hrbet ministrstvu, bo ta država v težavah, " je dejal.

Microsoftov predsednik Brad Smith, čigar podjetje se je soočilo s kritikami zaradi svojega dela z ICE, je julija objavil objavo na blogu, v kateri je pozval k izmerjenemu pristopu pri prodaji občutljive tehnologije vladnim agencijam. Medtem ko Smith ni izključil prodaje storitev prepoznavanja obrazov organov pregona in vojske, je poudaril potrebo po boljši regulaciji in preglednosti v tehnološkem sektorju.

• MIT bo za program za študij AI etike porabil milijardo dolarjev MIT bo za program za študij AI etike porabil 1 milijardo dolarjev
• Ali AI resnično govori naš jezik? Ali AI resnično govori naš jezik?
• Razpad kitajske neustavljive tovarne AI Razbijanje kitajske neustavljive tovarne AI

"V kongresu smo izvolili predstavnike, ki imajo orodja, potrebna za oceno te nove tehnologije z vsemi njenimi posledicami. Izkoriščamo uravnavanje in uravnovešanje ustave, ki nas je videla od starosti sveč do ere umetne inteligence. tolikokrat v preteklosti moramo zagotoviti, da novi izumi služijo našim demokratičnim svoboščinam v skladu s pravno državo, "je zapisal Smith.

Leta 2018 so oddaljene grožnje robotov morilcev in množična brezposelnost popustile zaskrbljenosti zaradi bolj neposrednih etičnih in družbenih vplivov AI. Ta razvoj v mnogih pogledih kaže na to, da industrija dozoreva, saj algoritmi AI postajajo bolj pomembni pri kritičnih nalogah. Ker pa se algoritmi in avtomatizacija v naše vsakdanje življenje bolj vključujejo, se bo pojavilo več razprav.