Tehonomija: kako popraviti, kaj je narobe z googleom in facebookom

Morda najbolj presenetljiva tema letošnje Tehonomije je bila, kako je razburjeno veliko govorcev s Facebookom, Googlom in Twitterjem, pri čemer so se kritike osredotočile na njihov pristop k zasebnosti in zlasti na možno vlogo, ki so jo odigrali pri omogočanju ruskega krampanja na volitvah 2016.

Različni govorniki so si prizadevali za različne načine regulacije teh "internetnih velikanov", na konferenci pa ni bil nihče od nobenih omenjenih podjetij, da bi ponudil alternativno stališče. To se je zelo razlikovalo od lanske konference, ko je izvršni direktor Facebooka Mark Zuckerberg dejal, da so lažne novice na Facebooku vplivale na volitve "precej nora ideja."

Od takrat, kot je ugotovila soustanoviteljica Techonomy-ja Simone Ross, smo se naučili, da "nam tehnologija omogoča tako enostavno razdelitev, kot da nas združijo." Soustanovitelj konference David Kirkpatrick (zgoraj) je določil ton za konferenco in dejal, da je "tehnologija sila dobrega, vendar le, če je dober vaš cilj" in nadaljeval, da je prepričan, da velika tehnološka podjetja potrebujejo "proaktivno presečišče "z vlado, ne glede na to, ali se imenuje regulacija ali ne.

Avtoriteta v umreženem, umetno inteligentnem svetu

Znani vlagatelj Roger McNamee iz Elevation Partners, zgodnji vlagatelj v Facebook in Google, je bil med vsemi govorniki morda najbolj negativen. McNamee je dejal, da so ta podjetja "začela reševati svet", vendar se je to spremenilo, ko je oglaševanje postalo njihov poslovni model. Povedal je, da je pametni telefon v kombinaciji z osebnimi podatki omogočil "ustvarjanje stopnje hekerstva možganov, kakršne v medijih še nikoli nismo videli".

McNamee je dejal, da je verjel, da je Zuckerberg iskren, ko je rekel, da pred enim letom ne verjame, da je takšno krampanje mogoče, vendar je dejal, da vloge, ki jo zdaj igrata Google in Facebook, ne moreta biti precenjena. Komentiral je, "da jih je težko biti zdaj in se zavedaš, da si uničil zahodno civilizacijo."

danah boyd, Podatki in družba; Roger McNamee, partnerji za dviganje; Marc Rotenberg, elektronski informacijski center o zasebnosti (EPIC); Stratford Sherman, Comppli

Ta razprava je nastala v delu posvetovanja z naslovom "Avtoriteta v umreženem, umetno inteligentnem svetu", na katerem je bil tudi danah boyd, družboslovec s podatki & družba in raziskave Microsoft; Marc Rotenberg, predsednik elektronskega informacijskega centra za zasebnost (EPIC); in moderator Stratford Sherman iz družbe Comppli. Sherman je dejal, da sta Facebook in Google kot foruma za javni govor začela "radikalno neregulirati". Z AI, ki bi lahko temeljito vplival na človeško raso na obzorju, je Sherman dejal, da je zaskrbljen zaradi nenamernih posledic tehnološkega razvoja, ki smo jih že videli.

Rotenberg je dejal, da je še vedno zaskrbljen zaradi tradicionalnih pomislekov glede zasebnosti zaradi sledenja in profiliranja, vendar ga enako skrbi pomanjkanje konkurence, pomanjkanje inovacij in tveganje za demokratične institucije. Povedal je, da imajo internetni velikani ogromno moči, podatki, ki jih imajo, pa ustvarjajo resnično oviro za vstop, tako da ni smiselne konkurence. Rotenberg je dejal, da je v Washingtonu že od Reaganove uprave, in prvič, "da se volitve v lanskem letu niso zdele znane".

Na prejšnjem zasedanju je fant, ki je napisal knjigo z naslovom Zapleteno , govoril o težavah soočanja z manipulacijo na internetu.

Govorila je o stopnjevajočem se procesu manipulacije v zadnjih 20 letih, ki se je začel z otroki, ki vozi Oprah in je napredoval do "rikolov", in o stvareh, kot je spreminjanje rezultatov iskanja imena "Santorum." V zadnjem času so z Gamergateom postali večji igralci igralcev, vključno z državnimi akterji. boyd je dejal, da internetna podjetja menijo, da jih AI lahko zaščiti, vendar skupine, ki poskušajo manipulirati z rezultati, že eksperimentirajo z obdelavo naravnega jezika in, kar je najpomembneje, posegi v vire podatkov. Na primer, vstavljanje slabih podatkov v sistem je nova ranljivost. Kljub temu je Boyd dejal, da bo edini odgovor "vgraditi tehnična protitelesa v našo industrijo."

Na tem zasedanju je boyd dejal, da se tehnološka podjetja spopadajo z manipulacijo na več frontah in opozoril, da čeprav vsi gledajo Rusijo, je veliko drugih držav, ki se ukvarjajo s podobnimi dejanji. Na primer, kitajska podjetja poskušajo zagotoviti, da bodo nadzirala AI, in dejala, da to predstavlja drugačen izziv, ker ne gre za industrijsko konkurenco, ampak za konkurenco državi.

Na vprašanje Shermana, če gre za vojno, je boyd dejal, da misli, da je, medtem ko je McNamee dejal, da gre za klasično gverilsko vojsko, saj so naši sovražniki uporabili našo tehnologijo proti nam. McNamee je dejal, da težava ni v družbenih omrežjih ali iskanju, ampak v modelu oglaševanja. Dejal je, da se v bitki za pozornost ljudi snov pokoplje po občutku in navaja staro pregovor, da "če krvavi, vodi."

Sherman je ugotovil, da sta strah in jeza veliko bolj magnetna in zato veliko cenejša. Dejal je, da čeprav so bila uporabljena organska sporočila za doseganje več kot 125 milijonov ljudi, je bil cilj prizadevanja, da se oglasi segmentirajo ljudi v skupine na podlagi skupnih interesov.

Rotenberg je dejal, da se zavzema za to, da bi bili algoritmi pregledni in oglaševanje urejeno, vendar je dejal, da moramo spoštovati pravico posameznikov, da govorijo po spletu. Toda McNamee je dejal, da je "prva sprememba oborožena" in da se spletni prostori bistveno razlikujejo od javnega trga.

boyd je opisal, kaj ji pravi "učinek bumeranga", ali z drugimi besedami, smisel, da provociranje medijev na poročanje o nezaslišanih stvareh je smiselno, ker to krepi izvirno sporočilo segmentu publike, ki nezaupanje medijem. Kot primer je fant govoril o Pizzagateu. Opozorila je, da so mediji pred internetom pogosto uporabljali "strateško tišino", da bi se izognili pokrivanju stvari, kot so samomori in shodi Klan, da jih ne bi objavili.

Rotenberg se je strinjal, da se je velik del te tradicije skrbnosti in nadzora izgubil, in dejal, da so stvari, kot je oddelek 230 (ki pravi, da internetne družbe niso odgovorne za stvari, kot so objave uporabnikov), otežile konkurenco tradicionalnim novicam.

Vprašan za rešitve, je McNamee dejal, da je Facebook kult in da mora prenehati zanikati težavo in se z njo spoprijeti, prav tako pa se začne lotevati "deprogramiranja" tako, da se obrne na vsakega od svojih uporabnikov. Rotenberg je promoviral idejo regulacije. In boyd je predlagal, da moramo vložiti denar v družbo, da bomo Ameriko ponovno povezali.

Obračunavanje z novimi hegemonisti

Mark Mahaney, trgi kapitala RBC; Dave Morgan, Simulmedia; Joyce Vance, Univerza v Alabami; David Kirkpatrick, Tehnologija

V zgodnjem okrožju o "Pogovori z novimi hegemonisti" so se skoraj vsi strinjali z Joyceom Vanceom z univerze v Alabami, ki je dejal, da tehnologija resnično prehiteva zakon, ki ga je treba obupno nadgraditi. Toda Vance je opozoril, da obstaja tudi tveganje, da bodo "spodrsnili" politični odgovori.

Dave Morgan iz Simulmedia je dejal, da "bo ureditev obstajala", čeprav je dejal, da se bodo velika podjetja morda izognila velikemu vplivu.

Morgan je opozoril, da zgodovina medijske industrije daje vzporednice tistemu, kar zdaj vidimo, saj bi se časopisi videli kot tiskarne, podjetja za zgodnje oddajanje pa so se videla kot tehnološka podjetja. Vse to omogoča zagotavljanje stikov s potrošniki, kar je očitno tisto, kar počneta Google in Facebook. Veliko protimonopolnih primerov je nastalo kot rezultat tako koncentrirane moči medijev in vlada jih je lahko obvladala. Ena velika razlika je danes, da druge tehnologije zahtevajo geografsko vez, ki ga internetna podjetja ne potrebujejo.

Vance je opozoril, da senat zdaj razmišlja o predlogu zakona, po katerem bi morala ta podjetja ohraniti svojo oglaševalsko zgodovino, pa tudi jasno, kdo plačuje za politične oglase. Toda Morgan je poudaril, da so to zdaj globalna podjetja s širšim dosegom. Na vprašanje o evropskih predpisih o zasebnosti GDPR je Vance dejal, da so ZDA na tem področju morda odstopile vodstvo EU. Povedala je, da ne misli, da bodo ameriška podjetja spoštovala skladnost na različnih geografskih območjih, zato bodo podjetja, ki privzeto izpolnjujejo evropske predpise.

Mark Mahaney iz RBC Capital Markets je dejal, da se podjetja že urejajo, zlasti v Evropski uniji, pri čemer je Google še posebej pod nadzorom združevanja ali promocije svojih storitev skupaj z rezultati iskanja ali s sistemom Android. Kirkpatrick je dejal, da se mu zdi, da protitrustovska poravnava dejansko pomaga Microsoftu, vendar je Mahaney nasprotoval, da Microsoftovi regulatorji niso ustavili, ampak konkurenca.

Ali lahko Tech in vlada rešita demokracijo?

Tim Hwang, FiscalNote; Minnie Ingersoll, Šifra za Ameriko; Marc Rotenberg, elektronski informacijski center o zasebnosti; Molly Turner, poslovna šola UC Berkeley Haas; Jon Fine, revija Inc; Lawrence Norden, NYU School of Law

Podobna tema se je pojavila na okrogli mizi z zajtrkom z naslovom "Ali lahko tehnologija in vlada reši demokracijo?", Na kateri je moderator Jon Fine iz revije Inc zahteval rešitve. Vendar pa okrogla miza res ni prišla na vrsto.

Hwang je dejal, da problem niso tehnološke platforme, ampak jeza, ki jo ljudje čutijo zaradi odklopa od gospodarstva.

Lawrence Norden iz centra Brennan na Pravni šoli NYU je dejal, da so zakoni, ki zahtevajo več razkritja političnih oglasov, enostaven odgovor, da pa so na žalost velik problem "temne objave" ali objave neznanega izvora. Po njegovem mnenju je internet bolj podoben mestnemu trgu.

Toda Rotenberg je dejal, da je ravno nasprotno in da je internet bolj podoben mestu podjetja, kjer platforme postavljajo pravila in odločajo o tem, kaj vidite. Minnie Ingersoll iz Code For America nas je vprašala, ali je težava vmešavanje v tujino ali Google nadzira to, kar pravimo. Regulatorji morajo bolje razumeti vprašanja, je dejala.

Molly Turner iz poslovne šole UC Berkeley Haas je dejala, da je internet postal največje sredstvo za izražanje, vendar ga skrbi, da spodkopava civilni diskurz. Po drugi strani pa skrbi, da bodo platforme odstranile nekatere vrste informacij (na primer, če je bil oslabljen Zakon o spoštovanju sporočil ali zaradi drugih vrst urejanja), ker nenadoma v tem primeru platforma postane "arbiter govor."

Rotenberg je odgovoril, da so se avtomobilska podjetja nekoč borila z varnostnimi predpisi, vendar so na koncu pripomogli k varnejšim avtomobilom in privedli do večjih inovacij. Stabilno regulativno okolje lahko dejansko pomaga platformam, je predlagal. Rotenberg je opazil, da so tehnološka podjetja spodbudile "nevtralnost omrežja" za telekomunikacijska podjetja, ne pa tudi zase, in pozval k enakim pogojem.

Internet pod napadom

Mark Anderson, Strateški servis za novice; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, Nova Amerika; David Kirkpatrick, Tehnologija

Razprava je nadaljevala zaključni panel z naslovom "Internet pod napadom".

Rebecca MacKinnon, ki vodi projekt Ranking Digital Rights v Novi Ameriki, je dejala, da je nekoč obstajala domneva, da bodo zaradi interneta avtoritarni režimi sčasoma postali bolj podobni demokracijam. Zdaj se bolj boji, da se bodo avtoritarni režimi in demokracije "srečali v sredini."

MacKinnon je dejal, da avtoritarni režimi prilagajajo internet svojim namenom, demokracije pa se soočajo s populizmom, manipulacijo in "nadzornim kapitalizmom". Toda dejala je, da bi morale demokracije paziti na regulativni odziv - čeprav se strinja, da je potrebna večja preglednost, ko gre za algoritme in zasebnost, je zaskrbljena, da bi cenzurni sistem olajšal razbijanje delov zaničevanja družbe družbe.

Peder Jungck, ki je vodja obveščevalnih in varnostnih sistemov za BAE Systems, se je strinjal, da bi vlade radi uporabile takšne sisteme za iskanje disidentov, in dejal, da je ideja izdelek in tako kot vsak izdelek ga je mogoče spodbuditi. Na vprašanje, ali so oglasni sistemi oroženi, je dejal: "Pandorina škatla se je odprla in ne moremo nazaj."

Mark Anderson iz Strateške novice, je dejal, da smo videli ravno črto od dni ARPANET-a, ko še ni bilo slabih fantov, do danes, ko iz dneva v dan opažamo vedno več zlonamernega vedenja.

Anderson je bil še posebej jasen, ko je opisoval, kako Kitajska krade intelektualno lastnino in jo uporablja za izgon podjetij. In predlagal je, da ima hec Equifax vse oznake vladnega napada. Če povzamem, je Anderson dejal, da "ne vidi rešitve."

Jungck je dejal, da bi morali predpostaviti, da so v naših sistemih slabi fantje in da delamo na rešitvah. Na primer, dejal je, da številka socialnega zavarovanja ni več zaščitljiva, zato bomo morda namesto tega potrebovali rešitev blockchain.

V projektu Ranking Digital Rights je MacKinnon na 35 vprašanjih ocenil 22 globalnih podjetij o stvareh, kot so svoboda izražanja, zasebnost in varnost. Povedala je, da sta dve podjetji dobili "Ds", vsa ostala pa so propadla. Želi vedeti, kaj podjetja počnejo z vašimi podatki; s kom ga delijo; ali opravljajo skrbnost, ocene varnosti in upravljanje tveganja; in ali ščitijo zasebnost in varnost, vsebino in izražanje. Preglednost ne zadostuje, je dejala, vendar je nujen prvi korak.

Anderson je dejal, da je preglednost dobra stvar, ni pa rešitev, in opozoril, da nekdo, ki želi manipulirati s sistemom, ni treba plačevati oglasov, vendar lahko uporablja 100.000 botnetov. Kirkpatrick je nato predlagal, da bi podjetja lahko uveljavila identiteto in tako zmanjšala uporabo botnetov.

Toda MacKinnon je nasprotoval, da so za uporabo takih sistemov najbolj ranljivi borci za človekove pravice, ker če uveljaviš identiteto, potem nihče, ki nasprotuje avtoritarni vladi, ne bi bil na družbenih omrežjih.

Jungck se je vprašal, zakaj moramo uveljaviti identiteto, ko spletna mesta že vedo, kdo ste in kaj nameravate kupiti. "Anonimnosti na internetu ni, že zdavnaj ni več, " je dejal. Razlika je le v tem, koliko časa traja, da ugotoviš, kdo si.

MacKinnon je v zaključku dejala, da je zelo dolgoročno optimistična, vendar naslednjih 100 let "ne toliko".

Če poslušamo vse to, je enostavno pesimističen ali vsaj fatalističen glede potrebnih predpisov in vpliva, ki ga bo imel. Kljub temu sem še vedno optimist, in čeprav mislim, da je nekatera dodatna ureditev verjetna in potrebna, verjamem, da bodo današnji internetni velikani - ali nekateri bodoči igralci - našli boljše odgovore.

Kako verjetno priporočate PCMag.com?