Kako bo gdpr vplival na industrijo ai | ben dickson

V tem, kar lahko opišemo kot nekakšno dirko z orožjem, tehnološka podjetja nabirajo velike količine uporabniških podatkov, da odvrnejo algoritme za umetno inteligenco, ki napajajo njihove aplikacije in platforme. Doslej so se večinoma lahko izognili odgovornosti, ko so jih njihove prakse potisnile v zakonsko in etično siva območja.

Toda to bi se lahko spremenilo 25. maja, ko bodo začela veljati Splošna pravila o varstvu podatkov Evropske unije (GDPR). GDPR bo nalagal brez primere omejitve za zbiranje in obdelavo podatkov o uporabnikih v regiji EU ter podjetjem, ki tega ne izpolnjujejo, naložil stroge kazni.

To se lahko sliši kot slaba novica za podjetja, ki uporabljajo algoritme AI, ki so izkoristila predpise o zbiranju podatkov (ter dolgotrajne, dolgočasne in dvoumne pogoje storitvenih dokumentov). Nekateri se bojijo, da bodo strožja pravila ovirala inovacije in uvedbo umetne inteligence v številnih aplikacijah in področjih. Drugi verjamejo, da bo nova direktiva ustvarila temelje, kjer bodo aplikacije AI postale bolj zanesljive in zanesljive.

Ne glede na to, industrija AI se v dobi GDPR močno spreminja.

Lastništvo in zasebnost podatkov

"GDPR je za AI velik problem, saj mora razmišljati drugače, kako zbiramo in uporabljamo podatke, " pravi Tim Estes, ustanovitelj in predsednik družbe Digital Reasoning. "Tehnološka podjetja so predolgo vztrajala, da bi se morali od svojih izdelkov in storitev prepustiti vrednosti."

Pred tem so morala podjetja od uporabnikov prejeti le nejasno soglasje za zbiranje vseh vrst podatkov. "AI je pomagal ohraniti hype veliko podatkov, kar je še en razlog, da bi podjetja morala zbirati in rudariti vse razpoložljive podatke, " pravi Estes. "Mnoga podjetja so začela izvajati AI, da analizirajo svoje podatke samo zato, ker mislijo, da bi morali to storiti - brez razmišljanja o vplivu na zasebnost uporabnikov ali lastništvo podatkov."

Najosnovnejša premisa GDPR je, da podatki pripadajo uporabnikom. V skladu z GDPR bodo morala podjetja razkriti celoten obseg informacij, ki jih zbirajo, pa tudi, kako jih uporabljajo in kako jih bodo varovali ter preprečevali nepooblaščen dostop. Nova pravila bodo podjetja AI prisilila, da bodo bolj natančno obravnavali podatke, ki jih zbirajo, namesto da bi se ukvarjali z nerazumnim skladiščenjem, obdelavo in izmenjavo informacij o uporabnikih.

Pravica do pozabe

GDPR uporabnikom omogoča, da zahtevajo, da podjetje izbriše vse podatke iz svojih strežnikov. To ne bo dobro s podjetji AI, ki imajo veliko zanimanja za shranjevanje čim več uporabniških podatkov za izvajanje nalog, kot so napovedovanje trendov in vedenja uporabnikov.

"Na koncu dneva GDPR temelji na tem, kako zbirate in upravljate podatke in ne nujno o tem, koliko podatkov imate, " pravi Maryna Burushkina, izvršna direktorica GrowthChannel. "Glavna težava, s katero se bo soočala večina podjetij, ni toliko v pridobivanju prijav, temveč bolj pri upravljanju podatkov, o tem, kako uporabnikom sporočajo uporabo podatkov in uporabnikom omogočajo, da jih izbrišejo."

AI družbe bodo morale narediti dodatne korake za anonimizacijo svojih podatkov, če bodo še vedno želele imeti dostop do teh spoznanj. Toda drugi izzivi se soočajo s podjetji, ki že imajo velike shrambe podatkov o uporabnikih.

"V skladu z GDPR, če podjetje želi izbrisati določen PII, morajo poskrbeti, da bo povsod izbrisan, " pravi Amnon Drori, izvršni direktor Octopai. To je lahko zastrašujoče opravilo, če se vaši podatki razpršijo po različnih strežnikih in shranijo v različnih strukturiranih in nestrukturiranih oblikah.

Ko bodo na primer izbrisali številko kreditne kartice uporabnika (zagotovo občutljiv podatek), bodo morala podjetja preučiti vsako poročilo, bazo podatkov, objekt baze podatkov in ETL, kjer so informacije shranjene. "Včasih vidimo različna imena metapodatkov za isti element: na primer" številka kreditne kartice ", " številka cc ", številka kreditne c", "številka kartice", "št. Kreditne kartice.", Seznam se nadaljuje in naprej, "pravi Drori. Drori je pogosto nemogoče vedeti, kje iskati, postopek pa lahko traja tedne ali celo mesece in tako kot mnogi ročni postopki je nagnjen k človeškim napakam in netočnostim, pravi Drori.

GDPR bo zvišal tudi stroške človeških napak pri ravnanju s podatki. "Zato toliko podjetij danes išče avtomatizirano rešitev za natančno upravljanje svojih metapodatkov, " pravi Drori. Morda ironično je, da je AI sama v tem pogledu lahko rešitev. Orodja za upravljanje metapodatkov, ki jih poganja AI, lahko skenirajo vse vire podatkov v organizaciji in utrdijo razmerja med različnimi orodji in viri podatkov.

Pravica do obrazložitve

Eden najpomembnejših delov GDPR glede AI je tisto, kar je postalo znano kot "pravica do obrazložitve." Direktiva navaja, da morajo podjetja uporabnike obvestiti o "obstoju avtomatiziranega odločanja" in jim posredovati "pomembne informacije o vpleteni logiki, pa tudi o pomenu in predvidenih posledicah take obdelave za posameznika, na katerega se nanašajo osebni podatki."

To v bistvu pomeni, da morajo uporabniki vedeti, kdaj neposredno ali posredno veljajo za algoritme AI, in bi morali imeti možnost izpodbijati odločitve, ki jih ti algoritmi sprejemajo, in zahtevati dokaz, kako je bil sklep izpeljan. To bo eden največjih izzivov, s katerimi se bo soočila industrija AI.

Globoke nevronske mreže, glavna tehnologija, ki stoji za sodobnimi algoritmi AI, so zapletene programske strukture, ki ustvarjajo lastna pravila funkcionalnosti z analizo velikih nizov podatkov in iskanjem korelacij in vzorcev. Ko se nevronske mreže vse bolj zapletejo, se njihovo vedenje vse težje razgradi. Pogosto niti inženirji ne znajo razložiti razlogov za odločitve svojih algoritmov AI.

Poimenovana težava "črne skrinjice" je neuporabnost algoritmov AI otežila njihovo izvajanje v odločitvah sodne dvorane, kazenskega pregona, prošenj za posojila in posojila, zaposlovanja, zdravstvenega varstva in drugih ključnih področij. A brez kakršnega koli pravnega vzvoda so podjetja AI imela majhne spodbude, da bi svoje algoritme AI naredila bolj pregledne, zlasti ko so bila tesno povezana s svojimi poslovnimi skrivnostmi.

Zdaj bo GDPR zadrževal družbe AI, da bodo odgovarjale za odločitve, ki jih sprejemajo njihovi algoritmi.

"Kot del GDPR so organizacije odgovorne, da jasno opišejo način obdelave v človeškem jeziku, medtem ko od njega zahtevajo soglasje, " pravi Pascal Geenens, varnostni raziskovalec pri Radware. "Ko se razvija poglobljeno učenje in znanstveniki s podatki ne morejo določiti deterministične narave, ki stoji za sklepanjem nevronske mreže, bi ta opis lahko postal bolj zapleten in težko razložljiv."

V bistvu GDPR pomeni, da bodo ljudje, ki obdelujejo podatke, postali odgovorni, pravi Geenens. Če za obdelavo uporabljate algoritme strojnega učenja, jih morate načrtovati tako, da boste lahko razložili odločitve, ki jih sprejmejo v vašem imenu.

Kar nekaj organizacij poskuša razviti tehnologije, da bi AI postala bolj pregledna. Med njimi je pomemben raziskovalni projekt DARPA Razložljivi AI (XAI), katerega cilj je narediti razumljive odločitve na podlagi AI.

Zunanje izvajanje AI

GDPR bo vplival tudi na organizacije, ki svoje podatke dajo na voljo tretjim osebam. Odmeven primer takega podjetja je Facebook; velikan družbenih medijev v škandalu Cambridge Analytica ni uspel preprečiti podjetju, ki rudnik podatkov zbira in zlorablja podatke 87 milijonov uporabnikov. Toda GDPR bo imel posledice tudi za podjetja, ki oddajajo svoje AI funkcionalnosti in dajo svoje podatke na voljo ponudnikom AI.

"Medtem ko mnogi domnevajo, da so ponudniki AI podobni kot drugi ponudniki storitev - preprosto ponujajo svojo tehnologijo v zameno za denarno nadomestilo - resnica je, da ponudniki AI vstopajo v poslovna partnerstva kot način za nadgradnjo in razvoj svoje tehnologije, " pravi šef Estes izvršnega direktorja digitalne razloge. To pomeni, da bo ponudnik AI morda želel obdržati podatke odjemalca za nadaljnje usposabljanje lastnih algoritmov in njihovo uporabo na drugih področjih.

Na primer, ponudnik AI, ki zdravstveni organizaciji pomaga najti vzorce simptomov in izboljšati diagnoze, lahko naleti na nabor podatkov, ki izboljšujejo njegove lastniške algoritme. Družba AI bo nato želela uporabiti podatke za izboljšanje svojih algoritmov za druge vrste oskrbe pacientov, da bi razvila svoje zmogljivosti za pomoč drugim izvajalcem zdravstvenih storitev. V skladu z GDPR bo zdravstvena organizacija, ki je odgovorna za podatke, odgovorna za vsako neetično uporabo ponudnika AI. Ključno je, meni Estes, da podjetja iščejo ponudnike AI, ki verjamejo v lastništvo algoritmov in ne podatkov.

"GDPR bo prisilil podjetja, da pozorneje spremljajo, kako in kdaj se uporabljajo njihovi podatki, kje se hranijo in kaj se zgodi z njimi po zaključku projekta, " pravi Estes. "To pomeni sodelovanje z ponudniki AI, ki pomagajo določiti linije lastništva podatkov in izvajajo strategije, ki ščitijo informacije uporabnikov, hkrati pa ne ovirajo načinov, kako lahko pomagajo razvijati uspeh algoritmov AI."

Bo GDPR Hamper AI Inovacije?

Strokovnjaki, s katerimi smo se pogovarjali, verjamejo, da bodo novi predpisi, ki bodo izzivali sedanje prakse in navade, ki so jih družbe AI sprejele, prisilile, da najdejo nove načine za inovacije in tudi spoštujejo zasebnost in etične standarde.

"Z uveljavitvijo uredbe o GDPR vse večje programske družbe sprejemajo potrebne ukrepe, da ne samo zagotovijo skladnost, temveč tudi inovacije in razmišljajo, da bi našli nove priložnosti na trgu, " pravi Burushkina podjetja GrowthChannel.

"Inovacije ne bodo ovirale - ampak jih bo usmerjal in motiviral GDPR, " pravi Droto iz Octopaia. Medtem bo GDPR ustvaril tudi nova podjetja in tehnologije, ki bodo organizacijam pomagale doseči in ohraniti skladnost z GDPR.

Standardi, ki jih je določil GDPR, bi dejansko lahko pomagali premostiti vse večji razkorak med zaupanjem med ponudniki in uporabniki storitev, ki jih poganja AI. Estes verjame, da bo GDPR ponudnike AI in tiste, ki uporabljajo njihovo tehnologijo, bolj odgovoren za to, kako in kje uporabljajo podatkovne vire, ter jih spodbudil, da uporabnike postavijo pred dobiček. "Na koncu dneva, " pravi, "bi morali ponudniki AI imeti v lasti le algoritme - ne podatke - za inovacije svojih zmogljivosti in rešitev."