Varnostna ura: prevaranti se lovijo lažjih sporočil

Od svoje družine nimam veliko vprašanj glede službe. Razumljivo jih veliko bolj zanimajo hijki mojih podgan in mojega psa. Ko pa me vprašajo o varnosti, ljudje vedno želijo vedeti, zakaj se zgodijo slabe stvari. Na to vprašanje je veliko odgovorov, toda vedno se mi vrne preprost: denar.

Odkupna programska oprema? Enostavna gotovina za napadalce. Lažno predstavljanje? Nič drugega kot gotovina. Nezaželena pošta? Vse vrste načinov za zaslužek ljudi, ki kliknejo na povezave. Kršitve podatkov? Te stvari se navadijo na prevare, ostale pa prodajo (da se uporabijo za več goljufij). Napadi države v državi? Seveda obstaja ideologija, toda če upoštevate, da so ameriške sankcije nedvomno igrale vlogo v motiviranosti Rusije za napad na volitve 2016, je denar enačba. In to ne omenjamo, da bodo hakerji držav članic mesečevali za dodatno gotovino.

Na seznamu ni globokih posnetkov, videoposnetkov, ki so bili posegi, ki običajno uporabljajo tehnologijo, ki jo poganja AI. Videli smo obraze zvezd, ki so se zamenjali za telesa pornozvezd, in obraze in glasove politikov, ki so bili manipulirani, da bi se jim zdelo, da govorijo stvari, ki jih v resnici niso izgovorili. Včasih so narejeni za spodbujanje divje vnetnih zarot; bolj zahrbtni so časi, ko jih manipulirajo, da bi govorili o stvareh, ki so naklonjeni gledalcem, težave z razlikovanjem od resnice.

V zadnjih mesecih se je o strahu veliko govorilo o strahu, da bi jih lahko uporabili v dezinformacijskih kampanjah, da bi zmedli volivce. To se še ni zgodilo v velikem obsegu, vendar so pornografski globoki filmi že poškodovali številne posameznike. Zakaj torej temu rečemo nastajajoča grožnja? Verjetno zato, ker ni bilo očitnega načina, da bi jih neposredno zaslužil. To se je spremenilo ta teden, saj poročajo, da so bili globokoplasti uporabljeni za beženje korporacij za več sto tisoč dolarjev.

Novo orodje, isti stari Con

V zadnjem času bi moral videti, da prihaja. Socialni inženiring - domišljav način, kako reči »prevari ljudi« - je časno orodje za kršitev digitalne varnosti ali preprosto zasluženje. Dodatek deepfakesov v zvijači je popoln prileg.

Časnik Wall Street Journal je poročal, da so nekateri pametni napadalci zgradili zvočni model z globokimi lastnimi lastnostmi, s katerim so drugega zaposlenega prepričali, da je govoril z direktorjem podjetja. Zaposleni je nato odobril nakazilo v znesku 243.000 USD. Raziskovalci v podjetju za kibernetsko varnost Symantec so v svojem poročanju zapisali, da so našli vsaj tri primere glasov vodstvenih delavcev, ki so posnemali goljufije podjetij. " Ocenjeni izvlek se meri v milijonih dolarjev.

Za lastno poučevanje sem se usedel in poskušal izslediti zgodovino deepfaksov. Resnično je koncept za obdobje ponarejenih novic, začelo pa se je konec leta 2017 v članku Vice o pornografski izmenjavi z obrazom, objavljenem na Redditu. Prva uporaba "deepfakes" je bila pravzaprav uporabniško ime posameznika, ki je objavljal pornografske video posnetke, v katerih so bili Gal Gadot, Scarlett Johansson in drugi, ne pa tudi telo, in drugi.

V le nekaj mesecih se je skrb zaradi deepfaksov preselila v politiko. V videoposnetkih so se pojavljale politične osebnosti, na katerih sem se (in večina preostale varnostne skupnosti) zataknil. Ob dezinformacijah iz Rusije med volitvami v ZDA leta 2016 je bila ideja o skoraj neločljivih lažnih videoposnetkih, ki so preplavili volilni cikel leta 2020, resnična. Prav tako zajema naslove in je eden tistih projektov za javno dobro, ki jih varnostne družbe resnično želijo.

Odpuščen bi bil, če ne bi opozoril na omejitve deepfaksov. Kot prvo, potrebujete zvočne posnetke osebe, za katero se poskušate lažno predstaviti. Zato so zvezdniki in politiki v središču pozornosti očitne tarče za deepfakery. Raziskovalci pa so že dokazali, da je za ustvarjanje prepričljivega zvočnega globelstva potrebna le približno minuta zvoka. Poslušanje klica javnega vlagatelja, intervju z novicami ali (bog pomagaj) pogovor TED bi bilo verjetno več kot dovolj.

Zanima me tudi, kako dobro mora vaš model globoke zaščite sploh delovati, da bi bil učinkovit. Na primer, zaposleni na nizki ravni morda nimajo pojma, kako zveni generalni direktor (ali celo izgleda), zaradi česar se sprašujem, ali je kakšen razumen in verodostojen glas dovolj, da opravim delo.

Zakaj je denar pomemben

Kriminalci so pametni. Zaslužiti želijo čim več denarja, hitro, enostavno in z najmanjšo mero tveganja. Ko nekdo odkrije nov način, kako to storiti, mu sledijo drugi. Odlična primer je Ransomware. Šifriranja je bilo že desetletja, a ko so ga kriminalci začeli orožarjati za enostavno gotovino, je to privedlo do eksplozije odkupne programske opreme.

Deepfakes, ki se uspešno uporablja kot orodje, kar pomeni specializiran napad na podvodni ribolov, je dokaz novega koncepta. Mogoče se ne bo izogibalo enako kot odkupna programska oprema - še vedno je potrebno veliko truda in preprostejše prevare delujejo. Toda kriminalisti so dokazali, da lahko globoki napadi delujejo na ta nov način, zato bi morali vsaj pričakovati še nekaj kriminalnih poskusov.

• Kako zaščititi ameriške volitve, preden bo prepozno Kako zaščititi ameriške volitve, preden bo prepozno
• Kampanje volilnih vplivov: Precej poceni, da bi prevaranti prenesli volilne kampanje Volilni vpliv: Precej poceni, da bi prevaranti posredovali
• Ruske obveščevalne agencije so strupena konkurenca in sabotaže Ruske agencije za obveščanje so strupena konkurenca in sabotaža.

Namesto da bi ciljali na izvršne direktorje, bi prevaranti lahko ciljali navadne ljudi za manjše izplačila. Prevara ni težko predstavljati z videoposnetki, objavljenimi na Facebooku ali Instagramu, da ustvarijo globoke modele glasov, s katerimi bi prepričali, da njihovi družinski člani potrebujejo veliko denarja, poslanega z nakazilom. Ali pa bo morda uspešna industrija robocall dobila dodatno plast za dodatno zmedo. Poleg tega lahko zaslišite prijateljev glas, poleg tega pa vidite telefonsko številko seznanjene. Prav tako ni razloga, da teh procesov ne bi bilo mogoče do določene mere avtomatizirati, pri čemer se glasni modeli ne izvajajo in tečejo po vnaprej določenih skriptah.

Nič od tega ni za popust morebitne škode zaradi napak na volitvah ali denarja, vezanega v teh operacijah. Ko so kriminalci bolj spretni z orodji za globoko ponarejanje in ta orodja postanejo boljša, je mogoče, da bi se lahko pojavila tržnica globin za najem. Tako kot si lahko slabi fantje najamejo čas na botnetih za zmerne namene, se lahko pojavijo tudi kriminalne korporacije, ki so namenjene ustvarjanju napak v pogodbi.

Na srečo denarna spodbuda za slabe fante ustvari eno za dobre. Porast ransomware je privedel do boljše antimalware za zaznavanje zlonamerne šifriranja in preprečevanje, da bi prevzel sisteme. Za odkrivanje deepfak-ov se že dela, in upamo, da bodo ta prizadevanja napolnjena le s prihodom phfishing-a. To je malo tolažbe za ljudi, ki so že bili prevarani, vendar je dobra novica za nas ostale.