Globoki ponaredki krojijo resnico

Vprašanja, ki jih sproža napredek umetne inteligence, v osnovi niso nova. Pravzaprav se ne nanašajo na tehnologijo, temveč se osredotočajo na človeka. Z njimi se neprestano vračamo k premisleku, tolmačenju in vrednotenju našega obstoja. Kdo smo kot človeška bitja v sodobni dobi tehnologije? Kaj velja za resnično in kdo ustvarja resnico? Ali lahko v tehnološki sedanjosti ohranjamo svobodo?

Nezadržna rast tehnologije, predvsem umetne inteligence, moralne dileme le še poglablja, pri tem pa tehnološki razvoj prehiteva oblikovanje odgovorov, ki jih kot družba nujno potrebujemo. Umetna inteligenca ne preoblikuje le naših svetov, temveč tudi sili k ponovni presoji naše identitete. Razumevanje resnice, svobode in človeške vloge v svetu se s tem neprestano spreminja.

Začetki globokih ponaredkov

Nove tehnologije in umetna inteligenca vplivajo na zmožnost razlikovanja med realnostjo in konstrukcijo. Ta dvoumnost odpira pot za nove definicije resnic, ki so lahko enako prepričljive kot trenutne. Prav tako nas sooča z vprašanjem, ali v tem naprednem digitalnem svetu ohranjamo svobodo ali se ta postopoma zmanjšuje. Razumevanje svobode je neprestano na preizkušnji, saj nove tehnologije prinašajo nove izzive in priložnosti. To lahko posebej izpostavimo za tehnologijo globokih ponaredkov («deepfake«). Ti se v osnovi povezujejo z obvladovanjem resnice, informacij, človeka ali česarkoli drugega. Za začetek obvladovanja posnetkov velja ameriška propaganda špansko-državljanske vojne, ko so leta 1898 z igranimi posnetki uprizarjali ameriško premoč nad španskimi vojaki. Gre za prvi medijski poskus video manipulacije resnice. Slabih sto let pozneje se je tehnologija globokih ponaredkov v začetku 90. let 20. stoletja pričela razvijati, poganjala pa jo je želja po spremembi originalnih posnetkov obrazov, gest in glasov v ponarejene.

Prelomno leto

Leta 2014 je Ian Goodfellow razvil poseben model, ki je postavil temelje za ustvarjanje globokih ponaredkov. V svojem modelu je izhajal iz načel strojnega učenja in umetne inteligence ter razvil posebno generativno mrežo, ki deluje na principu nasprotnega učenja. Pri tem modelu sta vključeni dve vzporedno delujoči mreži, kjer generativna mreža poskuša ustvariti ponaredke, nasprotna mreža pa si prizadeva ugotoviti razliko med resničnimi in ponarejenimi podatki. Obe mreži se neprestano izboljšujeta v svojih nalogah, saj »tekmujeta« med seboj. Generativna mreža se izboljšuje pri ustvarjanju prepričljivih ponaredkov, nasprotna mreža pa pri prepoznavanju teh ponaredkov. Ko mreži dosežeta zadostno stopnjo izurjenosti, se lahko začnejo ustvarjati globoki ponaredki, ki so tako dobro izdelani, da jih lahko zlahka zamenjamo za original. Tehnologija globokih ponaredkov se torej prek tega sistema nauči ustvarjanja navidezno resničnih video in avdio posnetkov določene osebe.

Več v današnjem (sobotnem) Primorskem dnevniku v Poletnem miksu, v katerem objavljamo tudi otroško stran Za bistre glavice, novelo Borisa Pangerca Uršča Grnatca, roman Dušana Jelinčiča Bela dama Devinska in strip Plečnik.