Diskusný portál zakročil proti autorom falošnej pornografie, jej technológia však v budúcnosti môže mať veľmi vážne dôsledky na demokraciu.
Na začiatku februára známe diskusné fórum Reddit zakročilo proti užívateľom, ktorí vyrábali takzvané deepfakes. Väčšinou ide o pornografické videá alebo obrázky s digitálne vymenenými tvárami. Reddit sa tým pridal k ďalším portálom ako Twitter alebo Gfycat, ktoré tiež zasiahli proti šíreniu takejto pornografie. Fórum sa rozhodlo riešiť situáciu jednoduchými zablokovaním autorov, kým Gfycat sa rozhodol pre sofistikovanejšie riešenie. Spočíva vo využívaní umelej inteligencie (nástroje Project Angora a Project Maru), ktorá rozpoznáva “fejky”.
Deepfakes dostali názov podľa jedného z užívateľov Redditu, ktorý sa týmto aktivitám začal venovať približne v decembri 2017 a pozornosť si získal vďaka portálu Motherboard. Deepfake materiál zväčša vzniká pomocou relatívne kvalitného open-source softvéru, vďaka ktorému je často veľmi ťažké rozoznať pravé video od falošného.
Časť expertov sa obáva, že v budúcnosti sa táto technológia zdokonalí až tak, že sa nebude dať rozoznať “fejk” vytvorený umelou inteligenciou od skutočných záberov. Odhliadnuc od morálneho aspektu vytvárania falošných videí hrozí riziko využitia takýchto materiálov na rôzne dezinformačné kampane. Aviv Ovadya z Centra pre zodpovednosť sociálnych médií na Michiganskej univerzite sa obáva, že nástroje podporované technológiami umelej inteligencie môžu byť zneužité na imitáciu svetových lídrov a vedenie informačných vojen.
Henry J. Farrell, profesor politických vied a medzinárodných vzťahov na Univerzite Georgea Washingtona a spisovateľ Rick Perlstein upozorňujú, že demokracia môže byť pomocou tejto technológie “haknutá” a “fake news” môžu byť ešte nebezpečnejšie než dnes. Ako príklad uvádzajú technológiu Face2Face, ktorá spolu s použitím hlasového modulátora môže mať veľký vplyv na stabilitu demokracie po celom svete.
Zneužívanie spomínaných technológií by podľa Ovadyu mohlo viesť k vzniku takzvanej apatie k realite. Ľudia by pod vplyvom neustáleho prílevu dezinformácií jednoducho stratili záujem o realitu a boli by otupení neistotou z toho, čo je pravé a čo nie. Boj proti dezinformáciam teda môže byť ešte náročnejší ako doteraz.
(RB)