Explicació: Què són els Deepfakes?

Què són els Deepfakes?

Els deepfakes ho sónfalsvídeos creats amb programari digital, aprenentatge automàtic i intercanvi de cares. Els deepfakes ho sónvídeos artificials creats per ordinador en què es combinen imatges per crear noves imatges que representen esdeveniments, declaracions o accions que mai van passar.Els resultats poden ser força convincents. Les falsificacions profundes es diferencien d'altres formes d'informació falsa perquè són molt difícils d'identificar com a falses.

c matriu de cadenes del programa

Com funciona?

El concepte bàsic darrere de la tecnologia és el reconeixement facial, Els usuaris de Snapchat estaran familiaritzats amb les funcions d'intercanvi de cares o de filtres que apliquen transformacions o augmenten els trets facials. Els Deep Fakes són similars però molt més realistes. Els vídeos falsos es poden crear mitjançant una tècnica d'aprenentatge automàtic anomenada xarxa adversa generativa o GAN. Per exemple, un GAN pot mirar milers de fotos de Beyonce i produir una nova imatge que s'aproximi a aquestes fotos sense ser una còpia exacta de cap de les fotos. GAN es pot utilitzar per generar àudio nou a partir d'àudio existent, o text nou a partir de text existent: és una tecnologia multi-ús. La tecnologia utilitzada per crear Deep Fakes està programada per mapejar cares segons punts de referència. Aquestes són característiques com les cantonades dels ulls i la boca, les fosses nasals i el contorn de la mandíbula.

Quan veure ja no és creure

Tot i que la tecnologia utilitzada per crear falsificacions profundes és una tecnologia relativament nova, avança ràpidament i cada cop és més difícil comprovar si un vídeo és real o no. Els desenvolupaments en aquest tipus de tecnologies tenen implicacions socials, morals i polítiques evidents. Ja hi ha problemes al voltant de les fonts de notícies i la credibilitat de les històries en línia, les falsificacions profundes tenen el potencial d'agreujar el problema de la informació falsa en línia o alterar i soscavar la credibilitat i la confiança en les notícies i la informació en general.

El perill potencial real de la informació falsa i la tecnologia deepfake és crear desconfiança o apatia en la gent pel que fa al que veiem o escoltem en línia. Si tot pogués ser fals, vol dir que res ja no és real? Durant el temps que hem tingut fotografies, vídeos i àudio, han ajudat a conèixer el nostre passat i han donat forma a la nostra manera de veure i saber les coses. Algunes persones ja qüestionen els fets al voltant d'esdeveniments que indiscutiblement van passar, com l'Holocaust, el desembarcament de la lluna i l'11 de setembre, malgrat la prova de vídeo. Si els deepfakes fan creure que la gent no pot confiar en el vídeo, els problemes de la informació falsa i les teories de la conspiració podrien empitjorar.

L'analista de xarxes socials Carl Miller i Nina Schick discuteixen l'auge de Deepfakes i el que ella creu que és un 'infocalipse' imminent.

Els vídeos falsos de Ted Talk de persones reals i com detectar-los també són una bona visió general de la tecnologia deepfake.

Les notícies falses poden portar a records falsos

Una de les preocupacions més comunes i els perills potencials de les falsificacions profundes i la informació falsa en general és l'impacte que pot tenir en els processos democràtics i les eleccions.

Una enquesta recent de la UCC va confirmar que la gent recorda notícies falses més que notícies reals. Els resultats de l'enquesta van indicar que els votants poden formar records falsos després de veure notícies fabricades, especialment si aquestes històries s'alineen amb les seves creences polítiques, segons un nou estudi. Els investigadors suggereixen que les troballes indiquen com es poden influir els votants en els propers concursos polítics, com la carrera presidencial dels Estats Units del 2020.

L'autor de l'informe va afegir la doctora Gillian Murphy; Això demostra la facilitat amb què podem plantar aquests records totalment fabricats, malgrat aquesta sospita dels votants i fins i tot malgrat l'advertència explícita que podrien haver-los mostrat notícies falses.

Llegeix més sobre això aquí .

Com detectar deepfakes

Com tot tipus d'informació que trobem en línia, el més important que podem fer a l'hora de decidir si els vídeos o les imatges en línia són autèntics i reals és utilitzar el pensament crític.

Hem d'utilitzar el pensament crític i fer-nos preguntes clau com ara:

• Qui i per què algú comparteix aquest vídeo?
• Qui o quina és la font original?
• Quan i on es va fer el vídeo?
• La persona del vídeo està dient alguna cosa que mai esperaries que digués?
• El vídeo avança l'agenda d'una altra persona? Qui es beneficia d'aquest vídeo?

Verificació de la informació en línia

Amb tant accés a la informació, els avenços tecnològics i la velocitat amb què les notícies i la informació es difonen en línia, cada cop és més difícil verificar la informació en línia. Les habilitats de pensament crític són necessàries quan es tracta de verificar contingut en línia.

Tant si esteu mirant un vídeo, un meme fotogràfic o un article, aquí teniu algunes consideracions útils Primer esborrany per verificar la informació en línia:

Procedència: Esteu mirant el compte, l'article o el contingut original?

Font: Qui ha creat el compte o l'article, o ha capturat el contingut original?

cadenes de java

Data: Quan es va crear?

Ubicació: On es va establir el compte, el lloc web o el contingut capturat?

Motivació: Per què s'ha creat el compte, el lloc web o el contingut capturat?

Enllaços útils:

Guia essencial del primer esborrany per verificar la informació en línia