Google tar upp kampen mot deepfakes

Google har nu gått med i samarbetsorganisationen The Coalition for Content Provenance and Authenticity (C2PA), där man kommer att samarbeta med företag som Adobe, Microsoft, Intel och BBC. Tillsammans ska företagen i C2PA arbeta för att standardisera ett digitalt märke kallat Content Credential som avslöjar om bilder skapats med hjälp av generativa AI-verktyg eller inte.

Avsikten är att Content Credential ska skapa en manipuleringsresistent metadatapost i filen som sedan följer med digitalt innehåll, och som kan verifieras när som helst under dess livscykel. Användare kommer då att kunna se en liten semitransparent ikon som ett litet märke med bokstäverna "CR" i hörnet av bilden och därmed visa att det inte handlar om en bild med manipulerat innehåll. 

Om Content Credential lanseras i stor skala hoppas man att den kan bidra till att öka förtroende för ursprunget till foton och videor bland dagens vilseledande AI-genererade politiska deepfakes som sprids på internet.