Voor- en nadelen van AI en deepfake

De laatste tijd is er een opmerkelijke stijging te zien in het aantal gevallen waarin deepfake-technologie en CG worden gebruikt om de kwaliteit van producties te verbeteren.

De melkreclame waarin Park Eun-bin haar jongere zelf ontmoette, trok veel aandacht vanwege de opmerkelijke gelijkenis tussen de actrice en haar jongere zelf.

Het gebruik van deepfake-technologie aangedreven door AI deep learning in een commercial met Park Eun-bin en drie kindactrices heeft tot discussies onder internetgebruikers geleid.

Het doel van Park Eun-bins ontmoeting met haar jongere zelf was om 87 jaar geschiedenis onder de aandacht te brengen. Dit leidde tot een stortvloed aan reacties van internetgebruikers, waarbij velen hun verbazing uitten over de technologie die werd gebruikt om het uiterlijk van haar kindertijd door middel van AI na te bootsen. Anderen merkten de opvallende gelijkenis tussen de twee op en vergeleken het met een kijkje in haar groeitraject.

Deepfake-technologie wordt actief gebruikt in advertenties, werken en nieuws. Het omvat het gebruik van kunstmatige intelligentie om gelaatstrekken of specifieke lichaamsdelen te synthetiseren.

Deze term is een combinatie van ‘deep learning’ en ‘nep’ en beschrijft een technologie die deep learning gebruikt om autonoom te leren van externe gegevens en gezichtskenmerken of specifieke lichaamsdelen van echte individuen te genereren.

Dankzij de voortschrijdende technologie is het mogelijk geworden om de gezichten van verschillende acteurs te combineren om geheel nieuwe karakters te creëren.

In de JTBC-show “Welcome to Samdal-ri” werd deepfake-technologie gebruikt om het uiterlijk van wijlen Song Hae uit de show “Korea Sings” uit 1994 na te bootsen. Op dezelfde manier werd in de originele Netflix-serie “A Killer Paradox” ook een acteur gemaakt die een jongere versie van Son Suk-ku speelde met behulp van deepfake-technologie.

AI-covers hebben brede aandacht gekregen in de muziekindustrie. Een snelle online zoekopdracht levert een overvloed aan AI-coversongs op. Hoewel het gebruik van AI-technologie om scènes complexer te maken de algehele ervaring kan verbeteren, zijn er ook terechte zorgen over het gebruik ervan.

Zonder zorgvuldig onderzoek kunnen ‘deepfake-technologie’ en ‘AI-coversongs’ gemakkelijk ten onrechte worden geïdentificeerd als echte mensen, waardoor potentiële gevaren ontstaan. Als gevolg hiervan zijn er steeds meer discussies over de problemen die voortvloeien uit het gebruik van deze technologieën.

Met de toename van deepfake-misdaden zijn ook beroemdheden het doelwit. Onlangs riep Song Eun-yi tijdens een persconferentie op tot onmiddellijke actie tegen online phishing waarbij gebruik wordt gemaakt van de identiteit van beroemdheden.

Ze benadrukte het belang van nationaal bewustzijn en het doorvoeren van systemische veranderingen en verklaarde: “Het is van cruciaal belang dat we het potentieel erkennen dat deepfake-technologie kan worden gebruikt voor gruwelijke misdaden. We moeten preventieve maatregelen nemen en het maatschappelijk bewustzijn vergroten om toekomstige schade te voorkomen en te voorkomen dat we rouwen om de gevolgen van deze misdaden.”

Naarmate technologieën zoals deepfake en AI zich blijven ontwikkelen, groeit de bezorgdheid over hun potentieel om de polarisatie binnen de entertainmentindustrie te verergeren. Beroemdheden uit de A-lijst kunnen profiteren van het gebruik van AI-modellen om hun winst te vergroten, maar dit zou kunnen leiden tot een afname van de werkgelegenheid voor minder bekende actoren.

Vorig jaar erkende de Screen Actors Guild deze zorgen ook. Hoewel deze technologieën talloze voordelen bieden, blijven de zorgen over de mogelijke uitbuiting ervan voor criminele activiteiten en hun impact op de polarisatie bestaan. Er worden pogingen ondernomen om de mogelijke gevolgen van deze invloed in de toekomst te monitoren.