Fanoušci K-popu jsou známí jako síla, se kterou je třeba počítat na internetu, přičemž někteří fanoušci mají nelítostnou oddanost a vášně, pokud jde o konkrétní umělce. Na sociálních sítích někteří posedlí fanoušci používají generativní umělou inteligenci k vytváření něčeho, co je v podstatě fan-fiction do sebe sama – strašidelná videa a obrázky, jak se líbají, mazlí a získávají různé druhy milenců se svými oblíbenými idoly. Výsledkem je současná, technologiemi poháněná mutace kultury idolů, která posouvá fan art do nových extrémů a mnoho lidí v komunitách fanoušků K-popu je z toho pochopitelně pěkně naštvaných.
Uživatelé na Redditu a různých K-pop fórech vyjádřili rozhořčení nad těmito deepfake fantaziemi a vyzvali ostatní fanoušky, aby nahlásili ty, kteří používají nástroje AI ke generování nekonsensuálních videí svých K-Pop srdcovek. V jedno vlákno Na subredditu K-pop Uncensored uživatel zveřejnil upravené snímky obrazovky z videa vytvořeného umělou inteligencí jiným fanouškem, na němž je vidět, jak je objímá a líbá na tvář Keonho z chlapecké skupiny CORTIS, který je nezletilý. “Někteří fanoušci si mohou myslet, že je to neškodné, ale pokud to tolerujete, otevíráte dveře mnohem horším věcem v budoucnosti,” napsal uživatel Redditu wbu_lizzie do vlákna. “Idolové s tím nesouhlasili, jsou to skuteční lidé, kteří žijí své životy, ne banda wattpadů / ao3 postav.”
„Lidé tento druh vystřihovali a lepili[s] věcí navždy, ale čím realističtější jsou obrázky, tím je to psychicky komplikovanější,“ napsal uživatel Goldie_Prawn v další vlákno na K-pop Uncensored vyvolávání použití AI. „Myslím, že i v tradičním photoshopu potřebná práce a dovednosti poskytují tvůrci určitou úroveň duševního nárazníku, který s AI neexistuje.“
Dr. Sarah Keith, profesorka na MacQuarie University v Austrálii, která provedla rozsáhlý výzkum o fandomu K-popu, říká, že AI deepfake videa pocházejí z dlouhého dědictví obsahu vytvořeného fanoušky, který daleko přesahuje svět K-popu. Fan fikce a umění byly vždy základní složkou fanouškovské kultury, a přestože tyto výtvory často překračují hranice autorských práv, obecně na ně není pohlíženo jako na strašidelné nebo vykořisťovatelské. Ale s příchodem generativních nástrojů umělé inteligence, které dokážou rychle vytvářet realistické obrázky a videa skutečných lidí, vytvořilo Silicon Valley technické řešení pro zákon a společenské normy souhlasu.
“Fanoušci K-popu (stejně jako všichni fanoušci popkultury) jsou již dlouho aktivními producenty fanouškovských materiálů o svých preferovaných idolech. Ty však dosud nebyly ‘přesvědčivé’ jako artefakty, které by mohly zahrnovat idol samotný,” řekl Keith 404 Media. “Je to paralelní záležitost týkající se jak fanoušků, tak nástrojů umělé inteligence. Kvůli těmto dvěma faktorům je nyní pro fanoušky k dispozici zvýšená možnost vytvářet velké objemy obsahu, který nerespektuje osobní integritu idolů a který lze distribuovat online způsoby, které podkopávají pověst idolů (např. sexualizované deepfakes).”
Zatímco mnoho fanoušků mluvilo proti tomuto strašidelnému chování, jiní poukazovali vinu na obchodní model K-popového průmyslu, který podporuje parasociální fandom a zároveň využívá mnoho umělců i fanoušků.
„To je smutný vedlejší efekt odvětví, které po léta [has] tlačili na své fanoušky parasociální vztahy,“ napsal Serious-Wish4868 v vlákno o r/kpopthoughts o sexualizaci idolů poháněných umělou inteligencí. „Když vás idoly a společnosti neustále tlačí, abyste prožívali své romantické a sexuální fantazie s idoly ve všem, co dělají, od příspěvků na sociálních sítích po živé interakce, co [you] očekávat, že se to stane?”
Ale některé ze zábavních agentur, které řídí K-popové umělce – a samotní umělci – vyjádřili, že nejsou se situací spokojeni. Členové nesmírně populárních K-popových skupin mají rádi BTS a Zítra X spolu se vyslovili proti používání generativní umělé inteligence k vytváření digitálních simulakr pomocí podobizen umělců. V březnu OA Entertainment, label založený a zastupující člen Blackpink Jennie, varoval v tiskovém prohlášení že začne podnikat „přísné právní kroky, včetně občanskoprávních a trestních řízení, proti všem činům, které porušují umělcovu pověst, práva, práva na portréty a další práva duševního vlastnictví“. Prohlášení přišlo v reakci na incidenty s obtěžováním a pronásledováním, které se týkaly umělců, a silně naznačovalo problém obsahu generovaného umělou inteligencí, aniž by jej výslovně jmenovalo.
Mnoho z těchto idolových talentovaných společností zároveň přijímá generativní nástroje umělé inteligence jako prostředek ke snižování nákladů v celém odvětví. SM Entertainmentjeden z největších labelů v Koreji, který zastupuje významné skupiny jako Girls Generation a Super Junior, popsal generativní integraci umělé inteligence jako klíčovou součást své obchodní strategie a minulý rok vydal hudební video plně generované umělou inteligencí pro dívčí skupinu Aespa. A loni v prosinci se svět K-popu dočkal uvedení a plně syntetická idolová skupina s názvem GLXE (vyslovuje se „galaxie“), který kombinuje písně generované umělou inteligencí se záhadnými avatary umělé inteligence.
„Zautomatizovali by celý průmysl, kdyby dokázali vydělat peníze,“ Lindsey Knuth, fanoušek K-popu a přidružený redaktor Tangle Newsřekl 404 Media. “Pornografické deepfakes menších idolů je pro mě problém, stejně jako (nedostatečná) odezva průmyslu.”
Kulturní tolerance pro AI generované fanoušky se liší v závislosti na regionu a kontextu. v současné době Jižní Korea zaujímá číslo jedna ve spotřebě obsahu AI slopprotože technický průmysl země tlačí na přijetí a kulturní přijetí technologie. V USA však průzkumy trvale ukazují, že většina mladí lidé mají extrémně negativní názory na nástroje AI a obsah generovaný umělou inteligencí – a stávají se stále více proti AI, protože zaměstnání, školy a instituce na ně tlačí nebo je nutí, aby ji používali.
Keith poznamenává, že zatímco labely a talentové společnosti byly vždy velmi aktivní v ochraně umělců a jejich pověsti, dělají to pouze z hlediska ochrany investice. Na druhou stranu fanoušci mají obecně tendenci být více emocionálně investovaní a pravděpodobně budou bránit idoly jako lidské bytosti, a to jak před strašidelnými fanoušky, tak před samotnými společnostmi.
A stejně jako v případě umělé inteligence a techniky obecněji, nedostatek technických nebo právních záruk proti této technologii mnoho dobře zdokumentované škodí udělal ze sociálního zahanbování jeden z jediných účinných odstrašujících prostředků proti hrubému chování ve světě K-popu.
„Uklidňuje nás, že mnoho fanoušků otevřeně vyzývá k nekonsensuálnímu používání umělé inteligence a deepfakes, protože při absenci technických mantinelů u tohoto druhu obsahu je společenská přijatelnost skutečně to, co je důležité,“ řekl Keith. “Takže ano, je uklidňující, že mnoho aktivních fanoušků online buduje kulturu respektu, kde se podobizny idolů nepoužívají nekonsensuálními způsoby.”