Door AI gemaakte TikTok-influencers slecht voor tieners: ouders samen

Een non-profitorganisatie die pleit voor veilig internet voor kinderen, ParentsTogether, heeft een open brief geschreven waarin ze klaagt dat door AI gegenereerde TikTok-beïnvloeders een neplevensstijl promoten bij kinderen en tieners, waardoor ze depressief worden.

De organisatie verzamelde de handtekeningen van 12,000 ouders op de open brief aan TikTok-CEO Shou Zi Chew, waarin ze hun zorgen en verzoeken uitten aan het sociale-mediaplatform om het label ‘nep-AI-gegenereerde influencers’ te bestempelen.

AI-influencers zijn niet van elkaar te onderscheiden

Dit komt omdat ouders talloze nep-AI-beïnvloeders ontdekken die worden gepromoveerd naar kinder- en tieneraccounts. De nieuwe TikTok trend bevat nep-AI-beïnvloeders op video's die niet zijn gelabeld, waardoor kinderen en tieners mogelijk worden misleid door te geloven dat ze echt zijn. Ouders Samen waarschuwde ouders voor het gevaar: dat door AI gegenereerde beïnvloeders ‘niet te onderscheiden zijn van echte mensen’.

“TikTok vertrouwt erop dat makers hun inhoud bestempelen als door AI gegenereerd, maar er is geen overeengekomen label, waarbij bedrijven termen als ‘virtueel meisje’ en ‘virtuele beïnvloeder’ gebruiken om te verdoezelen”, aldus de lobbygroep.

"Veel video's van door AI gegenereerde accounts zijn niet gelabeld op de video's zelf en vereisen dat jonge gebruikers naar het profiel van de influencer navigeren om vast te stellen dat de influencer geen echte persoon is", aldus de organisatie.

Lees ook: Europese Commissie lanceert one-stop-shop voor AI-supercomputers voor startups

Het najagen van onrealistische schoonheidsnormen

Volgens hun bevindingen beweren sommige van deze nep-influencers specifieke diëten, huidverzorgingsroutines en fitnessplannen te volgen. Dit heeft valse hoop gecreëerd onder kinderen en tieners die, volgens de ouders, nu onrealistische schoonheidsnormen najagen.

Hoewel deze door AI gegenereerde beïnvloeders van elk ras of elke leeftijdsgroep kunnen zijn, hebben onderzoekers naar verluidt opgemerkt dat TikTok vaak reclame maakt voor mensen die tot de hogere middenklasse, dun en blank lijken.

“Sociale media kunnen ontevredenheid over het lichaam, ongeordend eetgedrag, sociale vergelijking en een laag zelfbeeld in stand houden, vooral onder adolescente meisjes.” waarschuwde Amerikaanse chirurg-generaal Dr. Vivek Murthy.

Dit is niet de eerste keer dat het sociale-mediaplatform verwikkeld raakt in controverse over kinderen en tieners. Vorig jaar kondigde procureur-generaal Sean Reyes van Utah een rechtszaak tegen TikTok omdat het naar verluidt verslavend is voor tieners en kinderen, waardoor geestelijke gezondheidsproblemen voor hen ontstaan.

Waarom kinderen en tieners risico lopen

Hoewel het gebruik van door AI gegenereerde influencers een relatief nieuw fenomeen is, winnen ze snel aan populariteit, waarbij bedrijven ze als model gebruiken.

Als ParentsTogether is deze trend zorgelijk als je rekening houdt met de impact en invloed die deze hebben op kinderen en tieners. De organisatie voerde in 2021 een onderzoek uit waaruit bleek dat functies van sociale media, zoals schoonheidsfilters, bijdroegen aan de negatieve reacties van tieners. lichaamsbeeld, depressie en angst.

Het onderzoek toonde ook aan dat kinderen en tieners die zo’n 18 uur of meer op sociale media doorbrengen, waarschijnlijk meer een hekel hebben aan hun uiterlijk dan degenen die minder dan acht uur per week doorbrengen.

Ook bleek dat 52% van de tieners aangaf schoonheidsfilters te gebruiken om hun uiterlijk te veranderen, terwijl 60% zei dat “het gebruik van schoonheidsfilters hen een slechter gevoel geeft over hoe ze er in het echt uitzien.”

Als onderdeel van het onderzoek kregen tieners tien afbeeldingen van beroemdheden te zien in een ‘echte of nep’-quiz, en 10% had een onvoldoende score, waaruit bleek dat tieners schoonheidsfilters niet gemakkelijk konden identificeren wanneer ze op sociale media werden gebruikt.

Deze resultaten hebben ook de zorgen van ParentsTogether versterkt. Campagnedirecteur bij ParentsTogether, Shelby Knox, zei dat zelfs mediabewuste volwassenen de werkelijkheid niet gemakkelijk kunnen onderscheiden van door AI gegenereerde inhoud, die voor kinderen zelfs nog moeilijker zou moeten zijn.

“De groeiende trend van door AI gegenereerde influencers die zich gedragen als echte mensen op TikTok is ongelooflijk gevaarlijk voor kinderen en tieners”, aldus Knox.

“Deze computeralgoritmen presenteren mensen modellen van onmogelijke schoonheids-, dieet- en bewegingsnormen, die eetstoornissen kunnen veroorzaken en tot lichaamsdysmorfie kunnen leiden. TikTok heeft een verantwoordelijkheid tegenover zijn jonge gebruikers om AI en virtuele beïnvloeders duidelijk te labelen in al hun video's”, aldus Knox.

Een noodzakelijk kwaad

Hoewel de blootstelling aan sociale media en AI-beïnvloeders problemen heeft veroorzaakt voor kinderen en tieners, denken experts ook dat sociale media een noodzakelijk kwaad is.

In een eerder artikel van Zij weet het, Dr. Ariana Hoet, een uitvoerende klinische directeur van Op onze mouwen, zei dat sociale media nuttig kunnen zijn als ze correct worden gebruikt en kinderen en tieners in staat stellen verbinding te maken. Het wordt zorgelijk wanneer sociale media de interacties in het echte leven of buitenschoolse activiteiten waar ze vroeger van genoten, vervangen.

'Ze hebben hun activiteiten gedaan. Laat ze tijd besteden aan het spelen van hun videogame of scrollen door TikTok. Het zijn die kinderen die die andere activiteiten niet doen waar ik me zorgen over maak”, zei ze.

De American Psychological Association heeft echter in mei 2023 nieuwe richtlijnen aanbevolen om kinderen te beschermen tegen schadelijke inhoud en de negatieve gevolgen van sociale media voor hun gezondheid. Afgelopen jaar, meta werd geslagen met een proces beschuldigt platforms als Facebook, Instagram en WhatsApp ervan opzettelijk verslavend te zijn voor kinderen en tieners, wat een bedreiging vormt voor hun geestelijke gezondheid.

De rechtszaak beweert dat kinderen en tieners door het gebruik van deze platforms in depressies, angstgevoelens en slapeloosheid zijn beland.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/ai-made-tiktok-influencers-are-bad-for-kids-and-teens-parentstogether/