Spam på TikTok: AI-værktøjer muliggør en lavkvalitets-industri

Spam på TikTok: AI-værktøjer muliggør en lavkvalitets-industri

TikTok er eksploderet i popularitet de seneste år. Platformen har over 1 milliard brugere på verdensplan. Men med populariteten følger også problemer.

En ny undersøgelse afslører, at der eksisterer et omfattende økosystem af TikTok spammere, der bruger AI-værktøjer til at producere massevis af lavkvalitets-videoer. Formålet er at skabe virale klip, der kan generere annonceindtægter.

Et komplekst netværk

Bag spam-videoerne på TikTok gemmer sig et komplekst netværk af aktører. Tusindvis af almindelige mennesker bruger AI-værktøjer til at producere store mængder klip med minimal indsats. Videoerne genbruger ofte indhold fra andre platforme, såsom Reddit, YouTube og podcasts.

Samtidig findes der en industri af influencere, iværksættere og softwareudviklere, der leverer de værktøjer og tjenester, som spammerne har brug for. De sælger f.eks. skabeloner, stock-videoer, billig videoredigering og adgang til botnets af TikTok-konti.

Alt sammen med det formål at hjælpe spammerne med at opnå viral succes på TikTok.

Musa Mustafa - kongen af TikTok spam

En af hovedpersonerne i dette univers er Musa Mustafa. Han begyndte sin karriere med at redigere videoer for YouTube-stjernen Sneako.

I dag tjener Mustafa angiveligt størstedelen af sine penge på en Discord server ved navn “Media Metas”. Her sælger han forskellige pakker med værktøjer og vejledninger i at producere viral TikTok-spam.

Ifølge tjenesten Whop, der varetager betalingerne, tjener Mustafa over 1 million dollars om året på Discord-serveren.

AI-værktøjer gør det nemt

Mustafa og andre influencere lover, at man kan tjene tusindvis af dollars om måneden på TikTok uden ret meget arbejde. Det kræver blot de rette AI-værktøjer. Med få klik kan man generere spam-videoer med clickbait, stjålne klip fra kendte personer samt AI-genereret speak og grafik.

Men virker det?

Spørgsmålet er, om de utallige almindelige mennesker, der køber adgang til disse værktøjer, rent faktisk formår at tjene de lovede summer.

Det er tvivlsomt. Selvom influencerne viser eksempler på personer, der angiveligt har succes, virker det mere sandsynligt, at det meste af indtjeningen havner hos influencerne selv. De tjener godt på at sælge kurser, discord-adgang og løfter om hurtig rigdom.

Imens risikerer den massive mængde af lavkvalitets-spam at underminere TikTok som platform. Når brugerne oversvømmes af meningsløst indhold, mister de tilliden og lysten til at bruge appen.

TikTok har en stor udfordring foran sig i kampen mod spam og falske løfter om hurtige penge.

Inside the World of TikTok Spammers and the AI Tools That Enable Them
This is where AI generated formats, Minecraft splitscreens, Reddit stories, ‘Would You Rather’ videos, and deep sea story spam come from.