Spam generovaný umělou inteligencí se stává obrovským problémem pro sociální sítě. Stále propracovanější AI modely dnes dokážou napodobit lidskou komunikaci a vytvářet realistické obrázky i videoklipy, což zamlžuje hranice online diskuze a ztěžuje rozpoznání, co je skutečné a co ne.
Otázkou je, kterou platformu zasahuje AI spam nejvíce. Podle nedávné zprávy jde o LinkedIn, kde až 41 % všech delších příspěvků nese známky toho, že vznikly pomocí AI nástrojů.
Data pocházejí od společnosti Pangram, která vyvinula rozšíření prohlížeče určené k odhalování textů psaných umělou inteligencí. Žádný nástroj na detekci AI není stoprocentně přesný, takže skutečný rozsah problému lze změřit jen obtížně. Podle měření Pangramu, které vychází z průměru napříč platformami, však právě LinkedIn hostí nejvíce obsahu vytvořeného umělou inteligencí. Za ním následuje síť X, kde přibližně třetina delších příspěvků vypadá, že je psaná AI.
Každá platforma řeší svou vlastní vlnu AI
S AI spamem se potýkají všechny sítě. Pinterest se snažil reagovat na obavy z návalu příspěvků generovaných umělou inteligencí, kterými podle části uživatelů feed doslova přetéká. Jako jediná platforma zatím zavedl jakýsi vypínač AI, který uživatelům dává možnost omezit množství takového obsahu ve svém feedu. Reddit zase nedávno sdílel poznatky o svém boji proti rostoucímu počtu komentářů a aktivit vytvářených umělou inteligencí.
Své problémy přiznává i síť X. V březnu její šéf produktu Nikita Bier oznámil změnu pobídek pro monetizaci tvůrců, která měla reagovat na prudký nárůst deepfaků generovaných AI v souvislosti s válkou v Íránu. Bier i majitel platformy Elon Musk opakovaně mluvili o rostoucím vlivu AI botů na sociální aplikace obecně. Musk už v březnu 2023 v příspěvku na X napsal, že vývoj umělé inteligence prakticky znemožnil udržet armády botů mimo sociální sítě, protože je „triviální spustit 100 tisíc lidem podobných botů za méně než cent na účet.“
Muskovou odpovědí bylo zpoplatnit přístup všem uživatelům s předpokladem, že i drobný poplatek postačí k omezení hromadného vytváření botů. Jenže o placené X neprojevil zájem dostatečný počet lidí. Placené varianty sociálních sítí ostatně u publika nikdy nezarezonovaly. LinkedIn mezitím sáhl k jiným opatřením, například k penalizaci dosahu, když systém odhalí AI spam.
AI je paradoxně protikladem k podstatě sociálních sítí
Většina platforem je přitom sama silně investována do vlastních AI projektů. Chtějí tedy, aby uživatelé AI nástroje do svého online zážitku zapojovali, nikoli je vypínali. Meta například vložila do vývoje umělé inteligence stovky miliard dolarů v rámci snahy stát se globálním lídrem v této oblasti. Uživatelé Mety ale z nabízených nástrojů příliš nadšení nejsou. Na Facebooku i Instagramu je systém pravidelně vybízí, aby využili Meta AI k dotazům, generování vlastních obrázků nebo tvorbě příspěvků.
Když šéf Instagramu Adam Mosseri nedávno oznámil integraci nejnovějších nástrojů Muse Image do aplikace, reakce pod jeho příspěvkem byly téměř výhradně negativní. Mezi komentáři se objevily výrazy jako „AI slátanina“, „potřebujeme možnost vypnout obsah generovaný AI“ nebo „tohle doslova nikdo nechce“. Tyto reakce odrážejí sílící odpor vůči AI nástrojům, přinejmenším v oblasti běžné spotřebitelské zábavy.
Odmítavá reakce nepřekvapuje, protože v mnoha ohledech jsou AI nástroje protikladem toho, na čem sociální sítě stojí. Ty vznikly na myšlence propojení, které až dosud znamenalo propojení mezi lidmi. AI dokáže tuto interakci pouze simulovat prostřednictvím uměle vytvořených osobností a odpovědí, zatímco obrázky a videa generovaná umělou inteligencí začínají nahrazovat skutečné zážitky, skutečné umění i reálné životní události.
Vzniká otázka, jaký smysl mají sociální aplikace, pokud nic z toho, co se v nich publikuje, není skutečné a pokud už neslouží k prezentaci osobních zážitků a budování vztahů. Když se většina sdíleného obsahu ukáže jako falešná, nahlodává to důvěru v celou síť a oslabuje klíčovou hodnotu sociálních médií natolik, až vymizí. Sociální síť se pak stává pouhou zábavou, nekonečným proudem videí od lidí, které nikdo nezná, a nahrazuje televizní obrazovky menšími displeji s kratšími pořady.
Tento trend je patrný už dnes. Pokud platí, otevírá se otázka, co vlastně sociální aplikace v éře AI znamená. Jsou dnes sociální sítí i komunikační aplikace? Právě tam se totiž lidé skutečně zapojují a pro mnohé uživatele je to jediné místo, kde online probíhá reálná sociální interakce. To ovšem hodnotu sociálních médií jako média zmenšuje a posouvá je spíš k roli kurátorské zábavní aplikace reagující na zájmy uživatele.
V takovém pojetí obsah generovaný AI zřejmě nezvítězí, protože jeho obrovské množství znamená trvalý problém s kvalitou. Na každé povedené video s postavami z Harryho Pottera v moderním stylu připadají tisíce zapomenutelných výtvorů s nohama na divných místech, přehnanými výrazy tváře a nesedícím dabingem. AI se jistě zlepší, ale existuje důvod, proč většina úspěšných AI videí využívá zavedená a chráněná díla. Původní nápady totiž stále rezonují víc než to, co dokáže vymyslet většina lidí, a paradoxně by tak větší tvůrčí svoboda mohla nakonec vést k menšímu zájmu uživatelů.
Zdroj: socialmediatoday.com
