Instagram brzy začne testovat nové nástroje určené k boji proti tzv. sextortion, což je vydírání pomocí intimních fotografií zasílaných elektronicky. Jedním z těchto nástrojů bude automatické rozmazání nahých obrázků v soukromých zprávách, které bude standardně aktivní pro uživatele mladší 18 let. Dále bude platforma testovat vyskakovací okna, která budou nabízet pomoc potenciálním obětem, jak informoval server BBC News.
Vlády po celém světě upozorňují na rostoucí nebezpečí sextortion, kdy jsou obětem zaslány nahé fotografie a jsou následně vyzvány k poslání vlastních intimních snímků. Vyděrači pak hrozí zveřejněním těchto fotografií, pokud oběti nepodlehnou jejich požadavkům.
Nedávno se dva muži z Nigérie přiznali k sexuálnímu vydírání dospívajících chlapců a mladých mužů v USA, což vedlo k sebevraždě jedné z obětí. Podobný případ byl zaznamenán i v Austrálii.
Instagram uvádí, že většinu takových případů na své platformě způsobují sofistikované zločinecké organizace s cílem vydělat peníze. K ochraně před nežádoucí nahotou využívá Instagram umělou inteligenci, která detekuje nahé snímky v soukromých zprávách a umožňuje uživatelům rozhodnout, zda si je přejí zobrazit.
Tento systém je designován tak, aby chránil uživatele nejen před nechtěným zobrazením nahoty, ale i před podvody, kdy mohou být lidé vmanipulováni k odesílání vlastních intimních snímků. Instagram zdůrazňuje, že pro dospělé je tento systém dobrovolný a nehlásí automaticky nahé obrázky společnosti, ale uživatelé jsou upozorněni na možnost blokování a nahlašování účtů.
Když systém detekuje odesílání nahých snímků, informuje uživatele o bezpečnostních opatřeních a upozorňuje, že příjemci si mohou fotografie uložit nebo přeposílat. Navíc Instagram testuje opatření, která by měla identifikovat známky potenciálního sexuálního vydírání a ztížit takto jednajícím uživatelům interakci s ostatními.
Pro osoby, které mohly komunikovat s účtem odstraněným kvůli sexuálnímu vydírání, Instagram testuje vyskakovací zprávy, směřující je k odbornému poradenství a podpoře. Platforma dále plánuje sdílet více informací s jinými technologickými firmami skrze iniciativu nazvanou Lantern, aby posílila boj proti sexuálnímu vydírání a zneužívání dětí. Na rozdíl od Instagramu, platformy Facebook a WhatsApp od společnosti Meta nebudou mít funkci rozmazání nahoty, podle zprávy agentury AP.
TZ/ČTK