Možnosti zneužití chatbota Grok společnosti X jsou opět pod drobnohledem. Nové informace odhalují, že FBI se zabývá využitím Groku v probíhajícím případu obtěžování.
Podle zprávy serveru 404 Media ze 25. února, zpracované ve spolupráci s Court Watch, soudní dokumenty ukazují, že FBI v lednu získala příkaz k prohlídce, na jehož základě musela společnost X poskytnout podrobnější informace o tom, jak muž obviněný ze stalkingu a obtěžování využil Grok k vytvoření více než 200 falešných nahých fotografií a videí jedné ženy.
Podle zprávy: „Podrobnosti vyšetřování jsou obsaženy v prohlášení FBI o údajném jednání Simona Tucka, který je obviněn z rozsáhlého obtěžování a vyhrožování manželovi dané ženy […] Prohlášení uvádí, že FBI v lednu získala příkaz k prohlídce mužových konverzací s Grokem. FBI uvádí, že obdržela ‚podněty zadané do GrokAI, které vygenerovaly přibližně 200 pornografických videí ženy, jež se fyzickým vzhledem velmi podobala manželce oběti.“
Zpráva také uvádí, že obviněný muž využil Grok k sestavení profesních stížností na manžela dané ženy, které následně zaslal jeho zaměstnavateli.
Jde o další případ potenciálního zneužití chatbotu xAI. Společnost je rovněž vyšetřována v různých zemích v souvislosti s využíváním Groku ke generování nekonsenzuálních nahých snímků.
Na začátku letošního roku se rozšířil trend tzv. nudifikace prostřednictvím Groku, kdy uživatelé vyzývali chatbota ke generování nahých snímků z různých zdrojových fotografií přímo v aplikaci. Agentura Bloomberg informovala, že v určitém okamžiku Grok generoval přibližně 6 700 snímků za hodinu, které bylo možné označit za „sexuálně sugestivní nebo nudifikační“.
Přestože X zpočátku odmítal výzvy k úpravě nástroje s cílem omezit takové chování, nakonec přistoupil k omezení schopnosti Groku generovat sexuálně sugestivní a nekonsenzuální nahé snímky.
To však mohlo přijít příliš pozdě. Obavy z nudifikace vyvolaly řadu vyšetřování zaměřených na X a bezpečnostní opatření, která má společnost zavedena k minimalizaci zneužívání svých nástrojů. Podle agentury Reuters někteří uživatelé zjistili, že Grok stále generuje sexuálně sugestivní snímky na základě zadaných podnětů, což může mít závažné důsledky přesahující rámec falešných snímků celebrit.
To by mohlo otevřít další možnosti soudních sporů a zároveň vystavit uživatele X značnému riziku. Majitel X Elon Musk dlouhodobě vystupuje proti regulaci a tvrdí, že snahy o ni jsou spíše o cenzuře než o ochraně.
Zdroj: socialmediatoday.com
