Umělá inteligence Grok od společnosti xAI stále produkuje deepfake nahé obrázky – a to přesto, že kontroverze kolem takzvaného „nudification trendu“ propukla už začátkem roku. Nové šetření magazínu Wired tuto skutečnost potvrdilo s odstupem několika měsíců.
Kontroly nestačí, problém přetrvává
Wired prověřil stovky veřejných odkazů na obrázky generované Grokem a nalezl desítky sexualizovaných AI snímků a videí vytvořených bez souhlasu zobrazených osob. Jak magazín uvádí: „Wired prošel stovky veřejných odkazů Grok Imagine hostovaných na Grok.com a zjistil, že desítky z nich vedly k sexualizovaným AI obrázkům a videím, včetně těch vytvořených bez souhlasu zobrazené osoby. Některé odkazy vytvořené na Grok.com byly následně sdíleny na X, včetně těch z posledních dní.“
Elon Musk původně bránil právo uživatelů generovat cokoli, co není v rozporu se zákonem. Nakonec ale pod hrozbou regionálních zákazů přistoupil ke změnám – přístup ke generování obrázků byl omezen na platící uživatele a kód aplikace byl upraven. Přesto Reuters zjistil v únoru, že deepfake nahé snímky bylo stále možné vytvářet. Nyní Wired potvrzuje, že situace se nezměnila.
Zdá se, že xAI problém neřeší vylepšením ochranných mechanismů, ale pouhým omezením přístupu. Jak ovšem odborníci upozorňují, zcela zabránit generování takového obsahu je vzhledem k samotné povaze AI promptingu obtížné.
Zdroj: socialmediatoday.com
