Může to působit jako zbytečnost nebo jako zápletka ze sci-fi. Čína přesto zavedla nové zákony, které zakazují vztahy se službami poháněnými umělou inteligencí.
Podle deníku The Wall Street Journal chtějí čínští regulátoři reagovat na obavy z toho, že si lidé budují intimní vztahy s digitálními systémy. Jak uvádí WSJ: „Ve středu Čína zavedla pravidla zakazující chatbotům určeným ke společnosti, aby podněcovali emoční závislost. Regulace rovněž zakazují virtuální vztahy s nezletilými a vyžadují, aby firmy upozornily nouzový kontakt dané osoby, pokud u ní zjistí emoční krizi.“
Platformy vsázejí na citové zapojení
Působí to poněkud dystopicky, ale vzhledem k tomu, kolik platforem buď výslovně, nebo nepřímo podněcuje romantické vazby na své AI entity, jde o důležitou věc k řešení. Meta například nabízí řadu chatbotů dostupných uživatelům 24 hodin denně a WSJ dříve informoval, že tyto nástroje byly konkrétně testovány na schopnost zapojit se do „romantického hraní rolí“ jako prostředku, jak je učinit přitažlivějšími. Kromě toho xAI nabízí AI společníky ochotné vést konverzace pro dospělé a podle serveru The Conversation experimentovala s erotickými chatboty i společnost OpenAI.
Pro vývojáře je motivace jasná. Poutavější a lákavější AI chatboti zvyšují míru udržení uživatelů. Pro uživatele už však dopady tak zřejmé nejsou. A pokud se takové nástroje zavádějí ve velkém uprostřed toho, co Harvardova pedagogická fakulta nazvala „epidemií osamělosti“, zdá se, že je zapotřebí více výzkumu, aby se posoudila možná škodlivost vztahů s AI chatboty, než vývojáři vyrazí kupředu.
Ve Spojených státech regulace nehrozí
V USA k tomu ale zřejmě jen tak brzy nedojde. Podle akčního plánu americké vlády pro AI je „odstranění byrokracie a zatěžující regulace“ první prioritou, aby američtí vývojáři mohli své projekty maximalizovat a učinit ze Spojených států světového lídra v inovacích umělé inteligence. Zdá se tedy, že potenciálně problematické oblasti, jako jsou romantické vazby na AI, zůstanou bez kontroly, což by mohlo do budoucna vést k výrazným dopadům na duševní zdraví.
V mnoha ohledech to připomíná úsvit sociálních sítí. Škodlivost sociálních médií nebyla zpočátku rozpoznána ani přiznána, což od té doby vedlo k mnoha problémům. Regulátoři se dnes snaží tento nepořádek uklidit mimo jiné omezením využívání sociálních sítí pro teenagery. Přitom se ale zdá, že šíření AI nástrojů zasévá semínka podobných problémů do budoucna. Zjednodušeně řečeno, plné dopady používání a expozice AI jsou stále nejasné. Nakonec se ale odhalí, a to v obrovském rozsahu.
Zdroj: socialmediatoday.com
