Článek
Článek si také můžete poslechnout v audioverzi.
Malajsie a Indonésie jako první země zablokovaly chatbot s umělou inteligencí Grok, který vyvinula společnost xAI Elona Muska, informuje AP. Podle úřadů byl zneužíván k vytváření sexuálně explicitních a neoprávněných obrázků.
Grok, který je přístupný skrze platformu X, čelí v posledních dnech kritice generování obrázků dětí a žen v bikinách nebo sexuálně explicitních pózách.
Indonéská vláda v sobotu dočasně zablokovala přístup k aplikaci Grok, v neděli pak stejně postupovala Malajsie. Regulační orgány zemí uvedly, že stávající opatření nezabraňují vytváření a šíření falešného pornografického obsahu, zejména toho, který se týká žen a nezletilých osob.
„Vláda považuje neoprávněné sexuální deepfakes za závažné porušení lidských práv, důstojnosti a bezpečnosti občanů v digitálním prostoru,“ uvedla v sobotním prohlášení indonéská ministryně pro komunikaci a digitální záležitosti Meutya Hafid.
Podle ředitele pro dohled nad digitálním prostorem, Alexandera Sabara, Grok postrádá účinná bezpečnostní opatření, která by zabránila uživatelům vytvářet a šířit pornografický obsah založený na skutečných fotografiích indonéských obyvatel, jak uvedl ve svém prohlášení. Takové praktiky mohou podle něj porušovat právo na soukromí a právo na ochranu osobnosti, pokud jsou fotografie manipulovány nebo sdíleny bez souhlasu, což může způsobit psychickou, sociální a reputační újmu.
V Kuala Lumpur nařídila Malajská komise pro komunikaci a multimédia v neděli dočasné omezení používání aplikace Grok poté, co došlo k „opakovanému zneužití“ nástroje k vytváření obscénních, sexuálně explicitních a neoprávněně manipulovaných obrázků, včetně obsahu zahrnujícího ženy a nezletilé osoby.
„Omezení je uvaleno jako preventivní a přiměřené opatření, zatímco probíhají právní a regulační procesy,“ uvedl regulační orgán a dodal, že přístup zůstane zablokován, dokud nebudou zavedena účinná bezpečnostní opatření.
Kontroverzní funkce platformy Grok je předmětem pozornosti také například v Evropské unii, Velké Británii, Indii a Francii. Síť X v reakci na rozsáhlou kritiku minulý týden vypnula generování obrázků neplatícím uživatelům. To ale podle kritiků, včetně EU, problém neřeší a nestačí. Mluvčí Evropské komise a britské vlády krok označili jako nedostatečný.
