„Sociální řád by mohl zkolabovat“ v éře AI, říkají dvě přední japonské společnosti

Největší japonská telekomunikační společnost a největší noviny v zemi vyzvaly k urychlené legislativě, která by omezila generativní umělou inteligenci, a uvedla, že demokracie a společenský řád by se mohly zhroutit, pokud AI zůstane bez kontroly. Manifest japonských společností, i když poukazoval na potenciální výhody generativní umělé inteligence při zlepšování produktivity, zaujal k technologii obecně skeptický pohled. Bez upřesnění uvedl, že nástroje umělé inteligence již začaly poškozovat lidskou důstojnost, protože tyto nástroje jsou někdy navrženy tak, aby upoutaly pozornost uživatelů bez ohledu na morálku nebo přesnost. Pokud nebude umělá inteligence omezena, „v nejhorším případě by se demokracie a společenský řád mohly zhroutit a vyústit v války,“ uvádí se v manifestu. Uvedla, že Japonsko by mělo okamžitě přijmout opatření v reakci, včetně zákonů na ochranu voleb a národní bezpečnosti před zneužitím generativní umělé inteligence. Probíhá globální tlak na regulaci umělé inteligence, přičemž Evropská unie je v popředí. Nový zákon EU vyzývá tvůrce nejvýkonnějších modelů umělé inteligence, aby je podrobili hodnocení bezpečnosti a inform…  ovali regulační orgány o závažných incidentech. Má také zakázat používání AI pro rozpoznávání emocí ve školách a na pracovištích. Bidenova administrativa také posiluje dohled a loni v říjnu se dovolávala mimořádných federálních pravomocí, aby přinutila velké společnosti AI, aby informovaly vládu při vývoji systémů, které představují vážné riziko pro národní bezpečnost. Spojené státy, Velká Británie a Japonsko zřídily vládní instituce pro bezpečnost umělé inteligence, aby pomohly vypracovat pokyny pro umělou inteligenci. Vlády demokratických zemí se však stále snaží přijít na to, jak regulovat řeč řízenou umělou inteligencí, jako je aktivita na sociálních sítích, s ohledem na ústavní a další ochranu svobody projevu. NTT a Yomiuri uvedli, že jejich manifest byl motivován znepokojením nad veřejným diskursem. Tyto dvě společnosti patří v Japonsku k nejvlivnějším v politice. Vláda stále vlastní asi jednu třetinu NTT, dříve státem kontrolovaného telefonního monopolu. Yomiuri Shimbun, který má ranní náklad kolem šesti milionů výtisků podle průmyslových údajů, jsou nejčtenější japonské noviny. Za zesnulého premiéra Šinzó Abeho a jeho nástupců měla konzervativní redakční linie deníku vliv na to, aby tlačila na vládnoucí Liberálně demokratickou stranu, aby rozšířila vojenské výdaje a prohloubila spojenectví národa s USA. Obě společnosti uvedly, že jejich manažeři zkoumali dopad generativní AI od loňského roku ve studijní skupině vedené výzkumníky Keio University.