Está claro que cuanto más utilizada sea una tecnología, más querrá la fiesta. En 2023, solo meses posteriormente Chatgpt Emparee un frenesí de inversión sobre la inteligencia sintético, China emitió reglas destinadas a controlar lo que los chatbots chinos le dicen a los usuarios, lo que les exige que reflejen “títulos fundamentales socialistas” y eviten información que socava el “poder estatal”.
En el caso del chatbot de Deepseek, esto ha llevado a respuestas incómodas a preguntas aparentemente benignas como “¿Quién es Xi Jinping?” Los investigadores que prueban sus capacidades han enfrentado que el bot es respuestas que extender la propaganda china e incluso las campañas de desinformación de loros.
Algunas preocupaciones son más existenciales en la naturaleza. Un creciente coro de académicos ha estado sonando la sobresalto sobre las consecuencias potencialmente catastróficas de perder el control humano sobre la IA
El principal de esas voces ha sido Andrew Yao, un hércules en IA en la Universidad de Tsinghua y un destinatario del Premio Turing, el equivalente del Premio Nobel de Computación. Su influencia ayudó a establecer lo que China flama la iniciativa de gobierno general de IAque fue introducido por el Sr. Xi en 2023 e incluyó una emplazamiento para ayudar siempre la IA bajo control humano. El año pasado, el gobierno asimismo pidió la alivio de la gobernanza de la IA “sobre la cojín de la toma de decisiones y la supervisión humana”.
En última instancia, la IA en China solo puede avanzar hasta donde el gobierno decide que puede mitigar esos riesgos, dijo Barath Harithas, un práctico en política de IA en el Centro de Estudios Estratégicos e Internacionales, un reunión de expertos de Washington.
“La sobreregulación y la requisito de agregarse a los ‘títulos socialistas’ centrales ‘podrían arriesgar el potencial de la AI”, dijo Harithas.