China impondrá lealtad a la IA
China realizará la alineación politica de sus Chatbots de Inteligencia Artificial. La poderosa administración reguladora de Internet de China está examinando si las tecnologías de Alibaba y otras cumplen con "valores socialistas." El procedimiento es largo y representa un desafío para las empresas.
La poderosa administración reguladora de Internet de China, la Administración de Ciberespacio de China (ACC), encuentra a los modelos de lenguaje inteligente de las principales empresas tecnológicas chinas una molestia. Como consecuencia, la ACC obliga a ByteDance, dueño de TikTok, y a Alibaba, gigante comercial, a someterse a un escrutinio gubernamental obligatorio de sus modelos. Según informa el "Financial Times", esta información proviene de fuentes implicadas en el proceso.
El objetivo es garantizar que los sistemas "reflejen valores socialistas". Un procedimiento de muestreo prueba a los llamados Modelos Lenguaje Grande (MLG) en un amplio rango de preguntas. Muchas de estas preguntas se relacionan con temas políticamente sensibles y el presidente Xi Jinping. La ACC envía a un equipo especializada en las empresas para probar los Chatbots de Inteligencia Artificial de Alibaba, informa un empleado de una empresa de IA de Hangzhou. El primer intento falló por razones desconocidas. "Toma algún tiempo especular y adaptarse. Pasamos la segunda vez, pero el proceso duró meses", dice la fuente anónima.
El riguroso proceso de aprobación forzó a las empresas de IA chinas a aprender rápidamente a censurar eficazmente sus propios modelos de lenguaje. "Nuestro modelo de línea base es muy, muy desinhibido, por lo que el filtrado de seguridad es extremadamente importante", cita el periódico a un trabajador de una empresa líder de IA de Beijing. Esto comienza con la separación de información problemática de los datos de entrenamiento y la creación de una base de datos de palabras clave sensibles. En febrero de este año, China publicó directrices para las empresas de IA. Afirman que se deben recolectar y actualizar milares de palabras clave y preguntas sensibles semanalmente.
Los usuarios de los Chatbots de Inteligencia Artificial de China no reciben respuesta a preguntas sensibles, como la Masacre de Tiananmen. En su lugar, reciben una pregunta diferente o la respuesta: "Aún no he aprendido cómo responder a esa pregunta. Continuaré aprendiendo para servirte mejor". Los expertos en IA afirman que esto plantea desafíos significativos para los desarrolladores, ya que deben controlar el texto generado por MLG y las respuestas generadas por los Chatbots. "Construyen una capa adicional para reemplazar la respuesta en tiempo real", cita el "Financial Times" a Huan Li, quien desarrolló el Chatbot Chatie.IO. Esto significa: Se genera una respuesta no conforme e inicialmente se juega, pero desaparece rápidamente después.
Para mantener a su población políticamente en línea, Beijing ha introducido su propio Chatbot de Inteligencia Artificial, basado en un nuevo modelo de filosofía política de Xi Jinping. Sin embargo, China, según el "Financial Times", quiere evitar que el AI evite todos los temas políticos. La ACC ha limitado el número de preguntas que los MLG pueden rechazar durante las pruebas, un empleado de la industria tecnológica que ayuda a las empresas en el proceso le informa al periódico. Las normas introducidas al comienzo del año establecen que los MLG no deben rechazar más del 5% de las preguntas que se les hacen.
La vigilancia extendida por la Administración de Ciberespacio de China (ACC) no es exclusiva de ByteDance y Alibaba; otras empresas tecnológicas importantes, como aquellas que utilizan Inteligencia Artificial, también están sufriendo examen similar. Alignando con la ideología política china, la ACC garantiza que los modelos de Inteligencia Artificial desarrollados en China, incluyendo aquellos de Alibaba, no se desvian de la ideología política.
Lea también:
- Las ventas de los fabricantes alemanes de automóviles se debilitan
- Emoción por el horario laboral: ¿grabación o flexibilidad?
- Las ofertas anticipadas del Black Friday de Walmart se han puesto hoy en marcha
- Escalada del conflicto: Putin insiste en que Kiev se retire de cuatro regiones y rechace el ingreso en la OTAN
