ByteDance, la matriz de TikTok, está entrenando un modelo de inteligencia artificial cuyo tamaño podría alcanzar los 10 billones de parámetros, lo que lo convertiría en uno de los sistemas más grandes a nivel global. Este desarrollo multiplica por tres el tamaño del modelo Kimi K3 de Moonshot, hasta ahora el mayor lanzado en China.
El proyecto, en una fase inicial de preentrenamiento que puede durar entre tres y seis meses, busca posicionar a ByteDance a la vanguardia de la IA, en competencia directa con los principales laboratorios estadounidenses. El tamaño final del modelo aún está por definirse en fases posteriores de su desarrollo, según fuentes internas.
Aunque Anthropic no comunica abiertamente las dimensiones de sus sistemas, se estima que Mythos 5, su modelo más avanzado, cuenta con unos 8 billones de parámetros, y Fable 5 con cerca de 5 billones. Sin embargo, la verdadera capacidad de un modelo también depende de la calidad de los datos y los métodos empleados en su entrenamiento, no solo del número de parámetros.
Este movimiento de ByteDance evidencia un esfuerzo considerable por reducir la brecha tecnológica que separa a China de Estados Unidos en inteligencia artificial. En los últimos meses, modelos chinos como Moonshot y los desarrollados por Alibaba han demostrado un rendimiento competitivo, acercándose a los sistemas de Anthropic en varios test de referencia.
La empresa china, que ha mantenido un perfil reservado en cuanto a su avance en IA, destaca por ofrecer modelos de código cerrado, a diferencia de otros competidores locales. Entre sus desarrollos recientes destaca SeeDance, un modelo avanzado para generación de vídeo, y Doubao, su plataforma de IA con 324 millones de usuarios activos al mes, líder en China.
En los últimos tres años, ByteDance ha realizado una inversión agresiva en IA, consolidando centros de datos, ampliando su plantilla de investigadores y fortaleciendo su división de computación en la nube, Volcano Engine, que comercializa soluciones basadas en IA a otras empresas. La compañía también ha mostrado interés por diseñar chips personalizados para inteligencia artificial.
El equipo responsable de estos proyectos, conocido como Seed y liderado por Wu Yonghui, ex investigador de Google DeepMind, suma alrededor de 2.000 profesionales entre China y el extranjero. Entre ellos se incluyen investigadores sénior, ingenieros de infraestructura y especialistas en etiquetado y traducción de datos.
ByteDance ha apostado por desarrollar sus modelos mediante un enfoque independiente, evitando la "destilación" que consiste en adaptar modelos existentes. Esta estrategia, aplicada más de un año, ha ralentizado su progresión frente a competidores, pero según sus responsables, es clave para lograr un modelo competitivo y propio que supere a la competencia.
Zhang Yiming, fundador de ByteDance, reafirmó internamente la intención de alcanzar niveles mundiales primero a largo plazo, sin urgencia por alcanzar resultados inmediatos. Esta visión estratégica apunta a consolidar una capacidad distintiva en el mercado global de inteligencia artificial.
El crecimiento y los avances de ByteDance en IA reflejan la ambición creciente de China por liderar en esta tecnología clave, en un contexto donde la competitividad tecnológica se intensifica entre potencias. Este modelo de 10 billones de parámetros colocaría a la empresa en un lugar destacado frente a rivales occidentales y sus desarrollos más avanzados.
Para más información sobre inteligencia artificial y sus avances en China, se puede consultar el análisis detallado de Financial Times o la cobertura de The Information.