Baidu publica ERNIE 5.5 Flash Base, un modelo abierto de 280.000 millones de parámetros

Baidu publicó el 5 de noviembre ERNIE-5.5-Flash-Base, un modelo base de mezcla de expertos con 280.000 millones de parámetros y 14.000 millones activos, entrenado con 33,5 billones de tokens, informó The Decoder. Los pesos están en Hugging Face y el modelo viene sin ajuste posterior, que los desarrolladores deben hacer por su cuenta. Baidu anticipa una versión ajustada más adelante.