Beam de Reflection: 501.000 millones de parámetros y pesos abiertos este mes
La startup fundada por ex investigadores de Google DeepMind presentó el 5 de octubre Beam, un modelo mixture-of-experts de 501.000 millones de parámetros (23.000 millones activos) con contexto de 1 millón de tokens. Afirma que iguala a los mejores modelos abiertos chinos en razonamiento con 3 a 4 veces menos cómputo de inferencia, y publicará los pesos este mes.
Reflection, fundada en 2024 por ex investigadores de Google DeepMind, presentó Beam, su primer modelo frontier de pesos abiertos. Es un modelo mixture-of-experts de solo texto con 501.000 millones de parámetros, 23.000 millones activos por consulta y contexto de 1 millón de tokens. Fue entrenado con 23,8 billones de tokens.
La empresa afirma que Beam iguala a los principales modelos abiertos chinos en benchmarks de razonamiento y usa 3 a 4 veces menos cómputo de inferencia. Ninguna prueba independiente ha confirmado esas cifras todavía. Los pesos se publicarán este mes a través de hyperscalers e integraciones open source. Reflection ha levantado cerca de US$4.700 millones, con NVIDIA y Sequoia entre sus inversionistas.
Esta noticia apareció en las ediciones N° 002, N° 003, N° 004 de AI Radar.