es.wedoany.com Noticia: Suanmiao Technology anunció que su chip 3D TokenPU A4E, orientado a la inferencia de modelos grandes, ha sido enviado a fabricación el 15 de junio. Este chip se basa en la cadena de suministro nacional y adopta una arquitectura de apilamiento híbrido 3D, con el objetivo de proporcionar soporte de cómputo autónomo y controlable para la industria de modelos grandes. Deloitte predice que más del 80% de la demanda de cómputo se concentrará en el lado de la inferencia.
La inferencia de modelos grandes ha estado limitada durante mucho tiempo por el frecuente movimiento de datos entre la memoria y el procesador, lo que genera hasta un 80% del consumo energético y un 70% de la presión de costos. La arquitectura 3D TokenPU lanzada por Suanmiao Technology apila verticalmente 8 capas de obleas de memoria sobre la oblea lógica de cómputo, logrando interconexiones a nivel micrométrico mediante tecnología de vías a través de silicio (TSV) y protuberancias (bump), reduciendo la distancia de transmisión tradicional de milímetros en dos órdenes de magnitud y proporcionando un ancho de banda de acceso a memoria de 16 TB/s. El chip introduce el concepto de colaboración software-hardware Tile-Native, utilizando Tile como la unidad básica para el movimiento, almacenamiento y cómputo de datos, logrando un modo de un solo movimiento y múltiples reutilizaciones. El hardware admite de forma nativa la programación de datos a nivel de Tile y el cambio dinámico de múltiples precisiones, mientras que el software construye una pila de herramientas de compilación compatible con ecosistemas de código abierto como LLVM y Triton.
El Dr. Wang Fuquan, fundador y CEO de Suanmiao Technology, afirmó que el 3D TokenPU está diseñado específicamente para el procesamiento de tokens en modelos grandes, y que puede lograr una mejora en la densidad de cómputo y la eficiencia energética sin depender únicamente de la reducción del proceso de fabricación.
Suanmiao Technology ha establecido un sistema de cadena de suministro nacionalizado que cubre el diseño de chips, IP central, fabricación y empaquetado. El chip A4E se basa en la arquitectura RISC-V autodesarrollada, IP propia y sistema de software propio, y colabora con socios nacionales de la cadena de suministro utilizando procesos nacionales maduros. Los miembros clave del equipo han completado la producción en masa de obleas de apilamiento híbrido 3D a escala de miles en proyectos de chips de cómputo y almacenamiento integrados de alto rendimiento. Más del 80% del personal de la empresa son investigadores, y los miembros principales provienen de instituciones como la Academia de Ciencias de China, la Universidad de Tsinghua y la Universidad de Pekín.
El 3D TokenPU está dirigido a los principales fabricantes de modelos grandes, y ha estado en desarrollo profundo con los clientes durante casi un año, anclando las necesidades del escenario de inferencia en la fase de definición del chip y completando la optimización de la arquitectura y los algoritmos subyacentes. La empresa ha obtenido múltiples rondas de financiación de plataformas de capital estatal, fondos de mercado y capital industrial, con inversores que incluyen a CDB Capital, Beijing Shunxi, Source Code Capital, Shixi Capital, Lenovo Capital, Xianghe Capital, entre otros.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
