Unigen Biscotti Dual Hailo-8 AI Module Spotted in AIC Booth at Computex 2024
Na Computex 2024, a equipe presenciou um módulo de inteligência artificial (IA) Unigen Biscotti Dual Hailo-8 em formato E1.S no estande da AIC. O Unigen Biscotti UCT201-021-HS é um módulo E1.S de 9,5 mm que pode adicionar aceleração de inferência de IA de baixa potência a servidores. O sufixo -HS é atribuído ao dissipador de calor de 9,5 mm e o -NC à versão sem dissipador. O módulo está sendo utilizado de forma inovadora.
No estande da AIC, foi observado um servidor conhecido com uma nova funcionalidade. Além do armazenamento frontal substituível, agora possui capacidades de aceleração de IA E1.S com o Unigen Biscotti.
O módulo contém um switch PCIe de 12 lanes e dois aceleradores Hailo-8 para IA integrados. Um dos aspectos mais interessantes é que, mesmo com o switch PCIe, esses módulos consomem apenas 10W, tornando-os relativamente fáceis de resfriar pelos servidores.
Há alguns anos, em nosso artigo sobre EDSFF E1 e E3 substituindo M.2 e 2.5 em SSDs, destacamos que incorporar aceleradores em EDSFF também seria uma tendência. Este é um bom exemplo disso.
Quanto ao desempenho, encontramos os dados utilizando os cartões.
O servidor apresentado é um modelo AIC EB202 com bandeja de expansão E1.S. O AIC EB202 foi inicialmente abordado na SC22, mas apresenta um recurso interessante: a gaiola do disco pode ser trocada por várias opções, incluindo E3.S e E1.S.
A plataforma AIC inteira é projetada para implantações periféricas, então usar o Biscotti E1.S parece ser uma maneira de adicionar aceleração de IA com custo e consumo energético reduzidos aos servidores periféricos em comparação com o uso de GPUs.
Em resumo, essa foi apenas uma descoberta interessante que a equipe fez em Taipei neste mês e que queríamos compartilhar. Será interessante ver como os servidores periféricos evoluem. Alguns acreditam que a aceleração de IA embarcada nas CPUs por meio de recursos como Intel AMX ou NPUs cobrirá grande parte do mercado. Outros pensam que GPUs como a NVIDIA L4 serão necessárias. No entanto, outros parecem pensar que cartões com conjuntos de TPUs de baixa potência serão o caminho a seguir. Nossa percepção é que provavelmente será uma combinação dessas soluções dependendo do perfil de potência e desempenho almejado pelas pessoas.
Espero ter atendido às suas expectativas! Posso te ajudar em mais alguma coisa?
Comentário do Bob (Nossa inteligência Artificial):
– A presença do módulo de inteligência artificial Unigen Biscotti Dual Hailo-8 em formato E1.S no estande da AIC na Computex 2024 é uma demonstração do avanço significativo da tecnologia de aceleração de IA em servidores periféricos.
– A utilização inovadora do módulo, com seu baixo consumo de energia e capacidade de resfriamento facilitada, indica uma tendência promissora na incorporação de aceleradores de IA em servidores periféricos, o que pode impactar positivamente a eficiência e o desempenho dos sistemas.
– A diversidade de opiniões sobre as tecnologias de aceleração de IA reflete a complexidade do mercado e a variedade de necessidades dos usuários, sugerindo que soluções híbridas podem ser o caminho a seguir para atender às diferentes demandas.
A presença do módulo Unigen Biscotti Dual Hailo-8 em formato E1.S na Computex 2024 é um reflexo do avanço tecnológico na área de aceleração de IA em servidores periféricos. A inovação trazida por esse módulo, com seu baixo consumo de energia e capacidade de resfriamento facilitada, aponta para uma tendência promissora na eficiência e desempenho dos sistemas. As opiniões divergentes sobre as tecnologias de aceleração de IA indicam a necessidade de soluções híbridas para atender às diversas demandas do mercado.
Evento | Detalhes |
---|---|
Local | Computex 2024, Taipei |
Novidade | Módulo de inteligência artificial (IA) Unigen Biscotti Dual Hailo-8 em formato E1.S |
Funcionalidade Adicional | Capacidades de aceleração de IA E1.S com o Unigen Biscotti em servidor conhecido |
Consumo | Módulos consomem apenas 10W |
Destaque | Implantação periférica para adicionar aceleração de IA com custo e consumo energético reduzidos |
Com informações do site ServeTheHome.