A unidade de processamento neural (NPU), acelerador de IA, ou processador de aprendizado profundo, é um microprocessador do tipo acelerador de hardware especializado em otimizar o desempenho de tarefas assistidas por inteligência artificial e aprendizado de máquina, incluindo redes neurais artificiais e visão computacional.
Uma NPU pode existir como um componente independente, integrada a uma CPU ou integrada a uma GPU. Seu objetivo pode ser executar de maneira eficiente modelos de inteligência artificial já treinados, processo conhecido como inferência, ou participar do treinamento desses modelos. Em determinadas aplicações, as NPUs podem proporcionar maior velocidade ou eficiência energética em comparação com processadores de uso geral.
As aplicações de aceleradores de IA incluem algoritmos utilizados em robótica, Internet das coisas e outras tarefas intensivas em dados ou orientadas por sensores.
As NPUs frequentemente utilizam arquiteturas com muitos núcleos ou arquiteturas espaciais e concentram-se em: operações aritméticas de baixa precisão, arquiteturas de fluxo de dados especializadas, ou recursos de computação em memória. Alguns aceleradores usados nos AI PCs dos data centers são: AMD Instinct, NVIDIA Blackwell e, Intel Gaudi; onde um AI-PC é todo computador que consegue realizar tarefas de inteligência artificial.
Uso
As NPUs e outros aceleradores de IA podem ser empregados tanto no treinamento de modelos de inteligência artificial quanto na execução de modelos já treinados. A utilização de hardware especializado permite otimizar determinadas operações, particularmente aquelas relacionadas a redes neurais e operações matriciais, reduzindo potencialmente o tempo de processamento e o consumo de energia.
Dispositivos de consumo
Aceleradores de IA são utilizados em processadores e sistemas destinados a dispositivos de consumo, incluindo plataformas da Apple, Qualcomm, Samsung, Huawei e Google.
No processamento de imagens, aceleradores de IA podem ser utilizados para executar modelos empregados em técnicas de reconstrução e aprimoramento de imagens. Quando integrados a um sistema de renderização gráfica, esses aceleradores podem permitir que uma cena seja produzida inicialmente em resolução ou taxa de quadros inferiores e posteriormente processada por um modelo de inteligência artificial para gerar uma saída em resolução ou taxa de quadros superiores.
Processamento de visão
As unidades de processamento de visão (VPUs) são aceleradores especializados em algoritmos de visão computacional, incluindo redes neurais convolucionais e SIFT. São utilizadas em dispositivos que precisam acompanhar visualmente objetos e ambientes, como dispositivos de realidade aumentada, realidade virtual e drones.
A Apple incorporou aceleradores de inteligência artificial aos seus processadores a partir de 2017, enquanto a Intel e a AMD passaram a incluir unidades especializadas em seus processadores mais recentemente.
Os processadores Intel Meteor Lake possuem uma unidade de processamento versátil (VPU) destinada a acelerar tarefas de inferência relacionadas à visão computacional e ao aprendizado profundo.
Desempenho
Em dispositivos de consumo, as NPUs são projetadas para oferecer baixo consumo de energia e desempenho suficiente para executar modelos de inteligência artificial de menor porte. Para isso, muitas dessas unidades suportam operações de baixa largura de bits utilizando formatos como INT4, INT8, FP8 e FP16.
Uma métrica frequentemente utilizada para avaliar o desempenho de NPUs é o número de trilhões de operações por segundo (TOPS). Entretanto, TOPS não especifica por si só o tipo de operação utilizada; em muitos casos, os valores divulgados correspondem a operações INT8 de adição e multiplicação.
Centros de dados
Aceleradores de IA também são utilizados em servidores de computação em nuvem e em centros de dados. Exemplos incluem as Tensor Processing Units (TPUs), utilizadas pelo Google Cloud, e os aceleradores AWS Trainium e AWS Inferentia, desenvolvidos pela Amazon Web Services.
Existem diversas denominações específicas utilizadas por fabricantes para dispositivos dessa categoria. O setor permanece caracterizado pela coexistência de diferentes arquiteturas e soluções, sem um projeto dominante único.
Desde o final da década de 2010, GPUs produzidas por empresas como Nvidia e AMD passaram a incorporar unidades funcionais especializadas em operações de multiplicação de matrizes de baixa precisão. Essas GPUs são amplamente utilizadas como aceleradores de IA, tanto para treinamento quanto para inferência.
Computação científica
Embora as NPUs sejam projetadas principalmente para operações de multiplicação de matrizes de baixa precisão, como FP16 e INT8, essas unidades também podem ser utilizadas para emular operações de maior precisão em determinadas aplicações de computação científica.
Técnicas de emulação de precisão, como o esquema de Ozaki, podem permitir a realização de operações equivalentes a FP64 utilizando unidades originalmente projetadas para formatos de menor precisão. Estudos demonstraram essa abordagem em GPUs que possuem unidades de multiplicação matricial especializadas, incluindo a NVIDIA TITAN RTX e a A100.
Desde versões recentes do CUDA Toolkit, a biblioteca cuBLAS pode utilizar emulação de operações de maior precisão mediante unidades matriciais de menor precisão quando essa abordagem apresenta vantagem de desempenho em determinadas condições.
Programação
Um sistema operacional ou uma biblioteca de nível superior pode fornecer interfaces de programação de aplicações (APIs) destinadas ao acesso a aceleradores de IA. Entre os exemplos estão o TensorFlow com LiteRT Next no Android, Core ML no iOS e macOS, e DirectML no Windows. Formatos como ONNX são utilizados para representar redes neurais treinadas.
NPUs integradas a CPUs de consumo geralmente são acessadas por meio de APIs específicas dos fabricantes. Entre os exemplos estão AMD (Ryzen AI), Intel (OpenVINO), Apple silicon (Core ML) e Qualcomm (SNPE), cada qual com seu próprio conjunto de ferramentas e interfaces.
As GPUs geralmente utilizam pipelines de GPGPU existentes, como CUDA e OpenCL, adaptados para operações de menor precisão e multiplicação de matrizes especializadas. Vulkan também pode ser utilizado para tarefas de computação em GPUs. Sistemas construídos para finalidades específicas, como a Tensor Processing Unit do Google, empregam interfaces próprias.
Existe um grande número de APIs, compiladores e ambientes de execução diferentes utilizados para aceleração de IA. A diversidade de interfaces e combinações de hardware aumenta a complexidade do desenvolvimento de software para essas plataformas.
Desde 2025, o Khronos Group trabalha na padronização de interfaces relacionadas à inteligência artificial com o objetivo de reduzir essa fragmentação. Entre as iniciativas estão a expansão de tipos de dados e operações intrínsecas em OpenCL e Vulkan, a inclusão de grafos computacionais no SPIR-V e o desenvolvimento de formatos para descrição de redes neurais.
Ver também
Computador de quinta geração Circuito integrado de aplicação específica Unidade de processamento gráfico Tensor Processing Unit
Ligações externas
Nvidia Puts The Accelerator To The Metal With Pascal — The Next Platform Eyeriss Project — Massachusetts Institute of Technology Categoria:Unidades de processamento neural Categoria:Otimização de computadores Categoria:Coprocessadores Categoria:Aprendizado de máquina aplicado Categoria:Engenharia de inteligência artificial Categoria:Tecnologia da informação Categoria:Tecnologias emergentes