A IA generativa está trazendo o poder dos modelos de transformadores e dos grandes modelos de linguagem para praticamente todos os setores. Esse alcance agora inclui áreas que envolvem sistemas de ponta, robótica e logística: detecção de defeitos, rastreamento de ativos em tempo real, planejamento e navegação autônomos, interações homem-robô e muito mais.
A Nvidia lançou “grandes expansões” para duas estruturas na plataforma Nvidia Jetson para IA de ponta e robótica: a estrutura de robótica Nvidia Isaac ROS entrou em disponibilidade geral e a expansão Nvidia Metropolis em Jetson será a próxima.
Para acelerar o desenvolvimento e implantações de aplicativos de IA na borda, a Nvidia também criou um Jetson Generative AI Lab para os desenvolvedores usarem com os mais recentes modelos de IA generativa de código aberto.
Mais de 1,2 milhão de desenvolvedores e mais de 10.000 clientes escolheram a Nvidia AI e a plataforma Jetson, incluindo Amazon Web Services, Cisco, John Deere, Medtronic, Pepsico e Siemens.
Com o cenário de IA em rápida evolução abordando cenários cada vez mais complicados, os desenvolvedores estão sendo desafiados por ciclos de desenvolvimento mais longos para criar aplicações de IA para a borda.
A reprogramação dinâmica de robôs e sistemas de IA para atender às mudanças nos ambientes, nas linhas de fabricação e nas necessidades de automação dos clientes é demorada e requer habilidades especializadas.
A IA generativa oferece aprendizagem imediata – a capacidade de um modelo reconhecer coisas especificamente nunca vistas antes no treinamento – com uma interface de linguagem natural para simplificar o desenvolvimento, a implantação e o gerenciamento de IA na borda.
Transformando o cenário da IA
A IA generativa melhora drasticamente a facilidade de uso ao compreender os avisos da linguagem humana para fazer alterações no modelo. Esses modelos de IA são mais flexíveis na detecção, segmentação, rastreamento, pesquisa e até mesmo reprogramação – e ajudam a superar os modelos tradicionais baseados em redes neurais convolucionais.
Espera-se que a IA generativa adicione US$ 10,5 bilhões em receitas para operações de manufatura em todo o mundo até 2033, de acordo com a ABI Research.
“A IA generativa irá acelerar significativamente as implantações de IA na borda com melhor generalização, facilidade de uso e maior precisão do que era possível anteriormente”, disse Deepu Talla, vice-presidente de computação integrada e de ponta da Nvidia.
“Esta maior expansão de software de nossas estruturas Metropolis e Isaac no Jetson, combinada com o poder dos modelos de transformadores e IA generativa, atende a essa necessidade.”
Desenvolvendo com IA generativa no Edge
O Jetson Generative AI Lab fornece aos desenvolvedores acesso a ferramentas e tutoriais otimizados para implantação de LLMs de código aberto, modelos de difusão para gerar imagens interativas impressionantes, modelos de linguagem de visão (VLMs) e transformadores de visão (ViTs) que combinam IA de visão e processamento de linguagem natural para fornecer compreensão abrangente da cena.
Os desenvolvedores também podem usar o Nvidia TAO Toolkit para criar modelos de IA eficientes e precisos para aplicações de ponta. TAO fornece uma interface de baixo código para ajustar e otimizar modelos de IA de visão, incluindo ViT e modelos básicos de visão.
Eles também podem personalizar e ajustar modelos básicos como Nvidia NV-DINOv2 ou modelos públicos como OpenCLIP para criar modelos de IA de visão altamente precisos com muito poucos dados. O TAO também inclui agora o VisualChangeNet, um novo modelo baseado em transformador para inspeção de defeitos.
Aproveitando as novas estruturas Metropolis e Isaac
A Nvidia Metropolis torna mais fácil e econômico para as empresas adotar soluções de classe mundial habilitadas para IA de visão para melhorar a eficiência operacional crítica e problemas de segurança.
A plataforma traz uma coleção de interfaces de programação de aplicativos e microsserviços poderosos para que os desenvolvedores desenvolvam rapidamente aplicativos complexos baseados em visão.
Mais de 1.000 empresas, incluindo BMW Group, Pepsico, Kroger, Tyson Foods, Infosys e Siemens, estão usando ferramentas de desenvolvedor da Nvidia Metropolis para resolver desafios operacionais, de processamento de sensores e de Internet das Coisas com IA de visão – e a taxa de adoção está acelerando.
As ferramentas já foram baixadas mais de 1 milhão de vezes por aqueles que buscam criar aplicações de IA de visão.
Para ajudar os desenvolvedores a construir e implantar rapidamente aplicativos de IA de visão escaláveis, um conjunto expandido de APIs e microsserviços Metropolis na Nvidia Jetson estará disponível até o final do ano.
Centenas de clientes usam a plataforma Nvidia Isaac para desenvolver soluções robóticas de alto desempenho em diversos domínios, incluindo agricultura, automação de armazéns, entrega de última milha e robótica de serviço, entre outros.
Na ROSCon 2023, a Nvidia anunciou grandes melhorias nos recursos de percepção e simulação com novos lançamentos dos softwares Isaac ROS e Isaac Sim.
Construído com base no Robot Operating System (ROS) de código aberto amplamente adotado, Isaac ROS traz percepção para a automação, dando olhos e ouvidos para as coisas que se movem.
Ao aproveitar o poder dos GEMs acelerados por GPU, incluindo odometria visual, percepção de profundidade, reconstrução de cena 3D, localização e planejamento, os desenvolvedores de robótica obtêm as ferramentas necessárias para projetar rapidamente soluções robóticas personalizadas para uma ampla gama de aplicações.
Com a disponibilidade geral da versão mais recente do Isaac ROS 2.0, os desenvolvedores agora podem criar e trazer ao mercado soluções robóticas de alto desempenho com Jetson.
“ROS continua a crescer e evoluir para fornecer software de código aberto para toda a comunidade robótica”, disse Geoff Biggs, CTO da Open Source Robotics Foundation.
“Os novos pacotes ROS 2 pré-construídos da Nvidia, lançados com este lançamento, irão acelerar esse crescimento, tornando o ROS 2 prontamente disponível para a vasta comunidade de desenvolvedores da Nvidia Jetson.”
Entregando novos fluxos de trabalho de IA de referência
O desenvolvimento de uma solução de IA pronta para produção envolve otimizar o desenvolvimento e o treinamento de modelos de IA adaptados a casos de uso específicos, implementar recursos de segurança robustos na plataforma, orquestrar o aplicativo, gerenciar frotas, estabelecer comunicação perfeita entre a borda e a nuvem e muito mais.
A Nvidia anunciou uma coleção selecionada de fluxos de trabalho de referência de IA baseados nas estruturas Metropolis e Isaac que permitem aos desenvolvedores adotar rapidamente todo o fluxo de trabalho ou integrar seletivamente componentes individuais, resultando em reduções substanciais no tempo e no custo de desenvolvimento.
Os três fluxos de trabalho distintos de IA incluem: gravação de vídeo em rede, inspeção óptica automática e robô móvel autônomo.
“A Nvidia Jetson, com sua ampla e diversificada base de usuários e ecossistema de parceiros, ajudou a impulsionar uma revolução na robótica e na IA na borda”, disse Jim McGregor, analista principal da Tirias Research.
“À medida que os requisitos das aplicações se tornam cada vez mais complexos, precisamos de uma mudança fundamental para plataformas que simplifiquem e acelerem a criação de implantações de ponta. Esta significativa expansão de software da Nvidia dá aos desenvolvedores acesso a novos modelos multissensores e recursos generativos de IA.”
Mais chegando no horizonte
A Nvidia anunciou uma coleção de serviços de sistema que são recursos fundamentais que todo desenvolvedor exige ao construir soluções de IA de ponta.
Esses serviços simplificarão a integração em fluxos de trabalho e pouparão ao desenvolvedor a árdua tarefa de construí-los do zero.
O novo Nvidia JetPack 6, que deverá estar disponível até o final do ano, capacitará os desenvolvedores de IA a permanecerem na vanguarda da computação sem a necessidade de uma atualização completa do Jetson Linux, acelerando substancialmente os cronogramas de desenvolvimento e liberando-os das dependências do Jetson Linux.
O JetPack 6 também usará os esforços de colaboração com parceiros de distribuição Linux para expandir o horizonte das opções de distribuição baseadas em Linux, incluindo Ubuntu otimizado e certificado da Canonical, Wind River Linux, Concurrent Real-Time Redhawk Linux e várias distribuições baseadas em Yocto.
Ecossistema de parceiros
O ecossistema de parceiros Jetson oferece uma ampla gama de suporte, desde hardware, software de IA e serviços de design de aplicativos até sensores, conectividade e ferramentas de desenvolvedor.
Esses inovadores da Nvidia Partner Network desempenham um papel vital no fornecimento de blocos de construção e subsistemas para muitos produtos vendidos no mercado.
A versão mais recente permite que os parceiros da Jetson acelerem seu tempo de lançamento no mercado e expandam sua base de clientes adotando IA com maior desempenho e recursos.
Parceiros fornecedores de software independentes também poderão expandir suas ofertas para Jetson.