Um conjunto de previsões de HPC com sabor de IA para 2023

Muitas previsões para HPC-AI em 2023 surgiram em nosso painel de popa nas últimas semanas, aqui estão trechos das que achamos mais interessantes, novas, perspicazes - até contrárias.

Altair Cientista Chefe Rosemary Francis:
Seja grande ou vá para casa – as maiores cargas de trabalho da HPC.À medida que as cargas de trabalho de HPC estão assumindo aplicativos de big data, como em ciências biológicas e aceleradores de partículas como o Fonte de luz de diamante do Reino Unido (para maior pesquisa e experimentação), estamos vendo uma explosão nas ferramentas de fluxo de trabalho. Em 2023, essa transformação em agendamento multidimensional será o maior impulsionador da mudança na HPC, pois o setor busca se modernizar e se adaptar a esses grandes aplicativos conectados.

A HPC aborda o aprendizado profundo:À medida que o aprendizado profundo se tornar mais prevalente em 2023, veremos uma mudança adicional nas cargas de trabalho de HPC. Embora inicialmente a maioria das cargas de trabalho de aprendizado de máquina fosse executada no Kubernetes ou em outras estruturas de orquestração de contêineres, ficou claro que esses sistemas são projetados para microsserviços, não para as cargas de trabalho de máquina com uso intensivo de computador agora necessárias para aprendizado profundo. Os gerenciadores de carga de trabalho de HPC comercial precisam de suporte abrangente a contêineres para que as organizações possam fazer spool de computação e começar a aproveitar o agendamento em lote, o estouro de nuvem e o compartilhamento de tarifa — todos os principais aspectos de HPC eficiente.

Joe Fitzsimons, CEO da Computação Quântica Horizon, sobre a morte do NISQ e uma mudança para tolerância a falhas na computação quântica
“Nos últimos anos, o desenvolvimento de aplicações para computação quântica tem tido um foco particular no regime NISQ, referindo-se a processadores Noisy Intermediate Scale Quantum. O 'ruído' neste título refere-se à suscetibilidade dos qubits à interferência de fatores ambientais, que vão desde a proximidade de outros qubits até colisões de raios cósmicos. Esse ruído introduz erros potencialmente fatais nos processos de computação quântica. Há muito se sabe que é, pelo menos teoricamente, possível construir computadores quânticos que incorporem correção de erros, de modo que um computador essencialmente perfeito possa ser construído a partir de componentes imperfeitos. No entanto, o foco da pesquisa do NISQ tem sido o desenvolvimento de algoritmos variacionais que se espera serem robustos a pequenas perturbações causadas por ruído ambiental, permitindo vantagem quântica sem correção de erros.

“Infelizmente, há relativamente pouca evidência de que tais algoritmos NISQ de fato renderão uma vantagem sobre os computadores convencionais para a ampla gama de tarefas de otimização e aprendizado de máquina para as quais estão sendo considerados. Embora haja boas razões para acreditar que a vantagem quântica inicial pode ser vista em campos como a química, onde o problema a ser resolvido é de natureza quântica, há sinais de foco renovado em alcançar o regime de tolerância a falhas, no qual os erros são corrigido ativamente e para o qual há evidências muito mais fortes de vantagem quântica”.

Tecnologias Dell' John Roese, CTO Global – Uma Resolução Quântica de Ano Novo
Vou estabelecer conjuntos de habilidades iniciais para aproveitar o quantum. A computação quântica está ficando real e se você não tiver alguém na sua empresa que entenda como essa tecnologia funciona e como ela influencia o seu negócio, você vai perder essa onda tecnológica. Identifique a equipe, as ferramentas e as tarefas que você dedicará ao quantum e comece a experimentar. No mês passado, anunciamos a Dell Quantum Computing Solution local, que permite que organizações de todos os setores comecem a aproveitar a computação acelerada por meio da tecnologia quântica, de outra forma não disponível para eles hoje. Investir em simulação quântica e permitir que suas equipes de ciência de dados e IA aprendam as novas linguagens e capacidades quânticas é fundamental em 2023.

Visões contrárias sobre ML de Gideon Mendels, CEO e cofundador da plataforma MLOps cometa
Quando os dados ficam vazios: A maioria das melhorias observadas no ML veio de modelos de treinamento com mais e mais dados, mas estamos chegando a um ponto em que não poderemos fazer isso. Acabaram de sair algumas pesquisas interessantes que mostram que podemos ficar sem dados até 2026. Se esta tese se mantiver, vamos parar de ver melhorias, a menos que possamos construir modelos melhores no mesmo conjunto de dados.

Impacto ambiental de modelos generativos: Os modelos generativos estão produzindo resultados extremamente impressionantes, mas não está claro o impacto que eles têm em um negócio real. O que está claro é o impacto da emissão de carbono do treinamento desses modelos massivos. Os requisitos de computação são insanos. Portanto, surge a pergunta: “Os resultados valem o custo ambiental?”

Afaste-se de uma mentalidade de software: ML seguiu o curso do desenvolvimento de software até agora, mas à medida que o ML amadurece, essa abordagem se desfaz. Nenhum fornecedor sozinho pode fazer tudo. As equipes hoje escolhem as melhores ferramentas disponíveis que são relevantes para o que estão tentando fazer. Fornecedores que tentaram ser tudo para uma equipe estão falhando. Para que o ML atinja seu potencial, precisamos pensar de forma diferente para criar a pilha de ML certa para nossas necessidades comerciais específicas.

O viés é exagerado: Viés é um conceito que recebe muita atenção – e continuará a receber mais com a AI Bill of Rights – não é algo com o qual muitos profissionais de ML se preocupem no dia-a-dia. Claro, eles respondem por isso, mas bons profissionais de ML entendem os problemas e sabem o que fazer para evitar que o viés afete negativamente os resultados.

Jonas Kubilius da Conselho Consultivo da Oxylabs na IA generativa
Jonas Kubilius, co-fundador e CEO da Three Thirds e membro do Conselho Consultivo da Oxylabs, prevê uma evolução cada vez maior do Stable Diffusion, GPT-3, GitHub Copilot e outras técnicas de geração de conteúdo em produtos lucrativos usados ​​por desenvolvedores e criadores de conteúdo em ambientes reais. aplicações mundiais. Ele acrescentou que veremos um interesse crescente em modelos multimodais que podem lidar com texto, imagens, áudio e outras entradas para várias tarefas.

“Começaremos a ver uma mudança do uso de IA para tarefas estáticas, como classificação, para fluxos de trabalho interativos orientados por modelos de linguagem que ajudam as pessoas a realizar suas tarefas com mais eficiência”, disse Kubilius.

Peter Mattson, presidente da MLCommonsName, em conjuntos de dados públicos
“Enfrentaremos uma combinação de novos desafios de pesquisa em torno de IA multimodal e de conversação, além de preocupações legais, éticas e justas com dados extraídos da web em conjuntos de dados públicos atuais. A indústria como um todo também precisará apoiar melhor não apenas a pesquisa, mas também aplicativos de ML amplamente implantados e novos regulamentos (por exemplo, por meio de conjuntos de teste de qualidade industrial).”

Para apoiar uma “próxima geração de dados públicos”, Mattson prevê a necessidade de fortes investimentos em conjuntos de dados para os problemas sociais e técnicos mais prementes, e canalizar esse investimento por meio de infraestrutura de código aberto que permite que toda a comunidade contribua e revise os dados.

Moses Guttmann, CEO e cofundador da plataforma MLOps LimparML, em ML Trends to Watch

Automação e a escassez de habilidades de ML Embora tenhamos visto muitas das principais empresas de tecnologia anunciarem demissões no final de 2022, é provável que nenhuma delas esteja demitindo seu pessoal de aprendizado de máquina mais talentoso. No entanto, para preencher o vazio … em equipes profundamente técnicas, as empresas terão que se inclinar ainda mais para a automação para manter a produtividade alta e garantir que os projetos sejam concluídos. Esperamos também ver as empresas que usam a tecnologia ML colocarem mais sistemas para monitorar e governar o desempenho e tomar mais decisões baseadas em dados sobre como gerenciar ML ou equipes de ciência de dados….

O acúmulo de talentos de ML acabou  As demissões de trabalhadores do ML provavelmente estão entre as contratações mais recentes, em oposição à equipe de ML de mais longo prazo…. Como ML e AI se tornaram uma tecnologia mais comum na última década, muitas grandes empresas de tecnologia começaram a contratar esses tipos de trabalhadores porque podiam lidar com o custo financeiro e mantê-los longe dos concorrentes – não necessariamente porque eram necessários. (Então) não é surpreendente ver tantos trabalhadores de ML sendo demitidos... No entanto, com o fim da era do acúmulo de talentos de ML, isso pode inaugurar uma nova onda de inovação e oportunidade para startups. Com tanto talento agora procurando trabalho, provavelmente veremos muitas dessas pessoas saindo da grande tecnologia e entrando em pequenas e médias empresas ou startups.

Priorização de projetos de ML  Vejo projetos de aprendizado de máquina reduzidos a dois tipos: recursos vendáveis ​​que a liderança acredita que aumentarão as vendas e vencerão a concorrência e projetos de otimização de receita... Projetos de recursos vendáveis ​​provavelmente serão adiados, pois são difíceis de serem lançados rapidamente e, em vez disso , as equipes de ML agora menores se concentrarão mais na otimização de receita, pois isso pode gerar receita real. A performance, neste momento, é essencial para todas as unidades de negócio e o ML não está imune a isso.

ML unificado  Um dos fatores que retardam a adoção de MLOps é a infinidade de soluções pontuais. Não quer dizer que não funcionem, mas que podem não se integrar bem e deixar lacunas no fluxo de trabalho. Por isso, acredito firmemente que 2023 é o ano em que a indústria caminha para plataformas unificadas de ponta a ponta, construídas a partir de módulos que podem ser usados ​​individualmente e também se integrarem perfeitamente entre si (além de se integrarem facilmente a outros produtos). . Esse tipo de abordagem de plataforma, com a flexibilidade de componentes individuais, oferece o tipo de experiência ágil que os especialistas de hoje procuram. É mais fácil do que comprar produtos pontuais e remendá-los; é mais rápido do que construir sua própria infraestrutura do zero (quando você deveria usar esse tempo para construir modelos)….

NVIDIA ofereceu uma série de previsões em uma variedade de campos de IA e aprendizado de máquina:

Anima Anandkumar, diretor de pesquisa de ML e professor de Bren na Caltech
Gêmeos Digitais Tornam-se Físicos: Veremos em grande escala gêmeos digitais de processos físicos que são complexos e multiescala, como modelos meteorológicos e climáticos, fenômenos sísmicos e propriedades de materiais. Isso acelerará as simulações científicas atuais em até um milhão de vezes e permitirá novas percepções e descobertas científicas.

Agentes generalistas de IA: Os agentes de IA resolverão tarefas abertas com instruções de linguagem natural e aprendizado por reforço em larga escala, enquanto aproveitam os modelos básicos – aqueles grandes modelos de IA treinados em uma grande quantidade de dados não rotulados em escala – para permitir que os agentes possam analisar qualquer tipo de solicitação e adaptar a novos tipos de perguntas ao longo do tempo.

Manuvir Das, vice-presidente de computação empresarial
Avanços de software acabam com os silos de IA: As empresas há muito precisam escolher entre computação em nuvem e arquiteturas híbridas para pesquisa e desenvolvimento de IA – uma prática que pode sufocar a produtividade do desenvolvedor e retardar a inovação.

Em 2023, o software permitirá que as empresas unifiquem os pipelines de IA em todos os tipos de infraestrutura e ofereçam uma experiência única e conectada para os profissionais de IA. Isso permitirá que as empresas equilibrem os custos em relação aos objetivos estratégicos, independentemente do tamanho ou complexidade do projeto, e forneçam acesso a capacidade virtualmente ilimitada para desenvolvimento flexível.

IA generativa transforma aplicativos corporativos: O hype sobre IA generativa se torna realidade em 2023. Isso porque as bases para a verdadeira IA generativa estão finalmente estabelecidas, com software que pode transformar grandes modelos de linguagem e sistemas de recomendação em aplicativos de produção que vão além de imagens para responder perguntas de forma inteligente, criar conteúdo e até mesmo faísca descobertas….

Kimberly Powell, Vice-presidente, Saúde
Cirurgia 4.0: Os simuladores de voo servem para treinar pilotos e pesquisar novos controles de aeronaves. O mesmo agora é verdade para cirurgiões e fabricantes de dispositivos de cirurgia robótica. Gêmeos digitais que podem simular em todas as escalas, desde o ambiente da sala de cirurgia até o robô médico e a anatomia do paciente, estão abrindo novos caminhos em ensaios cirúrgicos personalizados e projetando interações entre humanos e máquinas orientadas por IA. Residências longas não serão a única maneira de produzir um cirurgião experiente. Muitos se tornarão operadores especializados quando realizarem sua primeira cirurgia assistida por robô em um paciente real.

Danny Shapiro, vice-presidente, automotivo
Treinando Veículos Autônomos no Metaverso: Os mais de 250 fabricantes de automóveis e caminhões, startups, provedores de transporte e mobilidade como serviço que desenvolvem veículos autônomos estão enfrentando um dos desafios de IA mais complexos de nosso tempo. Simplesmente não é possível encontrar todos os cenários que eles devem ser capazes de enfrentar testando na estrada; portanto, grande parte da indústria em 2023 se voltará para o mundo virtual para ajudar. A coleta de dados na estrada será complementada por frotas virtuais que geram dados para treinamento e teste de novos recursos antes da implantação. A simulação de alta fidelidade executará veículos autônomos em uma variedade virtualmente infinita de cenários e ambientes….

Rev Lebardedian, vice-presidente, Omniverse e Tecnologia de Simulação
O tradutor universal do metaverso: Assim como o HTML é a linguagem padrão da web 2D, Descrição da cena universal está prestes a se tornar a linguagem mais poderosa, extensível e aberta para a web 3D. Como o padrão 3D para descrever mundos virtuais no metaverso, o USD permitirá que empresas e até mesmo consumidores se movam entre diferentes mundos 3D usando várias ferramentas, visualizadores e navegadores da maneira mais contínua e consistente.

Ronnie Vasishta, vice-presidente sênior de telecomunicações
Cortando o fio em AR/VR em redes 5G: Embora muitas empresas mudem para a nuvem para desenvolvimento de hardware e software, o design e a colaboração de ponta também crescerão à medida que as redes 5G se tornarem mais implantadas em todo o mundo. Os projetistas automotivos, por exemplo, podem usar headsets de realidade aumentada e transmitir o mesmo conteúdo que veem pelas redes sem fio para colegas em todo o mundo, acelerando as mudanças colaborativas e desenvolvendo soluções inovadoras em velocidades recordes. O 5G também levará a implantações aceleradas de robôs conectados em todos os setores – usados ​​para reabastecer prateleiras de lojas, limpar pisos, entregar pizzas e coletar e embalar mercadorias nas fábricas.

Bob Pette, vice-presidente, visualização profissional
Uma revolução industrial via simulação: Tudo construído no mundo físico será primeiro simulado em um mundo virtual que obedece às leis da física. Esses gêmeos digitais – incluindo ambientes de grande escala, como fábricas, cidades e até mesmo todo o planeta – e o metaverso industrial devem se tornar componentes críticos das iniciativas de transformação digital. Os exemplos já são abundantes: a Siemens está levando a automação industrial a um novo nível. A BMW está simulando fábricas inteiras para planejar processos de fabricação de maneira otimizada. A Lockheed Martin está simulando o comportamento dos incêndios florestais para prever onde e quando implantar recursos. DNEG, SONY Pictures, WPP e outros estão aumentando a produtividade por meio de departamentos de arte distribuídos globalmente que permitem que criadores, artistas e designers iterem em cenas virtualmente em tempo real.

Repensando a arquitetura corporativa de TI: Assim como muitas empresas lutaram para adaptar sua cultura e tecnologias para enfrentar os desafios do trabalho híbrido, o novo ano trará uma nova arquitetura de toda a infraestrutura de TI de muitas empresas. As empresas buscarão dispositivos clientes poderosos capazes de lidar com as demandas cada vez maiores de aplicativos e conjuntos de dados complexos. E eles adotarão a flexibilidade, migrando para a nuvem para escalabilidade exponencial. A adoção de plataformas de software de computação distribuída permitirá que uma força de trabalho globalmente dispersa colabore e permaneça produtiva nos ambientes de trabalho mais díspares.

Da mesma forma, o desenvolvimento e o treinamento complexos de modelos de IA exigirão uma infraestrutura de computação poderosa no data center e no desktop. As empresas analisarão as pilhas de software de IA selecionadas para diferentes casos de uso industrial, para facilitar a inclusão da IA ​​em seus fluxos de trabalho e a entrega mais rápida de produtos e serviços de alta qualidade aos clientes.

Azita Martin, vice-presidente, AI para varejo e grupo de produtos de consumo
IA para otimizar cadeias de suprimentos: Mesmo os varejistas e empresas de comércio eletrônico mais sofisticados tiveram problemas nos últimos dois anos para equilibrar a oferta com a demanda. Os consumidores adotaram as compras em casa durante a pandemia e depois voltaram às lojas físicas depois que os bloqueios foram suspensos. Depois que a inflação atingiu, eles mudaram seus hábitos de compra mais uma vez, causando ataques aos gerentes da cadeia de suprimentos. A IA permitirá previsões mais frequentes e precisas, garantindo que o produto certo esteja na loja certa, na hora certa. Além disso, os varejistas adotarão software de otimização de rota e tecnologia de simulação para fornecer uma visão mais holística de oportunidades e armadilhas.

Malcolm deMayo, vice-presidente, serviços financeiros
Nuvem em primeiro lugar para serviços financeiros: Os bancos têm um novo imperativo: tornar-se ágil rapidamente. Enfrentando a crescente concorrência de instituições financeiras não tradicionais, mudando as expectativas dos clientes decorrentes de suas experiências em outros setores e sobrecarregados com infraestrutura legada, bancos e outras instituições adotarão uma abordagem de IA que prioriza a nuvem. Mas como um setor altamente regulamentado que requer resiliência operacional, um termo do setor que significa que seus sistemas podem absorver e sobreviver a choques (como uma pandemia), os bancos procurarão soluções híbridas abertas, portáteis, reforçadas. Como resultado, os bancos são obrigados a adquirir acordos de suporte quando disponíveis.

David Reber, Diretor de Segurança
Cientistas de dados são seu novo ativo cibernético: Os profissionais cibernéticos tradicionais não podem mais se defender com eficácia contra as ameaças mais sofisticadas porque a velocidade e a complexidade dos ataques e da defesa excederam efetivamente as capacidades humanas. Cientistas de dados e outros analistas humanos usarão IA para analisar todos os dados objetivamente e descobrir ameaças. Violações vão acontecer, então as técnicas de ciência de dados usando IA e humanos ajudarão a encontrar a agulha no palheiro e responder rapidamente.

Kari Briski, vice-presidente, AI e HPC Software
Dados não rotulados encontram seu propósito: Grandes modelos de linguagem e dados estruturados também se estenderão às resmas de fotos, gravações de áudio, tweets e muito mais para encontrar padrões ocultos e pistas para apoiar avanços na área da saúde, avanços na ciência, melhores interações com os clientes e até mesmo grandes avanços no transporte autônomo. Em 2023, adicionar todos esses dados não estruturados à mistura ajudará a desenvolver redes neurais que podem, por exemplo, gerar perfis sintéticos para imitar os registros de saúde com os quais eles aprenderam. Esse tipo de aprendizado de máquina não supervisionado está definido para se tornar tão importante quanto o aprendizado de máquina supervisionado.

A Nova Central de Atendimento: Fique de olho no call center em 2023, onde a adoção de fluxos de trabalho de IA de fala cada vez mais facilmente implementados fornecerá flexibilidade de negócios em todas as etapas do pipeline de interação com o cliente - desde a modificação de arquiteturas de modelo até modelos de ajuste fino em dados proprietários e personalização de pipelines. À medida que a acessibilidade dos fluxos de trabalho de IA de voz aumenta, veremos uma ampliação da adoção corporativa e um aumento gigantesco na produtividade do call center, acelerando o tempo de resolução. A IA ajudará os agentes a extrair as informações certas de uma enorme base de conhecimento no momento certo, minimizando o tempo de espera dos clientes.

Deepu Talla, Vice-presidente, Embedded e Edge Computing
Robôs ganham um milhão de vidas: Mais robôs serão treinados em mundos virtuais à medida que a renderização fotorrealista e a modelagem física precisa se combinam com a capacidade de simular em paralelo milhões de instâncias de um robô em GPUs na nuvem. As técnicas de IA generativa facilitarão a criação de cenários de simulação 3D altamente realistas e acelerarão ainda mais a adoção de simulação e dados sintéticos para o desenvolvimento de robôs mais capazes.

 Marc Spieler, diretor sênior de energia
Rede de energia alimentada por IA: À medida que a rede se torna mais complexa devido à taxa sem precedentes de recursos de energia distribuídos sendo adicionados, as concessionárias de energia elétrica exigirão IA de ponta para melhorar a eficiência operacional, aumentar a segurança funcional, aumentar a precisão da previsão de carga e demanda e acelerar o tempo de conexão de energia renovável , como solar e eólica. A IA na borda aumentará a resiliência da rede, reduzindo o desperdício e o custo de energia.