A Liquid AI, fundada em 2022 a partir de pesquisas do MIT, lançou a família Hyena Edge, que apresenta uma nova arquitetura sem o mecanismo de atenção, prometendo processar sequências longas de forma mais rápida e eficiente, especialmente em dispositivos menores. Essa abordagem visa superar as limitações dos modelos tradicionais, como os Transformers, que enfrentam dificuldades com sequências longas devido ao alto consumo de memória e custo computacional. A equipe da Liquid AI está desenvolvendo modelos que se adaptam continuamente e podem lidar melhor com dados complexos, como textos longos e música. A nova arquitetura Hyena utiliza convoluções rápidas e um sistema de controle, permitindo que o Hyena Edge funcione bem em smartphones sem perder qualidade. A empresa busca criar modelos de inteligência artificial mais dinâmicos e eficientes, desafiando a dominância dos Transformers no campo da IA.
A Liquid AI, empresa fundada em 2022 a partir de pesquisas no MIT, lançou a nova família Hyena Edge. Essa arquitetura inovadora promete processar sequências longas de forma mais rápida e eficiente, especialmente em dispositivos menores, sem depender do mecanismo de atenção.
Os modelos de atenção, que tornaram os Transformers populares, apresentam limitações em escalabilidade. À medida que as sequências aumentam, o desempenho dos modelos tende a cair, aumentando o consumo de memória e os custos computacionais. A Liquid AI busca superar essas barreiras, desenvolvendo um sistema que processa sequências longas como um sinal em evolução, mantendo a estabilidade e a consciência contextual.
A nova abordagem da Liquid AI, chamada Liquid Foundation Models (LFMs), se destaca por sua adaptabilidade contínua, mesmo após o treinamento. Esses modelos são projetados para lidar com dados sequenciais e dependentes do tempo, como vídeos e conversas longas, de maneira mais eficiente. A arquitetura Hyena, que substitui a atenção por convoluções rápidas e mecanismos de controle, foi adaptada para a versão Hyena Edge, que opera eficientemente em dispositivos móveis sem comprometer a qualidade.
O cofundador Ramin Hasani e sua equipe desenvolveram as Liquid Neural Networks (LNNs), que demonstraram ser capazes de modelar padrões complexos e interpretar decisões de forma mais clara. A Liquid AI, ao focar em princípios inovadores, pretende oferecer uma alternativa viável aos modelos tradicionais, que se tornaram obsoletos devido à sua rigidez e alto consumo de recursos.
Entre na conversa da comunidade