Compete 2030
Plataforma de IA Sustentável da Automaise
Automaise Sustainable AI Platform:
Descrição do Projeto
Automaise Sustainable AI Platform:
Green LLM Engine
Projeto Automaise Sustainable AI Platform
Quando pensamos em Inteligência Artificial, imaginamos máquinas que aprendem, assistentes que respondem em segundos, sistemas que tomam decisões mais rápidas do que qualquer humano. O que raramente imaginamos é a fatura energética que existe por trás de tudo isso.
Treinar um Large Language Model (LLM), como os que alimentam os assistentes de voz e os chatbots modernos, pode emitir até 285 toneladas de CO₂. Para ter uma referência: um carro, durante toda a sua vida útil, emite cerca de 58 toneladas. Um único modelo de IA pode, portanto, equivaler a cinco carros em emissões, e isso antes de sequer ser colocado em produção.
É perante este cenário que estamos a desenvolver o Green LLM Engine: um módulo inovador que coloca a eficiência energética no centro do processo de desenvolvimento de soluções de IA.
O que é o Green LLM Engine?
O LLM Engine é o motor central da nossa plataforma. É ele que seleciona, treina e otimiza os modelos de linguagem utilizados nas soluções desenvolvidas para os nossos clientes, desde assistentes de voz em contact centers até sistemas de helpdesk interno.
O Green LLM Engine é uma evolução profunda desse motor. A diferença fundamental: as emissões de carbono passam a ser um critério de otimização, a par da precisão e do desempenho.
Na prática, isto significa que, quando o sistema está a escolher o melhor modelo para um determinado caso de uso, passa também a perguntar: qual o custo ambiental desta escolha? E ajusta automaticamente a decisão para minimizar esse impacto, sem sacrificar a qualidade da solução.
Como funciona?
O Green LLM Engine atua em três momentos-chave do ciclo de vida de um modelo de IA:
Pré-treino — A fase em que o modelo aprende a partir de grandes volumes de dados. É a mais exigente computacionalmente e, por isso, a que mais emissões gera. O Green LLM Engine introduz mecanismos para reduzir esta dependência, nomeadamente através de técnicas de meta-learning que permitem ao sistema aprender mais com menos dados.
Fine-tuning — O processo de afinar o modelo para um contexto específico (por exemplo, o vocabulário e os processos de uma empresa de seguros). Técnicas como LoRA e QLoRA permitem fazer este ajuste de forma muito mais eficiente do ponto de vista computacional.
Inferência — O momento em que o modelo está em produção e responde a pedidos em tempo real. Cerca de 80% da energia consumida por um modelo de IA ao longo da sua vida ocorre nesta fase. O Green LLM Engine reduz a complexidade dos modelos (o seu número de parâmetros) tornando-os mais rápidos e menos dispendiosos a operar.
O que esperamos alcançar?
O objetivo é ambicioso mas concreto:
Redução de pelo menos 40% nas emissões de carbono associadas ao pré-treino, fine-tuning e inferência dos modelos LLM na nossa plataforma.
Redução de pelo menos 30% na complexidade dos modelos, o que se traduz em menor latência e custos de infraestrutura mais baixos.
Redução de pelo menos 20% no tempo de resposta dos modelos, um fator crítico para aplicações de voz em tempo real.
Para os nossos clientes, isto significa soluções mais rápidas, mais fáceis de operar e com uma pegada carbónica significativamente menor.
Porque é que isto importa agora?
O mercado global de IA deverá atingir 422 mil milhões de dólares em 2028. Se esta expansão continuar a ser alimentada por modelos cada vez maiores e mais exigentes, o impacto ambiental será considerável. A comunidade científica e os reguladores europeus já estão a levantar esta questão, e as empresas que anteciparem a transição para uma IA mais eficiente estarão melhor posicionadas no mercado.
O Green LLM Engine não é apenas uma aposta na sustentabilidade. É uma vantagem competitiva real.
O Green LLM Engine é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Nos próximos artigos, apresentamos o Data-Centric Sampler e o AI Carbon Emissions Calculator.
Automaise Sustainable AI Platform:
Data-Centric Sampler
Projeto Automaise Sustainable AI Platform
Quando pensamos em Inteligência Artificial, imaginamos máquinas que aprendem, assistentes que respondem em segundos, sistemas que tomam decisões mais rápidas do que qualquer humano. O que raramente imaginamos é a fatura energética que existe por trás de tudo isso.
Treinar um Large Language Model (LLM), como os que alimentam os assistentes de voz e os chatbots modernos, pode emitir até 285 toneladas de CO₂. Para ter uma referência: um carro, durante toda a sua vida útil, emite cerca de 58 toneladas. Um único modelo de IA pode, portanto, equivaler a cinco carros em emissões, e isso antes de sequer ser colocado em produção.
É perante este cenário que estamos a desenvolver o Green LLM Engine: um módulo inovador que coloca a eficiência energética no centro do processo de desenvolvimento de soluções de IA.
O que é o Green LLM Engine?
O LLM Engine é o motor central da nossa plataforma. É ele que seleciona, treina e otimiza os modelos de linguagem utilizados nas soluções desenvolvidas para os nossos clientes, desde assistentes de voz em contact centers até sistemas de helpdesk interno.
O Green LLM Engine é uma evolução profunda desse motor. A diferença fundamental: as emissões de carbono passam a ser um critério de otimização, a par da precisão e do desempenho.
Na prática, isto significa que, quando o sistema está a escolher o melhor modelo para um determinado caso de uso, passa também a perguntar: qual o custo ambiental desta escolha? E ajusta automaticamente a decisão para minimizar esse impacto, sem sacrificar a qualidade da solução.
Como funciona?
O Green LLM Engine atua em três momentos-chave do ciclo de vida de um modelo de IA:
Pré-treino — A fase em que o modelo aprende a partir de grandes volumes de dados. É a mais exigente computacionalmente e, por isso, a que mais emissões gera. O Green LLM Engine introduz mecanismos para reduzir esta dependência, nomeadamente através de técnicas de meta-learning que permitem ao sistema aprender mais com menos dados.
Fine-tuning — O processo de afinar o modelo para um contexto específico (por exemplo, o vocabulário e os processos de uma empresa de seguros). Técnicas como LoRA e QLoRA permitem fazer este ajuste de forma muito mais eficiente do ponto de vista computacional.
Inferência — O momento em que o modelo está em produção e responde a pedidos em tempo real. Cerca de 80% da energia consumida por um modelo de IA ao longo da sua vida ocorre nesta fase. O Green LLM Engine reduz a complexidade dos modelos (o seu número de parâmetros) tornando-os mais rápidos e menos dispendiosos a operar.
O que esperamos alcançar?
O objetivo é ambicioso mas concreto:
Redução de pelo menos 40% nas emissões de carbono associadas ao pré-treino, fine-tuning e inferência dos modelos LLM na nossa plataforma.
Redução de pelo menos 30% na complexidade dos modelos, o que se traduz em menor latência e custos de infraestrutura mais baixos.
Redução de pelo menos 20% no tempo de resposta dos modelos, um fator crítico para aplicações de voz em tempo real.
Para os nossos clientes, isto significa soluções mais rápidas, mais fáceis de operar e com uma pegada carbónica significativamente menor.
Porque é que isto importa agora?
O mercado global de IA deverá atingir 422 mil milhões de dólares em 2028. Se esta expansão continuar a ser alimentada por modelos cada vez maiores e mais exigentes, o impacto ambiental será considerável. A comunidade científica e os reguladores europeus já estão a levantar esta questão, e as empresas que anteciparem a transição para uma IA mais eficiente estarão melhor posicionadas no mercado.
O Green LLM Engine não é apenas uma aposta na sustentabilidade. É uma vantagem competitiva real.
O Green LLM Engine é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Nos próximos artigos, apresentamos o Data-Centric Sampler e o AI Carbon Emissions Calculator.
Um contributo para a comunidade
Comprometemo-nos a lançar o Data-Centric Sampler como uma biblioteca Python de código aberto, compatível com a popular biblioteca Pandas. Isto significa que qualquer equipa de ciência de dados, em qualquer parte do mundo, poderá beneficiar desta investigação, sem barreiras de acesso.
Acreditamos que tornar a IA mais eficiente é um bem público. E que partilhar o conhecimento desenvolvido é parte integrante desta missão.
O Data-Centric Sampler é um dos três módulos do projeto Automaise Sustainable AI Platform, cofinanciado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. No próximo artigo, apresentamos o AI Carbon Emissions Calculator, a ferramenta que mede a pegada de carbono das soluções de IA antes mesmo de estas serem desenvolvidas.
Automaise Sustainable AI Platform:
Calculadora de Emissões de Carbono de IA
Projeto Automaise Sustainable AI Platform
Quando pensamos em Inteligência Artificial, imaginamos máquinas que aprendem, assistentes que respondem em segundos, sistemas que tomam decisões mais rápidas do que qualquer humano. O que raramente imaginamos é a fatura energética que existe por trás de tudo isso.
Treinar um Large Language Model (LLM), como os que alimentam os assistentes de voz e os chatbots modernos, pode emitir até 285 toneladas de CO₂. Para ter uma referência: um carro, durante toda a sua vida útil, emite cerca de 58 toneladas. Um único modelo de IA pode, portanto, equivaler a cinco carros em emissões, e isso antes de sequer ser colocado em produção.
É perante este cenário que estamos a desenvolver o Green LLM Engine: um módulo inovador que coloca a eficiência energética no centro do processo de desenvolvimento de soluções de IA.
O que é o Green LLM Engine?
O LLM Engine é o motor central da nossa plataforma. É ele que seleciona, treina e otimiza os modelos de linguagem utilizados nas soluções desenvolvidas para os nossos clientes, desde assistentes de voz em contact centers até sistemas de helpdesk interno.
O Green LLM Engine é uma evolução profunda desse motor. A diferença fundamental: as emissões de carbono passam a ser um critério de otimização, a par da precisão e do desempenho.
Na prática, isto significa que, quando o sistema está a escolher o melhor modelo para um determinado caso de uso, passa também a perguntar: qual o custo ambiental desta escolha? E ajusta automaticamente a decisão para minimizar esse impacto, sem sacrificar a qualidade da solução.
Como funciona?
O Green LLM Engine atua em três momentos-chave do ciclo de vida de um modelo de IA:
Pré-treino — A fase em que o modelo aprende a partir de grandes volumes de dados. É a mais exigente computacionalmente e, por isso, a que mais emissões gera. O Green LLM Engine introduz mecanismos para reduzir esta dependência, nomeadamente através de técnicas de meta-learning que permitem ao sistema aprender mais com menos dados.
Fine-tuning — O processo de afinar o modelo para um contexto específico (por exemplo, o vocabulário e os processos de uma empresa de seguros). Técnicas como LoRA e QLoRA permitem fazer este ajuste de forma muito mais eficiente do ponto de vista computacional.
Inferência — O momento em que o modelo está em produção e responde a pedidos em tempo real. Cerca de 80% da energia consumida por um modelo de IA ao longo da sua vida ocorre nesta fase. O Green LLM Engine reduz a complexidade dos modelos (o seu número de parâmetros) tornando-os mais rápidos e menos dispendiosos a operar.
O que esperamos alcançar?
O objetivo é ambicioso mas concreto:
Redução de pelo menos 40% nas emissões de carbono associadas ao pré-treino, fine-tuning e inferência dos modelos LLM na nossa plataforma.
Redução de pelo menos 30% na complexidade dos modelos, o que se traduz em menor latência e custos de infraestrutura mais baixos.
Redução de pelo menos 20% no tempo de resposta dos modelos, um fator crítico para aplicações de voz em tempo real.
Para os nossos clientes, isto significa soluções mais rápidas, mais fáceis de operar e com uma pegada carbónica significativamente menor.
Porque é que isto importa agora?
O mercado global de IA deverá atingir 422 mil milhões de dólares em 2028. Se esta expansão continuar a ser alimentada por modelos cada vez maiores e mais exigentes, o impacto ambiental será considerável. A comunidade científica e os reguladores europeus já estão a levantar esta questão, e as empresas que anteciparem a transição para uma IA mais eficiente estarão melhor posicionadas no mercado.
O Green LLM Engine não é apenas uma aposta na sustentabilidade. É uma vantagem competitiva real.
O Green LLM Engine é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Nos próximos artigos, apresentamos o Data-Centric Sampler e o AI Carbon Emissions Calculator.
Rumo a uma IA mais responsável
A adoção de IA está a crescer a um ritmo sem precedentes. O mercado global deverá atingir 422 mil milhões de dólares em 2028. Esta expansão é, em grande medida, positiva, mas só será sustentável se as ferramentas que a suportam forem desenhadas com consciência do seu impacto ambiental.
O AI Carbon Emissions Calculator é a nossa resposta a este desafio: dar às organizações a visibilidade e o controlo de que precisam para desenvolver IA de forma mais responsável. Tal como os outros módulos do projeto, será disponibilizado como uma biblioteca Python de código aberto, para que qualquer equipa de desenvolvimento de IA possa beneficiar desta ferramenta, independentemente da plataforma que utiliza.
O AI Carbon Emissions Calculator é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Os outros dois módulos, o Green LLM Engine e o Data-Centric Sampler, foram apresentados nos artigos anteriores desta série.
Automaise Sustainable AI Platform:
Na imprensa
Quando pensamos em Inteligência Artificial, imaginamos máquinas que aprendem, assistentes que respondem em segundos, sistemas que tomam decisões mais rápidas do que qualquer humano. O que raramente imaginamos é a fatura energética que existe por trás de tudo isso.
Treinar um Large Language Model (LLM), como os que alimentam os assistentes de voz e os chatbots modernos, pode emitir até 285 toneladas de CO₂. Para ter uma referência: um carro, durante toda a sua vida útil, emite cerca de 58 toneladas. Um único modelo de IA pode, portanto, equivaler a cinco carros em emissões, e isso antes de sequer ser colocado em produção.
É perante este cenário que estamos a desenvolver o Green LLM Engine: um módulo inovador que coloca a eficiência energética no centro do processo de desenvolvimento de soluções de IA.
O que é o Green LLM Engine?
O LLM Engine é o motor central da nossa plataforma. É ele que seleciona, treina e otimiza os modelos de linguagem utilizados nas soluções desenvolvidas para os nossos clientes, desde assistentes de voz em contact centers até sistemas de helpdesk interno.
O Green LLM Engine é uma evolução profunda desse motor. A diferença fundamental: as emissões de carbono passam a ser um critério de otimização, a par da precisão e do desempenho.
Na prática, isto significa que, quando o sistema está a escolher o melhor modelo para um determinado caso de uso, passa também a perguntar: qual o custo ambiental desta escolha? E ajusta automaticamente a decisão para minimizar esse impacto, sem sacrificar a qualidade da solução.
Como funciona?
O Green LLM Engine atua em três momentos-chave do ciclo de vida de um modelo de IA:
Pré-treino — A fase em que o modelo aprende a partir de grandes volumes de dados. É a mais exigente computacionalmente e, por isso, a que mais emissões gera. O Green LLM Engine introduz mecanismos para reduzir esta dependência, nomeadamente através de técnicas de meta-learning que permitem ao sistema aprender mais com menos dados.
Fine-tuning — O processo de afinar o modelo para um contexto específico (por exemplo, o vocabulário e os processos de uma empresa de seguros). Técnicas como LoRA e QLoRA permitem fazer este ajuste de forma muito mais eficiente do ponto de vista computacional.
Inferência — O momento em que o modelo está em produção e responde a pedidos em tempo real. Cerca de 80% da energia consumida por um modelo de IA ao longo da sua vida ocorre nesta fase. O Green LLM Engine reduz a complexidade dos modelos (o seu número de parâmetros) tornando-os mais rápidos e menos dispendiosos a operar.
O que esperamos alcançar?
O objetivo é ambicioso mas concreto:
Redução de pelo menos 40% nas emissões de carbono associadas ao pré-treino, fine-tuning e inferência dos modelos LLM na nossa plataforma.
Redução de pelo menos 30% na complexidade dos modelos, o que se traduz em menor latência e custos de infraestrutura mais baixos.
Redução de pelo menos 20% no tempo de resposta dos modelos, um fator crítico para aplicações de voz em tempo real.
Para os nossos clientes, isto significa soluções mais rápidas, mais fáceis de operar e com uma pegada carbónica significativamente menor.