Projeto Automaise Sustainable AI Platform 

Quando pensamos em Inteligência Artificial, imaginamos máquinas que aprendem, assistentes que respondem em segundos, sistemas que tomam decisões mais rápidas do que qualquer humano. O que raramente imaginamos é a fatura energética que existe por trás de tudo isso.

Treinar um modelo de linguagem de grande dimensão (LLMs), como os que alimentam os assistentes de voz e os chatbots modernos, pode emitir até 285 toneladas de CO₂. Para ter uma referência: um carro, durante toda a sua vida útil, emite cerca de 58 toneladas. Um único modelo de IA pode, portanto, equivaler a cinco carros em emissões, e isso antes de sequer ser colocado em produção.

É perante este cenário que estamos a desenvolver o Green LLM Engine: um módulo inovador que coloca a eficiência energética no centro do processo de desenvolvimento de soluções de IA.

O que é o Green LLM Engine?

O LLM Engine é o motor central da nossa plataforma. É ele que seleciona, treina e otimiza os modelos de linguagem utilizados nas soluções desenvolvidas para os nossos clientes, desde assistentes de voz em contact centers até sistemas de helpdesk interno.

O Green LLM Engine é uma evolução profunda desse motor. A diferença fundamental: as emissões de carbono passam a ser um critério de otimização, a par da precisão e do desempenho.

Na prática, isto significa que, quando o sistema está a escolher o melhor modelo para um determinado caso de uso, passa também a perguntar: qual o custo ambiental desta escolha? E ajusta automaticamente a decisão para minimizar esse impacto, sem sacrificar a qualidade da solução.

Como funciona?

O Green LLM Engine atua em três momentos-chave do ciclo de vida de um modelo de IA:

1. Pré-treino — A fase em que o modelo aprende a partir de grandes volumes de dados. É a mais exigente computacionalmente e, por isso, a que mais emissões gera. O Green LLM Engine introduz mecanismos para reduzir esta dependência, nomeadamente através de técnicas de meta-learning que permitem ao sistema aprender mais com menos dados.

   
   

2. Fine-tuning — O processo de afinar o modelo para um contexto específico (por exemplo, o vocabulário e os processos de uma empresa de seguros). Técnicas como LoRA e QLoRA permitem fazer este ajuste de forma muito mais eficiente do ponto de vista computacional.

   
   

3. Inferência — O momento em que o modelo está em produção e responde a pedidos em tempo real. Cerca de 80% da energia consumida por um modelo de IA ao longo da sua vida ocorre nesta fase. O Green LLM Engine reduz a complexidade dos modelos (o seu número de parâmetros) tornando-os mais rápidos e menos dispendiosos a operar.

O que esperamos alcançar?

O objetivo é ambicioso mas concreto:

• Redução de pelo menos 40% nas emissões de carbono associadas ao pré-treino, fine-tuning e inferência dos modelos LLM na nossa plataforma.
  
  

• Redução de pelo menos 30% na complexidade dos modelos, o que se traduz em menor latência e custos de infraestrutura mais baixos.
  
  

• Redução de pelo menos 20% no tempo de resposta dos modelos, um fator crítico para aplicações de voz em tempo real.
  
  

Para os nossos clientes, isto significa soluções mais rápidas, mais baratas de operar e com uma pegada carbónica significativamente menor.

Porque é que isto importa agora?

O mercado global de IA deverá atingir 422 mil milhões de dólares em 2028. Se esta expansão continuar a ser alimentada por modelos cada vez maiores e mais exigentes, o impacto ambiental será considerável. A comunidade científica e os reguladores europeus já estão a levantar esta questão, e as empresas que anteciparem a transição para uma IA mais eficiente estarão melhor posicionadas no mercado.

O Green LLM Engine não é apenas uma aposta na sustentabilidade. É uma vantagem competitiva real.

O Green LLM Engine é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Nos próximos artigos, apresentamos o Data-Centric Sampler e o AI Carbon Emissions Calculator.