Se o teu fornecedor de IA desligar amanhã, consegues mudar?

▶ 0:00 Desligado três dias depois do lançamento

No dia 9 de junho a Anthropic, a empresa do Claude lançou o Fable 5, o seu modelo mais avançado. 3 dias depois teve de o desligar, para todos os clientes de um momento para o outro. E não foi uma avaria nem foi uma decisão comercial, foi 1 ordem do governo dos Estados Unidos por razões segurança nacional. O investigador da RAND Europe resumiu o episódio num frase, ficou à vista quem tem o botão desligar e como é fácil carregar nele.

Hoje falamos da soberania e inteligência artificial, é uma palavra que anda nos discursos de governos e de alguns fornecedores. Mas há uma pergunta que a torna útil para qualquer empresa, se o teu fornecedor de IA desligar amanhã, consegues mudar? Olá, sejam bem-vindos a mais um episódio do IA sem ruído. Eu sou o Diogo e esta é a nossa 2º análise.

Ora, na análise pegamos num tema que anda aí no ar e tiramos-lhe todo o ruído. Perceber o que é que é, o que é que muda e o que é que podemos fazer com isso.

▶ 1:03 O que aconteceu em junho

Ora, o que aconteceu em junho? Ok? Vamos começar pela história porque ela explica o resto. A 9 de junho a Anthropic lançou o Fable 5.

A 12 de junho recebeu uma diretiva do governo norte-americano, o modelo não podia ser usado por cidadãos estrangeiros dentro ou fora dos Estados Unidos. Para cumprir a ordem, a empresa desligou o modelo para todos os clientes, incluindo os americanos, e disse publicamente que discordava e que se tratava de um mal-entendido. Os modelos anteriores da empresa continuaram todos a funcionar e o acesso voltou a 1 de julho, quase 3 semanas depois. Mas voltou diferente.

Na 1º semana, nos planos de subscrição, o Fable Sing só podia gastar até metade do limite semanal de utilização. E entraram com filtros novos e alguns pedidos feitos ao modelo passaram a ser bloqueados e respondidos por modelo anterior. E o governo deixou claro uma coisa, que pode voltar a impor esta restrição. Agora imagina, que isto acontecia ao modelo em que assenta um processo teu.

Tivesses uma alternativa testada, mudavas e seguias, porque havia outros modelos comparáveis e disponíveis. Se não tivesses, ficavas à espera de uma decisão que não dependia de ti. E a ilação é simples. O modelo que usas através de um fornecedor é uma capacidade alugada.

Pode ser retirada e quando volta pode não voltar com as mesmas regras.

▶ 2:20 Não é preciso um governo: preços e modelos que mudam

Não é preciso um governo, ok? O caso de junho é um bocado extremista, mas a dependência nota-se em coisas muito mais banais. Os preços mudam. Em setembro, a Anthropic e a OpenAI lançaram no mesmo dia, com uma diferença de hora e meia, modelos bastante mais baratos do que os anteriores.

Falámos disso no 1º episódio. Só aproveita essa descida quem consegue mudar de modelo sem refazer tudo. Os modelos também mudam por dentro, cada versão comporta-se de uma forma ligeiramente diferente. Um exemplo, a UpStart, uma empresa americana de crédito, pôs um bot de voz a fazer parte das chamadas de verificação dos pedidos de crédito.

E contou-me numa palestra, que pelo caminho mudou 2 vezes de fornecedor de modelo. E que passado uns meses, portanto eles já tinham escolhido, passado uns meses, depois do bot estar a funcionar, o modelo começou a pôr imagens no meio das respostas sem nenhum aviso. Ora, a lição cabe num frase, os modelos mudam sem dizer nada, e quem não mede, não dá por isso.

▶ 3:18 O trabalho que pões nos assistentes

Há 1 3º dependência um bocadinho menos óbvia. Ora, o trabalho que pões nos teus assistentes. Para um assistente de a ser útil, tens de lhe ensinar como é que ele vai trabalhar. Escreves as instruções, dá-lhes os documentos e exemplos, e vais afinando até as respostas ficarem como tu queres.

Isso dá trabalho. Agora, imagina que a tua empresa tem 25 assistentes montados no ChatGPT, cada um com as suas instruções e os seus documentos. Amanhã queres ou precisas de passar para outro fornecedor, consegues levar isso contigo? É que muitas vezes não há forma simples de exportar tudo de um só vez, e acabas por reconstruir cada assistente à mão.

▶ 3:57 O que são modelos de pesos abertos

Uma das respostas em cima da mesa são os modelos de peso aberto. Mas o que é que é isto ao certo? Então, os modelos como o ChatGPT ou o Cloud só os usas pela internet, o modelo está nos servidores do fornecedor, e tu envias-lhes pedido. Ora, no modelo de peso aberto, o fornecedor publica o próprio modelo já treinado para qualquer pessoa o poder descarregar.

Os pesos são esses ficheiros, milhares de milhões de números que guardam tudo o que o modelo aprendeu. E com eles, podes instalar o modelo nos teus servidores, adaptá-lo e usá-lo sem depender de ninguém, obviamente dentro do que a licença permitir. Mas os pesos abertos, atenção, não são código aberto, Recebes o modelo pronto a usar, mas normalmente não sabes com que dados é que ele foi treinado, nem tens a receita para voltar a fazer. É como se recebesse um programa já instalado e sem o código fonte.

▶ 4:48 Mistral Large 4 e os dois cuidados

Então, sobre este tema, na semana passada a francesa Mistral, a empresa europeia mais conhecida nesta área, apresentou o Mistral Large 4, o seu novo modelo principal, e prometeu publicar estes pesos até ao fim de outubro. Se o fizer, qualquer empresa o pode descarregar e pôr a correr nos seus servidores. E aí, ao contrário do que aconteceu em junho, ninguém pode desligar à distância. E a Mistral apresenta-o como o modelo criado para a soberania europeia, ok?

Parece a solução perfeita, principalmente para nós europeus, mas há 2 cuidados. O 1º, ter os pesos não é o mesmo que conseguir pôr o modelo a funcionar. O Mistral Large 4 é tão grande que não consegue correr em um computador normal. Precisa de processadores avançados, energia, uma equipa que o mantenha.

Mas atenção, até este modelo europeu foi treinado com processadores da norte-americana NVIDIA. Soberania não é autossuficiência, o objetivo é gerires as dependências e não fingires que elas desaparecem. Então, o 2º, descarregar o modelo é grátis, pô-la trabalhar não é. Quando usas um modelo de fornecedor, pagas conforme o uso e o custo aparece todos os meses na fatura dele.

Quando instalas um modelo aberto nos teus servidores, essa fatura desaparece efetivamente, mas passas a pagar as máquinas, a energia, a segurança e as pessoas que tratam disso. A comparação certa é o custo total das 2 opções como nós vimos no 1º episódio.

▶ 6:15 Escolher sempre o maior modelo

E há outro hábito que cria esta dependência também, ok? É escolher sempre o maior modelo disponível, para essa solução mais segura. Se é o melhor, não há que falhar. Mas muitas vezes é só uma forma de nós não decidirmos.

Escolher o maior modelo poupa efetivamente o trabalho de definir o que é que a tarefa precisa e testar algumas alternativas, mas essa indecisão vai-se pagar a cada utilização. O modelo maior é mais caro, é mais lento e só existe nas mãos de poucos fornecedores.

▶ 6:43 O teste da Zapier

E maior nem sempre quer dizer melhor. O presidente executivo da Zapier, uma empresa de automação, partilhou um teste com 657 tarefas reais de finanças, recursos humanos, vendas e apoio ao cliente. Comparou 3 modelos, o Gemini 3.6, flash da Google, o mais barato de todos, resolveu cerca de 20% das tarefas a 58 cêntimos o dólar cada 1. O GPT 5.6 da OpenAI, resolveu 18% a cerca de um dólar.

E o Fable 5 da Antropic ficou nos 17 por 100 a 2 dólares por tarefa. Os 2 mais caros estavam no modo máximo de raciocínio. E é um teste difícil e efetivamente nenhum conseguiu chegar a 1 5º das tarefas, mas o mais barato foi o que se deu melhor. Por isso a regra mais sensata é usares o modelo mais pequeno que faça a tarefa com qualidade, segurança e um custo sustentável.

▶ 7:35 Como a Uber escolhe os modelos

Agora, como é que fazemos isto na prática? É aqui que entra a Uber. Então, este ano a Uber incentivou os seus engenheiros a usar o máximo possível as ferramentas de IA para escrever e rever o código. A adesão foi tanta que o diretor de tecnologia acabou por admitir que em março já tinham esgotado o orçamento de IA.

Mas a Uber não quis colocar aqui um travão nisto. Ora, queria ainda mais engenheiros a usar, IA, mas também não queria pagar a conta. Por isso, o que é que eles fizeram? Mudou a forma de escolher os modelos.

1º, a Uber criou um exame para cada ferramenta, feito com trabalho real. Ora, na ferramenta que revê código, o exame são alterações de código antigas, que eles já sabiam o que é que estava errado, portanto, corrigir umas mais fáceis, outras médias, outras mais difíceis. Depois montou uma espécie de bancada de testes, onde qualquer modelo pode ser ligado e fazer exatamente o mesmo exame, nas mesmas condições. Para cada modelo, mede-se se encontra os erros verdadeiros, quantos falsos alarmes dá e quanto custa cada revisão e quanto tempo demora.

A regra é simples, se o modelo mais barato tem o mesmo resultado, passa a ser esse o modelo usado. Nas tarefas pequenas e bem definidas, o Uber passou mesmo a usar modelos mais baratos por defeito. E diz que isto foi uma das mudanças que mais fizeram poupar dinheiro. Ao mesmo tempo, tomou outras medidas, ora passou em enviar menos texto ao modelo em cada pedido, e pôs cada engenheiro a ver em real time quanto é que ele está a gastar.

O resultado, segundo a newsletter do departamento of product, entre fevereiro a agosto, o número de engenheiros a usar estas ferramentas todas as semanas multiplicou-se por mais de 7, e a despesa total ficou praticamente igual.

▶ 9:15 O melhor indicador de soberania

Agora repara no que é que isto quer dizer para o nosso tema. Para isto a Uber não precisou de ter o seu modelo, e mesmo assim, tem nas mãos uma coisa que muitas empresas não têm. Quando sai um modelo novo ou um fornecedor muda o preço, consegue testá-los no seu próprio exame e decidir se troca ou não se troca. Quem decide é o Uber, não é o fornecedor.

E é por isso que para mim, o melhor indicador de soberania de uma empresa não é a localização do servidor nem a nacionalidade do fornecedor, é a capacidade de substituição. Tens controlo quando consegues fazer pelo menos 3 coisas. Testar o modelo de forma independente, perceber quando é que ele mudou levar os teus dados e os teus testes para outra solução e continuar a trabalhar se o contrato acabar.

▶ 9:58 Portugal: nuvem soberana e centros de dados

Agora, em Portugal, o que é que podemos analisar e perceber o que é que está a acontecer em Portugal? Então, a palavra soberania também entrou no nosso discurso. Na semana passada, o ministro-adjunto de da reforma do estado, Gonçalo Saraiva Matias, esteve num fórum em Lisboa, falou de um nuvem soberana para manter os dados e os serviços em ambientes seguros, mas falou também da ambição de Portugal integrar uma giga fábrica europeia de inteligência artificial, ou seja, um grande centro de computação para treinar modelos.

E disse que, a questão é saber se Portugal vai produzir valor com esta tecnologia ou limitar-se a consumi-la. Ao mesmo tempo, a AICEP, divulgou um estudo promovido por empresas do setor que coloca Lisboa, como Madrid e Barcelona, num polivérico de centros de dados. Só em Lisboa este estudo prevê mais de 12000 milhões de euros investidos até 2030. Ora, a infraestrutura é importante e cria mais opções, mas alojar servidores em Portugal não é o mesmo que controlar a tecnologia.

Um centro de dados em Lisboa pode correr chips americanos e modelos geridos a partir de outro país. A proximidade ajuda, mas não resolve sozinha a tua dependência.

▶ 11:08 O que podes fazer já

Então, o que é que podemos fazer já? Antes de assinares um contrato faz 3 perguntas. Como é que o fornecedor te avisa quando muda ou retira 1 modelo? Consegues exportar os registos e as tuas configurações?

E o que acontece aos teus dados se o fornecedor for comprado ou falir? Depois, não aproves e esquece das coisas. Portanto, termos mudam, por isso vale a pena de vez em quando ires rever o contrato e perceber os termos que estão lá escritos. Agora, a seguir, guarda do teu lado o que já ensinaste aos teus assistentes.

As instruções, os documentos que eles usam, é isto que te permite levar o trabalho para o outro lado se assim precisares. E faz como a Uber, em ponto pequenito, se calhar. Escolhe um processo real e cria um exame com casos que já conheces. Põe pelo menos 2 alternativas a fazê-lo e mede a qualidade, o custo total e o esforço de trocar.

Se mudar o modelo te obrigar a reconstruir a aplicação toda, bad news my friend, tens uma dependência criada.

▶ 12:10 Fecho

Então, os modelos de peso aberto dão mais opções às empresas e isso é valioso, mas não trazem soberania instantânea, nem acabam com os fornecedores custos ou riscos. Nas próximas semanas vale a pena ver se a Mistral publica mesmo estes pesos, e com que licença. E perceber porque a verdadeira mudança não vai acontecer quando houver mais modelos disponíveis, vai acontecer quando as empresas conseguirem trocar estes modelos sem recomeçar do 0. Obrigado por teres ouvido, até ao próximo episódio.