Open Weights não é Open Training

Open weights não é open source, é um atalho com riscos. Modelos como Llama 3 e Gemma 2 liberam pesos, mas escondem os dados de treinamento, os scripts de curadoria, os logs de experimentação e até a arquitetura exata usada no treino final. Isso bloqueia auditoria real: você pode rodar o modelo, mas não saberá se ele foi treinado com dados ilegais, se contém backdoors ou se reproduz vieses sistêmicos que só aparecem em cenários específicos. A OSI já deixou claro que 'open training' exige transparência total, e isso ainda não existe em escala.

O débito técnico não é só código quebrado. É infraestrutura mal documentada, modelos com menos de quatro meses de vida exigindo atualizações sem suporte, PRs geradas por IA que introduzem 1,7× mais bugs e 45% de falhas de segurança reais. Em 2026, até 20% das pull requests em projetos críticos são 'AI slop', sobrecarregando mantenedores que já operam com déficit crônico de tempo e recursos. O stack atual não é apenas frágil, é insustentável como base para inovação democrática.

A distinção entre open weights e open training define quem realmente controla a evolução da IA. Se só os pesos forem abertos, grandes empresas continuam detendo o poder de treinar, auditar e iterar, enquanto desenvolvedores, pesquisadores e governos ficam com cópias estáticas, incapazes de verificar ou melhorar o que usam. Isso mina iniciativas de soberania tecnológica, regulação efetiva e mitigação de riscos. Sem open training, 'IA ética' vira marketing, não prática.