CEVIU Logo
Voltar
Diffusing Blame: Aprendizado com Restrição de Dale Sem Transporte de Pesos

Sakana AI Apresenta 'Diffusing Blame': Um Salto em Redes Neurais Biologicamente Plausíveis

Aprofundamento CEVIU

Aprofundamento

A técnica 'Diffusing Blame' da Sakana AI representa um avanço significativo na busca por redes neurais mais alinhadas com a biologia cerebral. O ponto central é a estrita obediência ao Princípio de Dale, uma regra fundamental em neurociência que estabelece que cada neurônio real é predominantemente excitatório ou inibitório. Redes neurais artificiais convencionais ignoram isso, permitindo que uma única unidade misture pesos de saída positivos e negativos, o que não ocorre na biologia.

Além de Dale, 'Diffusing Blame' ataca o problemático “problema de transporte de pesos”, inerente à retropropagação (backpropagation). Este problema exige cópias transpostas exatas dos pesos da camada de propagação direta para o cálculo do gradiente, algo que a biologia não parece reproduzir. A solução da Sakana AI, baseada na Difusão de Erro, usa fluxos excitatórios e inibitórios separados com matrizes de pesos não negativos, eliminando a necessidade de transportar pesos de volta pela rede, o que sugere um caminho para regras de aprendizado mais eficientes e biologicamente plausíveis, tanto em classificação de imagens quanto em aprendizado por reforço.

O que mudou

A Sakana AI, em maio de 2026, já apontava que a dependência da retropropagação de ponta a ponta para treinar redes neurais profundas estava atingindo limites de recursos, explorando métodos para “dividir a rede em blocos e treiná-los independentemente”. Agora, 'Diffusing Blame' oferece uma solução concreta que se encaixa nessa visão. A técnica resolve o problema do transporte de pesos, uma das principais barreiras da retropropagação, e o faz com um método de aprendizado local que não exige que a rede inteira esteja na memória. Isso evolui a proposta inicial de treinamento modular para uma regra de aprendizado específica que é mais plausível biologicamente e potencialmente mais escalável.

Este trabalho complementa a recente demonstração da Sakana AI dos 'Smart Cellular Bricks', apresentada em 14 de julho de 2026. Enquanto os 'Bricks' focam na inteligência coletiva em hardware e comunicação local entre módulos físicos, 'Diffusing Blame' aprofunda a pesquisa em regras de aprendizado local que poderiam, em tese, ser implementadas em sistemas modulares ou celulares, reforçando a linha de pesquisa da empresa em IA inspirada na biologia.

Por que isso importa

Esta pesquisa é crucial porque desafia o paradigma dominante da retropropagação, que, apesar de eficaz, enfrenta limitações fundamentais em termos de plausibilidade biológica, consumo de recursos e escalabilidade. Desenvolver regras de aprendizado que respeitem princípios como o de Dale e que evitem o problema do transporte de pesos pode abrir caminho para IAs mais eficientes, capazes de aprender com menos dados e energia, e que operem de forma mais análoga ao cérebro humano. Isso pode revolucionar desde o treinamento de modelos em dispositivos embarcados até a arquitetura de futuros chips de IA.

Linha do tempo

  1. Sakana AI apresenta 'Attention Residuals', repensando a agregação depth-wise.

  2. Sakana AI pesquisa métodos para treinar redes neurais dividindo-as em blocos, buscando alternativas ao backprop.

  3. Sakana AI lança 'Smart Cellular Bricks', explorando inteligência coletiva em hardware.

  4. Sakana AI apresenta 'Diffusing Blame', uma nova técnica de aprendizado inspirada na biologia.

Perguntas frequentes

O que é o Princípio de Dale e por que ele é importante para IA?

O Princípio de Dale afirma que um neurônio real libera apenas um tipo de neurotransmissor, sendo predominantemente excitatório ou inibitório. Na IA, aderir a este princípio pode levar a modelos que processam informações de forma mais parecida com o cérebro, potencialmente resultando em aprendizado mais eficiente, robusto e, futuramente, com hardware especializado.

O que é o problema de transporte de pesos na retropropagação (backprop)?

O problema de transporte de pesos refere-se à necessidade da retropropagação de ter acesso a uma cópia transposta exata dos pesos da camada anterior para calcular os gradientes. Este mecanismo é considerado biologicamente implausível, pois o cérebro não parece ter um método para transportar informações de pesos de forma retroativa e simétrica para ajustar sinapses.

Como a técnica 'Diffusing Blame' contorna o problema de transporte de pesos?

A 'Diffusing Blame' contorna este problema ao empregar a Difusão de Erro e dividir a rede em fluxos excitatórios e inibitórios separados, usando matrizes de pesos não negativos. Isso permite que a informação de erro seja roteada localmente para cada unidade, sem a necessidade de um transporte reverso de pesos, tornando o processo de aprendizado mais alinhado com a biologia.

Quais são as aplicações e benefícios potenciais de 'Diffusing Blame'?

'Diffusing Blame' demonstrou sucesso em tarefas de classificação de imagens e aprendizado por reforço. Os benefícios potenciais incluem a criação de modelos de IA mais biologicamente plausíveis, a redução da dependência da infraestrutura de backprop (que consome muitos recursos), e a abertura de portas para novos tipos de hardware neuromórfico que se beneficiariam de regras de aprendizado local.

Fontes

Avalie este artigo:
Compartilhar:
Categoria
CEVIU IA
Publicado
20 de julho de 2026
Editoria
CEVIU IA

Quer receber mais sobre CEVIU IA?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser