Uma rede neural artificial (RNA) é um modelo de aprendizagem profunda (deep learning), uma área da aprendizagem de máquina (machine learning). O termo tem origem no início dos desenvolvimentos de inteligência artificial, em que modelos matemáticos e computacionais foram inspirados no cérebro biológico (tanto de humanos como de outros animais). Muitas vezes desenvolvidos com o objetivo de compreender o funcionamento do cérebro, também tinham a intensão de emular a inteligência. Consulte o diagrama de Venn¹¹endnote: ¹John Venn, 1834 - 1923, matemático inglês. Fonte: Wikipédia: John Venn. na Fig. 1.1.

Uma RNA consiste em uma rede de unidades básicas de processamento (chamadas de neurônios). A primeira unidade data do modelo de neurônio de McCulloch-Pitts (McCulloch and Pitts, 1943), conhecido como perceptron (Rosenblatt, 1958, 1962), o primeiro com um algoritmo de treinamento para problemas de classificação linearmente separável. Um modelo similar é o ADALINE (do inglês, adaptive linear element, Widrow and Hoff, 1960), desenvolvido para a predição de números reais. Pela questão histórica, vamos usar o termo perceptron para designar a unidade básica (o neurônio), mesmo que o modelo de neurônio a ser estudado não seja restrito ao original.

Métodos de aprendizagem profunda são técnicas de treinamento (calibração) de composições em múltiplos níveis, aplicáveis a problemas de aprendizagem de máquina que, muitas vezes, não têm relação com o cérebro ou neurônios biológicos. Um exemplo, é a rede neural que mais vamos explorar nas notas, o perceptron multicamada (MLP, do inglês multilayer perceptron), um modelo de progressão (feedfoward) de rede profunda em que a informação é processada pela composição de camadas de perceptrons. Embora a ideia de fazer com que a informação seja processada através da conexão de múltiplos neurônios tenha inspiração biológica, usualmente a escolha da disposição dos neurônios em uma MLP é feita por questões algorítmicas e computacionais. I.e., é baseada na eficiente utilização da arquitetura dos computadores atuais.

RNAs passaram a ser amplamente utilizadas na solução de equações diferenciais a partir da publicação das redes informadas pela física (PINNs, do inglês, physics-informed neural networks[RPK19]). Desde de então, têm sido aplicadas na simulação de diversos modelos de fundamental importância. Por exemplo, na solução da equação de Burgers, das equações de Navier-Stokes, das equações de Euler [MJK20], de transferência de calor [CWW+21] e da equação de advecção [VBB22], entre tantos outros. A PINN é um método de deep learning para a solução de problemas diretos ou inversos envolvendo equações diferenciais. Sua principal vantagem esá na sua facilidade de integrar modelos matemáticos e dados na resolução de problemas.