Uma rede neural artificial (RNA) é um modelo de aprendizagem profunda (deep learning), uma área da aprendizagem de máquina (machine learning). O termo tem origem no início dos desenvolvimentos da inteligência artificial, em que modelos matemáticos e computacionais foram inspirados no cérebro biológico (tanto de humanos como de outros animais). Muitas vezes desenvolvidos com o objetivo de compreender o funcionamento do cérebro, esses modelos também tinham a intenção de emular a inteligência. A Figura 1.1 ilustra a relação entre essas áreas.

Uma RNA consiste em uma rede de unidades básicas de processamento (chamadas de neurônios artificiais). A primeira unidade remonta ao modelo de neurônio de McCulloch¹¹1Warren Sturgis McCulloch, 1898 - 1969, neurofisiologista e cyberneticista estadunidense. Fonte: Wikipedia: Warren Sturgis McCulloch.-Pitts²²2Walter Harry Pitts, Jr., 1923 - 1969, lógico e neurocientista estadunidense. Fonte: Wikipédia: Walter Harry Pitts. [23], conhecido como perceptron de Rosenblatt³³3Frank Rosenblatt, 1928 - 1971, psicólogo estadunidense. Fonte: Wikipédia: Frank Rosenblatt., por ter sido a base do primeiro algoritmo de treinamento para problemas de classificação linearmente separável [30, 31]. Um modelo similar é o ADALINE (adaptive linear element, [39]), em que o método do gradiente é utilizado para seu treinamento. Por razões históricas, vamos usar o termo perceptron para designar a unidade básica (o neurônio), mesmo que o modelo de neurônio a ser estudado não se restrinja ao modelo original.

Métodos de aprendizagem profunda são técnicas de treinamento (calibração) de composições em múltiplos níveis, aplicáveis a problemas de aprendizagem de máquina que, muitas vezes, não têm relação com o cérebro ou com neurônios biológicos. Um exemplo é a rede neural que mais exploraremos nas notas, o perceptron multicamada (MLP, do inglês multilayer perceptron), um modelo de rede neural de propagação direta (rede feedforward) em que a informação é processada pela composição de camadas de perceptrons. Embora a ideia de fazer com que a informação seja processada por meio da conexão de múltiplos neurônios tenha inspiração biológica, usualmente, a escolha da disposição dos neurônios em uma MLP é feita por razões algorítmicas e computacionais. I.e., é baseada na utilização eficiente da arquitetura dos computadores atuais.

Embora o desenvolvimento de técnicas de aprendizagem de máquina para a resolução de equações diferenciais parciais (EDPs) date dos anos 90 [20], as RNAs passaram a ser amplamente utilizadas na solução de EDPs a partir da publicação das redes neurais informadas pela física (PINNs, do inglês physics-informed neural networks, [27]). Desde então, elas têm sido aplicadas na resolução de diversos problemas de fundamental importância, como a equação de Burgers, as equações de Navier-Stokes, as equações de Euler [21], problemas de transferência de calor [6] e a equação de advecção [34], entre tantos outros. PINN é um método de deep learning para a solução de problemas diretos ou inversos envolvendo equações diferenciais. Sua principal vantagem está na facilidade de integrar o modelo matemático (equações e suas restrições) e dados na resolução de problemas.

Estas notas têm como objetivo apresentar os conceitos introdutórios de PINNs, com foco em equações diferenciais parciais clássicas. Construídas como um material de matemática computacional, elas são apresentadas de forma a permitir que as/os estudantes possam implementar os métodos estudados. Para isso, são apresentados exemplos de implementação em Python [25]. A biblioteca computacional de deep learning utilizada é a PyTorch [24, 26].

O material conta com mais dois capítulos. O Capítulo 2 traz os fundamentos sobre redes neurais de propagação direta (redes neurais feedforward), com foco em redes do tipo perceptron multicamadas. O Capítulo 3 apresenta o método de redes neurais informadas pela física (PINNs), com aplicações em problemas estacionários, problemas transientes no tempo e problemas inversos. As seções de cada capítulo apresentam exercícios para fixação do conteúdo estudado. Ao final de cada capítulo, são apresentadas referências para a extensão e o aprofundamento do conteúdo estudado.