Componentes Centrais do Fastai

1. Biblioteca Fastai

A biblioteca Fastai é construída sobre o framework PyTorch e tem como objetivo tornar o deep learning mais acessível. Ela fornece uma API de alto nível que abstrai muitas das complexidades associadas ao deep learning, permitindo que os usuários foquem em tarefas específicas de aplicação ao invés de detalhes intrincados de programação. Essa abstração é alcançada através de um design de API em camadas, que oferece componentes de alto e baixo nível para diversas tarefas de deep learning. A funcionalidade da biblioteca se estende desde visão e processamento de texto até dados tabulares e filtragem colaborativa.

O Fastai v2 representa uma reescrita completa focada em aumentar a velocidade, flexibilidade e facilidade de uso. Ele é construído sobre bibliotecas fundamentais como fastcore e fastgpu, que dão suporte aos componentes de alto nível do Fastai e são úteis para muitos programadores e cientistas de dados.

2. API em Camadas

A API em camadas do Fastai é estruturada para atender diferentes necessidades de usuários — de iniciantes a pesquisadores avançados. A API de alto nível oferece funções prontas para treinar modelos em vários domínios, incluindo visão, texto, dados tabulares e filtragem colaborativa. Essas funções vêm com padrões sensatos que agilizam o processo de construção de modelos. A API de médio nível fornece métodos centrais para deep learning e processamento de dados, enquanto a API de baixo nível oferece primitivas otimizadas e fundações para o desenvolvimento de modelos personalizados.

Um recurso chave da arquitetura em camadas do Fastai é sua capacidade de expressar padrões subjacentes comuns a muitas técnicas de deep learning e processamento de dados por meio de abstrações desacopladas. Isso é possível graças ao dinamismo do Python e à flexibilidade do PyTorch, permitindo um equilíbrio entre facilidade de uso, flexibilidade e desempenho.

3. Curso Prático de Deep Learning para Programadores

O Fastai oferece um curso online gratuito e massivo (MOOC) intitulado “Practical Deep Learning for Coders”. Este curso fornece experiência prática com deep learning, exigindo apenas conhecimento de Python como pré-requisito. Ele aborda diversos temas de deep learning, como classificação de imagens, processamento de linguagem natural e redes adversariais generativas (GANs), com foco em aplicações reais. O curso é complementado pelo livro “Deep Learning for Coders with Fastai and PyTorch”, que explora aplicações de IA sem exigir PhD.

Principais Recursos do Fastai

1. API de Alto Nível

A API de alto nível do Fastai simplifica o treinamento de modelos de deep learning ao integrar arquitetura, dados e otimização em um sistema coeso. Ela seleciona automaticamente funções de perda e algoritmos de otimização apropriados, reduzindo a probabilidade de erros do usuário. Esta API é especialmente útil para iniciantes e para aqueles que desejam aplicar métodos existentes de deep learning sem se aprofundar nas complexidades do código subjacente.

2. Aprendizado por Transferência

Um dos principais destaques do Fastai é o suporte ao aprendizado por transferência, que permite treinar modelos de forma rápida e eficiente utilizando redes pré-treinadas. O Fastai otimiza esse processo através de técnicas como normalização em lote, congelamento de camadas e taxas de aprendizado discriminativas. Essas técnicas aceleram o aprendizado e melhoram o desempenho do modelo em diferentes tarefas.

3. API de Blocos de Dados

A API de blocos de dados é um sistema flexível para definir pipelines de processamento de dados. Ela permite que os usuários especifiquem fontes de dados, transformações e mecanismos de carregamento de forma modular. Esta API é fundamental para gerenciar conjuntos de dados complexos e garantir que os dados estejam devidamente preparados para o treinamento do modelo. Ela oferece uma abordagem consistente em vários domínios, facilitando a aplicação de técnicas de deep learning a diferentes tipos de dados.

4. Sistema de Callback Bidirecional

O Fastai introduz um novo sistema de callback bidirecional que fornece ganchos no loop de treinamento, permitindo mudanças dinâmicas em dados, modelos ou otimizadores em qualquer ponto do treinamento. Esse sistema aumenta a flexibilidade e a capacidade de personalização dos processos de treinamento de modelos, possibilitando abordagens inovadoras com pouco esforço de codificação.

5. Open Source e Orientado pela Comunidade

O Fastai é um projeto open-source hospedado no GitHub, licenciado sob a Licença Apache 2.0. Ele se beneficia de uma comunidade vibrante de desenvolvedores e pesquisadores que contribuem para seu desenvolvimento contínuo e aprimoramento. A natureza open-source da biblioteca garante que os usuários tenham acesso a técnicas de ponta e possam contribuir para sua evolução. A comunidade Fastai também é uma fonte de aprendizado colaborativo e suporte para usuários do mundo todo.

Casos de Uso e Aplicações

Visão

O Fastai simplifica o desenvolvimento de modelos de visão computacional com poucas linhas de código. Por exemplo, um modelo ImageNet pode ser ajustado em um conjunto de dados específico, como o Oxford IIT Pets, atingindo alta precisão com poucas linhas de código. A integração da biblioteca com o PyTorch garante que os usuários possam aproveitar arquiteturas e técnicas de última geração com facilidade.

Texto

O Fastai é equipado com ferramentas para processamento de linguagem natural (NLP), viabilizando tarefas como análise de sentimento, classificação de texto e modelagem de linguagem. A integração com o PyTorch permite o uso de arquiteturas modernas de NLP, facilitando o desenvolvimento de modelos de linguagem robustos que compreendem e geram linguagem humana.

Dados Tabulares

O Fastai fornece componentes para processamento de dados tabulares, suportando tarefas como regressão e classificação. Sua API de blocos de dados é especialmente útil para transformar e carregar conjuntos de dados tabulares, garantindo que os dados sejam processados de forma eficiente e precisa para o treinamento do modelo. Esse recurso é essencial para aplicações em análise de negócios, saúde e finanças, onde dados tabulares são predominantes.

Filtragem Colaborativa

A filtragem colaborativa é outra área em que o Fastai se destaca, oferecendo ferramentas para construir sistemas de recomendação. A API de alto nível da biblioteca simplifica a criação e avaliação de modelos de filtragem colaborativa, facilitando o desenvolvimento de recomendações personalizadas para usuários com base em suas preferências e comportamentos.

Implantação

O Fastai suporta a implantação de modelos treinados em ambientes de produção, permitindo que desenvolvedores integrem recursos de IA em aplicativos de forma transparente. O foco da biblioteca na praticidade garante que considerações de implantação sejam tratadas desde o início, possibilitando soluções eficientes e escaláveis para aplicações do mundo real.

Fastai em Artigos Científicos

O Fastai é uma biblioteca de deep learning projetada para fornecer componentes de alto nível que permitem aos profissionais alcançar resultados de ponta de forma rápida e fácil em domínios padrão de deep learning. Ao mesmo tempo, oferece componentes de baixo nível para que pesquisadores possam criar novas abordagens sem comprometer facilidade de uso, flexibilidade ou desempenho. Essa dupla capacidade é alcançada por meio de uma arquitetura cuidadosamente estruturada, que aproveita o dinamismo do Python e a flexibilidade do PyTorch. A biblioteca introduz vários recursos inovadores, incluindo um sistema de despacho de tipos para Python, uma biblioteca de visão computacional otimizada para GPU, um otimizador que simplifica algoritmos modernos de otimização e um novo sistema de callback bidirecional. O Fastai tem sido utilizado com sucesso para criar um curso abrangente de deep learning e é amplamente empregado em pesquisa, indústria e ensino. Para mais detalhes, você pode acessar o artigo no arXiv.

• Exemplo em Agricultura:
  No campo da agricultura, o Fastai foi aplicado de forma eficaz na construção de um modelo de classificação para reconhecimento de doenças em plantas utilizando um conjunto de dados de imagens de folhas de maçã. Utilizando um modelo ResNet34 pré-treinado com o framework Fastai, o estudo alcançou uma precisão de classificação de 93,765%. Isso demonstra a capacidade da biblioteca de economizar tempo de treinamento e melhorar o desempenho do modelo em aplicações práticas. Mais informações podem ser encontradas no estudo no arXiv.

• Exemplo de Compressão de Modelos:
  Além disso, o sistema de callbacks do Fastai tem sido utilizado em outras bibliotecas como a FasterAI, que foca em técnicas de compressão de redes neurais como esparsificação e poda. Isso demonstra a versatilidade do Fastai e sua facilidade de integração com outras ferramentas para executar técnicas de ponta de forma eficiente. Os detalhes dessa implementação estão disponíveis no artigo da FasterAI no arXiv.

Exemplos de Uso

Instalação

Para começar a usar o fastai, você pode facilmente instalá-lo usando conda ou pip. Veja como:

• Conda (Recomendado para Linux ou Windows):
  conda install -c fastai fastai
• Pip (Funciona em todas as plataformas):
  pip install fastai
• Google Colab:
  Use o fastai sem instalação aproveitando o Google Colab, que suporta execução em GPU para cálculos mais rápidos.

Além disso, os usuários podem explorar a documentação oficial do fastai e os fóruns da comunidade para solucionar problemas comuns de instalação ou buscar soluções para configurações específicas. A integração da biblioteca com Jupyter notebooks e Google Colab aumenta ainda mais sua usabilidade ao fornecer um ambiente interativo para experimentação e aprendizado.

API de Alto Nível

A API de alto nível do fastai foi projetada para facilitar o uso e o desenvolvimento rápido. Ela abstrai grande parte da complexidade, permitindo que os usuários foquem na construção e treinamento de modelos com poucas linhas de código. A API é especialmente benéfica para prototipagem rápida de modelos e para iterar sobre ideias sem a necessidade de se aprofundar nos detalhes de baixo nível do PyTorch.

Exemplos de Uso da API de Alto Nível

1. Classificação de Imagens

from fastai.vision.all import * 
path = untar_data(URLs.PETS) 
dls = ImageDataLoaders.from_name_re(
    path=path, 
    fnames=get_image_files(path/"images"),
    pat=r'/([^/]+)_\d+.jpg$', 
    item_tfms=RandomResizedCrop(450, min_scale=0.75), 
    batch_tfms=[*aug_transforms(size=224, max_warp=0.), Normalize.from_stats(*imagenet_stats)]
)
learn = cnn_learner(dls, resnet34, metrics=error_rate)
learn.fit_one_cycle(4)

Este exemplo demonstra como configurar e treinar um classificador de imagens no conjunto de dados Oxford IIT Pets usando a API de alto nível do fastai.

2. Análise de Sentimento em Texto

from fastai.text.all import *
path = untar_data(URLs.IMDB)
dls = TextDataLoaders.from_folder(path, valid='test')
learn = text_classifier_learner(dls, AWD_LSTM, drop_mult=0.5, metrics=accuracy)
learn.fine_tune(1)

Aqui, o fastai é utilizado para construir um modelo de análise de sentimento no conjunto de dados IMDB.

3. Dados Tabulares

from fastai.tabular.all import *
path = untar_data(URLs.ADULT_SAMPLE)
dls = TabularDataLoaders.from_csv(
    path/'adult.csv', path=path, y_names="salary",
    cat_names=['workclass', 'education', 'marital-status', 'occupation', 'relationship', 'race'],
    cont_names=['age', 'fnlwgt', 'education-num'],
    procs=[Categorify, FillMissing, Normalize]
)
learn = tabular_learner(dls, metrics=accuracy)
learn.fit_one_cycle(3)

Este exemplo ilustra o uso do fastai para dados tabulares, especificamente o conjunto de dados Adult.

API de Médio Nível

A API de médio nível do fastai oferece mais possibilidades de personalização do que a API de alto nível, permitindo aos usuários alterar vários aspectos do processo de treinamento sem precisar lidar com os detalhes mais baixos. Ela oferece um equilíbrio entre facilidade de uso e flexibilidade, atendendo usuários que precisam de mais controle sobre seus modelos, mas ainda apreciam a conveniência dos componentes pré-definidos.

Componentes da API de Médio Nível

• Learner: Um componente central que encapsula o modelo, os dados e o loop de treinamento. Pode ser personalizado com diferentes arquiteturas, otimizadores e métricas.
• Callbacks: Funções que permitem estender o loop de treinamento com comportamentos personalizados, como salvar checkpoints, ajustar taxas de aprendizado ou registrar métricas.

Exemplo de Uso

learn = cnn_learner(dls, resnet18, metrics=accuracy, cbs=[SaveModelCallback(monitor='accuracy')])
learn.fine_tune(2)

Neste exemplo, um callback é usado para salvar o modelo com a melhor acurácia durante o treinamento, mostrando a flexibilidade da API de médio nível.

API de Baixo Nível

Para usuários avançados e pesquisadores que precisam de controle total sobre seus modelos, a API de baixo nível do fastai oferece acesso às funcionalidades subjacentes do PyTorch e a primitivas otimizadas. Esse nível da API é destinado àqueles que desejam ir além, projetando novas arquiteturas ou implementando rotinas de treinamento personalizadas.

Recursos da API de Baixo Nível

• Pipeline e Transforms: Sequências de processamento de dados personalizáveis, adaptáveis a necessidades específicas.
• Tensores Orientados a Objetos: Melhorias nos tensores do PyTorch que facilitam uma manipulação mais intuitiva.
• Operações Otimizadas: Operações eficientes com tensor aproveitando as capacidades do PyTorch.

Exemplo de Uso

from fastai.data.all import *
pipe = Pipeline([PILImage.create, Resize(128), ToTensor])
img = pipe('path/to/image.jpg')

Este trecho mostra como criar um pipeline de dados personalizado usando a API de baixo nível do fastai, aplicando uma série de transformações a uma imagem.

Fastai na Prática: Exemplos Publicados

1. Fastai: Uma API em Camadas para Deep Learning
   Autores: Jeremy Howard, Sylvain Gugger
   O Fastai é uma biblioteca de deep learning projetada para facilitar a prototipagem rápida e a implantação de modelos de deep learning. Ela alcança isso fornecendo componentes de alto nível para tarefas padrão de deep learning, ao mesmo tempo em que permite que pesquisadores mergulhem em componentes de baixo nível para soluções personalizadas. Este artigo detalha a arquitetura da biblioteca, que aproveita o dinamismo do Python e a flexibilidade do PyTorch para criar abstrações desacopladas para tarefas de deep learning. As inovações do Fastai incluem um sistema de despacho de tipos, uma biblioteca de visão computacional otimizada para GPU, um novo design de otimizador e um sistema de callback bidirecional, entre outros. A facilidade de uso da biblioteca e a capacidade de produzir resultados de ponta a tornaram popular em pesquisa, indústria e educação. Leia mais

2. Segmentação de Microvasculatura no Programa Human BioMolecular Atlas (HuBMAP)
   Autores: Youssef Sultan, Yongqiang Wang, James Scanlon, Lisa D’lima
   Este estudo utiliza o Fastai para segmentação de imagens no Human BioMolecular Atlas Program (HuBMAP), focando na segmentação de estruturas microvasculares em rins humanos. A metodologia começa com um modelo U-Net do Fastai, explorando arquiteturas alternativas e modelos profundos para melhorar a precisão da segmentação. Este trabalho destaca a capacidade do Fastai de servir como uma ferramenta fundamental em imagens médicas, oferecendo insights sobre técnicas avançadas de segmentação e sua comparação com modelos de referência. Leia mais

3. Egglog Python: Uma Biblioteca Pythonic para E-graphs
   Autor: Saul Shanabrook
   Embora não trate diretamente do Fastai, este artigo apresenta bindings Python para a biblioteca egglog, enfatizando a integração de técnicas de e-graph no Python. Essa abordagem se alinha à filosofia do Fastai de explorar os pontos fortes do Python para impulsionar inovações em machine learning e computação científica. Ilustra como APIs pythonicas podem facilitar a colaboração e a inovação entre domínios, podendo complementar a versatilidade do Fastai. [Leia mais](https://arxiv.org/abs/2404