O que é aprendizagem profunda?

O que é aprendizagem profunda?

O aprendizado profundo é um subconjunto do aprendizado de máquina (ML) que usa redes neurais com muitas camadas, conhecidas como redes neurais profundas (DNNs). Essas redes consistem em numerosas unidades interconectadas chamadas neurônios ou nós que atuam como detectores de recursos. Cada rede neural possui uma camada de entrada para receber dados, uma camada de saída para gerar previsões e várias camadas ocultas para processar os dados e extrair padrões significativos.

Por exemplo, as camadas iniciais podem detectar características simples, como bordas e cantos, em uma rede de reconhecimento de imagem, enquanto as camadas mais profundas podem reconhecer estruturas mais complexas, como faces ou objetos. Numa rede de processamento de linguagem, as camadas iniciais podem identificar elementos básicos, como letras ou sons individuais, enquanto as camadas mais profundas podem compreender a gramática, o contexto ou mesmo os sentimentos expressos em frases.

Embora as primeiras redes neurais tivessem apenas algumas camadas ocultas, as redes neurais profundas têm muitas – às vezes mais de cem. A adição de múltiplas camadas ocultas torna a rede mais flexível e melhor no aprendizado de padrões complexos que se generalizam além dos dados de treinamento. Como resultado, a maioria das redes neurais modernas são redes neurais profundas.

Aprendizado profundo versus aprendizado de máquina

O aprendizado profundo e o aprendizado de máquina são frequentemente mencionados juntos, mas apresentam diferenças essenciais. Simplificando, o aprendizado profundo é um tipo de aprendizado de máquina. Os modelos de aprendizado de máquina são uma forma de inteligência artificial (IA) que aprende padrões nos dados para fazer previsões.

Modelos de aprendizado de máquina como regressão linear, florestas aleatórias, k-vizinhos mais próximos e máquinas de vetores de suporte são bastante simples e dependem de recursos definidos por humanos. Por exemplo, os humanos fornecem recursos como metragem quadrada, número de quartos e características do bairro para prever os preços das casas. Os modelos de aprendizado de máquina ajustam a importância desses recursos para fazer previsões, mas sua precisão depende da qualidade dos recursos fornecidos.

Os modelos de aprendizagem profunda, por outro lado, não precisam de recursos predefinidos. Eles aprendem recursos de forma independente durante o treinamento, começando com valores aleatórios e melhorando com o tempo. Isso lhes permite encontrar padrões importantes que os humanos podem perder, levando a melhores previsões. Eles também podem lidar com muito mais recursos do que modelos mais simples de aprendizado de máquina e geralmente são muito melhores no tratamento de dados brutos, como imagens e texto.

Embora os modelos de aprendizagem profunda sejam robustos, modelos mais simples às vezes podem ser melhores. O aprendizado profundo precisa de grandes conjuntos de dados e seu funcionamento interno pode ser difícil de entender. Modelos mais simples de aprendizado de máquina podem ser mais adequados quando você tem menos dados ou precisa explicar como o modelo faz suas previsões.

Como funciona o aprendizado profundo

A aprendizagem profunda utiliza redes neurais profundas para processar e analisar dados através de múltiplas camadas, produzindo previsões sofisticadas.

1 camada de entrada

O processo começa na camada de entrada, onde os neurônios detectam informações básicas. Por exemplo, em um modelo de linguagem, os neurônios podem reconhecer letras individuais comooout.

2 camadas ocultas

Em seguida, as camadas ocultas entram em ação. Os neurônios ativados na camada de entrada estimulam os neurônios na primeira camada oculta, que detecta recursos mais complexos, como combinações de letras comoem. A rede identifica características cada vez mais abstratas à medida que o sinal se move através de camadas ocultas adicionais. Os pesos das conexões entre os neurônios determinam a força dessas ativações.

3 Detecção de recursos abstratos

A rede detecta recursos mais abstratos em camadas ocultas mais profundas. Esta capacidade permite que redes neurais profundas lidem com tarefas sofisticadas que exigem raciocínio abstrato, como redigir texto ou reconhecer objetos em imagens.

4 Camada de saída

Finalmente, a rede gera uma previsão na camada de saída. Cada neurônio nesta camada representa um resultado possível. Por exemplo, ao completar a frase “era uma vez ___”, um neurônio pode representaro tempo, outrosonhoe um terceirocolchão. A rede estima a probabilidade de cada resultado e seleciona o mais provável. Algumas redes, especialmente modelos de linguagem, introduzem variabilidade ao escolher a resposta mais provável na maioria das vezes, garantindo resultados diversos e naturais.

As redes neurais profundas aprendem padrões e recursos complexos processando entradas por meio de múltiplas camadas, tornando-as ferramentas poderosas para tarefas como reconhecimento de imagem e processamento de linguagem natural (PNL).

Tipos de redes de aprendizagem profunda

O aprendizado profundo abrange vários tipos de redes neurais, cada uma projetada para lidar com tarefas específicas. Compreender essas diferentes arquiteturas é crucial para aproveitar efetivamente seus recursos.

Redes neurais feedforward (FNN)

Redes neurais feedforward, ou redes neurais “vanilla”, processam informações em uma direção: da entrada à saída. Eles são ideais para tarefas simples de previsão, como detecção de fraudes de cartão de crédito ou pré-aprovação de empréstimos. O treinamento ocorre por meio de retropropagação, ajustando o modelo com base nos erros de predição.

Redes neurais recorrentes (RNN)

As redes neurais recorrentes são adequadas para tarefas que exigem atualizações dinâmicas, como tradução de idiomas. Eles usam retropropagação ao longo do tempo (BPTT) para contabilizar sequências de entradas, tornando-os eficazes para compreender o contexto e os relacionamentos em dados sequenciais.

Memória de longo prazo (LSTM)

As redes de memória de longo e curto prazo melhoram as redes neurais recorrentes, esquecendo seletivamente informações irrelevantes e, ao mesmo tempo, retendo detalhes importantes, tornando-as práticas para tarefas que exigem retenção de contexto de longo prazo. Redes de memória longa e de curto prazo aprimoraram os recursos do Google Tradutor, mas podem ser lentas com grandes conjuntos de dados devido ao seu processamento linear.

Redes neurais convolucionais (CNN)

As redes neurais convolucionais se destacam no reconhecimento de imagens, digitalizando imagens em busca de recursos visuais como bordas e formas. Eles preservam informações espaciais e podem reconhecer objetos independentemente de sua posição na imagem, tornando-os de última geração para muitas aplicações baseadas em imagens.

Redes adversárias generativas (GAN)

As redes adversárias generativas consistem em um gerador e um discriminador competindo. O gerador cria dados falsos e o discriminador tenta identificá-los como falsos. Ambas as redes melhoram através da retropropagação. Redes adversárias generativas são excelentes para gerar dados realistas e são úteis no reconhecimento de imagens.

Transformadores e atenção

Os transformadores representam um avanço no aprendizado profundo, especialmente para o processamento de linguagem natural. Eles usam mecanismos de atenção para avaliar a importância dos diferentes elementos de entrada. Ao contrário dos modelos anteriores, os transformadores processam dados em paralelo, permitindo o tratamento eficiente de grandes conjuntos de dados. A autoatenção permite que os transformadores considerem as relações entre todos os elementos de uma entrada, tornando-os altamente eficazes para tarefas como geração e tradução de texto.

Aplicações de aprendizagem profunda

Modelos de aprendizagem profunda foram aplicados a muitos problemas do mundo real, incluindo aqueles que antes pareciam impossíveis de serem resolvidos por uma máquina.

Veículos autônomos

Os veículos autônomos dependem de modelos de aprendizagem profunda para reconhecer sinais e sinais de trânsito, carros próximos e pedestres. Esses veículos usam fusão de sensores, combinando dados de lidar, radar e câmeras para criar uma visão abrangente do ambiente. Algoritmos de aprendizagem profunda processam esses dados em tempo real para tomar decisões de direção. Por exemplo, o sistema Autopilot da Tesla utiliza redes neurais para interpretar o ambiente e navegar de acordo, aumentando a segurança e a eficiência.

Grandes modelos de linguagem (LLMs) e chatbots

Os modelos de aprendizagem profunda estão no centro de chatbots humanos, como ChatGPT e Gemini, bem como de ferramentas de escrita de código, como Copilot. Grandes modelos de linguagem são treinados em grandes quantidades de dados de texto, permitindo-lhes compreender e gerar uma linguagem humana altamente precisa. Esses modelos podem envolver-se em conversas coerentes, responder perguntas, escrever ensaios e até auxiliar na programação, gerando trechos de código baseados em descrições de linguagem natural. Por exemplo, o GPT-4 da OpenAI pode escrever código, redigir e-mails e fornecer explicações detalhadas sobre vários tópicos.

Assistência para redação

As ferramentas de escrita aproveitam modelos de aprendizado profundo para ajudá-lo a escrever melhor. Essas ferramentas analisam frases e parágrafos inteiros para fornecer sugestões de gramática, pontuação, estilo e clareza. Grammarly, por exemplo, usa técnicas avançadas de processamento de linguagem natural para compreender o contexto de sua escrita e oferecer recomendações personalizadas. Ele pode detectar o tom, sugerir sinônimos e até ajudar a estruturar sua escrita para melhorar a legibilidade e o envolvimento.

Geração de imagem

Modelos de aprendizagem profunda, como o DALL-E, recentemente fizeram progressos na geração de novas imagens com base em um prompt de texto ou na realização de transferências de estilo para criar uma nova versão de uma imagem existente usando o estilo de uma terceira imagem. Por exemplo, você pode fazer uma foto de perfil no estilo deA Noite Estrelada(1889), de Vincent van Gogh, inserindo uma foto sua e uma referência à pintura. Esses modelos usam uma combinação de redes neurais convolucionais e redes adversárias generativas para produzir imagens altamente realistas e criativas.

Sistemas de recomendação

Como seu aplicativo de música ajuda você a descobrir novos artistas? Os modelos de aprendizagem profunda usam seu histórico de audição anterior para aprender os padrões de suas preferências e, em seguida, prever novas músicas semelhantes às que você gostou. Esses sistemas de recomendação analisam grandes quantidades de dados do usuário, incluindo hábitos de escuta, consultas de pesquisa e interações do usuário, como curtidas e pulos. Serviços como Spotify e Netflix utilizam esses modelos para fornecer conteúdo personalizado, tornando a experiência do usuário mais envolvente e adaptada aos gostos individuais.

Diagnóstico médico

Alguns modelos de processamento de linguagem podem analisar informações de registros de pacientes – como resultados de testes, respostas de pesquisas, notas de consultas médicas e histórico médico – e revelar possíveis causas dos sintomas dos pacientes. Por exemplo, o Watson Health da IBM utiliza processamento de linguagem natural para extrair informações relevantes de registros médicos não estruturados. Da mesma forma, os modelos de reconhecimento de imagem podem ler relatórios radiológicos para ajudar os radiologistas a detectar resultados anormais. Modelos de aprendizagem profunda são usados ​​para identificar padrões em imagens médicas, como raios X e ressonâncias magnéticas, auxiliando na detecção precoce de doenças como câncer e distúrbios neurológicos.

Desafios e limitações do aprendizado profundo

Apesar de seu poder, os modelos de aprendizagem profunda são flexíveis e apresentam custos reais. Aqui estão alguns desafios de usar o aprendizado profundo:

• Requisitos de dados: os modelos de aprendizagem profunda requeremmuitosdados para serem bem treinados. Por exemplo, o modelo GPT-3 da OpenAI foi treinado em cinco conjuntos de dados, o menor dos quais continha todos os artigos da Wikipédia.
• Custos computacionais: o treinamento e a execução de modelos de aprendizado profundo exigem alto consumo de energia e custos.
• Viés: modelos treinados em dados tendenciosos herdarão e incorporarão esse viés em suas respostas. Por exemplo, treinar um modelo de reconhecimento de imagem em 90% de imagens de cães e 10% de imagens de gatos não preparará bem o modelo se 50% das imagens do mundo real incluírem gatos.
• Interpretabilidade: As “camadas ocultas” que constituem a maior parte de um modelo de aprendizagem profunda são apropriadamente nomeadas porque pode ser um desafio saber o que estão fazendo para fazer suas previsões. Em alguns casos, isso pode ser bom. Em outros, é essencial saber o que aconteceu na previsão. Por exemplo, compreender como um modelo previu os resultados dos pacientes em resposta a um novo tratamento é científica e clinicamente necessário.
• Imagens falsas e desinformação: redes adversárias geradoras como o DeepDream podem produzir imagens falsas, mas convincentes. Nas mãos erradas, estes poderiam ser usados ​​para espalhar desinformação. Da mesma forma, chatbots como o ChatGPT podem “alucinar” informações incorretas e devem sempre ser verificados.

O futuro da aprendizagem profunda

Embora seja difícil saber o que o futuro trará para o aprendizado profundo, aqui estão algumas áreas de desenvolvimento ativo:

• Grandes modelos de linguagem continuam a melhorar: Organizações como a OpenAI continuam a desenvolver sucessos passados, e você deve esperar ver as respostas de seus modelos ficando melhores e mais precisas.
• Aprendizagem multimodal: alguns modelos de aprendizagem profunda de ponta são treinados multimodalmente para generalizar diferentes tipos de informação; por exemplo, um modelo treinado em texto poderia prever informações sobre fala ou imagens.
• Interpretabilidade: Embora os modelos de aprendizagem profunda permaneçam relativamente opacos, poderemos ver mais ferramentas no futuro que facilitarão a compreensão de como chegam às suas previsões.

Conclusão

A aprendizagem profunda é uma ferramenta poderosa com potencial para resolver muitos dos problemas que enfrentamos hoje, seja na detecção de um urso numa câmara de vida selvagem, na descoberta de novos tratamentos para doenças ou na escrita mais clara.