Zubnet AIAprenderWiki › Convolution
Fundamentos

Convolution

Conv, Convolutional Layer, Kernel, Filter
Uma operação matemática que desliza um pequeno filtro (kernel) através de uma entrada para detectar padrões locais. Em imagens, um kernel 3×3 desliza através de cada posição, computando um produto escalar com os pixels subjacentes para produzir um feature map. Diferentes kernels detectam diferentes padrões: bordas horizontais, bordas verticais, texturas, e eventualmente features complexas como olhos ou rodas em camadas mais profundas.

Por que importa

Convolução é a operação que fez visão computacional funcionar. Ela codifica duas suposições poderosas: localidade (pixels próximos estão relacionados) e equivariância de translação (um padrão é o mesmo independentemente de onde aparece). Essas suposições reduzem dramaticamente o número de parâmetros comparado a camadas totalmente conectadas, tornando viável processar imagens de alta resolução. Mesmo na era Transformer, convoluções são usadas em muitas arquiteturas híbridas.

Deep Dive

A convolution with a 3×3 kernel: at each position, multiply the 9 kernel values with the 9 underlying input values and sum them. This produces one output value. Slide the kernel to the next position and repeat. A single kernel produces one feature map (detecting one pattern). Multiple kernels produce multiple feature maps. Stride (how far the kernel moves each step) and padding (how to handle edges) are additional parameters that control the output size.

Depth and Hierarchy

In a CNN, early layers use small kernels to detect simple patterns. Each subsequent layer convolves over the previous layer's feature maps, detecting progressively more complex patterns. Layer 1: edges. Layer 2: corners and textures (combinations of edges). Layer 3: object parts (combinations of textures). Layer 4: objects (combinations of parts). This hierarchical feature learning is the fundamental mechanism behind CNNs' success in vision.

1D and 3D Convolutions

Convolutions aren't limited to 2D images. 1D convolutions process sequences (audio waveforms, time series, text), sliding a kernel along one dimension. 3D convolutions process volumes (video, medical scans), sliding along three dimensions. The principle is identical: local pattern detection with parameter sharing. 1D convolutions are used in some modern architectures (ConvNeXt, Hyena) as efficient alternatives to attention for certain operations.

Conceitos relacionados

← Todos os termos
ESC