CNNs में: stride 2 के साथ 2×2 max pool हर 2×2 क्षेत्र लेता है, अधिकतम मान रखता है, और प्रत्येक स्थानिक आयाम को आधा कर देता है। यह दो चीज़ें हासिल करता है: translation invariance (इनपुट में छोटे बदलाव आउटपुट नहीं बदलते) और dimensionality reduction (बाद की लेयर्स में प्रोसेस करने के लिए कम मान)। Average pooling वही करता है लेकिन माध्य लेता है, जो अधिक जानकारी संरक्षित करता है लेकिन noise के प्रति कम robust है।
एक चर-लंबाई टोकन अनुक्रम से एक निश्चित-आकार embedding बनाने के लिए, आपको pool करने की आवश्यकता है। सामान्य रणनीतियाँ: [CLS] टोकन pooling (एक विशेष टोकन के प्रतिनिधित्व का उपयोग करें, जैसे BERT में), mean pooling (सभी टोकन प्रतिनिधित्वों का औसत — आमतौर पर sentence embeddings के लिए सबसे अच्छा), max pooling (टोकनों में element-wise अधिकतम लें), और weighted pooling (attention scores द्वारा टोकनों को भार दें)। अधिकांश embedding मॉडल अपनी सरलता और प्रभावशीलता के लिए mean pooling का उपयोग करते हैं।
आधुनिक विज़न आर्किटेक्चर में, global average pooling उन fully connected लेयर्स को प्रतिस्थापित करता है जो पुराने CNNs classification के लिए उपयोग करते थे। अंतिम feature map को एक वेक्टर में flatten करने के बजाय (जो लाखों पैरामीटर बनाता है), global average pooling प्रत्येक feature map channel को एक single संख्या में औसत करता है। यह बिना किसी सीखे गए पैरामीटर के एक compact प्रतिनिधित्व उत्पन्न करता है, जो एक मजबूत regularizer के रूप में कार्य करता है। Vision Transformers [CLS] टोकन के साथ एक समान दृष्टिकोण का उपयोग करते हैं।