Switch buffers: Μειώστε την απώλεια δικτύου AI και την καθυστέρηση

Jun 22, 2026

Αφήστε ένα μήνυμα

AI data center network fabric with switch buffers

Τα buffer μεταγωγέων είναι μικρές δεξαμενές μνήμης μέσα σε έναν μεταγωγέα δικτύου που συγκρατούν πακέτα για μια στιγμή όταν η κίνηση φτάνει πιο γρήγορα από ό,τι μπορεί να την στείλει μια θύρα. Σε ένα ήσυχο εταιρικό LAN, αυτό ακούγεται σαν υποσημείωση υλικού. Μέσα σε ένα σύμπλεγμα εκπαίδευσης τεχνητής νοημοσύνης ή σε ένα πυκνό ύφασμα σύννεφων, τα ίδια λίγα megabyte μνήμης μπορούν να αποφασίσουν εάν μια κατανεμημένη εργασία τελειώνει στην ώρα της ή αν θα σταματήσει να περιμένει σε έναν μόνο συμφορημένο σύνδεσμο.

Η βασική ιδέα είναι απλή, αλλά οδηγεί σε πολλές αποφάσεις αγοράς: τα buffer είναι πολύτιμα επειδή απορροφούν εκρήξεις, ωστόσοπερισσότερο buffer δεν είναι αυτόματα καλύτερο. Ο σωστός σχεδιασμός εξαρτάται από το μοτίβο επισκεψιμότητας, το πόσο ευαίσθητο είναι ο φόρτος εργασίας σε λανθάνουσα κατάσταση ή απώλεια, ποια μέθοδος ελέγχου συμφόρησης{1}}που εκτελείτε και πώς ο διακόπτης κατανέμει τη μνήμη buffer σε θύρες και ουρές. Ένας διακόπτης με πολύ μεγάλο buffer μπορεί να έχει χειρότερη απόδοση από έναν μικρότερο, εάν αυτή η μνήμη κρύβει συμφόρηση αντί να την αποστραγγίζει.

Αυτός ο οδηγός είναι γραμμένος από τα μοτίβα που παρατηρούνται συνήθως στα υφάσματα RoCEv2 και στις εκπτώσεις των φύλλων υψηλής πυκνότητας-στην σπονδυλική στήλη. Εξηγεί τι κάνουν στην πραγματικότητα τα buffer μεταγωγών, γιατί η κίνηση AI και GPU τα πιέζει διαφορετικά, πώς οι επιλογές buffer επηρεάζουν τον λανθάνοντα χρόνο και την απώλεια πακέτων και τι να δοκιμάσετε προτού δεσμευτείτε σε ένα switch.

Τι είναι τα Switch Buffer;

Μια προσωρινή μνήμη μεταγωγής είναι προσωρινή μνήμη πακέτων. Όταν πολλά πακέτα πρέπει να φύγουν από την ίδια θύρα την ίδια στιγμή, ο μεταγωγέας δεν μπορεί να τα μεταδώσει όλα ταυτόχρονα, επομένως θέτει σε ουρά τα πρόσθετα και τα προωθεί καθώς ελευθερώνεται η θύρα εξόδου.

Αυτή η ουρά συμβαίνει κατά τη διάρκεια μιας χούφτας προβλέψιμων στιγμών:

  • Πολλές-προς-μία (incast) επισκεψιμότητα, όπου πολλοί αποστολείς στοχεύουν τον ίδιο δέκτη ή τον ίδιο σύνδεσμο
  • Μικροεκρήξεις, οι σύντομες και έντονες αιχμές που διαρκούν από μικροδευτερόλεπτα έως μερικά χιλιοστά του δευτερολέπτου
  • Αναντιστοιχίες ταχύτητας διεπαφής, όπως μια θύρα 400G που τροφοδοτεί μια πιο αργή σύνδεση κατάντη
  • Υπερεγγεγραμμένοι σύνδεσμοι και συγχρονισμένες εκρήξεις που φτάνουν από πολλές πηγές ταυτόχρονα
  • Συμφόρηση σε μια συγκεκριμένη ουρά εξόδου ή κατηγορία κυκλοφορίας

Χωρίς αρκετό χρησιμοποιήσιμο buffer, ο διακόπτης απορρίπτει πακέτα. Με πάρα πολύ κατειλημμένο buffer, τα πακέτα κάθονται στη σειρά και ο λανθάνων χρόνος ανεβαίνει. Ο καλός σχεδιασμός buffer ζει στην ένταση μεταξύ αυτών των δύο αστοχιών: απορρόφηση πραγματικών εκρήξεων χωρίς να μετατρέπεται η ουρά σε στυλό συγκράτησης.

Γιατί οι πιέσεις κυκλοφορίας AI και GPU αλλάζουν τα buffer διαφορετικά

Ο φόρτος εργασίας της τεχνητής νοημοσύνης δεν μοιάζει με την κίνηση ιστού ή γραφείου. Τα συμπλέγματα GPU δημιουργούν τεράστια ανατολική-δυτική κίνηση μεταξύ διακομιστών και κατά τη διάρκεια της κατανεμημένης εκπαίδευσης η επικοινωνία συχνά συγχρονίζεται: πολλοί επιταχυντές ανταλλάσσουν δεδομένα την ίδια στιγμή, προς την ίδια κατεύθυνση, στο ίδιο υλικό.

Οι συλλογικές λειτουργίες το κάνουν χειρότερο. Ένα όλο-βήμα μείωσης, ο συγχρονισμός παραμέτρων ή μια ανταλλαγή διαβάθμισης μπορεί να συμπτυχθεί σε πολλές-έως-ένα ή πολλές-έως-έκρηξη που χτυπά ένα σύνολο ουρών εξόδου μέσα σε μικροδευτερόλεπτα. Επειδή οι εκρήξεις είναι σύντομες και στενά συσχετισμένες, είναι εύκολο να τις χάσετε με την αδρή παρακολούθηση. Για παράδειγμα, ένας σύνδεσμος μπορεί να διαβάσει μόνο περίπου το 40% της μέσης χρήσης σε ένα-δευτερόλεπτο ή πέντε{10}λεπτό παράθυρο ψηφοφορίας, ενώ εξακολουθεί να χτυπά τον ρυθμό γραμμής για χιλιοστά του δευτερολέπτου κάθε φορά, που είναι αρκετά μεγάλος για να γεμίσει μια ουρά, να επισημάνει ECN ή να ενεργοποιήσει μια παύση PFC.

Ο λόγος που αυτό έχει τόση σημασία στα υφάσματα AI είναι η δομή εξάρτησης της εργασίας. Η κατανεμημένη προπόνηση τείνει να κινείται με την ταχύτητα της πιο αργής ροής της. Όταν ένας κόμβος GPU περιμένει καθυστερημένη κυκλοφορία, το υπόλοιπο σύμπλεγμα συχνά αδρανεί με αυτό και οι ακριβοί επιταχυντές καίνε χρόνο αναμονής στο δίκτυο αντί για υπολογιστές. Ένα συμβάν buffer που θα ήταν αόρατο σε μια βαθμίδα ιστού μπορεί να παρατείνει απευθείας τον χρόνο ολοκλήρωσης της εργασίας εδώ.

Αυτό το ανατολικό-δυτικό ύφασμα είναι επίσης ο λόγος για τον οποίο οι επιλογές φυσικών- επιπέδων συνοδεύονται από τη συμπεριφορά του buffer. Τα backends GPU υψηλής{3}}πυκνότητας είναι συνήθως ενσύρματακαλωδίωση κορμού MTP/MPO υψηλής-πυκνότηταςμεταξύ φύλλου και ράχης και η ταχύτητα σύνδεσης ρυθμίζεται από τα οπτικά που επιλέγετε, όλο και περισσότεροΕνότητες 400G και 800G όπως το QSFP-DD. Όσο πιο γρήγοροι και υπερεγγεγραμμένοι είναι αυτοί οι σύνδεσμοι, τόσο περισσότερη δουλειά πρέπει να κάνουν η προσωρινή μνήμη και οι ρυθμίσεις συμφόρησης του διακόπτη κατά τη διάρκεια μιας συγχρονισμένης έκρηξης.

AI GPU traffic burst filling a switch buffer

Πώς επηρεάζουν τα buffers Switch την καθυστέρηση, την απώλεια πακέτων και την απόδοση

Το buffer διαμορφώνει την απόδοση με τρεις συνδεδεμένους τρόπους.

Πολύ λίγο buffer προκαλεί απώλεια πακέτων

Όταν μια ριπή ξεπερνά το διαθέσιμο buffer, η ουρά μεταγωγής-πέφτει πακέτα. Σε επισκεψιμότητα βάσει TCP-που ενεργοποιεί αναμεταδόσεις και μειώνει την αποτελεσματική απόδοση. Στην κίνηση αποθήκευσης και τεχνητής νοημοσύνης μπορεί να διογκώσει τον χρόνο ολοκλήρωσης της εργασίας και να κάνει ασταθή την απόδοση. Η παγίδα είναι ότι το μέσο εύρος ζώνης φαίνεται συχνά καλό: σε ένα incast συμβάν, πολλοί αποστολείς χτυπούν την ίδια ουρά εξόδου σχεδόν την ίδια στιγμή και η ουρά ξεχειλίζει παρόλο που το γράφημα-λεπτό προς{{6}λεπτό φαίνεται ήρεμο.

Η υπερβολική κίνηση στην ουρά αυξάνει τον λανθάνοντα χρόνο

Ένα μεγάλο buffer δεν είναι ελεύθερο περιθώριο ασφαλείας. Εάν τα πακέτα βρίσκονται σε μια βαθιά ουρά, συσσωρεύουν καθυστέρηση στην ουρά και το δίκτυο ολισθαίνει σεbufferbloat, όπου οι πτώσεις είναι σπάνιες αλλά η καθυστέρηση είναι υψηλή και απρόβλεπτη. Αυτή η λειτουργία αποτυχίας ήταντεκμηριώνεται λεπτομερώς από τους Gettys και Nichols στο ACM Queue, και είναι ακριβώς το λάθος αποτέλεσμα για λανθάνοντα-ευαίσθητα backend GPU, όπου η προβλέψιμη χαμηλή καθυστέρηση έχει μεγαλύτερη σημασία από την απόκρυψη συμφόρησης στη μνήμη.

Η κακή κατανομή buffer δημιουργεί αδικία

Το συνολικό μέγεθος buffer κρύβει το πιο σημαντικό ερώτημα: πώς ο διακόπτης διαιρεί αυτή τη μνήμη σε θύρες, ουρές και κατηγορίες κυκλοφορίας. Ένας διακόπτης μπορεί να μεταφέρει άφθονο buffer αδρανών και να εξακολουθεί να συμπεριφέρεται άσχημα εάν μια θύρα ή μια κατηγορία αποστραγγίζει την κοινόχρηστη πισίνα και λιμοκτονεί τα υπόλοιπα. Σε περιβάλλοντα τεχνητής νοημοσύνης και αποθήκευσης, αυτή η αδικία επιβραδύνει ολόκληρη την εργασία, επειδή η πιο αργή ροή καθορίζει τον χρόνο τερματισμού.

Comparison of shared dedicated and deep switch buffers

Κοινόχρηστο buffer vs Dedicated buffer vs Deep buffer

Όταν συγκρίνετε διακόπτες κέντρου δεδομένων, η αρχιτεκτονική της προσωρινής μνήμης έχει μεγαλύτερη σημασία από τον αριθμό χωρητικότητας της επικεφαλίδας.

Κοινόχρηστο buffer

Μια κοινόχρηστη προσωρινή μνήμη είναι μια κοινή δεξαμενή μνήμης από την οποία αντλούνται οι θύρες και οι ουρές κατά παραγγελία. Επειδή η αχρησιμοποίητη μνήμη σε μια ήσυχη περιοχή μπορεί να δανειστεί οπουδήποτε εμφανίζεται συμφόρηση, τα κοινόχρηστα buffer απορροφούν καλά τις εκρήξεις στα κέντρα δεδομένων, όπου μια θύρα που είναι σε αδράνεια τη μια στιγμή μπορεί να λάβει μια έκρηξη την επόμενη. Η αδυναμία τους είναι ότι βασίζονται στην καλή λογική κατανομής για να σταματήσουν μια καυτή ουρά από το να φάει την πισίνα.

Αφιερωμένο buffer

Ένα αποκλειστικό buffer είναι δεσμευμένο για μια συγκεκριμένη θύρα, ουρά ή κατηγορία κυκλοφορίας. Βελτιώνει την απομόνωση, καθώς μια κατηγορία με συμφόρηση είναι λιγότερο ικανή να καταναλώσει τα πάντα, αλλά υπερ-χαλάει χωρητικότητα, επειδή η μνήμη κλειδωμένη σε μια αθόρυβη θύρα δεν είναι διαθέσιμη στο σημείο όπου προσγειώνεται η έκρηξη.

Βαθύ buffer

Ένας βαθύς-διακόπτης buffer φέρει πολύ μεγαλύτερη προσωρινή αποθήκευση, σχεδιασμένη για μεγάλες εκρήξεις, συνδέσμους μεγάλων αποστάσεων ή επίμονες αναντιστοιχίες ταχύτητας. Τα βαθιά buffer κερδίζουν τη θέση τους σε ορισμένους ρόλους WAN, δρομολόγησης και συγκέντρωσης, συχνά σε συνδυασμό μείνα μίας-λειτουργίας για συνδέσμους μεγαλύτερης-απόστασης, αλλά είναι συχνά η λανθασμένη προεπιλογή για ένα backend GPU χαμηλής-λανθάνουσας περιόδου, όπου τείνουν να συγκαλύπτουν τη συμφόρηση και να προσθέτουν καθυστέρηση. Για ευαίσθητα υφάσματα με καθυστέρηση-, η προβλέψιμη προώθηση συνήθως ξεπερνά το ακατέργαστο βάθος της προσωρινής μνήμης.

Γρήγορη σύγκριση

Τύπος buffer Δύναμη Κύριος κίνδυνος Καλύτερη εφαρμογή
Κοινή χρήση Ευέλικτη απορρόφηση ριπών Χρειάζεται σταθερή λογική κατανομής Δυναμική κίνηση κέντρου δεδομένων
Αφιερωμένο Ισχυρή απομόνωση μεταξύ των τάξεων Σπατάλη χωρητικότητας εάν υπερ-κρατηθεί Τάξεις κυκλοφορίας που πρέπει να προστατεύονται
Βαθύς Απορροφά πολύ μεγάλες εκρήξεις Μεγαλύτερο λανθάνον χρόνο ουράς WAN, δρομολόγηση, ειδική συγκέντρωση

Switch Buffers και RoCEv2 Congestion Control: ECN και PFC

Τα περισσότερα υφάσματα AI Ethernet εκτελούν το RoCEv2 για χαμηλή-λανθάνουσα κατάσταση και υψηλή{2}}διακίνηση RDMA. Σε αυτά τα δίκτυα, τα buffer και ο έλεγχος συμφόρησης είναι αδιαχώριστα: τα κατώφλια buffer που ορίζετε καθορίζουν πότε επισημαίνει το ECN και πότε ενεργοποιείται το PFC.

Το ECN θα πρέπει να σηματοδοτεί έγκαιρα τη συμφόρηση

Ρητή ειδοποίηση συμφόρησης (ECN), που ορίζεται στο RFC 3168, επιτρέπει σε έναν διακόπτη να επισημαίνει πακέτα καθώς δημιουργείται συμφόρηση αντί να τα απορρίπτει. Ο δέκτης επαναλαμβάνει αυτό το σήμα, έτσι ώστε ο αποστολέας να επιβραδύνει πριν ξεχειλίσει η ουρά. Στα υφάσματα RoCEv2 το όριο σήμανσης είναι μια απόφαση συντονισμού με πραγματικές συνέπειες: σημειώστε πολύ αργά και η ουρά είναι ήδη βαθιά όταν οι πηγές αντιδρούν. Σημειώστε πολύ νωρίς και δεν χρειαζόταν να τα παρατήσετε.

Το PFC πρέπει να είναι το δίχτυ ασφαλείας και όχι η πρώτη απάντηση

Έλεγχος ροής βάσει προτεραιότητας (PFC), τυποποιημένος ως IEEE 802.1Qbb, διακόπτει την κυκλοφορία σε μια κατηγορία προτεραιότητας για να αποτρέψει την απώλεια σε ουρές χωρίς απώλειες. Είναι ουσιαστικό, αλλά είναι αμβλύ όργανο. Στηριχτείτε πάνω του πολύ συχνά και εξαπλώνει συμφόρηση ανάντη, δημιουργώντας καταιγίδες παύσης και μπλοκ-από-γραμμής που τιμωρούν τις ροές που δεν ήταν ποτέ η αιτία. Το πιο υγιεινό πρότυπο είναι καλά καθιερωμένο: σεΗ μεγάλης κλίμακας-εργασία RDMA της Microsoft που εισήγαγε το DCQCN, ο έλεγχος συμφόρησης βάσει ποσοστού-που καθοδηγείται από το ECN χειρίζεται τα συμβάντα ρουτίνας, ενώ το PFC παραμένει αποθεματικό ως η τελευταία γραμμή άμυνας και αυτό το χαρτί παρέχει επίσης συγκεκριμένες οδηγίες σχετικά με τα κατώφλια προσωρινής μνήμης του διακόπτη συντονισμού.

Τα κατώφλια buffer πρέπει να ταιριάζουν με τον φόρτο εργασίας

Τα κατώφλια που αντιγράφονται από ένα σχέδιο αναφοράς σπάνια επιβιώνουν σε επαφή με πραγματική κίνηση. Η εκπαίδευση τεχνητής νοημοσύνης, η εξαγωγή συμπερασμάτων, η αποθήκευση και ο μικτός φόρτος εργασίας στο cloud εκρήγνυνται διαφορετικά και οι σωστές ρυθμίσεις ECN/PFC εξαρτώνται από την ένταση, την ταχύτητα σύνδεσης, την αναλογία υπερσυνδρομής, τη σχεδίαση ουράς και το πόσο ανέχεται ο φόρτος εργασίας την καθυστέρηση έναντι της απώλειας. Αντιμετωπίστε τις προεπιλογές του προμηθευτή ως σημείο εκκίνησης και, στη συνέχεια, συντονιστείτε με τη δική σας επισκεψιμότητα.

Διάγνωση buffer-Σχετικά προβλήματα: συμπτώματα, αιτίες και μετρήσεις

Όταν η απόδοση της εφαρμογής πέφτει αλλά οι πίνακες εργαλείων φαίνονται πράσινοι, η πίεση του buffer είναι μια κοινή κρυφή αιτία. Μια χρήσιμη πρώτη κίνηση είναι να διαβάσετε την τηλεμετρία με σειρά αιτίου και αποτελέσματος αντί να κοιτάξετε επίμονα τη χρήση συνδέσμων. Ο παρακάτω πίνακας αντιστοιχίζει τα συμπτώματα σε πιθανά προβλήματα buffer και τη μέτρηση που τα επιβεβαιώνει.

 

Σύμπτωμα Πιθανή αιτία που σχετίζεται με το buffer- Μέτρηση για έλεγχο πρώτα
Αναμεταδόσεις με κανονική μέση χρησιμοποίηση Η ουρά μικροέκρηξης πέφτει σε μια ουρά εξόδου Η πληρότητα της ουράς κορυφώνεται, η ουρά και η παραγωγή μειώνονται
Αιχμές καθυστέρησης με λίγες ή καθόλου πτώσεις Πάνω από-βαθιά ουρά / bufferbloat Ποσοστό λανθάνοντος χρόνου (p99), βάθος ουράς
Η απόδοση μειώνεται κάτω από πολλά-σε-ένα Incast που ξεχειλίζει μια κοινόχρηστη πισίνα Πτώση κατά τη διάρκεια του incast, ανά-κατοχή ουράς
Περιοδικοί πάγκοι σε όλο το σύμπλεγμα Οι καταιγίδες PFC παύουν να εξαπλώνονται ανάντη Πλαίσια παύσης PFC και διάρκεια παύσης
Μια αργή ροή σέρνει όλη τη δουλειά Αθέμιτη κοινή χρήση buffer μεταξύ τάξεων Ανά{0}}κατοχή προτεραιότητας, ζεστοί-μετρητές ουρών
Οι GPU είναι σε αδράνεια σε αναμονή στο δίκτυο Συμφόρηση που επεκτείνει τις συλλογικές λειτουργίες Ρυθμός σήμανσης ECN, χρόνος ολοκλήρωσης ροής, χρήση GPU

Διαβάστε από πάνω προς τα κάτω, η φυσική διαγνωστική αλυσίδα είναι το βάθος ουράς, μετά τα σημάδια ECN, μετά τα tail drops, μετά τα καρέ παύσης PFC, μετά ο χρόνος ολοκλήρωσης ροής και μετά η χρήση GPU. Εάν οι μετρήσεις δικτύου είναι καθαρές, αλλά οι εργασίες εξακολουθούν να είναι αργές, το πρόβλημα είναι πιθανώς ανάντη του ιστού και όχι εντός του buffer μεταγωγέα.

Εργαστηριακές δοκιμές που αξίζει να γίνουν και πώς μοιάζει το "πάσο".

Πριν από την ανάπτυξη σε τεχνητή νοημοσύνη ή ύφασμα υψηλής απόδοσης-, δοκιμάστε με επισκεψιμότητα που μοιάζει με τον πραγματικό φόρτο εργασίας σας και ορίστε ένα κριτήριο επιτυχίας για κάθε δοκιμή αντί να παρακολουθείτε απλώς το ποσοστό γραμμής.

  • Πολλά-έως-ένα εισερχόμενα:ράμπα τον ανεμιστήρα-σε αναλογία. Το πέρασμα σημαίνει ότι δεν υπάρχουν πτώσεις ουράς και περιορισμένος λανθάνοντας χρόνος p99 στην υπερσυνδρομή του στόχου σας.
  • Πολλά-προς-πολλά, όλα-μειώνουν το στυλ:οδηγούν συγχρονισμένες εκρήξεις? το πέρασμα σημαίνει δίκαιους χρόνους ολοκλήρωσης σε όλες τις ροές χωρίς μεμονωμένο στραγγαλιστή.
  • Μικτή σύντομη- και μεγάλη- ροή:τρέχει ελέφαντας και ποντίκι ρέει μαζί? pass σημαίνει ότι οι σύντομες ροές διατηρούν χαμηλή καθυστέρηση ενώ οι μεγάλες ροές εξακολουθούν να γεμίζουν το σύνδεσμο.
  • Συμφόρηση RoCEv2 με επικύρωση ECN/PFC:επιβεβαιώστε τα σημάδια ECN πριν από την παύση του PFC. pass σημαίνει ότι το ECN κάνει τη δουλειά και το PFC σπάνια ενεργοποιείται.
  • Υπερεγγραφή και επανασύγκλιση αποτυχίας:ρίξτε έναν σύνδεσμο στη μέση-διάσπαση. pass σημαίνει χαριτωμένη αλλαγή δρομολόγησης χωρίς πτώση ή λανθάνοντα γκρεμό.

Ο στόχος δεν είναι να αποδειχθεί η απόδοση του ρυθμού γραμμής-σε έναν διακόπτη αδράνειας. Είναι για να δούμε πώς συμπεριφέρεται ο διακόπτης όταν η κυκλοφορία γίνεται ραγισμένη, συγχρονισμένη και άδικη, η οποία είναι η μόνη κατάσταση που έχει σημασία στην παραγωγή. Όταν σχεδιάζετε την καλωδίωση και τους συνδέσμους για να υποστηρίξουν αυτές τις δοκιμές σε κλίμακα, έναμηχανική σύγκριση επιλογών MTP και MPOείναι χρήσιμος σύντροφος.

Διακόπτης σε βάθος-ενδιάμεσης μνήμης ή χαμηλής καθυστέρησης-;

Δεν υπάρχει κανένας καλύτερος διακόπτης, μόνο η καλύτερη εφαρμογή για ένα δεδομένο ύφασμα. Χρησιμοποιήστε τον παρακάτω πίνακα για να περιορίσετε γρήγορα την επιλογή και, στη συνέχεια, επικυρώστε την με τις παραπάνω εργαστηριακές δοκιμές.

Αν το ύφασμά σας είναι Δώστε προτεραιότητα Κλίση buffer
Backend GPU AI (συγχρονισμένες εκρήξεις, καθυστέρηση-κρίσιμη) Χαμηλή καθυστέρηση, ισχυρή τηλεμετρία, συντονισμός ECN/PFC Χαμηλό-λανθάνον χρόνο, κοινόχρηστο με καλή κατανομή
Αποθήκευση / χωρίς απώλειες Δικαιοσύνη, χρόνος ολοκλήρωσης εργασίας, καθυστέρηση υπό φορτίο Μέτρια, με καλά-απομονωμένες τάξεις
Μικτό σύννεφο (διάφορες ταχύτητες σύνδεσης) Ευέλικτη κατανομή, απομόνωση τάξης, ορατότητα Κοινόχρηστο και ευέλικτο
WAN / συγκέντρωση-μεγάλων αποστάσεων Απορρόφηση μεγάλων εκρήξεων και αναντιστοιχίας ταχύτητας Βαθύ buffer (εξακολουθεί να ελέγχεται έναντι των στόχων λανθάνοντος χρόνου)

Τα μικτά υφάσματα cloud είναι η πιο δύσκολη περίπτωση, επειδή συχνά συνδυάζουν ανερχόμενους συνδέσμους υψηλότερης-ταχύτητας με συνδέσμους πιο αργής πρόσβασης. Εάν χαρτογραφείτε αυτές τις ταχύτητες πρόσβασης, ένας οδηγός γιαΔιεπαφές 10GBASE-T και SFP+ 10GbEμπορεί να σας βοηθήσει να σχεδιάσετε πού θα προσγειωθούν οι μεταβάσεις ταχύτητας, και επομένως η πίεση προσωρινής αποθήκευσης.

FAQ

Ε: Τα μεγαλύτερα buffer μεταγωγέων είναι πάντα καλύτερα;

Α: Όχι. Τα μεγαλύτερα buffer μειώνουν τις πτώσεις πακέτων κατά τη διάρκεια ριπών, αλλά αφήνουν επίσης τα πακέτα να παραμείνουν στην ουρά μεγαλύτερη, γεγονός που αυξάνει τον λανθάνοντα χρόνο και μπορεί να προκαλέσει bufferbloat. Για υφάσματα τεχνητής νοημοσύνης και αποθήκευσης με καθυστέρηση-ευαίσθητου χρόνου, μια προσωρινή μνήμη μέτριας-καλής διαχείρισης έχει συνήθως καλύτερη απόδοση από μια πολύ βαθιά. Το καλύτερο buffer είναι αυτό που έχει μέγεθος και διατίθεται για να απορροφά τις πραγματικές εκρήξεις σας χωρίς να προσθέτει καθυστέρηση που μπορεί να αποφευχθεί.

Ε: Ποια είναι η διαφορά μεταξύ κοινόχρηστου και αποκλειστικού buffer;

Α: Ένα κοινό buffer είναι ένα κοινό pool από το οποίο μπορεί να αντλήσει οποιαδήποτε θύρα ή ουρά όταν το χρειάζεται, γεγονός που το καθιστά αποτελεσματικό στην απορρόφηση απρόβλεπτων ριπών. Ένα αποκλειστικό buffer είναι δεσμευμένο για μια συγκεκριμένη θύρα, ουρά ή τάξη, η οποία βελτιώνει την απομόνωση, αλλά μπορεί να σπαταλήσει τη μνήμη εάν ο δεσμευμένος χώρος είναι αδρανής. Πολλοί μεταγωγείς κέντρων δεδομένων χρησιμοποιούν ένα υβρίδιο των δύο.

Ε: Γιατί οι μικροεκρήξεις προκαλούν απώλεια πακέτων ακόμα και όταν η χρήση φαίνεται χαμηλή;

Α: Η τυπική παρακολούθηση υπολογίζει κατά μέσο όρο την κίνηση σε δευτερόλεπτα ή λεπτά, ώστε να εξομαλύνει τις αιχμές. Μια μικροέκρηξη μπορεί να χτυπήσει το ρυθμό γραμμής μόνο για λίγα χιλιοστά του δευτερολέπτου, γεμίζοντας μια ουρά εξόδου και αναγκάζοντας τις πτώσεις ουράς, ενώ το μέσο γράφημα εξακολουθεί να δείχνει τη σύνδεση ως ελαφρά φορτωμένη. Χρειάζεστε-τηλεμετρία ουράς κλίμακας και πτώση χιλιοστού του δευτερολέπτου για να δείτε αυτά τα συμβάντα.

Ε: Χρειάζονται τα κέντρα δεδομένων τεχνητής νοημοσύνης σε βάθος-ενδιάμεσους διακόπτες;

Α: Όχι συνήθως στο backend της GPU. Τα βαθιά buffer τείνουν να συγκαλύπτουν τη συμφόρηση και να προσθέτουν λανθάνουσα κατάσταση, κάτι που λειτουργεί ενάντια στην προβλέψιμη προώθηση χαμηλής-αποστολής που απαιτεί η κατανεμημένη εκπαίδευση. Τα βαθιά buffer είναι πιο κατάλληλα για ρόλους WAN, δρομολόγησης ή συγκέντρωσης. Για συμπλέγματα τεχνητής νοημοσύνης, η τηλεμετρία, η δίκαιη κατανομή και το καλά συντονισμένο-ECN/PFC έχουν συνήθως μεγαλύτερη σημασία από το ακατέργαστο βάθος της προσωρινής μνήμης.

Ε: Πώς επηρεάζουν τα buffers του switch την απόδοση του RoCEv2;

Α: Στο RoCEv2, τα κατώφλια buffer αποφασίζουν πότε το ECN επισημαίνει πακέτα και πότε το PFC διακόπτει μια προτεραιότητα. Καλά ρυθμισμένο, το ECN επιβραδύνει τους αποστολείς νωρίς και διατηρεί τις ουρές ρηχές. δεν έχει οριστεί σωστά, οι ουρές υπερχειλίζουν ή το PFC ενεργοποιείται πολύ συχνά και εξαπλώνει τη συμφόρηση. Ο συντονισμός των κατωφλίων buffer στο φόρτο εργασίας είναι ένα από τα πιο σημαντικά βήματα για την απόκτηση καλής συμπεριφοράς RoCEv2.

Ε: Ποιες μετρήσεις buffer πρέπει να παρακολουθώ στην παραγωγή;

Α: Παρακολουθήστε την πληρότητα της ουράς, την ουρά και την έξοδο, το ποσοστό σήμανσης ECN και τα καρέ παύσης PFC και τη διάρκεια, στη συνέχεια συνδέστε τα με σήματα εφαρμογής, όπως ο χρόνος ολοκλήρωσης ροής και, για υφάσματα τεχνητής νοημοσύνης, η χρήση GPU. Εάν η απόδοση της εφαρμογής είναι κακή ενώ η μέση χρήση ζεύξης φαίνεται φυσιολογική, η κρυφή πίεση του buffer και οι μικροεκρήξεις είναι πιθανώς ύποπτες.

Βασικά Takeaways

Τα buffer μεταγωγέων παίζουν καθοριστικό ρόλο στην απόδοση του δικτύου τεχνητής νοημοσύνης και των κέντρων δεδομένων, αλλά η χωρητικότητα από μόνη της δεν σας λέει εάν ένας διακόπτης είναι η σωστή επιλογή. Ένας καλός σχεδιασμός buffer απορροφά ρεαλιστικές εκρήξεις, περιορίζει την απώλεια πακέτων, διατηρεί προβλέψιμο τον λανθάνοντα χρόνο, υποστηρίζει σηματοδότηση ECN και PFC και εκθέτει αρκετή τηλεμετρία για αντιμετώπιση προβλημάτων. Για κέντρα δεδομένων AI, αξιολογήστε την αρχιτεκτονική buffer μαζί με τον έλεγχο συμφόρησης, την εξισορρόπηση φορτίου, τη διαχείριση ουρών και τη συμπεριφορά του πραγματικού φόρτου εργασίας σας, όχι ως μεμονωμένος αριθμός σε ένα φύλλο προδιαγραφών.

Προτού δεσμευτείτε, δοκιμάστε τον διακόπτη σε συνθήκες εκκένωσης, μικροέκρηξης και συμφόρησης και παρακολουθήστε πώς μοιράζεται τη μνήμη όταν η κυκλοφορία γίνεται άδικη. Το καλύτερο buffer δεν είναι το μεγαλύτερο. Είναι η αρχιτεκτονική που διατηρεί τις εφαρμογές σας γρήγορες, δίκαιες και προβλέψιμες υπό πραγματική κίνηση.

Αποστολή ερώτησής