Ομοιόμορφη Αποδοτική Διαχείριση του Ταυτοχρονισμού των Εξυπηρετητών

Επαναληπτικός ή Ταυτόχρονος Εξυπηρετητής; Είναι ο ταυτοχρονισμός εγγυημένος; Ποιος σχεδιασμός εξυπηρετητή είναι βέλτιστος; Πώς μπορεί να γίνει μια εκτίμηση για το φόρτο των αιτήσεων ή τους χρόνους εξυπηρέτησης; Οι αλλαγές στα δίκτυα κάνουν αυτά τα ερωτήματα δύσκολα να απαντηθούν.

Επίπεδο Ταυτοχρονισμού Είναι το συνολικό πλήθος νημάτων εκτέλεσης που ο εξυπηρετητής έχει εκτελέσει σε μια δεδομένη χρονική στιγμή. Το ενδιαφέρον εστιάζεται στο ανώτατο όριο ταυτοχρονισμού Κάθε TCP υλοποίηση θέτει ένα όριο στον αριθμό των ενεργών συνδέσεων και κάθε λειτουργικό σύστημα θέτει ένα όριο στο πλήθος των διαθέσιμων νημάτων

Ταυτοχρονισμός Οδηγούμενος από τη Ζήτηση Οι περισσότεροι από τους σχεδιασμούς χρησιμοποιούν τα εισερχόμενα μηνύματα για να προκληθεί αύξηση στον ταυτοχρονισμό Αυτά τα σχήματα λέγονται demand-driven Παίρνουν πόρους από το σύστημα μόνο εφόσον τους χρειάζονται, οπότε δεν καταναλώνουν πόρους άσκοπα Παρέχουν χαμηλούς χρόνους απόκρισης

Κόστος ταυτοχρονισμού Πολλές φορές οι demand driven εξυπηρετητές μπορεί να μην παράγουν βέλτιστα αποτελέσματα Σε αυτή την περίπτωση πρέπει να εξεταστεί το θέμα της δημιουργίας νημάτων ή διεργασιών και του χρονοπρογραμματισμού

Φόρτος και Καθυστέρηση Η δημιουργία ενός slave για κάθε νέα αίτηση μπορεί να κοστίζει. Αυτές οι μικρές καθυστερήσεις γίνονται πολύ μεγάλες όταν αυξάνει κατά πολύ ο αριθμός των αιτήσεων Επεξεργασία αίτησης 1 Επεξεργασία αίτησης 2 Δημιουργία slave 1 Δημιουργία slave 2 ταυτόχρονος c 2c 2c+p Επεξεργασία αίτησης 1 Επεξεργασία αίτησης 2 επαναληπτικός p 2p

Φόρτος και Καθυστέρηση (2) Βραχυπρόθεσμα, μικρές καθυστερήσεις σ’ έναν εξυπηρετητή έχουν επιπτώσεις στον αντιληπτό χρόνο απόκρισης, αλλά όχι στο throughput. Μακροπρόθεσμα, οι καθυστερήσεις αυτές μπορούν να προκαλέσουν απώλεια αιτήσεων. Λύση όταν το κόστος δημιουργίας διεργασίας/νήματος είναι μεγάλο: προεκχώρηση.

Προεκχώρηση Εξαρτημένων Νημάτων Τα νήματα αφού δημιουργηθούν παραμένουν και δεν τερματίζονται Όταν φτάσει ένα αίτημα ένα από τα νήματα που βρίσκονται σε αναμονή χειρίζεται το αίτημα. Όταν τελειώσει, επιστρέφει στον κώδικα και περιμένει άλλο αίτημα.

Προεκχώρηση στο Linux Όταν μια διεργασία καλεί τη fork, η διεργασία παιδί λαμβάνει ένα αντίγραφο όλων των ανοικτών περιγραφέων, συμπεριλαμβανομένων και αυτών που αντιστοιχούν σε sockets Εξυπηρετητής με σύνδεση: οι slaves επιστρέφουν και ελέγχουν την ουρά εισόδου για νέο αίτημα και το χειρίζονται από το νέο socket που επιστρέφει η accept Απαιτείται έλεγχος συγχρονισμού Εξυπηρετητής χωρίς σύνδεση: η ιδέα είναι ίδια, ο έλεγχος συγχρονισμού γίνεται πάνω στη recvfrom().