Τα άρθρα της ομάδας

NVIDIA: γιατί μια υπολογιστική πλατφόρμα είναι κάτι περισσότερο από ένα τσιπ

Πώς συνεργάζονται υλικό, λογισμικό και δεδομένα και γιατί μια χρήσιμη υπολογιστική πλατφόρμα πρέπει να αφήνει περιθώρια για μελλοντικές επιλογές.

Περιεχόμενα

Άνθρωποι συναρμολογούν ένα μπλε τσιπ, αρθρωτά επίπεδα εργαλείων και ένα ολοκληρωμένο αντικείμενο κατά μήκος ενός λευκού πάγκου εργασίας.

Από την υπολογιστική ισχύ στο χρήσιμο έργο. Εννοιολογική εικονογράφηση δημιουργημένη με τεχνητή νοημοσύνη.

Φανταστείτε ότι ζητάτε από έναν υπολογιστή να βρει παρόμοιες σκηνές ανάμεσα σε χιλιάδες φωτογραφίες. Η αγορά ενός ισχυρού τσιπ είναι μόνο ένα μέρος όσων χρειάζονται για να γίνει αυτό. Κάποιος πρέπει να προετοιμάσει τις εικόνες, να διαθέσει ένα κατάλληλο μοντέλο, να ορίσει τι θα υπολογίσει το υλικό και να μετατρέψει το αποτέλεσμα σε κάτι που μπορείτε να χρησιμοποιήσετε. Η NVIDIA έχει σημασία επειδή παρέχει αρκετά από τα μέρη αυτής της αλυσίδας εργασίας.

Ένα τσιπ χρειάζεται έναν τρόπο να γίνει χρήσιμο

Μια μονάδα επεξεργασίας γραφικών, ή GPU, μπορεί να εκτελεί ταυτόχρονα πολλούς υπολογισμούς που προσφέρονται για παράλληλη επεξεργασία. Αυτό βοηθά τόσο στη δημιουργία εικόνων όσο και στις αριθμητικές πράξεις πολλών μοντέλων τεχνητής νοημοσύνης. Το τσιπ όμως δεν αποφασίζει τι σημαίνουν οι φωτογραφίες σας. Το μοντέλο και το πρόγραμμα ορίζουν την εργασία.

Η πλατφόρμα CUDA της NVIDIA συνδέει τα προγράμματα με τις GPU της. Η τεκμηρίωση της πλατφόρμας CUDA περιγράφει εργαλεία για την ανάπτυξη, την εκτέλεση και την εξέταση αυτών των υπολογισμών. Οι βιβλιοθήκες προσφέρουν επαναχρησιμοποιήσιμες λειτουργίες, ενώ ένας μεταγλωττιστής μετατρέπει τον κώδικα σε εντολές που μπορεί να εκτελέσει το μηχάνημα. Οι προγραμματιστές δεν χρειάζεται να κατασκευάζουν κάθε λειτουργία από την αρχή.

Η πλατφόρμα είναι ολόκληρη η αλυσίδα εργασίας

Σκεφτείτε ένα εργαστήριο: ένα ικανό μηχάνημα γίνεται πιο χρήσιμο όταν τα εργαλεία, οι οδηγίες και οι μέθοδοι εργασίας συνδυάζονται σωστά. Στην πληροφορική, ένα πλαίσιο τεχνητής νοημοσύνης βοηθά τους προγραμματιστές να συνθέσουν ένα μοντέλο, οι αριθμητικές βιβλιοθήκες εκτελούν συνήθεις πράξεις και τα προγράμματα οδήγησης βοηθούν το λογισμικό να χρησιμοποιήσει το υλικό. Αυτά τα επίπεδα κάνουν την εξειδικευμένη υπολογιστική επεξεργασία προσιτή σε περισσότερους ανθρώπους.

Αυτή η ευκολία δημιουργεί και εξαρτήσεις. Ένα πρόγραμμα μπορεί να βασίζεται σε συγκεκριμένη βιβλιοθήκη ή να περιέχει κώδικα γραμμένο για έναν τύπο συσκευής. Επομένως, η αλλαγή του τσιπ μπορεί να συνεπάγεται αλλαγές και ελέγχους στο λογισμικό, όχι απλώς την αντικατάσταση ενός εξαρτήματος.

Ο οδηγός εγκατάστασης του PyTorch, για παράδειγμα, προσφέρει διαφορετικές επιλογές υπολογισμού, όπως CPU, CUDA και ROCm. Αυτό δείχνει ότι υπάρχουν εναλλακτικές. Δεν σημαίνει ότι κάθε μοντέλο, επέκταση ή προσαρμοσμένη λειτουργία μπορεί να μεταφερθεί από τη μία στην άλλη χωρίς αλλαγές.

Αξιολογήστε την ολοκληρωμένη εργασία, όχι μόνο το τσιπ

Ας επιστρέψουμε στις φωτογραφίες. Αν η φόρτωση και η μεταφορά των εικόνων καταλαμβάνουν τον περισσότερο χρόνο, η ταχύτερη εκτέλεση των αριθμητικών πράξεων από μόνη της μπορεί να επηρεάζει ελάχιστα την αναμονή. Ο ίδιος ο οδηγός επιδόσεων της NVIDIA ζητά από τους προγραμματιστές να εξετάζουν την εφαρμογή και να μειώνουν τις περιττές μεταφορές μεταξύ CPU και GPU.

Οι χρήσιμες ερωτήσεις είναι συγκεκριμένες: πόσο διαρκεί ολόκληρη η εργασία, είναι τα αποτελέσματά της αρκετά καλά και πόσο κοστίζουν η εκτέλεση και η συντήρησή της; Οι απαντήσεις εξαρτώνται από τον πραγματικό φόρτο εργασίας. Η ονομαστική ταχύτητα ενός εξαρτήματος δεν αρκεί από μόνη της για να τις δώσει.

Επιλέξτε χρήσιμα εργαλεία και διατηρήστε τη δυνατότητα αλλαγής

Μια καλά ενοποιημένη πλατφόρμα μπορεί να εξοικονομεί δουλειά σήμερα. Καθώς γύρω της συσσωρεύονται λογισμικό, δεδομένα και εμπειρία της ομάδας, η αλλαγή πλατφόρμας μπορεί να απαιτεί περισσότερη δουλειά αύριο. Πριν μεγαλώσει αυτή η επένδυση, βοηθά να γνωρίζετε ποια μέρη μπορούν να μεταφερθούν, ποια χρειάζονται επανεγγραφή και πώς θα δοκιμαζόταν μια εναλλακτική. Πρόκειται για ένα πρακτικό ζήτημα διατήρησης των επιλογών, όχι για λόγο απόρριψης μιας χρήσιμης τεχνολογίας.

Το συνοδευτικό άρθρο για τον Jensen Huang εξηγεί την πορεία της GPU από τα γραφικά στην τεχνητή νοημοσύνη. Ο Lu Heng θέτει ένα βαθύτερο ερώτημα για την εξουσία στις υποδομές του Διαδικτύου: ποιος μπορεί να αποφασίζει τις μελλοντικές αλλαγές; Στο Σημείωμα 65, υποστηρίζει κανόνες που μπορούν να επαληθεύονται τοπικά και την εθελοντική υιοθέτηση στον συντονισμό του Διαδικτύου. Είναι μια ξεχωριστή πρόταση, όχι περιγραφή της NVIDIA. Προσφέρει στους αναγνώστες έναν άλλο τρόπο να εξετάζουν τις υποδομές: να βλέπουν τι λειτουργεί και κατόπιν να ρωτούν ποιος διατηρεί τη δυνατότητα επιλογής.