Το Bing Chat είναι τόσο πεινασμένο για GPU, που η Microsoft θα νοικιάσει Oracle's

Το Bing Chat είναι τόσο πεινασμένο για GPU, που η Microsoft θα νοικιάσει Oracle's

Χρονική σήμανση: 7 Νοεμβρίου 2023 7:27 μ.μ.
Το Bing Chat είναι τόσο πεινασμένο για GPU, η Microsoft θα νοικιάσει το PlatoBlockchain Data Intelligence της Oracle. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Η ζήτηση για τις υπηρεσίες AI της Microsoft είναι προφανώς τόσο μεγάλη –ή οι πόροι του Redmond τόσο περιορισμένοι– που ο γίγαντας λογισμικού σχεδιάζει να μεταφορτώσει ορισμένα από τα μοντέλα μηχανικής μάθησης που χρησιμοποιούνται από το Bing Search στο supercluster GPU της Oracle ως μέρος μιας πολυετούς συμφωνίας που ανακοινώθηκε την Τρίτη.

"Η συνεργασία μας με την Oracle και η χρήση της υποδομής Oracle Cloud μαζί με την υποδομή Microsoft Azure AI, θα επεκτείνει την πρόσβαση στους πελάτες και θα βελτιώσει την ταχύτητα πολλών από τα αποτελέσματα αναζήτησής μας", εξήγησε η Divya Kumar, επικεφαλής της ομάδας μάρκετινγκ της Microsoft Search and AI. σε ένα δήλωση.

Η συνεργασία ουσιαστικά συνοψίζεται στα εξής: Η Microsoft χρειάζεται περισσότερους υπολογιστικούς πόρους για να συμβαδίσει με την υποτιθέμενη «εκρηκτική ανάπτυξη» των υπηρεσιών τεχνητής νοημοσύνης της και η Oracle τυχαίνει να έχει δεκάδες χιλιάδες Nvidia A100 και H100 GPU διαθέσιμες προς ενοικίαση. Μακριά από εμάς να προτείνουμε ότι ο γίγαντας της βάσης δεδομένων που ιδρύθηκε από τον Larry-Ellison δεν έχει αρκετούς πελάτες cloud για να καταναλώσει τα αποθέματά του σε πυρίτιο.

Η Microsoft ήταν μεταξύ των πρώτων που ενσωμάτωσε ένα γενετικό chatbot AI στη μηχανή αναζήτησής της με το ξεκινήσει του Bing Chat τον Φεβρουάριο. Όλοι ξέρετε την άσκηση μέχρι τώρα: μπορείτε να τροφοδοτήσετε μηνύματα, αιτήματα ή ερωτήματα στο Bing Chat και θα προσπαθήσει να αναζητήσει πληροφορίες, να γράψει κακή ποίηση, να δημιουργήσει εικόνες και άλλο περιεχόμενο κ.λπ.

Τα μεγάλα μοντέλα γλώσσας που στηρίζουν την υπηρεσία όχι μόνο απαιτούν τεράστια συμπλέγματα GPU για την εκπαίδευση, αλλά και για την εξαγωγή συμπερασμάτων – τη διαδικασία εφαρμογής ενός μοντέλου – να εκτελεστεί σε κλίμακα. Είναι η στοίβα GPU της Oracle που θα βοηθήσει σε αυτό το συμπέρασμα.

Η τελευταία συνεργασία των δύο παρόχων cloud εκμεταλλεύεται το Oracle Interconnect για το Microsoft Azure, το οποίο επιτρέπει στις υπηρεσίες που εκτελούνται στο Azure να αλληλεπιδρούν με πόρους στο Oracle Cloud Infrastructure (OCI). Τα δύο υπερ-σώματα έχουν προηγουμένως χρησιμοποίησε την υπηρεσία για να επιτρέπει στους πελάτες να συνδέουν φόρτους εργασίας που εκτελούνται στο Azure πίσω στις βάσεις δεδομένων OCI.

Σε αυτήν την περίπτωση, η Microsoft χρησιμοποιεί το σύστημα μαζί με την υπηρεσία Azure Kubernetes για να ενορχηστρώσει τους κόμβους GPU της Oracle για να συμβαδίσει με αυτό που λέγεται ότι είναι ζήτηση για τις λειτουργίες AI του Bing.

Σύμφωνα με το StatCounter, για τον Οκτώβριο του 2023, ο Bing είχε ένα 3.1 τοις εκατό Μερίδιο αγοράς παγκόσμιας αναζήτησης ιστού για όλες τις πλατφόρμες – αυτό συγκρίνεται με το 91.6 τοις εκατό της Google, αλλά από 3 τοις εκατό τον προηγούμενο μήνα. Σε επιτραπέζιους υπολογιστές, το Bing ανέβηκε στο 9.1 τοις εκατό και στο 4.6 τοις εκατό για τα tablet.

Ίσως το StatCounter να κάνει λάθος. Ίσως η φλύαρη μηχανή αναζήτησης της Microsoft να μην είναι τόσο εντυπωσιακά δημοφιλής όσο πιστεύουμε. Ίσως η Microsoft θέλει απλώς να κάνει το Bing να φαίνεται σαν να έχει μεγάλη ζήτηση. Ίσως το Redmond χρειάζεται πραγματικά τον επιπλέον υπολογισμό.

Η Oracle ισχυρίζεται ότι τα υπερ-συστήματα cloud της, τα οποία πιθανώς θα χρησιμοποιήσει η Bing, μπορούν να κλιμακωθούν σε 32,768 Nvidia A100 ή 16,384 H100 GPU χρησιμοποιώντας ένα δίκτυο Remote Direct Memory Access (RDMA) εξαιρετικά χαμηλής καθυστέρησης. Αυτό υποστηρίζεται από petabyte αποθήκευσης αρχείων συμπλέγματος υψηλής απόδοσης που έχουν σχεδιαστεί για να υποστηρίζουν εξαιρετικά παράλληλες εφαρμογές.

Η Microsoft δεν έχει πει πόσους από τους κόμβους GPU της Oracle χρειάζεται για τις υπηρεσίες και τις εφαρμογές τεχνητής νοημοσύνης της και δεν πρόκειται να πει. Ένας εκπρόσωπος μας είπε: «Αυτές δεν είναι λεπτομέρειες που μοιραζόμαστε ως μέρος αυτής της ανακοίνωσης». Ζητήσαμε και από την Oracle περισσότερες πληροφορίες και θα σας ενημερώσουμε αν ακούσουμε κάτι.

Δεν είναι η πρώτη φορά που οι εχθροί στηρίζονται ο ένας στον άλλο για βοήθεια. Πίσω στο Oracle Σεπτεμβρίου ανακοίνωσε θα εντοπίζει τα συστήματα βάσεων δεδομένων του σε κέντρα δεδομένων Microsoft Azure. Σε αυτήν την περίπτωση, η συνεργασία είχε σκοπό να μειώσει τον λανθάνοντα χρόνο που σχετίζεται με τη σύνδεση βάσεων δεδομένων Oracle που εκτελούνται σε OCI με φόρτους εργασίας στο Azure. ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο