Το chip Jalapeno της OpenAI ξεπερνά το Nvidia GB300 σε ισχύ και ταχύτητα

Αυτό σημαίνει ότι το Jalapeno μπορεί να εκτελεί εργασίες τεχνητής νοημοσύνης πιο αποτελεσματικά όσον αφορά την κατανάλωση ενέργειας και να ανταποκρίνεται γρηγορότερα.

Το chip Jalapeno λειτουργεί με κατανάλωση 700 watt, μια σημαντική παράμετρος καθώς το ρεύμα αποτελεί τον κυρίαρχο παράγοντα κόστους σε κέντρα δεδομένων. Η ικανότητά του να συνδυάζει υψηλή διαμεταγωγή για πολλές ταυτόχρονες αιτήσεις και χαμηλή καθυστέρηση για γρήγορη απόκριση αποτελεί τεχνική καινοτομία που παραδοσιακά καλύπτεται από ξεχωριστά κομμάτια hardware.

Η μεγαλύτερη βελτίωση παρατηρήθηκε στο μοντέλο Kimi, το μεγαλύτερο από αυτά που επιλέχθηκαν για τις δοκιμές.

Είναι σημαντικό να σημειωθεί ότι το Jalapeno δεν έχει σχεδιαστεί για εκπαίδευση μοντέλων, αλλά αποκλειστικά για inference, δηλαδή για την εκτέλεση ήδη εκπαιδευμένων μοντέλων. Επιπλέον, δεν έχει συγκριθεί ακόμη με το νεότερο chip της Nvidia, Vera Rubin, το οποίο έχει μόλις αρχίσει να διατίθεται στην αγορά.

Παράλληλα, η τάση για ανάπτυξη προσαρμοσμένων chips από μεγάλες εταιρείες όπως η Anthropic και η Google δείχνει ότι η αγορά επιδιώκει μεγαλύτερη ανεξαρτησία και εξειδίκευση.

Η κίνηση της OpenAI να αναπτύξει το Jalapeno καταδεικνύει μια σαφή προσπάθεια μείωσης της εξάρτησης από εξωτερικούς προμηθευτές, βελτιώνοντας παράλληλα την ενεργειακή αποδοτικότητα και την ταχύτητα λειτουργίας σε κρίσιμες εφαρμογές AI. Το μέλλον των AI chips φαίνεται να κινείται προς πιο εξειδικευμένες και ισχυρές λύσεις προσαρμοσμένες στις ανάγκες των μεγάλων μοντέλων, με το Jalapeno να αποτελεί ένα αξιοσημείωτο βήμα προς αυτήν την κατεύθυνση.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.