OpenAI Jalapeno: τι έδειξε η σύγκριση με το Nvidia GB300

Η OpenAI δημοσίευσε τα πρώτα δικά της benchmarks για το Jalapeno, το εξειδικευμένο chip τεχνητής νοημοσύνης που ανέπτυξε μαζί με την Broadcom. Σύμφωνα με την εταιρεία, το νέο hardware ξεπέρασε το Nvidia GB300 στην ποσότητα εργασίας AI ανά μονάδα ισχύος και στον χρόνο που χρειάζεται για να επιστρέψει μια απάντηση.

Το πλεονέκτημα των 700 watt

Το Jalapeno φτάνει τα συγκεκριμένα αποτελέσματα με κατανάλωση 700 watt. Η ενεργειακή επίδοση έχει ιδιαίτερη σημασία στα data centers, όπου το ηλεκτρικό ρεύμα αποτελεί ένα από τα μεγαλύτερα λειτουργικά κόστη. Ο επικεφαλής του τμήματος chips της OpenAI, Richard Ho, εξήγησε ότι η σχεδίαση επιχειρεί να συνδυάσει δύο διαφορετικές ανάγκες: υψηλό throughput για την εξυπηρέτηση πολλών χρηστών και χαμηλό latency για γρήγορες αποκρίσεις.

Στις δοκιμές χρησιμοποιήθηκαν ένα μικρό ανοιχτό μοντέλο της OpenAI και μοντέλα τρίτων από τις DeepSeek και Moonshot. Η μεγαλύτερη διαφορά υπέρ του Jalapeno καταγράφηκε στο Kimi, το μεγαλύτερο μοντέλο του συγκεκριμένου δείγματος.

Τα όρια της σύγκρισης

Τα αποτελέσματα χρειάζονται προσεκτική ανάγνωση, επειδή προέρχονται από την ίδια την OpenAI και δεν έχουν ακόμη επιβεβαιωθεί από ανεξάρτητες δοκιμές. Επιπλέον, το Jalapeno δεν συγκρίθηκε με τη νεότερη γενιά Vera Rubin της Nvidia και δεν έχει σχεδιαστεί για την εκπαίδευση μοντέλων. Ο ρόλος του περιορίζεται στο inference, δηλαδή στην εκτέλεση μοντέλων που έχουν ήδη εκπαιδευτεί.

Η OpenAI δεν παρουσιάζει το chip ως πλήρη αντικατάσταση των λύσεων της Nvidia. Ο Ho χαρακτήρισε τη Nvidia σημαντικό συνεργάτη και ξεκαθάρισε ότι η εταιρεία θα συνεχίσει να χρειάζεται μεγάλο όγκο από το hardware της.

Η συνέχεια του σχεδίου

Μια δεύτερη έκδοση του Jalapeno αναμένεται να ολοκληρώσει τη φάση σχεδιασμού τους επόμενους μήνες, ενώ υπάρχει ήδη η αρχική κατεύθυνση για τρίτη γενιά. Η προσπάθεια εντάσσεται σε μια ευρύτερη τάση: μεγάλοι αγοραστές υπολογιστικής ισχύος, όπως η Google και η Anthropic, αναπτύσσουν δικά τους chips ώστε να προσαρμόζουν καλύτερα την απόδοση και το κόστος στις ανάγκες τους.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.