Τα διόδια πάνω στην εποχή του AI που η αγορά δεν αποτιμά σωστά

Γιατί αυτός ο κλάδος, και γιατί τώρα

Για δεκαετίες, η πρόοδος στα chips στηριζόταν σε έναν απλό κανόνα. Μίκραινες τα transistors, χώραγες δηλαδή περισσότερα στην ίδια επιφάνεια, και το chip γινόταν ταχύτερο και φθηνότερο. Αυτός ήταν ο νόμος του Moore. Το πρόβλημα όμως με αυτό είναι ότι έχει φτάσει σχεδόν στα φυσικά του όρια. Το να μικρύνεις κι άλλο το transistor κοστίζει δυσανάλογα πολλά και αποδίδει όλο και λιγότερο.

Έτσι η βιομηχανία άλλαξε κατεύθυνση. Αντί να μικραίνει μόνο οριζόντια, άρχισε να στοιβάζει chips το ένα πάνω στο άλλο, μνήμη πάνω σε λογική, cache πάνω σε πυρήνες. Αυτό το λέμε advanced packaging και 3D integration, και είναι σήμερα ο κύριος λόγος που οι αποδόσεις αυξάνονται.

Ο λόγος που έγινε αυτή η αλλαγή είναι το AI. Τα μεγάλα μοντέλα δεν περιορίζονται μόνο από την υπολογιστική ισχύ. Περιορίζονται από το πόσο γρήγορα μπορεί η μνήμη να ταΐσει με δεδομένα τον επεξεργαστή. Μπορεί να έχεις την ισχυρότερη GPU του κόσμου, αλλά αν η μνήμη δεν προλαβαίνει να της στείλει δεδομένα, η ισχύς μένει ανεκμετάλλευτη. Αυτό το ονομάζουμε memory bottleneck, και είναι ο λόγος που η μνήμη υψηλής ταχύτητας (HBM) έχει γίνει το πιο περιζήτητο εξάρτημα στα data centers.

Και γι αυτό λοιπόν σήμερα θέλω να μιλήσουμε για το hybrid bonding. Παλιότερα, για να ενώσεις δύο chips, χρησιμοποιούσες μικροσκοπικές μπίλιες κόλλησης (solder bumps), μικρά μεταλλικά στηρίγματα ανάμεσα στα δύο επίπεδα. Το hybrid bonding καταργεί σχεδόν όλα αυτά τα στηρίγματα. Κάνει τις δύο επιφάνειες εξαιρετικά επίπεδες και καθαρές και τις συγκολλά απευθείας, χαλκό με χαλκό, σε αποστάσεις κάτω από ένα micron. Το αποτέλεσμα είναι περίπου διακόσιες φορές περισσότερες ηλεκτρικές συνδέσεις ανά τετραγωνικό χιλιοστό, πολύ μικρότερες διαδρομές για το σήμα, λιγότερη κατανάλωση ενέργειας και καλύτερη απαγωγή θερμότητας.