Ακούστε την ηχητική έκδοση αυτού του άρθρου (δημιουργήθηκε από AI).
Η ιστορία των υποδομών AI που κυριάρχησε στις αγορές τα τελευταία δύο χρόνια είχε μια υποτιθέμενη κατάληξη: τελικά, κάθε επιχείρηση θα μεταφέρει τα φορτία εργασίας AI της στο cloud των hyperscalers. AWS, Azure, Google Cloud, Oracle (ORCL) — επιλέξτε την πλατφόρμα σας, πληρώστε ανά token και αφήστε κάποιον άλλον να ανησυχεί για το υλικό.
Η JPMorgan Chase (JPM) μόλις πρόσθεσε έναν σημαντικό αστερίσκο.
Αυτή την εβδομάδα, η SambaNova Systems — μια εταιρεία τσιπ AI που η Intel (INTC) φέρεται να προσπάθησε να αποκτήσει για περίπου 1,6 δισεκατομμύρια δολάρια πριν από λιγότερο από ένα χρόνο — συγκέντρωσε 1 δισεκατομμύριο δολάρια με αποτίμηση 11 δισεκατομμυρίων δολαρίων.
Ο πελάτης που έκανε την ανακοίνωση τόσο ενδιαφέρουσα ήταν η JPMorgan Chase, η οποία επέλεξε τη SambaNova ως συνεργάτη υποδομών συμπερασμάτων (inference), αναπτύσσοντας τα συστήματά της για την παροχή ασφαλούς, on-premises AI inference στην τράπεζα.
Η ταχύτητα της επαναξιολόγησης της νεοφυούς επιχείρησης — και ποιος υπέγραψε ως κύριος πελάτης — δεν είναι τυχαία.
Η JPMorgan μόλις έβαλε έναν αστερίσκο στη θεωρία του αποκλειστικά cloud-based AI
Η κύρια θεωρία για τις υποδομές AI υποθέτει ότι η ζήτηση για συμπεράσματα (inference) — το φορτίο εργασίας που δημιουργείται κάθε φορά που ένα μοντέλο AI απαντά σε ένα ερώτημα, γράφει κώδικα ή ολοκληρώνει μια εργασία — ρέει κυρίως μέσω των πλατφορμών cloud των hyperscalers.
Αυτό ήταν αλήθεια μέχρι στιγμής και θα παραμείνει αλήθεια για το μεγαλύτερο μέρος της αγοράς.
Αλλά η απόφαση της JPMorgan δείχνει προς ένα τμήμα που η αφήγηση «cloud-first» υποτιμά: επιχειρήσεις και ιδρύματα που απλώς δεν μπορούν να στείλουν τα πιο ευαίσθητα δεδομένα τους σε διακομιστή τρίτου μέρους.
Οι τράπεζες κατέχουν δεδομένα πελατών και ιδιωτικές στρατηγικές συναλλαγών που δεν μπορούν να εκθέσουν. Τα νοσοκομεία διαχειρίζονται ιατρικά αρχεία ασθενών που ο ομοσπονδιακός νόμος απαιτεί να προστατεύουν. Οι contractors άμυνας και οι κυβερνητικοί οργανισμοί συχνά αντιμετωπίζουν outright περιορισμούς στην εκτέλεση ευαίσθητων φορτίων εργασίας σε εμπορικές υποδομές cloud.
Για αυτούς τους οργανισμούς, η οικονομία του cloud είναι ελκυστική στα χαρτιά. Αλλά αυτή η αρχιτεκτονική συνοδεύεται από κίνδυνο έκθεσης δεδομένων που δεν μπορούν να αποδεχτούν.
Ο CEO της SambaNova παρουσίασε τη νίκη με την JPMorgan ως σήμα για όλο τον τραπεζικό κλάδο: οι τράπεζες θέλουν έλεγχο over τα πιο ευαίσθητα συμπεράσματά τους και αρχίζουν να χτίζουν γι' αυτό. Και οι προμηθευτές που τους παρέχουν αυτόν τον έλεγχο πρόκειται να ζήσουν πολύ ενδιαφέροντα χρόνια.
Γιατί το Enterprise AI Inference διαφέρει από τα Chatbots
Έχουμε γράψει εκτενώς για τον supercycle των συμπερασμάτων — τη μετάβαση από το AI ως ιστορία της εποχής εκπαίδευσης σε AI ως επίμονο, always-on φορτίο εργασίας που λειτουργεί μέσα στις επιχειρησιακές διαδικασίες. Το Agentic AI επιταχύνει αυτή τη μετάβαση, με workflows βασισμένα σε agents να καταναλώνουν περισσότερη υπολογιστική ισχύ από ό,τι ever did οι queries single-shot.
Αυτό που δείχνει ο γύρος χρηματοδότησης της SambaNova είναι ότι ο supercycle των συμπερασμάτων έχει μια niche αγορά που η αγορά δεν έχει λάβει πλήρως υπόψη.
Ένα σημαντικό μέρος της ζήτησης για enterprise inference δεν θα ρέει μέσω των APIs των hyperscalers. Θα λειτουργεί on-premises, μέσα στο firewall, σε υλικό που κατέχεται και λειτουργείται από την ίδια την επιχείρηση.
Ο Liang σημείωσε ότι οι επιχειρήσεις και οι κυβερνήσεις μόλις ξεκινούν το ταξίδι τους στο AI, με την περισσότερη ανάπτυξη μέχρι στιγμής να συγκεντρώνεται among τους κατασκευαστές μοντέλων τεχνολογίας και τα frontier labs — αφήνοντας σημαντικά έσοδα ακόμα available. Συγκεκριμένα στους regulated κλάδους, αυτά τα έσοδα πάνε σε όποιον πωλεί το υλικό, τη δικτύωση, την αποθήκευση και το software stack που καθιστά δυνατή την on-premises inference.
Αλλά η επόμενη φάση του AI trade έχει περισσότερες moving parts από ό,τι αντιλαμβάνονται οι περισσότεροι επενδυτές. Αν θέλετε να ακούσετε πού πιστεύω ότι κινούνται next τα smartest money στο AI — οι ιδέες μου με την highest conviction, live και δια ζώσης — θα είμαι στο Stansberry Conference & Alliance Meeting στο Las Vegas αργότερα φέτος. Σας ενδιαφέρει; Κλείστε τη θέση σας με έκπτωση πριν εξαντληθούν.
Το AI Infrastructure Trade χωρίζεται μεταξύ Cloud και On-Prem
Η θεωρία «picks-and-shovels» για τις υποδομές AI παραμένει intact. Η παγκόσμια αγορά AI inference αξιολογείται σε περίπου 120 δισεκατομμύρια δολάρια το 2026 και προβλέπεται να φτάσει τα 300-plus δισεκατομμύρια δολάρια έως το 2034. Αυτή η ζήτηση πρέπει να κατοικεί κάπου.
Τώρα αυτό το «κάπου» φαίνεται λίγο πιο διχασμένο.
Το cloud των hyperscalers captures the majority of it. Μέσα στους regulated κλάδους, η on-premises inference διαμορφώνεται ως μια ξεχωριστή αγορά. Οι τράπεζες, τα συστήματα νοσοκομείων και οι κυβερνητικοί οργανισμοί μπορούν να χτίσουν ένα convincing economic case για την ιδιοκτησία του δικού τους υλικού. Τα μαθηματικά του κόστους ανά token ευνοούν το on-premises σε επαρκή utilization. Και όταν οι regulatory constraints are real, τα economics almost don't matter. Το cloud απλώς δεν είναι viable option για τα πιο ευαίσθητα φορτία εργασίας τους.
Οι εταιρείες που είναι positioned για αυτό είναι οι ίδιες για τις οποίες γράφαμε. Η AI Factory της Dell (DELL) έχει ήδη περισσότερους από 4.000 enterprise customers. Η Everpure (P) — πρώην Pure Storage — έχει ανακατασκευάσει την πλατφόρμα της specifically για να κάνει τα enterprise data accessible στα AI workloads χωρίς το overhead της replication.
Η απόφαση της JPMorgan μόλις έκανε την προσέγγισή τους στην επόμενη τράπεζα πολύ πιο εύκολη.
Το συμπέρασμα
Το γεγονός ότι η SambaNova πήγε από rumored acquisition target 1,6 δισεκατομμυρίων δολαρίων σε συγκέντρωση κεφαλαίων με αποτίμηση 11 δισεκατομμυρίων δολαρίων σε λιγότερο από ένα χρόνο αντανακλά κάτι πραγματικό: το private capital has decided ότι η ασφαλής, on-premises enterprise AI inference είναι μια durable market, και η τιμή εισόδου has changed accordingly.
Τα frontier labs και οι hyperscalers οδήγησαν την πρώτη φάση αυτού του trade. Το κύμα deployment enterprise και sovereign είναι η δεύτερη φάση — και μέσα στους regulated κλάδους, plays by different rules. Οι τράπεζες, τα συστήματα νοσοκομείων και οι κυβερνητικοί οργανισμοί δεν κινούνται γρήγορα. Αλλά όταν το κάνουν, κινούνται σε scale, under long-term contracts, με infrastructure budgets that tend to be sticky.
Άλλες τράπεζες πιθανότατα παρακολουθούν την κίνηση της JPMorgan. Το ίδιο κάνουν και certain corners του healthcare και της government. Για organizations sensitive στα δεδομένα, αυτό could be the new blueprint.
Ο supercycle των συμπερασμάτων είναι πραγματικός και το cloud των hyperscalers will capture most of it. Αλλά μέσα στους sensitive sectors, μια structurally distinct market is forming for secure, on-premises inference infrastructure. Για τις companies best positioned να την υπηρετήσουν, είναι μια durable one.
Και η durable infrastructure spend is exactly what the most sophisticated private capital has been positioning around… not at the application layer or the model layer, but underneath all of it.
Τα energy systems, η nuclear capacity και η physical fabrication που καθιστούν δυνατή την persistent AI compute — whether it runs in a hyperscaler’s data center or inside JPMorgan’s firewall — are being secured through private funds and bilateral agreements that most investors never see.
Και αν και most of those positions aren’t accessible publicly, there are seven publicly traded stocks that mirror those same bets almost exactly — the hard-asset backbone of an infrastructure build that isn’t slowing down regardless of where enterprises decide to run their workloads.
Εδώ είναι πώς να μπείτε από την «πίσω πόρτα».
