Visitatio exclusiva laboratorium Trainium Amazonis, microplagulae quae Anthropic, OpenAI, etiam Apple vicit. 

Shortly after Amazon CEO Andy Jassy announced AWS’s groundbreaking $50 billion investment deal with OpenAI, Amazon invited me on a private tour of the chip development lab at the heart of the deal, at (mostly*) its own expense. 

Periti industriae observant Microprocessus Trainium Amazonis, in illa officina creatus, propter implicationes suas ad interpretationem intellegentiae artificialis minoris pretii et, fortasse, laesionem in paene monopolio Nvidiae.  

Curiosus, ire consensi.  

Duces mei periegetici illius diei fuerunt director laboratorium, Kristopher King (infra dextram in imagine depictus) et director machinalis Marcus Carroll (infra sinistra), necnon homunculus pro publicis relationibus turmae qui visitationem curavit, Doron Aronson (cum me postea in historia in imagine depictus). 

AWS has been Anthropic’s major cloud platform since the AI lab’s early days — a relationship significant enough to survive Anthropic later adding Microsoft as a cloud partner as well, and Amazon’s growing partnership with OpenAI.

Pactum cum OpenAI AWS facit ut solus praebitor novi instrumenti ad agentes cum intelligentia artificiali fabricandos, Frontier, qui pars magni momenti negotii OpenAI fieri potest si agentes tam magni fiant quam Silicon Valley putat. Videbimus an haec exclusivitas prorsus ut nuntiata maneat. The Financial Times nuntiavit hoc septimana Microsoft fortasse credat pactum OpenAI cum Amazonia suum pactum cum OpenAI violare, nempe cum Redmond accessum obtineat. ad omnia exemplaria et technologiam OpenAI.

Quid AWS tam attractivam reddit OpenAI? Pars huius pacti est quod gigas nubium consensit ut OpenAI duo gigavatta capacitatis computandi Trainium praebeat. Hoc est ingens promissum, cum Anthropic et servitium Amazonis Bedrock iam celerius quam Amazon eas producere potest frusta Trainium consumant. 

Sunt 1.4 miliones lapidum Trainium per omnes tres generationes dispositae, et Claude Anthropic plus quam decies centena milia lapidum Trainium2 dispositorum operatur, societas dixit.

Notandum est Trainium, quamquam initio ad celeriorem et viliorem exemplarium institutionem (quod ante biennium maior erat prioritas) destinatum erat, nunc etiam ad deductionem aptatum esse et adhibitum. Deductio — processus revera exemplar intellegentiae artificialis currendi ad responsa generanda — nunc maximum impedimentum perfunctionis in industria est. 

Exemplum in re: Trainium2 maiorem partem negotiationis deductionis in servitio Amazonis Bedrock tractat, quod constructionem applicationum intellegentiae artificialis a multis clientibus Amazonis magnariis adiuvat et applicationibus permittit ut multis exemplaribus utantur.

"Clientum nostrum tam celeriter crescit quam capacitatem offerre possumus," King dixit. "Baserock aliquando tam magnum quam EC2 esse potest," addidit, de ingenti servitio computandi nubis AWS loquens. 

Trainium contra Nvidiam

Ultra offerendum alternativam GPU Nvidiae quae iam retardatae et difficiles ad acquirendum sunt, Amazon... dicit Novae eius laminae, in novis specialibus Trn3 UltraServers operantes, usque ad 50% minus constant ad operandum, pro comparabili efficacia quam utentes classicis servis nubilibus. 

Una cum Trainium3, mense Decembri emisso, haec turma AWS etiam novos interruptores Neuron construxit, et Carroll dicit hanc combinationem esse transformatricem.

"Quod nobis praebet est aliquid ingens," dixit Carroll. Commutatores permittunt ut cuique fragmento Trainium3 cum omnibus aliis fragmentis in configuratione reticulata communicet, moram minuens. "Ideo Trainium3 omne genus recordorum frangit," praesertim in "pretio per potentiam," inquit. 

Cum trillionibus tesserarum per diem agitur, tales emendationes accumulantur.  

Re vera, turma Amazonis microplagularum erat ab Apple anno 2024 laudatumRaro momento apertitudinis pro societate arcana, director intellegentiae artificialis Apple publice descripsit quomodo aliam ex microplacis turmae — Graviton, CPU servitoris parvae potentiae, in ARM fundatum, et primam microplacam eruptionis quam haec turma designavit — uteretur. Apple etiam Inferentiam — microplacam specialiter ad inferentiam designatam — laudavit et Trainium, quod eo tempore novum erat, annuit. 

Hae tesserae classicum librum Amazonicum repraesentant: vide quid homines emere velint, deinde alternativam domesticam construi quae pretio certat. 

Peccatum microplacis, per historiam, fuerunt sumptus mutationis. Applicationes pro microplacis Nvidia scriptae denuo architectae sunt ut cum aliis operentur — processus longum et multum temporis consumens qui artifices a mutatione deterret.

Sed turma microplagularum AWS mihi superbe dixit Trainium nunc sustinere... PyTorch, systema populare fontis aperti ad exempla intellegentiae artificialis construenda. Hoc includit multa ex iis quae in Hugging Face posita sunt, bibliotheca vasta ubi artifices exempla fontis aperti communicant.

Transitio, Carroll mihi dixit, "mutationem unius lineae, deinde recompilationem, et deinde in Trainium currendum" requirit. Aliis verbis, Amazon, ubicumque fieri potest, dominationem mercatus Nvidiae paulatim minuere conatur.

AWS etiam hoc mense nuntiavit Societas cum Cerebras Systems, microplagulam deductionis illius societatis in servientibus Trainium currentibus integrans, propter id quod Amazon pollicetur fore efficaciam intellegentiae artificialis superpotentem et latentiam humilem. 

Sed ambitiones Amazonis ultra ipsas laminas computatrales progrediuntur. Etiam servum qui laminas computatrales hospitat designat. Praeter partes retium, haec turma "Nitro" designavit, mixturam apparatuum et programmatum quae technologiam virtualisationis praebet (quae permittit multas instantias programmatum separatim in eodem servo currere); novam technologiam refrigerationis liquidae optimam; et trabes servorum (infra depictas) quae haec instrumenta hospitant. 

Omnia illa ad sumptus et efficaciam moderandos sunt. 

Laborans perpetuo in "educatione" 

Unitas Amazonis ad microplacas designandas nata est cum gigas nubium... Annapurna Labs, fabricatorem Israeliticum microplagularum, emit Ianuario anni 2015 pro circiter $350 millionibus. Itaque haec turma iam plus quam decem annos in designandis microplacis pro AWS egit. Unitas radices et nomen Annapurnae retinuit — insignia eius ubique in officio sunt. 

This chip lab is located in a shiny, Chrome-windowed building in Austin’s upscale “The Domain” district, a walkable area filled with shops and restaurants that’s sometimes called Vallis Silicii Austiniensis. 

Officia habent classicam speciem societatis technologicae: mensae in cubiculis, loca congregationis, et conclavia. Sed in parte posteriori tabulati alti aedificii recondita est laboratorium ipsum, cum prospectibus amplis urbis.  

Laboratorium pluteis refertum, magnitudine fere duarum magnarum conclavium, propter ventilatores in apparatu spatium industriale strepitans est. Similis est mixtio inter classem officinae scholae secundariae et scaenam Hollivudianam pro laboratorio pretioso, nisi quod ingeniarii bracis, non togis albis, induti sunt.

Nota bene non hic esse locum ubi fragmenta fabricantur, itaque nullae vestes albae ad materias periculosas necessariae fuerunt. Trainium3 est fragmentum trium nanometrorum artis recentissimae, a TSMC productum, fortasse duce in fabricatione trium nanometrorum, cum aliis fragmentis a Marvell productis. 

Sed haec est camera ubi magia "educationis" fit.  

"Introductio silicii est cum primum frustum electronicum accipis, et est quasi magna convivia nocturna. Hic manes, quasi clausus," King explicat. Post decem et octo menses laboris, frustum electronicum primum activatur ut verificetur an prout designatum est fungatur. Turma etiam nonnullas introductiones Trainium3 filmavit. et in YouTube posuit.

Monitum de praemonitione: Numquam sine problemate est.  

Pro Trainium3, prototypum microplagulae initio aere refrigeratum erat, sicut versiones priores. Microplagula hodierna nunc est... liquido refrigeratus, quod commoda energiae praebet et magnum opus ingeniarium fuit.

Dum educebatur, dimensiones quomodo microplagula cum dissipatore caloris aeris refrigerantis coniuncta erat aberratae erant, ita microplagula activari non poterat. 

Imperterriti, turma "statim molam nactam metallum abradere coepit," King dixit. Quia nolebant sonitum atmosphaeram convivii pizzae perturbare, clam secesserunt et molam in conclavi conventuum fecerunt.  

Tota nocte vigilare et problemata solvere "hoc est quod silicii evocationem significat," dixit King. 

Laboratorium etiam stationem ferrariam habet, ubi Isaac Guevara, machinator et machinator ferrariae peritus, demonstravit quomodo minimae partes circuitus integrati per microscopium ferrantur. Hoc opus tam insanabiliter difficile est ut Carroll, dux senior, palam confessus sit se id facere non posse, cachinnis Guevarae et reliquorum machinatorum in conclavi praesentium. 

Laboratorium etiam instrumenta et ad usum fabricata et mercatoria continet ad problemata cum microplacis probanda et analysanda. Hic Arvindus Srinivasan, machinator signorum, demonstrat quomodo laboratorium singula minima elementa in microplaca probet:

Trahae stella laboratorium sunt 

Sed stella laboratorium est tota series quae singulas generationes "traharum" quas turma designavit ostendit. 

Trahae sunt fercula quae fragmenta Trainium AI, fragmenta Graviton CPU, et tabulas et componentes adiuvantes continent. Ea in armario cum componente retiario, etiam ab hac turma specialiter designato, congesta, et systemata habes quae in centro successus Anthropic Claude sunt. 

Ecce traha quae in conventu AWS re:invent mense Decembri exhibita est: 

Probatum ab Anthropic et OpenAI

Exspectabam duces meos de pacto OpenAI per iter laudaturos. Sed non fecerunt. 

Reticentia fortasse ob praedictam caliginem legalem, quae pacto imminere posset, coniuncta erat. Sed sensus quem accepi est hos artifices, iam operantes, (qui nunc novam versionem, Trainium4, designant) nondum multum temporis habuisse ut cum OpenAI laborarent. Opus eorum cotidianum hactenus in necessitatibus Anthropic et Amazon intendit.

Maxima pars microplagularum Trainium2 in Proiecto Rainier — uno ex maximis globis computationis intellegentiae artificialis mundi — collocatur, quod exeunte anno 2025 cum 500,000 microplagulis in usum venit. Ab Anthropic adhibetur. 

Sed in principali officio monitor muralis erat, ubi dictum de usu OpenAI Trainium ostendebatur. Superbia, etsi subtilis, aderat.  

Praeter hoc laboratorium, turma etiam proprium centrum datorum privatum ad qualitatem et probationes habet. Brevi itinere autocineto distans, opera clientium non curat, itaque in loco communi, non in centro datorum AWS, collocatur.

Securitas stricta est: Ad aedificium ingrediendum et ad aream Amazonis intra aream accedendum, praecepta stricta sunt.

Systema refrigerationis centri datorum tam sonorum est ut obturacula auricularia necessaria sint, et aer acri odore metalli calefacti crassus est. Non est locus amoenus homini communi ad commorandum. 

In hoc centro datorum, ordines et ordines servorum sunt trahiculis repleti qui omnes novissimas microprocessores Amazonis incorporant: CPU Graviton, Trainium3 refrigeratum liquido, Amazon Nitro, omnia laete computando. Liquor in systemate clauso currit, id est iterum adhibetur, quod etiam adiuvare debet ad minuendum impulsum in ambitum, dixerunt ingeniarii. 

Ecce quomodo UltraServer Trn3 hodiernus apparet: Plures trabes supra et infra sunt, cum commutatoribus Neuron in medio. Ingeniarius evolutionis apparatuum David Martinez-Darrow hic videtur trabeae curam gerens:

Dum attentio in turma semper magna fuit, nuper scrutinium vere crevit. 

Andreas Jassy, ​​praefectus societatis Amazon, hoc laboratorium attente observat, publice de eius productis glorians quasi pater superbus. Mense Decembri, dixit Trainium iam esse negotium multis miliardis dollariorum pro AWS et... vocavit eam una pars technologiae AWS de qua maxime gaudet. Etiam fragmentum laudavit cum pactum OpenAI nuntiaret.  

Turma quoque pressionem sentit. Ingeniarii per tres vel quattuor hebdomades, singulis eventibus promovendis, viginti quattuor horas per diem, septem dies per hebdomadem laborabunt ut problemata emendent, ita ut microplagulae in magna copia produci et in centra datorum collocari possint.

"Maximi momenti est ut quam celerrime probemus rem revera operaturam esse," dixit Carroll. "Hactenus, optime egimus." 

*Declaratio: Amazon vecturam aeream praebuit et sumptum unius noctis in deversorio locali suscepit. Honorans eius Principium Ducatus Frugalitatis, haec erat sedes media in parte posteriori aeroplani et cubiculum modestum. TechCrunch alios sumptus itineris conexos, ut Uber et pretia sarcinarum, sustulit. (Ita, sarcinam pro itinere nocturno contuli. Eo modo sum laboriosus.)