AMD vergroot zijn focus op AI-chips met de overname van start-up Taalas. De Amerikaanse chipmaker maakte de deal op 6 augustus bekend. Taalas komt uit Toronto en bouwt chips speciaal voor AI-inferentie. Dat is de fase waarin een getraind model antwoorden geeft. Het bedrijf brandt complete AI-modellen rechtstreeks in de chip. Over het bedrag doen beide partijen geen uitspraken. Ook een datum voor de afronding ontbreekt nog. AMD wil de techniek opnemen in zijn eigen roadmap voor versnellers. Beleggers reageerden positief: het aandeel AMD steeg ongeveer anderhalf procent.
Taalas kiest een radicaal andere route dan de rest van de markt. Gewone AI-versnellers halen de gewichten van een model steeds opnieuw uit het geheugen. Dat kost tijd en bovendien veel stroom. Taalas giet die gewichten juist direct in de transistors van de chip. Het bedrijf noemt het resultaat een model-specific integrated circuit. Het model zit dan letterlijk in het silicium. Daardoor verdwijnt de flessenhals rond geheugenbandbreedte grotendeels. HBM-geheugen, de dure stapelchips naast elke GPU, is nauwelijks nog nodig. AMD stelt dat deze aanpak de reken- en geheugenknelpunten van algemene architecturen wegneemt.
De cijfers die Taalas noemt, vallen meteen op. De testchip HC1 rolt bij TSMC van de band op een 6nm-procedé. Op die chip draaide Llama 3.1 8B van Meta, een openbaar taalmodel. Volgens Taalas haalde de chip bijna 17.000 tokens per seconde. Dat zou 73 keer zoveel zijn als een H200 van Nvidia. Daarbij verbruikt de chip naar eigen zeggen een tiende van de energie. Ook tegenover hardware van Groq, SambaNova en Cerebras claimt het bedrijf een voorsprong. Onafhankelijke metingen van die claims ontbreken voorlopig.
Tegenover die snelheid staat een duidelijke beperking. Elke chip draait alleen het model waarvoor de ontwerpers hem maakten. Verschijnt er een nieuwe modelversie, dan volstaat de oude chip niet meer. Taalas noemt dat probleem overkomelijk. Van de ruim honderd lagen in het ontwerp veranderen er maar twee per model. Met eigen ontwerpsoftware duurt een tape-out ongeveer twee maanden. Zo blijven de kosten per nieuw model beperkt, stelt het bedrijf. In een markt waarin modellen elk kwartaal vernieuwen, blijft dat een gok.
AMD vervangt zijn brede GPU-aanbod niet door deze chips. De techniek komt naast de Instinct-versnellers, de EPYC-serverprocessors en het Helios-rackplatform te staan. Ook de softwarelaag ROCm hoort bij dat pakket. AMD mikt zo op complete systemen in plaats van losse onderdelen. Klanten die één groot model op enorme schaal draaien, vormen de logische doelgroep. Denk aan chatdiensten, zoekmachines en assistenten voor programmeurs. Voor die partijen wegen kosten per token en stroomverbruik zwaarder dan flexibiliteit. De overname past in een duidelijke reeks. Het is de derde AI-aankoop van AMD in negen maanden, na MK1 en Mext.
Achter Taalas staan bekende namen uit de chipwereld. Ljubisa Bajic richtte het bedrijf in 2023 op, samen met Drago Ignjatovic en Lejla Bajic. Bajic werkte eerder als architect bij zowel AMD als Nvidia. Daarna leidde hij chipontwerper Tenstorrent. Investeerders staken in totaal 219 miljoen dollar in de start-up. ‘We richtten Taalas op om AI-inferentie helemaal opnieuw te doordenken, door de hardware rond het model te bouwen’, zei Bajic. Hij stapt over naar de AI-groep van AMD en neemt zijn team mee.
De overname raakt vooral de strijd met Nvidia. Dat bedrijf beheerst de markt voor AI-versnellers met algemene GPU’s en zijn CUDA-software. AMD probeert dat slot te omzeilen met een fundamenteel ander soort chip. Of die zet slaagt, hangt af van echte klanten en meetbare resultaten. Voorlopig komen de prestatiecijfers van Taalas zelf. Duidelijk is wel dat inferentie het zwaartepunt van de AI-markt wordt. Trainen gebeurt één keer per model; antwoorden geven gebeurt miljarden keren per dag. Wie die rekensom goedkoper maakt, verdient daar de komende jaren fors aan.
