X
Ultralytics YOLOv8.2 LoslatenUltralytics YOLOv8.2 LoslatenUltralytics YOLOv8.2 Pijl loslaten
Groene cheque
Link gekopieerd naar klembord

Inzicht in de invloed van rekenkracht op AI-innovaties

Naarmate de AI-technologie voortschrijdt, neemt de behoefte aan nieuwe en verbeterde AI-rekenkracht toe. Ontdek hoe rekenkracht de AI-beweging vooruit helpt.

Kunstmatige intelligentie (AI) en rekenkracht delen een zeer nauwe relatie. Rekenkracht is essentieel voor AI-toepassingen omdat het computersystemen helpt bij het verwerken en uitvoeren van taken. Deze toepassingen vereisen aanzienlijke rekenkracht om complexe algoritmen en grote datasets te beheren, en dat is waar GPU's in beeld komen. GPU's, of Graphics Processing Units, werden oorspronkelijk ontworpen om beeld- en videoverwerking te versnellen, maar zijn essentieel geworden voor het beheren van de intensieve gegevensverwerking en deep learning taken die AI vereist.

In de afgelopen jaren hebben we AI exponentieel zien groeien. Natuurlijk moet de AI-hardware deze groei volgen en bijhouden. Uit een onderzoek blijkt dat de GPU-prestaties sinds 2003 ruwweg 7000 keer zo groot zijn geworden. 

Met sterkere, snellere en efficiëntere hardware kunnen onderzoekers en ingenieurs steeds complexere AI-modellen ontwikkelen. Laten we eens begrijpen hoe de computerinfrastructuur voor AI zich ontwikkelt om aan de groeiende eisen van kunstmatige intelligentie te voldoen.

AI-hardware: Een groeiend gesprek

De rol van GPU's in AI-ontwikkeling is onmiskenbaar. Deze krachtige processors versnellen de complexe berekeningen die nodig zijn voor het trainen en inzetten van AI-modellen. In wezen vormen ze de ruggengraat van de moderne AI-technologie. Maar niet alleen GPU's trekken de aandacht. 

We beginnen chips te zien die speciaal voor AI zijn gemaakt en die met hen concurreren. Deze chips worden helemaal opnieuw gebouwd om AI te helpen zijn werk nog beter en sneller te doen. Er wordt veel onderzoek en werk gedaan om de toekomst van AI computing te verbeteren. Veel bedrijven investeren in rekenkracht voor AI, wat een van de redenen is dat de wereldwijde markt voor AI-hardware in 2023 werd gewaardeerd op 53,71 miljard dollar en naar verwachting zal groeien tot ongeveer 473,53 miljard dollar in 2033.

Waarom is de vooruitgang van AI-hardware de laatste tijd een onderwerp van gesprek geworden? De verschuiving naar gespecialiseerde AI-hardware weerspiegelt de toenemende eisen van AI-toepassingen in verschillende sectoren. Om met succes AI-oplossingen te maken, is het belangrijk om voorop te blijven lopen door op de hoogte te zijn van de veranderingen op het gebied van hardware.

Belangrijkste spelers in AI-hardware

Toonaangevende hardwarefabrikanten racen om hardware van de volgende generatie te ontwikkelen, waarbij ze de prestaties en efficiëntie verbeteren door middel van interne ontwikkeling, strategische partnerschappen en overnames.

Fig 1. Leiders in AI-hardware.

Apple is overgestapt van het gebruik van externe GPU's naar de ontwikkeling van zijn eigen M-serie chips met neurale motoren voor AI-versnelling, waarmee het zijn strak gecontroleerde ecosysteem versterkt. Ondertussen blijft Google zwaar investeren in zijn Tensor Processing Unit (TPU) infrastructuur. TPU's zijn AI-chips die zijn gebouwd om sneller te werken en minder energie te verbruiken dan GPU's, waardoor ze zeer geschikt zijn voor het trainen en inzetten van AI-oplossingen op grotere schaal.

 Ook AMD heeft de AI hardware arena betreden met zijn Radeon Instinct serie versnellers, gericht op datacenters en high-performance computing toepassingen. Ook Nvidia blijft zich richten op het ontwikkelen van GPU's die geoptimaliseerd zijn voor AI workloads, zoals de A100 en H100 Tensor Core GPU's. Hun recente overname van Arm Holdings is gericht op het vergroten van hun controle over chiparchitecturen die veel mobiele apparaten aandrijven.

Naast deze gevestigde spelers wagen veel startups en onderzoeksinstellingen zich aan nieuwe AI-chiparchitecturen. Zo is Graphcore met zijn Intelligence Processing Unit (IPU) gespecialiseerd in sparse computations. Cerebras Systems biedt de Wafer Scale Engine, een massieve chip op maat gemaakt voor AI workloads op extreme schaal.

Nieuwste AI-hardwareontwikkelingen

Laten we eens kijken naar de nieuwste AI-hardware die is uitgebracht.

Op 9 april 2024 onthulde Intel zijn nieuwste AI-chip, de Gaudi 3, met superieure prestaties ten opzichte van de H100 GPU van Nvidia:

  • Meer dan twee keer zo energiezuinig en 1,5 keer zo snelle verwerking van AI-modellen.
  • Verkrijgbaar in flexibele configuraties zoals gebundeld op een moederbord of als zelfstandige kaart.
  • Succesvol getest op diverse AI-modellen zoals Meta's Llama en Abu Dhabi's Falcon, waarmee de effectiviteit is bewezen voor het trainen en inzetten van diverse AI-modellen, waaronder Stable Diffusion en OpenAI's Whisper voor spraakherkenning.
Fig 2. Intel's Gaudi 3.

Voorafgaand aan Gaudi 3, op 18 maart 2024, introduceerde NVIDIA haar nieuwste AI-platform, de Blackwell. Dit platform is ontworpen om doorbraken op verschillende gebieden mogelijk te maken en heeft de volgende kenmerken:

  • Nvidia beweert dat Blackwell de "krachtigste chip ter wereld" is. 
  • Hij beschikt over een dual-die GPU met 208 miljard transistors en een 10 TB/s chip-naar-chip interconnectie, waarmee een nieuwe standaard wordt gezet voor vermogen en efficiëntie in generatieve AI op datacenterschaal.
  • Toonaangevende cloudserviceproviders zoals Google Cloud, Amazon Web Services en Microsoft Azure hebben aangekondigd Blackwell te willen gebruiken om vooruitgang te boeken op het gebied van generatieve AI, deep learning en cloud computing-diensten.
Fig. 3. Blackwell van Nvidia.

De opkomst van aangepaste AI-chips

Ondertussen ontwikkelen verschillende techgiganten hun eigen aangepaste AI-chips om hun diensten aan te drijven. 

Op 10 april 2024 kondigde Meta de nieuwste versie van hun Meta Training and Inference Accelerator (MTIA) aan. Deze tweede generatie chip, die al operationeel is in Meta's datacenters, presteert beter op het gebied van reken- en geheugenbandbreedte. Deze upgrades ondersteunen de prestaties van Meta's AI-toepassingen, zoals ranking- en recommendation engines, op platforms als Facebook en Instagram.

Fig. 4. Meta's nieuwste versie van MTIA.

Ook andere grote spelers zoals Google, Amazon en Microsoft hebben dit jaar hun eigen siliciumchips geïntroduceerd. Het is een strategische zet om hun kostenstructuur te optimaliseren en minder afhankelijk te worden van externe leveranciers zoals Nvidia.

Waar wordt AI-hardware gebruikt? 

AI-hardware ondersteunt verschillende AI-oplossingen in veel verschillende sectoren. In de gezondheidszorg worden medische beeldvormingssystemen zoals MRI- en CT-scans ondersteund, waarbij complexe taken worden uitgevoerd en grote hoeveelheden gegevens efficiënt worden verwerkt voor een snelle en nauwkeurige diagnose.

Financiële instellingen gebruiken AI-algoritmen om gegevens te analyseren voor het opsporen van fraude en het optimaliseren van investeringen. De ingewikkelde aard van de analyse van financiële gegevens vereist geavanceerde hardwaremogelijkheden om de immense rekenlast effectief aan te kunnen.

In de auto-industrie helpt het bij het verwerken van real-time sensorgegevens in autonome voertuigen. Taken als objectdetectie en het vermijden van botsingen moeten worden ondersteund door geavanceerde hardware met krachtige verwerkingsmogelijkheden voor snelle besluitvorming en passagiersveiligheid.

Fig. 5. De hersenen van een autonoom voertuig.

Detailhandelaren gebruiken AI-gestuurde aanbevelingsengines om winkelervaringen te personaliseren en de verkoop te stimuleren door enorme klantgegevens van verschillende afdelingen te analyseren om voorkeuren te voorspellen en relevante producten voor te stellen. De noodzaak om diverse datasets te analyseren en gepersonaliseerde aanbevelingen te genereren vraagt om geavanceerde hardware voor realtime reacties en verbeterde gebruikersbetrokkenheid.

Een ander voorbeeld met betrekking tot winkels is het gebruik van computervisie om het gedrag van klanten te volgen en te analyseren. Winkeliers kunnen begrijpen hoe klanten met hun omgeving omgaan, populaire producten identificeren en voetgangerspatronen detecteren. Op basis van deze bevindingen kunnen ze de indeling van winkels en de plaatsing van producten optimaliseren om de verkoop te verbeteren. Rekenkracht is belangrijk voor het real-time verwerken van grote hoeveelheden videogegevens. Het nauwkeurig volgen van bewegingen en interacties is afhankelijk van robuuste hardware. Zonder die hardware komen de snelheid en nauwkeurigheid van gegevensverwerking in het gedrang, wat de effectiviteit van de analyse van klantgedrag vermindert.

Dat is het topje van de ijsberg. Van productie tot landbouw, AI-hardware is overal te zien.

AI schalen met rekenkracht

AI-hardware is vaak gebouwd om grote taken aan te kunnen. Het kan een uitdaging zijn om de schaal van AI-implementaties in industrieën wereldwijd te bevatten, maar het is duidelijk dat schaalbare AI afhankelijk is van de juiste hardware.

Neem bijvoorbeeld de samenwerking tussen BMW en NVIDIA. Met BMW dat jaarlijks 2,5 miljoen auto's produceert, is de schaal van de activiteiten enorm. BMW gebruikt AI om verschillende aspecten van het productieproces te optimaliseren, van kwaliteitscontrole en voorspellend onderhoud tot logistiek en supply chain management.

Om aan dergelijke eisen te voldoen, vertrouwt BMW op geavanceerde AI-hardwareoplossingen zoals NVIDIA's Quadro RTX 8000 en RTX-aangedreven servers. Deze technologieën maken AI-implementaties eenvoudiger en schaalbaarder.

Computerkracht beïnvloedt verschillende onderdelen van je AI-oplossing

Naast het leveren van rekenkracht aan AI-toepassingen, beïnvloedt de AI-hardware die je kiest je oplossing ook op het gebied van modelprestaties, modelconversie, inzetflexibiliteit en algehele nauwkeurigheid. Zodra AI-modellen zijn getraind en getest, worden ze vaak geconverteerd naar een formaat dat draait op de gekozen implementatieplatforms. 

Maar modelconversie kan leiden tot nauwkeurigheidsverlies en moet van tevoren worden overwogen. Integratietools zoals ONNX (Open Neural Network Exchange) kunnen een gestandaardiseerd formaat bieden voor het implementeren van AI-modellen op een groot aantal verschillende hardwareplatforms. Dit is ook de reden achter populaire modellen zoals YOLOv8 die gebruikers de optie geven om hun op maat getrainde modellen te exporteren in veel verschillende formaten om tegemoet te komen aan meerdere implementatieopties.

Energie-efficiëntie is essentieel voor de toekomst van AI Computing

De impact van geavanceerde rekenkracht is niet beperkt tot AI; het raakt ook de energiesector. 

Fig 6. Op weg naar duurzame AI-hardware.

Zo werd Meta's LLaMA-3, een geavanceerd groot taalmodel (LLM), getraind met behulp van twee speciaal gebouwde datacenterclusters die zijn uitgerust met 24.576 Nvidia H100 GPU's elk. Dankzij deze robuuste hardwareopstelling was Meta in staat om de verwerkingssnelheid te verhogen en het energieverbruik met 40% te verlagen. De vooruitgang in AI-hardware draagt dus ook bij aan energiezuinigere operaties.

Bovendien krijgt het verband tussen AI en energie meer aandacht nu mensen als Sam Altman zich ermee gaan bemoeien. Altman, bekend als de CEO van OpenAI, heeft onlangs het kernenergiebedrijf Oklo openbaar gemaakt. Oklo, met zijn innovatieve kernsplijtingstechnologie, wil de energieproductie transformeren en mogelijk energie leveren aan de datacenters die essentieel zijn voor AI-activiteiten. In de afgelopen jaren hebben zowel Bill Gates, medeoprichter van Microsoft, als Jeff Bezos, oprichter van Amazon, ook geïnvesteerd in kerncentrales.

Buiten het circuit

Vooruitkijkend zal de toekomst van AI-hardware enorme sprongen maken, vooral met de opkomst van kwantumcomputing. Experts voorspellen dat de markt voor kwantumcomputing in 2030 bijna 65 miljard dollar waard kan zijn. Naarmate AI-modellen complexer worden, wordt gespecialiseerde hardware cruciaal voor het ontsluiten van hun volledige potentieel. Van AI-specifieke chips tot verkenningen op het gebied van kwantumcomputing, hardware-innovatie stimuleert de ontwikkeling van complexere en impactvollere AI-oplossingen.

Bekijk gerust onze GitHub repository en neem deel aan onze community om meer te leren over AI. Verken onze laatste blogposts om te zien hoe AI wordt toegepast op verschillende gebieden, zoals Formule 1 racen en robotica.

Facebook-logoTwitter-logoLinkedIn logoSymbool voor kopiëren-linken

Lees meer in deze categorie

Laten we samen bouwen aan de toekomst
van AI!

Begin je reis met de toekomst van machine learning