AICloudCompareEEN HELDERE START
De cloud, in begrijpelijke taal.
Begrijp de paar begrippen die je keuze veranderen. Begin met een vraag, of zoek een term op zodra je die tegenkomt.
Begin met een vraag.
Korte definities.
Wat de term betekent, en wanneer die ertoe doet.
Zoek op de term of op de betekenis.
11 termen uitgelegd
- GPU
- Een processor die veel berekeningen tegelijk kan uitvoeren. Veel AI-workloads gebruiken er een.Bij het kiezen van rekenkracht
- VRAM
- Het werkgeheugen van de GPU (videogeheugen). Je model en de actieve workload hebben genoeg bruikbare ruimte nodig.Bij de controle of een model past
- Cloud-instance
- Een gehuurde rekenomgeving met een vaste hoeveelheid rekenkracht, geheugen en andere middelen.Bij het vergelijken van complete machines
- Inferentie
- Een getraind model gebruiken om een antwoord of andere uitvoer te maken.Bij de keuze hoe je een model aanbiedt
- Model-API
- Een interface die je app aanroept om een model te gebruiken dat door een dienst wordt gehost.Als je minder infrastructuurwerk wilt
- Fine-tuning
- Een model verder trainen op geselecteerde data om het gedrag of de prestaties op een taak aan te passen.Bij het aanpassen van een model
- Serverless
- De provider beheert de servers en de capaciteit achter je workload. De regels voor facturering en schaling verschillen.Bij het vergelijken van schaling en kosten bij inactiviteit
- Dedicated hosting
- Capaciteit die aan jouw workload is toegewezen, in plaats van een gedeelde pool die modellen aanbiedt. Controleer wat er precies dedicated is.Bij het vergelijken van isolatie en controle
- On-demandprijzen
- Je betaalt voor capaciteit wanneer je die gebruikt of laat inrichten, zonder verplichting voor een gereserveerde looptijd. Controleer de minimale facturering.Bij het schatten van flexibel gebruik
- Spotprijzen
- Afgeprijsde reservecapaciteit die onderbroken kan worden. Je workload heeft een herstelplan nodig.Als een job onderbrekingen kan verdragen
- Uitgaand dataverkeer (egress)
- Data die een dienst of netwerkgrens verlaat. Een provider kan daarvoor kosten rekenen.Bij het controleren van kosten voor dataverkeer
Hoe de onderdelen samenhangen.
Een GPU rekent. VRAM bewaart de werkgegevens.
Meer VRAM kan helpen om een model te laten passen. Het bewijst op zichzelf niet dat de ene opstelling sneller is, of geschikt voor jouw workload.
Begrijp GPU-geheugen →Je bepaalt nog steeds wat je zelf beheert.
Een gehost model, een beheerd endpoint en je eigen runtime leggen elk andere verantwoordelijkheden bij jou.
Vergelijk de drie routes →