AI i cloud, på egne servere eller en kombination? Det er et spørgsmål, flere virksomheder skal tage stilling til, når AI går fra eksperiment til en del af den daglige drift.
For mens det er forholdsvis nemt at komme i gang med en AI-tjeneste i cloud, bliver valget mere komplekst, når løsningen skal arbejde med virksomhedens egne data, integreres i eksisterende systemer og bruges af mange medarbejdere.
Hvor AI skal køre, handler derfor ikke kun om teknologi. Det handler også om kontrol, økonomi, sikkerhed og de opgaver, AI faktisk skal løse.
AI i cloud: Nemt at komme i gang, men hvad med driften?
Cloud er ofte et oplagt sted at starte. I kan få adgang til AI-modeller og regnekraft uden selv at investere i servere eller opbygge en større AI-infrastruktur.
Det gør cloud attraktivt til udvikling, test og opgaver, hvor behovet for kapacitet svinger. Har I eksempelvis brug for stor regnekraft i korte perioder, kan det være mere hensigtsmæssigt at leje den end at have hardware stående ubrugt.
Men når AI bliver en fast del af forretningen, ændrer regnestykket sig.
Forbruget kan stige med antallet af brugere, forespørgsler og mængden af data, der behandles. Samtidig skal I forholde jer til, hvor data bliver behandlet, hvilke leverandører der har adgang, og hvilke aftaler og sikkerhedsforanstaltninger der gælder.
Cloud er altså ikke nødvendigvis den dyreste eller mindst sikre løsning. Men den er heller ikke automatisk den bedste, bare fordi den er nem at komme i gang med.
AI på egne servere: Når kontrol og forudsigelighed vejer tungt
Et alternativ er at køre AI i virksomhedens eget datacenter eller i et dedikeret miljø hos en hostingpartner.
Med en lokal AI-platform kan I selv bestemme, hvilke modeller der anvendes, hvordan data behandles, og hvordan løsningen integreres med den eksisterende infrastruktur.
Det kan især være relevant, hvis AI skal arbejde med fortrolige dokumenter, interne systemer eller data, hvor der stilles særlige krav til adgang og behandling.
Der kan også være en økonomisk fordel ved at have egen kapacitet, hvis AI-workloads kører stabilt og intensivt. Her skal omkostningerne dog vurderes samlet – inklusive hardware, strøm, køling, vedligeholdelse og de kompetencer, der kræves for at drive løsningen.
Egne servere giver mere direkte kontrol over infrastrukturen. Det betyder ikke automatisk bedre sikkerhed eller lavere omkostninger. Det afhænger af, hvordan løsningen er bygget og drives.
Hybrid AI: Måske skal alt ikke køre samme sted
For mange virksomheder er det ikke nødvendigt at vælge enten cloud eller egne servere.
En hybrid tilgang gør det muligt at placere forskellige AI-workloads dér, hvor det giver bedst mening.
Forestil jer eksempelvis en virksomhed, der bruger AI til at søge i interne dokumenter. Her kan det være relevant at behandle følsomme data i et kontrolleret, privat miljø. Samtidig kan virksomheden bruge cloudbaserede AI-tjenester til andre opgaver, hvor fleksibilitet og adgang til bestemte modeller er vigtigere.
Det afgørende er, at arkitekturen understøtter den nødvendige adskillelse mellem data og workloads.
Hybrid AI handler derfor ikke bare om at have både cloud og servere. Det handler om at have styr på, hvilke opgaver der kører hvor – og hvorfor.
Fem spørgsmål, I bør stille, før I vælger
Før I beslutter, hvor jeres AI skal køre, er det værd at få styr på nogle helt konkrete forhold:
- Hvilke data skal AI arbejde med? Er det offentligt tilgængeligt materiale, almindelige virksomhedsdata eller fortrolige oplysninger?
- Hvor meget bliver løsningen brugt? Er der tale om enkelte forespørgsler, eller skal mange medarbejdere anvende AI kontinuerligt?
- Hvor krævende er opgaverne? Skal I bruge store sprogmodeller, mindre specialiserede modeller, klassisk machine learning eller GPU-tung databehandling?
- Hvor hurtigt skal AI svare? Skal løsningen eksempelvis reagere i realtid på data fra produktion eller lokale systemer?
- Hvem skal stå for driften? Har I kompetencerne og kapaciteten internt, eller skal løsningen helt eller delvist drives af andre?
Svarene giver et bedre grundlag for at vurdere, om cloud, on-prem eller en hybrid løsning passer til behovet.
Når AI skal køre lokalt, bliver servervalget vigtigt
Hvis nogle af jeres AI-workloads skal placeres på egne servere, er næste spørgsmål, hvilken infrastruktur der skal understøtte dem.
AI forbindes ofte med GPU’er, men ikke alle opgaver kræver dedikeret GPU-acceleration. Nogle inferencing-opgaver kan afvikles på CPU’er, mens andre har behov for større modeller, mere hukommelse eller specialiseret hardware.
Lenovo ThinkSystem-servere med Intel® Xeon®-processorer er en mulighed for virksomheder, der vil kombinere eksisterende datacenteropgaver med nye AI-workloads.
Eksempelvis kan Lenovo ThinkSystem SR650 V4 med Intel® Xeon® 6-processorer konfigureres til både traditionelle virksomhedsapplikationer og AI-inferencing. Intel® Xeon® 6 bidrager blandt andet med processorkapacitet, hukommelsesbåndbredde og indbygget AI-acceleration gennem Intel® AMX.
Performance and Efficiency Without Compromise.
That’s the power of Intel Inside®.
Det betyder ikke, at én server passer til alle AI-opgaver. Den rette konfiguration afhænger af modellen, datamængden, antallet af samtidige brugere og de krav, I stiller til svartid og drift.
Det er netop derfor, servervalget bør komme efter en vurdering af workloaden – ikke før.
Start med opgaven. Vælg derefter platformen.
Der findes ikke ét rigtigt sted at køre AI. Cloud giver hurtig adgang til kapacitet og AI-modeller, mens egne servere kan give større kontrol og mere forudsigelige omkostninger. En hybrid løsning kan kombinere fordelene, hvis den er gennemtænkt fra starten.
Vi kan hjælpe med at finde den rette infrastruktur til jeres AI-behov – fra kapacitetsplanlægning og servervalg til integration med det eksisterende datacenter. Ræk ud til Frederik via formularen herunder.
Overvejer I at køre AI på egne servere, kan I læse mere om vores Lenovo ThinkSystem-servere med Intel Xeon og prøve serverguiden som et første skridt.