Utökar AI-flexibilitet över hybridmolnet

OpenShift AI stärker företagens anpassningsförmåga

Red Hat, en ledande leverantör av lösningar med öppen källkod, meddelade framsteg inom Red Hat OpenShift AI, en öppen hybridplattform för artificiell intelligens (AI) och maskininlärning (ML). Plattformen är byggd på Red Hat OpenShift och gör det möjligt för företag att skapa och leverera AI-applikationer i stor skala över hybridmoln. Uppdateringarna belyser Red Hats vision för AI och dess fokus på kundval inom intelligenta arbetsbelastningar, från hårdvaran till de tjänster och verktyg som används för att utveckla plattformen. Det möjliggör snabbare innovation, ökad produktivitet och AI-integration i affärsverksamheten. Plattformen är flexibel, skalbar och anpassningsbar för både prediktiva och generativa modeller, oavsett molnmiljöer.

Kunder står inför flera utmaningar när de tar sina AI-modeller från experiment till produktion, inklusive ökade hårdvarukostnader, oro för dataskydd och bristande tillit kring att dela data med SaaS-baserade modeller. Generativ AI (gen AI) utvecklas snabbt och många organisationer kämpar för att etablera en pålitlig AI-plattform som kan användas både lokalt och i molnet.

För att lyckas med AI måste företag modernisera applikationer och data, övervinna systemhinder, förbättra infrastrukturens hållbarhet och ta smarta beslut kring var arbetsbelastningar ska distribueras, enligt IDC. För Red Hats del visar detta att AI-plattformar måste erbjuda flexibilitet för att stödja företag under deras AI-adoptionsresa när deras behov och resurser förändras.

Red Hats AI-strategi ger flexibilitet över hybridmolnet, möjlighet att förbättra förtränade eller kuraterade grundmodeller med kunddata, samt friheten att använda olika hårdvaru- och mjukvaruacceleratorer. Red Hat OpenShift AI erbjuder nya och förbättrade funktioner som möter dessa behov genom att ge tillgång till de senaste AI/ML-innovationerna och stöd från ett brett ekosystem av AI-partners. Den senaste versionen av plattformen, Red Hat OpenShift AI 2.9, levererar:

• Kantbaserad model serving breddar distributionen av AI-modeller till avlägsna platser med single-node OpenShift, vilket möjliggör inferens i miljöer med begränsade resurser och periodisk nätverksåtkomst. Denna testversion ger organisationer en skalbar och enhetlig driftupplevelse från core till moln till kant, med inkluderade funktioner för observabilitet.
• Förbättrad model serving erbjuder möjligheten att använda flera servrar för både prediktiv och generativ AI. Det inkluderar stöd för KServe, en Kubernetes-anpassad resursdefinition som orkestrerar serving för alla typer av modeller, samt vLLM och TGIS, vilka är servingmotorer för LLM och Caikit-nlp-tgis-runtime, som hanterar naturliga modeller för språkbearbetning (NLP) och -uppgifter. Förbättrad model serving möjliggör prediktiv och generativ AI på en enda plattform för flera ändamål, vilket minskar kostnader och förenklar drift.
• Distribuerade arbetsbelastningar med Ray, genom användning av CodeFlare och RayKube, som utnyttjar flera klusternoder för snabbare databehandling och modellträning. Ray är ett ramverk för att påskynda AI-arbetsbelastningar och hanteras av KubeRay på Kubernetes. CodeFlare är central för Red Hat OpenShift AI:s förmåga att hantera fördelade arbetsbelastningar, samt förenklar uppgiftsorkestrering. Centrala kö- och hanteringsfunktioner möjliggör optimal nodanvändning och resursallokering, inklusive GPU:er.
• Förbättrad modellutveckling genom projektarbetsytor och ytterligare workbench-bilder som ger datavetare flexibilitet att använda IDE:er och verktygslådor, inklusive VS Code och RStudio. De finns för närvarande tillgängliga som testversioner, samt som förbättrad CUDA, för olika användningsfall och modelltyper.
• Visualiseringar för modellövervakning för prestanda- och driftmätvärden, vilket förbättrar möjligheten att observera hur AI-modeller presterar.
• Nya acceleratorprofiler som ger administratörer möjlighet att konfigurera olika hårdvaruacceleratorer för modellutveckling och arbetsflöden för model serving. Det ger enkel, självbetjänad tillgång till rätt accelerator för en specifik arbetsbelastning.

Utöver att Red Hat OpenShift AI utgör grunden för IBM:s watsonx.ai, utrustar företag inom olika branscher sig med Red Hat OpenShift AI för att driva mer AI-innovation och tillväxt.

Molnet är hybrid. Det är AI också
I mer än 30 år har öppen källkodsteknik kombinerat snabb innovation med kraftigt sänkta IT-kostnader och minskade innovationshinder. Red Hat har lett denna utveckling nästan lika länge, från att ha levererat öppna företagsanpassade Linux-plattformar med RHEL i början av 2000-talet till att driva containrar och Kubernetes som grunden för öppna hybridmoln och molnbaserad databehandling med Red Hat OpenShift.

Denna drivkraft fortsätter med att Red Hat stöder AI/ML-strategier över det öppna hybridmolnet, vilket möjliggör för AI-arbetsbelastningar att köras där data finns, vare sig det är i datacentret, i flera offentliga moln eller vid kanten. Förutom arbetsbelastningarna så följer Red Hat's vision för AI modellträning och justering i samma spår för att bättre hantera begränsningar kring datavernonitet, efterlevnad och operationell integritet. Konsekvensen som levereras av Red Hats plattformar över dessa miljöer, oavsett var de körs, är avgörande för att hålla AI-innovationen flytande.

Red Hat Summit
Delta i Red Hat Summit-presentationerna för att ta del av det allra senaste från Red Hats ledare, kunder och partners:

• Molnet är hybrid. Det är AI också. — Tisdag den 7 maj, kl. 16:00-18:00 (YouTube, LinkedIn)
• Optimera IT för AI-eran. — Onsdag den 8 maj, kl. 16:30-17:30 (YouTube, LinkedIn)

Stödjande citat
Ashesh Badani, chief product officer och senior vice president, Red Hat
"Att implementera AI i företaget är inte längre en fråga om 'om', utan en fråga om 'när'. Företag behöver en mer pålitlig, konsekvent och flexibel AI-plattform som kan öka produktiviteten, driva intäkter och bidra till att differentiera marknaden. Red Hats svar på behoven av företags-AI i skala är Red Hat OpenShift AI, vilket gör det möjligt för IT-chefer att distribuera intelligenta applikationer var som helst över hybridmolnet, samtidigt som de växer och finjusterar drift och modeller efter behov för att stödja verkligheten hos produktionsapplikationer och tjänster."

Ta gärna del av det fullständiga pressmeddelandet på engelska här.

5/10/2024 - Industritorget