Red Hat: AI behöver molnet

Öppna hybrida molnplattformar fungerar som grund

Hajpen kring ChatGPT har fått fler företag att blicka mot Artificiell Intelligens och Machine Learning. Att utveckla, distribuera och hantera AI- och ML-modeller ställer höga krav på infrastrukturen och det behövs specifika ramverk och verktyg. Hybrida molnplattformar är den idealiska i sammanhanget.

Användningen av AI och ML ger fördelar som påskyndade processer, högre kvalitet och minskad arbetsbelastning för anställda. Men införandet av AI-lösningar är även förknippat med höga krav på hårdvara med kostnadskrävande GPU (Graphics Processing Unit)-accelerationsfunktioner, samt på den arkitekturbas eller processtruktur som krävs för en flexibel AI/ML-miljö. Det bör även finnas möjlighet att integrera och bearbeta AI/ML-arbetsbelastningar - även i stor skala.

Uppgiften är att kunna skapa en flexibel och skalbar grund för att utbilda, underhålla, finjustera och faktiskt använda AI-modeller i produktionsmiljöer. Det handlar främst om att utveckla modeller, inklusive utbildning, testning och att välja den mest exakta modellen. Därefter måste modeller integreras i applikationernas utvecklingsprocesser. Utöver detta är det viktigt att övervaka och hantera modellerna för att mäta prestanda och agera på potentiella dataavvikelser i produktionen.

Öppna hybrida molnplattformar fungerar som grund
Den idealiska grunden för många arbetsuppgifter är en öppen Kubernetes-baserad hybrid molnplattform på vilken det gåt att utveckla och utbilda AI-modeller, samt integrera dessa i applikationer. Plattformen möjliggör skalbara konfigurationer anpassade för dataforskare och utvecklare. En sådan plattform stödjer även finjustering av befintliga modeller enligt affärsspecifika krav, vilket minskar kostnader för inledande modellutbildning och minskad tid till värde.

Viktigast är att en hybrid molnplattform har pålitliga säkerhetskontroller, versionshanteringar och arkiveringar som uppfyller huvudkraven för säker AI- och ML-implementering. Vid distribution av AI-applikationer i produktionsmiljö måste organisationens säkerhet, efterlevnad och styrning alltid beaktas. Här kan en öppen plattform forma vägen från experiment till produktion.

En öppen hybrid molnplattform bör erbjuda följande funktioner:
● Deployment pipelines för spårning av AI/ML-experiment och för automatiserade ML-arbetsflöden som hjälper datavetare och utvecklare att iterera ML-projekt snabbt och integrera automatisering med applikationsdistribution och uppdateringar
● Ett Model Serving-ramverk, där datavetare kan publicera sina utbildade och validerade ML-modeller, som applikationsutvecklare sedan kan komma åt via standard-API:er
● Ett Model Monitoring-ramverk som gör det möjligt för organisationer att hantera prestanda- och driftmätningar från en central instrumentpanel.

En viktig fördel med öppen hybrid molnplattform är den höga flexibilitet den erbjuder företag kring den infrastruktur som används: från en plats- till en molnbaserad miljö. Företag på strikt reglerade marknader kan därmed utveckla modeller med känsliga data på lokal nivå, träna upp dem och sedan använda dem i molnet. Omvänt är det också möjligt att utveckla och träna modeller med anonymiserad testdata i exempelvis det publika molnet och sedan integrera dessa modeller i en lokal applikation eller vid kanten.

MLOps-modeller efterfrågas alltmer
I takt med ökad användning av AI och ML, är MLOps (Machine Learning Operations)- som bygger på de etablerade principerna inom DevOps en viktig trend. MLOps gör det möjligt att effektivt utveckla driftsätta, hantera och underhålla ML-modeller. Genom att använda DevOps- och GitOps-principer kan detta förenkla och automatisera den iterativa processen för att integrera ML-modeller i mjukvaruutveckling, produktionsutrullning, övervakning, anpassning och omdistribution. MLOps-processerna stödjer datavetare i utvecklings- och driftarbetsgrupper att distribuera ML-modeller i produktionsmiljö. Med en öppen hybrid molnplattform kan företag distribuera MLOps för sammanhängande ML-livscykelhantering över egna datacenter, publika molnmiljöer och edge computing.

AI erbjuder ett brett applikationsutbud
Det finns många möjliga AI-applikationer för AI-baserade lösningar. Molnanvändning och AI-stödd automatisering kan underlätta hantering och utveckling av IT-infrastrukturer. Inte minst med tanke på den bristande tillgången på kvalificerad arbetskraft inom IT-sektorn. Inom tillverkning är AI-baserad tillståndsövervakning avgörande för att bibehålla hög kvalitet och öka produktiviteten. AI-stödda prediktiva underhållsinsatser är också möjliga, tack vare att maskinernas nedtid kan reduceras avsevärt. Typiska AI-applikationer inom banksektorn innefattar riskhantering med förbättrad riskanalys och bedrägeriupptäckt.

Generativ AI-utveckling kommer generellt sett att stödja många nya användningsområden, från till exempel autonom körning, optimerade försörjningskedjor till upptäckt och behandling av sjukdomar. Slutligen kommer AI vara en betydande drivkraft för implementering av smarta stadsbyggnadsmodeller.

I princip kommer nästan alla verksamheter att behöva arbeta intensivt med AI och ML inom en snar framtid. Öppna hybrida molnplattformar med tillgång till certifierade AI/ML-partners inom ett ekosystem kan ge ett optimalt stöd här. Företag kan därmed enkelt och snabbt använda kompletta lösningar för att utveckla, distribuera och hantera ML-modeller för AI-drivna intelligenta applikationer.

Av: Dominic Schmitt, Director Ecosystem Central Europe på Red Hat

11/28/2023 - Industritorget

Contact information

Northern Link PR i Sverige AB

070-598 22 82

View homepage

Send Email

Contacts

Map

Print
Send tip

Mailing address
Banérgatan 12
11523 Stockholm

Region
Stockholm
Stockholms county
Sweden

Organization id:
556834-7198

Founded: Not specified
Employees: Not specified

Contacts

Map

English description is missing, swedish description below.

Välkommen till Northern Link PR.

Vi hjälper företag med nordiska ambitioner.
När det gäller PR och kommunikation, strävar Northern Link PR att vara det bästa valet för företag med svensk eller helt nordiska ambitioner.

Vi ser vikten av meddelanden, strategi och taktik som är nära i linje med dina affärsmål. Därför har vi etablerat kompetens inom en rad tjänster som kan utvecklas och anpassas beroende på din unika situation.

Välkommen att kontakta oss.

Send rfq