Latest news


- News from the industry
Send tip

Förgiftad träningsdata

Ett hot mot stora språkmodeller
Dataförgiftning har blivit ett allt större hot mot stora språkmodeller (LLM). Det innebär att felaktig eller vilseledande data matas in i den träningsdata som språkmodellen använder när den svarar på en fråga. I förlängningen betyder det att prestandan och förtroendet för stora språkmodeller försämras. Dataförgiftning utgör också en säkerhetsrisk när en angripare till exempel påverkar en AI-driven kundtjänst att styra användarna till en webbplats för nätfiske.

– Ansvaret för att upptäcka och motarbeta dataförgiftning ligger hos utvecklarna av språkmodellerna. Men det är viktigt att alla som använder en modell som utsatts hämtar den nya, uppdaterade versionen så snart den blir tillgänglig, på samma sätt som man gör med all annan programvara som bygger på öppen källkod, säger Peter Graymon, ansvarig för Barracuda Networks i Norden.

Stora språkmodeller används för att exempelvis driva chattbottar och generera text. De tränas på stora mängder insamlad data som sedan används för att skapa mer data, allt enligt de regler och mönster de lärt sig. Kvalitetsdata leder till bra resultat medan undermålig eller felaktig data genererar dåliga resultat. Förgiftad träningsdata som används när man skapar en LLM gör också att en angripare kan kontrollera hur modellen beter sig när den används.

Ofta finns det ingen tydlig ekonomisk fördel med dataförgiftning men det kan bidra till att sprida felaktigheter, förstärka fördomar och skada varumärken. En språkmodell som beter sig på oväntade och farliga sätt urholkar förtroendet för både tekniken och den organisation som skapade eller implementerade den.

– Det tog inte lång tid för cyberkriminella och andra som vill påverka sin omgivning att börja med dataförgiftning. De kan nu undergräva tillförlitligheten, noggrannheten och säkerheten i tjänster som används av väldigt många människor, säger Peter Graymon.

Datamanipulation ett annat hot mot generativa AI-modeller
Datamanipulation är ett annat sätt att missbruka stora språkmodeller. Det innebär att en angripare skickar meddelanden till den generativa AI-botten för att försöka manipulera den att kringgå sin instruktion eller bryta logiken i prompten. Datamanipulation kan användas för att komma åt information som inte är publik men som ett företag kopplat till sin LLM. I förlängningen kan det användas för utpressning eller försäljning. Det kan också användas för att få en LLM att uttrycka sig skadligt för företaget eller fördelaktigt för användaren.

Ett exempel på datamanipulation är när ett kanadensiskt flygbolag tvingades följa en återbetalningspolicy som skapats av en AI-driven chatbott. Detta är känt som en ”hallucination” där AI-modellen ger ett felaktigt eller missvisande svar eftersom den inte har det faktiska svaret men ändå vill ge ett.

Sammanfattningsvis kan det vara så att det största hotet mot stora språkmodeller inte kommer från avsiktliga handlingar utförda av människor utan snarare från dålig data som genereras av andra AI-modeller.

Läs mer om dataförgiftning och datamanipulation på Barracudas hemsida»

Om du vill prata mer om IT-säkerhet, dataförgiftning och datamanipulation är du välkommen att kontakta Peter Graymon, Barracuda Networks, telefon: 0709-17 80 14, e-post: pgraymon@barracuda.com
4/9/2024 - Industritorget

LATEST NEWS

- News from the industry
Send tip

Skydda dina befintliga kablar

20 260 20 5Snabbt och säkert kabelskydd utan demontering

Gravlund effektiviserar massproduktion

20 260 20 5Halvautomatisk formpressning sänker kostnader

Säker industri

20 260 20 5Fokus på cybersäkerhet

Wiberger utökar sortimentet med kullager

20 260 20 4Brett sortiment för snabba leveranser

Så skapar Olsons hel­heten på Elmia Plåt 2026

20 260 20 4Teknik, partners och framtidens plåtbearbetning

Meltolit stärker sin position inom TIG Titan

20 260 20 4Expertis som ger resultat

Cybersecurity Event 2026

20 260 20 4Exklusivt industriseminarium om cybersäkerhet

Kompetensbrist utmanar säkerhetsbranschen

20 260 20 4Behovet av flexibilitet ökar

Red Hat Enterprise Linux stöder Sovereign Cloud

20 260 20 4Anpassat för AWS Europeiska moln

Skär anpassade för små maskiner

20 260 20 4Effektiva vid låga skärdjup

Framtidens VA-lösningar på VA Tour 2026

20 260 20 4Innovationer för hållbar infrastruktur

I lager just nu!

20 260 20 3Begagnad utrustning för tung logistik

DOT expanderar verksamheten

20 260 20 3Köper Irlands ledande varmförzinkningsföretag, Galco Steel Ltd., med fem fabriker

Bandningsmaskiner

20 260 20 3Vilken passar din verksamhet?

Sten möter trä i ny fasadlösning

20 260 20 3Träutseende fasader utan kompromisser

ABB automatiserar med Red Hat

20 260 20 3Automation-first sparar tid och sänker kostnader

VOCs i inomhusluften under kontroll

20 260 20 2HibouAir ger dig full koll

Logisk datahantering möter nya regelkrav

20 260 20 2Så behåller du kontrollen

Olika typer av kablage och deras användningsområden

20 260 13 0Kablagesystemets roll i modern industri

Svartviks Svarvteknik stärker digital närvaro

20 260 13 0Utökar satsningen via Industritorget

Styrrullar från KIPP

20 260 13 0Precision som driver produktionen

Uppdaterat sortiment för ökad säkerhet

20 260 13 0Tryggare arbetsmiljö

ASSA ABLOY ny SOFF-medlem

20 260 13 0Stärker svensk säkerhetsindustri

När är SC4X rätt styrenhet?

20 260 13 0För krävande applikationer

Planslipning för industrikomponenter

20 260 13 0Så uppnår du hög precision och perfekt yta

Rätt säkring för din bil

20 260 13 0Skydda dina elkomponenter från överström

Begagnad utrustning och maskiner

20 260 13 0Ett kostnadseffektivt alternativ

Kontrollerad betning

20 260 13 0Precision och kvalitet i metallkomponenter

Lastsäkring

20 260 13 0Så säkrar du din last för trygg och laglig transport

Så väljer du rätt laserskärmaskin

20 260 13 0Bodor Laser – precision och flexibilitet för industrin

Mitutoyo stöttar nästa ingenjörsgeneration

20 260 13 0Samarbete med Babeș-Bolyai-universitetet

Så lyckas företag med AI

20 260 13 0Vad gör de annorlunda?

Donation stärker hjärtforskning

20 260 13 0För bättre livskvalitet

Målinriktad satsning ger kraft framåt

20 260 12 9Stärker positionen inför 2026

AJ Produkter tilldelas EcoVadis guld

20 260 12 9Bland topp 5 % globalt

Experter på gummibeläggning

20 260 12 9För slitstarka pumpkolvar

Hydro Extrusions och Elitfönster samarbetar

20 260 12 9Lokala cirkulära materialflöden

Submit press release
Hexagon lanserar AI-drivna EcoSys 9.4
20 260 12 9
Kingston IronKey 200-serien certifierad
20 260 12 9
Så förbättrar Denali Weld produktionstakten
20 260 12 9
Kylsystem för komfort och produktion
20 260 12 9
Isrivarblad för grävmaskiner
20 260 12 9
Maskinservice för opti­mal drift & lång livslängd
20 260 12 9
Hålslipning av större detaljer inom industrin
20 260 12 9
Att välja rätt flismaskin
20 260 12 9
Lasersvets
20 260 12 9
AI-revolutionen driver ökat dataskydd
20 260 12 9
Industrifastigheter i energifokus
20 260 12 9
Ny vd tar över rodret på Fumex
20 260 12 8
Ett riktigt kap…
20 260 12 8
Ny timmersåg för professionell sågning
20 260 12 8
Snäckfräsning – precision i mekanisk bearbetning
20 260 12 8
Bredden i våra produkter
20 260 12 8
Kvalitetssäkrade skjutstativtruckar
20 260 12 8
Smörjfri rörelseteknik
20 260 12 8
Tungaloy möter ökade hårdmetallkostnader
20 260 12 8
LVT-golv anpassat för nordiska miljöer
20 260 12 8
Livsmedelsgodkända silikonprototyper
20 260 12 7
Här ligger de dolda energibesparingarna
20 260 12 7
Ny eldriven timmersåg för professionell sågning
20 260 12 6
Lyftbord
20 260 12 6
Trivsel som gör skillnad
20 260 12 6
Vi presenterar HibouAir ControlHub
20 260 12 6
Silikonlister
20 260 12 6
Fladderputsmaskin OSS 200 för effektiv ytfinish
20 260 12 3
Nu lanseras nya Millenium!
20 260 12 3
Planering och schemalä­ggning för stabilare drift
20 260 12 3
Särskild ställningsutbildning
20 260 12 3
OEM Automatic i inter­nationell expertpanel
20 260 12 3
Red Hat och NVIDIA fördjupar AI-samarbetet
20 260 12 3
Rökutsug & ventilation vid svetsning
20 260 12 3
Starkt samarbete för kompromisslös kvalitet
20 260 12 2
1/22/2026
En arbetsmiljö utan faropiktogramEn hitmaskin till saluCastrol och LION Smart samarbetarUtforska potentialen hos moderna gaffeltruckarPalo Alto Networks om 2026
1/21/2026
Effektiva maskiner skyddar dina produkterKingston kvar bland största privata 2025Ett sportfiske-Mekka stänger
1/20/2026
Lund, Malmö och Helsingborg vecka 5!Gummilösning mötte spännande förfråganFramtidssäkrad kylning med ny CO2-kylareAllt du behöver veta om absorbenter från MyrinsGradsaxen i modern plåtbearbetning
1/19/2026
MCS Hyrsystem upp­daterar webbgränssnittetINOMEC lagerför WaterbagsFPT-motorer triumferar på Dakar 2026
1/16/2026
Industritorget förenklar B2B-affärerGaardbye Supply lanserar live produktdata feeds Kompakt radarnivågivareFiberlaserSnökedjor för tunga fordon

Become member

Advertising & marketing

Digital media production

industritorget.com

Industritorget Sweden AB
+46 35 260 32 00
support@industritorget.se

industritorget.com | Sweden's most visited industrial site

call