Latest news


- News from the industry
Send tip

Förgiftad träningsdata

Ett hot mot stora språkmodeller
Dataförgiftning har blivit ett allt större hot mot stora språkmodeller (LLM). Det innebär att felaktig eller vilseledande data matas in i den träningsdata som språkmodellen använder när den svarar på en fråga. I förlängningen betyder det att prestandan och förtroendet för stora språkmodeller försämras. Dataförgiftning utgör också en säkerhetsrisk när en angripare till exempel påverkar en AI-driven kundtjänst att styra användarna till en webbplats för nätfiske.

– Ansvaret för att upptäcka och motarbeta dataförgiftning ligger hos utvecklarna av språkmodellerna. Men det är viktigt att alla som använder en modell som utsatts hämtar den nya, uppdaterade versionen så snart den blir tillgänglig, på samma sätt som man gör med all annan programvara som bygger på öppen källkod, säger Peter Graymon, ansvarig för Barracuda Networks i Norden.

Stora språkmodeller används för att exempelvis driva chattbottar och generera text. De tränas på stora mängder insamlad data som sedan används för att skapa mer data, allt enligt de regler och mönster de lärt sig. Kvalitetsdata leder till bra resultat medan undermålig eller felaktig data genererar dåliga resultat. Förgiftad träningsdata som används när man skapar en LLM gör också att en angripare kan kontrollera hur modellen beter sig när den används.

Ofta finns det ingen tydlig ekonomisk fördel med dataförgiftning men det kan bidra till att sprida felaktigheter, förstärka fördomar och skada varumärken. En språkmodell som beter sig på oväntade och farliga sätt urholkar förtroendet för både tekniken och den organisation som skapade eller implementerade den.

– Det tog inte lång tid för cyberkriminella och andra som vill påverka sin omgivning att börja med dataförgiftning. De kan nu undergräva tillförlitligheten, noggrannheten och säkerheten i tjänster som används av väldigt många människor, säger Peter Graymon.

Datamanipulation ett annat hot mot generativa AI-modeller
Datamanipulation är ett annat sätt att missbruka stora språkmodeller. Det innebär att en angripare skickar meddelanden till den generativa AI-botten för att försöka manipulera den att kringgå sin instruktion eller bryta logiken i prompten. Datamanipulation kan användas för att komma åt information som inte är publik men som ett företag kopplat till sin LLM. I förlängningen kan det användas för utpressning eller försäljning. Det kan också användas för att få en LLM att uttrycka sig skadligt för företaget eller fördelaktigt för användaren.

Ett exempel på datamanipulation är när ett kanadensiskt flygbolag tvingades följa en återbetalningspolicy som skapats av en AI-driven chatbott. Detta är känt som en ”hallucination” där AI-modellen ger ett felaktigt eller missvisande svar eftersom den inte har det faktiska svaret men ändå vill ge ett.

Sammanfattningsvis kan det vara så att det största hotet mot stora språkmodeller inte kommer från avsiktliga handlingar utförda av människor utan snarare från dålig data som genereras av andra AI-modeller.

Läs mer om dataförgiftning och datamanipulation på Barracudas hemsida»

Om du vill prata mer om IT-säkerhet, dataförgiftning och datamanipulation är du välkommen att kontakta Peter Graymon, Barracuda Networks, telefon: 0709-17 80 14, e-post: pgraymon@barracuda.com
4/9/2024 - Industritorget

LATEST NEWS

- News from the industry
Send tip

Så skapas säkra arbets­platser vid arbete på väg

20 260 32 7Säkerhet och kompetens i en utsatt arbetsmiljö

Temat för Elmia Subcontractor 2026

20 260 32 7Resilience powered by industry

Sveriges kanske mest udda postbil

20 260 32 7Hydrokopter-manick letar ny ägare

Slipningens två avgörande steg

20 260 32 7Skillnaden mellan grovslipning och finslipning

NYHET Största elektriska spackelsprutan för proffs

20 260 32 7Hemo 10 ger snabbare sprutspackling

Soft Touch lyfter biobaserad vinyl

20 260 32 7BIOVYN™ i fokus för hållbara val

Högtryckspumpar i modern industri

20 260 32 7Så påverkar högtryckspumpar effektiviteten i din produktion

Provning av militära produkter

20 260 32 7enligt MIL-STD-461

Hallå där Adam & Jesper

20 260 32 7Två röster om mobila maskiner

Nya proffslösningar på Nordbygg

20 260 32 7Innovationer för byggbranschen visas upp

Castrol stärker Audi Revolut F1-teamet

20 260 32 7Partnerskap inför Formel 1-säsongen 2026

Precifast sparar miljoner med energimätning

20 260 32 7Smart mätning minskar kostnader

Sluten tank – när är det rätt val?

20 260 32 6Så fungerar en sluten tank, när den används och vad som krävs för en effektiv avloppslösning

Gummikomponenter för tågfabriker

20 260 32 6Dansk kvalitet med hög driftsäkerhet

Så hanterar du grus och sand efter vintern

20 260 32 6Redskap för din maskin: sopvals och skopa

Precisionsavskalning för optiska fibrer

20 260 32 6Exakt bearbetning utan skador

Ny cylindermetod min­skar metallföroreningar

20 260 32 6BTY-serien säkerställer ren batteritillverkning

Energieffektiv isolerings­lösning på Nordbygg

20 260 32 6Ny isolering visas under årets mässa

WOG Trä – kungar på special

20 260 32 6Biessestandard säkerställer hög kvalitet

Elektroniska lås

20 260 32 6För säker och smart centrallåsning

Keramik optimerar gjutjärnsbearbetning

20 260 32 6NTK Cutting Tools förbättrar precision

MES-plattform för AI-driven tillverkning

20 260 32 6Visas på Hannovermässan 2026

Innovation och smart automation

20 260 32 5Se hur lösningarna gör skillnad i praktiken

Neoprenhandskar – när är de rätt val?

20 260 32 5Fördelar, användningsområden och vad du bör tänka på vid val av neoprenhandskar

NYHET - Massagestol Relax Force 4D

20 260 32 5Relax Force 4D kombinerar komfort och design

Så väljer företag rätt truck för sin verksamhet

20 260 32 5Ett beslut som påverkar mer än man tror

Smarta lösningar i bygg och verkstad

20 260 32 5Stark tejp och dubbelhäftande tejp som förenklar arbetet och ger hållbara resultat

Regelbunden service av svetsutrustning

20 260 32 5Därför är det avgörande

Precision börjar i bearbetningen

20 260 32 5Så påverkar kugghyvling kvalitet, livslängd och prestanda i kugghjul

När cermet är rätt val

20 260 32 5Vid stigande hårdmetallkostnader

Bengtssons Maskin växer digitalt

20 260 32 5Satsar på SEO och annonsering

Livsmedelsgodkända gummidelar

20 260 32 4Från Gravlund Rubber Solutions för industrin

AGRO lanserar blyfri förskruvning

20 260 32 4AgreenO förenar hållbarhet och prestanda

Ny 90-tons translifter till Kristiansund

20 260 32 4Kundanpassad maskin för rörhantering offshore

Dell och NVIDIA förbättrar AI-data

20 260 32 4Gör information mer användbar och tillgänglig

Hårda krav fick Raftákn välja KUKA

20 260 32 3Robotlösning möter tuff specifikation

Ionbond sänker energiförbrukningen

20 260 32 333 procent med realtidsmätning

Submit press release
Löda kopparrör steg för steg
20 260 32 3
Ny rens- och tillsynsbrunn
20 260 32 3
Trestad Laser investerar i ny maskin
20 260 32 0
Blyfri mässing i ASSA ABLOY-beslag
20 260 32 0
Så föddes TRX
20 260 32 0
Southco lanserar R4-50 rotationslås
20 260 32 0
ISCAR TRIDEEP
20 260 31 9
Kolmården byter UTV till Corvus
20 260 31 9
Gummikomponenter för försvarsindustrin
20 260 31 9
Kombimaskin med fem funktioner
20 260 31 9
Wavin utser ny nordisk direktör
20 260 31 9
VöXss om samarbetet med OEM Automatic
20 260 31 9
Säker USB möter nya hot
20 260 31 9
Cellnex stärker nordisk verksamhet
20 260 31 9
Denodo lanserar AI-fokuserad dataplattform
20 260 31 9
Nya cloud-native mikro­tjänster för camping
20 260 31 9
Matrix42 utser Patrick Adams till CRO
20 260 31 9
Nya AI-förmågor från Cisco och NVIDIA
20 260 31 9
ISCAR QUICK-THREAD Multitandade gängskär
20 260 31 8
Nytt innovativt trådlöst säkerhetssystem
20 260 31 8
Elmontörsutbildning för kvinnor återvänder
20 260 31 8
Säkerhet i solcellsanläggningar
20 260 31 8
Rätt klimatlösning för ditt elskåp
20 260 31 8
Vi ses på LogiMAT i Stuttgart 2026
20 260 31 8
Innovativ fasad med trälook
20 260 31 8
Renovering går före nybyggnation
20 260 31 8
Gummikomponenter för medicinindustrin
20 260 31 7
Packstationer som gör jobbet enklare
20 260 31 7
Mobila maskiner kräver robusta lösningar
20 260 31 7
Fortinet lanserar FortiOS 8.0
20 260 31 7
Samarbete som driver ALPHAs utveckling
20 260 31 6
Condair tilldelas BIM Leadership Award
20 260 31 6
Att bygga en hållbar framtid
20 260 31 6
Varför luften i förskolor är avgörande
20 260 31 6
Snart 40 år med OKS
20 260 31 3
3/13/2026
Nyheter i sortimentet20 år som förändrat världenSå väljer företag rätt verktygsskåp Snickare - nyckelroll för:
3/12/2026
Tunnaste skärskydds­handsken i toppklassRobusta gummi-metall-anslutningarNär roboten blir kollega i logistikenOlsons Maskinservice AB blir återförsäljareÄventyr över Nordsjön
3/11/2026
Optimera HVAC-filter med PM-dataEpical prisas 2026
3/10/2026
Nyhet: eCLIQ-cylindrarElesa presenterar produktserien Soft-TouchGravlund lyfter fitnessbranschenNyheter på Elmia Verktygsmaskiner 2026Happiness at work
3/9/2026
Logistik utan gränserAutonom tusenkonstnär sätter ny standardVälkommen på cyber­säkerhetsevent i Tranås

Become member

Advertising & marketing

Digital media production

industritorget.com

Industritorget Sweden AB
+46 35 260 32 00
support@industritorget.se

industritorget.com | Sweden's most visited industrial site

call