Har du styr på sikkerheden i din sprogmodel?

AI Denmark

Værktøjer som ChatGPT, Copilot og Gemini kan være fristende at bruge – men man skal have styr på sin sikkerhed – ligesom med alle andre it-løsninger.

Og især i firmaer og organisationer bør LLM-sikkerhed afgjort være på dagsordenen. Det gælder både vurdering af selve modellerne man bruger, udefrakommende manipulation af prompts, hvilke firmadata man risikerer at lække til modellerne, hvilke resultater man får og hvad man bruger dem til.

Jeg har haft besøg i studiet af Zaruhi Aslanyan, som er sikkerhedsarkitekt på Alexandra Instituttet og Michael Rømer Bennike, der er senior sikkerhedsarkitekt samme sted, for at høre mere om udfordringerne og hvad man kan gøre.

Desværre er der – ligesom med al anden it-sikkerhed – ikke nogle nemme løsninger...

Lyt med 🤖

LINKS

NYHEDER

• The Verge prøver AI-assistenten Rabbit R1
• Metas nye Llama 3
• Kafferistning med AI
• 🎧 BKI-episode fra 2022
• Lavender – Israels AI-våben
• SciAm om "Lethal Autonomous Weapons"
• AI-film på vej
• Skattealgoritmer mørklagt
• Overtræder ChatGPT GDPR?
• FT leverer træningsdata til OpenAI

LLM-SIKKERHED

• Michael Rømer Bennike
• Zaruhi Aslanyan
• Alexandra Instituttet
• "LLM-sikkerhed for dummies" – med de 10 største risici ved LLM'er
• Wired: Hold dine data ude af træningsmaterialet