Sikkerhedsovervejelser når man bygger AI-løsninger. Hvad er jeres største hovedpine?
Hej alle 👋
Jeg sidder og skal undersøge/analysere sikkerhedsovervejelser hos udviklere, der arbejder med at bygge AI-baserede løsninger (fx chatbots, RAG-systemer, AI-agenter, eller andre produkter hvor AI indgår som en del af selve løsningen) til et projekt på min arbejdsplads. Jeg har indtil videre interviewet et par AI-specialister/udviklere, men tænkte at der måske sad nogle herinde med værdifulde indsigter på hjertet.
Mit spørgsmål: hvad er jeres største hovedpine i den slags projekter? Prompt injection, guardrails der ikke holder, data der lækker, manglende testværktøjer, monitorering af AI-beslutninger – eller noget helt andet?
Og har I fundet noget, der faktisk virker som fix på de problemer, eller er det mest at "krydse fingre" indtil videre?
Alt er velkomment, både store frustrationer og små praktiske tricks 🙏