LLM Security: Workshop für LLM-Anwendungen

Seit dem Boom von OpenAI’s ChatGPT haben Large Language Modelle (LLMs) in der Entwicklung moderner Softwarelösungen verbreitet Einzug gehalten. Doch die Integration von LLMs In Verfahren, Prozesse und webbasierte Anwendungen bringt neue Sicherheitsrisiken und eine neue Dimension der Komplexität mit sich. Um Angriffe und Datenlecks zu vermeiden, ist es besonders wichtig, Sicherheit bereits in der Designphase zu berücksichtigen.

Dieser Workshop hat das Ziel, dem Teilnehmerkreis Sicherheitsrisiken beim Einsatz dieser Technologien aufzuzeigen und wirkungsvolle Sicherheitsansätze und Gegenmaßnahmen zu vermitteln.

Wir stützen uns in diesem Workshop auf die aktuellen Richtlinien von OWASP (Top 10 for LLMs >>TODO: Link-einfügen<<) und Mitre (ATLAS >>TODO: Link-einfügen<<). Unsere Vorgehensweise orientiert sich dabei am Aufbau und der Integration eines LLMs in folgenden Phasen:

• Zunächst wird der Aufbau der LLM-Infrastruktur betrachtet. Dies beinhaltet die korrekte Auswahl des Modellformats, die Betrachtung der hostenden Plattform oder der sicheren Einbindung einer LLM-API. Ebenfalls wird der Aufbau der Wissensdatenbanken, wie eines RAG-Vector-Stores, betrachtet. Ein Fokus liegt auf der sicheren Behandlung von internen und vor allem sensiblen Daten. Relevante Risiken sind unter anderem Prompt Injection (OWASP Modul LLM01) und Training Data Poisioning (LLM03).