LLM Security
TODO: „Die umfassende Absicherung Generativer KI- und LLM (Large Language Model)-Anwendungen bedeutet Application Security zum Quadrat.“ stand unter dem Titel quasi als „Subüberschrift“ und rechts war ein Icon zu sehen (Ofen mit Flamme)….
Die Herausforderung
Bei Anwendungen mit Generativer KI, spezifisch bei LLM (Large Language Model)-Anwendungen, gesellen sich zu den klassischen Web- und App-Schwachstellen vielfältige weitere Möglichkeiten von Sicherheitsproblemen: Durch den Einsatz externer oder interner Modelle, die Verwendung von Plugins, Agents, RAG-Anbindungen etc. In der Praxis kommt meist noch das gesamte Spektrum der Cloud-Security dazu.
Wir bieten umfassende Unterstüzung für die sichere Konzeption, Umsetzung und den Betrieb Ihrer KI.
LLM Security ist anders!
Ein erhellendes Beispiel für die „Andersartigkeit“ der Anforderungen an die Sicherheit Generativer KI ist die Art, wie das Pattern der Injection-Schwachstellen sich hier darstellt. Im Bereich der klassischen Programmierung lässt sich Injection durch die Anwendung der jeweils geeigneten Gegenmaßnahme zuverlässig ausschließen (beispielsweise Prepared Statements gegen SQL-Injection). Im Bereich von LLMs haben wir es momentan mit der grundsätzlichen Nichtrealisierbarkeit einer ähnlich sicheren Gegenmaßnahme zu tun. Einfach deshalb, weil die Benutzereingabe – der Prompt – zum Bestandteil des Gesamtkontextes werden muss, damit das System seinen Zweck erfüllen kann.
Sicherheitsanalysen & Penetrationstests
Wir prüfen die Sicherheit von LLM-Anwendungen auf Basis von OWASP LLM Top 10 und Mitre ATLAS
Mehr (TODO: Link auf entspr. Unterseite)
Workshop: Security für LLM-Anwendungen
Dieser Workshop gibt das Rüstzeug, um Sicherheit bereits bei Design und Aufbau eines KI-Systems zu verankern.
Zum Workshop (TODO: Link auf entspr. Unterseite)
Schulung: OWASP Top 10 für LLM-Anwendungen
Alles was Designer, Architekten und Softwareentwickler wissen müssen, um von Grund auf sichere KI-Systeme bereitzustellen.
Zur Schulung (TODO: Link auf entspr. Unterseite)
TODO: Hier war noch Verlinkung zu „Die große Application Security Pentest FAQ für Auftraggeber“ sowie darunter ein Block mit „AP Tom“. Darunter war dann noch ein „Karriere“-Aufruf mit Bild, 2 Blöcken und Verlinkung „Mehr“
mgm sp
DeepDive
Ein Penetrationstest kann mit unterschiedlichem Vorwissen durchgeführt werden – vom völligen Blindflug bis zur vollständigen Offenlegung der Systemarchitektur. Die Wahl zwischen Blackbox, Greybox und Whitebox bestimmt dabei Tiefe, Aufwand und Aussagekraft des Tests.
Ich bin der Lesetext. Ich kann unten über die Toggle abgewählt werden. Lorem ipsum dolor sit amet sed Marcus hodie in colloseo est. Ubi autem est cornelia. Diu expectat. Tandem gaudet et ridet. Ibi est! Ibi sedet!
Vergleich 1
- thema 1
- them 2
- thema 3
Vergleich 2
- thema 1
- them 2
- thema 3 dasdasdsa dsdsa