AI-Security: LLMs sicher in Webanwendungen integrieren

Die Integration von Large Language Models (LLMs) in Systeme erreicht zunehmend die nächste Stufe: nicht nur einfache Chat-Fenster, sondern auch komplexere Anwendungen hin zu autonomen Agenten, die mit Datenbanken, APIs und anderen Tools interagieren. Doch mit der neuen Macht wächst auch die Angriffsfläche.

In dieser Session beleuchten wir, warum klassische Web-Security nicht mehr ausreicht, wenn KI-Systeme an Selbstständigkeit gewinnen. Wir analysieren, wie Angreifer durch Indirect Prompt Injections über externe Datenquellen die Kontrolle übernehmen können und welche Gefahren durch "Excessive Agency" entstehen, wenn Agenten unkontrolliert Schreibrechte in produktiven Umgebungen erhalten.

Anhand von konkreten Beispielen und einer Live-Demo können wir einzelne Angriffe nachvollziehen. Wir besprechen außerdem, wie robuste Architektur-Pattern, striktes Tool-Sandboxing und "Human-in-the-Loop"-Prozesse Gegenmaßnahmen bieten, um sichere Anwendungen zu bauen.

Lernziele

• Du lernst die neuen Angriffsvektoren kennen, die durch den Einsatz von LLMs in Anwendungen entstehen.
  
• Du verstehst, wie Manipulationen durch Indirect Prompt Injections technisch ablaufen und welche konkreten Abwehrmechanismen Tool-Zugriffe effektiv absichern.
  
• Du erkennst außerdem, wie geeignete Sicherheitsmaßnahmen konzipiert sein müssen, um die Autonomie von Agenten durch klare technische Leitplanken sicher einzugrenzen.