Angular-Apps smarter machen mit Generative AI: lokal und offlinefähig

Immer mehr Entwickler beabsichtigen, Generative-AI-Funktionen in ihre Anwendungen zu integrieren. Dieser Weg führt bislang praktisch immer in die Cloud. Doch das muss nicht unbedingt so sein! Denn aktuell gibt es unterschiedliche vielversprechende Ansätze, KI-Modelle direkt auf dem Rechner des Anwenders auszuführen:

Die Web Neural Network API (WebNN) des W3C, die sich noch in der Spezifikationsphase befindet, wird KI-Modellen in Zukunft Zugang zur Neural Processing Unit (NPU) des Geräts gewähren: Damit lassen sich KI-Modelle effizient im Browser betrieiben. Und die experimentellen Built-in-AI-APIs von Google machen auf dem Gerät bereits installierte KI-Modelle für Webseiten verfügbar.

In dieser Session stellt Christian die unterschiedlichen Anwendungsfälle vor und zeigt Vor- und Nachteile der jeweiligen Lösungen auf.

Vorkenntnisse

• Grundlagen der Angular-Entwicklung

Lernziele

• Überblick über generative KI und Large Language Models (LLM)
  
• Überblick über mögliche Anwendungsfälle
  
• Überblick über Web-APIs, die den Zugang zu GenAI-Funktionen ermöglichen
  
• Vor- und Nachteile lokaler KI-Modelle
  
• Mögliche Alternativen zur Ausführung lokaler KI-Modelle