Angular-Apps smarter machen mit Generative AI: lokal und offlinefähig
Immer mehr Entwickler beabsichtigen, Generative-AI-Funktionen in ihre Anwendungen zu integrieren. Dieser Weg führt bislang praktisch immer in die Cloud. Doch das muss nicht unbedingt so sein! Denn aktuell gibt es unterschiedliche vielversprechende Ansätze, KI-Modelle direkt auf dem Rechner des Anwenders auszuführen:
Die Web Neural Network API (WebNN) des W3C, die sich noch in der Spezifikationsphase befindet, wird KI-Modellen in Zukunft Zugang zur Neural Processing Unit (NPU) des Geräts gewähren: Damit lassen sich KI-Modelle effizient im Browser betrieiben. Und die experimentellen Built-in-AI-APIs von Google machen auf dem Gerät bereits installierte KI-Modelle für Webseiten verfügbar.
In dieser Session stellt Christian die unterschiedlichen Anwendungsfälle vor und zeigt Vor- und Nachteile der jeweiligen Lösungen auf.
Vorkenntnisse
- Grundlagen der Angular-Entwicklung
Lernziele
- Überblick über generative KI und Large Language Models (LLM)
- Überblick über mögliche Anwendungsfälle
- Überblick über Web-APIs, die den Zugang zu GenAI-Funktionen ermöglichen
- Vor- und Nachteile lokaler KI-Modelle
- Mögliche Alternativen zur Ausführung lokaler KI-Modelle