KI im Browser: Smartere Web-Apps mit WebGPU und WebNN
Alle Inhalte des Webinars, inkl. Slides: https://www.thinktecture.com/webinare...
Mehr Artikel, Webinare & mehr zum Thema Generative AI: https://www.thinktecture.com/technolo...
---------------
KI im Browser: Smartere Web-Apps mit WebGPU und WebNN
Immer mehr Entwickler beabsichtigen, Generative-AI-Funktionen in ihre Anwendungen zu integrieren. Dieser Weg führt bislang praktisch immer in die Cloud – doch das muss nicht unbedingt so sein! Aktuell gibt es unterschiedliche vielversprechende Ansätze, KI-Modelle direkt auf dem Rechner des Anwenders auszuführen: Hugging Face bietet etwa mit Transformers.js die Möglichkeit, Machine-Learning-Modelle direkt im Browser zu nutzen. Die Web Neural Network API (WebNN) des W3C, die sich noch in der Spezifikationsphase befindet, wird solchen Modellen in Zukunft Zugang zur Neural Processing Unit (NPU) des Geräts gewähren: Damit können etwa auch Large Language Models (LLM) oder Stable-Diffusion-Modelle effizient im Browser betrieben werden.
Die Vorteile dieser Ansätze liegen auf der Hand: Lokal ausgeführte KI-Modelle stehen auch offline zur Verfügung, die Nutzerdaten verlassen das Gerät nicht und das alles dank Open-Source-Modellen sogar kostenfrei. Aber natürlich muss das Modell erstmal auf das Gerät des Anwenders übertragen werden, das auch noch ausreichend leistungsfähig sein muss. In diesem Webinar wird Christian Liebel, Thinktectures Vertreter beim W3C, diese unterschiedlichen Ansätze präsentieren, um auch Ihre Single-Page App smarter zu machen. Wir werden Anwendungsfälle diskutieren und Vor- und Nachteile der jeweiligen Lösungen aufzeigen. Seien Sie dabei!
---------
Kapitel:
00:00 - Intro
06:47 - Talking Points
10:00 - What to expect today
12:14 - Intro - Generative AI
16:05 - Single Page Applications
17:39 - Progressive Web Apps
18:52 - Overview - Generative AI
21:03 - Generative AI Cloud Providers
23:33 - Large Language Models
34:35 - Cache API - Storing model files locally
37:04 - WebAssembly
38:34 - WebGPU
39:45 - WebNN
45:59 - WebLLM
46:52 - LLM - Demo
54:32 - Stable Diffusion
58:16 - Web Stable Diffision - Demo
1:01:54 - Local AI Models
1:05:59 - Alternatives
1:07:32 - Summary
1:09:53 - Q&A
Смотрите видео KI im Browser: Smartere Web-Apps mit WebGPU und WebNN онлайн без регистрации, длительностью часов минут секунд в хорошем качестве. Это видео добавил пользователь Thinktecture 11 Январь 2024, не забудьте поделиться им ссылкой с друзьями и знакомыми, на нашем сайте его посмотрели 173 раз и оно понравилось 6 людям.