Transparente AI: Tracing- und Debugging-Techniken für LLM-Anwendungen
Alle Inhalte des Webinars, inkl. Slides: https://www.thinktecture.com/webinare...
Mehr Artikel, Webinare & mehr zum Thema Generative AI: https://www.thinktecture.com/technolo...
Mehr Inhalte von und Infos über Marco Frodl: https://www.thinktecture.com/thinktec...
---------------------------------
Transparente AI: Tracing- und Debugging-Techniken für LLM-Anwendungen
Wir tauchen tief in die Welt des Tracings und Debuggings von generativen KI-Anwendungen ein, um die oft als "Black Box" wahrgenommenen Prozesse zugänglicher und transparenter zu machen. Mit Fokus auf modernen Large Language Models (LLMs) und deren Anwendungen, werden wir an praktischen Beispielen die effektive Nutzung von Werkzeugen wie LangFuse und LangSmith zur Beobachtung, Analyse und Verbesserung dieser Systeme betrachten.
Los geht es mit einer Einführung in die Herausforderungen beim Debugging von generativen AI-Workflows und wie diese mit den fortschrittlichen Funktionen von LangFuse und LangSmith bewältigt werden können. Der Schwerpunkt liegt dabei auf der zunehmenden Komplexität von LLM-Anwendungen, die umfangreiche Abstraktionen wie dynamische Prompts, Antworten von Retrievern und Tools, komplexe Chains und Agents nutzen. Hier können die verschachtelten Traces in LangFuse oder LangSmith dabei helfen, das Geschehen besser zu verstehen und die Ursachen von Problemen zu ergründen. Anschließend gehen wir auf die Analyse und das Tracking von Metriken wie Kosten, Latenzzeiten und Qualität der LLMs ein.
Смотрите видео Transparente AI: Tracing- und Debugging-Techniken für LLM-Anwendungen онлайн без регистрации, длительностью часов минут секунд в хорошем качестве. Это видео добавил пользователь Thinktecture 15 Май 2024, не забудьте поделиться им ссылкой с друзьями и знакомыми, на нашем сайте его посмотрели 113 раз и оно понравилось 2 людям.