Generatieve AI voor DevOps: bouw je eigen LLM server

Volg de workshop Generatieve AI voor DevOps Engineers en leer een lokale LLM hosten met open-source, zonder dataverkeer naar de cloud. Inclusief RAG, GPU, API-koppeling en EU AI Act AI-geletterdheid.

Maak jij als DevOps engineer graag gebruik van ChatGPT, maar mag dat niet op je werk vanwege beleid of gevoelige data? Ben je benieuwd hoe je je eigen Large Language Model (LLM) kunt hosten?
In de eendaagse workshop Generatieve AI voor DevOps Engineers bij AT Computing leer je hoe je je eigen lokale versie van ''ChatGPT'' opzet en gebruikt. Alles gebeurt volledig op basis van open-source technologie, zonder dataverkeer naar de cloud. De dag start met een introductie in Generatieve AI: welke LLM's zijn er beschikbaar en hoe zet je ze in? Daarna duiken we in de hardwarekant, waaronder GPU-acceleratie op virtuele machines en in containers.
Met diverse praktijkoefeningen richt je je eigen LLM-server in en maak je zelfs een eigen ''model''. Je leert ook hoe je een webgebaseerde client koppelt aan je LLM zodat je in feite je eigen ChatGPT-clone bouwt. Daarnaast ontdek je hoe je de LLM-API koppelt met Python, Retrieval Augmented Generation (RAG) toepast om met je eigen documenten te werken, afbeeldingen analyseert en zelfs loganalyse uitvoert met je LLM.

Na het volgen van deze cursus heb je kennis over de werking van de interne werking van GenAI in het algemeen en LLM's in het bijzonder. Ook leer je in theorie en praktijk hoe je zelf een lokale LLM-server opzet zonder dat jouw data naar een Cloud-omgeving wordt gestuurd. Tot slot voldoe je met het volgen van deze cursus aan de eisen vanuit de EU AI Act op gebied van AI-geletterdheid.