HIDA Lecture: Agentic AI - Safe Autonomous Agents
Referent: Jan Ebert, NVIDIA
Datum: 16.06.2026, 11:00 Uhr
Titel: Agentic AI: Enabling Safe and Productive Autonomous AI Systems with Coders and Claws
Inhaltszusammenfassung:
Gegen Ende des Jahres 2025 haben autonome KI-Agenten große Fortschritte gemacht: Leistungsfähigere Coding-Agenten, neue Integrationen über „Skills“ und MCP-Server sowie Ansätze wie OpenClaw zeigen, wie sich solche Systeme praktisch einsetzen lassen. In dieser Lecture beleuchten wir, was diese Entwicklungen bedeuten, wie sich bestehende Tools nutzen und erweitern lassen und wie sie zur Automatisierung von Arbeit und zur Steigerung der Produktivität beitragen können.
Ein besonderer Fokus liegt auf dem Thema Sicherheit. Autonome KI-Agenten bringen neue Herausforderungen mit sich – insbesondere die Balance zwischen Absicherung und Handlungsfreiheit. Wir geben einen verständlichen Überblick über zentrale Prinzipien für den sicheren Einsatz von KI, diskutieren Verantwortlichkeiten und zeigen, wann menschliche Kontrolle („Human in the Loop“) weiterhin entscheidend ist.
Neben technischen und forschungsnahen Aspekten werfen wir auch einen Blick auf organisatorische Anwendungsfelder, in denen KI unterstützen kann. Die Inhalte sind so aufbereitet, dass sie sich auf verschiedene Domänen übertragen lassen.
Jan Ebert
Jan Ebert ist Senior Software Engineer bei NVIDIA und arbeitet dort an Open-Source-Frameworks für große Sprachmodelle (LLMs) im Umfeld von Megatron-LM und NeMo. Zuvor war er Mitgründer von LAION e.V. und wirkte während seiner Zeit am Jülich Supercomputing Centre an der Veröffentlichung frei verfügbarer, offener Modelle in Projekten wie OpenGPT-X und TrustLLM mit.
Seine Schwerpunkte liegen auf sicherer Automatisierung durch KI, Parallelisierung sowie der Optimierung der Ressourceneffizienz beim Training und der Inferenz von KI-Modellen.
