HIDA Lecture: Security Challenges Posed by LLMs
Referentin: Sahar Abdelnabi, KI-Sicherheitsforscherin am Microsoft Security Response Center
Datum: 06.06.2024, 16:30 Uhr
Titel: On New Security and Safety Challenges Posed by LLMs and How to Evaluate Them
Inhalt
Large Language Models werden bereits vielseitig eingesetzt. Allerdings birgt ihr Einsatz auch neue Sicherheitsrisiken. Da LLMs dynamisch agieren, sind sie bekanntermaßen schwerer zu bewerten und auch zu kontrollieren.
In diesem Vortrag werden einige der Sicherheitsrisiken von LLMs aufgezeigt. Außerdem dreht sich der Vortrag auch über die Risikobewertung und wie man diese Risken reduzieren kann
Sahar Abdelnabi
Sahar Abdelnabi ist KI-Sicherheitsforscherin am Microsoft Security Response Center (Cambridge, UK). Zuvor war sie Doktorandin am CISPA - Helmholtz-Zentrum für Sicherheit in der Informationstechnik. In ihrer Forschung beschäftigt sie sich mit den sicherheits- und gesellschaftspolitischen Herausforderungen, die mit dem Einsatz von KI und maschinellem Lernen verbunden sind.
