IT-Sicherheit und Künstliche Intelligenz

30 Präsenzstunden Vorlesung, 30 Präsenzstunden Praktikum, 45 Stunden Vor- und Nachbereitung des Praktikums, 45 Stunden Nachbereitung der Vorlesung und Prüfungsvorbereitung

• Grundlagenkenntnisse der IT-Sicherheit
• Grundlagen des Maschinellen Lernens (empfohlen)

Fachliche Lernziele

Die Studierenden ...

• verstehen, was unter vertrauenswürdigen, sicheren und robusten KI-Anwendungen verstanden wird
• beurteilen typische Bedrohungen für KI-Anwendungen
• analysieren Angriffe auf die IT-Sicherheit durch oder mithilfe von KI-Anwendungen
• bewerten Maßnahmen zum Schutz von KI-Anwendungen, zum Schutz vor KI-Anwendungen und zum Schutz durch KI-Anwendungen
• erstellen Konzepte zum Schutz von KI-Anwendungen oder zum Schutz der IT-Sicherheit vor Angriffen mit KI-Anwendungen
• dokumentieren ihre Erkenntnisse mit geeigneten Mitteln

Überfachliche Lernziele

Ergänzend entwickeln die Studierenden Schlüsselkompetenzen weiter, die für die spätere Arbeitswelt essenziell sind, insbesondere:

• Ganzheitliches Denken
• Sich strukturiert in ein komplexes System einzuarbeiten
• Verschiedenartige Lösungsansätze für das gleiche Problem erarbeiten
• Vordergründig technische Sachverhalte auf ethische Implikationen hin zu analysieren

• Typische Arbeitsweisen von KI-Anwendungen und der zugrundeliegenden Verfahren
• Faktoren zuverlässiger KI-Anwendungen
• Bedrohungen für KI-Anwendungen und Angriffe durch oder mithilfe von KI-Anwendungen
• Betrachtung generische Techniken als auch von Fallbeispielen
• Sammlung und Bewertung bestehender Schutzmaßnahmen

Tafel, Folien, Beamer, evtl. Gastvorträge

• John Paul Mueller (2022), Machine Learning Security Principles: Keep data, networks, users and applications safe from prying eyes, packt
• Brij B. Gupta, Michael Sheng (2019), Machine Learning for Computer and Cyber Security: Principle, Algorithms, and Practices, CRC Press
• Onlinequellen