Ausgangssituation:

Mobile autonome Systeme übernehmen zunehmend sicherheitskritische Aufgaben, beispielsweise in der Landwirtschaft oder der Bauindustrie. Mit steigenden funktionalen Anforderungen an solche Systeme wachsen auch die Anforderungen an deren funktiona

le Sicherheit. Eine klare Abgrenzung sicherheitskritischer Teilbereiche wird dabei zunehmend schwieriger. Moderne Systeme setzen daher häufig auf multimodale Wahrnehmungskonzepte, bei denen Sensordaten aus verschiedenen Quellen, etwa Kamera, LiDAR und Radar, kombiniert werden, um eine robuste und zuverlässige Umfelderfassung zu ermöglichen.

Zur Auswertung dieser komplexen Datenmengen kommen überwiegend tiefe neuronale Netze zum Einsatz. Deren Entscheidungen sind jedoch häufig nur eingeschränkt nachvollziehbar. Zudem können reale Einsatzumgebungen Situationen enthalten, die während des Trainings nicht beobachtet wurden. Um die Zuverlässigkeit solcher Systeme zu erhöhen, werden daher zunehmend Methoden zur Unsicherheitsabschätzung (Out-of-Distribution Detection) sowie Ansätze der erklärbaren Künstlichen Intelligenz ( XAI) eingesetzt.

Ziel dieser Arbeit ist die Entwicklung einer Methodik zur systematischen Evaluation von Verfahren zur Unsicherheitsabschätzung sowie von Methoden der automatisierten erklärbaren KI für KI-basierte Wahrnehmungssysteme. Die entwickelte Methodik soll sowohl bestehende Ansätze aus dem Stand der Technik als auch am Institut entwickelte Verfahren methodisch evaluieren und vergleichbar machen.

• Einarbeitung in den Stand der Technik zu künstlicher Intelligenz, erklärbarer KI und Unsicherheitsabschätzung
• Strukturierte Literaturrecherche zu automatisierten Sicherheitsframeworks
• Entwicklung einer Methodik zur systematischen Evaluation verschiedener Sicherheitsframeworks
• Strukturierte Dokumentation und Präsentation der Ergebnisse

Vorkenntnisse:

• Interesse an autonomen Systemen, neuronalen Netzen und künstlicher Intelligenz
• Grundlegende Programmierkenntnisse in Python und ROS2 von Vorteil, aber nicht erforderlich
• Sehr gute Deutsch- und Englisch-Kenntnisse

Der Arbeitsumfang kann entsprechend der Art der Abschlussarbeit angepasst werden.

Bewerbungen ausschließlich per E-Mail mit aussagekräftigen Unterlagen (Lebenslauf, vollständige Notenübersicht)

Kategorien:

Kontakt: