Für unseren neuen Standort in Freiburg suchen wir Studierende (m/w/d) für eine Abschlussarbeit (Master) im Bereich Sichere Künstliche Intelligenz / Safe AI.
Zur sicheren Verwendung einer Technologie müssen in der Regel 3 Dinge betrachtet werden: Zufällige HW-Fehler, Systematische Entwicklungsfehler und Funktionale Unzulänglichkeiten
Mit der zunehmenden Bedeutung von Software haben wir eine Verschiebung in der Bedeutung von dem ersten Aspekt zu dem zweiten Aspekt beobachtet. Mit KI-Technologie sehen wir eine Verschiebung von dem zweiten zu dem dritten Aspekt.
Das Attribut zum Begegnen von Funktionalen Unzulänglichkeiten ist die Funktionale Eignung: Das Vorhandensein der nötigen Genauigkeit (im weiteren Sinne) mit der nötigen Konfidenz.
Die Funktionale Eignung von KI-Technologien bezieht sich damit stark auf deren Genauigkeit im weiteren Sinne. Dies erkennt auch der EU AI Act (Verordnung (EU) 2024/1689) an und fordert die Betrachtung der Genauigkeit in Artikel 15. Ziel dieser Arbeit ist der Ausbau einer Methode zur Betrachtung der Funktionalen Eignung von KI-Technologien im Kontext der Funktionalen Sicherheit.
