Aktuelle News zum Projekt
Ziele des Projektes
ZERTIFIZIERTE KI
Künstliche Intelligenz sicher und vertrauenswürdig gestalten
Das Fraunhofer IAIS arbeitet gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normierung (DIN) sowie weiteren Forschungspartnern an der Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz.
Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren.
Entwicklung von KI-Prüfgrundlagen, KI-Prüfkriterien
Untersuchung von neuen Businessmodellen und Märkten für KI-Prüfungen und KI-Zertifizierungen
Ermittlung von Unternehmensbedarfen und Setzen von Standards
Entwicklung von Prototypen für KI-Prüfwerkzeuge und Verfahren zur Absicherung von KI-Systemen
Ganzheitliche Betrachtung unter Einbezug von rechtswissenschaftlichen und philosophisch-ethischen Fragestellungen
Dimensionen zur Beurteilung
der Qualität und Vertrauenswürdigkeit von KI
Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Dimensionen der Vertrauenswürdigkeit identifiziert.
Die Entwicklung der technischen Prüfverfahren setzt hier an.
Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und die von der Europäischen Kommission beauftragte »High Level Expert Group on AI« und soll ein breites Spektrum technischer Qualitätskriterien, das neben Verlässlichkeit und Sicherheit auch Kriterien der Transparenz und Fairness abdeckt, berücksichtigen.
Der Fraunhofer-Podcast
Maximilian Poretschkin (Fraunhofer IAIS) und Filiz Elmas (DIN) im Gespräch über das Flagship-Projekt
Workshops
Zu Beginn des Projekts werden Workshops durchgeführt, um den aktuellen Stand bei KI-Prüfungen zu diskutieren und Unternehmensbedarfe und Schwerpunktthemen zu ermitteln. Detailinformationen zur Anmeldung und zur jeweiligen Agenda finden Sie zu gegebener Zeit auf der entsprechenden Workshop-Seite.
Workshop 1
Ansätze zur Prüfung von KI-Systemen
23. Juni 2021,
10.00 – 14.30 Uhr
Workshop 2
KI Risiken systematisch bewerten
16. September 2021,
vss. 9.30 – 14.30 Uhr
Workshop 3
Werkzeuge für KI-Qualität
Oktober/November 2021
Workshop 4
Systematische Evaluation des Standardisierungsbedarfes
Dezember 2021
Zusätzlich werden zeitnah Anwenderkreise gebildet. In diesen Anwenderkreisen werden relevante Use Cases identifiziert und diskutiert, an denen die entwickelten Prüfgrundlagen getestet und weiterentwickelt werden und Absicherungstechniken erörtert werden. Auf diese Weise können Hypothesen der Prüfgrundlagen verifiziert und neu konzipierte Prüfwerkzeuge in einer realen Betriebsumgebung getestet werden. Aus dem dadurch gewonnenen tieferen Verständnis anwenderspezifischer Familien von Use Cases werden Prüfprofile erstellt und standardisiert, welche die Prüfung vergleichbarer KI-Anwendungen ermöglichen und somit zur Marktfähigkeit der entwickelten Verfahren beitragen.
Publikationen
BSI und Fraunhofer IAIS machen Unternehmen fit für KI-Prüfungen
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich eine neu gegründete Arbeitsgruppe des Bundesamts für Sicherheit in der Informationstechnik BSI und des Fraunhofer IAIS im Rahmen des KI.NRW Flagship-Projekts »Zertifizierte KI«. Die Arbeitsgruppe hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. Das Fraunhofer-Team hat eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Zusammenarbeit mit dem BSI ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.
Der KI-Prüfkatalog ist ab sofort online zugänglich unter www.iais.fraunhofer.de/ki-pruefkatalog
Vertrauenswürdiger Einsatz von Künstlicher Intelligenz
Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und technologischer Sicht. Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.
Normungsroadmap KI
Handlungsempfehlungen für Standardisierung rund um Künstliche Intelligenz
Impulspapier Zertifizierung von KI-Systemen
Welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen, skizzieren Expert*innen der Plattform Lernende Systeme in diesem Impulspapier. Es gibt einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und bildet die Grundlage für weiterführende Diskussionen.
Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme
Die Autor*innen adressieren offene Fragen, etwa dazu, wann KI-Systeme zertifiziert werden sollten, an welchen Kriterien sich diese Zertifizierung orientieren soll und wie eine effiziente Infrastruktur ausgestaltet sein sollte. Das Whitepaper wurde auf der Basis von Experteninterviews mit Mitgliedern und Vertreter*innen der in der Plattform Lernende Systeme beteiligten Forschungseinrichtungen und Unternehmen sowie Gastautor*innen erstellt.
Projektpartner
Fraunhofer IAIS
Das Fraunhofer-Institut IAIS leitet das Konsortium ZERTIFIZIERTE KI. Im Projekt erarbeitet es zusammen mit dem BSI Prüfgrundlagen für KI-Anwendungen und gestaltet zusammen mit dem DIN die Anwenderkreise, wo der Transfer der Ergebnisse in die industrielle Praxis erfolgt. Darüber hinaus baut das IAIS eine Plattform mit Demonstratoren und prototypischen Prüfwerkzeugen auf. Schließlich ist das Fraunhofer IAIS für die Dissemination der Ergebnisse in die breite Öffentlichkeit und die Projektkommunikation zuständig.
Universität Bonn
Informatik
Das Institut für Informatik III der Universität Bonn verantwortet im Projekt die Entwicklung von prototypischen Prüfwerkzeugen für KI-Anwendungen und die Behandlung von informatischen Fragestellungen zur Absicherung von KI-Anwendungen.
Philosophie
Der Lehrstuhl für Erkenntnistheorie ist für die Ausarbeitung ethisch relevanter Parameter für KI Use Cases sowie die Entwicklung von allgemeinen und kontextspezifischen Mindestanforderungen hinsichtlich philosophisch-ethischer Prinzipien zuständig.
BSI
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist die zentrale Zertifizierungsstelle für IT-Sicherheit in Deutschland. Es verantwortet im Projekt die ganzheitliche Erarbeitung einer formalen Prüfmethodologie für KI-Anwendungen sowie die Überprüfung und Sicherstellung der Anschlussfähigkeit der zu erarbeitenden Prüfverfahren an bestehende Prüfkriterien und -Grundlagen.
DIN
Das Deutsche Institut für Normung e.V. (DIN) ist zusammen mit dem IAIS für die Organisation der Anwenderkreise zuständig. Ferner initiiert es die Überführung der Projektergebnisse in die Normung und Standardisierung und übernimmt die Harmonisierung mit europäischen und internationalen Standardisierungsaktivitäten bei CEN/CENELEC und ISO/IEC.
Universität zu Köln
Der Lehrstuhl für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung arbeitet allgemeine rechtliche Kernvoraussetzungen für den Einsatz von KI-Anwendungen heraus und präzisiert diese. Dabei geht es insbesondere um Fragen des Schutzes der Autonomie, des notwendigen Maßes an Transparenz, des Datenschutzes und der Diskriminierungsfreiheit. Zudem werden sektorspezifische Analysen durchgeführt, um rechtliche Leitlinien für verschiedene Branchen zu entwickeln.
RWTH Aachen
Das Institut für Technologie- und Innovationsmanagement der RWTH Aachen University verantwortet die Strukturierung und Quantifizierung des Bedarfs an KI-Prüf- und -Zertifizierungsdienstleistungen für unterschiedliche Anwendungsfelder, die Quantifizierung der Wirkung von KI-Zertifizierungen auf Anwender und Verbraucher sowie die Entwicklung von Geschäftsmodellen und Vertriebskonzepten für die Verwertung und Verstetigung.
Das Land Nordrhein-Westfalen (NRW) hat im Dezember 2018 die Kompetenzplattform für Künstliche Intelligenz (KI) KI.NRW ins Leben gerufen, um die Kompetenzen im Bereich KI zu bündeln, zu stärken und weiter auszubauen. Wesentlich für die KI-Strategie des Landes ist ein verantwortungsvoller Ansatz in der Entwicklung und im Umgang mit Künstlicher Intelligenz, der stets den Menschen in den Mittelpunkt stellt. Daher wurde bereits im Dezember 2018 eine Initiative zur KI-Zertifizierung gestartet.
Unter Leitung des Fraunhofer IAIS hat eine interdisziplinäre Forschungsgruppe mit Vertreter*innen der Universität Bonn und der Universität zu Köln Handlungsfelder für einen vertrauenswürdigen Einsatz von KI definiert. Daneben wurde eine Kooperation mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) aufgebaut. Wesentliche Inhalte dieser Kooperationsvereinbarung werden im Rahmen des vom Bundesland Nordrhein-Westfalen geförderten KI.NRW-Flagship-Projekts »Zertifizierte KI« erarbeitet und umgesetzt. Mit der Dachmarke »Flagships powered by KI.NRW« unterstützt die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen vom Land geförderte Vorhaben als KI-Leuchtturmprojekte. Ziel ist es, einen effizienten Technologietransfer und die enge Zusammenarbeit von Mittelstand, Start-ups, Universitäten, Hochschulen sowie Forschungseinrichtungen in NRW zu gewährleisten und zu unterstützen.
Das Land NRW hat damit beim Thema KI-Zertifizierung eine Vorreiterrolle eingenommen.
Möchten Sie assoziierter Partner werden oder haben Sie Fragen zum Projekt?
Nehmen Sie gerne mit dem Projektteam Kontakt auf.