»Mit der KI-Zertifizierung wollen wir dazu beitragen, Qualitätsstandards für eine ›KI made in Europe‹ zu setzen.«

Plattform Lernende Systeme veröffentlicht Impulspapier zur Zertifizierung von KI-Systemen

Vertrauenswürdige KI-Systeme »made in Europe«

Wissenschaftlerinnen und Wissenschaftler des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, des Karlsruher Instituts für Technologie KIT, der Universität Tübingen sowie der Deutschen Akademie der Technikwissenschaften haben im Rahmen der Plattform Lernende Systeme ein Impulspapier zur Zertifizierung von KI-Systemen veröffentlicht. Das interdisziplinäre Autorenteam skizziert in der Publikation, welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen.

Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie mit großem Nutzenpotential. Als Querschnittstechnologie wird KI in nahezu allen Lebensbereichen zum Einsatz kommen und zukünftig viele Dinge einfacher, präziser und schneller erledigen können als der Mensch. Diese Entwicklung bietet große Chancen für die moderne Gesellschaft, gleichzeitig führt sie aber auch zu neuen Fragen und Herausforderungen. Denn wenn KI-Systeme eigenständig handeln, Entscheidungen treffen oder Planungen anstellen, dann ist es wichtig, dass dies in einem ethisch vertretbaren Rahmen geschieht. Fragen zu Kontrolle, Rechtssicherheit, Verantwortlichkeit und Transparenz sowie IT-Sicherheit, Datenschutz und Selbstbestimmung müssen adressiert werden. Wichtig ist, dass ein durch KI-Systeme erfolgtes Diskriminierungshandeln vermieden wird und Menschen den Systemen vertrauen können.

In seinem Impulspapier beleuchtet das interdisziplinäre Autorenteam aus Mitgliedern der Plattform Lernende Systeme sowohl technische, als auch juristische und ethische Aspekte sowie Fragen und Herausforderungen, die es auf dem Weg zu einer Zertifizierung von KI zu adressieren gilt. Die KI-Zertifizierung soll Systeme auf Implementierungsanforderungen überprüfen und mit einem Siegel auszeichnen. Ziel ist es, die Akzeptanz von KI-Systemen zu erhöhen, eine Orientierungsfunktion für KI-Entwickler*innen anzubieten und einen europäischen Standard für den marktwirtschaftlichen Wettbewerb zu schaffen.

Die Publikation gibt außerdem einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und appelliert an die Einrichtung einer zentralen Zertifizierungsstelle, die eine vertrauenswürdige Marke »KI made in Europe« ermöglicht.

Bonner Katalog als Grundlage für eine KI-Zertifizierung

Im Kontext der Kompetenzplattform KI.NRW wurden dazu bereits wichtige Vorarbeiten geleistet. Wissenschaftlerinnen und Wissenschaftler der Universitäten Bonn und Köln haben im Juli 2019 unter der Federführung des Fraunhofer IAIS und unter Mitwirkung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) konkrete Handlungsempfehlungen zur Zertifizierung von KI-Anwendungen vorgelegt. In dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« wurden die sieben Handlungsfelder Ethik und Recht, Autonomie und Kontrolle, Fairness, Transparenz, Verlässlichkeit, Sicherheit und Datenschutz ausgemacht und in einem interdisziplinären Team aus philosophischer, ethischer, rechtlicher und technologischer Sicht befragt. Dabei wurden wichtige Anforderungen und Leitplanken formuliert, die eine vertrauenswürdige KI erfüllen muss. Dieser »Bonner Katalog« bildet die Grundlage, um eine Zertifizierung in der Praxis zu realisieren.