Neues Whitepaper »Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln« ist erhältlich

©Alex – stock.adobe.com

Das KI.NRW Flagship-Projekt »ZERTIFIZIERTE KI« erläutert darin den systematischen Umgang mit spezifischen Risiken von Foundation-Modellen

Foundation-Modelle im Bereich der Text-, Sprach- und Bildverarbeitung haben ein großes Potenzial für Wirtschaft und Gesellschaft. Aber wie lassen sich KI-Anwendungen mithilfe solcher Modelle sowohl innovativ als auch sicher und vertrauenswürdig gestalten?

Vor dem Hintergrund der europäischen KI-Verordnung (AI Act), die eine KI-Konformitätsbewertung von Hochrisikosystemen fordert, zeigen die Autor*innen des Whitepapers »Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln« auf, wie die Vertrauenswürdigkeit einer mit Foundation-Modellen entwickelten KI-Anwendung bewertet und sichergestellt werden kann. Dabei wird besonders berücksichtigt, dass sich spezielle Risiken solcher Modelle auf die jeweilige Anwendung auswirken können und daher zusätzlich bei der Prüfung der Vertrauenswürdigkeit beachtet werden müssen.

Das Whitepaper gibt zudem eine Einführung in die technische Konstruktion von Foundation-Modellen und wie darauf aufbauend KI-Anwendungen entwickelt werden können. Neben einem Überblick über die dabei entstehenden Risiken, wird auch gezeigt, welche Anforderungen an KI-Anwendungen und Foundation-Modelle aus der bevorstehenden KI-Verordnung der Europäischen Union zur erwarten sind. Schließlich werden die Systematik und Vorgehensweise aufgezeigt, um Anforderungen an die Vertrauenswürdigkeit zu erfüllen.

Erschienen ist das Whitepaper im Rahmen des KI.NRW Flagship-Projekts »ZERTIFIZIERTE KI«. Hier entwickelt das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normung (DIN) sowie weiteren Forschungspartnern Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz.