Erster Sicherheitsstandard für KI-Systeme
Flugtaxis, voll automatisierte Autos, Smarthomes: Künstliche Intelligenz gilt als Technologie der Zukunft – kennt in der Gegenwart jedoch kaum klare Definitionen oder verbindliche Richtlinien. Dabei sind nachweisliche Sicherheit und verlässliche Standards wichtige Voraussetzungen, um das Vertrauen von Industrie und Verbrauchern in das immense Innovationspotenzial von KI nachhaltig zu gewährleisten. Die Deutsche Kommission Elektrotechnik Elektronik Informationstechnik (DKE) setzt jetzt neue Standards für Sicherheit, Vergleichbarkeit und Messbarkeit im Bereich Künstliche Intelligenz (KI) – mit dem ersten detaillierten Framework zur Entwicklung vertrauenswürdiger KI-basierter Systeme. Die Norm (Anwendungsregel) wurde unter Mitwirkung des Forschungsinstituts Fortiss erarbeitet und findet internationale Beachtung.
Die VDE-AR-E 2842-61 „Entwurf und Vertrauenswürdigkeit von autonom/kognitiven Systemen“ ist die erste Norm mit der nötigen fachlichen Tiefe und wurde unter Mit-Leitung des Forschungsinstituts Fortiss entwickelt. Und sie findet bereits internationale Beachtung: In Japan möchte man die Norm unverändert übernehmen.
Die bisherige Problematik: Entwickler sind zwar in der Lage, bspw. im Mobilitätssektor ein vollautomatisiertes Auto zu bauen. Nachweisen, dass dieses Fahrzeug unter allen Umständen sicher ist, können sie derzeit aber noch nicht. Dadurch wird der Prozess von der Forschung über die Entwicklung bis hin zur Zulassung in vielen Fällen verlangsamt oder von vorneherein ganz gehemmt.
Bislang fehlte ein strukturierter Entwicklungsansatz ebenso wie eine verbindliche Anwendungsregel zur Erfassung, Auswertung und Verifizierung von Sicherheit bei KI-basierten Systemen. Zudem fehlte eine Schnittstelle, die KI-Entwicklung und Normierungskriterien gleichermaßen gerecht wird und nachweisen kann, dass etwa ein künstliches neuronales Netzwerk sicher funktioniert.
Diese Lücke hat das DKE mit der Anwendungsregel VDE-AR-E 2842-61 erstmals geschlossen. Denn die Norm setzt einen verlässlichen Sicherheitsstandard unter Berücksichtigung des aktuellen Forschungs- und Entwicklungsstands. Die sechsbändige Veröffentlichung ebnet damit den internationalen Weg für eine strukturierte und nachweislich sichere Entwicklung von KI-basierten Systemen und stellt einen Referenz-Standard für KI-Prüfsiegel bereit.
Diese Anwendungsregel kann durch Praxisanwendungen und Erfahrungen weiter verbessert werden, auch um die effiziente Nutzung durch kleine und mittelständische Unternehmen zu gewährleisten. Ziel ist es, die Entwicklung von sicherheitsfähiger KI zu ermöglichen, die verbindlichen Sicherheitsstandards entspricht, damit Industrie und Verbraucher KI-basierten Systemen dasselbe Vertrauen entgegenbringen können wie bei Hardware- und Software-Lösungen.
Wissenschaftlicher Ansprechpartner:
Dr. Henrik Putzer
Kompetenzfeldleiter Trustworthy Autonomous Systems fortiss GmbH
Landesforschungsinstitut des Freistaats Bayern für softwareintensive Systeme
Tel: +49 152 55901040
E-Mail: putzer@fortiss.org
Bild links:
Fortiss entwickelt mit der DKE den weltweit ersten Sicherheitsstandard für KI-basierte Systeme.
