Künstliche Intelligenz: Neue Zertifizierung f...
 
Künstliche Intelligenz

Neue Zertifizierung für sichere KI-Anwendungen

Know-Center
v.l.n.r.: Harald Kainz, Stefanie Lindstaedt, Barbara Eibinger-Miedl, Martin Schaffer, Stefan Thalmann.
v.l.n.r.: Harald Kainz, Stefanie Lindstaedt, Barbara Eibinger-Miedl, Martin Schaffer, Stefan Thalmann.

Strategische Partnerschaft österreichischer Experten aus der Steiermark.

In der Steiermark wurde eine neue Initiative vorgestellt, um effiziente und unabhängige Prüfverfahren und Prüftechnologien für KI-Systeme zu entwickeln. Daran beteiligt sind das Know-Center, der SGS-Konzern und das IAIK der Technischen Universität Graz. Ethische und rechtliche Aspekte werden über das Business Analytics and Data Science Center der Universität Graz eingebracht und Österreichs Zentrum für sichere Informationstechnologie (A-SIT) begleitet die Aktivitäten als neutraler Beobachter.


Künstliche Intelligenz sei eine Schlüsseltechnologie, um die Zukunftsfähigkeit von Wirtschaft und Gesellschaft zu sichern, so die Initiative. Ähnlich wie bei der Datenschutzgrundverordnung (DSGVO) plant die Europäische Kommission eine Verordnung einzuführen, um KI-Systeme künftig zu regulieren. Dabei ist eine umfassende Konformitätsbewertung durch Anbieter vorgesehen, die eine KI-Zertifizierung unumgänglich machen wird.

"Das Potential von KI wird in Europa erst dann ausgeschöpft werden, wenn ein vertrauenswürdiger Umgang mit Daten sowie Fairness und Verlässlichkeit der Algorithmen und deren Sicherheit gewährleistet ist. Über eine 360° Perspektive wollen wir dafür sorgen, dass KI-Anwendungen technisch konform, zuverlässig und unvoreingenommen funktionieren. Im Fokus stehen alle Bereiche, die für eine hohe Qualität und Vertrauenswürdigkeit von KI essentiell sind: Daten, Algorithmen, Cybersicherheit, Prozesse, Ethik und Recht", erklärt Stefanie Lindstaedt, CEO des Know-Centers, das Vorhaben.

Zentrales Thema der Digitalisierung

Wirtschafts- und Forschungslandesrätin Barbara Eibinger-Miedl begrüßt die Initiative: "Künstliche Intelligenz ist ein zentrales Thema der Digitalisierung. Neben großen Chancen gibt es aber auch Herausforderungen. So müssen etwa vertrauenswürdige Systeme und ein hoher Datenschutz sichergestellt werden, um Hemmschwellen beim Einsatz Künstlicher Intelligenz abzubauen. Dass der Weltkonzern SGS dabei auf steirisches Know-how zurückgreift, unterstreicht die hervorragende Arbeit der beteiligten heimischen Akteure. Durch zahlreiche Forschungsprojekte und Digitalisierungsinitiativen ist es uns in der Steiermark gelungen, umfassende Kompetenzen in diesem Bereich aufzubauen und eine globale Vorreiterrolle einzunehmen."

Ein Eckpfeiler des Vertrauens in KI sei die Einhaltung von Standards und Vorschriften, "die durch Konformitätsbewertungen nachgewiesen werden, die akkreditierte Stellen wie SGS durchführen. In unserer Partnerschaft werden wir neue multidisziplinäre Tools und Techniken entwickeln, um diese Bewertungen zu ermöglichen, die Bereiche wie etwa Cybersicherheit oder Ethik umfassen. Das wird Kunden auf der ganzen Welt einen Mehrwert bieten", erklärt Siddi Wouters, Senior Vice President Digital & Innovation bei SGS.

Cyberkriminalität als Herausforderungen

Trotz des enormen technologischen Potentials sind mit dem Einsatz von KI-Anwendungen auch Unsicherheiten und Risiken verbunden. Es gibt eine Vielzahl an Möglichkeiten, KI-Systeme anzugreifen. Eine große Herausforderung bei der Bewertung von KI-Systemen ist daher die Cyberkriminalität. "Herkömmliche statische Prüfungen reichen hier nicht aus. Es braucht die Erforschung grundlegend neuer sicherheitstechnischer Konzepte, um einen kontinuierlichen Nachweis der Robustheit von AI-Systemen gegen Cyberattacken zu erhalten und die Privatsphäre zu schützen. Diese Expertise bringt die TU Graz in die strategische Partnerschaft ein. Die Initiative ist für uns zugleich die logische Vertiefung bereits erfolgreich bestehender Kooperationen im Bereich Informatik, Software Engineering und Cybersicherheit mit SGS, dem Know-Center und der Uni Graz. Davon profitieren auch universitäre Forschung und Lehre, in die die neuen und aktuellen Inhalte einfließen", so Harald Kainz, Rektor der Technischen Universität Graz.

Die Energie Steiermark AG, Leftshift One, NXP und Redwave beteiligen sich mit Use Cases an dem Vorhaben. Die Initiative ist aber offen für weitere Partner aus Industrie und Wissenschaft.

stats