Forderung nach gerichtlicher Überprüfbarkeit ...
 

Forderung nach gerichtlicher Überprüfbarkeit von Algorithmen

taa22 - Fotolia
Die deutschen Interessenvertreter bekennen sich ebenso klar zum Einsatz von KI wie zu deren Kontrolle - auch - durch Betroffene.
Die deutschen Interessenvertreter bekennen sich ebenso klar zum Einsatz von KI wie zu deren Kontrolle - auch - durch Betroffene.

In einem neuen Diskussionspapier bezieht der deutsche Bundesverband Digitale Wirtschaft (BVDW) klar zugunsten der gerichtlichen Überprüfbarkeit von Algorithmen Stellung. Das sieht der BVDW nur als Analogie zu ohnehin jetzt schon gültigen gesetzlichen Normen.

Dem weiten Konfliktfeld von Ethik einerseits und dem Einsatz neuer Technologien andererseits hat sich die deutsche Interessenvertretung in ihrem am Montag veröffentlichten Diskussionspapier gewidmet. Bemerkenswerterweise treten die Vertreter der Digitalwirtschaft klar für die gerichtliche Überprüfbarkeit von Algorithmen durch Betroffene ein. Aus der Sicht der Autoren wäre das nicht einmal eine wesentliche qualitative Änderung im Vergleich zu bestehenden Normen, sondern vielmehr deren Konkretisierung: Verwiesen wird etwa auf den Artikel 22 der DSGVO, der automatisierte Einzelentscheidungen verbietet, aber auch § 54 des deutschen Bundesdatenschutzgesetzes, das Diskriminierung aufgrund von Profilings einen Riegel vorschiebt.

Naheliegenderweise spricht sich der BVDW aber für die Verwendung von Algorithmen und KI aus. So wird gefordert, dass diese in einer zeitgemäßen Definition der ärztlichen Sorgfaltspflicht Berücksichtigung finden sollten: Ebenso wenig wie Ärzte je durch Software ersetzt werden dürften, sollte umgekehrt klargestellt sein, dass Ärzte ihre Sorgfaltspflicht verletzen, wenn sie in bestimmten Bereichen, in denen der Nutzen einer KI-Technologie nachgewiesen wurde, auf deren Einsatz verzichten. „Wenn KI nachweislich dazu beiträgt, dass diese Diagnose präziser ist als ohne ihren Einsatz, wäre es aus Sicht des Behandelnden fahrlässig, diese Möglichkeit nicht zu nutzen", wird Wolfgang Faisst, stellvertretender Vorsitzender des BVDW-Ressorts Digitale Transformation und Internet of Things, zitiert.

In zunehmend vorliegenden Datensätzen zu Vitalwerten von Menschen sieht der BVDW allerdings keine Gefahr. Die Furcht, dass das auf lange Sicht zu unterschiedlichen Krankenversicherungstarifen führen könne, und jene begünstigt würden, die ihre Gesundheitsdaten an die Krankenversicherung übermitteln, sei unbegründet. „Unser Gesundheitssystem zeichnet sich durch das Solidaritätsprinzip aus. Das ist vielmehr eine gesellschaftliche Frage und hängt nicht von den technischen Möglichkeiten ab. Eine digitale Zwei-Klassen-Medizin droht nicht", ist Faisst überzeugt.

stats