AA

Künstliche Intelligenz: AK warnt vor "Nebenwirkungen"

Die Arbeiterkammer warnt vor den "Nebenwirkungen" künstlicher Intelligenz
Die Arbeiterkammer warnt vor den "Nebenwirkungen" künstlicher Intelligenz ©Pixabay (Sujet)
Künstliche Intelligenz (KI) ist Teil unseres Alltags - vom Avatar, der im Chat antwortet bis zum Algorithmus, der über Kreditanträge entscheidet. Die Schattenseiten der Technologie werden dabei oft ausgeblendet.
KI identifiziert schwere Corona-Verläufe

Gefahr lauert vor allem dort, wo KI anhand riesiger Datenmengen eine Entscheidung trifft, deren Zustandekommen für Menschen nicht mehr nachvollziehbar ist, warnten nun Experten der Arbeiterkammer und des Instituts für Technikfolgen-Abschätzung bei einer Pressekonferenz.

AK-Datenschutz-Expertin: KI-Gesetz der Europäischen Kommission ist weit gefasst

In welchen Bereichen des Lebens sich der Einsatz von KI durchsetzen wird, ist noch offen - dementsprechend weitgefasst präsentiert sich auch das kürzlich verabschiedete KI-Gesetz der Europäischen Kommission. Angedacht war es, damit - ähnlich dem EU-Gesetz zur Datenschutzgrundverordnung - den internationalen Goldstandard zu setzen, "tatsächlich beschränken sich die Regulierungen aber auf ein absolutes Minimum", stellte Daniela Zimmer, Datenschutzexpertin der Arbeiterkammer, fest. "Nur für hochriskante KI-Anwendungen wurden Spielregeln definiert - und sogar in extrem sensiblen Bereichen, wie etwa Kreditwürdigkeitsprüfungen, oder biometrischen Fernidentifikationen, sind die Verbote löchrig."

Kritik am "laxen" Ton des Gesetzestextes zur Künstlichen Intelligenz

Anlass das EU-Gesetz zu konzipieren war die Situation in China, wo ein Social-Scoring-System Menschen gläsern hat werden lassen. "Deswegen hat die Kommission auch verboten, dass Behörden Menschen nach ihren Eigenschaften und ihrem Verhalten kategorisieren dürfen - aber auch nur dann, wenn eine dadurch resultierende Schlechterstellung unverhältnismäßig ist", kritisierte Zimmer den "laxen" Ton des Gesetzestextes. Was es brauche, sei eine rechtliche Handhabe für Menschen, denen durch eine KI-Entscheidung finanzielle Schäden erwachsen sind, sowie die Möglichkeit, die Beurteilung etwa der Kreditwürdigkeit oder auch die Auswertung persönlicher Daten durch eine KI abzulehnen, sagte die Expertin.

Mangelnde Transparenz als größtes Problem

Das größte Problem beim Einsatz von KI sei derzeit jedenfalls die mangelnde Transparenz bei der Entscheidungsfindung: "Die KI eignet sich mittels Daten in einem Lernprozess ein Modell an und wartet mit einem Ergebnis auf, das auf Wahrscheinlichkeit beruht", sagte Walter Peissl vom Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ITA). "Damit ist es für einen Menschen oft schwer nachvollziehbar wie es zu einer Entscheidung kam - aber nur, wenn ich ein System verstehe, kann ich Verantwortung dafür übernehmen".

Es sei ein gesellschaftlicher Diskurs über KI nötig, in dem das Recht auf Information, aber auch die Verständlichkeit der Entscheidungsfindung festgelegt werden sollte, so der Experte. Letztlich brauche es auch einen rechtlichen Rahmen zur Überprüfung von Entscheidungen. "Die Letztverantwortung sollte aber auf jeden Fall auch in der heutigen Zeit bei natürlichen, juridischen Personen liegen", sagte Peissl.

(APA/Red)

home button iconCreated with Sketch. back to homepage
  • ADMIN AT
  • Multimedia
  • Künstliche Intelligenz: AK warnt vor "Nebenwirkungen"