Systeme könnten sich theoretisch so weiterentwickeln, "dass sie nicht mehr kontrollierbar sind"

Als "Genie" wurde Peter Steinberger zuletzt von OpenAI-Chef Sam Altman begrüßt. Nun saß der Entwickler seines KI-Assistenten "Open Claw" bei Armin Wolf in der "ZiB 2" und stellte sich den großen Fragen rund um künstliche Intelligenz.

"So weit sind wir noch nicht"

Kann KI eines Tages die Kontrolle übernehmen? Steinberger formulierte vorsichtig. Systeme könnten sich theoretisch so weiterentwickeln, "dass sie nicht mehr kontrollierbar sind, und irgendwann die Weltherrschaft übernehmen".

Auf die Frage, ob ihm das Angst mache, antwortete er: "So weit sind wir noch nicht." Als Wolf einwarf, vielleicht sei das "in ein paar Jahren" anders, entgegnete Steinberger: "Es kann durchaus sein, dass wir irgendwann dahin kommen." Ganz ausschließen wollte er diese Entwicklung nicht.

Zugleich verwies er darauf, dass Unternehmen wie OpenAI und Anthropic viel in Sicherheitsforschung investierten. Es gehe darum, Modelle so zu gestalten, dass sie das tun, was Menschen von ihnen erwarten – und nicht anderes. "Aber ja, das ist natürlich etwas, das man nicht komplett ausschließen kann."

Kontrolle und Datenschutz

Auch die Kontrolle über autonome Assistenten war Thema. Auf die Sorge, ein Agent könne sich verselbstständigen, sagte Steinberger: "Man kann’s immer kontrollieren. Man sieht ja Step by Step, was das Ding macht. Ich kann jederzeit sagen, Stopp, und es hört auf."

Im Normalfall führe der Assistent nur jene Befehle aus, die der Nutzer eingebe. Zusatzfunktionen, bei denen das System selbstständig nachsehe, was zu tun sei, ließen sich deaktivieren. "Je nachdem, wie komfortabel man sich mit der Technologie fühlt, kann man das Ganze risikoärmer oder ein bisschen interessanter gestalten."

"Open Claw" könne nicht nur Texte erstellen, sondern auch Reisen planen, Flüge buchen oder Hotels reservieren – also "alles machen kann, was ich machen kann" vor dem Computer. Dafür brauche es Zugang zu sensiblen Daten. Wolf sprach von einem "datenschutzmäßig ein totaler Albtraum".

Steinberger betonte, der Assistent könne "komplett lokal laufen lassen" werden, also offline auf dem eigenen Rechner. Beim Einsatz im Browser gebe es ähnliche Sicherheitsfragen wie bei menschlichen Nutzern. Seine Lösung sei jene "mit den wenigsten Datenschutzproblemen".

Hacker und Arbeitsplätze

Trotz verbesserter Schutzmechanismen räumte Steinberger ein, dass Angriffe möglich seien. Wenn ein Hacker den Assistenten intensiv "bombardiert", könne es passieren, "dass man es zu etwas kriegt, das es nicht machen soll".

Wie stark KI Arbeitsplätze verändern wird, ließ der Entwickler offen. Auf die Frage, ob in zehn Jahren zehn oder 90 Prozent der Büroarbeit wegfallen könnten, sagte er, die Zahl werde "irgendwo dazwischen" liegen. "Gewisse Arbeiten, die repetitiv sind oder die sich vielleicht automatisieren lassen, werden irgendwann automatisiert werden."

Dennoch bleibe der Mensch zentral. "Da steckt normalerweise noch ein Mensch dahinter, der wirklich auch die Idee hat." KI helfe, schneller zu arbeiten, ersetze aber nicht jene Person, die vorgibt, was zu tun sei. Man müsse dann womöglich "nicht mehr jeder acht Stunden arbeiten".

Wechsel zu OpenAI

Steinberger hatte seinen Assistenten weitgehend eigenständig entwickelt – ohne die Strukturen eines Großkonzerns. Nun wechselt er dennoch zu OpenAI. Auf die Frage nach seiner Motivation sagte er: "Ich hab Bock darauf, mit ganz vielen anderen Getriebenen zu arbeiten, die Spaß an der Technologie haben."

(VOL.AT)