Forscher fragt

Vertrauen ist gut, aber wer kontrolliert die KI?

Kann man dem Kollegen KI vertrauen?(Bild: ihorvsn - stock.adobe.com)

Wer kontrolliert die KI? Vertrauen wird in der schöne, neuen Welt der künstlichen Intelligenz immer mehr zur härtsten Währung, wichtiger als alle Bitcoins. René Riedl, Forscher und Professor an der FH Steyr beschäftigt sich seit zwei Jahren mit einem internationalen Kollegenteam, wie die gemeinsame Zukunft von Mensch und Maschine aussehen könnte.

„Vertrauen ist gut, Kontrolle ist besser“ – dieses Zitat wird Lenin zugeschrieben. Gemeint ist, dass man etwas vorsichtshalber überprüfen sollte, statt sich einfach darauf zu verlassen. Aus der Sicht der Wissenschaft lag der russische Revolutionär damit gar nicht falsch. „Vertrauen ist ein soziales Bindemittel, das Menschen und Gesellschaften zusammenhält. Ohne Vertrauen werden zwischenmenschliche Interaktionen massiv erschwert. In den letzten Jahren betrat mit der Künstlichen Intelligenz (KI) ein weiterer Akteur die Bühne, mit dem Potenzial, uns Menschen in die Irre zu führen“, sagt René Riedl, vom Campus Steyr der FH Oberösterreich, Leiter des Joint-Masterstudiengangs „Digital Business Management“ von FH Oberösterreich und JKU Linz.

Es steht das Vertrauen auf dem Spiel – nicht nur in KI-Systeme an sich, sondern auch in alle, die sie entwickeln, einsetzen und regulieren. 

René Riedl, FH Steyr

Bild: FH OÖ

Workshop mit Top-Wissenschaftlern in Wien
Vor zwei Jahren organisierte er in Wien einen Workshop mit 15 internationalen Kapazundern. Die menschlichen Super-Hirne überlegten sich, wie der wissenschaftliche Rahmen aussehen soll, in dem sich in den nächsten fünf bis zehn Jahren die Forschung zum Thema „Vertrauen in die KI“ bewegen soll.

KI-Zusammenfassung hat auch ihre Tücken
Wer sich jetzt schon denkt, da wäre ihm eine Zusammenfassung dieses Textes durch die Google-KI lieber, ist auch schon beim Kern des Problems angelangt. Soll man glauben, was die diversen KI-Modelle von ChatGPT bis Perplexity zusammenreimen? Oder besser doch selbst recherchieren?

KI ist sehr vielfältig und wirkt in Bereichen, die man als Benutzer gar nicht wahrnimmt, wie zum Beispiel in Autos. Oder am Arbeitsplatz, wenn man in einer Produktionsanlage mit einem Roboter zusammenarbeitet

René Riedl, FH Steyr

Interessant sei ein Forschungsergebnis der Uni Bonn. Es wurden Patienten befragt, ob sie sich lieber von einem Arzt, von einem Arzt mit KI-Unterstützung oder von einem Chatbot behandeln lassen würden. Der Mensch bekam den Vorzug, obwohl die Kombi Arzt und KI die besten Resultate bringen würde.

Andererseits übertrumpfe oft die Bequemlichkeit das Sicherheitsbedürfnis, sagt Riedl. So entsperren viele ihr Smartphone per Gesichtserkennung und zeichnen mit der Fitnessuhr ständig ihre Herzfrequenz auf – und alle diese Daten landen auf irgendwelchen Servern. Ähnlich ist es mit der KI.