Ob Zusammenfassungen, Social-Media-Captions, Infografiken, Bildbearbeitung, Slogans oder Denkanstöße – inzwischen ist die digitale Welt voll von KI. Um Täuschungen zu vermeiden und Nutzende transparent über den Ursprung von Inhalten zu informieren, gilt ab diesem Sommer eine Kennzeichnungspflicht für Inhalte, die für die Öffentlichkeit bestimmt sind. „Nach nur einer Woche kommt es allerdings bereits zu deutlichen Fehlerinnerungen, welche Ideen und Texte durch die KI entstanden sind und welche man selbst erzeugt hat“, sagt Tim Zindulka, Doktorand am Lehrstuhl Mobile Intelligent User Interfaces der Universität Bayreuth und Erstautor der Studie.
Insgesamt 184 Studienteilnehmende haben im Experiment Texte mit oder ohne Hilfe von KI entwickelt. Nach einer Woche wurden die Teilnehmenden zur Entstehung der Idee und Ausformulierung des Textes befragt. „Besonders auffällig waren Workflows, in der menschliche und künstliche Intelligenz gemischt wurden, also wenn die Idee von der KI stammt, die Ausformulierung jedoch vom Mensch, und umgekehrt“, sagt Prof. Dr. Daniel Buschek, Inhaber des Lehrstuhls Mobile Intelligent User Interfaces an der Universität Bayreuth. Nach sieben Tagen sinkt die Wahrscheinlichkeit, sich korrekt ans Attribut „KI-generiert“ zu erinnern, auf 37,7 %, wenn eine KI-generierte Idee vom Mensch ausformuliert wurde. Umgekehrt besteht eine 64 %-ige Wahrscheinlichkeit, eine eigene Idee nach einer Woche korrekt als solche zu erkennen, wenn man sie anschließend von einer KI hat ausformulieren lassen.
„Unsere Studie zeigt auf, dass eine rückwirkende Befragung zur Entstehung von Inhalten nicht zu realistischen Ergebnissen führt. Als Einzelperson im Umgang mit KI eignet man sich gegebenenfalls KI-Ideen als eigene an oder traut sich umgekehrt eventuell selbst weniger zu als gerechtfertigt, weil man eine eigene Idee fälschlicherweise als KI-generiert erinnert“, sagt Zindulka und weiter: „Diese Ergebnisse sollten auch in der Gestaltung von KI-Systemen sowie in den Vorgaben zur KI-Kennzeichnung bedacht werden. Beispielsweise im universitären Kontext ist es unrealistisch, von Studierenden rückwirkend durch Erinnerung eine Offenlegung zu Details von KI-Nutzung bei Hausarbeiten zu erwarten. Sinnvoller ist es hier, von Anfang an den Entstehungsprozess von Inhalten mitzudokumentieren.“
Die Studie ist in Zusammenarbeit mit der Aalto University in Helsinki, Finnland, entstanden und wurde von der Deutschen Forschungsgemeinschaft (DFG; Projektnummer 525037874) gefördert.
