Künstliche Intelligenz - und Roboter

KI im SWR

Publizistische Richtlinien zum Umgang mit „Künstlicher Intelligenz“

Stand

Die SWR Geschäftsleitung hat am 19.9.2023 die „Publizistischen Richtlinien zum Umgang mit KI“ beschlossen. Sie sollen als eine Art „Grundsatz-Charta“ dienen, die in den nächsten Monaten – wo erforderlich – in Form von konkreten themenfeldbezogenen Handreichungen sowie ggf. auch Dienstanweisungen detaillierter ausgestaltet werden soll. 

Mit dem Begriff „Künstliche Intelligenz“ wird eine sehr umfassende Reihe von Methoden, Technologien und Anwendungen des Maschinellen Lernens, der Automatisierung und der komplexen Datenverarbeitung zusammengefasst. Wir nähern uns KI offen und mit dem Blick auf die Chancen und Möglichkeiten. Gleichzeitig machen wir uns bewusst, dass die Komplexität und die Risiken eine besonders sorgfältige Befassung mit der neuen Technologie vor ihrer Anwendung voraussetzen. Unsere journalistische Arbeit muss in jedem Fall nachvollziehbar und erklärbar bleiben. Deshalb handelt der Südwestrundfunk nach den folgenden Richtlinien:

Journalistische Grundsätze und redaktionelle Kontrolle

  • Unsere journalistischen Grundsätze gelten ohne Ausnahme. Wir prüfen alle Inhalte vor ihrer Veröffentlichung nach diesen Grundsätzen.
  • Der Einsatz von KI bedarf einer erhöhten journalistischen Sorgfalt durch die verantwortliche Redaktion.
  • Grundsätzlich gilt im SWR: Bevor eine Veröffentlichung erfolgt, wird jeder Inhalt, der mithilfe KI-basierter Programme erstellt wurde, von einem Menschen abgenommen. Der Mensch behält stets die Kontrolle, trifft die Entscheidung zur Veröffentlichung und trägt die Verantwortung („human-in-the-loop“). In Einzelfällen können auch vorab Plausiblitätsprüfungen der eingesetzten Systeme durch Menschen erfolgen, beispielsweise für Formatwandlung (etwa zur Wandlung von vorhandenen Texten in einfacher Sprache) oder bei regelbasierter Automatisierung.

Transparenz bei Veröffentlichungen

  • Wir kennzeichnen Inhalte, wenn sie mithilfe von KI generiert wurden. Die Kennzeichnung ist für unser Publikum verständlich und zu jeder Zeit deutlich erkennbar.
  • Wir machen uns gleichzeitig bewusst, dass Recherchen immer stärker durch KI unterstützt sind. Transparenz darüber, welche Technologien wir einsetzen und mit welchen Quellen wir arbeiten, ist für unsere Glaubwürdigkeit von großer Bedeutung. Daher erklären wir unserem Publikum komplexe KI-gestützte Recherchemethoden.

Verantwortungsvoller Einsatz

  • Der Einsatz von KI wirft grundlegende journalistisch-ethische Fragen auf. Vor der Nutzung von KI machen wir uns deshalb die Risiken im Falle eines Einsatzes bewusst – zum Beispiel das Risiko von Fehlentscheidungen oder Fehlinformationen auf Basis von KI-generierten Ergebnissen.
  • Um die Risiken zu minimieren, setzen wir KI ein, die als technologisch robust gilt. Sie sollte Mechanismen beinhalten, die Genauigkeit, Faktentreue, Vielfalt, Fairness und Nachvollziehbarkeit erhöhen. Unser Hauptaugenmerk liegt stets auf unserer journalistischen Sorgfaltspflicht sowie auf dem Schutz unserer Daten und Quellen.
  • Der Einsatz vorhandener Modelle setzt voraus, dass unsere journalistische Integrität und unsere Unabhängigkeit stets gewahrt sind. Wir wägen ab, ob ein KI-Modell gegebenenfalls nachtrainiert werden muss, falls erforderlich mit unseren eigenen Trainingsdaten, um unseren Werten und Grundsätzen zu entsprechen

Mehrwert und Potentiale

  • Der Einsatz von KI muss einen klaren Mehrwert für die Erfüllung unseres Auftrags haben.
  • Wir sehen durch KI-Unterstützung großes Potential darin, die Möglichkeiten für digitale Recherche zu erweitern, attraktive Inhalte zeitgemäß zu produzieren oder auch betriebliche Arbeitsabläufe effizienter zu gestalten.

Kompetenzen und Interdisziplinarität

  • Wir unterstützen die Mitarbeitenden darin, Wissen über die grundlegenden Funktionsweisen von KI-Modellen aufzubauen. Wir bieten Möglichkeiten, KI-Anwendungen im geschützten Raum zielgerichtet auszuprobieren, um Erfahrungen sammeln zu können.
  • Wir setzen auf interdisziplinäre Teams, die redaktionelle, rechtliche und technische Kompetenzen vereinen, damit wir die dynamische Entwicklung von KI nachvollziehen und unsere Interessen, Werte und Grundsätze beim Einsatz von KI im Journalismus schützen können.

Datenkultur und Dokumentation

  • Die Anwendung von KI im redaktionellen und betrieblichen Alltag setzt voraus, dass wir einen umfassenden und verantwortungsvollen Umgang mit Daten in unserer Unternehmenskultur sicherstellen.
  • Wir lernen durch Tests, Pilotprojekte und Prototypen. Unsere Ergebnisse dokumentieren wir und werten sie aus, um dauerhaft technische und redaktionelle Reviews zu gewährleisten.

Dialog, Wissensaustausch und Partnerschaften

  • Wir führen einen fortlaufenden Diskurs über ethische Fragestellungen, die die Anwendung von KI im Journalismus aufwerfen. Wir nutzen das Feedback des Publikums, um einen kritischen Dialog beispielsweise über Glaubwürdigkeit und Nachvollziehbarkeit zu führen.
  • Wir beteiligen uns am Erfahrungs- und Wissensaustausch über angewandte KI im Journalismus mit relevanten Stakeholdern in Medien, Wissenschaft und Gesellschaft.
  • Wir kooperieren mit Universitäten, Hochschulen und weiteren Institutionen in Wissenschaft und Forschung, um einerseits unsere Werte und Bedürfnisse in der Entwicklung von KI einzubringen und andererseits vom Wissen dort zu profitieren. Wir beteiligen uns an geeigneten Initiativen und suchen Partnerschaften beispielsweise in der ARD, der EBU und mit anderen Medienhäusern

Nachhaltigkeit

  • Wir sind uns bewusst, dass Künstliche Intelligenz sehr viel Energie verbraucht. Wir legen Wert darauf, den Ressourcenverbrauch, der durch den Einsatz von KI entsteht, zu kennen und zu minimieren

Regeln und Recht

  • Wir setzen klare und nachvollziehbare Regeln für die Anwendung und Grenzen für den Einsatz von KI im redaktionellen und betrieblichen Alltag.
  • Wir passen unsere Regeln kontinuierlich an die dynamische Technologieentwicklung und an die gesetzlichen Rahmenbedingungen an.
Stand
Autor/in
SWR