FAQ: Künstliche Intelligenz für die Öffentlichkeitsarbeit

Sie sind hier: / FAQ: Künstliche Intelligenz für die Öffentlichkeitsarbeit

FAQ für künstliche Intelligenz in der Feuerwehr-Öffentlichkeitsarbeit

Inhaltsverzeichnis

Grundlagen

Rechtliche Aspekte

Grundlagen

Was ist künstliche Intelligenz und was ist sie nicht?

Als „künstliche Intelligenz“ (kurz „KI“, englisch „AI“ für „artificial intelligence“) werden Computerprogramme (Software) bezeichnet, die bestimmte Fähigkeiten „lernen“ können, wie etwa Texte schreiben, Bilder erzeugen oder Musik erkennen. Es handelt sich dabei nicht um echte Intelligenz, es gibt kein „Verständnis“ oder „Bewusstsein“ und die Software hat auch keine „Gefühle“. Vielmehr basieren die Computerprogramme auf Wahrscheinlichkeiten aus zuvor gelernten großen Datenmengen. Ungefähr ab dem Jahr 2022 erlebte KI einen Boom, weil verschiedene Programme öffentlich zugänglich wurden und die kommerzielle Nutzung rasch zunahm.

Wichtige Begriffe

  • Sprachmodell: KI-System zur Verarbeitung und Generierung von Sprache (z. B. Texte schreiben, zusammenfassen, korrigieren).
  • Prompt: Eingabe bzw. Anweisung an eine KI, die bestimmt, welches Ergebnis erzeugt wird.
  • Prompt Engineering: Gezieltes und strukturiertes Formulieren von Prompts, um möglichst präzise und qualitativ hochwertige Ergebnisse zu erhalten.
  • Generative KI: erzeugt neue Inhalte (z. B. Texte, Bilder, Videos).
  • Transformative KI: verändert bestehende Inhalte (z. B. Übersetzen, Umformulieren).
  • Reduktive KI: kürzt oder vereinfacht Inhalte (z. B. Zusammenfassungen).
  • Halluzination: Fehlerhafte oder frei erfundene Inhalte, die von der KI als scheinbar korrekt dargestellt werden.
  • Training (KI-Modell): Lernprozess einer KI anhand großer Datenmengen, aus denen Wahrscheinlichkeiten und Muster abgeleitet werden.
  • Deepfake: KI-generierter, täuschend echter Inhalt (z. B. Bilder, Videos oder Stimmen), der reale Personen oder Ereignisse vortäuscht.
  • Text-to-Speech: Umwandlung von geschriebenem Text in gesprochene Sprache durch KI.
  • Speech-to-Text: Umwandlung von gesprochener Sprache in Text.

Welche Arten von KI gibt es?

Man unterscheidet KI-Systeme nach dem Grad ihrer Fähigkeiten:

  • „Schwache KI“ kann einfache, spezialisierte Aufgaben übernehmen, die zuvor trainiert wurden: Texte erstellen, Bilder zeichnen, Sprachen übersetzen etc. (Dieses Level wird bereits eingesetzt.
  • „Starke KI“ oder „allgemeine KI“ kann universell denken und komplexe Aufgaben erfüllen, ähnlich wie ein Mensch. (Dieses Level ist noch nicht erreicht.)
  • „Super KI“ ist eine theoretische Stufe, welche die Intelligenz von Menschen deutlich übertrifft. (Dieses Level ist noch nicht erreicht.)

Wie soll KI bei der Öffentlichkeitsarbeit nicht eingesetzt werden?

Die Feuerwehr ist eine der vertrauenswürdigsten Quellen für Medien und Bevölkerung. Veröffentlichungen von Feuerwehren werden als gesicherte Fakten angesehen. Daher dürfen Feuerwehren die Öffentlichkeit nicht mit Bildern täuschen, die eine gefälschte Realität zeigen. Es droht der Verlust des Vertrauens in die gesamte Öffentlichkeitsarbeit der Feuerwehr!

  • Einsatzbilder oder (vermeintlich) reale Situationen dürfen nicht mit KI nachgestellt oder manipuliert werden. Dies gilt für alle Abbildungen, die über Fakten informieren und Sachverhalte dokumentieren sollen.
  • Wenn Einsatzbilder manipuliert werden MÜSSEN (z.B. verpixeln von Gesichtern oder Aufschriften), sind diese so zu verpixeln, zu schwärzen oder unscharf zu machen, dass die Bearbeitung und die bearbeiteten Bereiche einfach zu erkennen sind.
  • Mit KI erstellte Grafiken oder Bilder sollten gekennzeichnet werden: „mit KI erstellt“ oder „KI-generiert“. (z.B. Werbe-Sujet für Veranstaltungsplakat)
  • Mit KI erstellte Übungs-Darstellungen (z.B. KI-Feuer auf realem Haus) sollten als Übungs-Szenario gekennzeichnet werden, um Verwechslungen zu vermeiden.
  • (mit KI-erstellte) Foto-Collagen oder Foto-Montagen sind ebenfalls zu kennzeichnen (Collage/Montage: künstliches Zusammenfügen von Bildern, um neue Bilder zu schaffen)

Wo liegen die Grenzen von KI?

  • KI macht häufig Fehler – dies muss bei jedem Output berücksichtigt werden
  • KI „halluziniert“ manchmal: Sie erfindet dabei Fakten und präsentiert das Ergebnis als Realität (z.B. menschliche Hand mit sechs Fingern). Auch in Texten erfindet KI Fakten, die auf den ersten Blick plausibel erscheinen können.
  • KI kann nur jene Informationen kombinieren, die sie zuvor „gelernt“ hat
  • KI ist keine allwissende Suchmaschine
  • manche KI-Systeme versuchen Texte auszugeben, die den Vorgaben des Benutzers besonders entsprechen (auch wenn die Fakten falsch sind)
  • Anwender müssen die KI-Ergebnisse kontrollieren und dürfen sich nicht zu 100% darauf verlassen

Vor- und Nachteile von KI in der Öffentlichkeitsarbeit

  • Vorteile
    • Effizienz & Zeitersparnis: Schnelle Erstellung, Korrektur und Zusammenfassung von Texten
    • Hilfe bei der Ideenfindung für Texte etc.
    • Interview-Vorbereitung: KI kann einen Überblick über allgemeine, öffentlich breit diskutierte gesellschaftliche Themen geben, die man selbst möglicherweise nicht berücksichtigt hätte. (Blick über den Tellerrand der „Feuerwehr-Bubble“ möglich)
  • Nachteile
    • Fehleranfälligkeit: KI kann falsche oder erfundene Inhalte („Halluzinationen“) liefern (selbst die Rechtschreibkorrektur funktioniert nicht perfekt)
    • Rechtliche Unsicherheiten: Datenschutz, Urheberrecht, Kennzeichnungspflichten und unklare Urheberschaft
    • Achtung: KI kann Inhalte ausgeben, die das Urheber- oder Markenrecht von Dritten verletzen. Dies kann unter Umständen zu Klagen führen. Eine (rechts-)sichere Beurteilung ist oft nicht möglich, weil nicht klar ist, an welchen Werken die KI „gelernt“ hat.
    • Fundierte Kenntnisse im Formulieren präziser Anweisungen (Prompt Engineering) sind erforderlich, da die Qualität der Ergebnisse maßgeblich davon abhängt. Die Erstellung wirksamer Prompts ist jedoch zeitaufwendig.

Rechtliche Aspekte

Was ist bei der Verwendung von KI in der Öffentlichkeitsarbeit rechtlich zu beachten?

Bei der Eingabe von Daten in KI-Systeme sowie bei der Verwendung von Inhalten, die mit KI erstellt wurden, sind zahlreiche Gesetze und Regelungen zu beachten. Dazu zählen die KI-Verordnung („AI-Act“) und die Datenschutzgrundverordnung der Europäischen Union, das österreichische Urheberrechts- und das Mediengesetz, Plattformrichtlinien der KI-Anbieter und mehr. (Die KI-Verordnung der EU gilt nicht für Militär, Forschung und private Zwecke.)
Für alle Veröffentlichungen der Feuerwehr gilt:
Auch bei der Erstellung oder Bearbeitung mit KI bleibt die Feuerwehr für alle Inhalte verantwortlich, die sie in ihren Medien veröffentlicht (z.B. Website, Social-Media-Profil etc.) Wenn ein Foto nicht auf der Website veröffentlicht werden darf, darf es auch nicht in ein KI-Programm eingegeben werden, um es dort weiterzuverarbeiten.
Betrifft nur „Anbieter“ von KI: Wenn man ein eigenes KI-System betreibt, ist man „KI-Anbieter“. Diese treffen weiterführende Pflichten, z.B. muss eine Ausbildung der Anwender sichergestellt sein.

Eingabe von Daten in KI

  • Es ist davon auszugehen, dass kommerzielle Anbieter von KI-Systemen ALLE Benutzereingaben (auch außerhalb der EU) speichern und zumindest zum Training ihrer Systeme verwenden oder die Informationen an Dritte weitergeben.
  • Personenbezogenen Daten, welche in der Feuerwehr verarbeitet werden, dürfen nicht ohne weiteres in KI-Systeme eingegeben werden. Der Schutz der Daten, Klarheit über die Verwendung und die Zustimmung der betroffenen Personen müssen berücksichtigt werden.
  • Urheberrecht: Das Hochladen von urheberrechtlich geschützten Werken (z.B. Fotos und Texte) von Dritten kann eine Verletzung der Rechte des Autors darstellen.

Praxisbeispiele: Was darf man nicht in KI eingeben?

  • Einsatzdaten, Adressen, Alarmpläne, Dienstpläne, Protokolle, Funkprotokolle und andere sensible Informationen
  • Fotos: Kennzeichen, Gesichter, personenbezogene Daten etc. (Ausnahmen möglich: Systeme des Arbeitsgebers, des Feuerwehrverbandes, der Stadtverwaltung etc. nach Einschulung, geschlossene Systeme, die abgesichert sind und dafür gedacht sind.)

Ausgabe von Ergebnissen aus KI-Systemen

  • Beim Veröffentlichen von KI-Inhalten kann es Kennzeichnungspflichen geben: siehe nächstes Kapitel.
  • Urheberschaft eines „KI-Werkes“ in Österreich nicht geklärt: Urheber kann nur ein Mensch sein.
  • ACHTUNG – Urheberrecht von Dritten kann verletzt werden!
    Alle von KI generierten Inhalte basieren auf Material, das vorher „gelernt“ wurde. Der Output der KI kann nun also Elemente enthalten oder Ähnlichkeiten mit Werken aufweisen, deren Urheber die Verwendung nicht erlaubt. Nutzt man diese „neu“ erzeugten Inhalte nun in der Öffentlichkeitsarbeit, kann es sein, dass man die Rechte von Autoren, Künstlern, Musikern etc. verletzt. Ein KI-generiertes Feuerwehrplakat mit einer geschützten Comicfigur kann daher zu teuren Forderungen führen.
  • ACHTUNG – Rechte an Logos, Marken etc. können verletzt werden!
    Logos, Marken, Figuren etc. sind in der Regel geschützt und dürfen auch nicht mit KI nachgeahmt werden (z.B. Erzeugen einer „Disney-Figur“ mit KI). Diese Inhalte dürfen nicht für die Öffentlichkeitsarbeit verwendet werden.
  • Manipulation durch „Deepfakes“ (real wirkende KI-Inhalte) ist verboten

Kennzeichnung von KI-Inhalten

  • Kennzeichnungen von KI-Texten für die ÖA („Texte von öffentlichem Interesse“)
    • ohne menschliche Kontrolle: Kennzeichnungspflicht
    • mit menschlicher Kontrolle UND wenn eine natürliche oder juristische Person die Verantwortung für die Inhalte trägt: Kennzeichnung sinnvoll, aber nicht verpflichtend
  • Kennzeichnungen von anderen KI-Inhalten für die ÖA (z.B. Bilder, Videos)
  • Kennzeichnung verpflichtend bei Deepfakes, also bei realistisch wirkenden Bildern, Videos oder Toninhalten, mit welchen Nutzer getäuscht werden können. (Z.B. täuschend echt aussehendes „Foto“, nicht reale Personen, Inhalt wirkt real, ist aber KI. Veränderung von realen Bildern mit KI)
  • Kennzeichnung nicht notwendig bei offensichtlich unrealistischen oder abstrakten Darstellungen; z.B. bei Fantasie-Bildern, Mustern oder eindeutig als Zeichnung erkennbaren Inhalten, die den Betrachter nicht täuschen.