Swico: Ethik in der Ära der generativen KI

Zürich – In einer Zeit, in der KI-Technologien wie ChatGPT allgegenwärtig sind, bringt das Merkblatt des Swico «Digital Ethics Circle» Klarheit in die komplexen Herausforderungen. Es identifiziert sieben Schlüsselfallstricke und bietet konkrete Lösungsansätze, die für jeden Anwender und jede Anwenderin von Generativer KI unerlässlich sind.

Recherchieren, Texte schreiben, Kundenbetreuung, ja sogar psychologische Beratung bieten GenAI Applikationen. Dabei können sie täuschend echt wirken und Menschen in die Irre führen oder sogar manipulieren. Vor diesem Hintergrund hat der Swico Digital Ethics Circle ein weiteres wegweisendes Merkblatt erarbeitet. Es beleuchtet sieben wesentliche Fallstricke im Umgang mit generativer Künstlicher Intelligenz und bietet konkrete Use Cases und reale Beispiele zur Illustration. Ziel ist es, Swico-Mitgliedern und anderen Interessierten praxisnahe Orientierungshilfen für den ethischen Einsatz solcher Technologien an die Hand zu geben.

• Wahrheitsgehalt prüfen: Generierte Inhalte immer auf ihre Richtigkeit überprüfen, da sie auf Wahrscheinlichkeiten basieren und fehlerhaft sein können.
  Textgeneratoren wie ChatGPT erstellen Inhalte auf Basis von Wahrscheinlichkeiten, was zu Falschinformationen führen kann. Viele Unternehmen nutzen diese Technologie zwar zur Entlastung im Kundenservice, jedoch müssen die generierten Inhalte auf ihre Richtigkeit überprüft werden.
• Vorurteile erkennen: Auf Stereotypen und Verzerrungen in KI-generierten Inhalten achten, um Diskriminierung zu vermeiden.
  KI-basierte Inhalte spiegeln oft die Verzerrungen ihrer Trainingsdaten wider. Praxisbeispiele von verstärkten Stereotypen zeigen die Notwendigkeit, KI-generierte Inhalte auf Vorurteile zu prüfen und bei der Formulierung der Eingabeaufforderungen (Prompts) sorgfältig zu sein.
• Inhaltsfilter verstehen: Wissen, dass KI-Tools Inhaltsfilter haben, aber diese nicht unfehlbar sind und umgangen werden können.
  Viele KI-Tools verfügen über Inhaltsfilter, die zum Beispiel zum Schutz gegen unethische Anfragen eingesetzt werden können. Jedoch gilt es, die Legitimität und Verhältnismässigkeit solcher Filter zu bedenken.
• Transparenz bei Kommunikation: Sicherstellen, dass Nutzerinnen und Nutzer verstehen, dass sie mit einer KI und nicht einem Menschen interagieren.
  KI-Tools ermöglichen eine menschenähnliche Kommunikation, was zu Täuschungen führen kann. Transparenz darüber, dass User mit einer Maschine und nicht mit einem Menschen interagieren, ist daher essentiell, insbesondere in sensiblen Bereichen wie psychologischer Unterstützung.
• Gegen Manipulation schützen: Vorsicht bei realistisch wirkenden KI-Inhalten, um Desinformation und Täuschung zu vermeiden.
  Die Fähigkeit von KI-Tools, überzeugende und realistisch wirkende Inhalte zu erzeugen, birgt das Risiko der Manipulation. Lösungsansätze beinhalten die klare Kennzeichnung KI-generierter Inhalte und ein Bewusstsein für die Gefahren von Desinformation.
• Datenschutz gewährleisten: Sensible und persönliche Daten schützen und Vorsicht bei der Eingabe solcher Daten in KI-Systeme.
  Der Umgang mit persönlichen Daten ist kritisch. Unternehmen, die ChatGPT-basierte Tools einsetzen, müssen darauf achten, keine sensiblen Daten zu kompromittieren. Das Risiko von «Prompt-Injections»-Angriffen und anderen Sicherheitsbedrohungen erfordert eine sorgfältige Handhabung und Sensibilisierung für Datenschutz.
• Urheberrechtsfragen beachten: Sich der komplexen Urheberrechtssituation bei KI-generierten Inhalten bewusst sein und angemessen handeln.
  Die rechtliche Situation bezüglich des Urheberrechts bei KI-generierten Inhalten ist komplex. Fälle wie die Klage gegen OpenAI zeigen, dass die Nutzung von urheberrechtlich geschützten Werken zum Trainieren von KI-Modellen rechtliche Konsequenzen haben kann. Lösungsansätze sind das Beachten von Urheberrechten und das Verwenden von KI-Tools, die ihre Quellen korrekt angeben.

Zusammenfassend bietet generative KI sowohl grosse Chancen als auch Herausforderungen. Ein verantwortungsbewusster Umgang, basierend auf ethischen Überlegungen und rechtlichen Rahmenbedingungen, ist für den erfolgreichen Einsatz dieser Technologien unerlässlich. (Swico/mc)