Cognizant: Generative KI – Vier Risiken, die Unternehmen adressieren sollten

Von Ulrich Faisst, CTO für die Region Central Europe bei Cognizant

Generative KI-Systeme wie ChatGPT und Copilot haben ihren Siegeszug gestartet und werden sich nicht mehr stoppen lassen. Technologien, die eigenständig Texte und Bilder über einfache Prompts erstellen und Ideen generieren können, haben die Art, wie wir kreativ denken und Probleme lösen, in kurzer Zeit signifikant verändert. Obwohl die (generative) KI anfangs auf einige Vorbehalte stiess – insbesondere, was den Verlust von Arbeitsplätzen angeht – wird immer deutlicher, dass diese Technologie menschliche Fähigkeiten eher ergänzen, aber nicht ersetzen kann.

Die generative KI entwickelt sich weiter und setzt sich in der Geschäftswelt immer mehr durch. Die Technologie wird zunehmend eingesetzt, um die Produktivität zu steigern, Innovationen zu fördern und die Entscheidungsfindung zu optimieren. Doch wie bei jeder neuen Technologie gibt es nicht nur positive Seiten. Der Einsatz von generativer KI hält eine Reihe von Herausforderungen bereit, um die sich Unternehmen kümmern müssen.

Der aktuelle „Future of Work“-Report von Cognizant sieht dabei vier zentrale Herausforderungen für Unternehmen, deren Lösung auch Chancen beinhalten:

Auswirkungen auf bestehende Arbeitsplätze
Ohne Frage wird der Einsatz von künstlicher Intelligenz repetitive, mechanische und wenig kreative Aufgaben komplett übernehmen können. Damit werden solche Arbeitsplätze obsolet, bei denen die immer gleichen Tätigkeiten anfallen. Dazu gehören beispielsweise wiederkehrende Analysen und Buchungsvorgänge.

Allerdings entstehen auch neue Arbeitsplätze: Die Nachfrage nach Arbeitskräften, die mit KI-Systemen gezielt arbeiten und sie steuern sowie für spezielle Fälle einsetzen können, wird steigen. Sam Altman, CEO von OpenAI, betont in diesem Zusammenhang stets, wie wichtig die menschliche Interaktion sei. Altman sagt, dass generative KI heute zwar „einen Teil“ der Arbeit gut erledigt, letztlich jedoch immer ein Mensch benötigt wird.

Unternehmen sind daher gefordert, Arbeitsplatzfragen offen anzugehen. Die Anwendung von KI bietet die Chance, dem Fachkräftemangel effektiv zu begegnen, ohne Mitarbeitende entlassen zu müssen. Allerdings ist es dafür notwendig, Veränderungen aktiv durch Weiterbildungen zu begleiten.

Vorurteile und halluzinierte Fakten
Eine KI kennt weder Gut noch Böse. Ethische Fragen sind ihr fremd, sie kaut die Daten wieder, mit denen sie trainiert wurde. Sie kann daher unbeabsichtigte Vorurteile aufgreifen und sogar verstärken – was den öffentlichen Einsatz zu einem Risiko macht. Das Ausmass der Vorurteile in der KI hängt dabei von den Daten ab, mit denen das KI-Modell trainiert wurde. Schwierig ist auch die Nutzung von datenschutzrechtlich sensiblen Daten, das Einholen von Genehmigungen für die Datennutzung (Copyright) und das Erstellen von Inhalten, die gegen geltendes Recht verstossen (wie beispielsweise generierte freizügige Bilder von prominenten Personen). Generell ist auch das Erfinden von Fakten („halluzinieren“ genannt) ein kritisches Problem, das aktuellen KI-Implementationen noch nicht gelöst haben.

Um dieser Art von Problemen zu begegnen, ist es wichtig, KI-Systeme mit sorgfältig ausgewählten, zuverlässigen und vielfältigen Daten zu trainieren. Ausserdem sollten diese Systeme regelmässig überwacht und bewertet werden, um mögliche Vorurteile und Fehlinformationen zu erkennen und zu beseitigen sowie sicherzustellen, dass KI-Systeme zuverlässig und unparteiisch informieren. Darüber hinaus sind die Transparenz der Trainingsdaten und eine offene Kommunikation über mögliche Tendenzen und Fehler der KI von entscheidender Bedeutung ‒ nicht nur für die Menschen, die die KI nutzen, sondern für alle Beteiligten.

Gesetzliche Regulationen und Vorgaben
Auch wenn die Einführung von Gesetzen und Verordnungen wie dem kürzlich verabschiedeten EU AI Act in der Öffentlichkeit ambivalent bewertet wird, wird sie in Kraft treten und zu einer ethischen und verantwortungsvollen Entwicklung von KI-Technologien und deren Umsetzung führen. Das mag die eine oder andere Entwicklung bremsen ‒ ist aber besser, als wenn dieser Bereich unreguliert bliebe.

Viele Unternehmen haben sich mit den rechtlichen Regelungen noch überhaupt nicht beschäftigt, was böse Überraschungen geben kann, wenn sie eine KI-Lösung auf den Markt bringen wollen und dann erst die rechtlichen Rahmenbedinungen betrachten.

Eine Lösung für dieses Problem ist ein offenes Gespräch zwischen der Europäischen Union und den Interessenverbänden. Unternehmen, die KI-Technologien entwickeln, implementieren oder nutzen, sollten abschätzen können, wie sich die verabschiedeten Vorschriften auf ihre Tätigkeit auswirken würden. Auch akademische Einrichtungen und Experten für KI und Ethik können wertvolle Einblicke in die technischen und ethischen Aspekte der KI-Vorschriften geben. Durch diese transparente, in beide Richtungen gehende Kommunikation haben die Interessengruppen auch die Möglichkeit, ihr Fachwissen und ihre Erkenntnisse einzubringen, um die Wirksamkeit kommender Gesetze und Vorschriften zu verbessern.

Nachhaltigkeit und Energieverbrauch
Grosse KI-Modelle benötigen viel Rechenleistung und damit auch viel Energie. Daher wird KI oft vorschnell als umweltbelastende Technologie abgestempelt. KI hat jedoch auch das Potenzial, einen positiven Umweltbeitrag zu leisten. So kann generative KI Prozesse optimieren, Produkte verbessern und Unternehmen in die Lage versetzen, proaktiv und effizient mit Umweltfragen umzugehen. Auf diese Weise können Unternehmen ihren ökologischen Fussabdruck verringern und zugleich Kosten sparen.

Die Bewertung der Nachhaltigkeit von KI sollte ausserdem nicht nur vom Energieverbrauch abhängen, sondern auch davon, wie diese Energie erzeugt wird. Unternehmen sollten grüne, erneuerbare Energiequellen und intelligente Anwendungen priorisieren, um die Umweltlast zu begrenzen. Nutzt KI nur regenerativ erzeugten Strom, führen die per KI erarbeiteten Effizienzgewinne und die Senkung von Ressourcennutzung zu einer positiven Gesamtbilanz.

Fazit
Wie jede neue Technologie erfordert der Einsatz einer generativen künstlichen Intelligenz auch eine gründliche Risiko-Analyse. In den vier genannten Bereichen „Auswirkung auf Arbeitsplätze“, „Ethische Implikationen“, „Gesetzliche Rahmenbedingungen“ und „Umweltaspekte“ sind Unternehmen gefordert, Strategien zu entwickeln und umzusetzen. Hierbei können sie sich an Vorreitern in der Branche orientieren oder mit einem Beratungsunternehmen zusammenarbeiten, dass sich auf diesen Bereich spezialisiert hat. Dann steht einem produktiven und effizienten Einsatz von KI nichts mehr im Wege. (Cognizant/mc/ps)

Autor
Dr. Ulrich Faisst ist Chief Technology Officer (CTO) für die Region Central Europe bei Cognizant. Dort ist er verantwortlich für die Wachstumsstrategie und stärkt gleichzeitig die Kund:innenorientierung und Technologieführerschaft des Unternehmens in der Region. Ulrich verfügt unter anderem über Expertise in Transformationsstrategien und -umsetzung, Automatisierung und KI, IoT, Cloud, Digital Engineering, SAP und Salesforce. Vor seiner Zeit bei Cognizant war er unter anderem bei Trumpf und Carl Zeiss in leitenden Funktionen tätig, mit einem Schwerpunkt auf der digitalen Transformation. Darüber hinaus arbeitete er als Program Manager für Bain & Company und die Fraunhofer Forschungsgruppe.