Kloten – Calvin Risk, ein Schweizer Startup, das aus der ETH Zürich hervorgegangen ist, hat eine Startfinanzierung in Höhe von 4 Millionen US-Dollar erhalten, um Unternehmen dabei zu helfen, KI sicher einzusetzen und diese Risiken durch automatisierte Tests und quantitative Risikobewertung zu bewältigen. Die Investitionsrunde wurde von JoinCapital und Seed + Speed Ventures angeführt, womit sich die Gesamtfinanzierung seit der Gründung des Unternehmens im Jahr 2022 auf mehr als 5 Millionen Dollar erhöht.
KI-Modelle funktionieren oft als «Black Boxes», so dass es schwierig ist zu verstehen, wie Entscheidungen getroffen werden oder ob zugrunde liegende Vorurteile die Ergebnisse beeinflussen. Für Unternehmen kann diese Undurchsichtigkeit zu unbeabsichtigten Folgen führen, die sowohl ihren Betrieb als auch ihren Ruf bedrohen – insbesondere, da generative KI-Systeme wie ChatGPT zunehmend die Kundeninteraktionen steuern. Das kommende EU-KI-Gesetz führt strenge Anforderungen für KI-Systeme ein und schreibt vor, dass Unternehmen die Risiken ihrer KI-Modelle bewerten und dokumentieren müssen, wobei bei Nichteinhaltung empfindliche Strafen drohen.
Trotzdem verlassen sich viele Unternehmen immer noch auf nachträgliche Analysen von Vorfällen oder verfügen nicht über ein strukturiertes Rahmenwerk, um die Sicherheit ihrer KI zu gewährleisten. Calvin Risk überbrückt diese Lücke mit einer Plattform, die adaptive Bewertungen und kontinuierliche Überwachung nutzt, um einen Echtzeit-Überblick über das gesamte KI-Portfolio eines Unternehmens zu geben und potenzielle Risiken (qualitativ und quantitativ) und den damit verbundenen Value-at-Risk vorherzusagen.
Modularer Rahmen für proaktive KI-Governance
Calvin Risk wurde 2022 als Spin-off der ETH Zürich gegründet und verbindet fundiertes akademisches Fachwissen mit praktischer Branchenerfahrung. Das Produkt des Unternehmens bietet einen modularen Rahmen für proaktive KI-Governance mit zwei Kernfunktionen: Digitalisierung der Governance für interne Richtlinien und Risikobewertungen sowie automatisierte KI-Tests zwischen Entwicklung und Einsatz. Im Gegensatz zu herkömmlichen Plattformen, die sich ausschliesslich auf die Dokumentation oder Korrekturen nach der Bereitstellung konzentrieren, bietet Calvin Risk Echtzeit-Einsichten durch präventive Bewertungen vor der Bereitstellung und setzt damit einen neuen Standard für die verantwortungsvolle Einführung von KI. Die benutzerfreundliche Oberfläche übersetzt komplexe technische Bewertungen in klare, umsetzbare Erkenntnisse, die für kundenorientierte KI von entscheidender Bedeutung sind, wo Transparenz und Zuverlässigkeit an erster Stelle stehen.
Die letzten 12 Monate waren für Calvin Risk einschneidend, mit Meilensteinen in der Produktentwicklung, Kundenakzeptanz und Umsatzwachstum. Das Unternehmen hat sich bereits Partnerschaften mit führenden globalen Institutionen gesichert, darunter dem Versicherer Aviva, der mit Calvin Risk bei fortschrittlichen Risikobewertungs-Werkzeugen zusammenarbeiten, um die Robustheit und Fairness ihrer KI-Systeme bei kundenorientierten Vorgängen auf dem Markt sicherzustellen. Das Unternehmen ist der House of Insurtech Switzerland (HITS) Innovation Garage beigetreten, einem führenden Innovationszentrum, das von Generali Schweiz betrieben wird. Durch die Partnerschaft mit HITS befindet sich Calvin Risk in unmittelbarer Nähe zu den verschiedenen Geschäftsbereichen von Generali.
Zu den weiteren Partnern gehören die Lloyds Banking Group, das Audit Research Center (ARC Institute) für Third-Line-Defense-Lösungen und andere, die eine starke Marktvalidierung in verschiedenen Sektoren aufweisen. (pd/mc/pg)