ETH-Zürich-Spin-off setzt mit quantitativer Herangehensweise an KI-Risikomanagement bei globalen Finanzinstitutionen neue Massstäbe, da KI-Governance für Vorstände und Führungskräfte zunehmend an Bedeutung gewinnt.
Während sich künstliche Intelligenz (KI) rasant in Unternehmen verbreitet, führen überstürzte, mittelmässige Implementierungen zu einer Reihe operativer Risiken: Voreingenommenheit, intransparente Entscheidungsprozesse und unvorhersehbares Verhalten im realen Einsatz. Calvin Risk, ein Schweizer Start-up, das aus der ETH Zürich hervorgegangen ist, hat in einer Seed-Finanzierungsrunde 4 Millionen USD eingesammelt, um Unternehmen bei der sicheren Implementierung von KI und der Risikobewältigung durch automatisierte Tests und quantitative Risikobewertung zu unterstützen. Die Finanzierungsrunde wurde von Join Capital und Seed + Speed Ventures geleitet, wodurch die Gesamtfinanzierung seit Gründung des Unternehmens im Jahr 2022 auf über 5 Millionen USD steigt.
KI-Modelle fungieren oft als „Blackbox“, was die Nachvollziehbarkeit der Entscheidungsprozesse erschwert und das Risiko birgt, dass unbewusste Vorurteile die Ergebnisse beeinflussen. Für Unternehmen kann diese Intransparenz ungewollte Folgen haben, die sowohl ihre Abläufe als auch ihre Reputation bedrohen – besonders in einer Zeit, in der generative KI-Systeme wie ChatGPT zunehmend Kundeninteraktionen prägen. Die Dringlichkeit wächst, da der kommende EU-KI-Gesetzesentwurf strenge Anforderungen an KI-Systeme stellt und Unternehmen dazu verpflichtet, die Risiken ihrer KI-Modelle zu bewerten und zu dokumentieren, mit hohen Strafen bei Nichteinhaltung. Dennoch verlassen sich viele Organisationen auf nachträgliche Analysen oder haben keine strukturierten Rahmenwerke, um die Sicherheit ihrer KI zu gewährleisten. Calvin Risk schliesst diese Lücke mit einer Plattform, die adaptive Bewertungen und kontinuierliches Monitoring nutzt, um einen Echtzeit-Überblick über das gesamte KI-Portfolio eines Unternehmens zu bieten, potenzielle Risiken (qualitativ und quantitativ) zu prognostizieren und deren Risikowert zu berechnen.
„Da KI-Systeme zunehmend integraler Bestandteil betrieblicher Abläufe werden, muss die Unternehmensführung auch explizites KI-Risikomanagement auf Vorstandsebene umfassen“, erklärt Julian Riebartsch, CEO und Gründer von Calvin Risk. „Mit unserer Governance- und Risikomanagement-Plattform bieten wir Unternehmen tiefgehende Einblicke in ihr KI-Portfolio und ermöglichen eine qualitative und quantitative Analyse technischer, ethischer und regulatorischer Risiken.“
Gegründet 2022 als Spin-off der ETH Zürich, einer der führenden europäischen Forschungsinstitutionen im Bereich KI, vereint Calvin Risk tiefgehende akademische Expertise mit praktischer Branchenerfahrung. Das Produkt des Unternehmens bietet ein modulares Rahmenwerk für proaktive KI-Governance mit zwei zentralen Funktionen: Digitalisierung der Governance für interne Richtlinien und Risikobewertungen sowie automatisiertes Testen von KI zwischen Entwicklung und Implementierung. Im Gegensatz zu traditionellen Plattformen, die sich auf Dokumentation oder nachträgliche Korrekturen beschränken, ermöglicht Calvin Risk präventive Vorab-Bewertungen und liefert Echtzeiteinblicke, die einen neuen Standard für verantwortungsvolle KI-Einführung setzen. Die benutzerfreundliche Oberfläche übersetzt komplexe technische Bewertungen in klare, umsetzbare Erkenntnisse – unerlässlich für KI-Systeme mit direktem Kundenkontakt, bei denen Transparenz und Zuverlässigkeit entscheidend sind.
„ Als Investor sehe ich enormes Potenzial in Calvin Risk, um den sich gerade formierenden Markt für KI-Risikomanagement mitzugestalten. Die Kombination aus technologischer Exzellenz aus der Wissenschaft und fundierter Branchenexpertise macht dieses Startup zu einer echten Hilfe für alle die Unternehmen, die relevante KI-basierte Unternehmensprozesse nutzen und aufbauen.“ – Alexander Kölpin, Investor und Managing Partner bei Seed + Speed Ventures.
Die vergangenen 12 Monate waren für Calvin Risk von entscheidender Bedeutung mit Meilensteinen in der Produktentwicklung, der Kundengewinnung und dem Umsatzwachstum. Das Unternehmen hat bereits Partnerschaften mit führenden globalen Institutionen geschlossen, darunter Aviva, einer der weltweit grössten Versicherer, die die fortschrittlichen Risikobewertungstools von Calvin Risk nutzen, um die Robustheit und Fairness ihrer KI-Systeme im Kundenkontakt zu gewährleisten. Calvin Risk ist dem HITS Innovation Garage beigetreten, einem Innovationszentrum von Generali, das dem Unternehmen wertvolle Möglichkeiten eröffnet, reale Anwendungsfälle für die KI-Governance-Lösungen von Calvin Risk zu entwickeln und zu erproben.
Zu weiteren Partnern zählen Lloyds Banking Group, das Audit Research Center (ARC Institute) für Third-Line-Defence-Lösungen und andere, die starke Marktvalidierung über mehrere Sektoren hinweg demonstrieren.
Ein weiterer Meilenstein ist die Zusammenarbeit von Calvin Risk mit Lufthansa Industry Solutions, die zur ersten GenAI-Modell-Zertifizierung durch TÜV Süd führte. Diese Zertifizierung ist zukunftsweisend, da die Industrie sich auf das EU-KI-Gesetz vorbereitet und Calvin Risks Fähigkeit reflektiert, technische und ethische Standards zu erfüllen.
Als führendes KI-Risikomanagement-Tool für den Bankensektor ausgezeichnet durch Hub France IA und Gewinner des Model Risk Management Product of the Year bei den Risk.net Markets Technology Awards 2024, baut das Unternehmen schnell eine Reputation als Vorreiter im Bereich sicherer KI-Implementierung auf. Ursprünglich auf Finanzdienstleistungen fokussiert, hat sich die Plattform von Calvin Risk auch in den Bereichen Transport, Telekommunikation und anderen Sektoren, die KI in großem Massstab einsetzen, bewährt.
„Wir sind begeistert, Lead-Investor in Calvin Risks Seed-Runde zu sein. Ihr innovativer Ansatz, kombiniert mit einem starken Team und einer klaren Vision, macht sie zu einer unverzichtbaren Ressource für Organisationen, die die Komplexität der KI-Compliance und des Risikomanagements navigieren müssen. Wir sind überzeugt, dass Calvin Risk eine Schlüsselrolle in der zukünftigen KI-Governance spielen wird und freuen uns, ihren Weg zu unterstützen.“ – Tobias Schirmer, Founding Partner bei Join Capital.
In Zukunft plant Calvin Risk, die Fähigkeiten seiner Plattform auszubauen, um die Governance-Bemühungen von noch mehr Unternehmen zu unterstützen und sicherzustellen, dass angemessene Kontroll- und Aufsichtsfunktionen implementiert, zugänglich und leicht verständlich für Kontrollfunktionen und das Management sind.
Diese jüngste Finanzierungsrunde wird die Produktentwicklung von Calvin Risk beschleunigen und es dem Unternehmen ermöglichen, seine Plattform zu skalieren, die KI-Risikobewertungstools zu erweitern und seine Marktpräsenz in ganz Europa auszubauen. Da die KI-Adoption in verschiedenen Branchen zunimmt, bleibt Calvin Risk dem Ziel verpflichtet, eine neue Ära vertrauenswürdiger KI einzuleiten. „Unser Ziel ist es, sicherzustellen, dass jedes Unternehmen innovativ arbeiten kann, während es höchste Standards für Sicherheit und Compliance einhält“, schliesst Riebartsch.
Bild Calvin Risk Founder Team Julian Riebartsch Syang Zhou (c)Calvin Risk
Quelle Maschmeyer Group MM Support GmbH
