VdK: Lieber Todor, was verstehst Du unter dem Begriff KI?
Todor Dobrikov: In den letzten Jahren hat sich der Begriff KI etabliert als Bezeichnung für alle Techniken des maschinellen Lernens, statistische Verfahren sowie logik- und wissensgestützte Konzepte. Diese umfassen neben dem klassischen Trainieren von Modellen aus vielen Beispielen, d.h. Maschinelles Lernen, auch diverse Such- und Optimierungsmethoden für Wissensrepräsentation und Schlussfolgerungs- und Expertensysteme. Vereinfacht gesagt ist KI der Versuch, Computersysteme in die Lage zu versetzen, ihre Umgebung wahrzunehmen, sog. Wissensrepräsentation, zu verarbeiten, Muster zu erkennen und selbständig Entscheidungen zu treffen.
VdK: Einmal ganz platt gefragt: Muss man vor KI Angst haben? Die weltweit erfolgreiche Trilogie „Die Matrix“ hat vor rund 20 Jahren gezielt auf den mit der Verselbständigung verbundenen Gruseleffekt gesetzt und die Geschichte von menschlichen Embryofarmen erzählt, die von intelligenten Maschinen zur Energiegewinnung abgeerntet werden.
Todor Dobrikov: Seit den Anfängen von Hollywood gibt es zahlreiche Filmdarstellungen mit den bösen KI-Monstern. Natürlich sind wir noch sehr weit entfernt von einem so genannten starken KI-System mit verallgemeinerten menschlichen kognitiven Fähigkeiten, d.h. für unbekannte Aufgaben eine intelligente und flexiblere Lösung zu finden und aus eigenem Antrieb zu handeln. Viele Experten zweifeln, ob es überhaupt möglich sein wird, dieses Ziel jemals zu erreichen, da die aktuellen Techniken nicht in der Lage sind, die grundlegenden kognitiven Aktivitäten wie Generalisierungen und Abstraktionen vorzunehmen. Die KI-Technologien, die seit mehr als 50 Jahren weiterentwickelt werden, sind per Konstruktion nicht in der Lage, solche Fähigkeiten zu ermöglichen.
VdK: Du würdest also ausschließen, dass die Maschinen eines Tages die Macht über die Menschen übernehmen?
Todor Dobrikov: Ganz klar, ja. Wie gesagt, mit den aktuell existierenden Technologien ist eine starke KI nicht möglich. Auch wenn es irgendwann eine komplett neue, revolutionäre Technologie entdeckt würde und eine starke KI ermöglicht, wird es sehr wahrscheinlich auch möglich sein, ein KI-Monster per Design auszuschließen.
VdK: Lass uns bitte über ein weniger gefährliches Thema sprechen: die Finanzindustrie. Welche Rolle spielt hier Deiner Ansicht nach die KI heute?
Todor Dobrikov: KI verändert die Finanzindustrie. Bereits heute spielt die KI eine sehr wichtige und zentrale Rolle. Viele Endkunden verlassen sich auf die Vorschläge von automatisierten, personalisierten Finanzberatungen und empfinden sie als einen wesentlichen Teil des modernen Bankings. Die Finanzinstitute nutzen seit Jahren erfolgreich zahlreiche KI-Systeme in den Kerngeschäftsprozessen, wie z.B. Kundenpotentialanalyse beim Vertrieb oder Anomaliedetektion bei der Betrugs- und Geldwäscheprävention. Allerdings haben immer noch einige Verbraucher kein Vertrauen in KI. Teilweise liegt es an den oben beschriebenen Science-Fiction-Darstellungen von böswilligen KI-Systemen, die die Menschheit versklaven, aber teilweise auch an den negativen Beispielen von nicht ausgereiften KI-Systemen. Deswegen sind die Erfahrung und die Expertise bei der Entwicklung von produktiven KI-Systemen sehr wichtig, um das Vertrauen in Unternehmen und ihre Technologie insgesamt nicht zu verspielen.
VdK: Wie können speziell Kreditplattformen durch den Einsatz von KI profitieren? Wo siehst Du Potenzial?
Todor Dobrikov: Kreditplattformen, als fester Bestandteil der modernen Finanzindustrie, haben alle wichtigen Voraussetzungen, um KI-Techniken für viele Geschäftsprozesse und Aufgaben produktiv zu nutzen: Digitales Geschäftsmodell, viele Daten, direkter Kontakt mit den Endkunden und die Flexibilität, neue Technologien schnell zu integrieren. Eine der Kernaufgaben von Kreditplattformen ist die korrekte Risikoeinschätzung auch bei dünner Datenlage und exotischem Geschäftsmodell der Kreditnehmer. In solchen Fällen ist der Einsatz von KI für die Bonitätseinschätzung sehr wichtig, um Bearbeitungszeiten zu verkürzen und den eigenen Aufwand zu minimieren. Im Retail-Geschäft gibt es immer noch viel Potential für die Verwendung von KI, auch wenn dort der Automatisierungsgrad bereits viel höher ist. Bei der Kreditvergabe für Großkunden findet hingegen nach wie vor meistens die klassische, vom Analysten durchgeführte Kreditanalyse statt. Dort gibt es riesige Möglichkeiten, um durch KI die Kreditvergabe für Großkunden zu revolutionieren. Die Fähigkeit auch bei „nicht-standard“ Kunden schnell Kredite zu vergeben wird zum zentralen Wettbewerbsfaktor im Firmenkundengeschäft für Kreditplattformen. Auch aus Kostengründen steigt der Druck, schnellere, unkomplizierte und effizientere Prozesse einzuführen, insbesondere, wenn dereinst Kredite auch im Großkundenbereich über Kreditplattformen nachgefragt und auch vergeben werden.
VdK: Wechseln wir die Perspektive: Welche Chancen und Risiken siehst Du für die Kunden der Kreditplattformen?
Todor Dobrikov: Wie vorher bereits erwähnt, gibt es viele Use-Cases für die Verwendung von KI, von denen beide Seiten des Marktplatzes im gleichen Maß profitieren. Solche Use-Cases sind z.B. neben der genaueren und zuverlässigen Bonitätseinschätzung auch die effektive Betrugsprävention und die intelligenten Risikofrühwarnsysteme. KI-Techniken können helfen, diese wichtigen Risikomanagementaufgaben besser, schneller und kostengünstiger zu machen und dadurch das Risiko für die Anleger genauer zu quantifizieren und die Kosten für die Fremdfinanzierung für die Unternehmen, Verbraucher und Kommunen zu senken. Für den privaten Konsumenten (Kreditnehmer) bieten fortgeschrittene KI-Methoden z.B. beim Kundenscoring den Vorteil einer faireren Bewertung, da ein komplexeres Modell die individuellen Eigenschaften des Kunden idealerweise besser abbilden kann als ein einfacheres Modell, denn auch statistisch kleine Verbesserungen in der Modellgüte können individuell große Unterschiede machen. Als genauso wichtig sehen wir die Möglichkeit für Kreditplattformen an, durch die Verwendung von KI neue Leistungen anbieten zu können – zum Bespiel „exotischen“ Kreditnehmergruppen mit Fremdkapital durch private und institutionelle Investoren zu versorgen. Ein Beispiel für solche exotischen Kreditnehmergruppen sind KMU-Kunden mit einem rein digitalen Geschäftsmodell. Solche Unternehmen haben keine klassische Datenlage, keine klassische Bilanzstruktur und sogar tätigen einige Finanztransaktionen mit Hilfe von digitalen Währungen. In solchen Fällen scheitern die klassischen Lösungen eine adäquate Risikoeinschätzung zu geben und effektiver Schutz für die Anlieger anzubieten. Nur mit intelligenten KI-Systemen wird es möglich, die sich ständig weiterentwickelnden digitalen Geschäftsmodelle mit Fremdkapital zu versorgen. Solche KI-Systeme erfordern viel Erfahrung und Branchen-Know-How bei der Konzeption und Entwicklung. Die häufigsten Risiken einer schlechten Umsetzung von KI-Vorhaben sind das fehlende Verständnis über Einsatzmöglichkeiten und Grenzen von KI, um Missbrauch zu verhindern oder maximale Ergebnistransparenz zu ermöglichen. Die sogenannten moralischen KI-Risiken, z.B. Diskriminierung einer ethnischen Minderheit, werden insbesondere dann relevant, wenn die Datenmenge sehr eingeschränkt ist. Es ist viel Expertise notwendig, um relevante, repräsentative und fehlerfreie Datensätze für das Training, Testen und Validieren von KI-Systemen zu konstruieren. Hierzu ist es ebenfalls wichtig, die gelernten Muster und Entscheidungslogiken auch komplexer Modell zu verstehen. Zu diesem Zweck können die Methoden der erklärbaren (explainable) KI, der xAI, helfen.
VdK: Kannst Du ein Beispiel für die erfolgreiche Implementierung bzw. Nutzung von KI nennen?
Todor Dobrikov: Ein gutes Beispiel für die erfolgreiche Umsetzung eines KI-Systems ist der Kontext der Frühwarnsysteme. Im Bereich Banking werden solche Systeme eingesetzt, um ein erhöhtes Ausfallrisiko von Krediten frühzeitig zu erkennen, die betreffenden Positionen einem gesonderten Betreuungsprozess zu übergeben und entsprechende Maßnahmen zur Abmilderung zu ergreifen. Frühwarnsysteme sind Klassifikatoren, die entscheiden, ob zu einem bestimmten Zeitpunkt ein Warnsignal (ggf. mit einer Abstufung gelb/rot) gesendet wird oder nicht. Bis vor Kurzem war es gängige Praxis, den Eintritt in den Intensivbetreuungsprozess anhand weniger, einfacher Kriterien vorzunehmen (z.B. die Einordnung in eine schlechte, wenn auch „Lebend–, Ratingklasse als Auslöser). Eine systematische Bestimmung trennscharfer Risikofaktoren und geeigneter Schwellenwerte war die Ausnahme. Eine Validierung des Systems fand in der Regel nicht oder höchstens expertenbasiert statt.
In den letzten Jahren sind Frühwarnsysteme und deren methodisch gestützte Umsetzung sehr stark in den Fokus gerückt. Das Spektrum der dafür in Frage kommenden KI-Methoden ist hier sehr breit und reicht vom einfachen Einfaktoren-Modell über logistische Regression und Regressions- bzw. Entscheidungsbäumen bis hin zu Random Forests und Künstlichen Neuronalen Netzen. Zudem spielt die KI-basierte Textanalyse (Natural Language Processing; NLP) zur Bewertung von Nachrichten und anderen Textquellen eine wichtige Rolle. Die konkrete Wahl der Methode hängt hierbei sehr stark vom betrachteten Portfolio ab. So sind relevante Nachrichten in der Regel nur für hinreichend große Unternehmenskunden vorhanden, manche Portfolien zeichnen sich durch eine große Anzahl von Einzelpositionen (Beobachtungen) aus und erlauben somit den Einsatz komplexer Modellklassen (z.B. Retail oder KMUs), andere (kleinere oder inhomogenere) Portfolien (z.B. Spezialfinanzierungen) erlauben hingegen nur sehr einfache Modelle. Außerdem muss das System auch auf die beim entsprechenden Institut vorhandenen nachgelagerten Betreuungsprozesse abgestimmt werden bzw. diese an das Frühwarnsystem angepasst werden. Dies hat zum Beispiel Auswirkung auf die Wahl der Bewertungsfunktionen zur Modellselektion.
Im konkreten Beispiel ging es um die Einführung eines entsprechenden Frühwarnsystems bei einer großen Bank mit einem sehr breiten Kreditportfolio, das sowohl Privat- und KMU-Kredite, als auch großvolumige Immobilien- und Projektfinanzierungen beinhaltet. Wir entwickelten für den Kunden ein einheitliches Framework zur Umsetzung der Frühwarnsysteme der einzelnen Portfolien. Dies beinhaltete erstens eine einheitliche Struktur der Systeme basierend auf einem Regressionsmodell und einer anschließenden Schwellwertbestimmung, zweitens eine einheitliche Bewertungsfunktion zur Bestimmung der Trennschärfe des Regressors und der Prognosegüte des Klassifikators (Signalgeber) und drittens ein Konzept zur Validierung der Systeme. Für den letzten Punkt setzten wir auch auf Benutzerfeedback aus dem nachgelagerten Betreuungsprozess, da im Idealfall die frühzeitige Warnung vor und Mitigation von Risiken dazu führt, dass das prognostizierte Ereignis – der Ausfall – abgewendet werden kann. Innerhalb des beschriebenen Frameworks entwickelten wir für alle Portfolien des Kunden entsprechende Frühwarnmodelle und halfen bei der produktiven Umsetzung.
VdK: Spannend, besten Dank für die ausführlichen Erläuterungen. Wechseln wir kurz den Blickwinkel. In einer Studie des Bayerischen Forschungsinstituts für Digitale Transformation von 2020 wünschen sich etwa die Hälfte der erwachsenen Befragten mehr staatliche Kontrolle und Regulierung von KI. Nur jeder Siebte war hier gegenteiliger Ansicht. Zugleich zeigen die Ergebnisse, dass große Teile der Bevölkerung in Deutschland wenig über KI wissen. Ist das ein Widerspruch, und was würdest Du dem Gesetzgeber raten?
Todor Dobrikov: Hierin sehen wir keinen Widerspruch. Der übliche Reflex in der Bevölkerung bei einer neuen, wenig verstandenen Technologie mit entsprechendem gesellschaftlichen Einfluss ist der Wunsch nach mehr Regulierung. Hier hat die Europäische Kommission auch bereits die Weichen gestellt und mit dem AI-Act eine Europaweite Initiative auf den Weg gebracht. Regulierung ist aber nie die beste Lösung und kommt mit enormen Kosten und Effizienzverlusten einher. Langfristig ist ein besseres Verständnis von Algorithmen und daten-gestützten Services in der Bevölkerung der Schlüssel für eine bessere Akzeptanz.
VdK: Bitte konkreter: Wie passt zu Deiner Einschätzung der Vorschlag der Europäischen Kommission zur KI?
Todor Dobrikov: Die Europäische Union hat mit dem AI-Act, kurz AIA, den weltweit ersten Entwurf für eine umfassende Regulierung vorgelegt. Der AIA regelt, unter welchen Bedingungen KI-Systeme – entweder als eigenständige Einheit oder als Produktkomponente – innerhalb der EU angeboten bzw. eingesetzt werden können. Das ist eine Mammutaufgabe und natürlich wird aktuell über diesen ersten Entwurf heftig diskutiert. Der AIA folgt einem risikobasierten und verbraucherschutzorientierten Ansatz, der Use Cases für KI-Systeme in unterschiedliche Gruppen einordnet. Dadurch orientiert sich die Relevanz der Regulierung für viele Anwendungen, die wir im Alltag verwenden, stark danach, in welcher Gruppe von KI-Systemen sie eingeordnet werden. Generell wird es eine starke Auswirkung auf den gesamten Lebenszyklus von KI-Systemen geben – von der Konzeption und Entwicklung über die ex-ante Konformitätsprüfung bis zum Monitoring. Wir begrüßen die Anstrengungen, mehr Transparenz, mehr Sicherheit und die Grundrechte von natürlichen Personen bei der Entwicklung von KI-Systeme sicherzustellen.
VdK: Blicken wir nach vorne: Wo stehen die Kreditplattformen beim Thema KI in 10 Jahren?
Todor Dobrikov: Aufgrund der zuvor bereits angesprochenen großen Beweglichkeit einerseits und der infrastrukturell guten Voraussetzungen andererseits sehen wir Kreditplattformen als starken Treiber der Entwicklung von KI-basiertem Banking. Es bleibt bei allem Enthusiasmus noch abzuwarten, wie der AI-A letzten Endes in nationales Recht umgesetzt werden wird, da bei komplexer werdender Regulierung natürlicherweise größere Institute eher in der Lage sind, den entstehenden Mehraufwand abzufedern. Durch den großen Mitgestaltungswillen der Marktteilnehmer aus dem Kreditplattformen-Segment, nicht zuletzt organisiert durch die Arbeit des VdK, sehen wir allerdings auch viel Potenzial, wenn es um das Ausformen der konkreten Anforderungen des Gesetzgebers und die Anforderungen an die Compliance geht. Auch hier kommt den Kreditplattformen wieder die schnelle Reaktionsfähigkeit zugute. Letzten Endes spricht vieles dafür, dass die Kreditplattformen eine treibende Kraft im Thema KI über die nächsten zehn Jahre sein werden.
VdK: Lieber Todor, wir danken Dir für das interessante Gespräch.
Das vollständige Interview als PDF finden Sie hier.