CFPB schützt die Öffentlichkeit vor Black-Box-Kreditmodellen mit komplexen Algorithmen

Washington, D.C – Heute bestätigte das Consumer Financial Protection Bureau (CFPB), dass das Antidiskriminierungsgesetz des Bundes Unternehmen verpflichtet, Antragstellern die spezifischen Gründe für die Ablehnung eines Kreditantrags oder andere nachteilige Maßnahmen zu erläutern, selbst wenn sich der Kreditgeber auf komplexe Kreditmodelle verlässt Algorithmen. Die CFPB veröffentlichte a Rundschreiben zum finanziellen Schutz der Verbraucher die Öffentlichkeit, einschließlich derjenigen, die für die Durchsetzung des Bundesgesetzes zum Schutz der Verbraucherfinanzen verantwortlich sind, an die Mitteilungspflichten der Gläubiger nachteiliger Maßnahmen gemäß dem Equal Credit Opportunity Act (ECOA) zu erinnern.

„Unternehmen werden nicht von ihrer rechtlichen Verantwortung entbunden, wenn sie Kreditentscheidungen von einem Black-Box-Modell treffen lassen“, sagte CFPB-Direktor Rohit Chopra. „Das Gesetz gibt jedem Antragsteller das Recht auf eine spezifische Erklärung, wenn sein Kreditantrag abgelehnt wurde, und dieses Recht wird nicht eingeschränkt, nur weil ein Unternehmen einen komplexen Algorithmus verwendet, den es nicht versteht.“

Das Sammeln von Daten über Amerikaner ist umfangreich und allgegenwärtig geworden und gibt Unternehmen die Möglichkeit, sehr detaillierte Informationen über ihre Kunden zu erhalten, bevor sie überhaupt mit ihnen interagieren. Viele Unternehmen in der gesamten Wirtschaft verlassen sich auf diese detaillierten Datensätze, um ihre algorithmische Entscheidungsfindung voranzutreiben, die manchmal als „künstliche Intelligenz“ vermarktet wird. Die aus der Datenanalyse gewonnenen Informationen haben eine breite Palette von kommerziellen Anwendungen durch Finanzunternehmen, einschließlich für gezielte Werbung und bei der Kreditentscheidung.

Gesetzestreue Finanzunternehmen verwenden seit langem fortschrittliche Berechnungsmethoden als Teil ihrer Kreditentscheidungsprozesse und sind in der Lage, die Gründe für ihre Kreditentscheidungen zu liefern. Einige Kreditgeber können jedoch Kreditentscheidungen auf der Grundlage der Ergebnisse komplexer Algorithmen treffen, die manchmal als „Black-Box“-Modelle bezeichnet werden. Die Gründe hinter einigen der Ausgaben dieser Modelle sind den Benutzern des Modells, einschließlich den Entwicklern des Modells, möglicherweise unbekannt. Bei solchen Modellen sind Mitteilungen über unerwünschte Maßnahmen, die den Anforderungen der ECOA entsprechen, möglicherweise nicht möglich.

siehe auch  Wie sie aus einer Altbauwohnung von Yew Tee das Traumhaus eines Lego-Liebhabers machten

ECOA schützt Einzelpersonen und Unternehmen vor Diskriminierung bei der Suche, Beantragung und Nutzung von Krediten. Um sicherzustellen, dass ein Gläubiger nicht diskriminiert, verlangt ECOA, dass ein Gläubiger eine Mitteilung vorlegt, wenn er eine nachteilige Maßnahme gegen einen Antragsteller ergreift, die die spezifischen und genauen Gründe für diese nachteilige Maßnahme enthalten muss. Gläubiger können Technologien in ihren Entscheidungsprozessen nicht rechtmäßig verwenden, wenn ihre Verwendung dazu führt, dass sie diese erforderlichen Erklärungen nicht liefern können.

Die von heute Kreisförmig macht deutlich:

  • Bundesgesetze zum Schutz der Verbraucherfinanzen und Anforderungen an nachteilige Maßnahmen sollten ungeachtet der von den Kreditgebern verwendeten Technologie durchgesetzt werden. Beispielsweise erlaubt ECOA Gläubigern nicht, Technologien zu verwenden, die sie daran hindern, spezifische und genaue Gründe für nachteilige Maßnahmen anzugeben. Die Verwendung komplexer Algorithmen durch die Gläubiger sollte die Durchsetzung des ECOA oder anderer Bundesgesetze zum Schutz der Verbraucherfinanzen nicht einschränken.
  • Kreditgeber können die Nichteinhaltung des ECOA nicht allein mit der Tatsache rechtfertigen, dass die Technologie, die sie zur Bewertung von Kreditanträgen verwenden, zu kompliziert, zu undurchsichtig in der Entscheidungsfindung oder zu neu ist. Kreditgeber, die komplexe Algorithmen – einschließlich künstlicher Intelligenz oder maschineller Lerntechnologien – verwenden, um sich an Kreditentscheidungen zu beteiligen, müssen dennoch eine Mitteilung vorlegen, in der die spezifischen Hauptgründe für das Ergreifen nachteiliger Maßnahmen offengelegt werden. Es gibt keine Ausnahme für Gesetzesverstöße, weil ein Gläubiger eine Technologie verwendet, die nicht angemessen entwickelt, getestet oder verstanden wurde.

Whistleblower spielen eine zentrale Rolle bei der Aufdeckung von Informationen über Unternehmen, die Technologien wie Black-Box-Modelle auf eine Weise nutzen, die gegen ECOA und andere Bundesgesetze zum Schutz der Verbraucherfinanzen verstößt. Klare, verwertbare Informationen sind für die CFPB und andere Verbraucherschutzbehörden von entscheidender Bedeutung. Das CFPB ermutigt Techniker, der Agentur Informationen zur Verfügung zu stellen, und sie können die Webseite des Whistleblower-Programms des CFPB besuchen, um mehr zu erfahren.

siehe auch  Gold- und Silberpreise steigen; Gelbmetallhandel bei Rs 52.200/10 Gramm

Neben Whistleblowern sind auch Regierungspartner für die Durchsetzungsbemühungen des CFPB von entscheidender Bedeutung. Beispielsweise überwacht die CFPB genau die Arbeit der Nationales Institut für Standards und Technologie innerhalb des US-Handelsministerium und andere Regierungsbehörden auf der ganzen Welt, um die Vorteile und Risiken im Zusammenhang mit neuen Technologien zu bewerten.

Die mit Entscheidungstechnologien verbundenen Risiken gehen über Mitteilungen über unerwünschte Maßnahmen und ECOA hinaus. Vor kurzem hat das CFPB damit begonnen, die Verwendung von automatisierten Bewertungsmodellen innerhalb des Immobilienbewertungsprozesses genau zu untersuchen, um sicherzustellen, dass die Immobilienbewertungen genau und fair sind.

Lesen Sie das heutige Rundschreiben zum finanziellen Schutz der Verbraucher, Anforderungen an die Anzeige unerwünschter Maßnahmen im Zusammenhang mit Kreditentscheidungen, die auf komplexen Algorithmen basieren.

Verbraucher können Beschwerden über faire Kreditvergabe oder Beschwerden über Finanzprodukte oder -dienstleistungen einreichen, indem sie die Website des CFPB besuchen oder (855) 411-CFPB (2372) anrufen.

###

Das Consumer Financial Protection Bureau ist eine Behörde des 21. Jahrhunderts, die Bundesverbraucherfinanzgesetze umsetzt und durchsetzt und sicherstellt, dass Märkte für Verbraucherfinanzprodukte fair, transparent und wettbewerbsfähig sind. Für weitere Informationen besuchen Sie ConsumerFinance.gov.

Newsletter

Leave a Reply

Your email address will not be published.

This site uses Akismet to reduce spam. Learn how your comment data is processed.