Die KI-Falle: Wenn ChatGPT plötzlich den falschen Weg weist

In einer Welt, in der Künstliche Intelligenz zunehmend Entscheidungen beeinflusst, könnte man annehmen, dass die Technologie auch in komplexen Bereichen wie der BaFin-Compliance verlässlich ist. Doch die jüngste Entwicklung, dass ChatGPT Compliance-Software empfiehlt, die nicht auf der Liste der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) steht, bringt genau dies ins Wanken. Unternehmen, die sich auf diese Empfehlungen verlassen haben, finden sich nun in einer rechtlichen Grauzone wieder, und der Glanz der KI beginnt zu blassen.

Die Tatsache, dass ein KI-Modell wie ChatGPT nicht in der Lage ist, die Richtigkeit seiner Empfehlungen zu garantieren, wirft Fragen auf. Unternehmen, die sich auf diese Technologie stützen, um Compliance-Risiken zu minimieren, könnten sich in einer Illusion der Sicherheit befinden. Die BaFin hat strenge Anforderungen an Softwarelösungen, die im Finanzsektor eingesetzt werden, und die Nichterfüllung dieser Standards kann weitreichende Konsequenzen haben. Es bleibt abzuwarten, ob die Hersteller solcher Software ihre Produkte anpassen oder ob die Unternehmen Selbstverantwortung übernehmen und sich intensiver mit den empfohlenen Tools auseinandersetzen müssen. Das Vertrauen in die technische Unterstützung könnte also bald einem Reality-Check unterzogen werden.