By Bitcoin.com - vor 8 Monaten - Lesezeit: 3 Minuten
Der Bericht von IMF Publications hebt wachsende Risiken generativer KI im Finanzsektor hervor
Während die künstliche Intelligenz (KI) weiterhin in den Finanzsektor vordringt, warnt ein neuer Bericht, der auf dem Webportal Veröffentlichungen des Internationalen Währungsfonds (IWF) veröffentlicht wurde, vor den Risiken, die mit den neuesten KI-Funktionen in der Finanzwelt verbunden sind.
Der Aufstieg denkender Maschinen: Bericht warnt vor Risiken durch generative KI im Finanzwesen
Das berichten, verfasst von Ghiath Shabsigh und El Bachir Boukherouaa, konzentriert sich auf Generative künstliche Intelligenz, oft als generative KI bezeichnet, eine Form der KI, die in der Lage ist, Originalinhalte wie Texte, Bilder und Videos zu erstellen. Bemerkenswerte Systeme wie Chatgpt von Openai, Claude von Anthropic und Midjourney haben in den letzten Monaten durch die Nutzung dieser Technologie an Popularität gewonnen.
Laut der Studie verspricht generative KI zwar vielversprechende Anwendungen wie die Automatisierung von Prozessen und die Verbesserung des Risikomanagements, bringt aber auch neue Risiken in Bezug auf Datenschutz, Voreingenommenheit, Leistungsstabilität und Cybersicherheit mit sich.
Forscher weisen darauf hin, dass generative KI-Systeme riesige Mengen an Online-Daten aufnehmen, was Bedenken hinsichtlich Datenschutzverletzungen oder der Reproduktion von Vorurteilen aus diesen Daten aufkommen lässt. Darüber hinaus bedeutet die Fähigkeit der Systeme, völlig neue Inhalte zu generieren, dass sie plausible, aber ungenaue Informationen liefern könnten. Im Bericht heißt es:
Öffentlich verfügbare [generative KI]-Systeme stellen Finanzinstitute, die ihre Fähigkeiten in ihre Abläufe integrieren möchten, vor erhebliche Datenschutzherausforderungen. Diese Automatisierung erhöht somit die Möglichkeit, dass sensible Finanzdaten und persönliche Informationen, die von Mitarbeitern von Finanzinstituten im Rahmen ihrer Arbeit mit der [generativen KI] bereitgestellt werden, nach außen dringen könnten.
Der Bericht warnt davor, dass diese Probleme das Vertrauen der Öffentlichkeit untergraben könnten, wenn generative KI unverantwortlich im Finanzwesen eingesetzt wird. Beispielsweise könnten KI-generierte Kundenrisikoprofile sowohl ungenau als auch diskriminierend sein. Die Forscher bestehen darauf, dass populäre Chatbots möglicherweise fehlerhafte Finanzberatung bieten.
Im August 2023 erklärte Gary Gensler, der derzeitige Vorsitzende der US-amerikanischen Börsenaufsichtsbehörde Securities and Exchange Commission (SEC), gab eine Warnung aus dass die KI-Technologie der Kern zukünftiger Finanzkrisen sein wird. Die Wertpapieraufsichtsbehörde hat vorgeschlagen, einige Risiken des KI-Modells anzugehen. Inzwischen hat die SEC kürzlich genehmigt ein neuer KI-gestützter Auftragstyp für Nasdaq, der die erste derartige Genehmigung für eine traditionelle Finanzbörse (Tradfi) darstellt.
Die Forscher betonen, dass Cybersicherheit ein weiteres Problem darstellt, da generative KI möglicherweise für ausgefeiltere Phishing-Versuche genutzt wird. Der Bericht legt nahe, dass das volle Ausmaß der Schwachstellen noch nicht verstanden ist und sich im Laufe der Zeit weiterentwickeln könnte. Darüber hinaus werden in der Studie angebliche Schwachstellen weiter erörtert, darunter das „Jailbreaking“ generativer KI.
„Aktuelle [generative KI-]Modelle sind zunehmend Opfer erfolgreicher ‚Jailbreaking‘-Angriffe“, stellten die Autoren der Studie fest. „Diese Angriffe basieren auf der Entwicklung sorgfältig gestalteter Eingabeaufforderungen (Wortsequenzen oder Sätze), um die Regeln und Filter der [generativen KI] zu umgehen oder sogar schädliche Daten oder Anweisungen einzufügen (letzteres wird manchmal als „Prompt-Injection-Angriff“ bezeichnet). Diese Angriffe könnten [generative KI-]Operationen beschädigen oder sensible Daten abschöpfen.“
Um diese Risiken zu mindern, empfiehlt der Bericht eine genaue menschliche Überwachung von KI-Systemen, eine bessere Erklärbarkeit der KI-Entscheidungsfindung, eine Stärkung der Regulierungskapazitäten und die Förderung der internationalen Zusammenarbeit bei der KI-Governance. Die Autoren erkennen zwar das transformative Potenzial der generativen KI an, betonen jedoch die Notwendigkeit eines vorsichtigen Ansatzes, insbesondere in einem sensiblen Sektor wie dem Finanzwesen.
Was halten Sie von dem Fintech-Bericht, der auf dem Webportal IMF Publications veröffentlicht wurde? Teilen Sie Ihre Gedanken und Meinungen zu diesem Thema im Kommentarbereich unten mit.
Originalquelle: Bitcoin.com €XNUMX