By Bitcoin.com - 8 bulan yang lalu - Masa Membaca: 3 minit
Laporan Penerbitan IMF Menyerlahkan Peningkatan Risiko AI Generatif dalam Sektor Kewangan
Ketika kecerdasan buatan (AI) meneruskan pengembangannya ke dalam sektor kewangan, laporan baharu yang diterbitkan di portal web Penerbitan Dana Kewangan Antarabangsa (IMF) memberi amaran tentang risiko yang berkaitan dengan keupayaan AI terkini dalam dunia kewangan.
Kebangkitan Mesin Pemikir: Laporan Memberi Amaran Terhadap Risiko Daripada Generatif AI dalam Kewangan
. melaporkan, yang dikarang oleh Ghiath Shabsigh dan El Bachir Boukherouaa, memfokuskan pada kecerdasan buatan generatif, sering dirujuk sebagai AI generatif, iaitu satu bentuk AI yang mampu mencipta kandungan asli seperti teks, imej dan video. Sistem terkenal seperti Openai's Chatgpt, Anthropic's Claude, dan Midjourney telah mendapat populariti untuk memanfaatkan teknologi ini dalam beberapa bulan kebelakangan ini.
Menurut kajian itu, sementara AI generatif memegang janji untuk aplikasi seperti mengautomasikan proses dan meningkatkan pengurusan risiko, ia juga memperkenalkan risiko baharu yang berkaitan dengan privasi data, berat sebelah, kekukuhan prestasi dan keselamatan siber.
Penyelidik menunjukkan bahawa sistem AI generatif menelan sejumlah besar data dalam talian, menimbulkan kebimbangan tentang pelanggaran privasi atau replikasi bias daripada data tersebut. Tambahan pula, keupayaan sistem untuk menjana kandungan baharu sepenuhnya bermakna mereka boleh menghasilkan maklumat yang munasabah tetapi tidak tepat. Laporan itu menyatakan:
Sistem [generatif AI] yang tersedia secara umum menimbulkan cabaran privasi yang ketara bagi institusi kewangan yang ingin menggabungkan keupayaan mereka ke dalam operasi mereka. Automasi ini dengan itu menimbulkan kemungkinan bahawa data kewangan sensitif dan maklumat peribadi yang diberikan oleh kakitangan institusi kewangan semasa penglibatan mereka dengan [AI generatif] boleh bocor.
Laporan itu memberi amaran bahawa isu ini boleh menjejaskan kepercayaan orang ramai jika AI generatif digunakan secara tidak bertanggungjawab dalam kewangan. Sebagai contoh, profil risiko pelanggan yang dijana AI boleh menjadi tidak tepat dan diskriminasi. Para penyelidik menegaskan bahawa chatbot yang dipopularkan mungkin memberikan nasihat kewangan yang salah.
Pada Ogos 2023, Gary Gensler, pengerusi semasa Suruhanjaya Sekuriti dan Bursa AS (SEC), mengeluarkan amaran bahawa teknologi AI akan menjadi teras kepada krisis kewangan masa hadapan. Pengawal selia sekuriti telah mencadangkan menangani beberapa risiko model AI. Sementara itu, SEC telah baru-baru ini diluluskan jenis pesanan baharu yang dikuasakan AI untuk Nasdaq, menandakan kelulusan pertama sedemikian untuk pertukaran kewangan tradisional (tradfi).
Para penyelidik menekankan bahawa keselamatan siber adalah satu lagi kebimbangan, dengan AI generatif berpotensi dieksploitasi untuk mencipta percubaan pancingan data yang lebih canggih. Laporan itu mencadangkan bahawa tahap penuh kelemahan masih belum difahami dan mungkin berkembang dari semasa ke semasa. Selain itu, kajian itu membincangkan lebih lanjut dakwaan kelemahan, termasuk AI generatif "jailbreaking."
"Model [generatif AI] semasa semakin tertakluk kepada serangan 'jailbreaking' yang berjaya," kata penulis kajian itu. “Serangan ini bergantung pada membangunkan set gesaan yang direka dengan teliti (urutan perkataan atau ayat) untuk memintas peraturan dan penapisan [AI generatif] atau malah memasukkan data atau arahan berniat jahat (yang terakhir kadangkala dirujuk sebagai 'serangan suntikan segera'). Serangan ini boleh merosakkan operasi [AI generatif] atau menyedut keluar data sensitif."
Untuk mengurangkan risiko ini, laporan itu mengesyorkan pemantauan manusia yang rapat terhadap sistem AI, meningkatkan kebolehjelasan membuat keputusan AI, mengukuhkan kapasiti pengawalseliaan dan mempromosikan kerjasama antarabangsa mengenai tadbir urus AI. Sambil mengakui potensi transformatif AI generatif, penulis menekankan keperluan untuk pendekatan berhati-hati, terutamanya dalam sektor sensitif seperti kewangan.
Apakah pendapat anda tentang laporan fintech yang diterbitkan di portal web Penerbitan IMF? Kongsi pendapat dan pendapat anda tentang subjek ini di bahagian komen di bawah.
Sumber asal: Bitcoin.com