By Bitcoin.com - Duela 7 hilabete - Irakurtzeko denbora: 3 minutu
NMF Argitalpenen Txostenak AI sorkuntzaren arrisku gero eta handiagoak azpimarratzen ditu finantza-sektorean
Adimen artifiziala (AI) finantza-sektorean hedatzen jarraitzen duen bitartean, Nazioarteko Diru Funtsaren (NMF) Argitalpenen web atarian argitaratutako txosten berri batek finantza-munduko azken AI gaitasunekin lotutako arriskuei buruz ohartarazten du.
Pentsamendu-makinen gorakada: txostenak AI sortzailearen arriskuez ohartarazten du Finantzetan
The bidali gertakar, Ghiath Shabsigh eta El Bachir Boukherouaa-ren egileak, ardatz adimen artifizial sortzailea, sarritan AI sortzailea deitzen zaio, hau da, testuak, irudiak eta bideoak bezalako jatorrizko edukiak sortzeko gai den IA modu bat. Openai-ren Chatgpt, Anthropic-en Claude eta Midjourney bezalako sistema nabarmenek ospea lortu dute azken hilabeteetan teknologia hori aprobetxatzeagatik.
Ikerketaren arabera, AI sortzaileak prozesuak automatizatzea eta arriskuen kudeaketa hobetzea bezalako aplikazioetarako agintzen duen arren, datuen pribatutasunarekin, alborapenarekin, errendimendu sendotasunarekin eta zibersegurtasunarekin lotutako arrisku berriak ere sartzen ditu.
Ikertzaileek azpimarratzen dute AI sorkuntzako sistemek sareko datu kopuru handia irensten dutela, pribatutasun-hausteei edo datu horien alborapenak errepikatzearen inguruko kezkak sortuz. Gainera, sistemak eduki guztiz berriak sortzeko duten gaitasunak informazio sinesgarria baina zehazgabea sor dezaketela esan nahi du. Txostenak dio:
Publikoki eskuragarri dauden [AI sorkuntzako] sistemek pribatutasun-erronka garrantzitsuak planteatzen dizkiete beren gaitasunak beren operazioetan sartu nahi dituzten finantza-erakundeei. Automatizazio honek, beraz, finantza-erakundeen langileek [AI sortzaile]-rekin duten konpromisoan emandako finantza-datu sentikorrak eta informazio pertsonala ihes egiteko aukera sortzen du.
Txostenak ohartarazten du arazo hauek publikoaren konfiantza ahuldu dezaketela AI sortzailea finantzan arduragabeki zabaltzen bada. Adibidez, AI-k sortutako bezeroen arrisku-profilak zehaztugabeak eta diskriminatzaileak izan daitezke. Ikertzaileek azpimarratzen dute txat-bot ezagunek finantza-aholku akatsak eman ditzaketela.
2023ko abuztuan, Gary Gensler, AEBetako Balore eta Truke Batzordeko (SEC) egungo presidentea, abisu bat eman du AI teknologia etorkizuneko finantza krisien oinarrian egongo dela. Baloreen erregulatzaileak AI ereduaren arrisku batzuei aurre egitea proposatu du. Bien bitartean, SECk egin du duela gutxi onartu da Nasdaq-erako AI-k bultzatutako eskaera mota berri bat, finantza (tradfi) truke tradizional baterako lehen onespena markatuz.
Ikertzaileek azpimarratzen dute zibersegurtasuna beste kezka bat dela, sorkuntza AI potentzialki ustiatzen dela phishing saiakera sofistikatuagoak sortzeko. Txostenak iradokitzen du ahultasunen hedadura osoa oraindik ez dela ulertzen eta denboran zehar eboluzionatu daitekeela. Gainera, azterketak ustezko ahuleziak gehiago aztertzen ditu, besteak beste, AI sortzailea "jailbreaking".
"Gaur egungo [AI generatiboa] ereduak gero eta gehiago jailbreaking eraso arrakastatsuen mende daude", adierazi dute ikerketaren egileek. "Eraso hauek arretaz diseinatutako gonbiten multzoak garatzen dituzte (hitz-sekuentziak edo esaldiak) [AI sortzailearen] arauak eta iragazkiak saihesteko edo baita datu edo argibide gaiztoak txertatzeko (azken hau batzuetan 'prompt injekzio erasoa' deitzen zaio). Eraso hauek [AI sorkuntzako] eragiketak honda ditzakete edo datu sentikorrak atera ditzakete".
Arrisku horiek arintzeko, txostenak gomendatzen du AI sistemen giza jarraipen zorrotza egitea, AI erabakiak hartzeko azalgarritasuna hobetzea, arau-gaitasuna indartzea eta nazioarteko lankidetza sustatzea AIren gobernantzari buruz. AI sortzailearen potentzial eraldatzailea aitortzen duten arren, egileek ikuspegi zuhur baten beharra azpimarratzen dute, batez ere finantza bezalako sektore sentikor batean.
Zer iritzi duzu NMF Argitalpenen web atarian argitaratutako fintech txostenaz? Partekatu gai honi buruzko zure pentsamenduak eta iritziak beheko iruzkinen atalean.
Jatorrizko iturria: Bitcoin.com