By Bitcoin.com - 7 fis yn ôl - Amser Darllen: 3 funud
Adroddiad Cyhoeddiadau'r IMF yn Amlygu Risgiau Cynyddol AI Cynhyrchol yn y Sector Ariannol
Wrth i ddeallusrwydd artiffisial (AI) barhau i ehangu i'r sector cyllid, mae adroddiad newydd a gyhoeddwyd ar borth gwe Cyhoeddiadau'r Gronfa Ariannol Ryngwladol (IMF) yn rhybuddio am risgiau sy'n gysylltiedig â'r galluoedd AI diweddaraf yn y byd ariannol.
Cynnydd Peiriannau Meddwl: Adroddiad yn Rhybuddio am Risgiau O AI Cynhyrchiol mewn Cyllid
Mae adroddiadau adrodd, a ysgrifennwyd gan Ghiath Shabsigh ac El Bachir Boukherouaa, yn canolbwyntio ar deallusrwydd artiffisial cynhyrchiol, y cyfeirir ato'n aml fel AI cynhyrchiol, sy'n fath o AI sy'n gallu creu cynnwys gwreiddiol fel testun, delweddau a fideo. Mae systemau nodedig fel Openai's Chatgpt, Anthropic's Claude, a Midjourney wedi ennill poblogrwydd am harneisio'r dechnoleg hon yn ystod y misoedd diwethaf.
Yn ôl yr astudiaeth, er bod AI cynhyrchiol yn dal addewid ar gyfer cymwysiadau fel awtomeiddio prosesau a gwella rheoli risg, mae hefyd yn cyflwyno risgiau newydd yn ymwneud â phreifatrwydd data, tuedd, cadernid perfformiad, a seiberddiogelwch.
Mae ymchwilwyr yn nodi bod systemau AI cynhyrchiol yn amlyncu llawer iawn o ddata ar-lein, gan godi pryderon am dorri preifatrwydd neu ddyblygu rhagfarnau o'r data hwnnw. At hynny, mae gallu'r systemau i gynhyrchu cynnwys cwbl newydd yn golygu y gallent gynhyrchu gwybodaeth gredadwy ond anghywir. Dywed yr adroddiad:
Mae systemau sydd ar gael yn gyhoeddus [AI cynhyrchiol] yn peri heriau preifatrwydd sylweddol i sefydliadau ariannol sy'n dymuno ymgorffori eu galluoedd yn eu gweithrediadau. Mae'r awtomeiddio hwn felly'n codi'r posibilrwydd y gallai data ariannol sensitif a gwybodaeth bersonol a ddarperir gan staff sefydliadau ariannol wrth ymgysylltu â'r [AI cynhyrchiol] ollwng.
Mae'r adroddiad yn rhybuddio y gallai'r materion hyn danseilio ymddiriedaeth y cyhoedd os yw AI cynhyrchiol yn cael ei ddefnyddio'n anghyfrifol ym maes cyllid. Er enghraifft, gallai proffiliau risg cwsmeriaid a gynhyrchir gan AI fod yn anghywir ac yn wahaniaethol. Mae'r ymchwilwyr yn mynnu y gallai chatbots poblogaidd ddarparu cyngor ariannol diffygiol.
Ym mis Awst 2023, Gary Gensler, cadeirydd presennol Comisiwn Gwarantau a Chyfnewid yr Unol Daleithiau (SEC), rhybudd y bydd technoleg AI wrth wraidd argyfyngau ariannol yn y dyfodol. Mae'r rheolydd gwarantau wedi cynnig mynd i'r afael â rhai risgiau model AI. Yn y cyfamser, mae gan y SEC a gymeradwywyd yn ddiweddar math newydd o orchymyn wedi'i bweru gan AI ar gyfer Nasdaq, sy'n nodi'r gymeradwyaeth gyntaf o'r fath ar gyfer cyfnewidfa cyllid traddodiadol (tradfi).
Mae'r ymchwilwyr yn pwysleisio bod seiberddiogelwch yn bryder arall, gydag AI cynhyrchiol o bosibl yn cael ei ecsbloetio i greu ymdrechion gwe-rwydo mwy soffistigedig. Mae'r adroddiad yn awgrymu nad yw graddau llawn y gwendidau wedi'u deall eto ac y gallent ddatblygu dros amser. Yn ogystal, mae'r astudiaeth yn trafod gwendidau honedig ymhellach, gan gynnwys “torri carchar” AI cynhyrchiol.
“Mae modelau presennol [AI cynhyrchiol] yn gynyddol yn destun ymosodiadau ‘jailbreaking’ llwyddiannus,” nododd awduron yr astudiaeth. “Mae’r ymosodiadau hyn yn dibynnu ar ddatblygu setiau o ysgogiadau wedi’u dylunio’n ofalus (dilyniannau geiriau neu frawddegau) i osgoi rheolau a hidlwyr [AI cynhyrchiol] neu hyd yn oed fewnosod data neu gyfarwyddiadau maleisus (cyfeirir at yr olaf weithiau fel ‘ymosodiad pigiad prydlon’). Gallai’r ymosodiadau hyn lygru gweithrediadau [AI cynhyrchiol] neu seiffno data sensitif.”
Er mwyn lliniaru'r risgiau hyn, mae'r adroddiad yn argymell monitro dynol yn agos ar systemau AI, gan wella eglurder gwneud penderfyniadau AI, cryfhau gallu rheoleiddio, a hyrwyddo cydweithredu rhyngwladol ar lywodraethu AI. Wrth gydnabod potensial trawsnewidiol AI cynhyrchiol, mae'r awduron yn pwysleisio'r angen am ddull gofalus, yn enwedig mewn sector sensitif fel cyllid.
Beth yw eich barn am yr adroddiad fintech a gyhoeddwyd ar borth gwe Cyhoeddiadau'r IMF? Rhannwch eich meddyliau a'ch barn am y pwnc hwn yn yr adran sylwadau isod.
Ffynhonnell wreiddiol: Bitcoin. Gyda