By Bitcoin.com - 7 месяцы таму - Час чытання: 3 хвіліны
Справаздача публікацый МВФ падкрэслівае рост рызык генератыўнага штучнага інтэлекту ў фінансавым сектары
Паколькі штучны інтэлект (AI) працягвае сваю экспансію ў фінансавы сектар, новая справаздача, апублікаваная на вэб-партале публікацый Міжнароднага валютнага фонду (МВФ), папярэджвае аб рызыках, звязаных з найноўшымі магчымасцямі штучнага інтэлекту ў фінансавым свеце.
Паўстанне мыслячых машын: справаздача папярэджвае аб рызыках, звязаных з генератыўным ІІ у фінансах
,en паведамляць, аўтарамі якой з'яўляюцца Гіят Шабсіг і Эль Бачыр Букеруа, у цэнтры ўвагі генератыўны штучны інтэлект, які часта называюць генератыўным ІІ, які з'яўляецца формай ІІ, здольнай ствараць арыгінальны кантэнт, напрыклад тэкст, выявы і відэа. Такія вядомыя сістэмы, як Openai's Chatgpt, Anthropic's Claude і Midjourney, набылі папулярнасць за выкарыстанне гэтай тэхналогіі ў апошнія месяцы.
Згодна з даследаваннем, у той час як генератыўны штучны інтэлект перспектыўны для такіх прыкладанняў, як аўтаматызацыя працэсаў і паляпшэнне кіравання рызыкамі, ён таксама ўводзіць новыя рызыкі, звязаныя з канфідэнцыяльнасцю даных, прадузятасцю, надзейнасцю прадукцыйнасці і кібербяспекай.
Даследчыкі адзначаюць, што генератыўныя сістэмы штучнага інтэлекту паглынаюць велізарныя аб'ёмы анлайн-дадзеных, што выклікае заклапочанасць з нагоды парушэння канфідэнцыяльнасці або тыражавання скажэнняў з гэтых даных. Акрамя таго, здольнасць сістэм ствараць цалкам новы кантэнт азначае, што яны могуць вырабляць праўдападобную, але недакладную інфармацыю. У справаздачы гаворыцца:
Агульнадаступныя сістэмы [генератыўнага штучнага інтэлекту] ствараюць сур'ёзныя праблемы з прыватнасцю для фінансавых устаноў, якія жадаюць уключыць іх магчымасці ў сваю дзейнасць. Такім чынам, гэтая аўтаматызацыя павялічвае верагоднасць уцечкі канфідэнцыйных фінансавых даных і персанальнай інфармацыі, прадастаўленай супрацоўнікамі фінансавых устаноў падчас іх узаемадзеяння з [генератыўным штучным інтэлектам].
У дакладзе папярэджваецца, што гэтыя праблемы могуць падарваць давер грамадства, калі генератыўны ІІ будзе безадказна прымяняцца ў сферы фінансаў. Напрыклад, створаныя штучным інтэлектам профілі рызыкі кліентаў могуць быць недакладнымі і дыскрымінацыйнымі. Даследчыкі настойваюць на тым, што папулярныя чат-боты могуць даваць памылковыя фінансавыя парады.
У жніўні 2023 года Гэры Генслер, цяперашні старшыня Камісіі па каштоўных паперах і біржам ЗША (SEC), выдаецца папярэджанне што тэхналогія штучнага інтэлекту будзе ляжаць у аснове будучых фінансавых крызісаў. Рэгулятар каштоўных папер прапанаваў ліквідаваць некаторыя рызыкі мадэлі штучнага інтэлекту. Між тым, SEC мае нядаўна зацверджаны новы тып заказаў на базе штучнага інтэлекту для Nasdaq, які адзначае першае такое зацвярджэнне для традыцыйнай фінансавай біржы (tradfi).
Даследчыкі падкрэсліваюць, што кібербяспека з'яўляецца яшчэ адной праблемай, і генератыўны штучны інтэлект можа быць выкарыстаны для стварэння больш складаных спроб фішынгу. У справаздачы вынікае, што поўная ступень уразлівасцяў яшчэ не зразумелая і з часам можа развівацца. Акрамя таго, у даследаванні дадаткова абмяркоўваюцца меркаваныя ўразлівасці, у тым ліку генератыўны AI «узлом».
«Цяперашнія [генератыўныя мадэлі штучнага інтэлекту] усё часцей падвяргаюцца паспяховым атакам «узлому», - адзначылі аўтары даследавання. «Гэтыя атакі абапіраюцца на распрацоўку набораў старанна распрацаваных падказак (паслядоўнасцей слоў або прапаноў), каб абыйсці правілы і фільтры [генератыўнага штучнага інтэлекту] або нават уставіць шкоднасныя даныя або інструкцыі (апошняе часам называюць «атакай імгненнай ін'екцыі»). Гэтыя атакі могуць пашкодзіць аперацыі [генератыўнага штучнага інтэлекту] або выцягнуць канфідэнцыяльныя даныя».
Для зніжэння гэтых рызык у справаздачы рэкамендавана пільны маніторынг сістэмамі штучнага інтэлекту чалавекам, паляпшэнне вытлумачальнасці прыняцця рашэнняў штучнага інтэлекту, умацаванне нарматыўнага патэнцыялу і прасоўванне міжнароднага супрацоўніцтва ў галіне кіравання штучным інтэлектам. Прызнаючы трансфармацыйны патэнцыял генератыўнага ІІ, аўтары падкрэсліваюць неабходнасць асцярожнага падыходу, асабліва ў такім адчувальным сектары, як фінансы.
Што вы думаеце пра фінтэх-справаздачу, апублікаваную на вэб-партале IMF Publications? Падзяліцеся сваімі думкамі і меркаваннямі па гэтай тэме ў раздзеле каментарыяў ніжэй.
Арыгінальны крыніца: Bitcoin.com