By Bitcoin.цом - пре 7 месеца - Време читања: 3 минута
Извештај публикација ММФ-а наглашава растуће ризике генеративне вештачке интелигенције у финансијском сектору
Како вештачка интелигенција (АИ) наставља своју експанзију у сектору финансија, нови извештај објављен на веб порталу публикација Међународног монетарног фонда (ММФ) упозорава на ризике повезане са најновијим могућностима вештачке интелигенције у свету финансија.
Успон машина за размишљање: Извештај упозорава на ризике од генеративне вештачке интелигенције у финансијама
извештај, чији су аутори Гхиатх Схабсигх и Ел Бацхир Боухероуаа, фокусира се на генеративна вештачка интелигенција, који се често назива генеративна АИ, што је облик вештачке интелигенције способан да креира оригинални садржај као што су текст, слике и видео. Значајни системи као што су Опенаи'с Цхатгпт, Антхропиц'с Цлауде и Мидјоурнеи стекли су популарност због коришћења ове технологије последњих месеци.
Према студији, иако генеративна АИ обећава за апликације као што су аутоматизација процеса и побољшање управљања ризицима, она такође уводи нове ризике везане за приватност података, пристрасност, робусност перформанси и сајбер безбедност.
Истраживачи истичу да генеративни системи вештачке интелигенције уносе огромне количине онлајн података, што изазива забринутост због кршења приватности или репликације пристрасности из тих података. Штавише, способност система да генеришу потпуно нови садржај значи да би могли да произведу уверљиве, али нетачне информације. У извештају се наводи:
Јавно доступни [генеративни АИ] системи представљају значајне изазове приватности за финансијске институције које желе да уграде своје способности у своје пословање. Ова аутоматизација стога повећава могућност да би осетљиви финансијски подаци и лични подаци које је обезбедило особље финансијских институција у њиховом ангажману са [генеративном вештачком интелигенцијом] могли да процуре.
Извештај упозорава да би ова питања могла да поткопају поверење јавности ако се генеративна вештачка интелигенција неодговорно користи у финансијама. На пример, профили ризика клијената генерисани вештачком интелигенцијом могу бити и нетачни и дискриминаторни. Истраживачи инсистирају на томе да би популаризовани цхатботови могли пружити погрешне финансијске савете.
У августу 2023., Гари Генслер, садашњи председавајући америчке Комисије за хартије од вредности (СЕЦ), издао упозорење да ће АИ технологија бити у средишту будућих финансијских криза. Регулатор хартија од вредности је предложио решавање неких ризика од АИ модела. У међувремену, ДИК има недавно одобрен нови тип налога за Насдак који покреће АИ, означавајући прво такво одобрење за традиционалну финансијску (традфи) размену.
Истраживачи наглашавају да је сајбер-безбедност још једна брига, при чему је генеративна вештачка интелигенција потенцијално искоришћена за стварање софистициранијих покушаја крађе идентитета. Извештај сугерише да пун опсег рањивости још увек није схваћен и да може да еволуира током времена. Поред тога, студија даље говори о наводним рањивостима, укључујући генеративну АИ „бекство из затвора“.
„Актуелни [генеративни АИ] модели су све више подложни успешним нападима 'бека из затвора',” навели су аутори студије. „Ови напади се ослањају на развој скупова пажљиво дизајнираних упита (следова речи или реченица) да би се заобишла правила и филтера [генеративне АИ] или чак убацили злонамерни подаци или упутства (потоње се понекад назива 'напад брзим убризгавањем'). Ови напади би могли да покваре [генеративне АИ] операције или да извуку осетљиве податке."
Да би се ублажили ови ризици, извештај препоручује пажљиво праћење система вештачке интелигенције од стране људи, побољшање објашњивости доношења одлука АИ, јачање регулаторних капацитета и промовисање међународне сарадње у управљању вештачком интелигенцијом. Иако признају трансформативни потенцијал генеративне АИ, аутори наглашавају потребу за опрезним приступом, посебно у осетљивом сектору попут финансија.
Шта мислите о финтецх извештају објављеном на веб порталу ММФ Публицатионс? Поделите своје мисли и мишљења о овој теми у одељку за коментаре испод.
Изворни извор: BitcoinСа.