By Bitcoin.com - acum 7 luni - Timp de citire: 3 minute
Raportul publicațiilor FMI evidențiază riscurile tot mai mari ale IA generativă în sectorul financiar
Pe măsură ce inteligența artificială (IA) își continuă expansiunea în sectorul financiar, un nou raport publicat pe portalul web Publicațiile Fondului Monetar Internațional (FMI) avertizează cu privire la riscurile asociate cu cele mai recente capacități AI din lumea financiară.
Creșterea mașinilor de gândire: Raportul avertizează asupra riscurilor generate de IA generativă în finanțe
raportează, scris de Ghiath Shabsigh și El Bachir Boukherouaa, se concentrează pe inteligența artificială generativă, adesea denumită IA generativă, care este o formă de IA capabilă să creeze conținut original, cum ar fi text, imagini și videoclipuri. Sisteme notabile precum Chatgpt de la Openai, Claude de la Anthropic și Midjourney au câștigat popularitate pentru valorificarea acestei tehnologii în ultimele luni.
Potrivit studiului, deși AI generativă este promițătoare pentru aplicații precum automatizarea proceselor și îmbunătățirea managementului riscurilor, ea introduce, de asemenea, noi riscuri legate de confidențialitatea datelor, părtinire, robustețea performanței și securitatea cibernetică.
Cercetătorii subliniază că sistemele AI generative ingerează cantități masive de date online, stârnind îngrijorări cu privire la încălcări ale confidențialității sau replicarea părtinirilor din acele date. În plus, capacitatea sistemelor de a genera conținut complet nou înseamnă că ar putea produce informații plauzibile, dar inexacte. Raportul precizează:
Sistemele [AI generative] disponibile public ridică provocări semnificative de confidențialitate pentru instituțiile financiare care doresc să-și încorporeze capacitățile în operațiunile lor. Această automatizare ridică astfel posibilitatea ca datele financiare sensibile și informațiile personale furnizate de personalul instituțiilor financiare în angajamentul lor cu [AI generativă] să se scurgă.
Raportul avertizează că aceste probleme ar putea submina încrederea publicului dacă IA generativă este desfășurată în mod iresponsabil în finanțe. De exemplu, profilurile de risc ale clienților generate de inteligența artificială ar putea fi atât inexacte, cât și discriminatorii. Cercetătorii insistă că chatbot-urile populare ar putea oferi sfaturi financiare greșite.
În august 2023, Gary Gensler, actualul președinte al Comisiei pentru Valori Mobiliare și Burse din SUA (SEC), a emis un avertisment că tehnologia AI va fi în centrul crizelor financiare viitoare. Autoritatea de reglementare a valorilor mobiliare a propus abordarea unor riscuri ale modelului AI. Între timp, SEC are aprobat recent un nou tip de comandă alimentat de inteligență artificială pentru Nasdaq, marcând prima astfel de aprobare pentru un schimb financiar tradițional (tradfi).
Cercetătorii subliniază că securitatea cibernetică este o altă preocupare, AI generativă putând fi exploatată pentru a crea încercări de phishing mai sofisticate. Raportul sugerează că amploarea totală a vulnerabilităților nu este încă înțeleasă și poate evolua în timp. În plus, studiul discută în continuare presupusele vulnerabilități, inclusiv „jailbreaking” generativ AI.
„Modelele actuale [generative AI] sunt din ce în ce mai supuse unor atacuri de „jailbreaking” de succes”, au remarcat autorii studiului. „Aceste atacuri se bazează pe dezvoltarea de seturi de solicitări concepute cu grijă (secvențe de cuvinte sau propoziții) pentru a ocoli regulile și filtrele [AI generative] sau chiar pentru a introduce date sau instrucțiuni rău intenționate (acestea din urmă este uneori denumită „atac de injectare promptă”). Aceste atacuri ar putea corupe operațiunile [generative AI] sau pot evacua datele sensibile.”
Pentru a atenua aceste riscuri, raportul recomandă monitorizarea umană atentă a sistemelor AI, îmbunătățirea explicabilității procesului decizional AI, consolidarea capacității de reglementare și promovarea colaborării internaționale privind guvernarea AI. Deși recunosc potențialul transformator al IA generativă, autorii subliniază necesitatea unei abordări prudente, în special într-un sector sensibil precum finanțele.
Ce părere aveți despre raportul fintech publicat pe portalul web Publicații FMI? Împărtășiți-vă gândurile și opiniile despre acest subiect în secțiunea de comentarii de mai jos.
Sursă originală: Bitcoin.com