By Bitcoin.com - 7 kuukautta sitten - Lukuaika: 3 minuuttia
IMF:n julkaisujen raportti korostaa generatiivisen tekoälyn kasvavia riskejä rahoitussektorilla
Tekoälyn (AI) jatkaessa laajentumistaan rahoitussektorille, Kansainvälisen valuuttarahaston (IMF) Publications -verkkoportaalissa julkaistu uusi raportti varoittaa riskeistä, jotka liittyvät uusimpiin tekoälyominaisuuksiin finanssimaailmassa.
The Rise of Thinking Machines: Raportti varoittaa generatiivisen tekoälyn riskeistä rahoituksessa
- raportti, kirjoittaja Ghiath Shabsigh ja El Bachir Boukherouaa, keskittyy generatiivista tekoälyä, jota usein kutsutaan generatiiviseksi tekoälyksi, joka on tekoälyn muoto, joka pystyy luomaan alkuperäistä sisältöä, kuten tekstiä, kuvia ja videoita. Merkittävät järjestelmät, kuten Openain Chatgpt, Anthropic's Claude ja Midjourney, ovat saavuttaneet suosiota tämän tekniikan hyödyntämisessä viime kuukausina.
Tutkimuksen mukaan vaikka generatiivinen tekoäly lupaa prosessien automatisoinnin ja riskienhallinnan tehostamisen kaltaisille sovelluksille, se tuo mukanaan myös uusia riskejä liittyen tietosuojaan, harhaan, suorituskyvyn kestävyyteen ja kyberturvallisuuteen.
Tutkijat huomauttavat, että generatiiviset tekoälyjärjestelmät nielevät valtavia määriä verkkodataa, mikä herättää huolta yksityisyyden loukkauksista tai näiden tietojen vääristymien replikaatiosta. Lisäksi järjestelmien kyky tuottaa täysin uutta sisältöä tarkoittaa, että ne voivat tuottaa uskottavia mutta epätarkkoja tietoja. Raportissa todetaan:
Julkisesti saatavilla olevat [generatiiviset tekoäly]järjestelmät asettavat merkittäviä tietosuojahaasteita rahoituslaitoksille, jotka haluavat sisällyttää kykynsä toimintaansa. Tämä automatisointi lisää siten mahdollisuuden, että arkaluonteiset taloustiedot ja henkilötiedot, jotka rahoituslaitosten henkilöstö on toimittanut [generatiivisen tekoälyn] kanssa, voivat vuotaa ulos.
Raportissa varoitetaan, että nämä ongelmat voivat heikentää yleisön luottamusta, jos generatiivista tekoälyä käytetään vastuuttomasti rahoituksessa. Esimerkiksi tekoälyn luomat asiakasriskiprofiilit voivat olla sekä epätarkkoja että syrjiviä. Tutkijat väittävät, että suositut chatbotit voivat tarjota virheellisiä taloudellisia neuvoja.
Elokuussa 2023 Gary Gensler, Yhdysvaltain arvopaperi- ja pörssikomitean (SEC) nykyinen puheenjohtaja, antoi varoituksen että tekoälyteknologia on tulevien talouskriisien ytimessä. Arvopaperimarkkinaviranomainen on ehdottanut joihinkin tekoälymallin riskeihin puuttumista. SEC:llä on tällä välin äskettäin hyväksytty uusi tekoälyllä toimiva tilaustyyppi Nasdaqille, mikä on ensimmäinen tällainen hyväksyntä perinteiselle rahoituspörssille (tradfi).
Tutkijat korostavat, että kyberturvallisuus on toinen huolenaihe, sillä generatiivista tekoälyä voidaan mahdollisesti hyödyntää kehittyneempien tietojenkalasteluyritysten luomiseen. Raportin mukaan haavoittuvuuksien koko laajuutta ei vielä ymmärretä ja ne voivat kehittyä ajan myötä. Lisäksi tutkimuksessa käsitellään edelleen väitettyjä haavoittuvuuksia, mukaan lukien generatiivisen tekoälyn "jailbreaking".
"Nykyiset [generatiiviset AI]-mallit joutuvat yhä useammin onnistuneiden "jailbreaking" -hyökkäysten kohteeksi, tutkimuksen kirjoittajat huomauttavat. "Nämä hyökkäykset perustuvat huolellisesti suunniteltujen kehotteiden (sanasarjojen tai lauseiden) kehittämiseen [generatiivisen tekoälyn] sääntöjen ja suodattimien ohittamiseksi tai jopa haitallisten tietojen tai ohjeiden lisäämiseksi (jälkimmäistä kutsutaan joskus "prompt-injektiohyökkäykseksi"). Nämä hyökkäykset voivat turmella [generatiivisen tekoälyn] toiminnot tai siirtää arkaluonteisia tietoja.
Näiden riskien vähentämiseksi raportissa suositellaan tekoälyjärjestelmien tiivistä ihmisen seurantaa, tekoälyn päätöksenteon selitettävyyden parantamista, sääntelykapasiteetin vahvistamista ja kansainvälisen yhteistyön edistämistä tekoälyn hallinnassa. Kirjoittajat tunnustavat generatiivisen tekoälyn transformatiivisen potentiaalin, mutta korostavat varovaisen lähestymistavan tarvetta erityisesti rahoituksen kaltaisella herkällä sektorilla.
Mitä mieltä olet IMF Publications -verkkoportaalissa julkaistusta fintech-raportista? Jaa ajatuksesi ja mielipiteesi tästä aiheesta alla olevassa kommenttiosiossa.
Alkuperäinen lähde: Bitcoin.com