By Bitcoin.com - 7 месяца назад - Время чтения: 3 минуты
В отчете публикаций МВФ подчеркиваются растущие риски применения генеративного искусственного интеллекта в финансовом секторе
Поскольку искусственный интеллект (ИИ) продолжает свое распространение в финансовом секторе, новый отчет, опубликованный на веб-портале публикаций Международного валютного фонда (МВФ), предупреждает о рисках, связанных с новейшими возможностями ИИ в финансовом мире.
Рост мыслящих машин: отчет предупреждает о рисках, связанных с генеративным искусственным интеллектом в финансах
Ассоциация отчету, авторами которого являются Гиат Шабсиг и Эль Башир Букеруаа, основное внимание уделяется генеративный искусственный интеллект, часто называемый генеративным ИИ, который представляет собой форму ИИ, способную создавать оригинальный контент, такой как текст, изображения и видео. Известные системы, такие как Chatgpt от Openai, Claude от Anthropic и Midjourney, в последние месяцы приобрели популярность благодаря использованию этой технологии.
Согласно исследованию, хотя генеративный ИИ перспективен для таких приложений, как автоматизация процессов и улучшение управления рисками, он также создает новые риски, связанные с конфиденциальностью данных, предвзятостью, надежностью производительности и кибербезопасностью.
Исследователи отмечают, что генеративные системы искусственного интеллекта поглощают огромные объемы онлайн-данных, вызывая обеспокоенность по поводу нарушений конфиденциальности или повторения предвзятости на основе этих данных. Более того, способность систем генерировать совершенно новый контент означает, что они могут выдавать правдоподобную, но неточную информацию. В отчете говорится:
Публично доступные системы [генеративного искусственного интеллекта] создают серьезные проблемы конфиденциальности для финансовых учреждений, желающих включить свои возможности в свою деятельность. Таким образом, эта автоматизация повышает вероятность утечки конфиденциальных финансовых данных и личной информации, предоставленной сотрудниками финансовых учреждений при взаимодействии с [генеративным ИИ].
В докладе предупреждается, что эти проблемы могут подорвать общественное доверие, если генеративный искусственный интеллект будет безответственно использоваться в сфере финансов. Например, профили рисков клиентов, созданные с помощью ИИ, могут быть неточными и дискриминационными. Исследователи настаивают на том, что популярные чат-боты могут давать ошибочные финансовые советы.
В августе 2023 года Гэри Генслер, нынешний председатель Комиссии по ценным бумагам и биржам США (SEC), выдается предупреждение что технология искусственного интеллекта будет лежать в основе будущих финансовых кризисов. Регулятор ценных бумаг предложил устранить некоторые риски модели ИИ. Тем временем SEC недавно утвержденный новый тип ордера на базе искусственного интеллекта для Nasdaq, ознаменовавший первое подобное одобрение для традиционной финансовой (tradfi) биржи.
Исследователи подчеркивают, что кибербезопасность является еще одной проблемой, поскольку генеративный искусственный интеллект потенциально может использоваться для создания более изощренных попыток фишинга. В отчете говорится, что полный масштаб уязвимостей еще не изучен и может со временем измениться. Кроме того, в исследовании также обсуждаются предполагаемые уязвимости, в том числе «взлом джейлбрейка» генеративного ИИ.
«Современные модели [генеративного искусственного интеллекта] все чаще подвергаются успешным атакам с целью взлома», — отмечают авторы исследования. «Эти атаки основаны на разработке наборов тщательно разработанных подсказок (последовательностей слов или предложений) для обхода правил и фильтров [генеративного ИИ] или даже для вставки вредоносных данных или инструкций (последнее иногда называют «атакой с быстрым внедрением»). Эти атаки могут повредить операции [генерирующего ИИ] или выкачать конфиденциальные данные».
Чтобы смягчить эти риски, в отчете рекомендуется осуществлять тщательный мониторинг систем ИИ, повышая объяснимость принятия решений в области ИИ, укрепляя нормативно-правовой потенциал и продвигая международное сотрудничество в области управления ИИ. Признавая преобразующий потенциал генеративного ИИ, авторы подчеркивают необходимость осторожного подхода, особенно в таком чувствительном секторе, как финансы.
Что вы думаете об отчете о финансовых технологиях, опубликованном на веб-портале «Публикации МВФ»? Поделитесь своими мыслями и мнениями по этому вопросу в разделе комментариев ниже.
Исходный источник: Bitcoin.com