设为首页 加入收藏
暂无
暂无
服务热线:18603296709
 首 页 | 消费资讯 | 行业动态 | 消费观察 | 品牌资讯 | 金融理财 | 科技数码 | 教育资讯 | 特别关注 | 商业资讯 | 家居房产 | 财经 | 汽车 | 娱乐
 
首页 >
特别关注 > 详细内容
邮箱:3111287850@qq.com
ChatGPT热潮背后,打造金融行业可信人工智能
来源:   发布时间:2023/3/24 16:33:26

可信AI引发全球关注

当前迅速爆火的ChatGPT似乎让人们看到,人工智能距离进入每个人的日常生活已近在咫尺。但不可忽视的是,人工智能的大规模应用同时隐含着巨大的风险。ChatGPT在其月活用户数快速突破一亿之时,人们对其数据安全问题、知识产权保护问题、虚假信息传播问题的疑虑也被快速放大。在人工智能快速发展的今天,亟需保障其对人类的“可信赖”。

在全球范围来看,可信AI已引起高度重视。二十国集团领导人大会明确提出“促进公共和私人对人工智能研发的投资力度,以促进可信赖的人工智能(trustworthy artificial intelligence)创新;创建一个策略环境,为部署值得信赖的人工智能系统开辟道路。” 美国政府也已公布《促进政府使用可信人工智能》的行政命令,指导联邦机构使用人工智能,促进公众更加信任政府使用的人工智能技术。另外,欧盟发布的《人工智能白皮书》提出人工智能“可信生态系统”,旨在加强对人工智能的强制监管。可见,随着人工智能的产业化发展,可信人工智能已成为业界焦点。

金融业可信AI的特征

金融业人工智能的可信特征,经过行业的不断研究与沉淀,已逐渐在公平性、隐私保护、安全性、透明性、责任可追溯等方面达成共识。金融业可信人工智能要承接科技伦理的要求,将以人为本作为其根本。不同的是,科技伦理从宏观层面做出指引,而可信人工智能则深入到金融机构内部对人工智能的管理、研发、运营等环节,提升金融消费者和整个行业对人工智能的信任程度。尽管不同的机构或个人可能对可信特征有不同侧重,但从行业维度来看,金融业已开始围绕这些可信特征进行理论研究和技术创新,解决金融业人工智能的可信问题。

AI可信问题带来金融风险

人工智能在金融领域应用的广度和深度在不断拓展,已成为金融的重要支撑。人工智能的可信问题已逐渐成为金融风险的重要来源,体现在以下一些方面。

公平性缺失导致业务决策偏见。人工智能决策结果会受到训练数据的影响,如果训练数据中存在偏见歧视,算法会固化这种歧视,导致依托人工智能算法生成的决策形成偏见。例如在营销场景下,某些智能推荐算法存在的偏见,可导致部分群体不能公平地获得金融服务机会。

数据滥用导致隐私泄露。当前金融业务活动中会涉及大量个人信息,比如利用个人信息构建风控模型、在身份认证中采集个人生物特征,这些活动使得个人隐私数据泄露和滥用的可能性大增,加重了人们对金融安全风险的担忧。

算法模型安全性低导致业务风险。以深度学习为代表的人工智能技术存在脆弱和易受攻击的缺点,使得依靠人工智能支撑的金融业务难以得到足够的信任。例如已在金融领域大量使用的人脸识别系统,受到众多利用3D面具和合成照片等手段实施的欺骗攻击,且部分攻击可突破系统防御,给金融业务安全带来了巨大隐患。

黑箱特性导致业务的不透明。人工智能采用的深度神经网络具有高度复杂性和不确定性,很多情况下对人类来说是一个黑箱,人类无法直观地了解人工智能的决策过程。这种特性导致科技的不透明性增加,考虑金融业务较高的安全合规要求,我们对于人工智能与金融业的深度融合产生了疑虑。

责任主体难以界定。人工智能的决策受多种因素影响,若利用人工智能系统做出的金融决策和判断出现侵权、违法行为,从现行法律上看,难以将人工智能作为责任主体。人工智能的行为到底是由所有方还是研发方担责,责任主体难以界定。

因此,为降低金融风险,须进行人工智能的可信治理,通过建立可信赖人工智能,打造消费者满意和信任的金融服务。

马上消费如何打造可信AI

马上消费致力于将可信人工智能理念贯穿人工智能系统全生命周期,在设计、研发、应用人工智能系统的过程中,将可信的理念根植于关键环节。我们针对上述人工智能可信问题带来的金融风险,综合利用技术手段、管理方法保障系统可信。

公平性方面,马上消费重点关注人工智能训练数据集,构建完整异构数据,将数据歧视和偏见最小化。并研究公平决策量化算法对数据集进行评估,减轻决策偏差和潜在歧视。

隐私泄露防范方面,通过建立数据治理体系来避免数据的滥用,并使用隐私计算技术训练人工智能模型。马上消费已建立多方安全计算平台,可在用户数据不出库的条件下进行人工智能模型的训练,保障隐私数据安全。

为保障算法模型的安全性,马上消费着力提升人工智能模型防御对抗攻击与中毒攻击的能力。对抗攻击是通过针对性设计特定的输入样本使得人工智能系统决策出错,中毒攻击则是通过向训练数据中注入特定数据使得训练得到的模型推理判断出现失真。为防御这些攻击,马上消费研究采用异常数据检测方法来检出并清除训练数据中的恶意数据,减轻中毒攻击带来的干扰,并通过建立对抗样本进行针对性训练来抵抗对抗攻击。

为保障人工智能系统透明性,重点研究人工智能的复现能力。目前业界已有一些研究方向,如通过建立可视化机制尝试评估和解释模型的中间状态,或通过影响函数分析训练数据对于人工智能模型的影响。马上消费探索建立可解释模型,模型通过对复杂的黑盒模型进行局部近似来研究黑盒模型的可解释性。

另外,马上消费致力于树立可信的企业价值理念。发展可信人工智能不仅是建设可信的人工智能系统,更要把可信理念融入金融机构的血脉,树立以消费者为中心的价值观,为客户提供可靠、透明、包容的科技服务。我们在鼓励创新和实践可信人工智能的同时,落实可信人工智能管理制度,明确责任部门和人员、工作方法和流程,打造更加可信的金融机构。

可信人工智能已经加速在金融行业的落地。虽然可信人工智能的特征包括了很多方面,但随着相关理论研究与技术创新的不断深入,可信理念将更深层次地与科技结合,确保金融业健康发展。

  责任编辑:赵雪梅
  【打印预览】   【大字 中字 小字】   【关闭窗口

免责声明:
(1)凡本网注明“来源:中国企业新闻网消费频道” 的所有作品,版权均属于中国企业新闻网消费频道,未经本网授权,任何单位及个人不得转载、摘编或以其它方式使用上述作品。已经本网授权使用作品的,应在授权范围 内使用,并注明“来源:中国企业新闻网消费频道”。违反上述声明者,本网将追究其相关法律责任。

(2)
本网转载其他媒体稿件是为了传播更多的信息,此类稿件不代表本网观点。如本网转载的稿件涉及您的版权、名誉权等问题,请尽快与本网联系,本网将依照国家相关法律法规尽快妥善处理。

(3)如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。


 相关报道
·企业如何打造新质生产力?敬请期待单仁
·借力企知道科创空间,凡知医学以科技创
·“马+鹤”=冠军秘籍? 东风风神助力
·恒劲风力畅享清新空气 TCL空调恒劲
·西部数据公司正式批量出货全新24TB
·2024开年火热出圈,小糊涂仙不断向
 企业要闻
企业如何打造新质生产力?敬请期待单仁牛商“202
西部数据公司正式批量出货全新24TB WD Re
金牌背后!天佑德与青海自行车运动的故事!
河南财政金融学院为乡村振兴注入青春力量
发挥“链主”引导力 中国三星驱动产业高质量发展
春糖音乐节成都开演 张亚东发起口碑爆棚
新闻焦点
频道精选
 
[频道信息] 20岁的民生保险 一个向光而行的追梦
[频道信息] 跨越速运为戈17保驾护航,助力戈友轻
[频道信息] 向民生“三创”先进学习——致敬荣膺2
[频道信息] 君乐宝:从源头到终端严守品质“生命线
[频道信息] 梦洁弘扬“半条被子”精神,温暖每一个
[行业动态] 梦洁高端床上用品品质破局,迎双十一“
[商业资讯] 政信投资集团到访湖南湘潭市共商促进“
       
1
为科创企业输血赋能 工银瑞信推出首批
2
与春光并肩,向山海奔赴——宇通壹基金
3
有颜又能打的荣耀V40口碑如何?听听
4
全新音乐阅读旗舰海信Touch开启京
5
2022年畅销书画家——陈安祥作品赏
6
2021剑指亿级销量,realme凭
7
河南安阳:多彩课后“延时服务” 助力
8
欧诗漫OSM全新出发 引领时尚新趋势
9
LOVE, ANGEL, MUSIC
10
“元宇宙"也要本土化 飞天云动更懂中
图片精选
 
高阳县税务局:赓续
持续推进民生工程—
“消保为民、你我同
华业奖 Great
">
关于我们   |  对外合作  |  刊登广告   |  CENN周刊  |  法律声明  |  招贤纳士  |  联系我们
服务热线:010-53696878 投稿邮箱:chinacenn@163.com
京ICP备13042652号-4  京公网安备11010602130012号
Copyright(C) 2006-2015 Chinacenn.com All Rights Reserved