世界快讯:干货 | AI算法透明性实现与评估
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面,推动这一课题的研究,并形成相应的研究成果。
【资料图】
第一部分:AI算法透明概述
第一部分,AI算法透明概述,主要凝练了当前AI算法透明性存在的挑战。
近年来,人工智能技术的发展使得其透明性问题日益凸显,为保障用户对算法知情,实现监管机构对算法进行有效规范治理与问责,算法透明性必不可少。
然而,算法透明性更类似于原则性的提议,具体如何落实透明性要求,并对其进行有效评估,尚未形成共识。
因此,我们对AI算法透明当前存在的诸多挑战进行了总结,主要涉及三个维度:技术、评估和制度。
技术上,很难处理AI算法的黑箱问题;
评估上,对透明程度的要求很难把握尺度;
制度上,算法问责机制仍然模糊。
为有效应对这些挑战,我们首先给出算法透明性实现路径,解决技术和制度问题,之后提出算法透明评估清单应对评估问题,最终在推荐系统下进行实践与应用。
第二部分:实现AI算法透明
宏观上,我们首先需要AI算法透明性治理范式,针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义,形成一种以法律规制为主导,技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上,这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上,国内外学者研究主要从多方视角相关主体出发,提出了若干在法律规制和技术适配方面的思考。
法律上,鉴于算法透明,是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式:赋权模式和行为规范模式。赋权模式属于事后救济,而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律,发现各国都采取健全算法问责机制等措施。此外,我们也注意到欧盟还强调对算法参数的公开。
技术上,我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术,该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例,又会有更为细致的方法。
不同的应用场景,对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计,四个细分领域内进行了需求分析和方法探索。
第三部分:评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则,却鲜小有具体措施。因此,我们提出一套相对详细、可实施的评估标准,以细化并落实算法透明度合规要求。
首先,面向算法使用者的AI透明度评估清单的设计目标,在于保障知情权。内容主要分为算法概述与技术信息,要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单,由于监管方需要根据算法评估内容进行等级评估,所以该技能较为严格,需要说明的内容也更为复杂。
为配合透明度评估清单的使用,我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估,不同等级对于算法开发者应当达到的透明度有不同要求,且逐步加强。
具体这个清单是如何工作的呢?如左图所示,评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面,开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后,使用者需要阅读指南,以此确立两方权责分配并获得知情。
第四部分:AI算法透明实践
我们选择推荐系统作为典型实例,也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方,其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性,也能提升用户对系统的信任程度,使系统推荐结果得到检验,同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多,所以我们设计了一个推荐系统外的解释系统或算法,用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术,充分挖掘推荐系统中的可解释模型,以此进行相关的路径挖掘,并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示,在利用上述算法完成解释系统后,对数据集进行路径挖掘,得到左图所示的结论。
基于上述深层的推理路径,对推荐系统的多个推荐实例进行解释。结果表明,方法不仅能够帮助推荐系统获得有希望的推荐结果,而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后,我们分别将未加入和加入这一解释算法的推荐系统,按照前一章节设计的流程进行算法评估。结果表明,融入解释算法后的推荐系统,在透明度上有明显提升,但监管方也注意到,新的具有解释性质的推荐系统,在技术和社会风险上处理方法上有缺,要求对当前算法做进一步改进,并对提交的材料进行补充。
感谢各位的聆听!以上就是我们小组要汇报的全部内容。
编辑整理:陈龙
推荐
- 世界快讯:干货 | AI算法透明性实现与评估
- 全球焦点!期指走势分化缩量窄幅震荡
- 第二十四章 家长礼端 全球讯息
- 环球热点!航天晨光:公司没有吞并航天科工相关计划。
- 国力股份(688103)1月18日主力资金净买入151.27万元_看点
- 天天亮点!南都电源:预计明年上半年前可实现锂电10GWh的产能
- 跃岭股份1月18日开盘涨停 世界播报
- 4月20日储能材料价格:碳酸锂价格跌幅达5000元/吨|环球精选
- 全国房地产开发投资罕见降幅10%!释放什么信号,今年房价怎么走?
- 世界快报:ABB向安凯特电缆(NKT Cables)出售电缆业务
- 每日热点:1月16日伦敦LME锌锭夜盘行情
- 太强了!券商吹响号角!沪指再破3200点创近期新高!
- 六个核桃爱心专列G666助力游子返乡 开启“最顺中国年”传递美好愿景
- 给予公司2023年35倍PE估值,对应股价为6.65元(现价4.84元)|每日快看
- 隆基机械1月16日快速上涨
- 媒体:“彩礼分文不取,陪嫁208万”也是在走极端
- 【环球速看料】车企集团的Web3明牌布局!
- 环球视讯!巩义市气象局发布暴雪黄色预警「III级/较重」「2023-01-14」
- 姚迪加盟斯坎迪奇获官宣 天天热门
- 外媒:德国德累斯顿博物馆被盗藏品被“还回”,但多数已受损
- 美国债务逼近31.5万亿,多国运回黄金遭拒,我国黄金存美国安全吗 今日热议
- 美国履历造假国会议员拒绝辞职
- 俄媒:总参谋长兼任总指挥意味着俄军要进攻
- 派能科技2022年净利润预增273%-314%,原始股东违规减持收警示函
- 金刚光伏董秘回复:公司与REC合同订单均按约定履行,公司已经与REC公司保持良好合作,具备长期合作的基础
- 41岁资深女星遭热议,没得奖当场摆臭脸,翘二郎腿满脸不乐意|环球头条
- 世界新消息丨有方科技:中标长沙市城域物联网管理平台项目
- 啥生肖的人,执行力强,事业上一路奋斗,人生在走上坡路
- 【环球快播报】2023开年暴击,裁员、降薪、调岗和没有年终奖的产品经理们
- 新北洋(002376):2023年第一次临时股东大会决议_环球头条
- 环球短讯!最欠揍的穿帮镜头:王一博的替身我忍了,周冬雨无意间露了啥?
- 全球热点评!小麻袋借贷网贷逾期4天多久会上征信
- 环球新消息丨2022年末中国M2同比增长11.8%
- 2023吉祥文化金银币价格表(2023年01月10日) 天天关注
- 2023汕头新生儿医保参保政策调整-当前聚焦
- 全球观热点:过失犯罪怎么判?怎么处罚?
- 新消息丨拖欠借呗1000没还会被强制执行吗
- 卡片放大播放效果实现总结,不同元素间的放大过渡效果如何实现?-速读
- 全球热门:佛山岭南天地马哥孛罗酒店年夜饭怎么预订?
- 超70家上市公司变更审计机构 背后原因及合理性引关注
- 聚焦:接续奋斗,让绿色底子更扎实(现场评论·一起来想一起来干15·新时代新征程新伟业)
- 十来万的车,我选卡罗拉
- 冬天开电烤炉会用多少电?
- 【全球新视野】23上海华瑞银行CD013今日发布发行公告
- 算法岗没技术积累,要换组吗? 世界新动态
- 当前速讯:炸锅!杀疯了 特斯拉突然掀起“价格战”!崩盘之下的“自救”?
- 全球滚动:陆金贷(大额普惠)网贷逾期3个月延迟还款会不会上征信
- 哈尔滨冰雪大世界:魅力冰雕引客来 全球快资讯
- 世界头条:济南白马山大集开启 市民赶集置办年货迎新春
- 环球快消息!唐山迁安市农村环卫一体化项目招标公告!
- 原生 4K144Hz!三星发布 77 寸 QD-OLED 旗舰电视 S95C
- 疫情带火养生话题,2023将迎来“全民自护时代”_精选
- 速看:“追光2022”天府人物推介⑰丨王帮华:十年坚守 只为讲好一座博物馆故事
- 虹口区债权人撤销权律师费用怎么算|快报
- 当前快看:招商蛇口:1月5日获融资买入4756.95万元,占当日流入资金比例11.47%
- 世界聚焦:全新宝马7系实车图,颜值不输奥迪a8l
- 网贷逾期8000还不起会有什么后果|焦点消息
- 炸过东西的油能放多久
- 卢卡-佩莱格里尼很可能提前结束租借返回尤文图斯
- 百位华商预见2023|山口信一:跨境电商等新业态加速崛起
- 环球看热讯:数字经济概念股午后飙升,金山云(03896.HK)一度涨超30%
- 叶尚志:市场信心气氛仍好 支撑上移至19303点
- 全球今头条!起亚汽车2022年交付290万辆车,2023年目标为320万辆
- 世界速递!形容自大的经典句子(精选268句)
- 丰原药业: 关于披露发行股份购买资产并募集配套资金预案暨公司股票复牌的一般风险提示性公告 天天快讯
- 元旦起部分存量房贷月供减少 5年期以上LPR一季度或将下降5个至15个基点
- 谢霆锋全家新年聚会,谢婷婷带女儿见舅舅,86岁谢贤罕见出镜
- 异动快报:金发拉比(002762)1月3日9点37分触及涨停板
- 全球快看点丨新鲜洛神花可以炒肉吗?
- 注意!医生提醒:这三类患者需拍CT排查白肺
- Nacos 支持达梦数据库持久化插件使用
- 泡脚膝盖,后背都出汗,是什么情况? 通讯
- 环球通讯!西瓜果冻该怎么做?
- 2022西宁四级工伤赔偿期限怎么规定
- 中国前三季度经常账户顺差3107亿美元,跨境双向投资平稳有序 全球资讯
- 热头条丨芯能科技(603105.SH):鼎晖投资持股比例从5.0%减至4.0%
- 中国信通院金键:元宇宙与数字空间未来|全球今热点
- 南京异地打新冠疫苗需要什么手续
- 环球热点!消费复苏主线博弈加剧 零售与消费医疗板块接力上扬
- 2022年度22个优秀双拥实事项目受表彰
- 云南龙陵:“农旅小镇”绘就乡村振兴新画卷
- 长春市南关区税务局税商联动为民企发展赋能添力-环球关注
- 精选!中超控股:连续3日融资净买入累计458.22万元(12-28)
- 脑洞科技(02203)购入3.6万股新东方在线(01797)股份
- 全球微速讯:我阳了...
- 泰康系“抢地”背后:保险频收罚单,养老社区盈利艰难_每日速讯
- 都快2023年了还在问蒸烤集成灶怎么样?2分钟告诉你真相! 全球今亮点
- 突发!郑新黄河大桥发生多车连环相撞事故_今日热讯
- 皖维高新(600063)12月27日主力资金净买入499.74万元 焦点速读
- 虚增利润超3197万元导致2020年报存虚假记载 模塑科技及董事长等收江苏证监局行政处罚事先告知书
- 赛腾股份: 苏州赛腾精密电子股份有限公司关于公司及控股子公司对外投资进展公告|当前快播
- 每日视讯:异动快报:安奈儿(002875)12月27日11点14分触及涨停板
- 煮过的皮蛋可以放冰箱保鲜吗?
- 100小时、9条航线!东航全球首架C919开启验证飞行|全球报资讯
- 7岁男孩挑战43米冠军滑雪跳台,竟然成功了!_全球热消息
- 网贷逾期24天上征信吗? 最新资讯
- 楼继伟:投资边际收益已下降,不可能重走老路 今日看点
- 新疆喀纳斯湖现“雪蘑菇”景观
- 港澳今起“通关” 港澳直通巴士24日起恢复营运
- 每日报道:本周盘点(12.19-12.23):中航产融周跌5.13%,主力资金合计净流出9731.60万元
X 关闭
行业规章
X 关闭