-
捕鱼天王:谷歌大脑提出概念激活向量,助力神经网络可解释性研究
时间:2019/8/10 16:57:12 作者: 来源: 浏览:76 评论:0内容摘要: 如前所述,可解释性的一般方法应该是根据深度模型所考虑的输入特征来描述其预测结果。一个经典例子就是 logistic 回归分类器,一般会把分类器中的系数权重解释为每个特征的重要性。但大部分深度学习模型在特征层面(如像素值)的运算,无法和人类能轻易理解的高级概念对应。此外,模型的内...如前所述,可解释性的一般方法应该是根据深度模型所考虑的输入特征来描述其预测结果。一个经典例子就是 logistic 回归分类器,一般会把分类器中的系数权重解释为每个特征的重要性。但大部分深度学习模型在特征层面(如像素值)的运算,无法和人类能轻易理解的高级概念对应。此外,模型的内部值(例如神经激活)似乎是无法理解的。尽管像显著性图(saliency map)这样的技术可以有效测量特定像素区域的重要性,但它们无法和更高级的概念相对应。
CAV 的核心思想是度量模型输出中概念的相关性。对概念来说,CAV 是概念示例集的值方向上的一个向量。在他们的论文中,谷歌研究团队还提到了一种名为 TCAV(Testing with CAV)的新型线性可解释性方法,这种方法用方向导数(directional derivatives)来量化模型预测对 CAV 学习到的底层高级概念的敏感度。从概念上讲,定义 TCAV 有以下四个目标:
易于访问:用户几乎不需要 ML 专业知识。
- 相关评论
本类更新
-
11-26捕鱼大王:“中国非遗音乐数字工程”在京启动 为传统注入当代活力
-
11-19捕鱼大王:马来西亚百年华小设校史馆 盼华教精神代代传扬
-
11-8捕鱼大王:工信部:加强区块链核心技术研发 建立健全标准
-
11-5捕鱼大王:因证券虚假陈述 山西路桥被判决向股民赔偿700多万元
-
10-31捕鱼大王:卫健委:全国流感疫苗计划供应约2800万剂次 总体供应量充足
-
10-27捕鱼大王:世界职业拳王争霸赛重庆举行 中国拳手包揽3条金腰带
-
10-23捕鱼大王:王毅在中法高级别人文交流机制第五次会议上的发言(全文)
-
10-16捕鱼大王:福建多地人工增雨缓解农业旱情
-
10-13捕鱼大王:合肥一培训机构假借“安徽省青少年活动中心”名义招生被调查
-
10-10捕鱼大王:全媒体时代的海外华文媒体:转型中求生 融合中求变
本类推荐
本类排行
-
7-22捕鱼天王:科创板开市,为资本市场改革注入“加速度”
-
7-31捕鱼天王:致命客场让争冠变陪跑?8月工体两战成最后的翻身机会
-
7-13捕鱼天王:化工股成大赢家 下一个涨价风口在哪
-
7-17捕鱼天王:8款5G手机获3C认证:华为占据半壁江山 不见小米身影
-
9-12捕鱼天王:重提上海“法租界”,无印良品惹众怒!此前产品屡陷“致癌门”
-
8-10捕鱼天王:谷歌大脑提出概念激活向量,助力神经网络可解释性研究
-
8-6捕鱼天王:华人运通发布豪华智能纯电品牌高合HiPhi
-
8-23捕鱼天王:新版LPR与楼市无关或负相关
-
8-21捕鱼天王:销量仍未回暖 留给自主轿车的时间不多了
-
8-27捕鱼天王:中国广核两倍市盈率回归,创A股今年最大IPO