• 主页
  • 课程

    关于课程

    • 课程归档
    • 成为一名讲师
    • 讲师信息
    同等学历教学

    同等学历教学

    免费
    阅读更多
  • 特色
    • 展示
    • 关于我们
    • 问答
  • 事件
  • 个性化
  • 博客
  • 联系
  • 站点资源
    有任何问题吗?
    (00) 123 456 789
    weinfoadmin@weinformatics.cn
    注册登录
    恒诺新知
    • 主页
    • 课程

      关于课程

      • 课程归档
      • 成为一名讲师
      • 讲师信息
      同等学历教学

      同等学历教学

      免费
      阅读更多
    • 特色
      • 展示
      • 关于我们
      • 问答
    • 事件
    • 个性化
    • 博客
    • 联系
    • 站点资源

      未分类

      • 首页
      • 博客
      • 未分类
      • 特征选择:互信息

      特征选择:互信息

      • 发布者 weinfoadmin
      • 分类 未分类
      • 日期 2021年9月9日
      • 评论 0评论

      专题介绍:R是一种广泛用于数据分析和统计计算的强大语言,于上世纪90年代开始发展起来。得益于全世界众多 爱好者的无尽努力,大家继而开发出了一种基于R但优于R基本文本编辑器的R Studio(用户的界面体验更好)。也正是由于全世界越来越多的数据科学社区和用户对R包的慷慨贡献,让R语言在全球范围内越来越流行。其中一些R包,例如MASS,SparkR, ggplot2,使数据操作,可视化和计算功能越来越强大。R是用于统计分析、绘图的语言和操作环境。R是属于GNU系统的一个自由、免费、源代码开放的软件,它是一个用于统计计算和统计制图的优秀工具。R作为一种统计分析软件,是集统计分析与图形显示于一体的。它可以运行于UNIX、Windows和Macintosh的操作系统上,而且嵌入了一个非常方便实用的帮助系统,相比于其他统计分析软件,R的学术性开发比较早,适合生物学和医学等学术学科的科研人员使用。

      1
      互信息定义

      定义1:离散随机变量X的熵H(X)

      对于一个二元问题,假设为1的概率为p,为0的概率为1-p,那么H(p)与p的关系如下图所示:



      定义2:一对离散随机变量(X,Y)的联合概率为p(x,y),联合熵H(X, Y)



      定义3:如果(X,Y) ~ p(x,y),条件熵H(Y|X)



      结论:H(X, Y) = H(X) + H(Y|X)

      证明如下:



      定义4:互信息I(X;Y)


      结论:I(X;Y) = H(X) – H(X|Y)

      证明:

      由于对称性

      I(X;Y) = H(Y) – H(Y|X)


      根据定义3,则有:

      I(X;Y) = H(Y) + H(X) – H(X, Y)

      互信息,也可以理解为变量X作用于Y的信息增益。

      信息增益越大,对目标变量Y越有价值。


      2
      R语言实现互信息的特征选择

      基于互信息的特征选择,可以使用离散的特征集或者连续的特征集,对于连续的特征集,会采用分箱的方法进行二元离散化,然后计算各个特征集与目标变量的互信息值(也是信息增益值),根据互信息的值降序排列后,常用Top-k或者Top-k-percent的特征选择策略完成特征的选择。


      参考代码:

      ##############################
      # 特征选择:基于信息论
      ##############################
      ## 利用信息论的知识
      ## 有如下结论:
      ## 1 H(X, Y) = H(x) + H(Y|X)
      ## 2 MI(X,Y) = H(Y) - H(Y|X)
      ## 联立1)和2)可知:
      ## MI(X, Y) = H(Y) + H(X) - H(Y|X) 
      ## MI(X, Y) 变量X和Y的互信息,也是在变量X作用下的信息增益
      ## 特征选择策略:信息增益越大,这个变量对Y越有价值

      ## 参考代码:
      # R 包
      library(mlbench)
      library(FSelector)
      # 数据导入
      data("PimaIndiansDiabetes")
      # 变量类型查看
      sapply(PimaIndiansDiabetes, class)
      # 结论:
      # 目标变量diabetes是因子变量,即类别变量
      # 其它变量是数值型变量,即连续变量
      # 计算各个变量与目标变量的信息增益,即互信息值
      mi <- information.gain(diabetes ~ ., data = PimaIndiansDiabetes)
      print(mi)

      # 根据mi的值对变量集做排序
      row.names(mi)[order(mi, decreasing = TRUE)]
      # 选择特征集
      subset <- cutoff.k(mi, 2)
      print(subset)


      思考题:

      1 互信息怎么计算?有什么作用?


      文章推荐

      1特征选择

      2特征选择:卡方检验

      3特征选择:相关性

      你点的每个在看,我都认真当成了喜欢

      请关注“恒诺新知”微信公众号,感谢“R语言“,”数据那些事儿“,”老俊俊的生信笔记“,”冷🈚️思“,“珞珈R”,“生信星球”的支持!

      • 分享:
      作者头像
      weinfoadmin

      上一篇文章

      PCA in R
      2021年9月9日

      下一篇文章

      特征选择:相关性
      2021年9月9日

      你可能也喜欢

      2-1675088548
      lncRNA和miRNA生信分析系列讲座免费视频课和课件资源包,干货满满
      30 1月, 2023
      9-1675131201
      如何快速批量修改 Git 提交记录中的用户信息
      26 1月, 2023
      8-1678501786
      肿瘤细胞通过改变CD8+ T细胞中的丙酮酸利用和琥珀酸信号来调控抗肿瘤免疫应答。
      7 12月, 2022

      留言 取消回复

      要发表评论,您必须先登录。

      搜索

      分类

      • R语言
      • TCGA数据挖掘
      • 单细胞RNA-seq测序
      • 在线会议直播预告与回放
      • 数据分析那些事儿分类
      • 未分类
      • 生信星球
      • 老俊俊的生信笔记

      投稿培训

      免费

      alphafold2培训

      免费

      群晖配置培训

      免费

      最新博文

      Nature | 单细胞技术揭示衰老细胞与肌肉再生
      301月2023
      lncRNA和miRNA生信分析系列讲座免费视频课和课件资源包,干货满满
      301月2023
      如何快速批量修改 Git 提交记录中的用户信息
      261月2023
      logo-eduma-the-best-lms-wordpress-theme

      (00) 123 456 789

      weinfoadmin@weinformatics.cn

      恒诺新知

      • 关于我们
      • 博客
      • 联系
      • 成为一名讲师

      链接

      • 课程
      • 事件
      • 展示
      • 问答

      支持

      • 文档
      • 论坛
      • 语言包
      • 发行状态

      推荐

      • iHub汉语代码托管
      • iLAB耗材管理
      • WooCommerce
      • 丁香园论坛

      weinformatics 即 恒诺新知。ICP备案号:粤ICP备19129767号

      • 关于我们
      • 博客
      • 联系
      • 成为一名讲师

      要成为一名讲师吗?

      加入数以千计的演讲者获得100%课时费!

      现在开始

      用你的站点账户登录

      忘记密码?

      还不是会员? 现在注册

      注册新帐户

      已经拥有注册账户? 现在登录

      close
      会员购买 你还没有登录,请先登录
      • ¥99 VIP-1个月
      • ¥199 VIP-半年
      • ¥299 VIP-1年
      在线支付 激活码

      立即支付
      支付宝
      微信支付
      请使用 支付宝 或 微信 扫码支付
      登录
      注册|忘记密码?