• 主页
  • 课程

    关于课程

    • 课程归档
    • 成为一名讲师
    • 讲师信息
    同等学历教学

    同等学历教学

    免费
    阅读更多
  • 特色
    • 展示
    • 关于我们
    • 问答
  • 事件
  • 个性化
  • 博客
  • 联系
  • 站点资源
    有任何问题吗?
    (00) 123 456 789
    weinfoadmin@weinformatics.cn
    注册登录
    恒诺新知
    • 主页
    • 课程

      关于课程

      • 课程归档
      • 成为一名讲师
      • 讲师信息
      同等学历教学

      同等学历教学

      免费
      阅读更多
    • 特色
      • 展示
      • 关于我们
      • 问答
    • 事件
    • 个性化
    • 博客
    • 联系
    • 站点资源

      R语言

      • 首页
      • 博客
      • R语言
      • RForML之核心包:gbm

      RForML之核心包:gbm

      • 发布者 weinfoadmin
      • 分类 R语言
      • 日期 2016年12月27日
      测试开头

      本文介绍R语言做机器学习的核心包:gbm

      RForML之核心包:gbm

      一 gbm简介

      gbm是通用梯度回归模型(Generalized Boosted Regression Models)简称。
      gbm扩展了Freund and Schapire的Adaboost算法和Friedman的梯度提升机(gradient boosting machine)。

      二、安装和加载gbm包

      代码如下

      1. if(!suppressWarnings(require('gbm')))

      2. {

      3.  install.packages('gbm')

      4.  require('gbm')

      5. }

      三、gbm的应用

      利用gbm解决分类问题,并且和决策树方法进行对比分析,案例介绍如下。

      1 第一步,生成数据集

      1. set.seed(1234)

      2. n <- 2000

      3. X <- matrix(rnorm(10*n), n, 10)

      4. y <- rep(-1, n)

      5. y[apply(X*X, 1, sum) > qchisq(.5, 10)] <- 1

      6. dimnames(X)[[2]] <- c("x1", "x2", "x3", "x4", "x5", "x6", "x7", "x8", "x9", "x10")

      7. train.data <- as.data.frame(X)

      8. train.data$y <- y

      2 第二步,利用决策树算法从train.data中学习规则集

      1. library(rpart)

      2. rpart.fit <- rpart(as.factor(y) ~ . , data = train.data)

      3 第三步,利用gbm包的adaboost算法从train.data中学习模型

      1. library('gbm')

      2. train.data$y1 <- ifelse(train.data$y == -1, 0, train.data$y)

      3. adaboost.gbm <- gbm(y1 ~ ., data=train.data, dist="adaboost", n.tree = 50, interaction.depth = 10)

      说明:因为AdaBoost算法要求响应值为0和1,故把变量y的值进行变换处理

      4 第四步,模型性能评价

      1. confusion <- function(a, b){

      2.  tbl <- table(a, b)

      3.  mis <- 1 - sum(diag(tbl))/sum(tbl)

      4.  list(table = tbl, misclass.prob = mis)

      5. }

      6. dim(train.data)

      7. ##rapart算法模型性能

      8. confusion(as.factor(train.data$y), predict(rpart.fit, train.data, type='class'))

      9. ##AdaBoos算法模型性能

      10. confusion(train.data$y1 > 0, predict(adaboost.gbm, train.data, n.trees = 25) > 0)

      结果如下:
      决策树算法的错误率是:0.211
      Adaboos算法的错误率,在采用25棵树做决策判断的时候,错误率是0

      参考资料:

      1 gbm包文档:https://cran.r-project.org/web/packages/gbm/gbm.pdf
      2 Adaboost算法:https://en.wikipedia.org/wiki/AdaBoost
      3 GB算法:https://en.wikipedia.org/wiki/Gradient_boosting

      您在阅读中,有什么建议或者想法,请留言。

      如果您觉得本文有收获,请小额赞赏,让我有动力继续写出高质量的文章。

      RForML之核心包:gbm


      数据人网是数据人学习、交流和分享的平台http://shujuren.org 。专注于从数据中学习。
      平台的理念:人人投稿,知识共享;人人分析,洞见驱动;智慧聚合,普惠人人。
      您在数据人网平台,可以1)学习数据知识;2)创建数据博客;3)认识数据朋友;4)寻找数据工作;5)找到其它与数据相关的干货。
      我们努力坚持做原创,分享和传播有价值的数据知识!
      我们都是数据人,数据是有价值的,坚定不移地利用数据价值创造价值!


      点击【阅读原文】,进入【数据人网】

      测试结尾

      请关注“恒诺新知”微信公众号,感谢“R语言“,”数据那些事儿“,”老俊俊的生信笔记“,”冷🈚️思“,“珞珈R”,“生信星球”的支持!

      • 分享:
      作者头像
      weinfoadmin

      上一篇文章

      R语言常用机器学习包
      2016年12月27日

      下一篇文章

      ISLR读书笔记0:一起读ISLR
      2016年12月28日

      你可能也喜欢

      3-1665801675
      R语言学习:重读《R数据科学(中文版)》书籍
      28 9月, 2022
      6-1652833487
      经典铁死亡,再出新思路
      16 5月, 2022
      1-1651501980
      R语言学习:阅读《R For Everyone 》(第二版)
      1 5月, 2022

      搜索

      分类

      • R语言
      • TCGA数据挖掘
      • 单细胞RNA-seq测序
      • 在线会议直播预告与回放
      • 数据分析那些事儿分类
      • 未分类
      • 生信星球
      • 老俊俊的生信笔记

      投稿培训

      免费

      alphafold2培训

      免费

      群晖配置培训

      免费

      最新博文

      Nature | 单细胞技术揭示衰老细胞与肌肉再生
      301月2023
      lncRNA和miRNA生信分析系列讲座免费视频课和课件资源包,干货满满
      301月2023
      如何快速批量修改 Git 提交记录中的用户信息
      261月2023
      logo-eduma-the-best-lms-wordpress-theme

      (00) 123 456 789

      weinfoadmin@weinformatics.cn

      恒诺新知

      • 关于我们
      • 博客
      • 联系
      • 成为一名讲师

      链接

      • 课程
      • 事件
      • 展示
      • 问答

      支持

      • 文档
      • 论坛
      • 语言包
      • 发行状态

      推荐

      • iHub汉语代码托管
      • iLAB耗材管理
      • WooCommerce
      • 丁香园论坛

      weinformatics 即 恒诺新知。ICP备案号:粤ICP备19129767号

      • 关于我们
      • 博客
      • 联系
      • 成为一名讲师

      要成为一名讲师吗?

      加入数以千计的演讲者获得100%课时费!

      现在开始

      用你的站点账户登录

      忘记密码?

      还不是会员? 现在注册

      注册新帐户

      已经拥有注册账户? 现在登录

      close
      会员购买 你还没有登录,请先登录
      • ¥99 VIP-1个月
      • ¥199 VIP-半年
      • ¥299 VIP-1年
      在线支付 激活码

      立即支付
      支付宝
      微信支付
      请使用 支付宝 或 微信 扫码支付
      登录
      注册|忘记密码?