R：如何将数据框拆分为训练集、验证集和测试集？-解网

问：

我正在使用 R 进行机器学习。按照标准的机器学习方法，我想将我的数据随机拆分为训练、验证和测试数据集。如何在 R 中做到这一点？

我知道有一些关于如何拆分为 2 个数据集的相关问题（例如这篇文章），但如何为 3 个拆分数据集做到这一点并不明显。顺便说一句，正确的方法是使用 3 个数据集（包括一个验证集来调整您的超参数）。

机器学习训练数据 R-FAQ

答：

17赞 stackoverflowuser2010 3/18/2016 #1

按照本文中所示的方法，下面是将一个数据帧划分为三个新数据帧的工作 R 代码，用于测试、验证和测试。这三个子集是不重叠的。

# Create random training, validation, and test sets

# Set some input variables to define the splitting.
# Input 1. The data frame that you want to split into training, validation, and test.
df <- mtcars

# Input 2. Set the fractions of the dataframe you want to split into training, 
# validation, and test.
fractionTraining   <- 0.60
fractionValidation <- 0.20
fractionTest       <- 0.20

# Compute sample sizes.
sampleSizeTraining   <- floor(fractionTraining   * nrow(df))
sampleSizeValidation <- floor(fractionValidation * nrow(df))
sampleSizeTest       <- floor(fractionTest       * nrow(df))

# Create the randomly-sampled indices for the dataframe. Use setdiff() to
# avoid overlapping subsets of indices.
indicesTraining    <- sort(sample(seq_len(nrow(df)), size=sampleSizeTraining))
indicesNotTraining <- setdiff(seq_len(nrow(df)), indicesTraining)
indicesValidation  <- sort(sample(indicesNotTraining, size=sampleSizeValidation))
indicesTest        <- setdiff(indicesNotTraining, indicesValidation)

# Finally, output the three dataframes for training, validation and test.
dfTraining   <- df[indicesTraining, ]
dfValidation <- df[indicesValidation, ]
dfTest       <- df[indicesTest, ]

0赞 Jonathan 9/5/2019

谢谢。完美工作！

0赞 Liselotte 7/28/2020

我可以使用它来拆分具有 3 组因变量的数据帧吗？

37赞 Frank 3/18/2016 #2

这种针对两组（使用）的链接方法不会自然扩展到三组。我会的floor

spec = c(train = .6, test = .2, validate = .2)

g = sample(cut(
  seq(nrow(df)), 
  nrow(df)*cumsum(c(0,spec)),
  labels = names(spec)
))

res = split(df, g)

要检查结果，请执行以下操作：

sapply(res, nrow)/nrow(df)
#    train     test validate 
#  0.59375  0.18750  0.21875 
# or...
addmargins(prop.table(table(g)))
#    train     test validate      Sum 
#  0.59375  0.18750  0.21875  1.00000

在前面的运行中，结果如下所示set.seed(1)

$train
                   mpg cyl  disp  hp drat    wt  qsec vs am gear carb
Mazda RX4         21.0   6 160.0 110 3.90 2.620 16.46  0  1    4    4
Mazda RX4 Wag     21.0   6 160.0 110 3.90 2.875 17.02  0  1    4    4
Datsun 710        22.8   4 108.0  93 3.85 2.320 18.61  1  1    4    1
Hornet Sportabout 18.7   8 360.0 175 3.15 3.440 17.02  0  0    3    2
Merc 240D         24.4   4 146.7  62 3.69 3.190 20.00  1  0    4    2
Merc 230          22.8   4 140.8  95 3.92 3.150 22.90  1  0    4    2
Merc 280          19.2   6 167.6 123 3.92 3.440 18.30  1  0    4    4
Merc 280C         17.8   6 167.6 123 3.92 3.440 18.90  1  0    4    4
Merc 450SE        16.4   8 275.8 180 3.07 4.070 17.40  0  0    3    3
Merc 450SL        17.3   8 275.8 180 3.07 3.730 17.60  0  0    3    3
Merc 450SLC       15.2   8 275.8 180 3.07 3.780 18.00  0  0    3    3
Fiat 128          32.4   4  78.7  66 4.08 2.200 19.47  1  1    4    1
Toyota Corolla    33.9   4  71.1  65 4.22 1.835 19.90  1  1    4    1
Dodge Challenger  15.5   8 318.0 150 2.76 3.520 16.87  0  0    3    2
AMC Javelin       15.2   8 304.0 150 3.15 3.435 17.30  0  0    3    2
Pontiac Firebird  19.2   8 400.0 175 3.08 3.845 17.05  0  0    3    2
Fiat X1-9         27.3   4  79.0  66 4.08 1.935 18.90  1  1    4    1
Porsche 914-2     26.0   4 120.3  91 4.43 2.140 16.70  0  1    5    2
Volvo 142E        21.4   4 121.0 109 4.11 2.780 18.60  1  1    4    2

$test
                    mpg cyl  disp  hp drat    wt  qsec vs am gear carb
Valiant            18.1   6 225.0 105 2.76 3.460 20.22  1  0    3    1
Cadillac Fleetwood 10.4   8 472.0 205 2.93 5.250 17.98  0  0    3    4
Toyota Corona      21.5   4 120.1  97 3.70 2.465 20.01  1  0    3    1
Camaro Z28         13.3   8 350.0 245 3.73 3.840 15.41  0  0    3    4
Ford Pantera L     15.8   8 351.0 264 4.22 3.170 14.50  0  1    5    4
Ferrari Dino       19.7   6 145.0 175 3.62 2.770 15.50  0  1    5    6

$validate
                     mpg cyl  disp  hp drat    wt  qsec vs am gear carb
Hornet 4 Drive      21.4   6 258.0 110 3.08 3.215 19.44  1  0    3    1
Duster 360          14.3   8 360.0 245 3.21 3.570 15.84  0  0    3    4
Lincoln Continental 10.4   8 460.0 215 3.00 5.424 17.82  0  0    3    4
Chrysler Imperial   14.7   8 440.0 230 3.23 5.345 17.42  0  0    3    4
Honda Civic         30.4   4  75.7  52 4.93 1.615 18.52  1  1    4    2
Lotus Europa        30.4   4  95.1 113 3.77 1.513 16.90  1  1    5    2
Maserati Bora       15.0   8 301.0 335 3.54 3.570 14.60  0  1    5    8

Data.frames 可以像或一样访问。res$testres[["test"]]

cut是基于共享进行分区的标准工具。

3赞 Gregor Thomas 3/18/2016

这很好，因为将始终使用所有行。的多次使用使某些行可能会丢失。返回列表当然非常好。floor()split

1赞 blacksite 5/18/2020

这是一个很好的答案，与其他答案相比，它更容易使用和测试。

-1赞 Funkwecker 7/5/2016 #3

我认为我的方法最简单：

idxTrain <- sample(nrow(dat),as.integer(nrow(dat)*0.7))
idxNotTrain <- which(! 1:nrow(dat) %in% idxTrain )
idxVal <- sample(idxNotTrain,as.integer(length(idxNotTrain)*0.333))
idxTest <- idxNotTrain[which(! idxNotTrain %in% idxVal)]

首先，它将数据拆分为 70% 的训练数据和其余的（idxNotTrain）。然后，其余部分再次拆分为验证数据集（占总数据的 33%，占总数据的 10%）和其余数据集（测试数据，占总数据的 66%，占总数据的 20%）。

12赞 pedram 9/23/2016 #4

其中一些看起来过于复杂，这里有一种简单的方法，使用样本将任何数据集拆分为 3 个，甚至是任意数量的集合。

# Simple into 3 sets.
idx <- sample(seq(1, 3), size = nrow(iris), replace = TRUE, prob = c(.8, .2, .2))
train <- iris[idx == 1,]
test <- iris[idx == 2,]
cal <- iris[idx == 3,]

如果你更喜欢可重用的代码：

# Or a function to split into arbitrary number of sets
test_split <- function(df, cuts, prob, ...)
{
  idx <- sample(seq(1, cuts), size = nrow(df), replace = TRUE, prob = prob, ...)
  z = list()
  for (i in 1:cuts)
    z[[i]] <- df[idx == i,]
  z
}
z <- test_split(iris, 4, c(0.7, .1, .1, .1))

train <- z[1]
test <- z[2]
cal <- z[3]
other <- z[4]

2赞 Frank 9/25/2016

这并不能保证子集的大小，因为成员资格在观测值之间是独立的。特别是，子集最终可能完全为空。

0赞 Sev 1/26/2017 #5

这是一个具有 60、20、20 拆分的解决方案，还可以确保没有重叠。但是，调整拆分很麻烦。如果有人能帮助我，我将不胜感激

   # Draw a random, stratified sample including p percent of the data    
   idx.train <- createDataPartition(y = known$return_customer, p = 0.8, list = FALSE) 
   train <- known[idx.train, ] # training set with p = 0.8
   # test set with p = 0.2 (drop all observations with train indeces)
   test <-  known[-idx.train, ] 
   idx.validation <- createDataPartition(y = train$return_customer, p = 0.25, list = FALSE) # Draw a random, stratified sample of ratio p of the data
   validation <- train[idx.validation, ] #validation set with p = 0.8*0.25 = 0.2
   train60 <- train[-idx.validation, ] #final train set with p= 0.8*0.75 = 0.6

4赞 Frank 1/27/2017

我不认为这是一个非常有用的答案，因为除了您可以运行代码之外，没有人可以运行代码。也许你应该在阅读了一些关于为这个网站编写好的 R 问题的指南后将其作为一个问题发布：stackoverflow.com/questions/5963269/......

0赞 Sev 1/27/2017

你是对的！我把它贴在这里 stackoverflow.com/questions/41880453/...

0赞 Frank 1/27/2017

好的，谢谢。然后，您可能希望删除此答案。

-2赞 Kalyan 7/10/2017 #6

让我知道这是否可行。只是一个简化的版本

sample_train<- sample(seq_len(nrow(mtcars)), size = floor(0.60*nrow(mtcars)))
sample_valid<- sample(seq_len(nrow(mtcars)), size = floor(0.20*nrow(mtcars)))
sample_test <- sample(seq_len(nrow(mtcars)), size = floor(0.20*nrow(mtcars)))

train     <- mtcars[sample_train, ]
validation<- mtcars[sample_valid, ]
test      <- mtcars[sample_test, ]

0赞 Wael 4/2/2021 #7

Caret还支持使用该函数进行数据拆分createDataPartition

如果结果为不平衡因子（>>>，反之亦然），则理想情况下，随机抽样发生在每个类中，并且应保留数据的整体类分布。就是这种情况yyesNocreateDataPartition

例：

library(caret)
set.seed(123)
table(iris$Species=="setosa")

## 
## FALSE  TRUE 
##   100    50

请注意，我们的结果不平衡

拆分（80% 训练和 20% 测试）：

trainIndex <- createDataPartition(iris$Species=="setosa", p = .8, 
                                  list = FALSE, 
                                  times = 1)
train = iris[ trainIndex,]
test = iris[-trainIndex,]

验证：

table(train$Species == "setosa")

## 
## FALSE  TRUE 
##    80    40

table(test$Species == "setosa")
## 
## FALSE  TRUE 
##    20    10

请注意，我们保留了整体类分布

上一个：dplyr left_join小于、大于条件

下一个：如何获取 R 中内置数据集的列表？

R：如何将数据框拆分为训练集、验证集和测试集？

R: How to split a data frame into training, validation, and test sets?

评论

评论

评论

评论

评论