将NumPy数组随机分为训练和测试/验证数据集的好方法是什么?与Matlab中的cvpartition或crossvalind函数类似。
cvpartition
crossvalind
如果要将数据集分成两半,可以使用numpy.random.shuffle,或者numpy.random.permutation需要跟踪索引:
numpy.random.shuffle
numpy.random.permutation
import numpy # x is your dataset x = numpy.random.rand(100, 5) numpy.random.shuffle(x) training, test = x[:80,:], x[80:,:]
要么
import numpy # x is your dataset x = numpy.random.rand(100, 5) indices = numpy.random.permutation(x.shape[0]) training_idx, test_idx = indices[:80], indices[80:] training, test = x[training_idx,:], x[test_idx,:]
有多种方法可以重复分区同一数据集以进行交叉验证。一种策略是从数据集中重复采样:
import numpy # x is your dataset x = numpy.random.rand(100, 5) training_idx = numpy.random.randint(x.shape[0], size=80) test_idx = numpy.random.randint(x.shape[0], size=20) training, test = x[training_idx,:], x[test_idx,:]
最后,sklearn包含几种交叉验证方法(k折,nave -n-out等)。它还包括更高级的“分层抽样”方法,这些方法创建了针对某些功能平衡的数据分区,例如,确保训练和测试集中的正例和负例比例相同。