我正在尝试使用此程序在 Python 3.2 中加载此处链接的 MNIST 数据集:
import pickle import gzip import numpy with gzip.open('mnist.pkl.gz', 'rb') as f: l = list(pickle.load(f)) print(l)
不幸的是,它给了我错误:
Traceback (most recent call last): File "mnist.py", line 7, in <module> train_set, valid_set, test_set = pickle.load(f) UnicodeDecodeError: 'ascii' codec can't decode byte 0x90 in position 614: ordinal not in range(128)
然后我尝试在 Python 2.7 中解码腌制文件,并重新编码。所以,我在 Python 2.7 中运行了这个程序:
import pickle import gzip import numpy with gzip.open('mnist.pkl.gz', 'rb') as f: train_set, valid_set, test_set = pickle.load(f) # Printing out the three objects reveals that they are # all pairs containing numpy arrays. with gzip.open('mnistx.pkl.gz', 'wb') as g: pickle.dump( (train_set, valid_set, test_set), g, protocol=2) # I also tried protocol 0.
它运行没有错误,所以我在 Python 3.2 中重新运行了这个程序:
import pickle import gzip import numpy # note the filename change with gzip.open('mnistx.pkl.gz', 'rb') as f: l = list(pickle.load(f)) print(l)
但是,它给了我和以前一样的错误。我怎样才能让它工作?
这是加载 MNIST 数据集的更好方法。
这似乎是某种不兼容。它试图加载一个“binstring”对象,该对象被假定为 ASCII,而在这种情况下它是二进制数据。如果这是 Python 3 unpickler 中的错误,或者是 numpy 对pickler 的“滥用”,我不知道。
这是一种解决方法,但我不知道此时数据有多大意义:
import pickle import gzip import numpy with open('mnist.pkl', 'rb') as f: u = pickle._Unpickler(f) u.encoding = 'latin1' p = u.load() print(p)
在 Python 2 中将其取消腌制然后重新腌制只会再次产生相同的问题,因此您需要将其保存为另一种格式。