小编典典

为numpy数组哈希的最有效属性

python

我需要能够将A存储numpy arraydict缓存中。哈希速度很重要。

array代表indicies,所以在对象的真实身份并不重要,值。交互性不是问题,因为我只对当前值感兴趣。

为了将其存储在中,我应该哈希什么dict

我当前的方法是使用str(arr.data),它比md5我的测试更快。


我从答案中合并了一些示例,以了解相对时间:

In [121]: %timeit hash(str(y))
10000 loops, best of 3: 68.7 us per loop

In [122]: %timeit hash(y.tostring())
1000000 loops, best of 3: 383 ns per loop

In [123]: %timeit hash(str(y.data))
1000000 loops, best of 3: 543 ns per loop

In [124]: %timeit y.flags.writeable = False ; hash(y.data)
1000000 loops, best of 3: 1.15 us per loop

In [125]: %timeit hash((b*y).sum())
100000 loops, best of 3: 8.12 us per loop

对于这种特定用例(少量索引),似乎arr.tostring提供了最佳性能。

尽管对只读缓冲区进行散列操作本身很快,但是设置可写标志的开销实际上使其变慢了。


阅读 307

收藏
2021-01-20

共1个答案

小编典典

如果将其设为只读,则可以简单地对基础缓冲区进行哈希处理:

>>> a = random.randint(10, 100, 100000)
>>> a.flags.writeable = False
>>> %timeit hash(a.data)
100 loops, best of 3: 2.01 ms per loop
>>> %timeit hash(a.tostring())
100 loops, best of 3: 2.28 ms per loop

对于非常大的阵列,hash(str(a))速度要快得多,但随后只考虑了阵列的一小部分。

>>> %timeit hash(str(a))
10000 loops, best of 3: 55.5 us per loop
>>> str(a)
'[63 30 33 ..., 96 25 60]'
2021-01-20