RuntimeWarning: overflow encountered in short_scalars

血红的双手。 提交于 2019-12-07 19:00:29

RuntimeWarning: overflow encountered in short_scalars

 

在做一个较大数据量的加法时碰到这个问题,按理说python可以自动改变数据类型,把int型变成long甚至longlong,但这里没有。。。

 

一个可控的方法是用numpy提供的数据类型。(numpy是专门用于科学计算的库,里面提供了大量的方法、数据类型辅助科学计算)比如:

 

16位的int不够用可以声明为32位的:

 

 

import numpy as np
amplitude_amount = np.int32(0)

 

 他还有诸多类似的数据类型声明,这样就可以自由控制我们对内存和需求的平衡了!

 

 

a = np.int64(0)
b = np.long(0)
c = np.longlong(0)
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!