VB中使用穷举法循环取值计算时出现“实时错误‘6’，溢出”，是因为计算次数太多的缘故吗？怎么解决啊？
应该没有变量超出变量取值范围的，急希望各位大侠不吝赐教！
问题已解决 intturnnum = Round((10000 * sinteminalvoltage) / (4.44 * intfrequency * sinselfluxdens * 0.97 * (intcorewidth * intcorethickness / 100)), 0)
问题是在intcorewidth * intcorethickness这个表达式的值超出了integer取值范围引起的溢出。
所以,尽管你认为是在穷举,但事实上,穷举也要有个限度的.如果你要数据量大些,可以用 long ,double 这里.追问
我刚算的一个计算次数理论上为9250416次 不过次数并没有作为变量记录下来的，也没有发现其他定义或者其他的变体型变量超出其限定范围的。
追答看下源码吧再帮你查.
程序太长了
VB中使用穷举法循环取值计算时出现“实时错误‘6’,溢出”,是因为计算...
溢出就是超过数据了范围了比如 将 32768 保存到 integer 类型的变量中.所以,尽管你认为是在穷举,但事实上,穷举也要有个限度的.如果你要数据量大些,可以用 long ,double 这里.
如何用VB写 求24点或任意值的四则运算 支持负数
(2)、若运算符W为表达式结束符‘;’且运算符栈栈顶的运算符也为表达式结束符(即OPS(topp)=’;’),则处理过程结束,此时,操作数栈栈顶元素(即OVS(topv))即为表达式的值。 (3)、若运算符W为右括号且运算符栈栈顶的运算符为左括号(即OPS(topp)=’(‘),则将左括号从运算符栈谈出,且继续扫描下一个符号...
用VB怎么求24点算法啊?哪位电脑高手帮个忙啊!
(3)、若运算符W为右括号且运算符栈栈顶的运算符为左括号(即OPS(topp)=’(‘),则将左括号从运算符栈谈出,且继续扫描下一个符号。 (4)、若运算符的右不大于运算符栈栈顶的运算符(即OPS(topp)),则从操作数栈OVS中弹出两个操作数,设先后弹出的操作数为a、b,再从运算符栈OPS中弹出一个运算符,设为+,...
