论坛交流
首页办公自动化| 网页制作| 平面设计| 动画制作| 数据库开发| 程序设计| 全部视频教程
应用视频: Windows | Word2007 | Excel2007 | PowerPoint2007 | Dreamweaver 8 | Fireworks 8 | Flash 8 | Photoshop cs | CorelDraw 12
编程视频: C语言视频教程 | HTML | Div+Css布局 | Javascript | Access数据库 | Asp | Sql Server数据库Asp.net  | Flash AS
当前位置 > 文字教程 > Flash AS编程教程
Tag:2.0,3.0菜鸟,游戏,,cs,技巧,源码,,文本,文字,函数,音乐,随机,拖拽,asp,access,xml,mc,视频教程

AS计算方面的错误

文章类别:Flash AS编程 | 发表日期:2008-10-6 18:08:05


AS在计算方面会有小小的偏差,而这份偏差可能会导致很多问题。那么通常出现的问题有哪几种呢?这里我把本身遇到和其他以前看过的凑起来

 

第一种

 

var a=(1/3);
trace(a); // 输出 0.333333333333333
trace(a*3); // 输出 1
到这里为止的计算没有问题,那么接下来看看所出现的问题
var b=a.toString(); //把a转换为文字
var c=Number(b); //再把文字转换为数字
trace(c); // 输出 0.333333333333333
trace(c*3); // 输出 0.999999999999999
看看问题是不是出现了呢?0.99999999999999
并不是我们的准确答案,这通常会发生在制作计算器(calculator)时会出现

 

第二种

 

 

 

var b = (4/3)-0.333333333333333;
var e = Number(String(b));
trace(b); //输出 1
trace(e); //输出文字转换数字 1
trace(String(b) == String(e)); //文字比较为 true
trace(b == e); // 数字比较为 false;
trace(b-e); //输出 2.22044604925031e-16

同上都是数字转换文字后再转换为数字的问题,解决方法是不要自己定义小数

 

var a = 1/3; //改用变量
var b = (4/3)-a;
var e = Number(b.toString());
trace(b); //输出 1
trace(e); //输出文字转换数字 1
trace(b.toString() == e.toString()); //文字比较为 true
trace(b == e); // 数字比较为 true;
trace(b-e); //输出 0
第三种

 

 

 

var a=10;
var b=Math.sqrt(a)*Math.sqrt(a);
trace(b);// 输出变量b为 10
trace(b==10); // 比较的时候却是 false;

这类复杂的计算容易出错

第四种

 

 

 

var a=1000*Math.PI/180;
var b=(Math.PI/180)*1000;
trace(a);// 输出 17.4532925199433
trace(b);// 输出 17.4532925199433
trace(a==b); //比较为 false
trace(a-b); //输出 -3.5527136788005e-15

在角度和弧度转换时的错误,最好角度值不要太大。角度在360内是绝对没有问题的

第五种

 

 

var a=(99.9-0.1);
trace(a==99.8);// 输出 false
这类比较严重,所以尽量避免使用。如果是非要这样判断的话,就把a转换为文字后比较才可以解决
第六种

 

var a = 10;
for (var i = 0; i<20; i++) {
a -= 0.1;
trace(a);
}

 

输出为
9.9
9.8
9.7
9.6
9.5
9.4
9.3
9.2
9.1
9
8.9
8.8
8.7
8.6
8.50000000000001
8.40000000000001
8.30000000000001
8.20000000000001
8.10000000000001
8.00000000000001
第七种

 

 

 

for (var i =-1; i<1; i+=0.1) {
trace(i);
}

输出为

 

-1
-0.9
-0.8
-0.7
-0.6
-0.5
-0.4
-0.3
-0.2
-0.1
-1.38777878078145e-16
0.0999999999999999
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
第八种

 

 

 

var a = 9999999999;
a += 0.000005;
trace(a);//9999999999.00001

大数目与小数点相加的错误

以上都是大家常会犯上的错误,逻辑上是没错但却又找不到问题所在。所以要以Flash做大量的计算的话还是需要考虑清楚
上一篇:{应用}updateAfterEvent实例解释 人气:3866
下一篇:{应用}AS2数组使用小结 人气:4381
视频教程列表
文章教程搜索
 
Flash AS推荐教程
Flash AS热门教程
看全部视频教程
购买方式/价格
购买视频教程: 咨询客服
tel:15972130058