佐藤/進捗/2008-11-04
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
単語検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
[[佐藤/進捗]]
-カーネル関数テーブル&br;
一次(直線)補間カーネル関数は誤差が大きい。&br;
16bitで計算しているのに、11bit精度しか出ていない。&br;
流体シミュレーションでは、演算精度が小さすぎると正しい解を得ることができない場合がある。&br;
カーネル関数の誤差が大きいため、解が発散してしまった。&br;
早急に2次補間テーブルを作る。
&br;
&br;
まだ手直しが必要だが2次補間で16bit精度くらいまで向上しそう。&br;
#ref(Error_spline_kernel_1and2.bmp)
終了行:
[[佐藤/進捗]]
-カーネル関数テーブル&br;
一次(直線)補間カーネル関数は誤差が大きい。&br;
16bitで計算しているのに、11bit精度しか出ていない。&br;
流体シミュレーションでは、演算精度が小さすぎると正しい解を得ることができない場合がある。&br;
カーネル関数の誤差が大きいため、解が発散してしまった。&br;
早急に2次補間テーブルを作る。
&br;
&br;
まだ手直しが必要だが2次補間で16bit精度くらいまで向上しそう。&br;
#ref(Error_spline_kernel_1and2.bmp)
ページ名: