【３Ｄオンラインゲーム】　初自作です。成るだけローコスト（抹茶ろんさん）

とりあえず、電源はせめて最近人気の激安HEC700Wくらいにはしたい所でしょうか。

GTS250とGTX260はチップそのものから全く違います。
「バリバリ」と言うならGTX260にしておいて間違いは無いと思います。
予算がきついならi5-750でいいんじゃないか、とも思いますが、エンコードをするならHTの有無も効いてくるので無理に変更は勧めません。

問題はケース。確かに静かですが、完全な窒息ケースです。
熱量の大きいパーツを積んでの運用は、ケース内温度がかなり高くなり半ば人柱的なPCになります。GTX260自体は載るようですが。
個人的には頑張ってみて欲しいですが、他人に勧める事はできませんね。

とりあえずOSが入っていないようですが。ＯＳを入れない今の段階でも
予算オーバー（１１万円）ですね。ある程度コストダウンをしていきましょう。
ｉ７＞ｉ５　多少速度が落ちますが、足りない場合ＯＣも簡単に出来るのでｉ７を安く買ったつもりになれます。-７０００円
逆にバリバリエンコードをする場合、ＣＰＵがどんどん熱くなるのでＣＰＵクーラー
を変更しておいたほうがよいです。＋３５００円
当方Sileo500を愛用していますが、静音性能は最高ですが、窒息ケースでもあるので
やはりAntec Soloあたりがいいでしょう。こちらは静音性能は落ちるかわりに冷却性能が
少しあがります。メモリは現在絶賛高騰中ですので、お早めに。
ディスプレイはWUXGAでもでるので問題ありません。
電源はHEC700wでいいでしょうね。

でもＯＳなしで１０万円は切れず。高性能静音モニタ付きで１０万円は鬼門ですね。

今で、１１万ほど（OS抜き）なので、コストダウンするなら
CPUをi5-750に
グラボは、RADEON HD5770
この状態にOSを足すと１１万オーバーですね
更に落とすなら
マザボをMSIやBIOSTARの１万円クラスに
ケースを５〜６千円の物に
これで、１１万円くらいと思います

３Ｄゲームをバリバリといわれますが、どの程度をバリバリと認識したらよいのかよくわかりません。
されたいゲームがあるなら、ＰＣショップで推奨スペックを販売してるので、そちらの方がいいように思います
例えばこんなの
http://www.faith-go.co.jp/pc/game/
ゲームバリバリは、発熱を伴います、これと静音性は、相反する項目です。
両立るすには、それ相応のコストがかかると思います
コストが足枷になると品質は、落ちますしね
１０万前後ならバリバリではなく、そこそこで我慢するのが無難かと思います

3Dゲームといってもﾋﾟﾝｷﾘです。
出たばかりの最新の３Dゲームをバリバリやりたいなら、おとなしく予算を増やしたほうがいいし、MHFやパンヤ等の３Dゲームをやるにはオーバースペックです。

あと電源に関して、安物と高い物の違いは中を空けてみるとよく分かるんですが、安物は中がぐちゃぐちゃ、ハンダが適当だったりと普段は目に見えないところに違いが出ていますので最低でも1万円↑の物を買うほうが不安は少ないです。

また、OSに関して記述が見られませんが、市販のPCについてきたものを流用することは基本的にNGです。加えてゲームによっては７とかで動かないこともあるので、やりたいゲームをしっかり決めて、それに見合うマシンを作る！として各パーツの選考をやり直してみてはいかがでしょう？

最後に動画のエンコードですが、各パーツ一番高い物を使っても時間がかかるものなので
ある程度妥協したほうが全体的に安上がりですみます。

予算が10万円
3Dゲームをバリバリ（？）
「3Dオンラインゲーム」
ケースは静音

ものの見事に矛盾してますね。
予算10万に抑えるとするなら
CPUはi5-750、GPUはGTS250やRadeonのHD5670等1万円前後のでしょうか。
3Dオンラインゲームや最新FPSもCrysisのような一部のもの以外は快適にプレーできます。
これで2万弱節約になるのでOSいれても10万前後には収まるとおもいます。
この上記GPUにするなら電源は550Wの
http://kakaku.com/item/K0000078556/
この辺でも十分です。値段も同じくらい