「長時間稼働させっぱなし」に向いたPCを探しています。選び方についてご教示下さい。

そういうのは業務用なので、PC、（パーソナルコンピューター、個人用コンピューター）ではなく、サーバーなどを使います。
電源やHDなどに耐久性の高い部材、また、ホットスワップで交換可能な2重電源などになっています。パーツ単体だと数倍の値段がついてますが。もちろんピンキリですけど。
http://nttxstore.jp/_II_HP14559029　（2万以下）
http://h20547.www2.hp.com/is-bin/INTERSHOP.enfinity/WFS/Directplus-Customer-Site/ja_JP/-/JPY/BrowseCatalogForBusiness-Start?CategoryName=SERI:2709　（20万以上）

できればVPSがいいと思いますよ。
機材購入もせず、熱の心配もせず、電源とか盗難の心配もせず。

物理的に購入するとなると、やはりサーバ用途で冷却効率のよいもの、CPUの発熱が少ないもの。
OSはwindows serverでしょうか？
つけっぱなしマシンを置く場合、本体も大切ですが、社内の置き場の善し悪しにも左右されやすいです。

　企業用の WS（Work Station）でお探しになられるのが良いと思います。
　たとえば DELL 社製のコンピュータであれば、個人用に Dimension や Inspiron というシリーズがありますが、これの企業用 WS に相当するのが Optiplex や Precision というシリーズです。
　DELL だけでなく、東芝や富士通、NEC などの国産メーカーも、それぞれ企業用 WS を製造販売しています。
　企業用 WS と言っても、ほとんど PC と変わりません。PC と異なるのは、高品質で、枯れた技術の部品を使った、「手堅い構成」である、という点です。そのため、２４時間３６５日稼働に向いています。
　また、企業用 WS は、ほぼ全てのメーカーにおいて、ほぼ全ての機種が、デバイスドライバを各企業のサイトで無償公開している等、サポート体制が充実しているのも、個人用 PC に比べて良い点です。
　もちろん、さらに１段上の「サーバマシン」を使えば、安定性は更に増すのですが、サーバマシンは場合によってはグラフィック機能が標準で非搭載であったりして、「PC として使う」には使い勝手が劣る面もあります。

社内ＳＥとして業務があるなら、システムインテグレータの勉強をするのがいいですが、他の仕事の片手間でしかないのならそういう業者さん（大塚商会とか）に相談するのが手っ取り早いと思いますよ。予算とやりたいことを伝えて何ができるかだけでも聞いてみたらどうですか？

PCでなくサーバー、WS(ワークステーション)で探すというのは既に回答されていますね。

そのなかでも社内のPCを法人契約で購入・リース・保守契約しているなら
その会社経由で相談すると話が早いと思います。
サーバー機一台用の(セキュリティ)ラックの取扱いもあります。

URLは一例として富士通の法人向けサイトです。
[富士通直販WEB MART] PCサーバPRIMERGY（プライマジー） : 富士通
もし個人のPCやHUBなど普通に量販店で購入している場合は
使っているコピー機/複合機の営業さんに相談という手もあります。