转载:深度学习电脑配置

喜欢而已 提交于 2020-02-18 07:15:50

半夜睡不着,想谈谈自己对深度学习主机配置的一些经验,想自己diy深度学习硬件的朋友可以参考一下,因为本人也不是特别资深的电脑diy爱好者,所以很多地方也是一知半解,有错误请大家指正。首先我会谈几点必须注意的事项;然后我阐述一些配件选择的原则,因为硬件更新是很快的;最后会给出一下当下的配置清单。下面我们步入正题。

配置深度学习主机的注意事项:

1.一定计算好需要多大功率的电源!我们配置深度学习主机最核心的就是显卡,GPU的功耗往往很大,尤其我们经常使用两块以上的显卡。因此电源功率很重要,这是我们主机稳定工作的保障,我看到很多服务器甚至会选择双电源,但是我自己没有试过,不是很清楚双电源。

2.双显卡以上时必须注意处理器和主板的选择。如果是双显卡以上,那么pcie就面临是工作在x16还是x8的状态,这里应该是说带宽。我们在选择CPU是就要关注他们的pcie通道数,通道数大约40条以上两个GPU才会都工作在x16状态。另外可以选择双CPU的主板,这样就可以支持两个甚至更多的GPU工作在x16状态。

3.使用m.2固态硬盘时注意是否影响GPU工作在x16状态。这点也是个第二点有关的,就是pcie的通道资源是有限的,有的主板会写你使用m.2的固态会占用谁的资源,导致那个接口不能用。所以我一般会用sata那种接口。不过通道多的一般没什么影响,还是要看一下主板说明。

硬件选择原则

1.GPU选择

因为我们核心就是为了使用GPU,所以我们就先想好用几块GPU,什么型号,然后再去选择其他配件。GPU有许多参数,比如频率,位宽,cuda数。其中√深度学习影响大的大约是这几个参数,cuda核心数数,显存大小,位宽。所以我们选择时可以主要参考这三个参数,越大越好。另外大的原则是越新的架构会越好,比如10系列的会比9系列的好,因为架构上做了优化,具体的我不懂,比如gtx1080肯定比gtx980好,gtx1060和980就要看看了,这个可以参考网上的天梯图,因为我们大部分都是买1080ti或者泰坦,所以还是好比较的。如果是专门的计算卡Tesla,就要看刚才说的三大参数。有钱当然上计算卡,没钱就游戏卡。然后想看总几块显卡,这对后面硬件的选择影响很大。

2.CPU与主板选择

CPU与主板是挂钩的,所以放在意思说。影响我们cpu选择的就是gpu的数目。前面提到过一个概念pcie通道数。我们使用一个gpu时,基本不用考虑pcie通道数,目前主流的8带cpu都是没问题的,当然推荐使用i7系列了,因为我们的程序除了使用gpu,很多通用计算是在cpu上进行的,他大大影响了我们程序运行的速度。另外如果是多人使用的工作站还是推荐使用至强系列的e3或者e5,一个是稳定,另一个是一般核心和线程多。多人使用时一定要注意线程数,线程越多,每个人使用时就越流畅。如果是两个那么必须使用i9或者至强系列中通道数足够的芯片。两个以上的推荐使用至强系列的cpu,而且最好是两个cpu, i9应该最多带三个gpu,别太勉强人家了。最后我们一般也都会关注主频,当然主频越高越快,价格也越贵,我认为参考主流i5的主频是个好的基准。这点也为我们选择至强系列芯片提供了参考。关键点,线程,主频,pcie通道数。然后根据cpu原则主板,一般家用芯片我们会选择z系列主板,i7八代配z370,如果是一个gpu其实我觉得好的b系列也没问题,b360之类,因为为了稳定,我们不会超频,所以b系列完全够用。这里注意的就是供电相数,大家可以查一下,因为我也不懂,就觉得数越发越好。多显卡的话,x299等x系列主板,或者其他服务器主板,就是不太好买。对了,多显卡千万不要查那个交火!!!

3.内存

CPU和主板支持什么内存就插哪种。主要参数就是类型,ddr4,ddr3这种的表示。频率要看主板支持多大,在主板BIOS设置中要设置才会倍频,要不白买高频率的了。内存大小,当然越大越好!还是那句话看主板支持多大的内存。一般16g一个人用足够,多个人怎么也得32g吧。毕竟matlab有时还是会用到的,内存别太小。一般就是看威刚,金士顿,芝奇,海盗船这几个牌子,芝奇,海盗船用的晶元据说好一些,金士顿也有骇客神条,还是看预算吧,一般不会差太多钱。

4.散热器

推荐水冷吧,要是i5什么的风冷就行,服务器主板的话,不太懂,我还是点名海盗船,还有酷冷,九州。

5.电源

之前说过注意功率!电源核定功率的80%差不多等于你所有配件的总功率比较好。长城,振华,海韵,海盗船推荐使用,鑫谷,安钛克,先马也还可以。这里有时提到的的金牌,银牌,白金就是转换率的不同。金牌一般就够用了。

6.机箱

不是越大越好,风道合理就行,当然还是买全塔式的。选品牌的质量比较好,好吧,其实我一般就买先马的,我感觉便宜。

6.硬盘

一般固态和机械都要,固态装系统,机械买监视级别的,放数据用。LINUX的话我一般选择把home挂载到机械盘,乱七八糟的都放自己home里。别买杂牌子吧,颗粒不会太好,使用寿命短。

目前推荐配置表

1.单显卡常规推荐

这个配置整体已经算中等的,CPU这里是盒装价格,也可以考虑散片便宜一点,没什么区别,就是盒装保修三年吧。这里主板我们一般不超频,可以选用B360,具体的可以自己看一下,重点看一下内存条支持的大小和频率,供电相数。内存只能多不能再少,最后我会推荐大家一套更家庭化的低配,内存可以少一点。散热同价位可以选择九州风神的堡垒或者水元素,这两个没用过,也不好说怎么样,贵一些的就是美商海盗船的H100i,115i,150i等。电源这里之前提过推荐使用的牌子都可以入手,预算不够可以买还可以的几个牌子,功率这个算是高的,应该700w就可以,甚至650w也能带,所以我推荐的850w,以稳为主。硬盘可以根据需要调整大小,希捷的硬盘也可以。显卡的话也可以选用新出的2080ti或者泰坦,看预算吧。价格方面这个是我之前在京东看的,淘宝上的天猫旗舰店应该会便宜些,大家还是货比三家再下单。可以省不少钱。

2.双显卡普通配置

使用的i9带动双显卡,这里的显卡选用的微星,比较便宜,也可以换成华硕,技嘉等,现在新出了2080ti,这个价格可能已经不准了。两个泰坦的话应该问题也不大,电源能带起来。这里再补充一个服务器CPU的配置

3.三个及以上显卡

这种情况我还是推荐大家买品牌服务器,然后和他们沟通去定制。

这是京东上的一个没有GPU的配置,价格肯定是要贵一些,但是没办法,因微原则上要用到两个CPU,这类主板市场不太好买,洋垃圾很多,所以最好还是找一些代理商直接定制。两个GPU之前大约算个,4.7k左右吧,如果是RTX2080ti就要贵一些,也得50k多,要加双电源。这里参考我之前说的大原则,合理定制配置,这里能省的恐怕就是内存和硬盘的大小,不会省太多钱。最最后,给各位穷鬼提供一个我认为的家用深度学习最低配。血泪省钱史啊。

4.最低家用深度学习配置

这里是我的以1050ti为核心的最低配置,最好最低配置一个1060 6g的,会好很多,电源还是能带起来的。内存也可以多插一个8g。要是想更多内存条只能换主板了。主板方面可以选用稍微贵一下的低端z370,可以超频。要换I7的话,还是用水冷稳点。

最后一句话,有钱的话就随便买,舒心省心。有钱真的可以为所欲为

2018.11.13补充 :目前看RTX2080ti 性能要好 但是价格也昂贵 ,性价比还是低 。有游戏玩家称他们的显卡有翻车的, 建议预算允许的话 ,观察一段时间再入手 。另外2080和1080ti的话,cuda核数目我没有对比,主要是显存上差距,同样的程序占用的显存在不同显卡上应该是一样的。这点涉及到一些cuda和nvidia的底层调用,我没有查过资料,想入手2080代替1080ti的查一下这部分的资料,否则加大batch size时会出现溢出的现象。

2018.12.18补充:GTX1080ti新的基本断货,二手的现在很便宜,但是质量不敢保证,有一批之前挖矿的在鱼目混珠。建议用RTX2080代替吧,没办法了,价格比较相近,能上2080ti就上吧。另外最近看了一篇文章,讲了GPU在x8和x16状态下性能影响不大,所以普通的主板其实装两个或以上的GPU也是完全可以的,并不一定要服务器主板。这里还要考虑电源问题。
内存的大小,至少保持和显存大小一致,频率影响不大。

                        <li class="tool-item tool-active is-like "><a href="javascript:;"><svg class="icon" aria-hidden="true">
                            <use xlink:href="#csdnc-thumbsup"></use>
                        </svg><span class="name">点赞</span>
                        <span class="count"></span>
                        </a></li>
                        <li class="tool-item tool-active is-collection "><a href="javascript:;" data-report-click="{&quot;mod&quot;:&quot;popu_824&quot;}"><svg class="icon" aria-hidden="true">
                            <use xlink:href="#icon-csdnc-Collection-G"></use>
                        </svg><span class="name">收藏</span></a></li>
                        <li class="tool-item tool-active is-share"><a href="javascript:;"><svg class="icon" aria-hidden="true">
                            <use xlink:href="#icon-csdnc-fenxiang"></use>
                        </svg>分享</a></li>
                        <!--打赏开始-->
                                                <!--打赏结束-->
                                                <li class="tool-item tool-more">
                            <a>
                            <svg t="1575545411852" class="icon" viewBox="0 0 1024 1024" version="1.1" xmlns="http://www.w3.org/2000/svg" p-id="5717" xmlns:xlink="http://www.w3.org/1999/xlink" width="200" height="200"><defs><style type="text/css"></style></defs><path d="M179.176 499.222m-113.245 0a113.245 113.245 0 1 0 226.49 0 113.245 113.245 0 1 0-226.49 0Z" p-id="5718"></path><path d="M509.684 499.222m-113.245 0a113.245 113.245 0 1 0 226.49 0 113.245 113.245 0 1 0-226.49 0Z" p-id="5719"></path><path d="M846.175 499.222m-113.245 0a113.245 113.245 0 1 0 226.49 0 113.245 113.245 0 1 0-226.49 0Z" p-id="5720"></path></svg>
                            </a>
                            <ul class="more-box">
                                <li class="item"><a class="article-report">文章举报</a></li>
                            </ul>
                        </li>
                                            </ul>
                </div>
                            </div>
            <div class="person-messagebox">
                <div class="left-message"><a href="https://blog.csdn.net/qq_30263737">
                    <img src="https://profile.csdnimg.cn/7/3/7/3_qq_30263737" class="avatar_pic" username="qq_30263737">
                                            <img src="https://g.csdnimg.cn/static/user-reg-year/1x/5.png" class="user-years">
                                    </a></div>
                <div class="middle-message">
                                        <div class="title"><span class="tit"><a href="https://blog.csdn.net/qq_30263737" data-report-click="{&quot;mod&quot;:&quot;popu_379&quot;}" target="_blank">Ring__Rain</a></span>
                                            </div>
                    <div class="text"><span>发布了213 篇原创文章</span> · <span>获赞 105</span> · <span>访问量 12万+</span></div>
                </div>
                                <div class="right-message">
                                            <a href="https://im.csdn.net/im/main.html?userName=qq_30263737" target="_blank" class="btn btn-sm btn-red-hollow bt-button personal-letter">私信
                        </a>
                                                            <a class="btn btn-sm  bt-button personal-watch" data-report-click="{&quot;mod&quot;:&quot;popu_379&quot;}">关注</a>
                                    </div>
                            </div>
                    </div>
    

    半夜睡不着,想谈谈自己对深度学习主机配置的一些经验,想自己diy深度学习硬件的朋友可以参考一下,因为本人也不是特别资深的电脑diy爱好者,所以很多地方也是一知半解,有错误请大家指正。首先我会谈几点必须注意的事项;然后我阐述一些配件选择的原则,因为硬件更新是很快的;最后会给出一下当下的配置清单。下面我们步入正题。

    易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
    该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!