炼丹杂谈:显存翻倍改装
发布网友
发布时间：2024-10-24 11:35
共1个回答
热心网友
时间：2024-11-10 06:27
炼丹过程中显存需求分析
在炼丹时，人们常问需要多少显存，答案往往是6G显存即可满足LoRA的需求，但此答案仅适用于512*512分辨率且batch size为1的情况。若需使用batch size 2或以上，则需要共享显存，这会导致速度下降，因为显卡需要通过CPU读取内存条，而内存条频率远低于显卡，GDDR6频率至少为1W4，DDR5超冒烟频率也仅为10000出头。
在实际操作中，batch size=1时收敛效果较差，训练过程不稳定。为了稳定训练，一般选用batch size=2，此时512*512分辨率下，8G显存已足够。然而，随着数据集的增加，如使用768*768分辨率素材，显存需求显著提升，即便不增加batch size，768*768分辨率所需的显存量也远多于512*512。若需增加batch size，12G显存可能已不够用。
对于内存预算有限的用户，可以考虑使用32G内存条，以分配8G共享显存给显卡。若内存预算仅16G，则难以分配足够的共享显存，因为训练时需使用13G内存。升级内存至16G相较于8G，价格增加约270元，性价比相对较高。
值得一提的是，对于DIY高手而言，2080Ti 22G显存的改装备受关注。通过将1G显存颗粒替换为2G颗粒，并调整显存识别电阻等组件，改装后的2080Ti 22G显存在稳定性上表现良好，受到画图用户欢迎。然而，改装3060ti等8G显卡成16G的尝试存在驱动兼容性问题，特别是对于非旗舰核心的3060ti、3070、3070ti等，驱动稳定性较差。相比之下，作为旗舰核心的2080ti改装后的驱动稳定性较高。
改装后的2080ti价格提升，改装300A核心22G涡轮版本价格约为2800元，高于原价2500元。如果进一步考虑散热升级，总价格将达到3100元。在此价位上，购买原生24G显存的3090将更具性价比，3090性能显著优于2080TI。然而，3090的功耗较高，需要更高规格的电源。
综上所述，预算充足的用户应选择3090，这将是更稳定且性价比更高的选择。即使是4090的原价，也物有所值。对于预算有限的用户，考虑2080ti 22G显存的改装并非最佳方案，建议直接选择性能更强的3090。
