大家好，今天我想向大家介绍一个功能强大、简单、灵活、跨平台的图表、地图和仪表库：LiveCharts2。这是一个使用MIT许可证的.NET开源项目。
本文将介绍一个任务，即部署几个开源的模型，并将本地经过全量微调的模型与开源模型进行效果对比。 部署的开源模型包括：星火13B，Baichuan2-13B, ChatGLM6B等。 其他两个模型基于transformers架构封装，因此推理服务启动还是十分丝滑，但星火13B是基于Megatron-DeepSpeed框架实现，启动推理服务的过程中发现启动13B的显卡占用71G-78G，有些反直觉。 此文将整理开源星火13B的显存及内存排查并优化的整理过程，至于哪家开源模型效果好，不在此文的讨论范围内。 直观上来说，13B的模型，数据类型为bf16，显卡占用大概在26G左右，但星火13B直接占用70G+，不可思议。排查原因的过程中，少不了源码的调试与分析。在排查的过程中，启动推理服务的文件run_iFlytekSpark_text_generation.py中，model_provider方法是初始化模型并加载模型文件的方法。 其中，加载权重文件可以看到，加载state_dict时，直接将权重文件加载到显卡中，而非加载至CPU，然后再执行to方法，转移到GPU。因此该处是一个潜在的优化点。 再打入iFlytekSparkModel内部，词表Embedding层，线性转换层，等初始化weight时，也是直接将weight分配在GPU上运行。 优化方案： 1. 模型初始化时，模型的Embedding，线性层的权重weight均直接加载至GPU，因此可以优化为先将这些weight加载至CPU。改进的方式也很简单，从上面的源码层面，可以看到，当增加参数” use_cpu_initialization”，将使用CPU进行初始化权重，因此只需要在启动推理服务的脚本中增加” --use-cpu-initialization”参数即可。 2. 加载模型文件时，直接加载至GPU，然后run_iFlytekSpark_text_generation.py中的get_model方法中，当模型加载完成后，会进行分配至GPU以及FP16的转换的操作。因此，优化的方式也很简单，可以优化为先加载至CPU，再运行get_model中的默认分配至GPU，加载完后，再使用垃圾回收机制清除CPU占用的内存即可。 效果对比： (1) 优化前的显卡占用: 71.5G (2) 优化前的内存占用: 虚拟内存占用94.5G (3) 优化后的显卡占用: 26G (4) 优化后的内存占用: 43.1G 总结： 本文主要是针对开源星火13B的显存及内存占用过大的一个代码优化。核心思想是使用CPU预加载模型，再转换至GPU。后期如有遇到此类问题，可以借鉴之。
掌机好不好玩还是要看它们的游戏阵容，目前来说很多掌机都已经成为历史，但仍然是有值得入手一玩的掌机的，中文不中文主要还是看游戏，系统什么语言问题不大，下面我给你推荐几款现在还可以入手的掌机吧掌机推荐。 3DS 3DS应该是上一代掌机中最值得入手的掌机了，入门体验只需300元左右即可购入一套，当然是二手的了，全新机是没有资源的，这个说的是老小三也就是最早的版本，如果资金宽裕可以入手NEW 3DS或者LL，体验更好，3DS兼容NDS和GBA游戏，所以可玩的游戏资源非常庞大，一机在手可以够你玩上两年，游戏性也是最好的，要知道，NDS和GBA也都是一代掌机霸主。 PSP PSP这个掌机就更老了，这里只推荐以前没有玩过PSP的玩家入手，玩过的就算了，你要是以前没有玩过的话，PSP还是有很多游戏值得你去玩的，像是经典的战神系列，最终幻想，传说系列，合金装备，寂静岭，寄生前夜，王国之心，很多很多，除了分辨率略低一点外，游戏的画面效果比现在的手机还要强呢，而且掌机的操作体验不是手机触屏可以相比的，PSP再一个强大的功能就是各种老游戏机的模拟器了，算上这些的话游戏资源就更庞大了，够你玩上很久很久的。 SWITCH 你要是不差钱，愿意在掌机上花钱的话，这个最后说的却是首选，因为它是最新型的掌机，也是目前市场上唯一的主流掌机，LITE版是纯掌机，普通版不光可以作为掌机，更可以插电视玩，主机掌机二合一，非常划算，游戏效果也好，就是这个掌机买回来以后还要不断的投入资金购买游戏，不追求主流的话，上面两款掌机一样可以让你玩的非常开心，并且省钱，一次投入少量资金即可，你根据自己情况参考一下吧。 开源掌机和psp哪个好？ PSP就只是PSP，开源掌机包含的种类可就多了，主要差异在外观，配置性能还有价格上，既然题主你知道PSP，那么在这两者之间肯定选择PSP更好一些，下面给出几点理由。 开源掌机不如PSP性能好 这里只说市面常见的大部分开源掌机，个别高配的不提，其实很多开源掌机在硬件配置上都是强于PSP的，可是实际表现还是比不了PSP，这是为什么呢？因为开源掌机用的都是安卓系统，然后从安卓系统里再去运行各种模拟器，中间损耗的性能可不是小数目，而PSP作为专业的掌机，运行效率肯定是要高的多，哪怕是玩其他游戏机的模拟器，执行效率也比配置更高的安卓掌机要好，流畅性更好，低端的模拟器可能还不明显，PS模拟器就很明显看出差距了。 开源掌机并不便宜 目前二手市场的PSP，便宜的100多就可以买到一台，而性能差不多的开源掌机起码要五六百块钱吧？价格相差了好几倍不说，这五六百买的开源掌机并不比PSP玩起来顺手，并且不一定能比你买的二手PSP活的时间长，这些掌机做工方面非常一般，和PSP没的比，所以买新不买旧这个说法在这里并不适用。 后话 想了想也没有其他理由了，这两点应该够了，总之就是开源掌机不如PSP好用，不管是性能方面还是价格，都是PSP更加有优势，不过PSP由于出来太久了，买的时候还是要多多注意有没有什么问题，内在的不说一般没事，主要就是屏幕和按键的情况了，试机以后没有问题的话，就应该不会有问题了。
做菜时，是否觉得蔬菜的皮、籽这些“垃圾”不仅不能吃，处理起来也很烦人。不过，营养专家指出，很多被人们认为是“垃圾”的菜蔬“边角料”不仅能吃，还有很好的营养和养生功效。 须 有须的蔬菜不多，其中以玉米须最为人所熟悉。对于大多数年轻后生来说，吃玉米时候都会扔掉“不能吃”的玉米须，其实，他们不知这也是宝贝。广州医科大学附属第三医院临床营养科刘佳博士介绍，在中药里，玉米须又称“龙须”，有不错保健养生功效。“玉米须性味甘淡而平，入肝经、肾经、膀胱经，具有利尿消肿、平肝利胆、清热的功效，可用于急慢性肾炎、水肿、急性胆囊炎、胆道结石和高血压患者的日常饮食。”其实，在水煮玉米或煲玉米汤时，把玉米须也放进去，煲出的汤汁就有降低血脂、血压、血糖的功效，尤其适合高血脂、高血压、高血糖的人群饮用。在夏季饮用，还有祛湿、利水、消肿的作用。 而在营养学的范畴，玉米须也很有价值。刘佳说，玉米须富含脂肪油、树胶样物、皂甙、生物碱、谷甾醇等成分，有降压、利尿及降血糖作用。中医所说的利胆在营养学也有体现，就是能促进胆汁排泄，从而降低黏度，减少胆色素含量。 叶 也许你会奇怪，什么时候菜叶也成了“垃圾”?其实，许多人食用蔬菜时，多会取用其口味、口感较好的部分，例如吃萝卜就很少会吃萝卜叶，而吃莴笋也更多是吃其肥美的茎部。有哪些我们经常抛弃的叶子其实是宝贝呢? -萝卜叶 在超市见到的萝卜大多数已经被去头去尾，很少能见到萝卜的叶子。其实，萝卜的叶子和萝卜茎有开胃、止泻、止痢的功效。除了含有丰富的维生素B1、维生素B2之外，萝卜叶子还含有丰富的胡萝卜素。 -芹菜叶 吃芹菜你吃不吃叶子？不同饮食习惯的家庭可能答案并不一致。如果你从不吃芹菜叶，如今不妨试试把叶子也加入饮食菜单，因为芹菜叶的营养价值远远高于芹菜茎。刘佳介绍，有研究显示，芹菜叶中的多种营养成分含量(如钙、镁、维生素C等)均高于芹菜茎，更含有芹菜茎中没有的维生素E。另外，芹菜叶与芹菜茎一样，都有降压功效。 -莴笋叶 莴笋茎美味，往往让人忽视了其貌不扬的莴笋叶。但莴笋叶的营养价值不容忽视，其中的β-胡萝卜素比茎部高9.7倍，且含有大量的钙，如果弃之不吃非常可惜。 籽 用辣椒、瓜类做菜前有一个麻烦的工序，就是去籽。如果一不小心让这些“小东西”混了进菜肴里，不仅影响味道，还容易影响口感。但这些我们避之不及的小东西，有着其独特的价值。刘佳介绍，作为蔬果的“种子”，它的籽含有丰富的营养价值。例如辣椒的瓤和籽都含有非常丰富的维生素C，甚至比辣椒肉部分还要高。而最有价值的，则是其富含不饱和脂肪酸，对我们的心脑血管健康大有裨益。 // 广东人吃辣能力有限，因此用辣椒做菜时往往去掉辣椒籽，以求降低辣的等级。但你知道吗，辣椒的芳香烃正是来源于籽，遇到高温就非常香。现在大受欢迎的湘菜、川菜等菜肴，其辣椒原料中就从来少不了辣椒籽的身影。 而另外一类就是瓜子，如冬瓜子、南瓜子。我们用冬瓜烹饪煲汤，都会去掉冬瓜子。“研究发现，冬瓜子中含有皂甙、脂肪、瓜氨酸、不饱和脂肪酸、油酸等成分，这些成分可有效降低血液中脂肪和胆固醇的含量。”刘佳建议，对于这些有益的食材，即使不“一锅炖”，也可以留存下来，例如晾干后翻炒，当作瓜子来吃也是不错的选择。(本文部分观点来源于“西湖营养”，特此鸣谢）