手机浏览器扫描二维码访问
第137章方案顺利通过验证
“老婆,你先带着女儿玩一会儿,我去书房处理点儿工作,就一会儿!”
思路涌来,郝成回到家不工作的承诺又要食言了。
“十点!”
宁荟能怎么样呢,还不是得由着他。
“用不了,最多一个小时!”
郝成伸出一根手指指着灯:“我保证!”
“德性!”
宁荟笑骂了一句,心里也是感叹:忙点就忙点吧,至少比起去年,这看起来开朗了许多。
……
今天确实不费什么脑筋,因为相关的知识早就在从前整理过了,只是当初没有重视。
来到书房,稍微翻一下之前记录下来的东西,郝成的思如泉涌,一下子就全都冒了出来。
如果说模型的训练提升是在做加法,让模型变得更大更强,那裁切、量化、蒸馏就是在做减法。
很多人可能会有疑问,做减法,那不是让模型变得更弱了吗?
理论确实是这样,但有时候,弱不弱的其实不是特别重要,只要使对了劲儿,一样能造的嗷嗷叫,发挥很大的作用。
比如,有些神经元节点的权重非常小,对模型加载信息的影响微乎其微,切掉它们,精度不会降太多,但却能大大的减少资源消耗。
还有,像小沙这样全量全知全能的模型,其部署和每一次的相应运算推理,都需要消耗较大的算力资源。
但事实上,每一次都是确有必要的吗?
显然并不是!
就拿小沙现在应用最广的软件开发能力来说,它就只需要精准需求的理解以及代码编写能力就够了,至于慢慢在增强的情感映射、主观判断等能力映射这些,那就完全没有必要!
不仅消耗了更多的算力,还拖慢了相应速度。
而且即便是需要的部分,也可以分层去处置:
还是拿软件开发能力来说,最粗略的,那就可以分为两部分:一部分是需求理解,另一部分是根据需求去做开发。
而这第二部分,那就只需要一个“软件开发”
的行业模型就够了。
所以,先在输入端就将用户需求分解,然后将小沙按需裁切为软件开发、法律服务、安全服务等小模型,根据分解的需求去调用其中一个,或者几个。
就比如之前被视为经典案例的小沙第一次庭审,那次的应对也不过是需要三个基础能力:语义理解、法律服务、软件开发能力。
只有极少数的情况,才需要去动用小沙的全量模型。
即便需要全量模型,全程调用全量模型,和只在有需要的步骤去调用全量模型,消耗的资源也是大相径庭的,但结果可能是一模一样。
……
“训练提升难住我了,裁切蒸馏还不是手拿把掐!”
深夜课堂学了这么久,郝成还是有几把刷子的,微意识体的模型训练力有未逮,但压缩郝成还是有办法的。
更何况,郝成还有小沙这个绝佳的辅助工具。
媚人小说主角陆慕言苏溶月 太子妃位被夺我转身嫁太子他爹无防盗章节 孽海by言淼宋遇宁翠微居完整版 陆慕言苏溶月笔趣阁免费阅读 主角叫郝成的小说 笼中雀 淼淼by戴淼淼戴旭翠微居完整版 辰小序原创新书裁员后我成了科技教父 裁员后我成了科技教父郝成免费阅读无错版 孽海海棠文无删减 孽海 谁又偷猫肉小说主角戴淼淼戴旭 言淼宋遇宁笔趣阁免费阅读 裁员后我成了科技教父无防盗章节 和离之后 勤劳的小野猫小说主角言淼宋遇宁 笼中雀海棠文无删减 主角叫陆凌瑶的小说 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 笼中雀by陆慕言苏溶月翠微居完整版
全能鬼灵附身系统简介emspemsp关于全能鬼灵附身系统附身赵子龙,长坂坡上枪挑曹军百万,附身孙悟空,棍破如来掌中佛国,附身百鬼,融合万道,纵横无敌新书,都市天才道长已发,天才横推流,欢迎阅读。...
穿越斗罗大陆,枪武魂。看主角如何把武魂进化成北欧神话中的奥丁神枪,冈格尼尔。没有外挂就自己给自己创造外挂。尽显极北之地风采。PS不舔唐三。不拜大师。游离于团队之外。第一女主水冰儿。如果您喜欢斗罗之我不要当枪兵,别忘记分享给朋友...
身为皇帝最宠爱的公主,顾清沫在京城可谓是顺风顺水,无人敢惹,就连未婚夫也是京城数一数二的人物。令人没想到的是,她的未婚夫竟在婚礼前夕带回一个已有身孕的女子,还要娶她进门。顾清沫哪里受的了这种委屈,当即让父皇降了他的官职,并和他解除婚约。就在皇帝大办宴席准备为女儿重选良婿的时候,一群突然闯进来的刺客夺走了顾清沫的性命...
超能神警简介emspemsp关于超能神警平凡小警察拥有了时间暂停的异能,舒服滋润的小日子,就这样幸福的降临了,救人扶弱惩恶扬善。追凶破案匡扶正义。立功升职名利双收。左拥右抱咳咳这个不让说。匪夷所思的案...
星际指挥官在一次虫潮中意外死亡,穿到了一个叫夏绾娘的痴傻少女身上,谁知道刚穿越就被继母换亲嫁给了山脚下的猎户。本以为嫁猎户挺好,顿顿有肉吃,可是谁知道当她来到夫家才真正了解,这猎户家里不止穷的叮当响,还有一群拖油瓶!三个身体有缺陷的孩子,老大眼盲,老二手残,老三是个小哑巴,还有毁了容的夫君村里人都觉得她倒大霉了...
前世作为社畜,月薪3500,天天被pua,最后加班猝死在工位上,重生宝可梦世界,继承了一个破败的小农场,首先要解决的是不要被饿死,那能咋办,挥起锄头,加油干,作为华夏子民,难道还能被种地难倒,话说,这个种子是啥?...