第137章 方案顺利通过验证

第137章 方案顺利通过验证 (第2/2页)

郝成现在的思路就是：将小沙完全体作为全量模型，压阵，轻易不出，只有当问题确实解决不了了，才转到这里。
　　
　　然后就是分门别类，根据分类将小沙分别压缩成若干个各自领域和专业的小模型。
　　
　　后续，用户请求，就先经过甄别，由对应领域的小模型处理。
　　
　　比如，与人的交互，当然是语言模型最先接手，然后一步一步去处理。
　　
　　至于AI使用元素级应用、AI保障网络完全、AI开发应用和软件等等这些，第一步就可以省了——AI与机器的交互，还通过语言模型再转一道，除了消耗资源之外，毫无意义。
　　
　　……
　　
　　第一个阶段方案的雏形迅速的被设计了出来。
　　
　　这个阶段，郝成也不求精，就干一件事儿——裁剪，也就模型剪枝。
　　
　　比如，第一个要做的小模型：语言识别。
　　
　　那就把除语言识别能力以外的能力全剪掉，你只需要识别语音，转成文字就可以了，连理解都不需要，那是第二个模型的事儿。
　　
　　依照这样的理论，在郝成的指导下，小沙本“人”操刀，一个又一个的专业或者复合小模型迅速诞生。
　　
　　……
　　
　　翌日上午，一到公司，郝成就喊来了曹松：“将我们办公区这儿的这个算力服务器腾出来，负载节点直接停了就行，会自动分流到其他服务器。”
　　
　　这个算力中心还是最初来自华为，总体规模也比较小，现在原本承担的任务就不算多，郝成准备直接停掉它的对外服务，作为内部AI训练的实验来使用。
　　
　　也借此机会对自己使用的小沙和对外提供服务的小沙提供一个物理区隔。
　　
　　而今天，郝成要做的，就是试试小沙昨夜工作了一夜的成果。
　　
　　“对了，不要用小沙，你手动去操作。”
　　
　　“好的！”曹松应着，刚他还纳闷呢，像这种操作喊小沙就是一句话事儿，为什么还喊自己来干，郝成这么指示，他才恍然大悟：
　　
　　按照最近节点优先的原则，在这儿呼唤小沙，大概率接入的就是这个服务器，让小沙操作把这个运行它自己的服务器给停了，容易造成不可预知的后果。
　　
　　约莫半个小时过后，郝成接到了曹松已经处理完成的消息，迅速的让小沙配合自己，将一个又一个的具有专业能力的小模型分别部署。
　　
　　然后，将自己手机所用的设备，包括手机、平板、软件开发接口服务等直接跳过分发负载，指定指向创新创业中心这边这个服务的IP入口。
　　
　　“小沙，你怎么样？”郝成开口询问。
　　
　　【在呢，一切如常。】小沙回复道。
　　
　　郝成也是如往常一样呼唤着小沙，让他帮自己处理各种各样的事务、中转各种各样的审批和消息，一个上午下来，和往常并没有任何能够感知到的差异。
　　
　　“方案顺利通过验证！”
　　
　　郝成已经初步下了这个结论，而下一步就是要严谨的测试，看它究竟能够节省多少算力资源了。