AI外呼是典型的SAAS服务，一些企业可能需要定制话术、对话流程、知识库、机器人训练等。这些环节拆开收费，几千到几万不等。但事实上，很多时候他们系统不会单独收费，只会按照对话时长收费。,因为庞大的人口基数和需求，国内确实有诸多场景可以提高效率，比如AI面试、营销等等。朱啸虎称，用LLaMA训练两三个月，至少做到人类Top30水平，马上去掉50%人工销售。,在国内，诸如京东这样的企业早就开始积累。比如，京东自研的言犀大模型不仅用于自身旗下的京东生鲜、京东自营等产品，还向外输出。今年1月，伊利发布碳酸乳饮新品“乳汽PET”时，就采用了言犀定制了明星代言人“时代少年团”的声音。,如果按照BF16精度计算，想要让千亿大模型的运行时延小于100ms，内存和计算单元之间的通信带宽，就至少要达到2TB/s以上。,方式(1)用户选择某张或一些照片，后台将这些照片进行AI风格化处理，并生成壁纸，每日更换。

事实上，不少消费者在第一次接到AI外呼电话时，都以为他们是真人。不止一位AI外呼机器人人员表示，他们的声音是真人录音，而并非大模型合成的声音。不过，想要更加仿真人，需要更多的资金技术投入。比如，多做几套话术，话术越全，拨打的时候才能越多样化。,业内人士称，一些特殊行业，比如涉及金融数据等，需要进行私有化部署，价格可能会高达几十万，一般是50万起步，百万级别的费用。但他们往往不会去寻找分散的小公司，而是选择更具规模和实力的企业。毕竟，没人希望自己的钱打水漂。,一台AI机器人一天能打出去多少电话，取决于线路资源。一位AI外呼机器人企业的销售告诉Tech星球，和城市交通系统一样，AI外呼也有高峰期，一般都是早上9点到11点半，下午2点到5点左右。,具体来说，NF4的核心思想是，确保量化区间内输入张量的值数量相等。,说到底，大模型的效果好坏依然取决于算力、算法和算据。而这些资源更多掌握在头部企业或者大公司手中。

这也导致，在上一轮AI热潮中，不少以AI外呼为主营业务的创业公司拿到了融资，但这一轮并不多。服务了OPPO、小红书、滴滴出行等多家大厂的智能客服领域的佼佼者智齿科技，上一轮融资发生在2022年。,过去一年，大语言模型的数量大幅增加，许多都声称是开源的，但它们真的有多开放呢？

针对以上难题，LC信息提出了「张量并行」（Tensor Parallel）和「NF4量化」两项技术创新，成功实现了千亿大模型Yuan2.0-102B的实时推理。,谷歌推出了性能卓越的Gemma2 2B模型，拥有20亿参数，在多种硬件环境下表现优异。配备了ShieldGemma安全分类器和Gemma Scope工具，助力研究人员进行内容过滤与决策分析。在激烈竞争中取得重要突破，展现出对AI技术发展的持续努力。,集群搭建（GPU配置、网络设计、轨道优化等）、集群管理(实时监控、故障排除等)……个个都是「拦路虎」。,其优势在于，一方面可以将LLM参数量化成低比特数据，权重会变小。另一方面，权重缩小之后，在计算时传输的数据量也会变小。