移动客户端

|

官方微信

|

官方微博

|
长安播报:
火山引擎谭待:大模型的超低定价,来自对技术的信心
友谊赛德国 0:2 不敌哥伦比亚,连续 4 场不胜,夸德拉多点射破门,如何评价本场比赛?

  “降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  据介绍,大模型推理成本的优化,技术上有很多手段。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决方案。

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  “一个人现在创业,如果要花1万块钱调用大模型,可能会觉得有点贵。我们把价格降到1%都不到,100块钱就能用起来,他的想法也就更容易尝试。”谭待表示,企业的AI转型充满不确定性,试错成本要尽量低,才能更快更多地实现大模型的应用落地,从而让整个行业受益。

[ 更多头条 ]
俄罗斯首都莫斯科已加强安全措施
  康晓峰身为党员领导干部,政治上丧失理想信念,背弃初心使命,对党不忠诚、不老实,与多名行贿人串供,伪造、转移、隐匿证据,想方设法掩盖违纪违法事实,对抗组织审查,搞迷信活动;经济上贪婪无度,亦官亦商,利用担任县委、县政府“一把手”的职权,在干部选拔任用、工程项目建设等领域搞权钱交易,疯狂敛财,严重破坏所任职地区政治生态和营商环境,严重损害党的事业和形象。其行为已严重违纪违法,并涉嫌受贿罪,且在党的十八大后不收敛、不收手,性质严重,影响恶劣,应予严肃处理。依据《中国共产党纪律处分条例》《中华人民共和国监察法》《中华人民共和国公职人员政务处分法》等有关规定,经省纪委常委会会议研究并报省委批准,决定给予康晓峰开除党籍处分;由省监委按规定取消其享受的待遇;收缴其违纪违法所得;将其涉嫌犯罪问题移送检察机关依法审查起诉,所涉财物一并移送。[详细]
姚景元高考分数
  《中国新闻周刊》通过整理公开资料发现,四川省人均综合用水量不及全国人均的四分之三。水利部2022年6月发布的《2021年中国水资源公报》显示,2021年,全国人均综合用水量为419立方米。四川省水利厅发布的《2021年四川省水资源公报》显示,2021年四川全省人均综合用水量为292立方米,四川省人均综合用水量比全国人均水平少127立方米。 [详细]

热点新闻 更多>

高校教师称殡葬专业就业率基本100%

  此次访疆团是疫情之后首支访问新疆的日本民间团组。薛剑对《环球时报》记者表示,这项工作具有一定的创新意义,大阪总领馆希望做出新的尝试与探索,努力开创民间外交的新形式和新路径,这也是我们践行中国特色大国外交的题中应有之义。[详细]

秋瓷炫唱的是中文还是泰文

  团餐是针对特定场景下餐饮需求的B2B外包服务,主要餐饮服务对象为学校、机关单位、医院、大型企业等团体。中国社科院服务经济与餐饮产业研究中心执行主任赵京桥表示,自上世纪90年代末以来,机关事业单位后勤社会化改革、学生营养餐政策出台,以及不断推进阳光化采购,使得我国团餐产业不断扩容,其应用场景也逐步覆盖至老年餐、月子餐等,并同社会餐饮融合,布局社区团餐、团餐外卖、航空餐等。[详细]

长安网群 更多>

移动客户端
官方微信
官方微博
关闭