大数据产品
大数据产品
该主题还没有描述

问题

银行spark·2024-05-07
dean25课题专家组 · 民生银行 擅长领域:云计算, 容器, 容器云
25 会员关注
离线在线混合部署后,主要是错峰运行。夜间(22:00-8:00)之间是在线的低谷期,可以出让较多的CPU计算资源给大数据,比如40%-45%。白天(8:00-18:00) 是在线应用的高峰期,可以出让比如15%-20%的资源给大数据作业;晚上(18:00-22:00)在线业务负载相比白天下降,可以出让30%的资源给大...
银行Kubernetes·2024-04-23
dean25课题专家组 · 民生银行 擅长领域:云计算, 容器, 容器云
25 会员关注
一般需要为计算节点配置单独的shaffle本地盘, 同时通过调度算发,让数据密集型作业尽可能分散到不同的节点,确保不出现存储热点节点。 同时也可以增加作业的内存配置和数量,减少spill到本地的文件数量,减少存储开销。...
大数据平台·2024-03-08
jinhaibo课题专家组 · 昆仑银行 擅长领域:人工智能, 大语言模型, 大数据
6 会员关注
根据需求,主要是处理30亿条交易数据,并利用机器学习为交易地址打上标签,使用Hadoop和Spark是一个合适的大数据平台方案。数据量:Hadoop适合存储海量的数据,并提供了多种技术组件用于查询和分析,由于本需求是30亿条数据进行存储和处理,所以选择Hadoop是合适的。Spark是基于内存的...
软件开发MySQL·2024-03-04
匿名用户
实时的。前端能实时读到写入redis的数据。
软件开发K8S·2024-02-28
匿名用户
慢有两个地方,一个是redis这端,一个是写入那端。redis这端,redis是单线程的,一次同步很多数据是会比较慢;写入那端看看是否慢,看看是否可以改进。先优化慢,关键是看整个链路消耗的时间,定位出来之后去看是否可以优化。...
软件开发容器·2023-12-29
顾黄亮课题专家组 · 畅销书作者 擅长领域:云计算, 数据库, 系统运维
107 会员关注
建议使用第一种方式一般来说,像固定IP访问要格外注意。对于redis而言,集群的容错性非常依赖nodes文件,所以要在容器启动文件中设置正确的pod IP
软件开发Kubernetes·2023-12-06
朱向东课题专家组 · 某银行 擅长领域:服务器, 存储, 数据库
55 会员关注
在K8S中部署Redis和MySQL时,是否需要使用固定IP取决于你的具体需求和部署方案,两种方式都可以使用。
X社区推广
  • 提问题