对于这个问题,我们单位是从管理团队、运维部门、研发部门、数据部门各自的工作安排来展开的。具体如下:管理团队负责日志分析系统日常管理工作,包括日志分析系统用户组织架构的配置,以及对日志访问搜索权限的统一分配,以及日志脱敏权限的开放设置。负责日志分析系统的技术支撑...
这个过程与一般的项目没有本质区别,基本的需求、分析、设计、开发、测试都是要有的。不同的地方是大数据项目采用的技术不像传统的基于数据库的SQL开发那么简单,对编程能力的要求较高,同时对遇到问题的排查能力要求也较高,因为是分布式运行,导致问题排查变得非常复杂。...
任何从既有的传统环境变更为虚拟化甚至是未来的云环境,都需要一个知识学习和知识消化的过程,但随着技术的发展和演进,这种过程又是必须进行的。建议在项目之前,提前进行相关知识和实际使用的学习和测试,确认这些新的功能和业务的需求真的匹配。在实施过程中尽量进行充分的介入...
独立构建,涉及基础平台和上层服务。前者短期手工运维,但通过开发逐步自动化。后者通过开发实现。支撑人员和运营容器数量关系不大,但和上层开发服务的数量正相关。关键点:开发从上往下做。...
数据集市的建模是终端用户驱动的,终端用户必须参与数据集市的建模过程,因为他们显然是要使用该数据集市的人。所以建设目标要紧贴业务需求,解决用户最关注的的数据获取问题,数据集市的建立就是要建立一套面向业务的数据服务;建设标准一般根据自己公司的特点定制,没有行业唯一的...
数据集市的项目跟建立大数据平台一样,是个大工程,都面临着数据ETL、存储、计算、数据管理等技术方面的挑战,而比大数据平台更复杂的是数据集市是个面向业务人员的OLAP型系统,如何满足业务各种各样的建模需求也是建立数据集市面临的一个大问题。所以,项目人员既要懂底层技术,又...
建设方为技术部门的数据仓库组或技术平台组,所服务业务部门,技术部门各业务系统组,采购、财务部门,按照各部门分工支持配合。
匿名用户
保护数据安全和隐私方面,联盟链(当前指超级账本)可以采用以下多种机制:1 采用多通道机制,相关的业务参与方建立独立的channel,通道中的数据只有参与方可见2 针对严格加密要求的业务数据,可以采用接收方的公钥对数据加密,只有接收方对应的私钥可以解开数据保护参与者地址方面,可以...
容器持久化存储的建设我觉得关键点在于整合方案,kubernetes正在完善容器方面的管理,很多开发者也根据statefulSet做出了一些针对性的部署yaml文件,对于kubernetes的存储系统如果你选择商业存储就需要用flexVolume插件化支持,kubernetes提供更多的商业存储,商业存储也相应容器...
HADR实施中的难点包括但不限于如下所述:1、数据库比较大,通过备份恢复或数据库快照恢复的时间会比较长,特别是搭建异地HADR环境时尤为突出,受到网络带宽的影响,传输大量数据需要花费很长时间2、应用的梳理和改造,HADR只有记录日志的操作才被复制,如果应用中有关日志的操作,或是数...