TA的每日心情 | 开心 2 小时前 |
---|
签到天数: 265 天 [LV.8]以坛为家I
管理员
- 积分
- 9241
|
Java电子书:企业级大数据平台构建:架构与实现 PDF 电子书 Java吧 java8.com
' a4 B9 l" `1 @( c) t
- |; b+ T, R1 r9 w. w作者:朱凯出版社:机械工业出版社出版时间:2018年04月 $ t7 ]* B8 c1 W: h. d6 n& G& E
6 o ]! Q2 r0 n) B% X编号:166-Java吧资源免费-X0246【Java吧 java8.com】! K B- A2 Z& A6 b3 H+ G
( c* r$ [0 n9 @9 S" d
. r# b( D: C$ r8 r6 \) |3 u6 l! N8 o
8 e! {" m) n: a# m+ ^4 }目录:
; k% |& i3 N7 k" l Q+ Q- n前 言
# H1 R8 s5 L* Y5 c第1章 浅谈企业级大数据平台的重要性 1* a+ D" S6 N% i' z: |. Y
1.1 缺乏统一大数据平台的问题 2
4 }4 F" L9 P- \2 C1.1.1 资源浪费 2/ o+ y1 @& U- ~4 x' I0 }
1.1.2 数据孤岛 2+ M# m# Q. L2 H5 y
1.1.3 服务孤岛 3% V9 P$ u5 O- ^# p! y8 ]
1.1.4 安全存疑 3
/ o* d* K7 S# N7 P \" r O1.1.5 缺乏可维护性和可扩展性 3) k* ~6 }+ W H% W9 M7 ~
1.1.6 缺乏可复制性 45 ^# z' {# Z8 h5 Z# d! S9 ~! ? L
1.2 构建统一大数据平台的优势 43 h2 C0 Z' U) X) ` d" R
1.3 企业级大数据平台需要具备的基本能力 68 e# M% d- [* J7 t& \
1.3.1 集群管理与监控 7/ z2 ?# T2 d- j4 v: K! e
1.3.2 数据接入 7
- U/ r" O4 ^# I/ H1.3.3 数据存储与查询 7& Q; N0 Y8 L6 c8 t" D+ h
1.3.4 数据计算 81 b. S. m! D. o8 ~! c% M; J8 I
1.3.5 平台安全与管理 10
. }, _0 l6 V9 z# K+ `" r8 T$ t! s1.4 平台辅助工具 12% {! D, a) l7 P7 [( l8 z
1.5 本章小结 13 {0 v1 K; A |- X# {5 Q
第2章 企业级大数据平台技术栈介绍 153 z) ?2 l. R' f* q7 {
2.1 HDFS 16
7 X, U3 |' V: T2.1.1 概述 16
& ^/ P6 x7 d7 O2 T# w3 g7 }! N0 l2.1.2 RAID技术 17
/ F( `& f) D" H" C; t* N2.1.3 核心设计目标 18
2 ~' G" L' q3 O6 h& L. x$ _/ b2.1.4 命名空间 198 W, ~; p2 `. Z
2.1.5 数据模型 201 F" o' {( C% X
2.1.6 Namenode和Datanode 20" Y2 {2 a* ]- W6 S
2.1.7 使用场景 21
3 ~% j2 ~9 b8 d2 l2.2 Zookeeper 22
: W+ \& n" n% `$ L3 [' r2.2.1 概述 22
) g5 m! c5 Y! m6 `& G2.2.2 核心特性 23
7 K; r7 ~" [7 c1 @; t7 H/ m2.2.3 命名空间 24# Y5 V, C; ]+ ^1 b. b
2.2.4 数据模型 24) v3 Y" F! z4 ]( s2 R* [ R
2.2.5 节点状态监听 25
" z9 ~0 H3 s3 k' w" W2.2.6 原子消息广播协议 25 f* S( _3 g1 W2 g+ K
2.2.7 使用场景 32. Y, ~4 Y v2 [, w, n( n3 v( k- e5 k
2.3 HBase 33
! z9 ]9 |4 ?2 r2.3.1 概述 336 X8 b7 U% l4 c$ h7 T
2.3.2 数据模型 341 t( l$ _) ]# S4 e' z/ k
2.3.3 Regions 34/ b) N& j7 n, A1 A: s
2.3.4 HBase Master 35
. {2 R f6 f g2.3.5 Region Server 36# Y9 c* Z/ n9 y, E4 @$ e9 w. c
2.3.6 MemStore与HFile 37
! t% h: X5 M5 P3 n& q: R2.3.7 使用场景 37$ v# O0 l0 ~) J) A/ Y& f
2.4 YARN 386 D; \! i8 g: z3 \9 p' b8 r. o
2.4.1 概述 38
. s, o: K4 w% `2.4.2 资源模型和Container 40' d* `: ^0 O) M
2.4.3 ResourceManager 407 j; k8 B7 ]" @! z5 I9 Z! r- o
2.4.4 ApplicationMaster 40
$ j# d: d6 S8 C* y) U8 G) d: ]+ s: Y3 v( d2.4.5 NodeManager 41% Q. R0 ~0 M$ {9 T( O
2.4.6 单一集群架构 418 C, ?0 u2 }1 }: F, l3 O9 s
2.4.7 工作流程 41
( X$ D; }5 W( \# R6 I! D, X ~3 {2.4.8 使用场景 43
- Z7 ^/ R2 b+ O- R! {9 T! L$ M5 D2.5 Spark 434 t1 W" Q7 R0 b: e- h* E
2.5.1 概述 43
" f) u0 F7 {( X W2.5.2 数据模型 45
4 d' B, _: m# }! s2 i5 p2.5.3 编程模型和作业调度 454 d# `) H6 q- _0 T1 f) C
2.5.4 依赖 46 u0 d3 Z/ v6 v7 V, h
2.5.5 容错 47
; T, ]" y2 R9 g; S7 M. |2.5.6 集群模式 47! K, u2 x7 U" c S9 f
2.5.7 使用场景 48) U+ b& A7 v8 w t* z" Y9 }; e/ @. j
2.6 本章小结 49
( j7 k' b8 y1 e0 r; {( v+ k/ y第3章 使用Ambari安装Hadoop集群 50
" P* i8 X+ Y) `! \0 b3.1 概述 50: p8 [8 E' ~0 t9 D0 T3 S
3.2 集群设计 52
" I! S3 m4 D2 p, Z3 A. f3.2.1 主控节点 52: r! \/ ~2 w0 v2 k2 v) F
3.2.2 存储与计算节点 53
8 d- g1 o$ P/ u$ X9 e" e3.2.3 安全认证与管理节点 54 L, Z8 `. a; b) E
3.2.4 协同管理与其他节点 54
' m6 P ?( D' X0 v L/ b3.3 Ambari的安装、配置与启动 55& a3 ]2 D4 t; W& B
3.3.1 安装前的准备 555 g* F- ~. S9 k7 B* |; i1 t2 q
3.3.2 安装Ambari-Server 624 N% W ^5 n* Z$ o* F
3.3.3 Ambari-Server目录结构 64
1 b# \) \6 q, `; }$ [3.3.4 配置Ambari-Server 65
7 b+ R5 D" ~3 y% t3.3.5 启动Ambari-Server 66" l2 |- l* I+ y3 U H
3.4 新建集群 67
+ j9 A& N" ?+ M3 @' ]7 m* O5 D3.4.1 设置集群名称并配置HDP安装包 67
* t7 H! c. g' D3.4.2 配置集群 69
* A& o+ D3 ^ y& e: n E3.5 Ambari控制台功能简介 77; l: A' e S* d# Y3 S1 M$ r8 m
3.5.1 集群服务管理 78
/ L X4 d" _4 c u# h3.5.2 集群服务配置 80" a8 E6 ]- p6 t6 F L1 {8 {7 a
3.5.3 辅助工具 82- d' o- a* {7 q: ^; X
3.6 本章小结 86- ?3 d! D- l( P/ y
第4章 构建企业级平台安全方案 87
5 M8 k! ~* S0 E8 [* w4.1 浅谈企业级大数据平台面临的安全隐患 88
. [; C4 S8 R# X$ S8 W0 e4.1.1 缺乏统一的访问控制机制 88: ]3 `. g; I1 b9 ?& l
4.1.2 缺乏统一的资源授权策略 883 `3 O& [) g2 j: K2 Q* x
4.1.3 缺乏Hadoop服务安全保障 89" u! R, b/ S$ m
4.2 初级安全方案 89
& i* t' H: Z% c% c/ s$ o4.2.1 访问控制 89
+ D- \9 Z1 O' Z" k4.2.2 数据授权与管理 97
, i, y" x9 I! g* e/ K' @3 u6 W4.3 本章小结 110+ o# n6 P5 _6 ~* D% P' C/ G
第5章 Hadoop服务安全方案 1115 L7 y3 c: v8 ~: G5 F# A
5.1 Kerberos协议简介 111
# f) z$ o9 N5 M5.2 使用FreeIPA安装Kerberos和LDAP 1132 ]8 u* F: k' C, ~- \5 A9 \$ U
5.2.1 安装FreeIPA 1153 b2 ~3 J% F& |/ m+ b
5.2.2 IPA-Server管理控制台功能介绍 119
|9 h1 l( v5 N; o* V& j5.2.3 IPA CLI功能介绍 122' k1 ?( F( @6 X$ w, u( f! |0 |
5.3 开启Ambari的Kerberos安全选项 127
/ I2 _7 @) s0 D9 }- g( y5.3.1 集成前的准备 127( C( V2 R- ^7 r# u) F; c
5.3.2 集成IPA 129
+ L0 }$ E4 E" O% |6 D5.3.3 测试Kerberos认证 1336 k6 J, s. z+ [- z: m; _. ]$ ?9 S% L
5.4 本章小结 136
' |5 n0 }6 x) ` p: n% f第6章 单点登录与用户管理 137
' u: V# i. c* b# T6 Q6.1 集成单点登录 139. ?1 Z7 C; I9 ^* P9 `; P- Q
6.1.1 CAS简介 140
6 e. L' ~9 n P& i& d0 A- y9 [6 `6.1.2 安装CAS-Server 1412 u' l4 n6 S. Y C# P7 ]
6.1.3 集成Knox网关与CAS-
2 S9 j5 H) F" P* u A$ @+ k Server 148% ]& [3 |) R0 B, L
6.1.4 集成Ranger与CAS-Server 151
/ D' v5 |5 ]/ X4 o$ p4 f3 d4 P6.1.5 集成Ambari与CAS-Server 152+ U4 z: w7 ~- p" Q# }0 [
6.2 实现统一的用户管理系统 155
1 Z8 [( i- A' q6.3 使用Java程序调用脚本 161# A3 e7 h6 k$ u* ^
6.4 创建Ranger扩展用户 1664 O4 s" I% L# I7 f& v
6.5 本章小结 169, l' p9 w, ?& {! G1 ~( X! ]9 e
第7章 搭建平台管理端RESTful服务 170% Z6 A3 \: K: f) v A3 a$ o* ^; U; Y
7.1 搭建RESTful服务框架 170" c3 W* x7 _2 j1 ]; ~
7.2 用户查询 174
6 ^1 e0 Y! R, n( x) G. e7.2.1 引入LDAP模块 174
3 G9 J4 d0 I. C6 i/ s8 D7.2.2 配置LDAP 174
0 S% Y2 q) b8 h" r) m8 q7.2.3 实现持久层 177% H4 I5 |9 v+ P: ]
7.2.4 实现服务层 181
7 F" f8 ^0 t& n D; {2 J7.2.5 实现RESTful服务 181
; J \3 [/ X, t$ V% J w! _7.2.6 整合用户管理 1839 t, C- }8 m; z) j
7.3 RESTful服务安全认证 184" G% {& k' @: r t' h0 p
7.3.1 用户登录服务 185/ w" @; n; d0 _9 P4 C( @$ T
7.3.2 使用JWT认证 185
7 A. ^) I; A1 M2 s, Q7.3.3 创建用户登录RESTful服务 188
2 T: c, k) O9 T/ P9 a7.3.4 认证过滤器 194- W" k4 Y- W `, |0 v3 X4 s3 Q
7.3.5 测试服务安全认证 198
, |9 i1 h) I2 p* }7.4 数据仓库数据查询 200! Z0 P5 [3 }1 }" V
7.4.1 创建JDBC连接 200
7 a% ]: I) z. W2 A2 k& o7.4.2 Kerberos登录 202
2 n4 U9 l6 Q/ B: W7.4.3 使用JDBC协议查询 202& l1 E1 k* V) h4 Z/ P
7.4.4 实现服务层与RESTful服务 206
) g9 T t, z* e; r% t7.4.5 测试查询 207
! d M, ^" l; \" B7.5 数据仓库元数据查询 208
0 m3 j p5 x$ S- D$ V7.5.1 使用query服务查询数仓元数据 2081 y) k, M8 E! u! G, i! \9 }4 C% j1 C
7.5.2 引入JdbcTemplate模块 209
: t/ a- _6 u6 L7.5.3 增加Hive元数据库配置 210
9 w" J- f6 ]6 x( l' I1 h7.5.4 实现元数据持久层 211 java8.com
|7 S( K4 |& |8 i: a7.5.5 实现元数据服务层与RESTful服务 216( E) X# v- [' g2 q ?; l9 @* d
7.5.6 测试元数据查询 218
# r6 V9 H0 [+ ^4 y" Q' o( C8 f- p6 P7.6 本章小结 219
, e: w5 t- e% \6 T$ H" K第8章 Spark任务与调度服务 220
7 S5 D; l# L. {/ L7 E8.1 提交Spark任务的3种方式 220
- J/ O ]* x* b1 G2 O/ e5 Z) @8.1.1 使用Spark-Submit脚本提交 220
& m1 I n0 G1 |) i3 H8.1.2 使用Spark Client提交 226
. Y& U/ x4 V% n8.1.3 使用YARN RESTful API提交 229) T2 ~# z1 o0 c% x; s6 `' V
8.2 查询Spark日志 234
# G$ k% _/ x& W8 P8.3 任务调度 236
7 Y% O; | g8 W' L8.3.1 引入Quartz模块 2371 F$ `7 x5 a0 y' z
8.3.2 增加Quartz配置 237
; p8 o9 k6 h4 q# U3 R8.3.
4 r" `6 u% o# x' D9 }- \5 t- H! W
, B4 n6 S( J. m& A: I- z% F7 u
百度云盘下载地址(完全免费-绝无套路):
, @3 Y3 S) z s6 a2 x4 N# Z( r1 c0 m/ u! }. {& {( k1 k+ Q
本资源由Java吧收集整理【www.java8.com】
% X3 ?9 |, F u( m; h' m: E5 @
) Y; j# C3 {/ ]9 _% G; }! C4 X5 `( g$ M- r3 g+ W0 T
: Q: f: k s- _1 j- L) g* y6 A1 `
5 E1 l! j" c) E9 u: ]+ k9 n |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|