Oracle与TimesTen内存数据库Cache Group同步效率与TimesTen主备数据同步机制研究

时间:2015-01-31 02:21:29   收藏:0   阅读:364

随着企业级信息系统一体化建设不断完善,信息基础设施和软硬件快速扩充,信息系统复杂度大幅提高,数据量呈几何倍数急剧增长,集中式数据中心、大规模数据容灾中心建设,结构化与非结构化数据存储扩容等使电力企业信息逐步显现出大容量、多种类、快速处理和高时效性的特征。而应用系统一贯采用的传统关系型数据库(RDBMS)在应付海量数据、大规模用户、高并发、web2.0网站等方面显得力不从心,难以满足大数据的处理需求。

为引入内存数据库技术,为研究确保数据的持久性和高可用性为前提,满足高并发、高时效的应用需要,需要研究内存库的同步能力。TimesTen内存数据库的同步技术分为异步模式和同步模式,异步模式即无须等待接收方响应,直接处理下一个事务;同步模式即等待接收方返回的响应信息再处理下一个事务。同步模式分为同步友好模式和同步非友好模式两种。异步模式侧重于主节点数据变化时,能够高速同步到备节点而不影响主节点的性能,而同步模式侧重于主备节点数据的一致性;研究OracleTimesTen的数据同步及TimesTen同步模式和异步模式同步技术的优缺点。

术语定义

缩写

全称/定义

TT

TimesTen内存数据库

同步模式

同一时间点主备事务一致

异步模式

同一时间点主备事务可能不一致

主日志

主节点当前日志文件序号

备日志

备节点当前日志文件序号

主节点

互为主备模式内存库的主节点

备节点

互为主备模式内存库的备节点

 

研究范围

内存库研究与应用项目数据同步机制研究主要包括:

研究项目

研究项目内容说明

OracleTT数据同步效能研究

研究指定刷新间隔时间内OracleTT数据同步的极限同步能力

两种同步模式主备同步效能研究

研究异步模式、同步友好模式及同步非友好模式主备同步的极限同步能力

研究OracleTT的同步效能

     OracleTimesTen数据同步机制研究采用直接对Oracle端业务表进行直接更新的方式,按照事务大小进行对比,比如1万行记录、2万行记录、3万行记录、4万行记录、5万行记录、10万行记录、15万行记录、20万行记录、30万行记录……,观察是否能及时刷新完成,统计更新相应的记录数刷新到TimesTen端需要的时间,计算指定刷新间隔时间内的极限刷新能力。

Oracle到TT数据同步研究

    Oracle端到TT端同步步骤大致为【Oracle端数据更新】→【TT端根据刷新间隔触发刷新】→【根据Oracle日志表关联查询基表数据】→【提取基表查询结果】→【写入TT端内存库】→【刷新完成】,详细刷新研究结果如下【表4.2Oracle端更新不同数据量研究】。

【表4.2Oracle端更新不同数据量研究】

刷新开始时间

次序

耗时MS

记录数

大小B

查询
时间

获取数据

时间

写入
时间

刷新状态

 2013-12-03 17:55:33

11

0

0

0

0

0

0

 Complete

 2013-12-03 17:56:03

12

0

0

0

0

0

0

 Complete

 2013-12-03 17:56:33

13

0

0

0

0

0

0

 Complete

 2013-12-03 17:57:03

14

0

0

0

0

0

0

 Complete

 2013-12-03 17:57:33

15

0

0

0

0

0

0

 Complete

 2013-12-03 17:58:03

16

0

0

0

0

0

0

 Complete

 2013-12-03 17:58:33

17

940

10000

717323

280

130

530

 Complete

 2013-12-03 17:59:03

18

0

0

0

0

0

0

 Complete

 2013-12-03 17:59:33

19

0

0

0

0

0

0

 Complete

 2013-12-03 18:00:03

20

0

0

0

0

0

0

 Complete

 2013-12-03 18:00:33

21

1360

20000

1438330

290

50

1010

 Complete

 2013-12-03 18:01:03

22

0

0

0

0

0

0

 Complete

 2013-12-03 18:01:33

23

0

0

0

0

0

0

 Complete

 2013-12-03 18:02:03

24

0

0

0

0

0

0

 Complete

 2013-12-03 18:02:33

25

0

0

0

0

0

0

 Complete

 2013-12-03 18:03:03

26

1320

20000

1438330

240

50

1020

 Complete

 2013-12-03 18:03:33

27

0

0

0

0

0

0

 Complete

 2013-12-03 18:04:03

28

0

0

0

0

0

0

 Complete

 2013-12-03 18:04:33

29

0

0

0

0

0

0

 Complete

 2013-12-03 18:05:03

30

2270

30000

2153166

500

130

1640

 Complete

 2013-12-03 18:05:33

31

2650

40000

2864245

520

50

2080

 Complete

 2013-12-03 18:06:03

32

0

0

0

0

0

0

 Complete

 2013-12-03 18:06:33

33

0

0

0

0

0

0

 Complete

 2013-12-03 18:07:33

34

0

0

0

0

0

0

 Complete

 2013-12-03 18:08:03

35

2640

40000

2864245

480

110

2040

 Complete

 2013-12-03 18:08:33

36

0

0

0

0

0

0

 Complete

 2013-12-03 18:09:03

37

0

0

0

0

0

0

 Complete

 2013-12-03 18:09:33

38

0

0

0

0

0

0

 Complete

 2013-12-03 18:10:03

39

0

0

0

0

0

0

 Complete

 2013-12-03 18:11:03

40

6890

100000

7179067

1420

150

5320

 Complete

 2013-12-03 18:11:33

41

7100

100000

7179067

1230

580

5290

 Complete

 2013-12-03 18:12:03

42

6620

100000

7179067

1230

120

5270

 Complete

 2013-12-03 18:12:33

43

0

0

0

0

0

0

 Complete

 2013-12-03 18:13:03

44

0

0

0

0

0

0

 Complete

 2013-12-03 18:13:33

45

0

0

0

0

0

0

 Complete

 2013-12-03 18:14:03

46

0

0

0

0

0

0

 Complete

 2013-12-03 18:14:33

47

7070

100000

7179067

1360

120

5590

 Complete

 2013-12-03 18:15:03

48

0

0

0

0

0

0

 Complete

 2013-12-03 18:15:33

49

0

0

0

0

0

0

 Complete

 2013-12-03 18:16:03

50

0

0

0

0

0

0

 Complete

 2013-12-03 18:16:33

51

0

0

0

0

0

0

 Complete

 2013-12-03 18:17:03

52

10810

150000

10837632

2210

430

8170

 Complete

 2013-12-03 18:17:33

53

0

0

0

0

0

0

 Complete

 2013-12-03 18:18:03

54

0

0

0

0

0

0

 Complete

 2013-12-03 18:18:33

55

3510

50000

3579815

740

150

2620

 Complete

 2013-12-03 18:19:03

56

7220

100000

7179067

1570

370

5280

 Complete

 2013-12-03 18:19:33

57

0

0

0

0

0

0

 Complete

 2013-12-03 18:20:03

58

10760

150000

10837632

1920

890

7950

 Complete

 2013-12-03 18:20:33

59

10040

150000

10837632

1860

190

7980

 Complete

 2013-12-03 18:21:03

60

0

0

0

0

0

0

 Complete

 2013-12-03 18:21:33

61

0

0

0

0

0

0

 Complete

 2013-12-03 18:22:03

62

0

0

0

0

0

0

 Complete

 2013-12-03 18:22:33

63

0

0

0

0

0

0

 Complete

 2013-12-03 18:23:03

64

8410

100000

7179067

1650

1400

5350

 Complete

 2013-12-03 18:23:33

65

0

0

0

0

0

0

 Complete

 2013-12-03 18:24:03

66

0

0

0

0

0

0

 Complete

 2013-12-03 18:24:33

67

0

0

0

0

0

0

 Complete

 2013-12-03 18:25:03

68

11310

150000

10837632

1940

1250

8120

 Complete

 2013-12-03 18:26:03

69

10120

150000

10837632

1840

340

7920

 Complete

 2013-12-03 18:26:33

70

0

0

0

0

0

0

 Complete

 2013-12-03 18:27:03

71

0

0

0

0

0

0

 Complete

 2013-12-03 18:27:33

72

0

0

0

0

0

0

 Complete

 2013-12-03 18:28:03

73

0

0

0

0

0

0

 Complete

 2013-12-03 18:28:33

74

0

0

0

0

0

0

 Complete

 2013-12-03 18:29:03

75

0

0

0

0

0

0

 Complete

 2013-12-03 18:29:33

76

0

0

0

0

0

0

 Complete

 2013-12-03 18:30:03

77

0

0

0

0

0

0

 Complete

 2013-12-03 18:30:33

78

0

0

0

0

0

0

 Complete

 2013-12-03 18:31:03

79

0

0

0

0

0

0

 Complete

 2013-12-03 18:31:33

80

0

0

0

0

0

0

 InProgress

 2013-12-03 18:31:33

81

14010

200000

14407078

2610

340

11050

 Complete

 2013-12-03 18:32:33

82

0

0

0

0

0

0

 Complete

 2013-12-03 18:33:03

83

0

0

0

0

0

0

 Complete

 2013-12-03 18:33:33

84

0

0

0

0

0

0

 Complete

 2013-12-03 18:34:03

85

0

0

0

0

0

0

 Complete

 2013-12-03 18:34:33

86

0

0

0

0

0

0

 Complete

 2013-12-03 18:35:03

87

15170

200000

14407078

3490

900

10770

 Complete

 2013-12-03 18:36:03

88

0

0

0

0

0

0

 Complete

 2013-12-03 18:36:33

89

21070

300000

21507035

4430

410

16210

 Complete

 2013-12-03 18:37:37

90

0

0

0

0

0

0

 Complete

 2013-12-03 18:38:03

91

0

0

0

0

0

0

 Complete

 2013-12-03 18:38:33

92

0

0

0

0

0

0

 Complete

 2013-12-03 18:39:03

93

0

0

0

0

0

0

 Complete

 2013-12-03 18:39:33

94

0

0

0

0

0

0

 Complete

 2013-12-03 18:40:03

95

0

0

0

0

0

0

 Complete

 2013-12-03 18:40:33

96

0

0

0

0

0

0

 Complete

 2013-12-03 18:41:03

97

7450

100000

7179067

1730

390

5330

 Complete

 2013-12-03 18:41:33

98

0

0

0

0

0

0

 Complete

 2013-12-03 18:42:03

99

0

0

0

0

0

0

 Complete

 2013-12-03 18:42:33

100

0

0

0

0

0

0

 Complete

 2013-12-03 18:43:03

101

0

139278

9965910

2160

500

7330

 InProgress

 2013-12-03 18:43:03

101

27500

400000

28601207

5510

500

21480

 Complete

 2013-12-03 18:44:35

102

0

0

0

0

0

0

 Complete

 2013-12-03 18:45:03

103

0

0

0

0

0

0

 Complete

 2013-12-03 18:45:33

104

0

0

0

0

0

0

 Complete

 2013-12-03 18:46:03

105

0

0

0

0

0

0

 Complete

 2013-12-03 18:46:33

106

0

0

0

0

0

0

 Complete

 2013-12-03 18:47:03

107

0

0

0

0

0

0

 Complete

 2013-12-03 18:47:33

108

0

0

0

0

0

0

 Complete

 2013-12-03 18:48:03

109

0

0

0

0

0

0

 Complete

 2013-12-03 18:48:33

110

0

0

0

0

0

0

 Complete

 2013-12-03 18:49:03

111

37100

500000

35716215

9570

640

26880

 Complete

 2013-12-03 18:50:57

112

0

0

0

0

0

0

 Complete

 2013-12-03 18:51:03

113

0

0

0

0

0

0

 Complete

 2013-12-03 18:51:33

114

0

0

0

0

0

0

 Complete

 2013-12-03 18:52:03

115

0

0

0

0

0

0

 Complete

 2013-12-03 18:52:33

116

0

0

0

0

0

0

 Complete

 2013-12-03 18:53:03

117

0

0

0

0

0

0

 Complete

 2013-12-03 18:53:33

118

7441

100000

7179067

1730

390

5330

 Complete

 2013-12-03 18:54:33

119

0

0

0

0

0

0

 Complete

 2013-12-03 18:55:03

120

0

0

0

0

0

0

 Complete

 2013-12-03 18:55:33

121

0

0

0

0

0

0

 Complete

 2013-12-03 18:56:03

122

0

0

0

0

0

0

 Complete

 2013-12-03 18:56:33

123

0

0

0

0

0

0

 Complete

 2013-12-03 18:57:33

124

0

0

0

0

0

0

 Complete

 2013-12-03 18:58:03

125

80570

1000000

71533732

24130

1600

54820

 Complete

 2013-12-03 18:58:03

126

80570

1000000

71533732

24130

1600

54820

 InProgress

 2013-12-03 19:01:06

126

67110

1000000

71533732

12440

1300

53340

 Complete

 2013-12-03 19:03:24

127

0

0

0

0

0

0

 Complete

 2013-12-03 19:03:33

128

0

0

0

0

0

0

 Complete

 2013-12-03 19:04:04

129

0

0

0

0

0

0

 Complete

 2013-12-03 19:04:34

130

0

0

0

0

0

0

 Complete

 2013-12-03 19:05:03

131

0

0

0

0

0

0

 Complete

 2013-12-03 19:05:34

132

0

0

0

0

0

0

 Complete

 2013-12-03 19:06:04

133

0

0

0

0

0

0

 Complete

 2013-12-03 19:06:34

134

0

0

0

0

0

0

 Complete

 2013-12-03 19:07:04

135

0

0

0

0

0

0

 InProgress

 2013-12-03 19:07:04

135

60000

800000

57214756

16080

1110

42800

 Complete

 2013-12-03 19:10:22

136

0

0

0

0

0

0

 Complete

 2013-12-03 19:10:34

137

0

0

0

0

0

0

 Complete

 2013-12-03 19:11:04

138

0

0

0

0

0

0

 Complete

 2013-12-03 19:25:40

139

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

140

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

141

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

142

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

143

0

0

0

0

0

0

 Complete

 2013-12-03 19:42:51

144

0

232618

16655038

30870

7490

12260

 InProgress

 2013-12-03 19:42:51

144

0

2956438

211421377

121060

7490

163040

 InProgress

 2013-12-03 19:42:51

144

334550

3560371

254560930

129030

7490

197940

 Complete

 2013-12-03 19:42:51

145

334550

3560371

254560930

129030

7490

197940

 InProgress

 2013-12-03 19:42:51

145

334550

3560371

254560930

129030

7490

197940

 InProgress

 2013-12-03 19:55:13

145

0

0

0

0

0

0

 Complete

 2013-12-03 19:55:43

146

0

0

0

0

0

0

 Complete

 2013-12-03 19:56:13

147

0

0

0

0

0

0

 Complete

 

根据【表4.2Oracle端更新不同数据量研究】刷新研究结果可以得知,当Oracle更新数据量小于15万行记录时,无论是查询+数据提取+数据写入均能在刷新间隔内完成。

根据【表4.2Oracle端更新不同数据量研究】刷新研究结果可以得知,即使Oracle多次更新10万、15万行记录时,均能再刷新间隔内完成;结合前期的运维经验和Oracle官方理论,只要Oracle端性能满足,并将每张同步到TT端的CacheGroup表的刷新间隔设置为不同时间值,当Oracle更新数据量小于15万行记录时,均能在刷新间隔内完成。

根据【表4.2Oracle端更新不同数据量研究】刷新研究结果可以得知,当Oracle更新数据量为20万时,刷新在1分钟内完成;当Oracle更新数据量为30-50万时,刷新均能在2分钟左右完成。

根据【表4.2Oracle端更新不同数据量研究】刷新研究结果可以得知,当Oracle更新数据量为80万时,刷新耗时约为3分钟18秒;当Oracle更新数据量为100万时,刷新耗时约为5分钟21秒;当Oracle更新数据量为350多万时,刷新耗时约长达44分钟9秒左右,而且当Oracle端刷新为80万、100万、350万时,无论是刷新总时间、查询时间、提取时间、写入时间均并非简单的成倍增长,而是呈近指数增长,同时需要消耗大量的Oracle资源。

综合上述研究分析,指定的刷新间隔时间30秒内,基表大小约为600MB,极限刷新能力约为Oracle端更新15万行记录。

研究TT三种同步模式同步效能

     内存库研究与应用项目主备同步效能的研究主要包括异步模式主备同步效能、同步友好模式主备同步效能、同步非友好模式主备同步效能的研究。

TT异步模式主备同步效能

5.1异步模式主备同步效能】

模式

主日志

备日志

日志大小

日志文件

生成日志(Byte)

生成日志(MB)

堆积数量

异步

16

16

472178688

gxdwdata.log16

0

0.0

0

异步

16

16

472178688

gxdwdata.log16

0

0.0

0

异步

16

16

564201472

gxdwdata.log16

92022784

87.8

0

异步

16

16

564332544

gxdwdata.log16

131072

0.1

0

异步

16

16

564332544

gxdwdata.log16

0

0.0

0

异步

16

16

919275520

gxdwdata.log16

354942976

338.5

0

异步

16

16

1012684800

gxdwdata.log16

93409280

89.1

0

异步

16

16

1012684800

gxdwdata.log16

0

0.0

0

异步

16

16

1012684800

gxdwdata.log16

0

0.0

0

异步

16

16

1012867072

gxdwdata.log16

182272

0.2

0

异步

17

16

180541440

gxdwdata.log17

241416192

230.2

1

异步

17

16

180541440

gxdwdata.log17

0

0.0

1

异步

17

17

180541440

gxdwdata.log17

0

0.0

0

异步

17

17

648785920

gxdwdata.log17

468244480

446.6

0

异步

17

17

870094848

gxdwdata.log17

221308928

211.1

0

异步

17

17

870094848

gxdwdata.log17

0

0.0

0

异步

17

17

870094848

gxdwdata.log17

0

0.0

0

异步

17

17

912271360

gxdwdata.log17

42176512

40.2

0

异步

18

17

53446656

gxdwdata.log18

214917120

205.0

1

异步

18

17

72667136

gxdwdata.log18

19220480

18.3

1

异步

18

18

72798208

gxdwdata.log18

131072

0.1

0

异步

18

18

72798208

gxdwdata.log18

0

0.0

0

异步

18

18

72798208

gxdwdata.log18

0

0.0

0

异步

18

18

794580992

gxdwdata.log18

721782784

688.3

0

异步

18

18

809480192

gxdwdata.log18

14899200

14.2

0

异步

18

18

809480192

gxdwdata.log18

0

0.0

0

异步

18

18

809480192

gxdwdata.log18

0

0.0

0

异步

19

18

1073741824

gxdwdata.log18

264261632

252.0

1

异步

19

18

472076288

gxdwdata.log19

472076288

450.2

1

异步

19

18

472076288

gxdwdata.log19

0

0.0

1

异步

19

19

472076288

gxdwdata.log19

0

0.0

0

异步

19

19

521168896

gxdwdata.log19

49092608

46.8

0

异步

20

19

122300416

gxdwdata.log20

674873344

643.6

1

异步

20

19

134701056

gxdwdata.log20

12400640

11.8

1

异步

20

19

134701056

gxdwdata.log20

0

0.0

1

异步

20

20

134701056

gxdwdata.log20

0

0.0

0

异步

20

20

766324736

gxdwdata.log20

631623680

602.4

0

异步

20

20

823263232

gxdwdata.log20

56938496

54.3

0

异步

20

20

823263232

gxdwdata.log20

0

0.0

0

异步

20

20

823263232

gxdwdata.log20

0

0.0

0

异步

21

20

1050750976

gxdwdata.log20

227487744

216.9

1

异步

21

20

549615616

gxdwdata.log21

572606464

546.1

1

异步

21

20

786374656

gxdwdata.log21

236759040

225.8

1

异步

22

21

1073741824

gxdwdata.log21

287367168

274.1

1

异步

22

21

470370304

gxdwdata.log22

470370304

448.6

1

异步

22

21

887496704

gxdwdata.log22

417126400

397.8

1

异步

22

21

908316672

gxdwdata.log22

20819968

19.9

1

异步

23

22

306601984

gxdwdata.log23

472027136

450.2

1

异步

23

22

498997248

gxdwdata.log23

192395264

183.5

1

异步

23

22

515258368

gxdwdata.log23

16261120

15.5

1

异步

23

22

548517888

gxdwdata.log23

33259520

31.7

1

异步

23

22

548517888

gxdwdata.log23

0

0.0

1

异步

23

22

548517888

gxdwdata.log23

0

0.0

1

异步

23

22

548517888

gxdwdata.log23

0

0.0

1

异步

23

23

548517888

gxdwdata.log23

0

0.0

0

异步

23

23

548517888

gxdwdata.log23

0

0.0

0

异步

23

23

1013268480

gxdwdata.log23

464750592

443.2

0

异步

24

23

172226560

gxdwdata.log24

232699904

221.9

1

异步

24

23

364670976

gxdwdata.log24

192444416

183.5

1

异步

24

23

532867072

gxdwdata.log24

168196096

160.4

1

异步

24

23

550877184

gxdwdata.log24

18010112

17.2

1

异步

24

23

564828160

gxdwdata.log24

13950976

13.3

1

异步

24

23

603709440

gxdwdata.log24

38881280

37.1

1

异步

24

23

645679104

gxdwdata.log24

41969664

40.0

1

异步

24

23

649621504

gxdwdata.log24

3942400

3.8

1

异步

24

23

820412416

gxdwdata.log24

170790912

162.9

1

异步

25

23

139472896

gxdwdata.log25

392802304

374.6

2

异步

25

23

523927552

gxdwdata.log25

384454656

366.6

2

异步

25

23

897165312

gxdwdata.log25

373237760

355.9

2

异步

26

23

196116480

gxdwdata.log26

372692992

355.4

3

异步

26

23

568256512

gxdwdata.log26

372140032

354.9

3

异步

26

24

828354560

gxdwdata.log26

260098048

248.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

24

828354560

gxdwdata.log26

0

0.0

2

异步

26

26

828354560

gxdwdata.log26

0

0.0

0

异步

26

26

828354560

gxdwdata.log26

0

0.0

0

异步

26

26

828354560

gxdwdata.log26

0

0.0

0

异步

26

26

828483584

gxdwdata.log26

0

0.0

0

异步

26

26

828483584

gxdwdata.log26

0

0.0

0

异步

26

26

956956672

gxdwdata.log26

128473088

122.5

0

异步

27

26

568782848

gxdwdata.log27

685568000

653.8

1

异步

28

27

94957568

gxdwdata.log28

599916544

572.1

1

异步

28

27

602535936

gxdwdata.log28

507578368

484.1

1

异步

28

27

910682112

gxdwdata.log28

308146176

293.9

1

异步

29

27

330805248

gxdwdata.log29

493864960

471.0

2

异步

29

27

519911424

gxdwdata.log29

189106176

180.3

2

异步

29

28

800059392

gxdwdata.log29

280147968

267.2

1

异步

30

28

103424000

gxdwdata.log30

377106432

359.6

2

异步

30

28

313202688

gxdwdata.log30

209778688

200.1

2

异步

30

28

497510400

gxdwdata.log30

184307712

175.8

2

异步

30

28

553316352

gxdwdata.log30

55805952

53.2

2

异步

30

28

553316352

gxdwdata.log30

0

0.0

2

异步

30

28

553316352

gxdwdata.log30

0

0.0

2

异步

30

29

588482560

gxdwdata.log30

35166208

33.5

1

异步

30

29

622204928

gxdwdata.log30

33722368

32.2

1

异步

30

29

651894784

gxdwdata.log30

29689856

28.3

1

异步

30

29

652025856

gxdwdata.log30

131072

0.1

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

29

652025856

gxdwdata.log30

0

0.0

1

异步

30

30

652025856

gxdwdata.log30

0

0.0

0

异步

30

30

652025856

gxdwdata.log30

0

0.0

0

异步

30

30

652025856

gxdwdata.log30

0

0.0

0

异步

30

30

652156928

gxdwdata.log30

0

0.0

0

异步

30

30

695898112

gxdwdata.log30

43741184

41.7

0

异步

31

30

35698688

gxdwdata.log31

413542400

394.4

1

异步

31

30

653455360

gxdwdata.log31

617756672

589.1

1

异步

31

30

966776832

gxdwdata.log31

313321472

298.8

1

异步

32

31

362881024

gxdwdata.log32

469846016

448.1

1

异步

32

31

775364608

gxdwdata.log32

412483584

393.4

1

异步

33

31

159547392

gxdwdata.log33

457924608

436.7

2

异步

33

31

373682176

gxdwdata.log33

214134784

204.2

2

异步

33

32

373682176

gxdwdata.log33

0

0.0

1

异步

33

32

373682176

gxdwdata.log33

0

0.0

1

异步

33

32

408479744

gxdwdata.log33

34797568

33.2

1

异步

33

32

819152896

gxdwdata.log33

410673152

391.6

1

异步

34

32

1072306176

gxdwdata.log33

253153280

241.4

2

异步

34

32

210472960

gxdwdata.log34

211908608

202.1

2

异步

34

32

390080512

gxdwdata.log34

179607552

171.3

2

异步

34

33

425269248

gxdwdata.log34

35188736

33.6

1

异步

34

33

465584128

gxdwdata.log34

40314880

38.4

1

异步

34

33

495722496

gxdwdata.log34

30138368

28.7

1

异步

34

33

515878912

gxdwdata.log34

20156416

19.2

1

异步

34

33

778268672

gxdwdata.log34

262389760

250.2

1

异步

35

33

129134592

gxdwdata.log35

424607744

404.9

2

异步

35

33

517652480

gxdwdata.log35

388517888

370.5

2

异步

35

33

929912832

gxdwdata.log35

412260352

393.2

2

异步

36

33

241172480

gxdwdata.log36

385001472

367.2

3

异步

36

33

626069504

gxdwdata.log36

384897024

367.1

3

异步

36

33

711903232

gxdwdata.log36

85833728

81.9

3

异步

36

33

712034304

gxdwdata.log36

131072

0.1

3

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

34

712034304

gxdwdata.log36

0

0.0

2

异步

36

36

712034304

gxdwdata.log36

0

0.0

0

异步

36

36

712034304

gxdwdata.log36

0

0.0

0

异步

36

36

712034304

gxdwdata.log36

0

0.0

0

 

表【5.1异步模式主备同步效能】研究输出结果为每10秒输出一次。

根据【5.1异步模式主备同步效能】异步主备同步研究结果可以得知,当主节点分别更新230.2MB233.3MB时,均能在20秒内同步到备节点,即平均每分钟主节点产生700MB左右的日志大小能从主节点同步到备节点,不存在日志堆积。

根据【5.1异步模式主备同步效能】异步主备同步研究结果可以得知,当主节点两次更新702.6MB时,均能在30秒内同步到备节点,即平均每分钟主节点产生1.36GB左右的日志大小能从主节点同步到备节点,不存在日志堆积。

根据【5.1异步模式主备同步效能】异步主备同步研究结果可以得知,当主节点两次更新3805.2MB时,出现日志堆积,耗时240秒同步到备节点,即平均每分钟约同步951.3MB

根据【5.1异步模式主备同步效能】异步主备同步研究结果可以得知,当主节点两次更新6159.3MB时,出现日志堆积,耗时400秒同步到备节点,即平均每分钟约同步923.9MB

综合上述研究分析,异步模式下TT主备同步极限值约为1GB,即主节点每分钟产生小于1GB的事务日志时,事务日志能正常同步到备节点,不影响主备同步;当主节点每分钟产生事务日志大于1GB时,将出现日志堆积,影响主备正常同步。

TT同步模式主备同步效能

主备同步研究计划采用业务表编写DML脚本,研究同步模式(友好及非友好)及异步模式,

针对3个模式,分别采用直接对TT主节点更新(增删改)的方式,按照事务日志生成速度进行对比,比如1M/S,5M/S,10M/S……,观察TT数据库同步进程是否会出现日志堆积。

TT同步友好模式主备同步效能

5.2.1.1同步友好模式主备同步效能】

模式

主日志

备日志

日志大小

日志文件

生成日志(B)

生成日志(MB)

堆积日志

同步

37

37

775348224

gxdwdata.log37

0

0.0

0

同步

37

37

775348224

gxdwdata.log37

0

0.0

0

同步

37

37

785033216

gxdwdata.log37

9684992

9.2

0

同步

37

37

785033216

gxdwdata.log37

0

0.0

0

同步

37

37

802879488

gxdwdata.log37

17846272

17.0

0

同步

37

37

803872768

gxdwdata.log37

993280

0.9

0

同步

37

37

847409152

gxdwdata.log37

43536384

41.5

0

同步

37

37

850475008

gxdwdata.log37

3065856

2.9

0

同步

37

37

932730880

gxdwdata.log37

82255872

78.4

0

同步

38

37

1040828416

gxdwdata.log37

108097536

103.1

0

同步

38

38

462802944

gxdwdata.log38

495716352

472.8

1

同步

38

38

549963776

gxdwdata.log38

87160832

83.1

0

同步

38

38

559912960

gxdwdata.log38

9949184

9.5

0

同步

38

38

559912960

gxdwdata.log38

0

0.0

0

同步

38

38

748879872

gxdwdata.log38

188966912

180.2

0

同步

39

38

85473280

gxdwdata.log39

410335232

391.3

0

同步

39

38

208726016

gxdwdata.log39

123252736

117.5

1

异步

39

38

223719424

gxdwdata.log39

14993408

14.3

1

异步

39

39

223719424

gxdwdata.log39

0

0.0

1

异步

39

39

223719424

gxdwdata.log39

0

0.0

0

异步

39

39

223719424

gxdwdata.log39

0

0.0

0

异步

39

39

223848448

gxdwdata.log39

129024

0.1

0

异步

39

39

223848448

gxdwdata.log39

0

0.0

0

异步

39

39

223848448

gxdwdata.log39

0

0.0

0

同步

39

39

669839360

gxdwdata.log39

445990912

425.3

0

同步

39

39

945930240

gxdwdata.log39

276090880

263.3

0

异步

39

39

954183680

gxdwdata.log39

8253440

7.9

0

异步

39

39

960778240

gxdwdata.log39

6594560

6.3

0

异步

39

39

960778240

gxdwdata.log39

0

0.0

0

异步

39

39

960778240

gxdwdata.log39

0

0.0

0

异步

39

39

960778240

gxdwdata.log39

0

0.0

0

异步

39

39

960909312

gxdwdata.log39

131072

0.1

0

同步

40

39

128694272

gxdwdata.log40

241526784

230.3

0

同步

40

40

523194368

gxdwdata.log40

394500096

376.2

1

同步

40

40

573392896

gxdwdata.log40

50198528

47.9

0

同步

40

40

578197504

gxdwdata.log40

4804608

4.6

0

同步

40

40

578197504

gxdwdata.log40

0

0.0

0

同步

40

40

578197504

gxdwdata.log40

0

0.0

0

同步

40

40

819730432

gxdwdata.log40

241532928

230.3

0

同步

41

40

185444352

gxdwdata.log41

439455744

419.1

0

同步

41

40

195485696

gxdwdata.log41

10041344

9.6

1

同步

41

41

195485696

gxdwdata.log41

0

0.0

1

同步

41

41

195485696

gxdwdata.log41

0

0.0

0

同步

41

41

570183680

gxdwdata.log41

374697984

357.3

0

同步

41

41

876486656

gxdwdata.log41

306302976

292.1

0

同步

41

41

886528000

gxdwdata.log41

10041344

9.6

0

同步

41

41

886528000

gxdwdata.log41

0

0.0

0

同步

41

41

886528000

gxdwdata.log41

0

0.0

0

同步

42

41

102858752

gxdwdata.log42

290072576

276.6

0

同步

42

42

482656256

gxdwdata.log42

379797504

362.2

1

同步

42

42

535318528

gxdwdata.log42

52662272

50.2

0

异步

42

42

550238208

gxdwdata.log42

14919680

14.2

0

异步

42

42

550238208

gxdwdata.log42

0

0.0

0

异步

42

42

550238208

gxdwdata.log42

0

0.0

0

同步

42

42

559992832

gxdwdata.log42

9754624

9.3

0

同步

42

42

559992832

gxdwdata.log42

0

0.0

0

同步

42

42

559992832

gxdwdata.log42

0

0.0

0

同步

42

42

630095872

gxdwdata.log42

70103040

66.9

0

同步

42

42

717289472

gxdwdata.log42

87193600

83.2

0

同步

42

42

968708096

gxdwdata.log42

251418624

239.8

0

同步

43

42

334229504

gxdwdata.log43

439263232

418.9

0

同步

43

42

405661696

gxdwdata.log43

71432192

68.1

1

同步

43

43

943376384

gxdwdata.log43

537714688

512.8

1

同步

43

43

1066702848

gxdwdata.log43

123326464

117.6

0

异步

44

43

38139904

gxdwdata.log44

45178880

43.1

0

同步

44

43

425166848

gxdwdata.log44

387026944

369.1

1

异步

44

44

440072192

gxdwdata.log44

14905344

14.2

1

异步

44

44

691785728

gxdwdata.log44

251713536

240.1

0

异步

44

44

972124160

gxdwdata.log44

280338432

267.4

0

异步

45

44

227092480

gxdwdata.log45

328710144

313.5

0

 

表【5.2.1.1同步友好模式主备同步效能】研究输出结果为每10秒输出一次。

根据【5.2.1.1同步友好模式主备同步效能】同步友好模式主备同步研究结果以及研究加压过程中,可以得知,同步模式与日志堆积无直接关系,与事务的大小及设置超时时间有直接关系,当主节点的事务较大(研究中更新10万行记录,约38MB),而且此时内存库较忙时就会出现【5.2.1.2事务超时报错信息】错误,同时同步模式将转回异步模式,由于该设置为友好同步模式,所以此时主节点的事务会提交,继续下一个事务的处理;当下一个事务提交时,TT会尝试将异步模式转会同步模式。

5.2.1.2事务超时报错信息】

Source File: cmdutil.c on line number 1375

SQL State: S1T00

Native Error Code: 6003

Error Message: [TimesTen][TimesTen 11.2.1.9.7 ODBC Driver][TimesTen]TT6003: Lock request denied because of time-out

Details: Tran 9.9001 (pid 151658) wants Xn lock on rowid BMUFVUAAAAAAFTbF5g, table FMISMAIN.WF_PENDINGITEMINFO2. But tran 8.1536 (pid 266292) has it in Xn (request was Xn). Holder SQL (update FMISMAIN.WF_PENDINGITEMINFO2 set POSTID=‘NNDW‘,YHDM=1211 where rownum<=100000) -- file "tindex.c", lineno 4457, procedure "sbTixNext()"

The command failed.

TT同步非友好模式主备同步效能 

5.2.2.1同步非友好模式主备同步效能】

模式

主日志

备日志

日志大小

日志文件

生成日志(Byte)

生成日志(MB)

堆积数量

同步

59

59

641005568

gxdwdata.log59

0

0.0

0

同步

59

59

641005568

gxdwdata.log59

0

0.0

0

同步

59

59

650612736

gxdwdata.log59

9607168

9.2

0

同步

59

59

679106560

gxdwdata.log59

28493824

27.2

0

同步

59

59

679106560

gxdwdata.log59

0

0.0

0

同步

59

59

679106560

gxdwdata.log59

0

0.0

0

同步

59

59

743847936

gxdwdata.log59

64741376

61.7

0

同步

59

59

744359936

gxdwdata.log59

512000

0.5

0

同步

59

59

785850368

gxdwdata.log59

41490432

39.6

0

同步

59

59

873183232

gxdwdata.log59

87332864

83.3

0

同步

59

59

883027968

gxdwdata.log59

9844736

9.4

0

同步

59

59

883027968

gxdwdata.log59

0

0.0

0

同步

59

59

883027968

gxdwdata.log59

0

0.0

0

同步

59

59

924549120

gxdwdata.log59

41521152

39.6

0

同步

59

59

1011746816

gxdwdata.log59

87197696

83.2

0

同步

60

59

189341696

gxdwdata.log60

251336704

239.7

1

同步

60

59

541995008

gxdwdata.log60

352653312

336.3

1

同步

60

60

629866496

gxdwdata.log60

87871488

83.8

0

同步

60

60

638963712

gxdwdata.log60

9097216

8.7

0

同步

60

60

638963712

gxdwdata.log60

0

0.0

0

同步

60

60

638963712

gxdwdata.log60

0

0.0

0

同步

60

60

991823872

gxdwdata.log60

352860160

336.5

0

同步

61

60

208562176

gxdwdata.log61

290480128

277.0

1

同步

61

60

287772672

gxdwdata.log61

79210496

75.5

1

异步

61

61

302755840

gxdwdata.log61

14983168

14.3

0

异步

61

61

302755840

gxdwdata.log61

0

0.0

0

异步

61

61

302755840

gxdwdata.log61

0

0.0

0

异步

61

61

302884864

gxdwdata.log61

129024

0.1

0

异步

61

61

302884864

gxdwdata.log61

0

0.0

0

异步

61

61

302884864

gxdwdata.log61

0

0.0

0

异步

61

61

302884864

gxdwdata.log61

0

0.0

0

异步

61

61

303015936

gxdwdata.log61

131072

0.1

0

异步

61

61

303015936

gxdwdata.log61

0

0.0

0

异步

61

61

303015936

gxdwdata.log61

0

0.0

0

异步

61

61

311625728

gxdwdata.log61

8609792

8.2

0

同步

61

61

312750080

gxdwdata.log61

1124352

1.1

0

同步

61

61

312750080

gxdwdata.log61

0

0.0

0

同步

61

61

312750080

gxdwdata.log61

0

0.0

0

同步

61

61

312879104

gxdwdata.log61

129024

0.1

0

同步

61

61

312879104

gxdwdata.log61

0

0.0

0

同步

61

61

312879104

gxdwdata.log61

0

0.0

0

同步

61

61

665886720

gxdwdata.log61

353007616

336.7

0

同步

61

61

1031901184

gxdwdata.log61

366014464

349.1

0

异步

61

61

1035294720

gxdwdata.log61

3393536

3.2

0

异步

61

61

1050155008

gxdwdata.log61

14860288

14.2

0

异步

61

61

1050155008

gxdwdata.log61

0

0.0

0

异步

61

61

1050155008

gxdwdata.log61

0

0.0

0

异步

62

61

21716992

gxdwdata.log62

45303808

43.2

1

异步

62

61

114671616

gxdwdata.log62

92954624

88.6

1

异步

62

62

114671616

gxdwdata.log62

0

0.0

0

异步

62

62

114671616

gxdwdata.log62

0

0.0

0

异步

62

62

523628544

gxdwdata.log62

408956928

390.0

0

同步

62

62

531777536

gxdwdata.log62

8148992

7.8

0

异步

62

62

531777536

gxdwdata.log62

0

0.0

0

异步

62

62

531777536

gxdwdata.log62

0

0.0

0

异步

62

62

551411712

gxdwdata.log62

19634176

18.7

0

异步

62

62

551542784

gxdwdata.log62

131072

0.1

0

异步

62

62

551542784

gxdwdata.log62

0

0.0

0

异步

62

62

551542784

gxdwdata.log62

0

0.0

0

异步

62

62

636989440

gxdwdata.log62

85446656

81.5

0

异步

62

62

643639296

gxdwdata.log62

6649856

6.3

0

异步

62

62

643768320

gxdwdata.log62

129024

0.1

0

异步

62

62

643768320

gxdwdata.log62

0

0.0

0

异步

62

62

643768320

gxdwdata.log62

0

0.0

0

同步

62

62

653426688

gxdwdata.log62

9658368

9.2

0

同步

62

62

653426688

gxdwdata.log62

0

0.0

0

同步

62

62

653426688

gxdwdata.log62

0

0.0

0

同步

62

62

653426688

gxdwdata.log62

0

0.0

0

同步

62

62

695246848

gxdwdata.log62

41820160

39.9

0

同步

62

62

782194688

gxdwdata.log62

86947840

82.9

0

同步

63

62

1063583744

gxdwdata.log62

281389056

268.4

1

同步

63

63

399298560

gxdwdata.log63

409456640

390.5

0

同步

63

63

511107072

gxdwdata.log63

111808512

106.6

0

同步

63

63

1008429056

gxdwdata.log63

497321984

474.3

0

同步

64

63

58040320

gxdwdata.log64

123353088

117.6

1

异步

64

63

204427264

gxdwdata.log64

146386944

139.6

1

同步

64

64

490162176

gxdwdata.log64

285734912

272.5

0

异步

64

64

510093312

gxdwdata.log64

19931136

19.0

0

异步

64

64

510093312

gxdwdata.log64

0

0.0

0

异步

64

64

510093312

gxdwdata.log64

0

0.0

0

同步

64

64

528943104

gxdwdata.log64

18849792

18.0

0

同步

64

64

528943104

gxdwdata.log64

0

0.0

0

同步

64

64

528943104

gxdwdata.log64

0

0.0

0

同步

64

64

598822912

gxdwdata.log64

69879808

66.6

0

同步

64

64

686155776

gxdwdata.log64

87332864

83.3

0

同步

64

64

937545728

gxdwdata.log64

251389952

239.7

0

同步

65

64

279341056

gxdwdata.log65

415537152

396.3

1

同步

65

64

309901312

gxdwdata.log65

30560256

29.1

1

同步

65

65

805165056

gxdwdata.log65

495263744

472.3

0

同步

65

65

1035530240

gxdwdata.log65

230365184

219.7

0

异步

65

65

1045354496

gxdwdata.log65

9824256

9.4

0

同步

66

65

394131456

gxdwdata.log66

422518784

402.9

1

异步

66

65

401700864

gxdwdata.log66

7569408

7.2

1

异步

66

66

640940032

gxdwdata.log66

239239168

228.2

0

异步

66

66

888217600

gxdwdata.log66

247277568

235.8

0

表【5.2.2.1同步非友好模式主备同步效能】研究输出结果为每10秒输出一次。

根据【5.2.2.1同步非友好模式主备同步效能】同步非友好模式主备同步研究结果以及研究加压过程中,可以得知,同步模式与日志堆积无直接关系,与事务的大小及设置超时时间有直接关系,当主节点的事务较大(研究中更新10万行记录,约38MB),而且此时内存库较忙时就会出现【5.2.2.2事务超时报错信息】错误,同时同步模式将转回异步模式,由于该设置为非友好同步模式,所以此时主节点的事务不会提交,等待下一个提交或者回滚指令,如果接收不到下一个指令将会一直处于等待状态;当下一个事务提交时,TT会尝试将异步模式转会同步模式。

5.2.2.2事务超时报错信息】

Source File: cmdutil.c on line number 1375

SQL State: S1T00

Native Error Code: 6003

Error Message: [TimesTen][TimesTen 11.2.1.9.7 ODBC Driver][TimesTen]TT6003: Lock request denied because of time-out

Details: Tran 9.9001 (pid 151658) wants Xn lock on rowid BMUFVUAAAAAAFTbF5g, table FMISMAIN.WF_PENDINGITEMINFO2. But tran 8.1536 (pid 266292) has it in Xn (request was Xn). Holder SQL (update FMISMAIN.WF_PENDINGITEMINFO2 set POSTID=‘NNDW‘,YHDM=1211 where rownum<=100000) -- file "tindex.c", lineno 4457, procedure "sbTixNext()"

The command failed.

 

Source File: command.c on line number 1881

SQL State: S1000

Native Error Code: 8170

Error Message: [TimesTen][TimesTen 11.2.1.9.7 ODBC Driver][TimesTen]TT8170: Receipt or commit acknowledgement not returned in the specified timeout interval -- file "xact.c", lineno 5963, procedure "sbXactCommit"

The command failed.

 

TT内存库数据同步研究结论

OracleTT数据同步总结

    通过对Oracle端数据变更同步到TT端同步效能的研究,Oracle端到TT端的同步能力与Oracle查询时间、提取时间及写入TT的时间相关;结合前期的运维经验和Oracle官方理论,只要Oracle端性能满足,并将每张同步到TT端的CacheGroup表的刷新间隔设置为不同时间值,指定的刷新间隔时间30秒内,基表大小约为600MB,当Oracle更新数据量小于15万行记录时,均能在刷新间隔内完成。

TT主备数据同步总结

    通过对TT主备的同步模式和异步模式的数据同步效能研究,异步模式下TT主备同步极限值约为1GB,即主节点每分钟产生小于1GB的事务日志时,事务日志能正常同步到备节点,不影响主备同步;当主节点每分钟产生事务日志大于1GB时,将出现日志堆积,影响主备正常同步。同步模式下,同步效能与日志堆积无直接关系,与事务的大小及设置超时时间有直接关系,当主节点的事务较大将会出现备节点提交超时,同时同步模式将转回异步模式,如果设置为友好同步模式,主节点事务会提交并继续下一个事务的处理;如果设置为同步非友好模式,主节点的事务不会提交,等待下一个提交或者回滚指令,如果接收不到下一个指令将会一直处于等待状态;当下一个事务提交时,TT会尝试将异步模式转会同步模式。

内存库数据同步结论

    综合以上对OracleTT端的数据同步及TT主备数据同步的研究,结合TT内存库的理论及前期运维经验,只要Oracle端资源充足,TTCache功能能够很好的满足Oracle端到TT数据同步;当Oracle批量业务更新,OracleTT端的同步效能将呈非线性(近指数)下降的趋势,需要将大批量业务拆成小事务进行处理,分批提交;对于异步模式,TT主备同步的极限能力为每分钟同步1GB事务日志;同步模式的同步效能与事务的大小及设置超时时间有直接关系,同步友好模式下,备节点事务超时,主节点将会提交,结束该事务并继续下一个事务处理;非同步友好模式下,备节点事务超时,主节点将处于等待状态,阻塞排队事务的处理。

--------------------End-----------------------

原文:http://blog.itpub.net/24930246/viewspace-1418875/

评论(0
© 2014 bubuko.com 版权所有 - 联系我们:wmxa8@hotmail.com
打开技术之扣,分享程序人生!