MongoDB分布式自动分片(Auto-sharding)研究

MongoDB分布式自动分片(Auto-sharding)研究

作者：Crazybaby 2011-07-28 13:24:03

数据库

其他数据库

数据库运维

分布式

MongoDB 跳过理论东西，网上有介绍自动分片的...直接进入配置，有疑问请留言。还是以1000W级数据做测试。

跳过理论东西，网上有介绍自动分片的...直接进入配置，有疑问请留言

还是以1000W级数据做测试

不分片的情况下,插入1000W条数据到一个数据库。

数据存储情况如下：

  
 
 
       
  
  
  1. ^_^[root@:/usr/local/mongodb/data/mongodb/test]#ls -lh 
    2.    
  
  
  2. total 4.0G 
    3.    
  
  
  3. -rw------- 1 root root  64M Jul 25 11:25 test.0 
    4.    
  
  
  4. -rw------- 1 root root 128M Jul 25 11:22 test.1 
    5.    
  
  
  5. -rw------- 1 root root 256M Jul 25 11:23 test.2 
    6.    
  
  
  6. -rw------- 1 root root 512M Jul 25 11:25 test.3 
    7.    
  
  
  7. -rw------- 1 root root 1.0G Jul 25 11:25 test.4 
    8.    
  
  
  8. -rw------- 1 root root 2.0G Jul 25 11:24 test.5 
    9.    
  
  
  9. -rw------- 1 root root  16M Jul 25 11:25 test.ns 
    10.

下面进行自动分片配置：

这里我们选择两台Server做测试

测试机IP为：

10.X.X.163

10.X.X.228

分别在163，228服务器上启动Shardsvr进程

  
 
 
       
  
  
  1. ^_^[root@:/usr/local/mongodb/bin]#cat runServerShard.sh  
    2.    
  
  
  2. ./mongod --shardsvr -dbpath=../data/mongodb --logpath=../data/shardsvr_logs.txt --logappend --fork 
    3.

在163服务器上启动configsvr 和 mongos路由进程(下面的27019为configsvr的ip，mongos的ip请到log里面去看)

  
 
 
       
  
  
  1. [root@localhost bin]# cat runServerConfig.sh  
    2.    
  
  
  2. ./mongod --configsvr --dbpath=../data/mongodb/config_db/ --logpath=../data/mongodb/log/configsvr_logs.txt --logappend --fork  
    3.    
  
  
  3. [root@localhost bin]# cat runServerMongos.sh  
    4.    
  
  
  4. ./mongos --configdb 10.10.21.163:27019 --logpath=../data/mongodb/log/mongos_logs.txt --logappend --fork 
    5.

查看下是否都启动成功：

  
 
 
       
  
  
  1. [root@localhost bin]# ps -ef | grep 'mongo' 
    2.    
  
  
  2. root     17939     1  2 18:47 ?        00:01:26 ./mongod --shardsvr -dbpath=../data/mongodb --logpath=../data/shardsvr_logs.txt --logappend --fork 
    3.    
  
  
  3. root     18250     1  0 19:05 ?        00:00:00 ./mongod --configsvr --dbpath=../data/mongodb/config_db/ --logpath=../data/mongodb/log/configsvr_logs.txt --logappend --fork 
    4.    
  
  
  4. root     18290     1 12 19:08 ?        00:03:35 ./mongos --configdb 10.10.21.163:27019 --logpath=../data/mongodb/log/mongos_logs.txt --logappend --fork 
    5.

可见3个服务都已经启动成功。

下面进入配置自动分片：

用mongo连接mongos进程(去log里面看)进行配置管理：

  
 
 
       
  
  
  1. > use admin 
    2.    
  
  
  2. switched to db admin 
    3.    
  
  
  3. > db.runCommand({addshard:"10.10.21.163:27018"}); 
    4.    
  
  
  4. { "ok" : 0, "errmsg" : "host already used" } 
    5.    
  
  
  5. > db.runCommand({addshard:"10.7.3.228:27018"}); 
    6.    
  
  
  6. { "shardAdded" : "shard0001", "ok" : 1 } 
    7.    
  
  
  7. > db.runCommand({enableSharding:"test"}) 
    8.    
  
  
  8. { "ok" : 1 } 
    9.    
  
  
  9. > db.runCommand({shardcollection:"test.users",key:{_id:1}}) 
    10.    
  
  
  10. { "collectionsharded" : "test.users", "ok" : 1 } 
    11.

向mongos进程进行插入1000W数据

来看下数据的大小：

163：

  
 
 
       
  
  
  1. ^_^[root@:/usr/local/mongodb/data/mongodb]#ls -lh 
    2.    
  
  
  2. total 2.0G 
    3.    
  
  
  3. -rw-r--r-- 1 root root 1011 Jul 25 12:33 mongodb.log 
    4.    
  
  
  4. -rwxr-xr-x 1 root root    6 Jul 25 12:34 mongod.lock 
    5.    
  
  
  5. drwxr-xr-x 3 root root 4.0K Jul 25 12:39 moveChunk 
    6.    
  
  
  6. -rw------- 1 root root  64M Jul 25 12:42 test.0 
    7.    
  
  
  7. -rw------- 1 root root 128M Jul 25 12:40 test.1 
    8.    
  
  
  8. -rw------- 1 root root 256M Jul 25 12:41 test.2 
    9.    
  
  
  9. -rw------- 1 root root 512M Jul 25 12:42 test.3 
    10.    
  
  
  10. -rw------- 1 root root 1.0G Jul 25 12:41 test.4 
    11.    
  
  
  11. -rw------- 1 root root  16M Jul 25 12:42 test.ns 
    12.    
  
  
  12. drwxr-xr-x 2 root root 4.0K Jul 25 12:38 _tmp 
    13.

228：

  
 
 
       
  
  
  1. [root@localhost mongodb]# ls -lh 
    2.    
  
  
  2. 总计 2.0G 
    3.    
  
  
  3. drwxr-xr-x 3 root root 4.0K 07-25 19:39 config_db 
    4.    
  
  
  4. drwxr-xr-x 2 root root 4.0K 07-25 18:51 config_repair_db 
    5.    
  
  
  5. drwxr-xr-x 2 root root 4.0K 07-25 19:39 log 
    6.    
  
  
  6. -rwxr-xr-x 1 root root    6 07-25 19:39 mongod.lock 
    7.    
  
  
  7. drwxr-xr-x 3 root root 4.0K 07-25 19:13 moveChunk 
    8.    
  
  
  8. -rw------- 1 root root  64M 07-25 20:38 test.0 
    9.    
  
  
  9. -rw------- 1 root root 128M 07-25 20:38 test.1 
    10.    
  
  
  10. -rw------- 1 root root 256M 07-25 20:40 test.2 
    11.    
  
  
  11. -rw------- 1 root root 512M 07-25 20:41 test.3 
    12.    
  
  
  12. -rw------- 1 root root 1.0G 07-25 20:42 test.4 
    13.    
  
  
  13. -rw------- 1 root root  16M 07-25 20:38 test.ns 
    14.    
  
  
  14. drwxr-xr-x 2 root root 4.0K 07-25 20:38 _tmp 
    15.

自动分片成每个2G。

网页名称：MongoDB分布式自动分片(Auto-sharding)研究
分享地址：http://www.mswzjz.cn/qtweb/news32/438182.html

攀枝花网站建设、攀枝花网站运维推广公司-贝锐智能，是专注品牌与效果的网络营销公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 贝锐智能

贝锐智能技术为您推荐以下文章

App设计知识

各行业网站

网站推广公司　　 　重庆电信五里店机房　　 　特丽尔硅藻泥　　 　光彩外墙景观　　 　新都四新网站建设　　 　传美奇电器　　 　雕琢时光食品　　 　成都响应式网站建设　　 　成都茶叶销售　　 　注册域名　　 　网站制作报价　　 　成都云主机　　 　IDC机房托管　　 　IDC机房托管　　 　成都门户网站建设　　 　定制级高端网站建设　　 　成都圣月服饰　　 　seo优化排名　　 　梅州网站建设　　 　小程序开发