MongoDB数据库操作
MongoDB是一个基于分布式文件存储的NoSQL数据库。在处理海量数据的时候会比MySQL更有优势。爬虫如果上了一个量级,可能就会比较推荐使用MongoDB,当然没有上量的数据也完全可以使用MongoDB来存储数据。因此学会使用MongoDB也是爬虫开发工程师必须掌握的一个技能。
Windows下安装MongoDB数据库:
在官网下载MongoDB数据库。是一个msi文件。官网地址如下:https://www.mongodb.com/download-center?ct=atlasheader#community
然后双击进行安装:
选择安装的地址。不要包含中文、空格。
在安装的时候选择安装Compass。这个软件是用图形化的界面操作MongoDB,使用起来非常方便。
运行MongoDB:
- 创建数据目录:
启动MongoDB之前,首先要给他指定一个数据存储的路径。比如我在MongoDB的安装路径下创建一个data文件夹,专门用来存储数据的。D:\ProgramApp\mongodb\data。
- 把mongodb的bin目录加入到环境变量中。方便后期调用。
- 执行命令mongod --dbpath D:\ProgramApp\mongodb\data启动。
连接MongoDB:
在环境变量设置好的前提下,使用以下命令mongo就可以进入到mongo的操作终端了。
使用Compass软件连接MongoDB:
Compass是一个图形化的操作MongoDB的客户端。使用他来操作会更加方便。
将MongoDB制作成windows服务:
启动mongodb后,如果想让mongodb一直运行,那么这个终端便不能关闭,而且每次运行的时候还需要指定data的路径。因此我们可以将mongodb制作成一个服务,以后就通过一行命令就可以运行了。以下将讲解如何制作服务:
- 创建配置文件:在 - mongodb安装的路径下创建配置文件- mongod.cfg(路径和名字不是必须和我这的一样),然后在配置文件中添加以下代码:- logpath=D:\ProgramApp\mongodb\data\log\mongod.log dbpath=D:\ProgramApp\mongodb\data\db- logpath是日志的路径。- dbpath是- mongodb数据库的存储路径。
- 安装 - mongodb服务:
 使用以下命令即可将- mongodb安装成一个服务:- mongod --config "cfg配置文件所在路径" --install 比如: mongod --config "D:\ProgramApp\mongodb\mongod.cfg" --install
- 启动 - mongodb:- net start mongodb。
- 关闭 - mongodb:- net stop mongodb。
- 移除 - mongodb:- "D:\ProgramApp\mongodb\bin\mongod.exe" --remove。
MongoDB概念介绍:
| SQL术语/概念 | MongoDB术语/概念 | 解释/说明 | 
|---|---|---|
| database | database | 数据库 | 
| table | collection | 数据库表/集合 | 
| row | document | 数据记录行/文档 | 
| column | field | 数据字段/域 | 
| index | index | 索引 | 
| joins | joins | 表连接,MongoDB不支持 | 
| primary key | primary key | 主键,MongoDB自动将_id字段设置为主键 | 
MongoDB三元素:
三元素:数据库、集合、文档。
- 文档(document):就是关系型数据库中的一行。文档是一个对象,由键值对构成,是json的扩展形式:{'name':'abc','gender':'1'}
- 集合(collection):就是关系型数据库中的表。可以存储多个文档,结构可以不固定。如可以存储如下文档在一个集合中:{"name":"abc","gender":"1"} {"name":"xxx","age":18} {"title":'yyy','price':20.9}
MongoDB基本操作命令:
- db:查看当前的数据库。
- show dbs:查看所有的数据库。
- use 数据库名:切换数据库。如果数据库不存在,则创建一个。(创建完成后需要插入数据库才算创建成功)
- db.dropDatabase():删除当前指向的数据库。
- db.集合名.insert(value):添加数据到指定的集合中。
- db.集合名.find():从指定的集合中查找数据。 更多命令请见:http://www.runoob.com/mongodb/mongodb-tutorial.html
Python操作MongoDB:
安装pymongo:
要用python操作mongodb,必须下载一个驱动程序,这个驱动程序就是pymongo:
pip install pymongo
连接MongoDB:
import pymongo
# 获取连接的对象
client = pymongo.MongoClient('127.0.0.1',port=27017)
# 获取数据库
db = client.zhihu
# 获取集合(表)
collection = db.qa
# 插入一条数据到集合中
collection.insert_one({
    "username":"abc",
    "password":'hello'
})
数据类型:
| 类型 | 说明 | 
|---|---|
| Object ID | 文档ID | 
| String | 字符串,最常用,必须是有效的UTF-8 | 
| Boolean | 存储一个布尔值,true或false | 
| Integer | 整数可以是32位或64位,这取决于服务器 | 
| Double | 存储浮点值 | 
| Arrays | 数组或列表,多个值存储到一个键 | 
| Object | 用于嵌入式的文档,即一个值为一个文档 | 
| Null | 存储Null值 | 
| Timestamp | 时间戳,表示从1970-1-1到现在的总秒数 | 
| Date | 存储当前日期或时间的UNIX时间格式 | 
操作MongoDB:
操作MongoDB的主要方法如下:
- insert_one:加入一条文档数据到集合中。示例代码如下:- collection.insert_one({ "username":"abc", "password":'hello' })
- insert_many:加入多条文档数据到集合中。- collection.insert_many([ { "username":'abc', 'password':'111111' }, { "username":'bbb', 'password':'222222' }, ])
- find_one:查找一条文档对象。- result = collection.find_one() print(result) # 或者是指定条件 result = collection.find_one({"username":"abc"}) print(result)
- update_one:更新一条文档对象。- collection.update_one({"username":"abc"},{"$set":{"username":"aaa"}})
- update_many:更新多条文档对象。- collection.update_many({"username":"abc"},{"$set":{"username":"aaa"}})
- delete_one:删除一条文档对象。- collection.delete_one({"username":"abc"})
- delete_many:删除多条文档对象。- collection.delete_one({"username":"abc"})