相对于学习Pandas各种数据筛选操作,SQL语法显得更加简洁清晰,若能够将SQL语法与Pandas中对应的函数的使用方法关联起来,对于我们应用Pandas进行数据筛选来讲无疑是一个福音。
网站建设公司,为您提供网站建设,网站制作,网页设计及定制网站建设服务,专注于成都定制网页设计,高端网页制作,对成都岗亭等多个行业拥有丰富的网站建设经验的网站建设公司。专业网站设计,网站优化推广哪家好,专业营销推广优化,H5建站,响应式网站。
本文通过Pandas实现SQL语法中条件过滤、排序、关联、合并、更新、删除等简单及复杂操作,使得我们对方法的理解更加深刻,更加得心应手。
本文采用安德森鸢尾花卉(iris)数据集进行演示,iris数据集包含150个样本,对应数据集的每行数据。每行数据包含每个样本的四个特征和样本的类别信息,因此iris数据集是一个150行*5列的二维表。
我们可以 UCI Iris dataset 获取或者使用 from sklearn.datasets import load_iris 方式获取,为了演示方便我们只取其中10行数据,如下:
接下来,就让我们一起学习一下,如何Pandas实现SQL语法中条件过滤、排序、关联、合并、更新、删除等数据查询操作。
- SELECT sl, sw, pl, pw FROM iris LIMIT 2;
如上SQL实现返回每行记录的 sl,sw,pl,pw 字段,仅返回2行记录。我们使用Pandas实现如上SQL的功能,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[["sl", "sw", "pl", "pw"]].head(2)
- print(search)
- # 执行上述代码,输出结果为:
- sl sw pl pw
- 0 5.1 3.5 1.4 0.2
- 1 4.9 3.0 1.4 0.2
- SELECT * FROM iris WHERE classes = 1 LIMIT 2;
如上SQL实现了查询满足classes=1的记录,并返回2行。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[iris["classes"]==1].head(2)
- print(search)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 3 6.8 2.8 4.8 1.4 1
- 4 6.7 3.0 5.0 1.7 1
与关系 &
- SELECT * FROM iris WHERE classes = 1 AND pl >= 5 LIMIT 2;
如上SQL实现查询同时满足classes=1 和 pl >=5 两个条件的记录,并返回2行。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[
- (iris["classes"] == 1) &
- (iris["pl"] >= 5)
- ].head(2)
- print(search)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 4 6.7 3.0 5.0 1.7 1
或关系 |
- SELECT * FROM iris WHERE sl >= 5 OR pl >=5 LIMIT 2;
如上SQL实现查询满足 sl >=5 或者 pl >=5 任一条件的记录,返回2行。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[
- (iris["sl"] >= 5) |
- (iris["pl"] >= 5)
- ].head(2)
- print(search)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 0 5.1 3.5 1.4 0.2 0
- 2 5.4 3.9 1.7 0.4 0
空判断 is null
- SELECT * FROM iris WHERE sl IS NULL;
如上SQL实现查询 sl 字段为NULL的记录,我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[iris["sl"].isna()]
- print(search)
非空判断 is not null
- SELECT * FROM iris WHERE sl IS NOT NULL;
如上SQL实现查询sl字段不为 NULL 的记录。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[iris["sl"].notna()]
- print(search)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 0 5.1 3.5 1.4 0.2 0
- 1 4.9 3.0 1.4 0.2 0
- 2 5.4 3.9 1.7 0.4 0
- 3 6.8 2.8 4.8 1.4 1
- 4 6.7 3.0 5.0 1.7 1
- 5 6.0 2.9 4.5 1.5 1
- 6 5.6 2.8 4.9 2.0 2
- 7 7.7 2.8 6.7 2.0 2
- 8 6.3 2.7 4.9 1.8 2
- 9 6.7 3.3 5.7 2.1 2
- SELECT * FROM iris WHERE sl >= 6 ORDER BY DESC classes;
如上SQL实现将满足sl字段值大于等于5的记录,按照classes降序排序。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris[(iris["sl"] >= 6)].sort_values(
- by="classes", ascending=False)
- print(search)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 7 7.7 2.8 6.7 2.0 2
- 8 6.3 2.7 4.9 1.8 2
- 9 6.7 3.3 5.7 2.1 2
- 3 6.8 2.8 4.8 1.4 1
- 4 6.7 3.0 5.0 1.7 1
- 5 6.0 2.9 4.5 1.5 1
- UPDATE iris SET classes = 2 WHERE pw = 1.7 AND pl >= 5;
如上SQL实现将同时满足pw = 1.7 和 pl >= 5的记录中的classes字段值更新为2。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- iris.loc[(iris["pw"] == 1.7) & (iris["pl"] >= 5), "classes"] = 2
- print(iris[iris["pw"] == 1.7])
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 4 6.7 3.0 5.0 1.7 2
- SELECT classes, COUNT(*) FROM iris GROUP BY classes;
如上SQL实现 根据classes进行分组,返回classes 及每组数量。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- count = iris.groupby("classes").size()
- print(count)
- # 执行上述代码,输出结果为:
- classes
- 0 3
- 1 3
- 2 4
- dtype: int64
- SELECT classes, avg(pl), max(sl) FROM iris GROUP BY classes;
如何SQL实现根据classes进行分组,返回classes值,每个分组的pl平均值以及每个分组的sl最大值。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- import numpy as np
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- search = iris.groupby("classes").agg(
- {"sl":np.max, "pl":np.mean})
- print(search)
- # 执行上述代码,输出结果为:
- sl pl
- classes
- 0 5.4 1.500000
- 1 6.8 4.766667
- 2 7.7 5.550000
- DELETE FROM iris WHERE pw = 1.7 AND pl >=5;
如上SQL实现将同时满足pw = 1.7 和 pl >= 5的记录删除。我们使用Pandas实现该SQL,代码如下:
- import pandas as pd
- iris = pd.read_excel(io="iris.xlsx",
- sheet_name='iris',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- drop = iris.drop(iris[(iris["pw"] == 1.7) &
- (iris["pl"] >= 5)].index)
- print(drop[drop["pw"] > 1.6])
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 6 5.6 2.8 4.9 2.0 2
- 7 7.7 2.8 6.7 2.0 2
- 8 6.3 2.7 4.9 1.8 2
- 9 6.7 3.3 5.7 2.1 2
接下来介绍如何使用Pandas进行合并查询及多表关联查询,为了演示方便,我们上面示例中的iris数据集,拆分成iris_a,iris_b两部分,如下:
合并结果 UNION ALL 可能存在重复记录
合并如下两个 SELECT 语句的结果集,需注意,UNION ALL 内部的 SELECT 语句必须拥有相同数量的列,列也必须拥有相似的数据类型。同时,每条 SELECT 语句中的列的顺序必须相同。
- SELECT * FROM iris_a WHERE classes = 1
- UNION ALL
- SELECT * FROM iris_b WHERE classes = 1 ;
如上SQL实现将两个查询结果进行合并,允许存在重复记录。我们使用 pandas.concat 方法实现该SQL,代码如下:
- import pandas as pd
- iris_a = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_a',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- iris_b = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_b',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- data = pd.concat(
- [iris_a[iris_a["classes"] == 1], iris_b[iris_b["classes"] == 1]])
- print(data)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 3 6.8 2.8 4.8 1.4 1
- 4 6.7 3.0 5.0 1.7 1
- 0 6.7 3.0 5.0 1.7 1
- 1 6.0 2.9 4.5 1.5 1
合并结果 UNION 不存在重复记录
合并如下两个 SELECT 语句的结果集,同时也需注意,UNION 内部的 SELECT 语句必须拥有相同数量的列,列也必须拥有相似的数据类型。同时,每条 SELECT 语句中的列的顺序必须相同。
- SELECT * FROM iris_a WHERE classes = 1
- UNION
- SELECT * FROM iris_b WHERE classes = 1 ;
如上SQL实现将两个select查询结果进行合并,不允许存在重复记录。我们使用 pandas.concat.drop_duplicates 方法 实现该SQL,代码如下:
- import pandas as pd
- iris_a = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_a',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- iris_b = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_b',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- data = pd.concat(
- [iris_a[iris_a["classes"] == 1],
- iris_b[iris_b["classes"] == 1]]).drop_duplicates()
- print(data)
- # 执行上述代码,输出结果为:
- sl sw pl pw classes
- 3 6.8 2.8 4.8 1.4 1
- 4 6.7 3.0 5.0 1.7 1
- 1 6.0 2.9 4.5 1.5 1
同样,我们依旧使用如上演示数据,如下:
内连接 INNER JOIN
获取iris_a,iris_b两个表中classes字段相同的记录,并返回满足条件的两张表中的所有记录。
- SELECT * FROM iris_a
- INNER JOIN iris_b
- ON iris_a.classes = iris_b.classes;
如上SQL实现iris_a 与 iris_b 按照classes字段进行内连接。我们使用 pandas.merge(iris_a, iris_b, on='classes') 实现该SQL,代码如下:
- import pandas as pd
- iris_a = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_a',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- iris_b = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_b',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- inner = pd.merge(iris_a, iris_b, on="classes")
- print(inner)
- # 执行上述代码,输出结果为:
- sl_x sw_x pl_x pw_x classes sl_y sw_y pl_y pw_y
- 0 6.8 2.8 4.8 1.4 1 6.7 3.0 5.0 1.7
- 1 6.8 2.8 4.8 1.4 1 6.0 2.9 4.5 1.5
- 2 6.7 3.0 5.0 1.7 1 6.7 3.0 5.0 1.7
- 3 6.7 3.0 5.0 1.7 1 6.0 2.9 4.5 1.5
左连接 LEFT OUTER JOIN
获取左表 iris_a 所有记录,判断每条数据的 classes 字段是否能匹配到右表iris_b的数据,无论能否匹配到,左表 iris_a 数据都会保留。若能匹配,则左右表都保留。若不能匹配,右表iris_b字段都置空NULL,并返回保留的记录。
- SELECT * FROM iris_a
- LEFT JOIN iris_b
- ON iris_a.classes = iris_b.classes;
如上SQL实现iris_a 与 iris_b 按照classes字段进行左连接。我们使用 pandas.merge(iris_a, iris_b, on='classes', how='left') 方法实现该SQL,代码如下:
- import pandas as pd
- iris_a = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_a',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- iris_b = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_b',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- inner = pd.merge(iris_a, iris_b, on="classes", how="left")
- print(inner)
- # 执行上述代码,输出结果为:
- sl_x sw_x pl_x pw_x classes sl_y sw_y pl_y pw_y
- 0 5.1 3.5 1.4 0.2 0 NaN NaN NaN NaN
- 1 4.9 3.0 1.4 0.2 0 NaN NaN NaN NaN
- 2 5.4 3.9 1.7 0.4 0 NaN NaN NaN NaN
- 3 6.8 2.8 4.8 1.4 1 6.7 3.0 5.0 1.7
- 4 6.8 2.8 4.8 1.4 1 6.0 2.9 4.5 1.5
- 5 6.7 3.0 5.0 1.7 1 6.7 3.0 5.0 1.7
- 6 6.7 3.0 5.0 1.7 1 6.0 2.9 4.5 1.5
右连接 RIGHT OUTER JOIN
获取右表 iris_b 所有记录,判断每条数据的 classes 字段是否能匹配到右表 iris_a 的数据,无论能否匹配到,右表 iris_b 数据都会保留。若能匹配,则左右表都保留。若不能匹配,左表iris_a字段都置空NULL,并返回保留的记录。
- SELECT * FROM iris_a
- RIGHT JOIN iris_b
- ON iris_a.classes = iris_b.classes;
如上SQL实现iris_a 与 iris_b 按照classes字段进行右连接。我们使用 pandas.merge(iris_a, iris_b, on='classes', how='right')实现该SQL,代码如下:
- import pandas as pd
- iris_a = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_a',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- iris_b = pd.read_excel(io="iris.xlsx",
- sheet_name='iris_b',
- usecols=["sl", "sw", "pl", "pw", "classes"])
- inner = pd.merge(iris_a, iris_b, on="classes", how="right")
- print(inner)
- # 执行上述代码,输出结果为:
- sl_x sw_x pl_x pw_x classes sl_y sw_y pl_y pw_y
- 0 6.8 2.8 4.8 1.4 1 6.7 3.0 5.0 1.7
- 1 6.7 3.0 5.0 1.7 1 6.7 3.0 5.0 1.7
- 2 6.8 2.8 4.8 1.4 1 6.0 2.9 4.5 1.5
- 3 6.7 3.0 5.0 1.7 1 6.0 2.9 4.5 1.5
- 4 NaN NaN NaN NaN 2 5.6 2.8 4.9 2.0
- 5 NaN NaN NaN NaN 2 7.7 2.8 6.7 2.0
- 6 NaN NaN NaN NaN 2 6.3 2.7 4.9 1.8
- 7 NaN NaN NaN NaN 2 6.7 3.3 5.7 2.1
分享文章:PythonPandas可以像SQL那样,进行数据筛选统计
标题网址:http://www.shufengxianlan.com/qtweb/news45/178345.html
网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联