在日常数据查询时,绝大多数情况是将表格关联起来进行查询的,而不仅仅是对一张表格的数据进行查询,常用的数据拼接有两种方法,一种是以行为单位纵向连接,另一种是以列为单位横向拼接,纵向连接使用的函数是UNION,水平拼接使用的函数是JOIN,本节使用pandasql库借助SQL语句进行表格连接,下面一起来学习。
- 示例工具:anconda3.7
- 本文讲解内容:pandasql库的使用、SQL连接
- 适用范围:在Python中实现多表连接
数据表创建
本节因为案例需要,所以事先用 pandas创建3个表,数据表内容包含用户ID、日期、城市、年龄、性别等字段,三个表的共同字段都是用户ID,所以,可以作为连接的主键,使用pandas构建数据表结果如下。
构建第一张表作为基础表,以用户ID作为主键,进行连接。
importpandasaspd importdatetime #构造数据集df1 df1=pd.DataFrame({'用户ID':[1001,1002,1003,1004,1005,1006], '日期':pd.date_range(datetime.datetime(2021,3,26),periods=6), '城市':['北京','上海','广州','上海','杭州','北京'], '年龄':[23,44,54,32,34,32], '性别':['F','M','M','F','F','F'], '成交量':[3200,1356,2133,6733,2980,3452]}, columns=['用户ID','日期','城市','年龄','性别','成交量']) df1
构建第二张表,用于数据表的横向连接。
#构造数据集df2 df2=pd.DataFrame({'用户ID':[1007,1008,1009], '日期':pd.date_range(datetime.datetime(2021,3,1),periods=3), '城市':['北京','上海','广州'], '年龄':[33,34,34,], '性别':['F','M','F'], '成交量':[4200,3356,2633]}, columns=['用户ID','日期','城市','年龄','性别','成交量']) df2
构建第三张表,以用户ID为主键,用于数据表的横向连接。
#构造构造列名不同的df3 df3=pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006,1007,1008,1009,1010], "平台":['京东','淘宝','京东','天猫','唯品会','苏宁','天猫','淘宝','美团','拼多多'], "收入额":[100000,320000,240000,445000,340000,640000,300000,460000,540000,230000]}, columns=['id','平台','收入额']) df3
横向连接
首先是表的横向连接,顾名思义,就是在原基础表,往下一空行复制粘贴新的数据,要求两张表的列标题都是一样的,才能正常连接,这里使用UNION ALL进行连接,表示将列标题相同的两张表连接起来,如果是使用UNION连接,两张中相同的两行只会保留一行连接。
#导入pandasql库 importpandasqlassql #表的横向连接 sql.sqldf("""select*fromdf1 unionall select*fromdf2""")
纵向连接No.1内连接
纵向连接是表格连接中使用最广泛的连接,纵向连接又可以分为内连接和外连接,内连接,连接表都匹配的记录才会出现在最终的结果集,并且连接顺序无关,这里内连接的第一种办法是使用WHERE语句,当两个表的ID相同时进行连接。
#内连接 sql.sqldf("""select*fromdf1,df3 wheredf1.用户ID=df3.id;""")
除了使用WHERE语句进行内连接,还可以使用INNER JOIN函数进行内连接,当两个表的ID相同时进行连接。
#内连接 sql.sqldf("""select*fromdf1 innerjoindf3 ondf1.用户ID=df3.id;""")
纵向连接No.2外连接
外连接以其中一张表为驱动表,与另张表的每条记录进行匹配如果能够匹配则进行关联并展示;如果不能匹配则以null展示,与连接顺序有关,这里演示的LEFT JOIN函数,当右边的表与左边的基础表的ID一致时,进行连接,类似于EXCEL函数中的VLOOKUP功能。
#左外连接 sql.sqldf("""select*fromdf1 leftjoindf3 ondf1.用户ID=df3.id;""")
在日常工作使用左外连接的次数会很多,一般都是将多个表进行多次左外连接,这个知识点需要熟练掌握,将上面的连接结果分别赋值变量,然后导出,结果如下。
#数据导出 write=pd.ExcelWriter(r'C:\Users\尚天强\Desktop'+'\\SQL连接查询结果'+'.xlsx') sqltable1.to_excel(write,sheet_name='SQL横向连接',index=False) sqltable2.to_excel(write,sheet_name='SQL纵向内连接',index=False) sqltable3.to_excel(write,sheet_name='SQL纵向左外连接',index=False) write.save() write.close()
转载请注明:IT运维空间 » 运维技术 » 当Pandas遇到SQL,如何做关联查询
发表评论