新闻  |   论坛  |   博客  |   在线研讨会
Pandas 的Merge函数详解(2)
数据派THU | 2023-08-22 20:05:33    阅读:1720   发布文章

merge_ordered

在 Pandas 中,merge_ordered 是一种用于合并有序数据的函数。它类似于 merge 函数,但适用于处理时间序列数据或其他有序数据。merge_ordered 在合并时会保留原始数据的顺序,并且支持对缺失值进行处理。


 pd.merge_ordered(customer, order)


默认情况下,merge_ordered将执行Outer Join并根据连接键对数据进行排序。我们也可以像更改合并类型一样调整how参数。

merge_ordered是为有序数据(如时间序列)开发的。所以我们创建另一个名为Delivery的数据集来模拟时间序列数据合并。











 order = pd.DataFrame({'order_id': [200, 201,202,203,204],                      'cust_id':[1,3,3,4,2],                      'order_date': ['2014-07-05', '2014-07-06', '2014-07-07', '2014-07-07', '2014-07-08'],                      'order_value': [10.1, 20.5, 18.7, 19.1, 13.5],                      'delivery_country' : ['German', 'Indonesia', 'Armenia', 'Singapore', 'Japan']                      })
 delivery = pd.DataFrame({'delivery_date': ['2014-07-06', '2014-07-08', '2014-07-09', '2014-07-10'],                        'product': ['Apple', 'Apple', 'Orange', 'Orange']})


让我们假设delivery_date是投递时间,它包含与Order数据集中的order_date一起使用。另外就是我们还需要将日期列转换为datetime对象。

 order['order_date'] = pd.to_datetime(order['order_date'])  delivery['delivery_date'] = pd.to_datetime(delivery['delivery_date'])


让我们尝试按日期列合并两个数据集。

 pd.merge_ordered(order, delivery,  left_on = 'order_date', right_on = 'delivery_date')

图片

合并的DataFrame是按连接键排序的Order和Delivery数据集的Outer Join结果。

由于是外连接,一些数据点是空的。对于merge_ordered,有一个选项可以通过使用fill_method参数来填充缺失的值。

 pd.merge_ordered(order, delivery, left_on = 'order_date',  right_on = 'delivery_date', fill_method = 'ffill' )

图片

在上面的DataFrame中执行前向填充方法来计算缺失的值。

最后merge_ordered函数还可以基于数据集列执行DataFrame分组,并将它们一块一块地合并到另一个数据集。

 pd.merge_ordered(order, delivery, left_on = 'order_date',  right_on = 'delivery_date', right_by = 'product')

图片


在上面的代码中将product列传递给right_by参数,这样product列中的每个值都映射到每个可用行,并且用于对数据进行分组的同一DataFrame中不存在的数据用NaN填充。

为了进一步理解,我们在合并之前添加日期来对数据进行分组。

 pd.merge_ordered(order, delivery, left_on = 'order_date',  right_on = 'delivery_date', right_by = ['delivery_date','product'])

图片

在上面的合并过程中,我们最终得到了4个不同的组:

 ['2014–07–06', 'Apple'], ['2014–07–08', 'Apple'], ['2014–07–09', 'Orange'], ['2014–07–10', 'Orange']

该组基于所使用列中的现有行,因此它不是所有惟一值的组合。例如,没有[' 2014-07-09 ','Apple']组,因为此数据不存在。

在上面的DataFrame中可以看到Order数据集中的每一行都映射到Delivery数据集中的组。

merge_asof

merge_asof 是一种用于按照最近的关键列值合并两个数据集的函数。这个函数用于处理时间序列数据或其他有序数据,并且可以根据指定的列或索引按照最接近的值进行合并。

 order = pd.DataFrame({'order_id': [199, 200, 201,202,203,204],                      'cust_id':[1,1,3,3,4,2],                      'order_date': ['2014-07-01', '2014-07-05', '2014-07-06', '2014-07-07', '2014-07-07', '2014-07-08'],                      'order_value': [11, 10.1, 20.5, 18.7, 19.1, 13.5],                      'delivery_country' : ['Poland', 'German', 'Indonesia', 'Armenia', 'Singapore', 'Japan']                      })  delivery = pd.DataFrame({'delivery_date': ['2014-07-06', '2014-07-08', '2014-07-09', '2014-07-10'],                        'product': ['Apple', 'Apple', 'Orange', 'Orange']})

使用merge_asof函数的一个注意事项是,必须按键对两个DataFrame进行排序。这是因为它将根据键的距离合并键,而未排序的DataFrame将抛出错误消息。

使用merge_asof类似于其他的合并操作,需要传递想要合并的DataFrame及其键名称。

 pd.merge_asof(order, delivery, left_on = 'order_date',  right_on = 'delivery_date')

图片

我们可以看到一些数据被合并了,但不是精确的值匹配。比如在第三行和第四行,order_date值为“2014-07-07”,但delivery_date为“2014-07-06”。

使用merge_asof会丢失数据。默认情况下它查找最接近匹配的已排序的键。在上面的代码中,与delivery_date不完全匹配的order_date试图在delivery_date列中找到与order_date值较小或相等的键。

delivery_date中小于等于order_date' 2014-07-07 '的值为' 2014-07-06 '。这就是为什么合并发生在这个键上。而order_date ' 2017-04-01 '和' 2017-04-05 '根本没有匹配,因为在delivery_date中没有小于或等于它们的值的值。

如果在正确的DataFrame中有多个重复的键,则只有最后一行用于合并过程。例如将更改delivery_date数据,使其具有多个不同产品的“2014-07-06”值。


 delivery = pd.DataFrame({'delivery_date': ['2014-07-06', '2014-07-06', '2014-07-08', '2014-07-10'],                        'product': ['Apple', 'Orange', 'Apple', 'Orange']})

图片

然后我们将执行与之前相同的合并过程。

 pd.merge_asof(order, delivery, left_on = 'order_date',  right_on = 'delivery_date')

图片

可以看到,合并过程对Orange产品而不是Apple产品使用delivery_date ,尽管两者具有相同的键值。另外具有精确匹配的键也会受到影响,它们会选择最后一行键。

可以通过设置allow_exact_matches=False来关闭精确匹配合并。

 pd.merge_asof(order, delivery, left_on = 'order_date',  right_on = 'delivery_date', allow_exact_matches = False)

图片

通过使用direction 参数来改变查找键的策略。例如使用向前策略:

 pd.merge_asof(order, delivery, left_on = 'order_date',  right_on = 'delivery_date', direction = 'forward')

图片


向前策略与向后策略类似,不同之处在于该函数将通过查看大于或等于正确DataFrame键的值来尝试合并。

另一个可以使用的策略是就近策略。在这个策略中使用向后或向前策略;取绝对距离中最近的那个。如果有多个最接近的键或精确匹配,则使用向后策略。

 pd.merge_asof(order, delivery, left_on = 'order_date',   right_on = 'delivery_date', direction = 'nearest')

图片

最后还可以通过使用tolerance 参数来控制键之间的距离。

 pd.merge_asof(order, delivery, left_on = 'order_date',  right_on = 'delivery_date', direction = 'forward',   tolerance = pd.Timedelta(1, 'd'))

图片

在上面的示例中,只有第一行包含缺失值。这是因为order_date第一行与最近的日期delivery_date之间的距离大于一天。第二行成功合并,因为只差一天。

总结

Pandas函数提供了Merge函数可以轻松的帮助我们合并数据,而merge_ordered函数和merge_asof可以帮助我们进行更加定制化的合并工作,虽然这两个函数可能并不常见,但是它们的确在一些特殊的需求上非常的好用。

作者:Cornellius Yudha Wijaya


*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。

参与讨论
登录后参与讨论
推荐文章
最近访客