"); //-->
在 Pandas 中,merge_ordered 是一种用于合并有序数据的函数。它类似于 merge 函数,但适用于处理时间序列数据或其他有序数据。merge_ordered 在合并时会保留原始数据的顺序,并且支持对缺失值进行处理。
pd.merge_ordered(customer, order)
默认情况下,merge_ordered将执行Outer Join并根据连接键对数据进行排序。我们也可以像更改合并类型一样调整how参数。
merge_ordered是为有序数据(如时间序列)开发的。所以我们创建另一个名为Delivery的数据集来模拟时间序列数据合并。
order = pd.DataFrame({'order_id': [200, 201,202,203,204], 'cust_id':[1,3,3,4,2], 'order_date': ['2014-07-05', '2014-07-06', '2014-07-07', '2014-07-07', '2014-07-08'], 'order_value': [10.1, 20.5, 18.7, 19.1, 13.5], 'delivery_country' : ['German', 'Indonesia', 'Armenia', 'Singapore', 'Japan'] }) delivery = pd.DataFrame({'delivery_date': ['2014-07-06', '2014-07-08', '2014-07-09', '2014-07-10'], 'product': ['Apple', 'Apple', 'Orange', 'Orange']})
让我们假设delivery_date是投递时间,它包含与Order数据集中的order_date一起使用。另外就是我们还需要将日期列转换为datetime对象。
order['order_date'] = pd.to_datetime(order['order_date']) delivery['delivery_date'] = pd.to_datetime(delivery['delivery_date'])
让我们尝试按日期列合并两个数据集。
pd.merge_ordered(order, delivery, left_on = 'order_date', right_on = 'delivery_date')
合并的DataFrame是按连接键排序的Order和Delivery数据集的Outer Join结果。
由于是外连接,一些数据点是空的。对于merge_ordered,有一个选项可以通过使用fill_method参数来填充缺失的值。
pd.merge_ordered(order, delivery, left_on = 'order_date', right_on = 'delivery_date', fill_method = 'ffill' )
在上面的DataFrame中执行前向填充方法来计算缺失的值。
最后merge_ordered函数还可以基于数据集列执行DataFrame分组,并将它们一块一块地合并到另一个数据集。
pd.merge_ordered(order, delivery, left_on = 'order_date', right_on = 'delivery_date', right_by = 'product')
在上面的代码中将product列传递给right_by参数,这样product列中的每个值都映射到每个可用行,并且用于对数据进行分组的同一DataFrame中不存在的数据用NaN填充。
为了进一步理解,我们在合并之前添加日期来对数据进行分组。
pd.merge_ordered(order, delivery, left_on = 'order_date', right_on = 'delivery_date', right_by = ['delivery_date','product'])
在上面的合并过程中,我们最终得到了4个不同的组:
merge_asof['2014–07–06', 'Apple'], ['2014–07–08', 'Apple'], ['2014–07–09', 'Orange'], ['2014–07–10', 'Orange']
该组基于所使用列中的现有行,因此它不是所有惟一值的组合。例如,没有[' 2014-07-09 ','Apple']组,因为此数据不存在。在上面的DataFrame中可以看到Order数据集中的每一行都映射到Delivery数据集中的组。
merge_asof 是一种用于按照最近的关键列值合并两个数据集的函数。这个函数用于处理时间序列数据或其他有序数据,并且可以根据指定的列或索引按照最接近的值进行合并。
order = pd.DataFrame({'order_id': [199, 200, 201,202,203,204], 'cust_id':[1,1,3,3,4,2], 'order_date': ['2014-07-01', '2014-07-05', '2014-07-06', '2014-07-07', '2014-07-07', '2014-07-08'], 'order_value': [11, 10.1, 20.5, 18.7, 19.1, 13.5], 'delivery_country' : ['Poland', 'German', 'Indonesia', 'Armenia', 'Singapore', 'Japan'] }) delivery = pd.DataFrame({'delivery_date': ['2014-07-06', '2014-07-08', '2014-07-09', '2014-07-10'], 'product': ['Apple', 'Apple', 'Orange', 'Orange']})使用merge_asof函数的一个注意事项是,必须按键对两个DataFrame进行排序。这是因为它将根据键的距离合并键,而未排序的DataFrame将抛出错误消息。
使用merge_asof类似于其他的合并操作,需要传递想要合并的DataFrame及其键名称。
pd.merge_asof(order, delivery, left_on = 'order_date', right_on = 'delivery_date')
我们可以看到一些数据被合并了,但不是精确的值匹配。比如在第三行和第四行,order_date值为“2014-07-07”,但delivery_date为“2014-07-06”。
使用merge_asof会丢失数据。默认情况下它查找最接近匹配的已排序的键。在上面的代码中,与delivery_date不完全匹配的order_date试图在delivery_date列中找到与order_date值较小或相等的键。
delivery_date中小于等于order_date' 2014-07-07 '的值为' 2014-07-06 '。这就是为什么合并发生在这个键上。而order_date ' 2017-04-01 '和' 2017-04-05 '根本没有匹配,因为在delivery_date中没有小于或等于它们的值的值。
如果在正确的DataFrame中有多个重复的键,则只有最后一行用于合并过程。例如将更改delivery_date数据,使其具有多个不同产品的“2014-07-06”值。
delivery = pd.DataFrame({'delivery_date': ['2014-07-06', '2014-07-06', '2014-07-08', '2014-07-10'], 'product': ['Apple', 'Orange', 'Apple', 'Orange']})
然后我们将执行与之前相同的合并过程。
pd.merge_asof(order, delivery, left_on = 'order_date', right_on = 'delivery_date')
可以看到,合并过程对Orange产品而不是Apple产品使用delivery_date ,尽管两者具有相同的键值。另外具有精确匹配的键也会受到影响,它们会选择最后一行键。
可以通过设置allow_exact_matches=False来关闭精确匹配合并。
pd.merge_asof(order, delivery, left_on = 'order_date', right_on = 'delivery_date', allow_exact_matches = False)
通过使用direction 参数来改变查找键的策略。例如使用向前策略:
pd.merge_asof(order, delivery, left_on = 'order_date', right_on = 'delivery_date', direction = 'forward')
向前策略与向后策略类似,不同之处在于该函数将通过查看大于或等于正确DataFrame键的值来尝试合并。
另一个可以使用的策略是就近策略。在这个策略中使用向后或向前策略;取绝对距离中最近的那个。如果有多个最接近的键或精确匹配,则使用向后策略。
pd.merge_asof(order, delivery, left_on = 'order_date', right_on = 'delivery_date', direction = 'nearest')
最后还可以通过使用tolerance 参数来控制键之间的距离。
pd.merge_asof(order, delivery, left_on = 'order_date', right_on = 'delivery_date', direction = 'forward', tolerance = pd.Timedelta(1, 'd'))
在上面的示例中,只有第一行包含缺失值。这是因为order_date第一行与最近的日期delivery_date之间的距离大于一天。第二行成功合并,因为只差一天。
总结Pandas函数提供了Merge函数可以轻松的帮助我们合并数据,而merge_ordered函数和merge_asof可以帮助我们进行更加定制化的合并工作,虽然这两个函数可能并不常见,但是它们的确在一些特殊的需求上非常的好用。
作者:Cornellius Yudha Wijaya
*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。