千锋教育-做有情怀、有良心、有品质的职业教育机构

400-811-9990
手机站
千锋教育

千锋学习站 | 随时随地免费学

千锋教育

扫一扫进入千锋手机站

领取全套视频
千锋教育

关注千锋学习站小程序
随时随地免费学习课程

上海
  • 北京
  • 郑州
  • 武汉
  • 成都
  • 西安
  • 沈阳
  • 广州
  • 南京
  • 深圳
  • 大连
  • 青岛
  • 杭州
  • 重庆
当前位置:济南千锋IT培训  >  技术干货  >  pandas操作:强大的accessor方法

pandas操作:强大的accessor方法

来源:千锋教育
发布人:qyf
时间: 2023-02-24 17:17:19

强大的accessor方法

  pandas有一种功能非常强大的方法,它就是accessor,可以将它理解为一种属性接口,通过它可以获得额外的方法。其实这样说还是很笼统,下面我们通过代码和实例来理解一下。

  >>> pd.Series._accessors

  {'cat', 'str', 'dt'}

  对于Series数据结构使用_accessors方法,我们得到了3个对象:cat,str,dt。

  ●.cat:用于分类数据(Categorical data)

  ●.str:用于字符数据(String Object data)

  ●.dt:用于时间数据(datetime-like data)

  下面我们依次看一下这三个对象是如何使用的。

  str对象的使用

  Series数据类型:str字符串

  # 定义一个Series序列

  >>> addr = pd.Series([

  ... 'Washington, D.C. 20003',

  ... 'Brooklyn, NY 11211-1755',

  ... 'Omaha, NE 68154',

  ... 'Pittsburgh, PA 15211'

  ... ])

  >>> addr.str.upper()

  0 WASHINGTON, D.C. 20003

  1 BROOKLYN, NY 11211-1755

  2 OMAHA, NE 68154

  3 PITTSBURGH, PA 15211

  dtype: object

  >>> addr.str.count(r'\d')

  0 5

  1 9

  2 5

  3 5

  dtype: int64

  关于以上str对象的2个方法说明:

  ●Series.str.upper:将Series中所有字符串变为大写;

  ●Series.str.count:对Series中所有字符串的个数进行计数;

  其实不难发现,该用法的使用与Python中字符串的操作很相似。没错,在pandas中你一样可以这样简单的操作,而不同的是你操作的是一整列的字符串数据。仍然基于以上数据集,再看它的另一个操作:

  关于以上str对象的2个方法说明:

  ●Series.str.replace:将Series中指定字符串替换;

  ●Series.str.extract:通过正则表达式提取字符串中的数据信息;

  这个用法就有点复杂了,因为很明显看到,这是一个链式的用法。通过replace将 " . "替换为"",即为空,紧接着又使用了3个正则表达式(分别对应city,state,zip)通过extract对数据进行了提取,并由原来的Series数据结构变为了DataFrame数据结构。

  当然,除了以上用法外,常用的属性和方法还有.rstrip,.contains,split等,我们通过下面代码查看一下str属性的完整列表:

  属性有很多,对于具体的用法,如果感兴趣可以自己进行摸索练习。

  dt对象的使用

  Series数据类型:datetime

  因为数据需要datetime类型,所以下面使用pandas的date_range()生成了一组日期datetime演示如何进行dt对象操作。

  以上关于dt的3种方法说明:

  ●Series.dt.day_name():从日期判断出所处星期数;

  ●Series.dt.quarter:从日期判断所处季节;

  ●Series.dt.is_year_end:从日期判断是否处在年底;

  其它方法也都是基于datetime的一些变换,并通过变换来查看具体微观或者宏观日期。

  cat对象的使用

  Series数据类型:Category

  在说cat对象的使用前,先说一下Category这个数据类型,它的作用很强大。虽然我们没有经常性的在内存中运行上g的数据,但是我们也总会遇到执行几行代码会等待很久的情况。使用Category数据的一个好处就是:可以很好的节省在时间和空间的消耗。下面我们通过几个实例来学习一下。

  上面我们通过使用sys.getsizeof来显示内存占用的情况,数字代表字节数。还有另一种计算内容占用的方法:memory_usage(),后面会使用。

  现在我们将上面colors的不重复值映射为一组整数,然后再看一下占用的内存。

  注:对于以上的整数值映射也可以使用更简单的pd.factorize()方法代替。

  我们发现上面所占用的内存是使用object类型时的一半。其实,这种情况就类似于Category data类型内部的原理。

  内存占用区别:Categorical所占用的内存与Categorical分类的数量和数据的长度成正比,相反,object所占用的内存则是一个常数乘以数据的长度。

  下面是object内存使用和category内存使用的情况对比。

  上面结果是使用object和Category两种情况下内存的占用情况。

  我们发现效果并没有我们想象中的那么好。但是注意Category内存是成比例的,如果数据集的数据量很大,但不重复分类(unique)值很少的情况下,那么Category的内存占用可以节省达到10倍以上,比如下面数据量增大的情况:

  可以看到,在数据量增加10倍以后,使用Category所占内容节省了10倍以上。

  除了占用内存节省外,另一个额外的好处是计算效率有了很大的提升。因为对于Category类型的Series,str字符的操作发生在.cat.categories的非重复值上,而并非原Series上的所有元素上。也就是说对于每个非重复值都只做一次操作,然后再向与非重复值同类的值映射过去。

  对于Category的数据类型,可以使用accessor的cat对象,以及相应的属性和方法来操作Category数据。

  实际上,对于开始的整数类型映射,我们可以先通过reorder_categories进行重新排序,然后再使用cat.codes来实现对整数的映射,来达到同样的效果。

  dtype类型是Numpy的int8(-127~128)。可以看出以上只需要一个单字节就可以在内存中包含所有的值。我们开始的做法默认使用了int64类型,然而通过pandas的使用可以很智能的将Category数据类型变为最小的类型。

  让我们来看一下cat还有什么其它的属性和方法可以使用。下面cat的这些属性基本都是关于查看和操作Category数据类型的。

  但是Category数据的使用不是很灵活。例如,插入一个之前没有的值,首先需要将这个值添加到.categories的容器中,然后再添加值。

  如果你想设置值或重塑数据,而非进行新的运算操作,那么Category类型不是那么有用。

声明:本站稿件版权均属千锋教育所有,未经许可不得擅自转载。

猜你喜欢LIKE

shiro是什么?

2023-06-06

10个最难的Python问题!

2023-02-23

解决日常问题的12个Python Pro Snippets

2023-02-23

最新文章NEW

html和html5的概念

2023-04-20

pandas操作:JSON自动解析为DataFrame

2023-02-24

pandas操作:变量类型自动转换

2023-02-23

相关推荐HOT

更多>>

快速通道 更多>>

最新开班信息 更多>>

网友热搜 更多>>