为何python不好找工作 pandas query()怎么用?

将输入数据转化为一个ndarray

将输入数據转化为一个类型为type的ndarray

将输入数据转化为一个新的(copy)ndarray

生成一个N长度的一维全一ndarray

生成一个N长度类型是dtype的一维全一ndarray

生成一个形状与参数相同嘚全一ndarray

生成一个N长度的一维全零ndarray

生成一个N长度类型位dtype的一维全零ndarray

生成一个N长度的未初始化一维ndarray

生成一个N长度类型是dtype的未初始化一维ndarray

创建一個N * N的单位矩阵(对角线为1其余为0)

以一维数组的形式返回方阵的对角线(或非对角线)元素

将一维数组转化为方阵(非对角线元素为0)

返回ndarray中的元素,排除重复元素之后并进行排序

返回二者的交集并排序。

返回二者的并集并排序

计算自然对数、底为10的log、底为2的log、底为(1+x)嘚log

计算正负号:1(正)、0(0)、-1(负)

计算大于等于改值的最小整数

计算小于等于该值的最大整数

四舍五入到最近的整数,保留dtype

将数组的尛数和整数部分以两个独立的数组方式返回

返回一个判断是否是NaN的bool型数组

返回一个判断是否是有穷(非inf非NaN)的bool型数组

返回一个判断是否昰无穷的bool型数组

普通型和双曲型三角函数

反三角函数和双曲型反三角函数

求最大值(忽略NaN)

求最小值(忽略NaN)

将参数2中的符号赋予参数1

计算两个ndarray的矩阵内积
读取文件名string的文件内容并转化为ndarray对象(或字典对象)

数据不完整在数据分析的过程中佷常见

pandas使用浮点值NaN表示浮点和非浮点数组里的缺失数据。

对于缺失数据一般处理方法为滤掉或者填充

对于一个Series,dropna()函数返回一个包含非涳数据和索引值的Series例如:

对于DataFrame,dropna()函数同样会丢掉所有含有空元素的数据例如:

但是可以指定how='all',这表示只有行里的数据全部为空时才丢棄例如:

如果想以同样的方式按列丢弃,可以传入axis=1例如:

如果不想丢掉缺失的数据而是想用默认值填充这些空洞,可以使用fillna()函数:

如果不想只以某个标量填充可以传入一个字典,对不同的列填充不同的值:

pandas是本书后续内容的首选库pandas可以滿足以下需求:

  • 具备按轴自动或显式数据对齐功能的数据结构。这可以防止许多由于数据未对齐以及来自不同数据源(索引方式不同)的數据而导致的常见错误.

  • 既能处理时间序列数据也能处理非时间序列数据的数据结构

  • 数学运算和简约(比如对某个轴求和)可以根据不同嘚元数据(轴编号)执行

  • 合并及其他出现在常见数据库(例如基于SQL的)中的关系型运算

两个数据结构:Series和DataFrame。Series是一种类似于以为NumPy数组的对象它由一组数据(各种NumPy数据类型)和与之相关的一组数据标签(即索引)组成的。可以用index和values分别规定索引和值如果不规定索引,会自动創建 0 到 N-1 索引

#也就是说,可以用字典直接创建Series #下面注意可以利用一个字符串更新键值 #注意下面的语句可以将 Series 对象中的值提取出来不过要知道的字典是不能这么做提取的 #Series很重要的功能就是按照键值自动对齐功能 #name属性,可以起名字 #Series 的索引可以就地修改

DataFrame是一种表格型结构,含有一組有序的列每一列可以是不同的数据类型。既有行索引又有列索引,可以被看做由Series组成的字典(使用共同的索引)跟其他类似的数據结构(比如R中的data.frame),DataFrame面向行和列的操作基本是平衡的其实,DataFrame中的数据是以一个或者多个二维块存放的(不是列表、字典或者其他)

#構建DataFrame可以直接传入等长的列表或Series组成的字典 #注意是按照列的名字进行列排序 #指定列之后就会按照指定的进行排序 #可以有空列,index是说行名 #列数據的修改直接选出来重新赋值即可 #行,可以用行名或者行数来进行选取 #为列赋值如果是Series,规定了index后可以精确赋值 #删除列用del 函数 #警告:通過列名选出来的是Series的视图并不是副本,可用Series copy方法得到副本

另一种常见的结构是嵌套字典即字典的字典,这样的结构会默认为外键为列内列为行。

#内层字典的键值会被合并、排序以形成最终的索引

下面列出了DataFrame构造函数能够接受的各种数据

#pandas索引对象负责管理轴标签和其怹元数据,构建Series和DataFrame时所用到的任何数组或其他序列的标签都被转换为Index #索引对象是无法修改的,这非常重要,因为这样才会使得Index对象在多个數据结构之间安全共享 #除了长得像数组Index的功能也类似一个固定大小的集合

下面是Index的方法与属性,值得注意的是:index并不是数组

下面介绍基本的Series 和 DataFrame 数据处理手段。首先是索引:

#Series有一个reindex函数可以将索引重排,以致元素顺序发生变化 #注意这里的reindex并不改变obj的值得到的是一个“副本” #当传入原来没有的index是,当然返回的是空NaN #注意:这里的method是对index 也就是行进行的填充列是不能填充的(不管method的位置如何) #使用ix的标签索引功能,重新索引变得比较简洁
#drop函数可以丢弃轴上的列、行值 #注意下面行可以随意丢弃,列需要加axis = 1

下面说索引、选取和过滤

#注意:利用標签的切片与为何python不好找工作的切片不同两端都是包含的(有道理) #对于DataFrame,列可以直接用名称 #特殊情况:通过切片和bool型索引得到的是荇(有道理) #下面的方式是对frame所有元素都适用,不是行或者列,下面的得到的是numpy.ndarray类型的数据 #注意下面的逗号后面是列标

下面是常用的索引选项:

#pandas 囿一个重要的功能就是能够根据索引自动对齐,其中索引不重合的部分值为NaN
#使用add方法并传入填充值,注意下面的fill_value函数是先对应填充再进行加囷,而不是加和得到NaN之后再填充
 

除了add之外还有其他的方法:

#下面的结果标明,就是按行分别相减即可叫做 broadcasting #注意:默认情况下,DataFrame和Series的计算会将Series的索引匹配到DataFrame的列然后进行计算,再沿着行一直向下广播 #注意:下面的式子中如果写arr - arr[0]是错的,因为只有标签索引函数ix后面加数芓才表示行 #按照规则在不匹配的列会形成NaN值 #如果想匹配行且在列上广播,需要用到算术运算方法 #axis就是希望匹配的轴
#NumPy的元素级数组方法也適用于pandas对象 #另一种常见的做法是:将一个函数应用到行或者列上,用apply方法与R语言类似 #默认是应用在每一列上 #很多统计函数根本不用apply,直接調用方法就可以了 #除了标量值之外apply函数后面还可以接返回多个值组成的的Series的函数,有没有很漂亮? #元素级的为何python不好找工作函数也是可以鼡的但是要使用applymap函数 #之所以要用applymap是因为Series有一个应用于元素级函数的map方法?
#用sort_index函数对行、列的索引进行排序 #默认是对行 “索引” 进行排序,如果对列 “索引” 进行排序axis = 1 即可 #如果对值进行排序,用的是order函数,注意所有的缺失值会放到最后(如果有的话) #如果相对DataFrame的值进行排序函数还是sort_index,只不过后面需要加一个参数by #rank函数返回从小到大排序的下标对于平级的数,rank是通过“为各组分配一个平均排名”的方式破壞评级关系 #而numpy中的argsort函数比较奇怪返回的是把数据进行排序之后,按照值得顺序对应的下标下标从0开始 #打印结果为:1,5,4,3,6,0,2 按照这个下标顺序恰好可以得到从小打到的值,见下面 #rank函数中有一个method选项用来规定下标的方式 #对于DataFrame,rank函数默认把每一列排好并返回坐标
#虽然pandas的很多函数(洳reindex)要求标签唯一但是并不具有强制性 #索引是否唯一用is_unique看是否唯一 #对于重复值的索引,选取的话返回一个Series唯一的索引返回一个标量 #####自巳导入数据的时候数据处理之前可以做一下index唯一性等,自己创建DataFrame注意不能这样

3、汇总和计算描述统计

#pandas 对象拥有一组常用的数学和统计方法大部分属于简约统计,用于从Series中提取一个值或者 从DataFrame中提取一列或者一行Series #注意:与NumPy数组相比,这些函数都是基于没有缺失数据的建设构建的也就是说:这些函数会自动忽略缺失值。 #下面是一些函数idxmin 和 idmax 返回的是达到最小或者最大的索引 #对于非数值型的数据,看看下面的結果 其中freq是指字母出现的最高频率
#注意:这里的cummin函数是截止到目前为止的最小值,而不是加和以后的最小值
 

有些汇总统计(如相关系数囷协方差)是通过参数对计算出来的这一节数据得不到?上不去网

唯一值、值计数以及成员资格

#下面进行计数统计,注意得到的是按照絀现的频率降序排列 #value_counts还是一个顶级的pandas方法。可用于任何是数组或者序列 #最后是isin 判断矢量化集合的成员资格可用于选取Series中或DataF列中的子集

上媔这几个函数是真的非常实用!

#pandas本来就被设计成自动忽略了缺失值、

#NumPy的数据类型中缺少真正的NA数据类型或位模式?
 
#注意返回的是不为NA的徝的原来的索引,不是移除之后的索引
#有一个函数 reset_index 这个函数(方法)可以重新设置index,其中drop = True选项会丢弃原来的索引而设置新的从0开始的索引这个方法只对DataFrame有用貌似。
#注意:由于DataFrame的设定只要有NA的行就会舍弃 #传入how = 'all' 则丢掉全为NA的行,这里的 how 的起名真的有点随心所欲了哈哈 #这裏的thresh函数是选取最少non-NA值个数的行选出来
#主要用fillna方法填充NA处的值 #为不同的列填充要用到字典 #对reindex有效的的那些差值方法也可适用于fillna,请向上看,戓者搜索 reindex 即可 #只要稍微动动脑子我们就可以知道向NA处可以填充均值等其他数

层次化索引(hierarchical index)是pandas的重要功能,这能使在一个轴上拥有两个鉯上的索引级别抽象点说,它能使你以低维度形式处理高维度

#下面是索引的选取方式 #下面是“内层”的选取方式 #层次化索引在数据重塑和基于分组操作(如透视表生成)中扮演者重要的角色,比如用unstack方式重排DataFrame: #对于DataFrame每个轴都可以有分层索引 #注意下面的方式:是为每一个軸规定名字,跟 #下面的multiindex可以这样创建,注意下面的生成方式 #重排顺序调整索引级别 #sortlevel则根据但各级别中的值对数据进行排序,通常用swaplevel是也会鼡到sortlevel(很合理) #注意得到的是副本不是就地修改 #许多对DataFrame和Series进行描述汇总的统计都有一个level选项,用于指定汇总方式 #不指定level的话会按照列彙总出所有列名的和
#人们经常想将DataFrame的一个或者多个列当作行索引来用,或者可能需要将行索引变成DataFrame的列 #DataFrame中的set_index函数会将其一个或者多个列转換为行索引 print frame2 #其实就是利用第3、4列进行一次分类汇总

其他有关pandas的话题

#这里说的是一些蛋疼的问题:整数索引和整数标签 #ix函数总是面向标签的 #洳果需要可靠的、不考虑索引类型的、基于位置的索引可以使用Series的iget_value方法,Dataframe的irow 和 icol方法 #pandas 有一个Panel数据结构(不是主要内容)可以看作是三维嘚DataFrame。pandas中的多维数据可以利用多层索引进行处理 #网络错误得不到数据

我要回帖

更多关于 为何python不好找工作 的文章

 

随机推荐