2016-12-08 24 views
1

我有一个pandas.DataFrame,看起来像:地图scikit缩放数据传回ID

In [48]: df 
Out[48]: 
     AMID   A   B   C 
0 AMID-1000 0.149176 0.768200 0.689369 
1 AMID-1001 0.169934 0.607390 0.471788 
2 AMID-1002 0.632052 0.806657 0.994664 
3 AMID-1003 0.003798 0.382427 0.894856 
4 AMID-1004 0.182947 0.712373 0.870068 
5 AMID-1005 0.385039 0.691643 0.546960 
6 AMID-1006 0.971885 0.169759 0.804370 
7 AMID-1007 0.443199 0.686212 0.377556 
8 AMID-1008 0.149402 0.981370 0.588750 
9 AMID-1009 0.214107 0.264285 0.463403 

'AMID'保存数据点的id和列的其余部分中的每一个数据点的每一个的特征。

我想要使用这个数据集的算法,要求数据缩放,以便对于每列我有mean == 0std == 1。我为此使用sklearn.preprocessing.StandardScaler,但是,为了进行缩放,我需要清除非数值列的数据集'AMID'列。

In [61]: from sklearn import preprocessing 

In [62]: data = df[[_ for _ in df.columns.values.tolist() if _ not in ['AMID']]] 

In [64]: scaler = preprocessing.StandardScaler().fit(data) 

In [65]: data_scaled = scaler.transform(data) 

In [66]: data_scaled 
Out[66]: 
array([[ -6.60180258e-01, 6.63739262e-01, 9.55187160e-02], 
     [ -5.84458777e-01, 1.47534202e-03, -9.87448200e-01], 
     [ 1.10128130e+00, 8.22117198e-01, 1.61505880e+00], 
     [ -1.19049913e+00, -9.24989864e-01, 1.11828380e+00], 
     [ -5.36991596e-01, 4.33827828e-01, 9.94906952e-01], 
     [ 2.00212895e-01, 3.48454485e-01, -6.13293011e-01], 
     [ 2.34094244e+00, -1.80081691e+00, 6.67913149e-01], 
     [ 4.12372276e-01, 3.26087187e-01, -1.45646800e+00], 
     [ -6.59357873e-01, 1.54163661e+00, -4.05292050e-01], 
     [ -4.23321269e-01, -1.41153114e+00, -1.02918017e+00]]) 

In [67]: data_scaled.mean(axis=0) 
Out[67]: array([ -8.32667268e-17, -4.44089210e-17, -2.88657986e-16]) 

In [68]: data_scaled.std(axis=0) 
Out[68]: array([ 1., 1., 1.]) 

事情看起来不错,这一点!

现在我可以继续前进并将这些数据输入到我的模型中,然后使用测试数据进行测试(也使用相同的缩放器和适配器进行缩放)。但是,我需要能够确切地看到分类器为每个AMID预测了什么。所以,我想我应该将缩放数据映射回每个数据点的AMID,然后用分类器的.predict()方法分别尝试每个数据点,或者我应该以某种方式将.predict()的结果映射回AMID的列表。

我首先想到的是为新值分配到原来的数据帧,这样的事情:

In [73]: df_copy['A'] = data_scaled[:,0:1] 

In [74]: df_copy 
Out[74]: 
     AMID   A   B   C 
0 AMID-1000 -0.660180 0.768200 0.689369 
1 AMID-1001 -0.584459 0.607390 0.471788 
2 AMID-1002 1.101281 0.806657 0.994664 
3 AMID-1003 -1.190499 0.382427 0.894856 
4 AMID-1004 -0.536992 0.712373 0.870068 
5 AMID-1005 0.200213 0.691643 0.546960 
6 AMID-1006 2.340942 0.169759 0.804370 
7 AMID-1007 0.412372 0.686212 0.377556 
8 AMID-1008 -0.659358 0.981370 0.588750 
9 AMID-1009 -0.423321 0.264285 0.463403 

但我不知道这是否会歪曲原来'AMID'与换算值之间的关系为每列。

有没有更好的方法来做到这一点?

+1

'但是,我需要做的是将缩放后的数据映射回'AMID',这样我就可以分别为每个AMID值记录分类器的.predict()输出。不要取得它。你可以重新配制吗? – MMF

+0

我对每个数据点都有基本事实,所以实际上我可以评估分类器的性能,即使没有映射到“AMID”。但是我也需要知道哪个特定的汽车('AMID')属于哪一类。所以我想这将需要遍历数据集并将每个数据点分别提供给分类器。总之,我想知道分类器为每个“AMID”预测的结果。谢谢! – Thanos

+0

'我有每个数据点的基本事实'。如果你有班级,那么你想得到什么? - >'但我还需要知道哪个特定的汽车(AMID)属于哪一类'?我没有得到它 – MMF

回答

2

IIUC,我只是设置AMID作为索引(这样不会干扰,并使其更容易后),然后重新在旅途中数据帧,像这样:

df.set_index('AMID', inplace=True) 
from sklearn import preprocessing 
scaler = preprocessing.StandardScaler() 
df = pd.DataFrame(scaler.fit_transform(df), index=df.index, columns=df.columns) 
df 

        A   B   C 
AMID         
AMID-1000 -0.660181 0.663739 0.095517 
AMID-1001 -0.584459 0.001476 -0.987447 
AMID-1002 1.101281 0.822116 1.615059 
AMID-1003 -1.190499 -0.924988 1.118286 
AMID-1004 -0.536990 0.433827 0.994909 
AMID-1005 0.200213 0.348455 -0.613294 
AMID-1006 2.340943 -1.800818 0.667911 
AMID-1007 0.412372 0.326088 -1.456467 
AMID-1008 -0.659357 1.541636 -0.405293 
AMID-1009 -0.423322 -1.411532 -1.029181 

你可以reset_index()如果你想AMID作为列而不是索引,但恕我直言,它是更好的一个指数(我假设你想在稍后适合另一个模型...)

+1

Tu asétéplus rapide que moi! Bienjoué。您好,欢迎发表评论! – MMF

+1

Oui,刚才看到你提出这个太:)是的 –

+1

这很好,谢谢! – Thanos