我在我的代码,它看起来像这样已经计算的两张dictionaries
:计算从类型的字典(sklearn)欧氏距离
X = {'a': 10, 'b': 3, 'c': 5, ...}
Y = {'a': 8, 'c': 3, 'e': 8, ...}
其实它们包含来自维基文本的话,但这应该足以说明我的意思。它们不一定包含相同的密钥。
起初我想用sklearn
的成对指标如下:
from sklearn.metrics.pairwise import pairwise_distances
obama = wiki[wiki['name'] == 'Barack Obama']['tf_idf'][0]
biden = wiki[wiki['name'] == 'Joe Biden']['tf_idf'][0]
obama_biden_distance = pairwise_distances(obama, biden, metric='euclidean', n_jobs=2)[0][0]
然而,这给出了一个错误:
--------------------------------------------------------------------------
AttributeError Traceback (most recent call last)
<ipython-input-124-7ff03bd40683> in <module>()
6 biden = wiki[wiki['name'] == 'Joe Biden']['tf_idf'][0]
7
----> 8 obama_biden_distance = pairwise_distances(obama, biden, metric='euclidean', n_jobs=2)[0][0]
/home/xiaolong/development/anaconda3/envs/coursera_ml_clustering_and_retrieval/lib/python3.4/site-packages/sklearn/metrics/pairwise.py in pairwise_distances(X, Y, metric, n_jobs, **kwds)
1205 func = partial(distance.cdist, metric=metric, **kwds)
1206
-> 1207 return _parallel_pairwise(X, Y, func, n_jobs, **kwds)
1208
1209
/home/xiaolong/development/anaconda3/envs/coursera_ml_clustering_and_retrieval/lib/python3.4/site-packages/sklearn/metrics/pairwise.py in _parallel_pairwise(X, Y, func, n_jobs, **kwds)
1058 ret = Parallel(n_jobs=n_jobs, verbose=0)(
1059 fd(X, Y[s], **kwds)
-> 1060 for s in gen_even_slices(Y.shape[0], n_jobs))
1061
1062 return np.hstack(ret)
AttributeError: 'dict' object has no attribute 'shape'
对我来说这倒像是东西正试图访问shape
属性,其中dict
没有。我想它需要numpy
阵列。如何转换字典,以便sklearn
函数能够计算正确的距离,假设0
值,如果字典没有某个键,而另一个字典有?
有超过50万个数据点,我想让sklearn做繁重。同样在每个阵列中,对于不存在的键都需要零,否则欧几里得距离是错误的。 – Zelphir
@Zelphir哎呀!你是对的。嗯,使用余弦距离?嘿。但实际上,您仍然可以修改它,以便通过使用具有默认值的“get”方法进行工作。 –
@Zelphir随着设置工会,而不是交集。我以前使用过大量词汇表和大量文档的语料库,而且速度相当快。 –