cross-entropy

    1热度

    1回答

    过去几天我一直在调试NN,但是我找不到问题。 我创建了用于识别MNIST数据集图像的多层感知器的总原始实现。 网络似乎学习,因为列车循环后测试数据的准确性高于94%的准确性。我有损失功能的问题 - 一段时间后开始增加,当测试/ val精度达到〜76%时。 有人可以检查我的前进/后退数学,并告诉我,如果我的损失功能是否正确实施,或建议什么可能是错误的? NN结构: 输入层:758个节点,(每像素1个

    1热度

    1回答

    我有一个使用tensorflow函数的函数。我需要Theano的这个功能,因为在平台上我想使用这个代码只有Theano安装而不是tensorflow。我主要和Keras一起工作,所以tensorflow对我来说很神秘。 功能如下: class WeightedBinaryCrossEntropy(object): def __init__(self, pos_ratio):

    1热度

    1回答

    由于隐藏tf.nn.softmax_cross_entropy_with_logits的gen_nn_ops的源代码,任何人都可能解释我tensorflow如何计算Softmax后的交叉熵。我的意思是,在softmax之后,它可能会输出0,因为精度会导致交叉熵产生NaN问题。当softmax限制它的输出时,tensorflow是否使用clip方法?

    2热度

    1回答

    我知道二元交叉熵与两类中的分类交叉熵相同。 此外,我很清楚softmax是什么。 因此,我看到明确的交叉熵惩罚只是将一个部件(概率)应为1。 但为什么,不能或不应我使用二进制交叉熵上一热载体? Normal Case for 1-Label-Multiclass-Mutual-exclusivity-classification: ################ pred = [0.1

    0热度

    1回答

    这是什么意思,如果这是tf.losses.softmax_cross_entropy_loss的返回值? <tf.Tensor 'softmax_cross_entropy_loss/value:0' shape=() dtype=float32> 这是否是事实陈述value:0平均和shape=()意味着什么也没计算的?

    1热度

    1回答

    我使用完全卷积神经网络(链接到纸)做图像分割:https://people.eecs.berkeley.edu/~jonlong/long_shelhamer_fcn.pdf 这可以被认为是像素分类(用于最终的每个像素获得一个标签) 我正在使用tf.nn.sparse_softmax_cross_entropy_with_logits丢失函数。 loss = tf.reduce_mean((tf.

    1热度

    1回答

    我试图用TensorFlow实现多标签分类(即每个输出模式可以有许多活动单位)。该问题具有不平衡的类(即,比标签分布中的零多得多,这使得标签模式非常稀疏)。 解决此问题的最佳方法应该是使用tf.nn.weighted_cross_entropy_with_logits函数。但是,我得到这个运行时错误: ValueError: Tensor conversion requested dtype ui

    1热度

    1回答

    我对神经网络很陌生,想知道为什么所有RNN的例子,特别是char-rnns都使用交叉熵损失函数作为它们的损失函数。我已经使用了Google,但似乎无法在这方面讨论任何功能。我被要求激励它的使用,并且看它的优点和缺点,所以任何我可以通读的论文或来源都会受到重视。

    0热度

    1回答

    这里是我的代码: import tensorflow as tf with tf.Session() as sess: y = tf.constant([0,0,1]) x = tf.constant([0,1,0]) r = tf.nn.sparse_softmax_cross_entropy_with_logits(labels=y, logits

    2热度

    1回答

    我在二进制分类问题上训练xgboost分类器。它产生70%准确的预测。然而,logloss在9.13处非常大。我怀疑这可能是因为一些预测远非目标,但我不明白为什么会发生 - 其他人用xgboost报告相同数据的logloss(0.55 - 0.6)更好。 from readCsv import x_train, y_train from sklearn.model_selection impor