目前大概有 100 多个相关的数据,比如股指,货币发行量等,想预测七天利率,用过 SVR,误差在 10%范围内准确率并不高,于是想考虑神经网络,不过目前对 tensorflow/tflearn 仍不熟练,不知道该加哪些层,用过线性回归,效果也不理想,目前用了个网上找到的代码如下:
net = tflearn.input_data([None, 178])
net = tflearn.fully_connected(net, 64, activation='linear', weight_decay=0.0005)
net = tflearn.fully_connected(net, 1, activation='linear')
net = tflearn.regression(net, optimizer= tflearn.optimizers.AdaGrad(learning_rate=0.01, initial_accumulator_value=0.01), loss='mean_square', learning_rate=0.05)
model = tflearn.DNN(net, tensorboard_verbose=0)
然而上述模型准确率更低,不知道该如何改进,使用 RNN,lstm?还是说神经网络并不适合这方面?
1
kuhung 2017-11-11 21:53:14 +08:00 via Android
一般多做特征,多交叉验证是比较明朗的。
|
2
ttxxyy112233 OP @kuhung cross validation 在 regression 中也可以用吗?我以为只有 classification 可以用。请问这些层应该怎么改进呢?
|
3
kuhung 2017-11-11 22:56:57 +08:00 via Android
@ttxxyy112233 交叉验证,回归和分类都可以用。现在谈改进模型,我认为不合适。做好特征、在基分类器(如逻辑回归)提升一定效果后,再来调模型不迟。若硬要调,只能一点点试。结构这些,有时候得看数据。不变结构,调参数,那还是看 CV 一点点调。
|
4
dbsquirrel 2017-11-12 14:39:44 +08:00 via iPhone
上 cnn 试试? 或者你可以参考下这个? http://mp.weixin.qq.com/s/X7ISLRMy5cddpmO5mev4MA
|
5
ttxxyy112233 OP @dbsquirrel 十分感谢!
|
6
LiToon 2017-11-12 18:33:56 +08:00 via iPhone
100 条数据就不要用神经网络了,容易过拟合
|
7
ttxxyy112233 OP @LiToon 数据大概有三千多天的 可能影响的因子有 100 多个
|