手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
武夫李青舟，要问剑仙李太白 快穿：拯救反派，本系统亲自下场 仙集 导演我要举报！她跑龙套还开挂！ 意外得到空间后金手指带我闯末日 他的Freesia 哭包竹马爱哭还难哄 你和我的苏打水情缘 末世，给异类收编 和校花解散后，契约灵兵皆S级 爱丽丝综合征 隔壁那个帝少 他如焰藏匿我心 重生1990，带着全村人发家致 温婉沧海 带着猴哥游异界 军人军医，办公室恋情？ 梦幻西游：大唐弃徒，成就史一法 我在乡下当村医 引凰归帝凰临：炼丹契兽倾世女帝
我把低武练成了仙武
我把低武练成了仙武简介emspemsp关于我把低武练成了仙武唐杰穿越了，他很难受，因为穿越到仙侠世界的他不具有灵根，与仙道无缘。然而唐杰发现，自己在武道方面是无上奇才，越练越妖孽！于是唐杰走上了一条史无前例的仙武之路！极境童子功修成一口先天童子气，吸收太阳精华，铸造先天童子金身！十三层龙象般若功十三头古龙神象之力加身，手拿日月星辰！大日金钟罩运功时如一轮大日，金刚不坏，光耀天地！唐杰表示什么陆地神仙仙道巨头，敢在我面前装逼都得死！本书又名氪金...
拥瑾入怀，玉韫珠藏
这是我在梦里梦见的故事情节，将它告诉我的朋友后，便有了这个故事，当然梦中的情节也是一个大概，在这个基础上，我添加了许多任人物。因为本人是个上班族哈，大部分都是利用中午午休，下午下班写出来的，希望你们喜欢这个故事！西楚王朝唯一的公主楚韫瑾从小与西楚王朝唯一的异姓王府承宣王世子便有了婚约，十八岁承宣王世子挟军功与楚韫瑾...
末日，我的系统有亿点屌
末日降临，世界沦为一片废墟，异能觉醒。然而，在这末日来临前，主角陈清南意外觉醒了一个神秘系统一个有亿点屌的末日求生系统！先是获得一个超大的储物空间！末日来临前扫空了一个沃尔玛超市调度中心的仓库！觉醒的异能让主角在末日里如鱼得水！但是系统的任务一个比一个难度要大，最后竟然让主角拯救地球！说好的求生，你竟然让我去拯...
开局选下威斯特布鲁克
一觉醒来李来穿越到了2008年，竟然获得了上古神器封神榜。原本从修真界和人界选出三百六十五位八部神进行册封的封神榜，到了他手里也变成了对NBA潜力球星的培养。罗斯？库里？考辛斯？哈登？科怀伦纳德？克莱汤普森？…一位位NBA球星在他手里终将成神。如果您喜欢开局选下威斯特布鲁克，别忘记分享给朋友...
穷女婿继承千亿遗产
穷女婿继承千亿遗产简介emspemsp穷女婿继承千亿遗产是声名狼藉大先生的经典都市言情类作品，穷女婿继承千亿遗产主要讲述了穷小子入赘为夫，受尽了白眼和嘲笑，如今发现自己竟是富豪私生子声名狼藉大先生最新鼎力大作，年度必看都市言情...
最美不过说爱你
排雷！绝壁甜文初见时，那抹笑容，印入脑海，久久不能遗忘多年后，记者采访沐九深第一次见迟浅的时候是在哪里？说的第一句话是什么？沐九深当着广大人民群众面前沉思了片刻缓缓开口。男厕所同学，买纸不，十块钱一包！（‘呆萌’小学霸＆奶系伪学渣）如果您喜欢最美不过说爱你，别忘记分享给朋友...