手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
导演我要举报！她跑龙套还开挂！ 重生1990，带着全村人发家致 梦幻西游：大唐弃徒，成就史一法 仙集 他如焰藏匿我心 武夫李青舟，要问剑仙李太白 他的Freesia 末世，给异类收编 快穿：拯救反派，本系统亲自下场 爱丽丝综合征 和校花解散后，契约灵兵皆S级 你和我的苏打水情缘 引凰归帝凰临：炼丹契兽倾世女帝 哭包竹马爱哭还难哄 隔壁那个帝少 军人军医，办公室恋情？ 意外得到空间后金手指带我闯末日 我在乡下当村医 温婉沧海 带着猴哥游异界
逼婚成宠：王爷，请克制
逼婚成宠王爷，请克制简介emspemsp关于逼婚成宠王爷，请克制一朝穿越，她素手遮天，步步惊华绝艳，创造商业传奇。庶妹不淑，她管教管教。太子不贤，她拨弄拨弄。随便嫁了个王爷，没想到也十分不乖。那她来调戏一下好了。咦？怎么变成自己沦陷了？谁能告诉她，这个王爷到底还有多少秘密等着她来探索。...
萌宝来袭：爹地，妈咪超甜的
萌宝来袭爹地，妈咪超甜的简介emspemsp关于萌宝来袭爹地，妈咪超甜的萌宝来袭爹地，妈咪超甜的惨遭亲渣爹陷害，她与将死男人一夜缠绵，最终被逼落魄离开。五年后携萌宝归来，却惹上了顶级冰山大总裁，还被迫签了婚前协议，可说好互不侵犯的，你怎么还花样百出了呢？某总裁，乖，女儿怕你跑了，让我拴紧点。...
战神归来：大小姐A爆了
战神归来大小姐A爆了简介emspemsp关于战神归来大小姐A爆了X国唯一女战神，AL集团总裁，十岁时目睹母亲被害，父亲助纣为虐，她也在报警途中被车撞，幸好被一位身怀异能的高人救走。十年后，她成了叱咤远东战场的女战神，她挂着AL集团总裁马甲强势回归，为母复仇。...
带娃追妻妈咪求抱抱
带娃追妻妈咪求抱抱简介emspemsp关于带娃追妻妈咪求抱抱乡下回来的林悦晞，为了继承家产，被迫在咖啡厅捡来个服务员领证，本以为对方穷困潦倒需要救济，谁知道捡了个钻石王老五，有钱多金还英伦非凡！咖啡厅老板是他，知名法医是他，S市顶级企业老板还是他！林悦晞感觉自己被骗了，离婚！然而小萌宝抱着大腿喊妈咪，钻石王老五拽着自己求原谅，父子二人把她宠上天，林悦晞暗自偷笑，这是走了什么好运！简直不要太爽！...
至道学宫
道裂为百，儒教救之，谶纬祸世。道与世两相丧，圣人不仅不能平天下，连存身都难，于是隐居帝乡，不再现世。这时，一座神秘的学宫降世，一个普通的少年崛起，携惊世道法，重振道门，教化天下众生，但愿人人如龙。如果您喜欢至道学宫，别忘记分享给朋友...
退婚后我靠闺蜜爆红娱乐圈
穿越？不，是穿书。娱乐圈八线秒变十八线，惨？不，还有个穿去年代的闺蜜等着她投喂。准备在退休前大赚一笔的云姝黛，却在闺蜜的一个诅咒下，双双穿书。这下女配炮灰，一个穷的叮当响，一个吃不饱穿不暖的，想退休？难。哪还有心思和女主抢男人？好在有个冰箱时空门。娱乐圈女配版女主在娱乐圈光热时，她忙着给闺蜜嘎嘎囤货。男主女主爱恨情仇时，她忙着给闺蜜嘎嘎囤货。男主女主大红大紫时，她还在忙着给闺蜜嘎嘎囤货。男主女主来送请柬，不好意思，我已经结婚了当不了你们伴娘。一不小心靠着闺蜜，爱情事业双丰收，日子美美哒！年代炮灰版知青点在吃汤喝稀时，禾婉在被闺蜜投喂。知青点在你推我嚷互相算计时，禾婉在被闺蜜投喂。知青点在斗嘴争男人时，禾婉在被闺蜜投喂。知青点一个个松松拉拉要死要活时，禾婉吃不下去了，一顿输出下去，卷，都给姐卷起来，有姐在保你们个个光热。一不小心靠着闺蜜，事业爱情双丰收，日子甜滋滋！娱乐圈年代双穿炮灰女配空间...