手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
末世，给异类收编 哭包竹马爱哭还难哄 你和我的苏打水情缘 梦幻西游：大唐弃徒，成就史一法 温婉沧海 他的Freesia 他如焰藏匿我心 我在乡下当村医 和校花解散后，契约灵兵皆S级 意外得到空间后金手指带我闯末日 军人军医，办公室恋情？ 带着猴哥游异界 武夫李青舟，要问剑仙李太白 隔壁那个帝少 快穿：拯救反派，本系统亲自下场 导演我要举报！她跑龙套还开挂！ 引凰归帝凰临：炼丹契兽倾世女帝 重生1990，带着全村人发家致 爱丽丝综合征 仙集
太古吞噬诀
太古吞噬诀简介emspemsp关于太古吞噬诀（玄幻经典，每日万更）我有一眼，能让神魔颤栗！我有一剑，可叫血漫九天！...
代母休夫！异世归来后嫡女杀疯了
因为一个预言，穆染歌被人换命了！一朝被穿越女夺舍，她被迫穿到异世漂泊了七年之久。直到穿越女被亲妹和嫡母设计害死，她才有机会换回自己的命格。涅盘重生归来，睁眼却被父母和妹妹送上了断头台。彼时她才知道，原来生她养她的嫡母根本就不是自己的亲娘，而是二十年前就被凤家除名的双生孽女。恶毒姨母竟以假乱真霸占主母之位多年，凤浅刚...
军痞农媳：山里汉子，宠炸天！
还没出嫁，就背上了克夫的骂名，没人敢娶，受尽嘲笑和欺负。一朝身死，再次睁眼，身体里是现代特种女兵的灵魂，从此，谁都别想欺负她！后，有个汉子不怕死的娶了她，还只知道宠她宠她宠她！可没人看好这门婚事，大家都说他会被她克死，却不料，他不仅没被克死，她还旺夫旺到他祖坟冒青烟。相公，渣虐完了，银子也赚够了，竟还有人纠结你怎么还没被我克死。孩子都还没有，你让我死哪去？敢情我这些年生的两个孩子不是你的？是我的，但算命的说，我命中有九子。九子？那得生到猴年马月？李紫荆吞了吞口水，在心中发誓，她一定要打消她相公这可怕的想法，真是太恐怖了！（爽文，男强女强，1v1宠文）如果您喜欢军痞农媳山里汉子，宠炸天！，别忘记分享给朋友...
暴君必须死
人族暴君必须死！他若不死，我百族将永世为奴！暴君武季必须死！他若不死，九重天的仙子美姬都要被他掳去！大周暴君必须死！他若不死，这九天十地迟早都要插满大周的旗帜！暴君武季，荒淫暴虐宠信奸佞，我等宗族贵胄必须为民除贼！你认真聆听大臣劝谏，帝威1你刻苦修炼一天一夜，帝威1你产生遣散妃子的想法，帝威5你怒斩死谏之臣，帝威3你一个昼夜没有修炼，帝威1你绑了帝都第一美女，帝威10你下旨坑杀谋逆者九族，帝威15叮！帝威再度满100，开启抽奖恭喜！大周所有爱国子民，修为随机上涨一重小境界到两重大境界不等武季高居龙椅之上，深邃的眸子中闪过一抹自嘲。既然明君做不成，那便做个威压九天独断万古的暴君吧！如果您喜欢暴君必须死，别忘记分享给朋友...
萌妻在上：墨少他表里不一
萌妻在上墨少他表里不一简介emspemsp萌妻在上墨少他表里不一是甘源呀的经典其他类型类作品，萌妻在上墨少他表里不一主要讲述了被爱人亲人同时背叛，死无全尸的滋味，你尝过吗？那种被打入地狱甘源呀最新鼎力大作，年度必看其他类型。PO1...
我在梦中破案
我在梦中破案简介emspemsp关于我在梦中破案说周公讲周公，不是周公，却能释梦解密。凶险万分的梦中破案，怎能分清现实和梦境？诡异传奇惊险连连，最终堪破生死迷局！首发iyushuwuxyzωoо1⒏υip...