手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
你和我的苏打水情缘 我在乡下当村医 温婉沧海 他的Freesia 末世，给异类收编 武夫李青舟，要问剑仙李太白 引凰归帝凰临：炼丹契兽倾世女帝 军人军医，办公室恋情？ 梦幻西游：大唐弃徒，成就史一法 哭包竹马爱哭还难哄 和校花解散后，契约灵兵皆S级 快穿：拯救反派，本系统亲自下场 重生1990，带着全村人发家致 导演我要举报！她跑龙套还开挂！ 隔壁那个帝少 意外得到空间后金手指带我闯末日 他如焰藏匿我心 爱丽丝综合征 仙集 带着猴哥游异界
四合院穿越58我对雨水穷追猛打
生活慢节奏开挂不圣母简单的浪一浪故事剧情包含情满四合院，人是铁饭是钢，正阳门下小女人一个月工资两千八，现代混不下去的王俊杰被人送到了五十年代。什么？这是禽满四合院？吸血？这是不可能的。但是我有系统，多照顾下左邻右舍，亲朋好友怎么了？你问我为什么这么晚了还不回家却呆在她的家里？这个问题问的好，大家只是兴趣相投交个朋友...
砂隐忍村大开发
砂隐忍村大开发简介emspemsp关于砂隐忍村大开发头戴风影斗笠的罗砂，看着下面的泛着幸福笑容的村民，轻轻的叹了口气，脸上带着感慨，给他们讲了一件事。我刚接手砂隐忍村的时候，村内还没发展起来，严重缺少战斗力，缺乏赚钱理念，最重...
玩转电竞：大神萌妻带回家
Kpl最婊男选手陆衍的择偶标准是长得比我好看的，妲己玩的比我骚的。步谣无语吐槽你果然不喜欢人类。点开游戏界面，看到一条亲密关系申请队长申请成为你的恋人。步谣懵了，这是几个意思？骂我不是人？如果您喜欢玩转电竞大神萌妻带回家，别忘记分享给朋友...
木叶之影流
木叶之影流简介emspemsp木叶之影流是红叶知玄的经典其他类型类作品，木叶之影流主要讲述了火影世界开始的新故事，从火葬火影开始红叶知玄最新鼎力大作，年度必看其他类型。海棠屋（haitangshuwucom）提供木叶之影流最新章节全文免费阅读！。...
王牌杀手在都市
王牌杀手在都市简介emspemsp关于王牌杀手在都市龙哲东，在杀手界一鸣惊人。因为接取一个SSS级任务，错杀自己的最爱陈可欣。从此痛不欲生，悔不当初。一次意外之行，碰到一个和可欣一模一样的女孩韩式集团千金韩若曦，殊不知，这个可爱的女孩已经被卷入一场黑暗的争斗中，有龙哲东这个王牌杀手护航，一切的一切又将如何上演呢？...
穿书后我成了王爷的掌心娇
穿书后我成了王爷的掌心娇简介emspemsp穿书后我成了王爷的掌心娇是星影仙子的经典其他类型类作品，穿书后我成了王爷的掌心娇主要讲述了王爷，这是臣妾研究的新菜草莓炒臭豆腐，还放了花椒提味星影仙子最新鼎力大作，年度必看其他类型。禁...