作者：平侯 来源：原创 发布日期：08-25
一 | Ottawa, Oct 20 (UNI) Hurricane Fiona is estimated to have caused 660 million Canadian dollars (about 528 million US dollars) in insured damage in Canada, the Insurance Bureau of Canada said.
Fiona is the most costly extreme weather event ever recorded in Atlantic Canada, and the tenth largest in the country in terms of insured damages, the bureau said in a press release, quoting the "record-breaking" initial estimates from Catastrophe Indices and Quantification Inc.
Many affected residents were located in high-risk flood areas and floodplains where residential flood insurance coverage is not available. As a result, the overwhelming majority of costs for this disaster will be borne by government, according to the release.
"As we begin to see the extent of damages caused by Hurricane Fiona, it is clear that much more needs to be done to enhance our resilience to extreme weather events and build a culture of preparedness moving forward," said Amanda Dean, vice-president, Atlantic, Insurance Bureau of Canada.
The long-lived and powerful storm first made landfall in Atlantic Canada on Saturday, September 24. With maximum wind gusts exceeding 100 km/h in Atlantic Canada and Eastern Quebec, Fiona resulted in tragic loss of life as well as violent winds, torrential rainfall, large waves, storm surge, downed trees and widespread power outages, the release said.
Insurance claims from severe weather have more than quadrupled across Canada since 2008. The new normal for insured catastrophic damages in the country has reached 2 billion Canadian dollars (about 1.6 billion US dollars) annually.
UNI/XINHUA PRT。 该图片使用了AI生成技术
本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs
当AI还只是生成文字、图片和代码时，一次出错不过是回答不准、图片跑偏、代码返工。但当AI开始能发邮件、改数据库、批订单、调资金、控制设备，它就从"回答问题的模型"变成了"把判断变成现实的执行系统"。
这中间的差别不是量的，而是质的。前者的错误可以被撤销、重来、修补；后者的错误会沉淀成一笔转账、一条删除的记录、一个已经合上的电闸。
二 | 一旦落地，很多结果没有"再生成一次"的选项。 我们却仍习惯用同一套指标给这两类系统打分——正确率99%、99.9%、99.99%，每多一个9，仿佛就离"可信"更近一步。但安全领域最容易被忽略的一句话是： 正确率描述系统通常表现如何，却没告诉你它最坏能错到哪里。 下面七个数学视角，藏着AI执行安全真正的分水岭。它们不复杂，用的都是中学数学，却常常在最关键的决策上被绕过去。 1.正确率把所有错误压成了同一个数字 一个系统执行一万次，9999次对、1次错，正确率99.99%。
三 | 报表上堪称优秀。
四 | 但那一次错是什么？错分一封邮件，几乎无害；误删生产数据、批一笔无法追回的转账、启动高风险设备操作，评价则完全不同。 问题在于，正确率只数次数。
五 | 统计表里，分错邮件是"1"，转错巨款也是"1"。可现实中的错误从不等价。 衡量安全，更接近现实的是"风险等于概率乘以损失"这条基本公式： 风险=发生概率×可能损失 一个错误很少发生，不代表它不重要。假设某类事故概率只有万分之一，每次却损失一亿元，把它代入公式，风险依然是一万元，不能被当作"几乎为零"随手抹掉。 更麻烦的是，这类损失往往不能用平均值消化。
六 | 企业也许能承受每年稳定损失一万元，却未必扛得住某天突然损失一亿。前者是可以摊进预算的成本，后者可能直接决定企业还在不在。数学上的期望值假设你能反复经历很多次、让好运和坏运相互抵消；但对一家公司来说，最坏的那一次如果足够坏，就没有"下一次"来平摊了。
七 | 安全评估要看的，从来不只是期望值，还有那条最坏情况的尾巴有多长。 智能系统追求提高做对的比例，安全系统关心限制做错的代价。 2.一万次没出事，不等于风险为零 另一种常见说法是："系统跑了一万次，从没出严重问题。"很有说服力，但它只证明过去一万次没出事，证明不了概率为零。 用"一次都不出事的概率"这个公式可以算笔账： 一次都不出事的概率=(1−p)^n 其中p是单次事故概率，n是测试次数。若p是十万分之一、n是一万，代入后约等于90%。也就是说，即便系统真藏着十万分之一的风险，跑一万次仍有约九成可能什么都看不见。
八 | 它未必通过了考验，只是还没遇到那道考题。 这也是很多重大事故发生前，系统长期"稳定运行"的原因：风险不是在事故当天才诞生的，它可能一直存在，只是过去的样本还没触发它。 没观察到风险是一种观测结果，风险不存在是一个强得多的结论。 3.越罕见的事故，代价往往越大 频繁的小问题容易被看见：页面每天卡十次，用户会投诉，报表会记录，问题越频繁越容易进入工作计划。
九 | 真正危险的风险常常相反——几年一遇，甚至一家公司整个周期都没发生过，可一旦发生，一次抵得上所有日常小错之和。 同样用"概率乘以损失"对比两类问题： 问题A：概率1%×损失100元=平均风险1元问题B：概率0.001%×损失1000万元=平均风险100元 A更常见，B几乎看不见，但B的平均风险是A的一百倍。
十 | 而且B一旦发生，带来的不是"平均100元"，是实打实的1000万。
十一 | 错误也从不均匀分布。假设系统每年十万次任务，99%是普通操作（错误率0.01%），1%是紧急操作（错误率5%）：普通操作约出10次错，紧急操作只有一千次却出约50次错。整体正确率仍高达99.94%，可占业务量1%的紧急操作，制造了超过80%的错误。
十二 | 这就像一条平均一米深的河，大部分地方半米，中间却有个五米深的坑。
十三 | 平均值没撒谎，它只是把最危险的部分藏了起来。修堤坝的工程师从不按河流的平均水位设计，决定堤坝高度的，永远是几十年甚至百年一遇的极端水位。
十四 | AI执行系统也一样：普通任务里的小错决定用户体验，极端场景里的一次错却可能决定企业还能不能继续存在。
十五 | 所以安全评估不能只问"平均错误率是多少"，还要追问：高金额操作、紧急模式、陌生地址、跨境转账、权限恢复、数据缺失、多规则冲突时，错误率各是多少。
十六 | 总体表现优秀，证明不了每一个局部场景都安全。
十七 | 事故不会公平落在每一次操作上，它总聚集在系统最难处理、后果最严重的角落。 4.三个人同意，可能只是同一个错误重复了三次 为降低个人误判，企业惯用多人审批。逻辑没错，但前提是判断足够独立。 用"多数表决下至少两人同时出错的概率"来看：三个独立审批者各有10%错误率、多数通过，至少两人同错的概率约2.8%，远低于单人的10%。这正是多人决策能提高可靠性的数学基础。
十八 | 可现实中的审批往往不独立：三个人看同一份摘要、依赖同一个AI风险评分、引用同一个数据库。若系统自动生成的摘要写着"常规数据库优化，预计无业务影响"，三位负责人看的都是这句话，都没查实际命令，于是都点了同意。流程上是三人共审，信息结构上只是同一份错误摘要被确认了三次。人数增加了，独立信息却没有增加。 增加审批层同理。第二道防线是否有价值，取决于它能否在第一道失败后发现新问题。用"剩余风险等于漏检率乘以未识别比例"估算： 第一道漏检5%，第二道独立且识别80%→剩余风险=5%×(1−80%)=1%第二道只看同一份摘要、仅识别5%→剩余风险=5%×(1−5%)=4.75% 同样两层流程，前者把风险降到1%，后者几乎原地踏步。组织付出了更多时间、生成了更多日志，真实安全能力却没变。审批的价值不在页面上多了一个名字，而在于它是否带来新的事实、新的验证方式和新的拒绝能力。 真正降低风险的，不是多一个人点击，而是多一个独立的信息来源。 5.AI的"90%确定"，不是现实中的90%安全 当AI说"我有90%把握"，人们容易听成"这件事90%安全"。但置信度只是模型对自身判断的评分，不是现实开出的担保书。
十九 | 一个校准良好的模型，给90%置信度的判断里约九成正确；可现实中的模型可能给90%时实际只对70%，甚至在从没见过的场景里依旧自信。
| 模型最危险的状态，不是承认不知道，而是不知道自己不知道。 即便置信度完全准确，它也只覆盖模型看到的那部分。
| 真实执行还依赖输入是否真实、数据是否完整、审批是否被误导、策略是否过期、设备是否正常。
| 用"串联系统整体可靠度等于各环节可靠度相乘"这条公式来看，假设一条链五个环节各99%可靠： 整体可靠度=99%×99%×99%×99%×99%≈95.1% 每一环单看都优秀，组合后只剩约95.1%。不是哪一环突然变差，而是串联结构会把每一环的不确定性乘在一起、层层累积。环节越多，这种衰减越明显——十个99%的环节串起来，整体可靠度就跌到约90%。这也解释了一个反直觉的现象：把系统拆得越细、加的检查越多，如果这些环节是串联的、必须全部正确，整条链反而更脆弱。
| 模型可以有90%的把握，但"模型有多少把握"和"这项操作能否被安全执行"，始终是两个不同的问题。 置信度是模型对自己的评价，不是现实对模型的承诺。 6.为什么最后一道边界反而应该更"笨" 如果正确率覆盖不了严重后果、历史数据证明不了零风险、多人审批可能共享同一错误、模型置信度也代表不了全链路安全，那现实执行最终该靠什么？ 答案有点反直觉：最后一道边界不需要比AI更聪明，它应该更简单、更保守。 AI要理解复杂世界——读文件、判意图、处理例外、在不完整信息里给出最可能的答案。
| 最后一道边界不需要理解世界，它只需记住少数绝不能被突破的条件。用一个"所有条件相乘"的判定公式表达： 执行=A×T×W×Q×S其中：金额未超限A、目标在允许范围T、时间在许可窗口W、授权人数达标Q、设备状态正常S（每项满足记1，不满足记0） 任何一项为0，结果就是0，即拒绝执行。它不懂"情况紧急"，不会被一个充分的理由或一段宏大叙事说服，只检查条件是否满足——这正是它的价值。越聪明、越灵活的系统，越擅长为例外找理由；而最后一道边界要做的，恰恰不是理解例外，而是拒绝例外。 AI可以建议向一个新地址转移资产，边界只需检查这个地址是否经过必要的等待与验证；AI可以判断某项操作非常紧急，边界只需检查紧急状态下是否仍满足金额、授权和设备条件。AI负责处理开放世界的复杂性，边界负责守住封闭世界的底线。 AI需要理解整个世界，边界只需要记住哪些事情绝不能发生。
| 7.从"提高正确率"到"限制错误的距离" 过去的软件主要追求效率：更快、更准、更自动，就意味着更高的生产力。AI时代没有改变这一点，却增加了一个新问题——当一个概率系统拥有了现实执行能力，错误就不再停留在屏幕上。一句错话可以重说，一笔完成的转账可能无法撤回；一个错误建议可以修改，一次已经发生的物理动作却没有第二次机会。 所以AI安全不能只问"怎样让模型少犯错"。模型该更准、数据该更可靠、测试该更全面、审批该更有效，但这些主要解决的仍是"降低出错概率"。执行安全还必须回答另一个问题：一旦错误真的发生，它能走多远？能否越过审批、拿到签名、改动关键系统，把一个概率性的判断直接变成不可逆的现实？ 这两件事都重要，但不是同一件事。
| 前者是把出错的概率往下压，后者是给已经发生的错误装上刹车和护栏，限制它能造成多大的破坏。一个只优化正确率的系统，是在赌坏事永远不发生；一个真正安全的系统，是在假设坏事迟早会发生的前提下，仍然让后果可控、可撤回、可承受。
| 成熟的系统不会把希望全押在错误永不出现。它承认模型会误判、数据会污染、人会疲劳、审批会被诱导、规则会过期、设备会异常，然后在所有不确定性之后，仍保留一道简单、清晰、独立、能够说"不"的边界。这道边界不追求聪明，只追求可靠；它不参与判断该不该做，只负责守住绝对不能做的那条线。 统计学研究不确定性如何出现，安全工程研究的，是不确定性抵达现实之前如何被拦住。最终，我们需要记住的也许只有一句话： 概率可以参与判断，但不能独自拥有执行权。
| 本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 [email protected]。
Current article:http://28u.zanjionglangzhaizhizaxiying.buzz/2ys/y2u4.html
Published on:05:21:22