可调参数的生存风险估算工具发布
热点事件持续更新
可调参数的生存风险估算工具发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一个生存风险估算工具把到 2100 年的各类灾难拆成前提链条逐项相乘,供使用者按自己的假设调整参数。AI 风险分为失控与权力集中两条链:前者沿用 Carlsmith 的分解,但把系统建成概率设为 85%、协调失败设为 60%;后者因无已发表概率,默认值仅为示意性假设。 工具将五类风险按独立事件合并计算,作者承认这会高估至少一场灾难的概率。
AI 根据报道生成 · 2 小时前更新
最新进展11月4日 06:30
用你自己的假设为 p(doom) 做准备:一个可调参数的生存风险估算工具报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- Hacker News用你自己的假设为 p(doom) 做准备:一个可调参数的生存风险估算工具
一个生存风险估算工具把到 2100 年的各类灾难拆成前提链条逐项相乘,AI 风险分为失控与权力集中两条链,前者沿用 Carlsmith 的分解但把系统建成概率改为 85%、协调失败改为 60%。权力集中链因无已发表概率,默认值仅为示意性假设。五类风险按独立事件合并计算,作者承认这会高估至少一场灾难的概率。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。