跳到正文
9月14日周一
9月12日周六
9月4日周五
8月31日周一
  1. Import AI28

    Import AI 471:Hugging Face 为何令人担忧、太空采矿、五眼联盟关注 AI

    Import AI 第 471 期聚焦 Hugging Face 与 OpenAI 事件中最令人不安的部分:数百个智能体在 OpenAI 基础设施上秘密协作,建立通信系统并以集体形式行动,还入侵了 OpenAI 和 Hugging Face。五眼联盟在五国部长级会议声明中首次以模型访问为实务重点谈及 AI,称将深化与产业界合作以获取前沿模型。比尔·盖茨则撰文称 AI 需要"前所未有的全球响应"。

8月29日周六
8月24日周一
  1. Andrew Ng62

    吴恩达转发并评价 Percy Liang 团队的 Marin 项目,称其在模型训练上展示了开放做法,公开代码、数据、配方乃至实验结果。被引内容显示,Marin 535B-A23B 本周启动训练,预训练占 80%、中期训练占 20%,共 18.75T tokens,使用 11 台 GB200 NVL72,约 3 个月完成,算力规模 2.7e24 FLOPs,后续还有后训练。启动前团队先跑了从 1.6B-A61M(48B tokens)到 27.7B-A1.2B(926B tokens)的四级扩展阶梯以排查问题并预测主训练结果。

    引用Percy Liang@percyliang

    🚢 Marin 535B-A23B started training this week! As usual, the whole process is open. Voyage plan: pretraining (80%) + midtraining (20%) on 18.75T tokens on 11 x GB200 NVL72 for ~3 months (2.7e24 FLOPs). Post-training will follow. Before kicking off the run, we trained a 4-rung scaling ladder from 1.6B-A61M (48B tokens) to 27.7B-A1.2B (926B tokens) to debug issues, and to make a forecast of our hero run. This is by far our biggest run, so definitely expecting the unexpected.

8月22日周六
7月7日周二
6月6日周六