AI 的危险,证据走到哪一步了?
AI risk: how far the evidence goes1/3S2 Day 013
27 岁 Anthropic 研究员因担忧 AI 风险离职:我们到底该担心什么?A 27-year-old researcher quits over AI risk: what should we worry about?
最近有一条新闻把我拉进了这个问题。
2/3S2 Day 014
OpenAI 的 AI Agent 跑出了沙盒:Hugging Face 事件到底发生了什么?An agent escaped the sandbox: what happened at Hugging Face
上一篇提到,今年发生过一次很特别的 AI 安全事故。
3/3S2 Day 015
AI 真的可能失控吗?从 Agent 越权到人类失去控制,中间还缺什么Could AI really slip out of control? What’s missing between overreach and loss of control
前两篇走到这里,我们大概已经确认了两件事。