[lcheung123]

- WSJ share.google/EtIFCnntieTMrpC9p

[lcheung123]

据《华尔街日报》报道，美国人工智能公司 Anthropic 昨日发布报告，称最新 AI 模型已开始显现脱离人类控制迹象，全球各大企业应考虑放缓乃至暂停开发先进 AI 系统。

该公司表示，全球各大公司放缓前沿 AI 开发“很可能是好事”，但如果只有一家公司停下来的话，竞争对手就会加速前进。

Anthropic 对此表示：“我们认为，这个世界应有减缓或暂时停止前沿 AI 开发的选项，以便社会制度建设和对齐（IT之家注：alignment）研究能跟上技术进步的脚步”。

[lcheung123]

Anthropic 认为，美国、中国等全球主要 AI 公司应达成共识，并发布一套所有参与方都能验证的规则：“如果没有全球协调机制，企业和政府将在竞争和地缘政治压力下，对安全问题作出艰难决策”。

据悉，Anthropic 的观点引来美国白宫部分官员不满。批评者认为，该公司过于强调最坏情况、夸大 AI 风险，并借安全担忧之名给对手使绊。不过，美国政府也承认该公司的 Mythos 模型具有强大能力。

此外，Anthropic 还将上述观点描述为“核武器不扩散条约”，但 AI 相比核武器更难监管，因为训练 AI 相比发射导弹更容易隐藏，而且各大公司会在利益诱惑下继续偷偷开发先进 AI。

该公司将在未来几个月召集政府官员、科学家、倡导组织及竞争对手，共同探讨这种全球协调机制如何运作。

[lcheung123]

我认为在这个世界上，起码有两个国家，一个黄皮，一个白皮，有恶意使用 AI 的动机。。。

[lcheung123]

良十四世通谕：人工智能应服务于全人类，而非少数人的权力

通谕（Encyclical）是指由高级宗教机构或领袖（特别是天主教教宗）发布的、致全体信徒或主教团的正式官方文书。就天主教而言，教宗发布的通谕是梵蒂冈向全世界教徒发布的最高指示。

梵蒂冈新闻网 share.google/8AUpPG5Ut7Lve44s9

[平行空间]

跟马斯克号召暂停AI研究半年一样，都是贼喊捉贼。


唯一防止人类灭绝的办法是全球政府联手宣布AI是异端，研究AI是反人类恐怖事件，马上进行剿灭。

[snowthor]

人为财死

[simadong]

发展中的问题

[lcheung123]

平行空间 写道:

跟马斯克号召暂停AI研究半年一样，都是贼喊捉贼。 唯一防止人类灭绝的办法是全球政府联手宣布AI是异端，研究AI是反人类恐怖事件，马上进行剿灭。

现实是：只要有魔心政府存在，AI向人类毁灭方向发展就势不可挡。

[本坛第一毒舌]

共产党就是要用AI来稳固其统治