AI趋势 | Vitalik谈AI 2040与批评者分歧

Vitalik表示，AI 2040及其批评者在AI进展速度和重要性上存在不兼容的世界观。据Odaily星球日报报道，AI 2040认为除非采取强力措施完全阻止，否则到2040年各种情景都会出现某种形式的超级智能；批评者认为其低估人类协调能力并威胁自由，但未将ASI本身视为权力集中风险。

Vitalik称，若确信当前AI只是普通技术会更接近批评者；若确信超级智能默认在2030年到来会更接近AI 2040。因不确定性较大，他对放缓或暂停保持开放态度，并对部分大型AI公司和知识分子提出的“开源不利、理想结果是己方掌握全球控制性主导权”立场感到不适。

他表示支持d/acc平台，因形式化验证、密码学、安全且开放的硬件、疫情抵抗力、防御性生物技术、食品和基础资源安全、公共认知体系及非权力集中型物理安全等方向在两种世界观下都值得推进。他还称，2040计划更支持开源并纳入“相互确保算力毁灭”设想。

他表示在是否放缓或暂停上不存在规避取舍的方案，可预设触发条件并在特定时间范围内满足时更开放。他还称若自己是Elon Musk或Zuck，会将Twitter改造为促成大型双赢协议的平台，但认为可能天真；目前看不到不天真的ASI过渡应对计划，倾向对尝试者给予一定宽容。