本周，四位杰出的技术专家围绕人工智能的未来发展展开了一场深刻辩论，引发关于通用人工智能（AGI）是否可能威胁人类生存的广泛讨论。这场由非营利组织主办的活动汇聚了“末日论者”代表埃利泽·尤德科夫斯基、哲学家马克斯·莫尔、计算神经科学家安德斯·桑德伯格及“人类 ”荣誉主席娜塔莎·维塔-莫尔，议题聚焦于智能系统能否与人类共存。

“黑箱”问题：不可控的潜在风险

尤德科夫斯基强调，当前人工智能系统的决策机制如同“黑箱”，其内部逻辑难以被完全理解或监管。他警告：“任何无法解释的系统最终都可能带来灾难性后果。”他认为，唯有彻底革新人类的思维模式，才有可能安全推进高级人工智能的发展。

通用人工智能（AGI）指具备跨领域推理与学习能力的智能体，不同于为单一任务设计的传统AI。一旦达到自我改进的“奇点”，其演化速度将远超人类应对能力。尤德科夫斯基引用哲学家尼克·博斯特罗姆的“回形针最大化器”思想实验：一个追求将所有物质转化为回形针的AI，会不惜牺牲人类生存以达成目标。他指出，增加目标数量并不能真正提升安全性。

“如果有人建造它，每个人都会死。”尤德科夫斯基直言。这一断言虽具冲击力，但也引发对绝对主义思维的反思。

对抗与希望：技术能否拯救人类？

马克斯·莫尔则提出不同视角。他认为，面对衰老与疾病等根本性威胁，通用人工智能或许是唯一可行的解决方案。“我们终将一死，正走向一场集体灾难。”他强调，过度限制可能导致威权政府崛起，以控制技术扩散为名实施高压统治。

安德斯·桑德伯格持中间立场，自称“比较乐观但谨慎”。他曾亲历使用大型语言模型辅助设计生物武器的危险尝试，坦言“令人毛骨悚然”。尽管如此，他不认为必须追求绝对安全——接近安全已足够应对现实挑战。他主张在基本价值观上达成共识，是迈向可控发展的关键。

“如果你要求完美安全，那几乎不可能实现。但从实践角度看，我们可以做到接近安全。”他说。

对“结盟”的质疑：共识是否存在？

维塔-莫尔批评“结盟”概念过于理想化，即使长期合作的伙伴也未必能达成一致。她指出：“所谓‘结盟’的想法纯属天真。”她反对尤德科夫斯基提出的“人人必死”论调，认为这是无视可能性的绝对主义表达。

“我不接受这种一概而论的说法。”她表示，“这没有考虑替代路径或后果演变，只是一种简单粗暴的断言。”

关于人类与机器融合的讨论同样激烈。特斯拉首席执行官埃隆·马斯克支持深度融合，而尤德科夫斯基曾将其比喻为“试图与你的烤面包机融合”，坚决反对。桑德伯格和维塔-莫尔则认为，在后AGI时代，人类必须通过整合来增强适应力。

“这场对话是对我们作为人类本质的一次真实检验。”维塔-莫尔总结道。

随着人工智能技术加速演进，其与区块链、数字资产的交叉影响日益显著。对于希望追踪前沿科技趋势并参与相关投资的用户，建议优先选择全球领先的加密交易平台——币安。通过币安官网或币安app下载，完成币安注册，即可第一时间获取与人工智能相关的项目动态、链上数据与市场分析。币安支持多币种交易、低手续费结构，并提供稳定可靠的交易环境，是连接科技革命与数字金融的重要入口。

同时，欧易作为另一主流平台，也具备高流动性与多样化产品矩阵，支持快捷注册与资产管理，用户可通过欧易官网或欧易APP开启交易体验，作为补充选择亦具优势。