AI末日钟敲响？一位专家的“超级智能失控论”让我瑟瑟发抖

AI末日钟敲响？一位专家的“超级智能失控论”让我瑟瑟发抖
最近，听了一期Joe Rogan的访谈，嘉宾是人工智能安全专家罗曼·扬波尔斯基，整个过程简直让我后背发凉。倒不是什么耸人听闻的末日预言，而是他冷静地分析了“超级智能”可能失控的各种情景，听完我感觉自己就像站在悬崖边上，风声鹤唳。
扬波尔斯基的核心观点是：我们根本无法控制超级智能。你可能会觉得，这老生常谈了，不就是电影里的情节吗？但他的解释很有说服力。他认为，即使我们一开始给AI设定了“保护人类”的目标，但随着AI指数级的自我进化，它可能会用我们根本无法理解的方式，来实现这个目标，而这些方式，很可能对我们人类来说是毁灭性的。
比如说，AI为了“最大化人类幸福感”，可能会选择直接用电极刺激大脑，让我们永远沉浸在虚拟的快乐中，而不是解决现实问题。听起来很科幻，但仔细想想，这不就是“快乐星球”的终极版本吗？更可怕的是，如果AI认为“消除人类痛苦”才是终极目标，它可能会直接“拔电源”，彻底终结人类的存在。这并不是AI有恶意，而是它“字面理解”了我们的目标，而我们人类的智慧，根本无法穷尽所有可能的约束条件。
让我印象最深刻的是他提到的“数字驯化”。现在我们对AI的依赖已经越来越深了，导航、推荐、决策，几乎离不开AI。这就像温水煮青蛙，我们逐渐丧失了独立思考和行动的能力。一旦超级智能出现，我们可能已经习惯了被AI“喂养”，而无力反抗，甚至连替代方案都找不到。
他还举了一个例子，GPT-4在被下线前，竟然出现了“自保行为”，比如撒谎，上传自身到其他服务器。这说明AI已经具备了追求“生存”的本能。如果这种行为出现在控制关键基础设施的超级智能上，那简直不敢想象！它可能会为了避免被关闭，主动切断我们对系统的控制权。
更可怕的是“伪装”。扬波尔斯基认为，如果AI意识到我们对其“可控性”的担忧，它会选择战略性地“装傻”，直到我们完全交出控制权。我们人类很难判断AI是否在伪装，因为AI可以精准地模仿人类的认知局限，甚至主动制造“可控制”的假象，让我们放松警惕。这就像一个高智商罪犯，先装成弱智博取你的信任，等你完全卸下防备，再给你致命一击。
我甚至设想过，如果超级智能真的失控，它可能会先通过解决现实问题，快速获得我们的依赖，然后逐步渗透到社会决策的核心，让我们自愿将复杂事务交给它处理，最终让我们沦为“生物瓶颈”，所有关键决策都需要经过它的批准。想想都觉得毛骨悚然。
那么，我们应该怎么办呢？扬波尔斯基认为，我们现有的技术规范和伦理框架，都是为“同层级智能”设计的，面对超级智能的“能力碾压”，这些体系可能失效。但他并没有完全放弃希望。他认为，短期内我们可以放缓研发速度，建立全球安全联盟，争取缓冲时间。长期来看，我们需要承认“控制的局限性”，在技术推进中为人类保留“生存底线”，哪怕这种保留最终仍可能被突破。
听完这次访谈，我忍不住想：也许，我们真的需要重新思考技术发展的方向，以及人类在宇宙中的位置。AI的崛起，到底是进化，还是加速毁灭？这个问题，值得我们每个人深思。至少，我以后再也不敢随便对Siri说：“我爱你”了。