🇨🇳 🇹🇼 🇭🇰 胡锡进：美国科技精英内斗什么？世界在围观什么？胡锡进观察 ｜2023-11-21 声明： 本消息或因风格和篇幅原因进行过编辑，但消息未经核实，也不代表我们的立场、观点和思想，且不可理解为是我们的建议。[ 使用条款 ] 赞助信息 OpenAI究竟在发生什么？简单说，现实利益与理想主义发生了摩擦。被董事会解雇的奥特曼（Sam Altman）支持有效加速主义，把推动人工智能发展置于首位；该公司首席科学家萨斯克维尔（Ilya Sutskever）更注重防范AI的风险，提倡人工智能的超级对齐。这本来就是人类发展AI的推力和制动力，缺一不可。现在Altman已经获得投资人和几乎全体员工的支持，占了绝对上风，萨斯克维尔已经倒戈。 点 击 图 片 看 原 图 ▲奥特曼被罢免后以访客证件进入Open AI 办公楼（图源：奥特曼个人社交媒体） 尽管还没有最终结果，但这已经不是几个年轻科学家之间的争吵和博弈了，全体员工的利益加入了进来，资本的利益加入了进来，美国社会的商业利益和AI霸权利益加入了进来，有效加速主义战胜超级对齐，这个大方向、大趋势已经确定无疑。 人工智能超级对齐需要对齐的是人类安全，确保AI在强大起来的过程中，形成对人类的爱，这样的爱得是母亲（强大起来的AI）对婴儿（人类）一样的关照。OpenAI成立时注册成非营利机构，目的就是研究成果为全人类服务，避免被一家公司垄断。马斯克是它最早的投资参与者之一，后来OpenAI为了壮大，变成有限营利公司。在它发布了ChatGPT之后，展现出大河出川的无限前景，一旦完全商业化，很可能成为万亿美元的顶级上市公司，原来的初心还守得住吗？ 事实证明，萨斯克维尔与董事会一起解雇奥特曼，但形势在几十个小时之内就出现反转，到目前770个员工中，超700名员工联署要求奥特曼回归，否则他们都将辞职，与奥特曼一起前往微软。这表明，在巨大利益推动下，超级对齐不可能在商业大环境下得到遵守，对它的打破是注定的。 赞助信息 奥特曼未必就不担心人工智能失控并对人类造成潜在伤害，但他力推的有效加速主义是照顾各方利益的现实主义选择。除非美国政府站出来干预，阻止人工智能在没有绝对安全措施情况下的突飞猛进，否则仅靠市场的自身力量，超级对齐不可能被长期遵守。 最坚持超级对齐的萨斯克维尔面对员工和投资者的强大反对，迅速倒戈，加入了要求奥特曼回归的联署，这应该也是他面对员工集体反对和投资人施压的无奈“变节”。这可以看成商业潮流中理想主义十分脆弱的冰山一角。是的，那么多投资人等着OpenAI一旦完全商业化并且上市而大捞一笔，更有无数公司等着OpenAI创造并开放大规模应用，实现在他们自己在各领域新一拨的成功。 而且，OpenAI投入更多资源去做人工智能安全，美国和其他国家私营公司会那样做吗？现在AI竞争也成为国家竞争的一部分，美国政府愿意美国公司的AI整体迭代速度慢下来吗？美国现在打击中国的重点目标之一就是我们的AI研发。老胡相信，华盛顿对奥特曼的路线压倒萨斯克维尔路线是乐见其成的。 点 击 图 片 看 原 图 ▲当地时间10月17日，美国商务部发布新的芯片出口限制。美国商务部长雷蒙多称，此举的目的是限制中国“获得可能推动AI和精密计算机领域突破的先进制程半导体的途径”。（图源：外媒） 从远处观看OpenAI的这场人事大地震，和其中的戏中戏，老胡想到的是， OpenAI的人工智能研究确实进步得很快，他们说人工智能已经有了“意识”，发生这场路线之争，显示已经到了或者接近了人类需要抉择接下来准备冒多大风险的那个临界点。 赞助信息 我还想到，在中国互联网的聊天群里，我从没有看到相关知识分子和研究者群体对中国AI研究已经遭遇上述现实风险的讨论，我相信不是中国的知识分子缺少那样的责任心，更可能是我们的AI研究与美国的研究存在一个差距，那样的风险还没有形成我们这边知识分子群体的紧迫感。所以大家都在议论OpenAI的事情，谈得津津乐道，如数家珍。 点 击 图 片 看 原 图 AI刚开了一个头，它的纵深空间里都有什么，今天很难想象。中国一定要加快AI研发，那样才能提高我们了解AI深空的视野和立意。它不光是AI应用带动经济发展的问题，还有维护国家安全基本面，对塑造人类未来参与权的重大利益。 现在我们看着OpenAI几个年轻创业者之间玩“宫斗戏”，AI未来发展方向仿佛就由他们的斗争来决定，这是不行的。那么怎样才叫行？我们只有把自己的AI脚步加快，才能在那个速度中产生领会，并且获得话语权。 您或许还感兴趣下面几条新闻■ 奥特曼被开除：谁支持？谁反对？谁赢了？（组图） ■ OpenAI72小时乱局实录：或与其最大对手合并（组图） ■ 700余名OpenAI员工要求董事会集体辞职 ■ OpenAI的宫斗一天反转3次（组图） ■ Nadella出奇招，微软逆袭全球AI舞台（组图） ■ 难以调和的OpenAI路线之争（组图） ■ 中国为何那么多冷血极端民族主义者？（图） ■ 奥特曼转投微软，OpenAI员工要集体出走（组图） ■ 马斯克“反犹”背后：他越来越不兼容美国当前大版本（组图） ■ “失控”的OpenAI：宫斗后员工会追随奥特曼转投微软？（图） ■ 混乱中接管Open AI的Emmett Shear是谁？（组图） ■ 中国年轻人正用古怪方式打造“职场人设”（组图） ■ OpenAI的“内乱”：“良心科学家”与“激进企业家”之争？ ■ 中国年轻人打造“职场人设”：生活当是场喜剧（组图） ■ OpenAI革命性的治理模式已死？（组图） ■ ChatGPT 之父遭“政变”：OpenAI 属于谁,归谁管? ■ 在美留学多年学长和你分享真实留学生活（组图） ■ 李克强逝世，我们群里发生的一场小热闹（图） ■ 奥特曼正在重返OpenAI？（组图） ■ OpenAI——人类未来之争 ■ 董事会罢免Altman，CTO临时接任（组图） ■ Sam Altman，被废黜的OpenAI CEO，这个时代的奥本海默？ ■ AI圈都懵了，奥特曼被废黜，传言满天飞（组图） 赞助信息 您的观点至关重要点击朱笔，直抒胸臆 0 0 Google: super cool 15 相关图集 难以调和的OpenAI路线之争 43 / 111 格隆汇/凤凰科技 © 2023 八阕之地™ by Towards Digital Group反馈意见 ｜ 隐私政策 ｜ 使用条款 123