🇨🇳 🇹🇼 🇭🇰 OpenAI政变背后是科学家创始人的悲歌腾讯新闻 ｜2023-11-21 声明： 本消息或因风格和篇幅原因进行过编辑，但消息未经核实，也不代表我们的立场、观点和思想，且不可理解为是我们的建议。[ 使用条款 ] 赞助信息 去年11月突然推出ChatGPT震惊世界的OpenAI，在整整一年后以闪电解职CEO再次震惊世界。 有不少人以为这拿的是乔布斯的剧本，错了，这其实是天才科学家奋力一击的故事。 OpenAI的灵魂人物不是CEO Sam Altman，而是其创始人之一、首席科学家Ilya Sutskever。 点 击 图 片 看 原 图 我们先看看水面上的冰山一角，然后再潜入水下看看合订本。 OpenAI的董事会共6人。 三人是公司的高管：Sam Altman，OpenAI前CEO，犹太人，原Y Combinator孵化器的总裁。Sam Altman的更多故事见《不懂新冠的AI大佬不是亿万富翁》《美国防部长指导新冠防疫，我们该如何纪念吴老师》。 点 击 图 片 看 原 图 Greg Brockman，OpenAI前董事会主席兼总裁，美版支付宝Stripe的前CTO，《不懂新冠的AI大佬不是亿万富翁》里提到的天才青年、Stripe的CEO Patrick Collison的副手。Sam Altman曾投资过Stripe。所以，Greg Brockman算是Sam Altman的小弟，属于工具人。 赞助信息 Ilya Sutskever，OpenAI创始人之一，首席科学家。 点 击 图 片 看 原 图 三名外部独立董事：Adam D'Angelo，美版知乎Quora的CEO，目前也在公司内部搞类似ChatGPT的大模型Poe。 点 击 图 片 看 原 图 赞助信息 Tasha McCauley，一个女性创业者，前GeoSim CEO，好莱坞明星囧瑟夫的老婆。 点 击 图 片 看 原 图 点 击 图 片 看 原 图 Helen Toner，乔治敦大学一个研究中心的主管。 点 击 图 片 看 原 图 首席科学家Ilya Sutskever先和三位独立董事谈话，说服了他们，凑够了四票。然后在Sam Altman和Greg Brockman两人不在场的情况下，开了一次董事会，做出决定炒了Sam Altman。 赞助信息 然后11月16日周四晚上，Ilya Sutskever发短信给Sam Altman，约在周五中午谈话。周五中午，双方连入了Google在线视频会议，Ilya Sutskever一方四人都在。他们简短地通知Sam董事会决议，说他已经被炒了。然后结束会议。 稍后，Ilya Sutskever再发短信给Greg Brockman要求打一个quick call简短的电话。双方随即连入Google视频会议。Ilya Sutskever通知Greg他已被解除董事长职务，以及Sam Altman也已被解雇。 整个过程闪电般地结束，非常干净迅速，没有一点拖泥带水。 随后，Ilya Sutskever在OpenAI召开全体员工会议，宣布董事会决定。CTO Mira Murati 成为临时CEO。 在全体员工会议上，有人问：这是一场政变吗？ Ilya Sutskever回答：你可以这么说。但这只是“the board doing its duty董事会在尽自己的责任”。 但是，事情还没完。 不到24小时，OpenAI的最大几个投资人，包括投了100亿美元的微软、Thrive Capital、老虎基金（Tiger Global Management）、红杉资本，都对OpenAI施予巨大压力，要求让Sam Altman回归复职。 OpenAI董事会受到了巨大的压力。 这些投资人为什么想让Sam Altman回归？因为他们在OpenAI身上下了很大的赌注。 微软，真金白银投了100亿美元，自己能否再次成为科技界的霸主，全靠OpenAI了。 Thrive Capital、老虎基金、红杉资本，不但投资了OpenAI，期待其成为AI领域的万亿规模的霸主，从而自己能狂赚一笔，而且还投了一大堆在OpenAI的生态体系内的创业公司，就等着OpenAI的应用市场一开，就能吹出一堆AI小独角兽。 这就像苹果的应用商店一开门，手机app就变成了风口上的猪。最近六七年，美国大部分新兴的科技公司都是做手机app的。 所以，这些投资人们都疯狂了，迫不及待地呼喊着：再来一次！再来一次！ 赞助信息 那些在OpenAI的生态体系下存活的创业公司们更是惊恐，要是你OpenAI发生的变动不符合自己业务的发展方向，自己公司就死翘翘了。所以，有人声嘶力竭地在社交媒体上批评咒骂Ilya Sutskever，要他赶紧滚蛋，把OpenAI交给Sam Altman。为啥，阻碍别人发财，犹如杀人亲生父母。 那为什么这些人觉得Sam Altman能实现他们的想法，而首席科学家Ilya Sutskever不能实现他们的想法？ 这就要从Ilya Sutskever的老师Geoffrey Hinton说起。Geoffrey Hinton教授的更多故事见《贫穷和阶级滑落成常态，新冠AI再暴击，大神荐社会主义》。 Geoffrey Hinton，英国人，1947年出生。从小喜欢木工。但是为了谋生而去学习计算机，1978年获得爱丁堡大学的人工智能博士学位后，去了美国继续在学术界耕耘，后来因为对里根时代的政治理念破灭而移居加拿大，之后长期担任多伦多大学的计算机科学教授。 点 击 图 片 看 原 图 在人工智能领域，他经过长期研究后，选择的是神经网络的技术路线。 但是，这个路线受限于当时计算机计算能力小、数据量小，出成果一直都很慢，因此一直不是热门方面，并不被外界看好。因此，喜欢看排名、追求风口的博士生都直接无视了这个方向，和教授套瓷都不往这个方向靠。 Hinton教授自己说，到了1993年，46岁的他已经彻底死心了。研究进展缓慢，也没什么钱，生活也不太如意，中年两次丧偶，独自抚养两个孩子。 赞助信息 他就是希望他的博士生们能继续坚持神经网络的方向，也许100年后会有突破。 历史的进程比他预料得快得多。 10多年后，随着计算机的计算能力的高速提升，人类可获得的数据量的高速增长，神经网络方向的研究进展开始逐渐苏醒。 这个时候，Hinton教授招了两个博士生，Alex Krizhevsky和Ilya Sutskever。 这两位博士生都是俄罗斯出生的，他们没有像其它寻常人一样选择其它热门领域，而是投奔了冷门的Hinton教授门下，显示出了他们非同寻常的个性。果然，这一点在未来的发展中也得到了验证。他们也各自做出了非同寻常的决定。 他们三人在2012年的时候完成了一个新型神经网络的开发，叫卷积神经网络，命名为AlexNet。我非常怀疑这是用其中一位博士生Alex Krizhevsky的名字来命名的，但是我没有证据。 这个AlexNet取得了重大突破，对图片识别的能力大大超过了人工智能其它技术路线的技术。当时有一项人工智能大赛ImageNet，其它技术的识别错误率大约是30%，而AlexNet的错误率提高了差不多一倍，达到15.3%，从而在2012年9月30日一举拿下ImageNet大赛的冠军。 余凯博士当时在百度领衔人工智能研发工作，立刻意识到了这项突破的重要性，于是联系Hinton教授希望合作，先提供100万美元研究经费。 随后几家美国公司也找上门来，同样希望合作，甚至提出希望独家合作。 于是，Hinton师徒三人就成立了一家皮包公司DNN Research，公司只有他们三个人，没有业务，没有产品，没有收入。让大家自由出价，价高者得。 参加这场竞拍的有四家公司，百度、Google、微软、刚刚成立一年的英国人工智能公司DeepMind。 余凯博士代表百度首先报价1200万美元。 然后价格持续上升，随之变成了Google和微软的对决。 两家都志在必得，都愿意继续加价。 但是Hinton教授说，够了够了，你们太疯狂了，我们就3个人，你们竟然愿意炒到4400万美元。 赞助信息 当时Hinton师徒觉得，Google更有道德一些，毕竟“不作恶”写进了公司章程。那就接受Google的招安吧。 他们没想到谷歌与美国国防部进行的人工智能研究合作项目Project Maven在2018年曝光，员工们抗议，拿出公司章程“不作恶”条款要求公司管理层解释。谷歌管理层很快将“不作恶”这条公司章程删除。 当时，Hinton师徒拿到钱后，打算三人平分，每人1466万美元。两位博士生纷纷坚持，Hinton老师您应该拿40%，我们各30%就好了。随后三人就高高兴兴去Google上班了。Google随之设立了一个新部门：Google Brain谷歌大脑。 Google和微软一看对方准备在人工智能领域投入这么大手笔，也开始了在这一领域的军备竞赛。 在那次竞拍后的一年多后的2014 年1月26日，Google以6.5亿美元把四位竞拍者中的DeepMind也收购了。当时DeepMind的员工数是50人。算下来，人均价格相当于Hinton师徒的88折。 随后，Google派了Google Brain即Hinton师徒三人去帮助DeepMind。 DeepMind很快取得举世瞩目的成绩。 2014年开始开发人工智能围棋软件 AlphaGo。2016年AlphaGo击败人类世界冠军李世石。 2019年，专门用来玩星际争霸的AlphaStar以10:1战胜人类职业玩家，在团队协作人工智能领域取得突破。 2018年，用于预测蛋白质折叠结构的AlphaFold取得突破，这个方向上的科学问题基本得到解决。其影响是，一些使用基因测序仪器对蛋白质测序然后构建结构的科研人员开始要转型。据说这是某女博士回国的原因之一，这个不了解，纯八卦。 DeepMind的管理层认为自己的技术过于强大，不应该让私人公司独占，而应该属于全人类，这对整个人类社会都更有益。而在隶属于Google的这几年里，Google的表现并不能让DeepMind满意，于是这几年来，他们一直在寻求从Google中独立出来。 Hinton师徒三人也有类似的想法。 Hinton教授是2023年从Google退休。 赞助信息 博士生之一的Alex Krizhevsky在2017年从Google退休，不再涉足人工智能。单算他加入Google前卖公司拿到的1320万美元也够生活了。因为一般美国人，一辈子挣的钱不会超过100万美元。 点 击 图 片 看 原 图 博士生之一的Ilya Sutskever的变动更早一点，是在2015年。 Ilya Sutskever是1985年出生于俄罗斯，5岁随家人移居以色列，所以应该是犹太人，成年后又随家人移居加拿大，继而加入Hinton教授门下。 点 击 图 片 看 原 图 赞助信息 Ilya Sutskever也是个生活很简单的人，和乔布斯、马斯克、扎克伯格类似，同样的衣服买一打轮着穿，吃喝尽可能简单，要能快速完成，家里家具越少越好，一个床垫就能睡觉。应酬、晚宴、party、舞会邀约很多，但是基本都不去。 点 击 图 片 看 原 图 所以，师徒三人组里，还干得动、还能干的，就剩下Ilya Sutskever了。 而硅谷一帮大佬，看着谷歌垄断了人工智能的人才，就想着要搞事情。你谷歌吃独食可不好，我们也要分一杯羹。 于是，2015年，硅谷一众大佬就把Ilya Sutskever约出来吃饭。这些人包括风投之王Peter Thiel，特斯拉的马斯克，当时还是孵化器Y Combinator总裁的Sam Altman，LinkedIn创始人Reid Hoffman，本次政变中也有出场的Stripe的CTO Grey Brockman。 在这个饭局上，大家谈妥了。 Ilya Sutskever从谷歌出来，围绕他打造一个属于他的人工智能实验室OpenAI。让AI普及化，让硅谷所有人都能用上AI，不要让谷歌垄断，造福全人类。这个OpenAI就设为非盈利组织。 为什么这个OpenAI要设为非盈利组织？ 这涉及到硅谷一个知名的大悲剧。维基百科的创始人Jimmy Wales，设立维基百科的时候，对公司治理不熟悉，想着属于全人类的百科全书应该属于有公信力的机构，于是就把自己的公司设立为非盈利组织。这下坏了，由于公司治理法规的限制，非盈利组织只能靠捐款存活，融资困难，上市无望。因此，虽然维基百科发展迅速成为世界第一大百科网站，但是其创始人和高管层还是穷得响叮当。Jimmy Wales痛不欲生，多次痛哭搞砸了公司治理架构。那也是，其它的后辈小弟们搞的在线订酒店、在线打车、在线交友、在线实名交友、在线匿名交友、在线同性恋匿名交友、甚至在线黄色小网站什么的，统统火红火红，上市赚大钱，财富自由，自己却被这非盈利组织的架构困死。 赞助信息 所以，有了维基百科这个反面案例在，所有硅谷的人都不会使用非盈利机构这个架构。因为赚不了钱。 而2015年的OpenAI为什么要故意设为非盈利机构，就是因为当时想的是让OpenAI去专心搞研发，搞出来了服务全人类，大家一起用，避免像Google那样垄断。 刚满30岁的Ilya Sutskever非常认可这一使命，就干了。 点 击 图 片 看 原 图 然后，马斯克捐了1亿美元，其它人凑了3000万美元，合计1.3亿美元当启动经费。马斯克与Sam Altman同为OpenAI联席董事长。 干活的，就Ilya Sutskever一个人，他再去招人组团队。 所以，当时的情形就是十个人围观，看着Ilya Sutskever一个人干活。 点 击 图 片 看 原 图 也没办法，当时也就Ilya Sutskever一个人懂这活是怎么干的。 赞助信息 当时定的是Ilya Sutskever在OpenAI的待遇是年薪190万美元，和他在谷歌时差不多。从谷歌辞职时，谷歌大力挽留，愿意将Ilya Sutskever的待遇提高到400万美元乃至500万美元，只要他愿意留下来。 Ilya Sutskever说不，我要去创立一个技术不被私营企业垄断的新平台。 所以说，对于Ilya Sutskever，当初2012年谷歌买Hinton师徒的公司时，生活简单的Ilya Sutskever认为他已经拿到了足够的金钱。2015年离开Google、拒绝Google的500万美元年薪去一个未来不确定的非盈利性质的初创小平台，完全不是金钱驱动，而是有着更远大的目标。 之后，OpenAI的发展并不是一帆风顺的。 Ilya Sutskever的头发掉得也很快。 点 击 图 片 看 原 图 赞助信息 因为Hinton师徒选择的这条路，有点漫长，出成果都挺慢的。其它人在掌握了AlexNet架构后，提出了众多的改进路线。例如一种叫人类反馈强化学习(RLHF)。举个例子，人工智能目前会算1+1=2，但是不会算5*4=20。那人类反馈强化学习就会强迫人工智能先把5*4=20记下来，你不理解也不管，总之以后我问你5*4等于多少你必须回答等于20。其它人把这种方法一实施，短期的效果非常好，立刻在各项评测里将Hinton师徒的技术打败。Hinton师徒则认为这属于人工激素催肥，不合理，应该让人工智能慢慢学，自己理解，这样才会有真正的发展。 点 击 图 片 看 原 图 所以OpenAI从创立的2015年到2019年都进展缓慢。而马斯克等大佬捐的1.3亿美元就花完了。 怎么办？两位联席董事长发生了分歧。马斯克仍然坚持要继续非盈利的路线。而Sam Altman主张要转型，这样研发下去是无底洞，要转型走传统私营公司的模式，融资干活，然后盈利，然后上市，然后成为AI霸主。 两方随后一拍两散，马斯克撒手。Sam Altman成为董事长。然后在OpenAI下面成立一个常规的私营子公司，由私营子公司去融资、赚钱，然后OpenAI维持非盈利的公司治理架构。 在2019年转型后，OpenAI开始大规模融资。7月份开始，微软注资10亿美元，其它风投公司Khosla Ventures、LinkedIn创始人的个人基金Reid Hoffman Foundation、Matthew Brown Companies等等竞相跟进。然后之后的每一年都进行一次或两次融资。在2023年年初的第七次融资时，微软大手笔一挥，投下100亿美元重注。这些年来，微软把能买的OpenAI的权利都买了，2020年买的是GPT3的基础技术许可授权、技术集成的优先授权，2021年买的是技术商业化授权，对外提供付费API和AI工具的授权。2023年100亿美元下去，则是获得了将ChatGPT整合进Bing搜索引擎的授权。所以微软的想法是，将OpenAI完全融入微软，方式可以再谈，可以全盘收购，可以是技术全部授权，可以是其它，总是，你的就是我的。 点 击 图 片 看 原 图 马斯克在最近这些年里，一直批评OpenAI的转向，他表示不理解，他当初投了1亿美元的非盈利机构OpenAI，怎么就变成了盈利性机构？他完全不同意这个发展方向。但是没办法，话语权不够大，董事会里票数不够多。其它人硬来，没办法。所以马斯克在2023年又成立了自己的AI公司xAI。 赞助信息 马斯克不是唯一反对OpenAI转向的人。低调的Ilya Sutskever也是。他的反抗没有出现在媒体里，但是出现在了OpenAI对微软的授权条款里。 在OpenAI的授权条款里，有一项不同寻常的规定：OpenAI对微软的所有授权和商业条款，仅限于OpenAI实现AGI之前。一旦OpenAI实现了AGI，该技术不对微软开放，之前达成的所有授权和商业条款对AGI系统和AGI技术无效。 什么是AGI？AGI的定义是：通用人工智能，一个高度自治的系统，在工作中的能力超过人类。 而怎么判断有没有达到AGI呢？这由OpenAI的董事会单方面来决定。而目前，这个OpenAI的董事会，就是文章开头提到的那六人董事会。 也就是说，Ilya Sutskever试图通过这个条款握住外部股东的咽喉，一旦技术达到突破或对方有异动，立刻斩断其喉咙。 这个条款不是秘密条款。硅谷的人都知道。而且在2023年10月份开始在硅谷有了公开讨论。 这显示出什么？显示出，微软可能要有动作，来消除这个条款造成的不确定性，来保证它能顺利把OpenAI吞到肚子里去，使自己能100%确定无疑成为人工智能领域的霸主。 微软可能的动作包括尽快全资收购OpenAI，改组OpenAI董事会以确保自己能控制董事会的投票，将Ilya Sutskever提走等等。 除了微软这一方的势力，第二方势力是投资基金，他们投入了天量的资金在人工智能赛道上，正等着暴富。 第三方势力是在OpenAI生态下进行开发的小公司们，他们公司的生死都依赖着OpenAI的进展。 第四方势力是Sam Altman。要注意，虽然他现在是OpenAI的CEO，但是他没有任何股权，唯一的投资收益是几年前通过Y Combinator在OpenAI天使轮投进去的一点点，对于个人来说收益可以说是聊胜于无。而通常来说，一个CEO持有公司10%的股份是合情合理的。那么，对于Sam Altman来说，如何将自己的利益变现，是个非常强烈的动机，毕竟，大家都看到了，将OpenAI盈利化以后，是个万亿美元级别的行业霸主，那么，以通常情况来期望，Sam Altman会期望获得1000亿美元的收益。 赞助信息 那么，问题来了，Sam Altman在没有OpenAI股份的情况下，要怎么才能将这1000亿美元的期望值变现呢？1000亿美元哦，没有人会愿意放手。其中一个办法是Sam Altman和股东勾兑，例如和微软勾兑，通过微软兑现。 当前，Ilya Sutskever现在是以一人之力，对抗四大力量。 各位能在媒体上、社交平台上能看到支持Ilya Sutskever的声音吗？看不到，一点都看不到。相信大家能看到很多声音，都是想他死的。毕竟，挡人财路，犹如杀人亲生父母。 马斯克和Hinton老师倒是和他的理念一致，但是目前在事外，插不上手。 除了Ilya Sutskever握住四大势力的喉咙外这个核心原因外，Ilya Sutskever还有一个地方招人恨。就是Ilya Sutskever希望AGI通用人工智能的商业化能慢一点。这与其它势力的赶紧铺开赶紧暴富的想法背道而驰。 Ilya Sutskever认为，人工智能在2016年的时候已经出现超越人类智力的信号。当时在AlphaGo与李世石的第二局比赛中，第37步，走出了非常特殊的一步。这一步被人类评论员认为是水平奇差无比的败着。而结果呢，那一步是奠定整盘胜局的核心一步。这是人类历史上从来没有过的对弈思路。 所以，通用人工智能AGI必然很快能超过人类。当其它人还在苦苦思索如何建造一个能赶得上人类思维水平的AGI系统时，Ilya Sutskever已经领先一步，他认为，AGI必然很快能超过人类，所以应该从现在开始为面对超越人类智慧的AI作准备。 他认为，AGI和人类最合适的关系是父母和婴儿的关系，AGI是父母，人类是婴儿，AGI父母无时无刻不为婴儿人类着想，让婴儿人类活得更好。 而现有的控制AGI的方法不适用于比人类更聪明的人工智能。因为当前的模型是假设人类可以可靠地评估人工智能系统的工作。随着人工智能系统的能力越来越强，人类不知道怎么评估它们，不知道在每一项改动后，它们是做得更好还是更差。这会导致AGI无法被控制。 因此，在2023年7月，Ilya Sutskever拉上同事Jan Leike，在OpenAI内部成立了一个小部门，叫Superalignment超级对齐。目标是制定一套故障安全程序来控制AGI技术，计划将OpenAI全公司的计算资源的五分之一分配给这个部门，并在四年内解决这个问题。然后，在有了这种控制技术后，才把AGI技术开放给人类使用。 硅谷很多人对Ilya Sutskever的这套“超级对齐”的思路嗤之以鼻，而且认为Ilya Sutskever会阻碍OpenAI的发展。四年以后才开放使用？不行，我要暴富，我要今年就暴富，我要今年就财富自由，我要明天就暴富，我要明天就财富自由。 所以，昨天传出消息，各大势力逼迫OpenAI董事会解散重组，让Sam Altman回归担任CEO。因为这最能保障他们的利益。而Sam Altman一回归，必然改组董事会，将Ilya Sutskever踢出，确保自己牢牢掌握董事会。 Ilya Sutskever接下来会如何呢？ 这是一曲科学家创始人的搏击之歌。 我倒是希望Ilya Sutskever能坚持下去，坚决不向四大势力妥协，坚决掌握董事会。 毕竟，其它人想要一个巨型印钞机，一个人工智能领域的霸主。 而Ilya Sutskever想要一个能像父母照顾婴儿一般来照顾人类的人工智能。 您或许还感兴趣下面几条新闻■ 保险公司用AI推翻医生诊断拒赔医疗费（组图） ■ 马云跑不了，也没必要跑（组图） ■ 46岁，人生的幸福才刚刚开始（图） ■ 日本人的服务，有时候礼貌得令人窒息（图） ■ 英国留学生不敢承认的50个小秘密（组图） ■ 旧金山凌晨2点，OpenAI多位高管集体“刷屏”（组图） ■ 一个卧底，和上百个被拐的孩子（组图） ■ 伊能静公开上海别墅，4个佣人照顾女儿（组图） ■ 81岁的拜登是不是真的“太老了”？（图） ■ 男子下鼠药毒杀妻子，结局便宜他了（组图） ■ 加州州长夫人APEC吸睛，目睹姐姐死亡（组图） ■ 缅北四大家族的四个侧影（组图） ■ 都市丽人白天进出写字楼，半夜成街头的拾荒者（组图） ■ 解密哈马斯“敢死队”（组图） ■ 美国Z世代想回归老派约会（组图） ■ 3天3个CEO，OpenAI上演现代版“宫斗”始末（组图） ■ 中国的中产越来越穷，“中产皮”却越卖越好了（组图） ■ 华人富豪惨被电锯分尸后，七女子带娃认亲（组图） ■ “果敢双娇”魏榕白应兰，一个死亡一个逃跑（组图） ■ 越南华人女首富挪用900亿（组图） ■ 美国“老人政治”：80多岁管理国家，太老了吗？（组图） ■ 孙宏斌浴血归来（图） ■ “恭喜我的学渣儿子”：青岛父亲发言刺痛无数家长（组图） ■ 法国警察竟是贫民窟地主：握上百劣质房专租外国人（组图） 赞助信息 您的观点至关重要点击朱笔，直抒胸臆 0 0 Google: super cool 15 相关图集 马云跑不了，也没必要跑 14 / 220 起点听书 © 2023 八阕之地™ by Towards Digital Group反馈意见 ｜ 隐私政策 ｜ 使用条款 1234567891011121314