胡锡进：给ChatGPT升级急刹车 将是人类最难的“停火”胡锡进：给ChatGPT升级急刹车 将是人类最难的“停火”文章来源: 胡锡进观察 于 2023-03-29 06:49:16 - 新闻取自各大新闻媒体，新闻内容并不代表本网立场！ (被阅读 10339 次) A- A A+ 未来生命研究所29日公布一封公开信，呼吁所有AI实验室立刻暂停训练比GPT-4更强大的AI系统至少6个月，原因是要确保人类的安全。由于有马斯克等阵容强大的一千多名科技领袖和研究人员签名，有人做出更强大的GPT-5可能被搁置的猜测。但请注意，OpenAI的Altman和微软的比尔·盖茨也表达过相似的担心，但这两个关键人物都没有在公开信上签名。 ▲福布斯网截图 老胡很担心这封公开信的内容只会停留在倡议的层面，没有机会成为人类共同实施的行动。因为目前的竞争太激烈了，它不仅存在于大公司之间，也已经在国家之间若隐若现。人类迄今没有过真正抑制住关键和致命竞赛的成功案例，而现在正是国际形势严重动荡，世界主要力量之间极其缺乏相互信任，科技领先又对开发者有决定性意义，人类内部对竞争管理非常脆弱甚至退化的时候。 科学家们认为，我们现在必须扪心自问：是否应该让机器用宣传和谎言充斥我们的信息渠道？是否应该让所有的动作都变得自动化？是否应该发展可能某一天会超越我们、淘汰我们、取代我们的非人类智能？是否应该冒险失去对人类文明的控制？他们认为，只有当我们想透这些问题，确认AI的影响是积极的、风险是可控的时候，才应该开发强大的AI系统，而且如果某个阶段需要对新模型算力的增长速度进行限制时，那么那个时间点就是现在。 ▲当地时间3月25日，OpenAI 创始人Sam Altman在一档访谈节目中称：“从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。”“AI确实可能杀死人类。” 然而我相信，把这样的愿望变成行动将非常困难，而要像公开信所说，让暂停6个月新的训练和开发成为可验证的，而且必要时政府应当介入并实施暂停，这样的机制不可能自动形成。而要达成这样的行动和监督系统，无疑需要一些重要和艰难的谈判，之后才谈得上创建这个系统，而做到这一切恐怕6个月的时间都不够。 AI的威胁是潜在和疑似的，它很无形，不像一旦真有小行星撞地球的风险，会产生直观的惊悚和紧迫感。与此同时，AI的好处又是立竿见影的，带来很多个人效益和巨大公司收益，甚至可能为国家地缘政治竞争提供新的利器。 中国人有必要跟踪围绕这份公开信所产生的业内反响和更深刻的动向，同时我们要清楚，ChatGPT的出现正在重新塑造AI领域以及更广泛领域的竞争格局。中国较美国无疑再次落后了一步，而且落后这一步的影响有可能比之前中美数字差距所导致的问题更加严重。 可以说，我们现在并没有资本引领关于暂停AI开发、升级的讨论，甚至难以在其中获得强有力的参与感。我们必须抓紧时间，将我们的通用人工智能技术的开发和应用尽快弥补、缩小与美国的差距，只有那样我们才能获得规划人类AI技术未来发展走向的话语权和制定规则的参与权。为此我们显然尚需付出非常艰苦的努力。 相关推荐 The Best Places to Buy Second Hand Furniture in India…Search Ads What is a Rider in Insurance? Its Types & AdvantagesSBI Life Incredible Indigenous experiences for families in AustraliaTourism Australia Effortless luxury and sustainable Aussie experiencesTourism Australia 我的邻居都在问我保持健康的秘诀 modems 发表评论于 2023-03-29 08:51:36 胡锡进要更多小三，私生子，实现共产共妻伟大理想 Capitaltwo 发表评论于 2023-03-29 08:28:24 为什么要因为落后而暂停？竞争促进发展。如果哪天AI真的超过了人类的智慧击败了人类，那人类就该愿赌服输被自然淘汰，充分体现体育精神而不能现在就开始做假搞不公平竞争。　 西湖孤山 发表评论于 2023-03-29 08:26:19 这个盘子不太好叼 查看更多评论 Diamonds to suit every occassion! Shop exclusive designs from CaratLane. CaratLane | A Tanishq Partnership Meet the Great Barrier Reef’s Great Eight marine species.Tourism Australia Buckle up for a road trip in full bloom.Tourism Australia 50 European Wonders to Add to Your Travel Bucket ListTravel World Recommended by 24小时热点排行 他劝按摩女考研 按摩女喊“我就是研究生” 视频火了… 丈夫成老赖 49岁董卿近照发际线上移 大脑门很抢镜 《金门战役检讨》逆了龙鳞 习近平怒“斩”刘亚洲 微博之夜红毯被紧急叫停 李冰冰胡歌等被特警赶走 夜话中南海：习近平为什么嫉恨李克强？ 相关推荐 重庆姐弟坠亡案二审将于4月3日开庭 被告人连续写信求谅解 | 文学城News 中国的经济形势，比所有人预料的都要严峻 | 文学城News 英雄曝光！女枪手持突击步枪开火 2警联手击毙 | 文学城News 都美竹虚荣心作祟混入中国时装周 主办方怒斥其私自进场 | 文学城News 习近平想依靠南方世界避开北方世界 成为不容置疑的强国 | 文学城News 霍尊赢了 同居9年前女友将入狱 陈露求轻判将公开道歉 | 文学城News 24小时讨论排行 “能不捕就不捕”？海南新规夺人眼球 网民震惊热议 中国渲染"四成美国人吃不饱饭"引发网民热议 真假？ 泽连斯基邀习访乌克兰 北京：与有关各方保持沟通 伊州枪案幸存者发飙 突然闯进田州记者会闹场 川普称"1天内结束乌战" 不能细说？电视台不敢播 拜登“民主峰会” VS 习近平“新秩序” 国际选哪边? 大陆小朋友：马爷爷！马英九：喊我马哥哥也行 中国经济早就不行了?专家 :房地产“堰塞湖”将冲垮市场 1974年人民日报：苏修为何翻来覆去让人民奋斗？ 四所北京“双一流”高校将疏解到雄安新区 2025对外招生 马英九原来是习近平“老乡” 还有什么事不好商量 英雄曝光！女枪手持突击步枪开火 2警联手击毙 ChatGPT影响有多大？80％的美国人工作会被替代 马英九参观南京总统府：我在2008年也是当了“这个” 阿联酋将赠乌40架幻影战机 这2因素决定何时上战场 加拿大失联中国学者遗体被找到 年仅31岁！ 文学城简介 广告服务 联系我们 招聘信息 注册笔名 申请版主 收藏文学城 WENXUECITY.COM does not represent or guarantee the truthfulness, accuracy, or reliability of any of communications posted by other users. Copyright ©1998-2023 wenxuecity.com All rights reserved. Privacy Statement & Terms of Use Change Ad Consent