姜熙健(姜熙健老婆)

马斯克等千名科技人士发公开信：暂停训练比GPT-4更强大的AI系统

来源：澎湃新闻

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。

“我现在并不担心‘AGI风险’（我们无法控制的超级智能机器的风险），在短期内我担心的是‘MAI风险’——平庸人工智能（Mediocre AI）是不可靠的（比如必应和GPT-4）但被广泛部署。”

最近几天，人工智能风险引发了多位科技领袖的深切担忧。

首先是被称为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton），他上周在接受哥伦比亚广播公司采访时表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。

随后，AI“大牛”盖瑞·马库斯（Gary Marcus）3月27日发推响应辛顿，28日又发表题为“人工智能风险≠通用人工智能风险”的文章，称超级智能可能会也可能不会迫在眉睫，但在短期内，需要担心“MAI（平庸人工智能）风险”。

27日，推特CEO伊隆·马斯克也加入进来，表达对辛顿和马库斯的赞同。

马斯克在社交网络上与杰弗里·辛顿和盖瑞·马库斯互动。

29日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。辛顿、马库斯和马斯克均签署了这封公开信。

“加快开发强大的AI治理系统”

未来生命研究所的这封公开信题为“暂停巨型AI实验：一封公开信”，于29日解封。

未来生命研究所的公开信已有1079人签署。

信中写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。正如广泛认可的“阿西洛马人工智能原则（Asilomar AI Principles，阿西莫夫的机器人三大法则的扩展版本，于2017年由近千名人工智能和机器人专家签署）中所述，高级AI可能代表地球生命史上的深刻变化，应该以相应的关照和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——能理解、预测或可靠地控制。

“当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们是否应该自动化所有工作，包括令人满意的工作？我们是否应该发展最终可能比我们更多、更聪明，淘汰并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？”这封信写道，“只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。OpenAI最近关于通用人工智能的声明指出，‘在某些时候，在开始训练未来的系统之前进行独立审查可能很重要，并且对于最先进的工作来说，应该同意限制用于创建新模型的计算量增长。’我们同意。那个某些时候就是现在。”

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，并且无可置疑。这并不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。

与此同时，信中指出，AI开发人员必须与政策制定者合作，以显著加快开发强大的AI治理系统。至少应包括：建立专门负责AI的有能力的新监管机构；监督和跟踪高性能人工智能系统和大量计算能力；推出标明来源系统和水印系统，以帮助区分真实与合成，并跟踪模型泄漏；强大的审计和认证生态系统；界定人工智能造成的伤害的责任；为人工智能技术安全研究提供强大的公共资金；以资源充足的机构来应对人工智能将造成的巨大经济和政治破坏（尤其是对的破坏）。

这封信最后写道，“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后，我们现在可以享受‘AI之夏’，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。 我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏，而不是毫无准备地陷入秋天。”

未来生命研究所建立于2014年，是一个非营利组织，由一系列个人和组织资助，使命是引导变革性技术远离极端、大规模的风险，转向造福生活。

截至发稿，这封信已有1079名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）、 苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等科技界领袖人物。

“可能导致核战争和更严重的疫情”

28日，马库斯在写作平台Substack上写道，一位同事写信给他问道：“这封（公开）信不会造成对即将到来的AGI（通用人工智能）、超级智能等的无端恐惧吗？”

马库斯解释道，“我仍然认为大型语言模型与超级智能或通用人工智能没有太大关系；我仍然认为，与杨立昆（Yann LeCun）一样，大型语言模型是通向通用人工智能道路上的一个‘出口’。我对厄运的设想可能与辛顿或马斯克不同；他们的（据我所知）似乎主要围绕着如果计算机快速而彻底地自我改进会发生什么，我认为这不是一个直接的可能性。”

人工智能风险与通用人工智能风险。

但是，尽管许多文献将人工智能风险等同于超级智能或通用人工智能风险，但不一定非要超级智能才能造成严重问题。“我现在并不担心‘AGI风险’（我们无法控制的超级智能机器的风险），在短期内我担心的是‘MAI风险’——平庸人工智能（Mediocre AI）是不可靠的（比如必应和GPT-4）但被广泛部署——无论是就使用它的人数而言，还是就世界对软件的访问而言。一家名为Adept.AI的公司刚刚筹集了3.5亿美元来做到这一点，以允许大型语言模型访问几乎所有内容（旨在通过大型语言模型‘增强你在世界上任何软件工具或API上的能力’，尽管它们有明显的幻觉和不可靠倾向）。”

马库斯认为，许多普通人也许智力高于平均水平，但不一定是天才，在整个历史中也制造过各种各样的问题。在许多方面，起关键作用的不是智力而是权力。一个拥有核代码的白痴就可以摧毁世界，只需要适度的情报和不应该得到的访问权限。现在，AI工具已经引起了犯罪分子的兴趣，越来越多地被允许进入人类世界，它们可能造成更大的破坏。

欧洲刑警组织27日发布一份报告，对采用ChatGPT类工具进行犯罪的可能性进行了讨论，令人警醒。“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈，而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。”这份报告写道，“除了上述犯罪活动外，ChatGPT的功能还有助于处理恐怖主义、政治宣传和虚假信息领域的许多潜在滥用案件。因此，该模型通常可用于收集更多可能促进恐怖活动的信息，例如恐怖主义融资或匿名文件共享。”

马库斯认为，再加上人工智能生成的大规模宣传，被大型语言模型增强的恐怖主义可能导致核战争，或者导致比新冠病毒更糟糕的病原体的故意传播等。许多人可能会死亡，文明可能会被彻底破坏。也许人类不会真的“从地球上消失”，但事情确实会变得非常糟糕。

“人工智能教父”杰弗里·辛顿在接受哥伦比亚广播公司采访时表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。

上周在哥伦比亚广播公司的采访中，“人工智能教父”辛顿被问及人工智能“消灭人类”的可能性时说，“我认为这并非不可想象。我只想说这些。”

马库斯指出，相比辛顿和马斯克担忧天网和机器人接管世界，应该更多思考眼前的风险，包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。

姜Gary儿子姜夏吴多大？gary的儿子什么时候出生的？

狗哥，关注韩国娱乐圈的网友对其不陌生吧，狗哥姜Gary的名气，在《Running Man》节目已打开，而姜Gary是一个非常优秀的艺人，在2017年姜Gary宣布与圈外女友结婚，婚后儿子姜夏吴出生，姜Gary儿子姜夏吴多大年龄了呢? 姜夏吴和爸爸上综艺瞬间圈粉太优秀了。

韩男星姜Gary

姜Gary，中文名姜熙健，1978年2月24日出生，是一名歌手，也是主持人，在19岁时正式出道，因为在《Running Man》多次与宋智孝搭档，而且因为录影是在周一，所以，姜Gary和宋智孝被成为“周一情侣”，在大家都以为两人会有点什么进展的时候，姜Gary却宣布结婚，老婆是圈外人，这令很多CP粉伤心，但大家还是表示祝福。

姜Gary和老婆合照

姜Gary在2017年结婚后，姜Gary老婆在同年生下儿子姜夏吴，据悉，姜Gary是一名姓金的女子，88年出生，在老公姜Gary同属一家公司工作多年。而在姜Gary儿子姜夏吴2岁2个月后，姜Gary和儿子姜夏吴参加新一季的《超人回来了》，在节目中，姜Gary儿子姜夏吴凭借优秀的语言能力圈粉。

姜Gary儿子姜夏吴

在节目中，姜Gary儿子姜夏吴很会说话，才2岁就会全部的英文字母，不是只会读的那种，而是看到哪个字母都会读的那种哦。另外，姜Gary儿子姜夏吴非常的暖，经常更跟拍PD说话喂食，还撒娇，是一个小暖男无疑了，小编特别佩服的是姜Gary儿子姜夏吴语言能力，而姜Gary儿子姜夏吴也因为语言天赋登上过热搜。感兴趣的话，大家不妨去看看新一季《超人回来了》了。

RM前成员姜Gary狗哥回归韩综！新节目《ARTISTAK游戏》生存赛官宣

#头条创作挑战赛#

今日份综艺老手回归

今日主角姜Gary，韩国歌手、综艺达人，粉丝送外号狗哥，原名姜熙健，1997年姜Gary和韩国艺人吉成俊组成二人Hip-Hop组合，名为LeeSSang，其以歌手身份正式出道，自此开始积极活跃在韩国娱乐圈，期间还发过中文专辑《没关系》，有朋友听过吗？距今已有25年，韩国年龄现年45岁，期间除了其音乐事业，最为大众所津津乐道的还有姜Gary的综艺事业

姜Gary综艺节目代表作品-《Running Man》

一波回忆杀来袭，毕竟自姜Gary2016年10月录制了最后一期节目，并宣布正式退出常驻了6年的韩国热播综艺节目《Running Man》后，距今已有6年，有多少粉丝还记得最后一期节目成员们不舍的场景，宋智孝更是眼含热泪，告别了老搭档

6年几乎每周一起录制节目，一起奔跑，一起欢笑，一起风光，一起享受粉丝们的喜爱，这是一种怎样的感情呢？

姜Gary宋智孝cp是《Running Man》节目中当之无愧的收视王者组合，两人的暧昧互动赚足了公众关注，以致于姜Gary突然宣布下车后不久就宣布与圈外人结婚了，让一众粉丝和观众都十分震惊，磕节目上的cp就是有喜有悲啊，上一秒开心的磕cp，下一秒就有可能突然被现实打败

离开常驻了6年的韩综热播节目，告别合作了六年的老搭档老朋友们，暂别公众视线，甚至减少和老搭档们的私人联系，突然宣布和圈外人女友结婚生子，专注于音乐事业和带娃，这一系列的突然操作给了一众粉丝和观众们一个措手不及，也让很多节目老粉无法理解，不管是当时还是此后的几年引发巨大争议

然而近几年公众对姜Gary的选择似乎有了新的理解

一是《Running Man》的节目质量和口碑每况愈下，接连数任节目主PD上台也无法改变节目低迷的状况，曾经辉煌无限的韩国老牌一线热播综艺节目《Running Man》陷入了一种尴尬的境地，节目不好看，观众有期待，成员们不忍放弃，但结果依旧持续走低

节目笑点担当的成员李光洙也“借口”身体抱恙和希望更加专注于演员事业而离开了节目，离开了其常驻十年，带给其无限风光的老节目，大家觉得是像姜Gary和李光洙这种节目老成员的离开造成了节目收视持续走低，还是节目的低迷造成了成员们的流失呢？欢迎大家在评论区留言和小编黄桃怪分享你的看法哦，感谢大家

两张透着伤感的大合照，图一姜Gary最后一期节目合照，图二李光洙告别其大合照

二是家庭生活很美好，姜Gary从起初的不对外公开妻子以及家庭的一切状况，近乎隐身状态，到近几年经常在社交媒体上晒一家合照，不管是妻子还是儿子小好，都积极对外公开

狗哥妻子十分美貌哦，比狗哥小十岁哦，大家觉得其颜值如何呢？

儿子小好也是十分争气，虽年纪小小但已经靠着其优秀独特的个人媒体赢得了一众粉丝和观众的喜爱，当然这得益于一档韩国热播亲子综艺节目《超人回来了》，很多观众和粉丝都是冲着姜Gary久违回归综艺节目去看的节目，没成想最终被狗哥儿子给征服了

与其说《超人回来了》是姜Gary的回归秀，不如说是其儿子小好的表现秀，毕竟这种亲子节目，孩子才是主角，相比之下作为父亲的姜Gary的表现空间很小，加之是亲子节目，也无法施展出姜Gary的综艺表现力，所以小编认为这不算是姜Gary正式回归综艺节目，在退出《Running Man》节目后原本十分低调的姜Gary，靠着儿子小好也是高调翻红了一把

有喜欢小好的朋友吗？说实话小好的样貌风格和姜Gary十分相似，其貌不扬，但气质十分独特，有一种特殊的魅力

这次回归是否能展现综艺才能呢？姜Gary新综艺节目来啦！Mnet《ARTISTAK游戏》，该档节目于9月29日举行了发布会，一众明星出席在线制作发布会

也是许久不见了，状态如何呢？我们一起来看一看

据悉这档新节目《ARTISTAK游戏》是一档音乐生存类比拼节目，计划由全世界组成的观众进行投票，以投票的新概念被赋予虚拟游戏币，展开一场投资参与艺人才能的新概念双向沟通音乐生存赛，节目组邀请了R&B、独立乐队、民谣、国乐、音乐剧等多种音乐类型的音乐人，共计48名艺人选手，展开激烈对决

有你熟悉的面孔吗？请看下图

48名韩国音乐人预计会产生对决名场面，喜欢的朋友可以期待一下哦，姜Gary在会后接收采访说到见到了很多做音乐做的非常好的人，并认为这档节目是创作的纽带，希望大家能多多支持收看

喜欢狗哥的朋友在哪里？大家是因为其在《Running Man》中的积极表现而喜欢他的吗？什么时候狗哥能真正回归娱乐真人秀节，大家期待吗？

欢迎大家在评论区留言分享哦，谈谈感受吧，喜欢请关注点赞支持一下，主页也走一走，可能有你喜欢的内容哦，鞠躬鞠躬啦谢谢大家

看了姜Gary的新节目，终于知道他退出RunningMan的原因，可以理解

时间过得真快，一晃眼之间，狗哥姜Gary从《RunningMan》下车已经是3年前的事情了。

​在离开《RunningMan》的三年时间里，姜Gary做了很多事情。先是悄悄地结了婚，然后又生了个儿子。从那以后，姜Gary就把自己的生活重心全都放在育儿上。没事儿的时候，他就带着老婆孩子四处旅游。

​对于他的下车，很多人至今仍是不能理解。想当初姜Gary从《RunningMan》下车时给出的理由是他想专心做音乐，可真当他离开《RunningMan》后，他压根儿就没去做音乐，而是专心玩去了。这也让很多人感到气愤，甚至还有人开始责怪他，毕竟当初大家说好了7012，而他却一个人离开了。

​在三年之后，姜Gary带着自己的老婆和孩子出演了《超人回来了》。这也是三年来，他首次现身荧幕，别说他自己有些紧张，就连粉丝们都有些紧张了。而看了第一期节目后，大家终于知道他当初要退出《RunningMan》的原因了。

​节目中有一段是姜Gary去房产中介打听哪里有搬家车的桥段，在其中一家店里，姜Gary问老板是否认识她。这位女老板只说很熟，但是想不起他叫什么名字。

​这个时候的姜Gary多少是有些尴尬的，随后他自报名字。老板一听Gary，立刻表示她知道啊，看样子老板也经常看《RunningMan》。姜Gary随后解释说自己休息了三年，因为他结婚了。一听到Gary结婚了，这位女老板则立刻提起了那个和Gary一起奔跑的女孩。

​说到这里想必大家也都知道老板说的这个女孩就是宋智孝了吧！当然，姜Gary自然也知道。显然是老板误会了，她以为和姜Gary结婚的那个人就是宋智孝了。

​虽说这只是个小插曲，但是从侧面也能反应出当初姜Gary和宋智孝组成的“周一情侣”有多火，有多真！很多人都希望他们两个能走到一起，可结果却总是不能让人如意。试想一下，姜Gary的媳妇回家看电视看到这一段，心里会是什么滋味。

​想当初姜Gary从《RunningMan》下车，肯定也与这方面原因有关系。毕竟他要结婚了，如果节目中再和宋智孝那么甜蜜一定会让媳妇感到不舒服，也会产生不好的影响。

所以从这方面考虑，姜Gary当时下车的决定也是可以理解的。毕竟结婚生子是人生大事，既然遇到了合适的人，那在一起才是明智的。只可怜了那些“周一情侣”的粉丝，被那突如其来的消息折腾得不轻！

​看着姜Gary现在一家人幸福的样子，真心觉得他当时的选择是正确的。每个人都有追求幸福的权力，面对岔路，每个人的选择也都会不一样，不是么？

加盟RM对手电视台节目！打破当年下车宣言，姜GARY高调宣布回归

昨日，三年前从runningman下车的姜GARY官宣将携小儿子作为《超人回来了》新进嘉宾参与录制。预计录制时间和播出时间为2020年2月。

消息一经过推出就引来7012一票粉丝惋惜：什么时候姜GARY可以带着苹果汁说我回来了？苹果汁到底是什么梗？其实这来源于姜GARY7年前的一次丑闻下车事件。

2012年，身为leessang组合的姜GARY和自己的同僚吉在韩国首尔举行了一场小型演唱会。由于沟通中出现信息断层，leessang方面一直对外宣传的免费演唱会到了现场变成了收费演唱会。不仅入场需要花钱，主办方还添加了握手会等环节，俨然成了一个小型的商演。作为艺人的GARY和吉只能服从公司安排，但是却招来了大量恶评。一时间网络上出现了很多攻击性极强的键盘侠，对于一向注重个人形象的艺人来说是巨大的精神压力。

顶不住压力的GARY只能想到从RUNNING MAN中下车来阻止这场舆论海啸，于是单方面在ins上宣布了自己将从running man中下车，不再参与节目。这个举动对于当时如日中天的runningman来说简直就是重磅炸弹。由于是单方面的宣布，SBS紧急召集全体队员开会磋商，最后终于是将一心下车的GARY挽留了下来。

事件发生后的当天录影，姜GARY和经纪人商量过之后带了一堆苹果汁来谢罪。因为在韩语中，“苹果”的发音和“抱歉”很像。被刘在石一路调侃。

GARY坦言道当时甚至每个苹果汁上都写了信，但是觉得让人负担太重了所以还是放弃了。从理智的角度上说，runningman超过300人的制作班底，如果每个人都写一封信也是很难完成得事情吧。

这个事件在当时影响深远，刘在石不断在节目中反复提起也带领过队员一起鞠躬道歉。对于综艺经验丰富的刘在石来说，恐怕也是没有见过这样主动和突然宣布下车的队员吧。一个人的一个微小举动就会给团队带来大的冲击，这的确是现实。

三年对于人生来说只是其中的一小步，但是对于艺人来说却是漫长的时光。人生能红几个三年呢？

在瞬息万变的娱乐市场里“小红靠捧，大红靠命”，依靠着runningman积累了大量人气的GARY在离开三年之后终于是遇到了职业发展的瓶颈，回归综艺视线是重新积累人气的最好选择。一直靠分享VLOG维持关注度的GARY也坦言现在走在路上已经随意很多，很多人已经叫不出他的名字了。

本次应邀加盟对手电视台重回综艺市场对于粉丝来说的确是一个好事，但是KBS毕竟不是SBS。想要在RM上重见GARY可能还是遥遥无期的事情。

直男姜GARY已经选择了离开runningman就不会再回来。由于有星二代的加持，参与到以孩子视角为卖点的《超人回来了》也许是更好的选择。愿GARY可以在这里开始他事业的第二个辉煌时代。出于粉丝的心声——请偶尔回来RM看看吧。