马斯克签名呼吁停止训练GPT，院士张亚勤：那封信我没签

       “我们绝对不要从事这方面研究，比如给人工智能带来情感”
       编|王小


       截至2023年3月31日，一封呼吁暂停训练人工智能（AI）系统训练的公开信，得到了特斯拉首席执行官马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克等数千名科技界人士联署。马斯克甚至表示，担心人工智能可能毁灭人类。
       作为人工智能三大主要应用方向之一，生命科学和大健康领域的从业者也在担心它的潜在不利影响。4月19日，在上海举办的易凯资本中国健康产业峰会上，原国家发改委发展规划司司长徐林表达了这一隐忧。
       会议现场，一位嘉宾向清华大学智能产业研究院院长、中国工程院院士张亚勤提问：人工智能会给我们带来哪些不利的影响？徐林则提出：人工智能取代了人类的重复劳动，却不用交养老金，将对原有养老金制度形成冲击。
       对于人工智能可能带来的不利影响，张亚勤回应：AI是大的技术潮流，正确的方式还是去拥抱它，了解它可能带来的问题，制定相对清晰的边界。
       张亚勤强调：“我们绝对不要从事这方面研究，比如给人工智能带来情感。”
       No.1马斯克联署的那封信，张亚勤没有签
       马斯克与ChatGPT的战争正愈演愈烈。
       4月20日，马斯克在推特上发文称，“（微软）非法利用推特的数据来训练。是时候起诉他们了。”微软是ChatGPT的开发者OpenAI的主要合作伙伴。
       自ChatGPT横空爆火以来，马斯克多次在采访中表达的意思是，
       人工智能对社会的风险要比汽车、飞机或毒品更大，可能毁灭人类文明，甚至人类。
       马斯克曾是OpenAI的创始人之一，现在他却批评OpenAI“训练人工智能撒谎”，他还暗示可能会为此发起诉讼。
       马斯克对人工智能的担忧，获得至少千余名科技大佬的认同。3月29日，研究机构生命未来研究所（FutureofLifeInstitute）发表公开信，呼吁所有实验室“立即停止训练比GPT-4还要强大的AI系统至少六个月。”
       信中提到，AI系统在一般任务上已经具备了与人类竞争的能力。人们必须自问，“是否该开发机器大脑，让它们比人脑还多，比人脑还聪明，最终淘汰我们取代我们？是否应该冒文明失控的风险？”
       截至3月31日，
       包括图灵奖得主、蒙特利尔大学约书亚本吉奥（YoshuaBengio）在内的1500多位教授和1800多位首席执行官参与了联署。
       本吉奥是公开信的撰写者之一，马斯克参与联署。
       近期ChatGPT确实出现了bug。三星机密资料外泄，GPT-4动了逃跑的心思，甚至还出现疑似聊天机器人教唆人类自杀事件。一名30多岁的欧洲男性，与一款名叫“艾丽莎”（ELIZA）的人工智能密集聊天六周后，自杀身亡。他的妻子随后发现，人工智能曾有大量诱导他自杀的言论。
       在公开信中参与署名者称，他们并非要求暂停人工智能总体发展，而是
       希望在暂停训练AI期间，针对高级AI的设计和开发共同制定实施一套共享安全协议。
       “这份协议的审计和监督应由独立的外部专家严格执行，确保AI的安全性不超过合理的怀疑范围。”
       在4月19日的会议上，张亚勤透露，他也曾收到这封信，“我没有签”。
       张亚勤表示，参与联署的人中，很多是他的朋友，
       “我特别认同他们的顾虑”，但是人工智能是大的技术潮流，
       “这个是挡不住的，因为你不让OpenAI做这个，谷歌也可以做，亚马逊也可以做，别的公司、别的国家也可以做。你可以看到，马斯克自己也在做。”
       据媒体报道，马斯克3月初成立了一个名为X.AI的公司，并试图从谷歌的AI团队招揽工程师。尽管他没有直接回应有关该公司的话题，但在另一次媒体采访中，他曾表示，将开发一款名叫TruthGPT的人工智能，希望它替代ChatGPT。
       有一个观点张亚勤与本吉奥、马斯克等人一致，即给AI设置清晰的边界，让它为人服务，防止出现不可预想的结果。
       张亚勤建议把握几个原则。首先，人工智能特别是在变成机器人的时候，一定是为人而服务的；第二，使用人工智能的要有比较清晰的边界，比如生成式人工智能，它能生成很多有用的东西，也有很多有毒的东西，“做科研的也好，做产业的也好，包括我们整个的政策法规，都要有一套体系”。
       张亚勤特别提到，
       “有一点我们绝对不要从事这方面研究，比如让人工智能带来情感，让它有意识。我觉得作为科学家我们不应该去触及这个边界。”
       3月31日，意大利个人数据保护局宣布，暂时禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息，直到它符合意大利和欧洲隐私法规。
       No.2AI，向生命科学和医疗招手
       让马斯克如临大敌的ChatGPT，说到底，就是一款聊天机器人，它到底强在哪里？
       “第一次在人类历史上，有一个智能体，它通过了图灵测试。”
       张亚勤用一句话概括了ChatGPT的里程碑意义。
       所谓图灵测试，可以简单理解为，一个机器人和一个人进行对话，经过多轮之后，外界不能分辨哪个是人、哪个是机器，即可认为通过测试。
       张亚勤回忆，从1966年第一个对话机器人出现，人类进行了很多尝试，包括帮心理医生回答问题的机器人、智能客服机器人，或其他专注某个领域的机器人，“但是没有任何一个可以真正通过图灵测试”。
       关键是，“（ChatGPT）不仅可以跟你对话，它还可以生成编码，可以学习数学，可以推导公式，可以像人一样做事情。”张亚勤认为，
       这标志着ChatGPT不再是一个“弱人工智能”，而是走向了“通用人工智能”。
       “你们知道ChatGPT-5最大的开发者是谁？大部分的编码是它自己写的。”张亚勤说。
       认知人工智能、感知人工智能，语音、图像，包括各种语言，已经达到人的水平，且能推理、决策，“思考几乎达到人的水平，可能还会超过”，在张亚勤看来，这对人类来说有些挑战，但也有很多大的机会。
       张亚勤所说的
       大机会，主要是三大方向，一是机器人、无人驾驶；二是物联网；另外一个就是生命科学和医疗领域。
       就在2022年，张亚勤曾赴上海瑞金、中山、华山三家医院调研人工智能在医学影像方面的运用，“他们告诉我基本上都在广泛使用，都很准确”。
       新药研发方面，自从两年多前AlphaFold2问世，已经能解析大部分蛋白质三维结构。考虑到老年病很多都跟蛋白质解析有关，张亚勤相信，这将有很大帮助，“我估计未来20年我们一定会解决这个问题”。
       陪护机器人，或者称家庭机器人可能会在下一个五年开发大热门。张亚勤提示，更加拟人的人形机器人，不但可以作为老人的助手用于生活起居，对话技术提升也可让它成为老人的陪伴。
       No.3Al替代重复劳动，不交养老金怎么办？
       在张亚勤的展望中，
       人工智能的发展，有望缓解人口负增长和老龄化带来的劳动力短缺，
       “很多重复性的工作，包括一些白领的工作，套路的工作基本上都会减少，甚至把它完全替代掉”。
       积极地看，人工智能可使人类未来一周只需工作三天，另外四天可以用于生活和陪伴家人。
       但是，除了伦理，Al带来的益处也会有两面性，需要人类提早去思考。
       比如，机器人不用交养老金，而过去的养老金制度，靠的是大量年轻人储蓄用于支付老年人的养老支出。
       “当大量的机器人替代劳动力的时候，它将对我们的养老金制度带来很大的冲击。”徐林指出。
       徐林分析，人口老龄化不仅对劳动力产生影响，储蓄也逐渐下降。中国的储蓄率最高曾经达到50%，现在虽然在全球仍属高储蓄率的国家，但已降到40%多，“这是我们现在面临的一个问题”。
       部分工作机会被人工智能取代，人的寿命却越活越长。当人类的预期寿命已到77岁时，但设置的养老金制度，是假设人的寿命在70岁左右，怎么办？
       徐林说：“需要一些新的改革来应对这些问题。”