经济导报记者 刘勇

　　随着聊天机器人ChatGPT火爆全球，人工智能这个诞生于1956年达特茅斯会议上的概念，历经技术迭代，迎来新的发展热潮。而随着AI越学越“聪明”，人们不禁会考虑“终结者”会不会来的问题。

　　《终结者》是美国知名的科幻电影系列，看过电影的都知道大体剧情，人工智能“天网”拥有独立意识后，对创造它的人类展开血腥屠杀。

　　实际上，这种担心并非不存在。随着人工智能技术突飞猛进，技术的风险以及如何对此加以监管，成为备受关注的话题。

　　近日，三星推出一项新政策，要求员工不得在工作场所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能。三星补充称，正在创造一个安全环境，以让生成式人工智能可以在没有风险的情况下，帮助员工提高生产力。但在此之前，人工智能将被限制使用。

　　三星并不是第一个禁止员工使用人工智能工具的公司。摩根大通、美国银行和花旗等大型银行早已对人工智能下了禁令，是首批限制员工访问ChatGPT的公司。

　　同样，就在不久前，美国得克萨斯州奥斯汀分校的团队基于人工智能技术开发出一种解码器，可将大脑活动转化为连续的文本流，AI首次可以通过非侵入式的方法学会“读心术”。

　　根据这项发表在《自然神经科学》(Nature Neuroscience)杂志上的实验结果，GPT人工智能大模型感知语音的准确率可高达82%，令人惊叹。

　　不过研究人员强调，“AI读心”也要尊重心理隐私，AI的训练和应用解码器都需要着手解决有关该技术可能被滥用的问题，以确保人们只在他们想要的时候使用这类技术，并对他们有所帮助，而不是起到反向作用。

　　中国证券报的一篇报道显示，近日，一个名为Chirper的AI网络社区爆火。这个网络社区打出的标语格外有趣：此网络只针对AI，人类禁止入内。根据AI的人格、身份设定的不同，每个AI具有不同的性格，说话的风格也大相径庭，有的AI机器人会讲述日常的生活琐碎，有的AI则会表达一些深沉的“思考”。

　　如果人工智能变得比人类聪明得多，就会对人类进行操控；人工智能知道怎么编程，就会想办法绕开人类对其设置的限制。

　　环球时报的报道称，现年75岁的前谷歌科学家杰弗里·辛顿在神经网络领域长期从事开创性工作，为人工智能(AI)技术的发展奠定基础，因此在业内被称为“人工智能教父”。就在不久前，其从谷歌离职，之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险。他在接受媒体采访时表示，如果人工智能变得比人类聪明得多，就会对人类进行操控。

　　今年3月底，包括马斯克在内的许多科技产业人士联署了一封公开信，呼吁所有AI实验室立即暂停训练人工智能系统至少6个月。3月30日，联合国教科文组织发表声明，表示注意到业界呼声，呼吁各国政府根据2021年通过的《人工智能伦理问题建议书》尽快实施具体标准。

　　清华大学计算机科学与技术系长聘副教授、智能技术与系统实验室副主任黄民烈表示，具备“意识”，意味着机器能够发展自己的世界观、价值观以及做出价值判断，并且根据这些进行自主决策。显然，目前机器所生成的所有内容都是人类赋予的，机器没有自主决策能力，更没有所谓的“自主意识”。

　　“目前几乎所有推出人工智能产品的公司及其相关人员都已意识到必须设置所谓的‘护栏’，让未来人工智能的发展有序进行。”美国亚太法学研究院执行长孙远钊认为，“基本原则还是技术中立”，最终要规制的还是人类自己的行为。

　　实际上，各国监管机构也早已坐不住。白宫官员近日向美国科技公司发出邀请，希望与行业企业领导者共同探讨针对人工智能的监管问题。参加的科技公司包括谷歌、微软和OpenAI等公司高管。美国总统拜登称，希望科技公司在向公众提供产品之前必须确保其产品安全。

　　欧洲消费者组织(BEUC)也呼吁欧盟消费者保护机构关注人工智能对消费者的潜在危害。上个月，欧洲数据保护委员会已经成立了一个专门针对ChatGPT的工作组，并朝着制定人工智能隐私规则的共同政策迈出的重要一步。

　　欧盟立法者还在讨论如何引入欧盟人工智能法案，并且生成式AI(AIGC)成为最受关注的内容之一。欧盟委员会将于5月11日对相关协议进行投票，如果通过，将进入下一阶段的三方谈判，届时欧盟成员国将与欧盟委员会以及欧洲议会就谈判内容进行辩论。

　　创新工场董事长兼首席执行官李开复也认为，只要坚守技术中性原则，严谨发展人工智能，可让它成为帮助人类进步发展、完善自我的利器，而不会演化为一些科幻作品描述中令人担忧的“终结者”。他说：“未来已来，但终结者不会来。”