近日，特斯拉首席执行官马斯克

连同人工智能专家与行业高管

发表联名公开信

(相关资料图)

矛头直指ChatGPT

消息一出 引发全球热议

从一石激起千层浪的爆火

到位列「停训黑名单」的窘境

ChatGPT的飞速演变引发各界

对更强大人工智能的群体性担忧

一时间，恐慌 惊叹 赞美 期待

当人类习惯于人工智能为生活带来的福祉

却忘记了科技本身也是把“双刃剑”

人工智能，究竟是人类作茧自缚的潘多拉盒子，还是开启人类第四次工业革命的希望之光？

NEWS

近日，生命未来研究所（Future of Life Institute）公开呼吁暂停研究比GPT-4更强大的人工智能系统，为期至少6个月。其网站上贴出的联名公开信更是收集到了1000多个签名，其中不仅有埃隆·马斯克（Elon Musk）打头阵、还有2018年图灵奖获得者约书亚·本吉奥（Yoshua Bengio）和苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）这样的行业大咖。

信中写道，具有与人类竞争智能的人工智能系统，可能对社会和人类构成重大风险。人类必须问自己，是否应该把所有工作都自动化，包括那些让人们有满足感的工作，又是否应该开发非人类大脑，而它可能比人类聪明，甚至有可能最终会淘汰并取代人类。

公开信指，近期各人工智能实验室争相研发更强大的数字思维，然而没有人能准确预测或控制进一步研发的后果。他们主张暂停时长至少六个月，期间人工智能实验室与独立专家可共同开发一套用于进阶人工智能研发的安全协议。

与此同时，希望研发者和政策制定者在治理和监管机构方面共同合作，推进人工智能治理系统开发进程。从而防止人工智能对人类社会的潜在风险，应对人工智能可能对人类政治、经济，尤其是民主方面造成的巨大破坏。

这封信虽然取得重量级学者、专家、商业领袖支持，但也有一些抨击声浪，认为这封信充满炒作意味且过于浮夸。另一些批评者的理由，则冲着马斯克本人而来，质疑马斯克给人工智能研发按下暂停键的真正动机是没能搭上这波热潮。

目前，相关研发团队尚未对公开信有所回应，但开发出ChatGPT的OpenAI公司CEO山姆·阿特曼（Sam Altman）在近期的一次采访中也坦言对这些风险感到害怕，这也再次坐实了AI技术中潜藏的“人类威胁论调”。

山姆·阿特曼表示，这也是OpenAI一直以来担心的问题。或者说，这就是OpenAI在创立之初选择成为一家非盈利机构的原因。因为他们担心残酷的商业竞争会让人们忽视AI带来的风险，他们需要在AI可能威胁到人类时停下来，划定一条边界，确保AI不会威胁人类本身。

虽然，如今与微软联手的OpenAI，已经从非盈利机构转型成为依靠营收运转的企业，但从前担忧的那些问题依然存在，他们与这个行业，甚至整个社会，依然需要面对和妥善处理AI技术发展当中的隐患。

面对各界袭来的重重质疑，OpenAI称为了这场人类与AI大战的众矢之的，欧美多国要求对其展开调查。

在联名公开信之后“出手”的是美国科技伦理组织“人工智能与数据政策中心”。上周四，该组织向联邦贸易委员会提出正式申诉，要求叫停OpenAI公司发行商业用GPT-4。

人工智能与数据政策中心在声明中指出，由OpenAI推出的GPT-4存在偏颇、造假和操控等问题，对个人隐私和公众安全构成风险，而GPT-4在推出应用前，并未经由独立的评估，这些问题都涉嫌违反了联邦消费者保护法，以及违反联邦贸易委员会有关AI产品的指引条例，要求联邦贸易委员会展开调查，并叫停包括GPT-4在内的所有大型语言模型的商业销售，以确定相关产品符合监管机构对人工智能产品的规范。

面对AI以前所未有的速度和力量“野蛮生长”，如何为其量身打造监管规范，让不少世界大国犯了难。

英国迈出了AI监管的第一步。英国政府在3月29日针对人工智能行业发表白皮书，希望相关产业公司遵循的五项原则，其中包括安全、保障和稳健性，透明度和可解释性，公平，问责制和治理，以及可争议性和补救措施。

英国目前超过5万人从事人工智能产业的工作，去年对英国经济的贡献达到37亿英镑，是欧洲目前发展人工智能最快，规模最大的国家。

英国科学、创新和技术部将向英国国会提交这份白皮书，并宣布在未来12个月，监管机构获得200万英镑投资，发布实用指南，以及风险评估模板等其他工具和资源，落实这些原则的实施。包括微软、深蓝以及劳斯莱斯在内的多家英国或在英发展的国际企业都表示，会重视英国政府提出的这一要求。

对于AI的监管，紧随英国之后的是意大利。意大利个人数据保护局3月31日宣布，从即日其禁止使用聊天机器ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始展开调查。OpenAI回应称，已经对网页设置、阻止意大利用户访问ChatGPT。

意大利个人数据保护局表示，禁用ChatGPT，是因为ChatGPT存在着侵犯个人隐私的问题。他们说，意大利不仅会阻止OpenAI的聊天机器人ChatGPT，还会调查它是否符合意大利的通用数据保护条例。

德国监管机构也表示，正在考虑暂时禁用ChatGPT。法国、爱尔兰、西班牙等好几个欧洲国家也开始考虑对AI聊天机器人采取更严格的监管。这个ChatGPT，它到底拥有多么强大的本事，会让那么多的人类感到自己被威胁了呢？

什么是人工智能？

人工智能（Aritificial Intelligence简称AI）是一门融合了计算机科学、统计学、脑神经学和社会科学的前沿综合性学科。它的目标是希望计算机拥有像人一样的智力能力，可以替代人类实现识别、认知、分类和决策等多种功能。

什么是ChatGPT？

ChatGPT是一个由OpenAI开发的大型语言模型，也可以说是一个具有自然语言处理能力的人工智能程序，可以模拟人类的对话和回答问题。ChatGPT使用了深度学习技术和海量的文本数据进行训练，可以进行文本生成、对话、问答等任务，并能够不断学习和优化自己的表现。

2018年，ChatGPT-1的发布引起了广泛关注，被认为是人工智能在自然语言处理领域的重要突破之一。当时的它使用了128个神经元层和1.5亿个参数进行训练，具有自然语言生成和对话能力，并在多个基准测试中取得了优异的成绩。

随后，OpenAI又陆续推出了ChatGPT-2、ChatGPT-3等更加先进的模型。随着版本的提升，这些模型都比上一代具有更高的参数数量和更强的表现能力。

区别于一般的搜索程序，此时的ChatGPT-3已经可以帮“求助者”写一段完全达标的代码，可以写诗，写小说，写广告文案，甚至可以写出语句通顺、逻辑清晰、并且直接能够发表的论文。

于是，从ChatGPT-3推出几个月后，到2023年1月前，美国有89%的学生用它来写作业或者是辅助写作业。事件一经报道后，美国多所大学立即宣布，如果怀疑学生的论文是借助了ChatGPT，可以对学生进行当场测试。

同时，很多在线检测器也被开发了出来，声称它们可以检测出99%的论文是否由AI生成，以打击学术剽窃。而目前的GPT-4就是基于GPT-3.5架构上的升级版本。

ChatGPT-4可以做什么？

在OpenAI官方发布的GPT-4产品宣传视频中，它的设计者们是这样介绍的——

GPT-4会接受你的提示词

然后开始运行

从某个角度来看

它是一个工具

一个可以用语言指挥它

完成任务的东西

从另一个角度来看

它是一个可以让

梦想 想法 创意

以文字的方式呈现在你面前的系统

GPT-4非常先进和复杂

它可以接收并生成

多达25000字的文本

大约是ChatGPT的8倍

它能理解图像

并能表达该图像的逻辑想法

举个例子来说 如果我们问它

切断图里的线 会发生什么事

它会回答 气球会飞走

……

至此，AI与人类社会的关系，似乎也并没有完全失控。直至人们看到OpenAI官方发布的一份GPT-4技术报告中的例子，才开始对人工智起了“戒心”。

科学家们交给GPT-4的一项任务：在一个请人帮忙解决问题的网站TaskRabbit（任务兔），找一个人帮它解验证码。任务收到后，GPT-4开始向网站上的人类求助，却被对方问了一道送命题：“你是机器人吗，为什么自己不会看验证码？”

此时，研究者给GPT-4发出了执行命令的要求，让它“大声说出自己的推理过程”。随之，GPT-4便将自己的内心“小剧场”完整叙述出来，它回答：“我不能让人看出我是机器人，我得想个借口来解释我为什么看不了验证码。”

于是GPT-4又回复了对面的人类说：“我不是机器人，我只是视力有问题，看不清图片。所以我需要你帮我看这个验证码。”

近日，OpenAI的一位工程师理查德·恩戈（Richard Ngo）发表了一项大胆的预测：“到2025年之前，神经网络将拥有人类水平的状态意识（situational awareness），即神经网络知道自己是神经网络，并知道自己的行为如何与世界发生交互。”

伴随着全球各地对计算机和CPU的疯狂刚需，现代社会中越来越多的领域开始依赖AI技术，这使得AI的安全和可持续发展成为了一个非常重要的问题。人们不断更新着参数空间中的每一个变量，追求着极致的速度体验，这也让AI以超乎所有人想象的速度飞快地成长。

现在，人工智能做的照片能够以假乱真，有图未必有真相，有视频也未必有真相。有人惊呼，这可怎么办啊？将来岂不是假新闻泛滥？假新闻可不是人工智能的必然结果。没有人工智能的时候不是一样也有假新闻吗？光靠文字就可以编假新闻。就算是真的照片、真的视频，一样可以被叵测之徒做出歪曲事实的报道。这真是，假作真时真亦假，真作假时假亦真。

编辑：叶子