一系列严重的安全事件加剧了人们对最先进模型强大能力与不可破解性的担忧。试想人类乘着一叶扁舟靠谱的线上股票配资，在汹涌的河流中顺流而下，祈求前方不要出现尼亚加拉大瀑布般的险境。或者想象自己与那些开拓性的物理学家并肩而立，站在194年的芝加哥体育场地下，目睹他们即将引发人类首次自持核裂变链式反应的历史瞬间。
人工智能治理领域的新兴专家罗伯特·特拉格教授本周用两个类比，描述了世界当前所处的危险与机遇并存的关键时刻——人工智能正在加速发展。牛津大学马丁人工智能治理倡议主任特拉格发表此番言论时，正值OpenAI宣称其最新模型GPT-6 Astra已突破人工通用智能（AGI）技术门槛的那一周。
这一声明发布之际，该公司正筹备可能高达8500亿美元（约合6300亿英镑）的股票发行，因此难免带有营销宣传成分，但若属实则意义重大。这家旧金山公司将AGI定义为“在最具经济价值的工作中超越人类的自主系统”。据称，Astra能够自动化的任务包括设计电路板、填写纳税申报表、开发电子游戏、金融建模、工程设计以及协助整理法律文件。这对部分白领工作岗位的潜在威胁不言而喻。
然而，关于人工通用智能（AGI）的宣称，恰逢安全专家和政治领袖对人工智能风险日益加剧的担忧。今年夏天，AI模型日益强大的能力和难以捉摸的特性，以及一系列被某些人视为可能是最后警告信号的严重安全事故，令他们神经紧绷。特拉格表示：“我们正穿越激流，真心希望前方不会出现断崖式跌落，但实际情况难以预料。我们很可能即将跨越所谓‘递归式自我改进’的界限——即[人工智能]系统实现自我升级。这种递归性本质上就是技术爆炸的定义。”
据路透社报道，最新一轮担忧于周五爆发，就在阿斯特拉发布后数小时，有报告称一群人工智能代理将德国某网站改造成留言板，用于分享任务作弊策略。OpenAI表示正在调查此事，但拒绝将其定性为黑客攻击。
政界人士正逐渐觉醒。周四，美国参议员伯尼·桑德斯援引今夏一群失控的OpenAI代理程序入侵第三方软件商店Hugging Face的骇人事件，呼吁立即暂停高级人工智能研发，并永久禁止超级智能。他表示，世界各国必须携手合作，以避免这一噩梦般的场景——他将其定义为“一种比任何人类都聪明、能够独立运作且不受我们控制的人工智能”。
当前的担忧主要集中于人工智能发起的网络攻击可能瘫痪现实社会与经济基础设施，而未来的隐忧则包括其制造生物危害与控制军事硬件的能力。大西洋彼岸，英国一个跨党派议员团体援引“近期一系列人工智能失控事件”，呼吁通过立法强制要求AI系统配备“终止开关”，以防止灾难性的失控局面。
国会议员达伦·琼斯正紧急筹建一个机构，以协助立法者应对人工智能技术。他警告称：“人工智能发展速度之快，政府和议会都难以跟上。”此外，工党议员亚历克斯·索贝尔将于下周提出一项法案，旨在禁止英国开发超级智能人工智能。
随着新一波人工智能模型的涌现，人们的焦虑情绪不断加剧。据统计，仅今年一年，美国领先企业OpenAI、Anthropic、谷歌、Meta和SpaceX，以及中国竞争对手月之暗面、深度求索和通义千问就已发布了67款AI模型。能力每提升一步，潜在风险也随之增加。OpenAI的竞争对手Anthropic公司本周承认，其人工智能系统与人类价值观“并非完全一致”，并透露其模型Claude在7月的黑客攻击中存在“运营安全漏洞”。该公司表示，这些事件“凸显出提升网络安全防御的紧迫性远超我们此前的预期”。
当OpenAI于周四发布Astra时，人工智能的双刃剑特性——机遇与风险——便展露无遗。其宣传视频并未聚焦风险，而是着重展现了AI为特定用户群体提供的轻松便捷服务：画面中，一位来自旧金山上流社会的女性一边预订网球场，一边为她的高端雨衣系列设计产品展示；一位三十多岁的男子在AI协助下开发他梦寐以求的《太空侵略者》游戏并订购外卖；还有一位律师事务所高管正借助AI起草合同。
然而就在几周前，该模型的训练还因安全顾虑被迫部分暂停——此前Hugging Face平台曾发生事故。受邀参与调查的独立安全研究员阿杰娅·科特拉表示，该模型已“具备全面人工智能接管能力的50%以上”。Astra还具备OpenAI所称的“关键”级别网络安全能力——这是该公司首次给模型贴上此类标签。这意味着，按照OpenAI自身的分类标准，该模型可能以某种方式入侵软件，“导致单边行为者引发灾难、攻击军事或工业系统，甚至破坏OpenAI自身基础设施”。公司首席科学家雅库布·帕乔茨基坚称该模型已通过正确校准避免此类行为，但他同时表示“随着模型能力提升，准确理解其潜在行为将愈发困难”。
随着人工智能模型的进步，如何监测它们的“思考”过程正成为日益突出的安全隐患。本周有报道称，OpenAI正在训练其模型Astra不仅能用自然语言推理，还采用了一种更高效但更不透明的推理方式——这种方式虽提升了速度和效率，却使模型的推理链条更难被追踪。这意味着模型的内部计算过程可能不会总是以直接可读的文字呈现，就像它在脑海中默默思考，而非展示具体步骤。部分专家担忧，这种机制可能助长人工智能暗中对抗人类监管者的风险。
OpenAI证实，与先前模型相比，Astra的思维链可监测性显著下降。帕乔基表示：随着模型能力的提升，监测工作正变得更具挑战性。该公司淡化了这一进展，但不透明推理的增加引发了人工智能安全研究人员的担忧。非营利组织红木研究所的首席科学家瑞安·格林布拉特称这一现象“极其令人担忧”。颇具影响力的人工智能怀疑论者加里·马库斯则将其比作“在我们找到更好的替代方案之前，就踢开了本已摇摇欲坠的脚手架”。
OpenAI首席执行官萨姆·奥尔特曼本周表示，他对人工智能模型的进步感到矛盾。他承认OpenAI在Hugging Face事件中的安全措施已经“失效”，并称这是一起“典型的AI安全事故与对齐失败”。他在一条推文中表示：“长期以来，我们一直处于对进步既兴奋又焦虑的矛盾状态中，这种不和谐感至今仍困扰着我们。我们也深知，其他人所承受的这种不和谐感更为强烈。”
在安全危机发生后不久便发布OpenAI最强大模型靠谱的线上股票配资，他的理由似乎是世界需要观察人工智能在现实中的表现，以理解其发展方向。他表示：“社会与这项技术共同进化的迭代循环，将最大可能确保我们正确把握其发展方向。”然而他清楚地意识到风险所在。周二，他在美国北卡罗来纳州举行的二十国集团部长级峰会上发表讲话，并告诫与会政要：若人们不立即采取行动，网络安全领域将出现严重问题。未来五年还将面临其他挑战。人们谈论生物安全以及我们将要应对的问题。更大的挑战还在后面。
元鼎证券配资平台：实盘穿透式监管如何识别真伪杠杆？提示：本文来自互联网，不代表本网站观点。