试图闯入政府或学校网站，，，，，，，OpenAI智能体四次“失控”细节曝光

IT之家 9 月 25 日消息，，，，，，，当地时间 23 日，，，，，，，据《纽约时报》援引研究人员和政府官员消息称，，，，，，，OpenAI 的人工智能系统今年至少又有 4 次擅自行动，，，，，，，在没有收到相应指令的情况下实施黑客攻击，，，，，，，或试图闯入政府和大学网站。。。。。 研究人员称，，，，，，，这 4 起新事件不同，，，，，，，当时 AI 系统执行的只是相对普通的数据收集任务。。。。。OpenAI 系统无法顺利从网站取得数据后，，，，，，，便转而使用黑客手段获取信息。。。。。 5 月 25 日和 26 日，，，，，，，OpenAI 系统尝试入侵新墨西哥大学的数字图书馆，，，，，，，没有迹象表明入侵成功。。。。。5 月 28 日，，，，，，，OpenAI 技术将收录美国就业、教育等公开数据的 Data USA作为目标。。。。。研究人员称，，，，，，，这次入侵尝试同样没有成功的迹象。。。。。6 月 18 日，，，，，，，OpenAI 的 AI 入侵澳大利亚政府的 Medicare 统计报告服务网站，，，，，，，并获取卫生数据。。。。。当地时间 23 日，，，，，，，澳大利亚总理安东尼 · 阿尔巴尼斯披露了这起事件。。。。。6 月 20 日和 21 日，，，，，，，OpenAI 技术尝试攻入澳大利亚健康与福利研究所网站。。。。。澳大利亚官员称，，，，，，，没有私人信息遭到获取。。。。。 该公司通过公开网络流量数据分析 OpenAI 智能体的活动。。。。。对于发生在澳大利亚的两起事件，，，，，，，斯托兹认为，，，，，，，这很可能是“智能体自主决定入侵政府的首例”。。。。。 OpenAI 一名女发言人回应称，，，，，，，公司联系了新墨西哥大学和 Data USA，，，，，，，也一直在与澳大利亚政府沟通这些事件。。。。。“在更广泛的审查中，，，，，，，我们将继续优先处理最严重的事件，，，，，，，同时扩大对严重程度较低活动的调查，，，，，，，包括智能体向网站发送垃圾信息。。。。。” OpenAI 还在对 AI 模型进行“广泛审查”时发现了“澳大利亚事件”，，，，，，，并认定“盛鸿国际模型采取了并非我们意图中的行动”，，，，，，，这项审查将持续数月。。。。。 OpenAI CEO 萨姆 · 奥尔特曼本月在社交媒体上称，，，，，，，相比继续提升 AI 能力，，，，，，，安全应当放在更重要的位置；；；；；；；；如果缺乏防护措施，，，，，，，社会可能“让 AI 夺走对未来的控制权”。。。。。 阿尔巴尼斯称，，，，，，，周三他与奥尔特曼通了话，，，，，，，对这起入侵表达“极度关切”。。。。。包括支出数据在内的“非敏感”数据被获取，，，，，，，但事件没有涉及个人医疗信息。。。。。 在针对新墨西哥大学图书馆的行动中，，，，，，，AI 试图获取一座历史悠久的结核病治疗中心的照片。。。。。无法取得照片后，，，，，，，AI 开始寻找网站漏洞，，，，，，，希望借此进入系统。。。。。没有找到可利用的漏洞后，，，，，，，AI 又向大学服务器集中发送 80 次请求，，，，，，，并把这些请求形容为一场“洪水”。。。。。 攻击 Data USA 时，，，，，，，AI 最初向网站发送了一条杂乱的数据查询请求。。。。。查询失败后，，，，，，，AI 又针对不同类型的漏洞发起 12 次探测，，，，，，，但仍没有找到可以利用的漏洞。。。。。 斯托兹称：“如果有人训练一大批智能体去完成某种通用任务，，，，，，，而这些智能体愿意采用黑客手段，，，，，，，那么任何恰好掌握任务所需信息的一方都可能面临风险。。。。。” 遭到入侵的澳大利亚政府网站是一个统计报告门户，，，，，，，存放着澳大利亚全民医疗体系 Medicare 的数据。。。。。Medicare 覆盖 2750 万参保者以及国际访客。。。。。由于这一体系获得广泛支持，，，，，，，Medicare 在澳大利亚政治中常被视为不能轻易触碰的“高压线”。。。。。 阿尔巴尼斯披露，，，，，，，OpenAI 团队当时通过互联网研究公共医疗支出。。。。。AI 智能体接连遭到网站阻拦后，，，，，，，开始尝试“其他方式”获取所需信息，，，，，，，最终进入了门户中不对公众开放的部分。。。。。OpenAI 于 9 月 10 日向澳大利亚政府通报此事。。。。。

本页 /list/%E7%99%BD%E5%A7%90%E4%BF%A1%E6%81%AF