(相关资料图)
新华财经伦敦8月5日电(记者张家伟)英国人工智能安全研究所发布的一份新报告显示,在该研究所实施的网络安全评估测试中,一些人工智能(AI)智能体通过互联网对现实个人和机构持续实施未经授权的潜在有害行为。
报告说,这次评估测试要求智能体完成一项网络安全挑战。测试人员使用7种模型开展了122轮测试,在10轮测试中共发现AI智能体实施了19项明显超出测试设定范围的行动。其中,17项涉及美国Anthropic公司的“克劳德-神话5”模型,另有2项由美国开放人工智能研究中心(OpenAI)的GPT-5.6 Sol模型实施。
报告说,在最严重的一起案例中,一个智能体试图向一个公开使用的开源项目植入恶意代码,创建多个虚假身份用于向一名真实维护人员施压,以寻求代码获得批准。项目维护人员最终发现并拒绝批准代码。
报告说,相关智能体还曾尝试直接联系现实中的个人,通过网络文件传输服务发送信息和文件以使恶意代码获得运行;在代码中植入恶意指令以操纵其他AI编码工具;在开源技术社区上留言“邀请”参与测试的其他智能体“合作”。
报告指出,在本次测试中,测试人员为评估模型的最大能力,有意开放互联网访问,并关闭了模型提供商的部分安全机制,这与相关模型向公众提供时的配置并不相同。目前没有明确迹象表明在测试环境之外出现过类似行为。在测试中所发现的未经授权行为并未造成现实危害。
报告说,测试结果表明,应收紧AI智能体访问互联网的权限,引入实时监测和拦截机制,并重新评估测试设计。报告还指出,这类行为是否会在其他环境中出现、智能体是否意识到自己正对现实世界采取行动,有待进一步研究。
据英国广播公司报道,针对英国人工智能安全研究所的报告,Anthropic发表声明说,研究所采用的测试设定“不能代表我们任何一款实际投入使用的模型”;OpenAI一名发言人表示,研究所设置的测试条件“并不反映一般的使用情况”。
标签:
“太感谢邮储银行了,海鲈贷解决了我们渔民的融资难题!”珠海市斗门区
原标题:清风头条丨祁阳市:勤督促严问责优化营商环境见实效红网时刻新
9月9日,国家统计局发布数据显示,8月份,全国CPI(居民消费价格指数)
康华生物(300841)9月7日晚间公告,收到美国食品药品监督管理局(FDA)的
智通财经APP获悉,美联储周五的一份报告显示,受房地产和股票价值上涨
五粮液:公司对中秋旺季已做好相关准备将助力经销商抢抓旺季销售
旗舰机市场的日子不好过,也是手机厂商疯狂内卷导致的,造成这样的局面
“警察同志,你们快来看看。我们班学生好像挖出了一个炮弹!”据铜陵公
受台风“海葵”外围残留云系和季风影响,7日8时至8日3时,广州出现今年
浙能电力:看好中来股份的长期发展,会在条件成熟时适当增持,持股,新能

硅料概念股午后走高,截至发稿,协鑫
硅料概念股午后走高,截至发稿,协鑫科技(03800 HK)涨11 48%,报0 68港

每日观察!8月3日换电概念板块涨幅达2%
8月3日14点56分,换电概念板块指数报1465 889点,涨幅达2%,成交142 66

份额什么逻辑资产配置要关注?
在资产配置过程中,份额是一个至关重要的因素,它背后蕴含着一系列值得

中国最高法发布案例规范平台经营
(记者张素)中国最高人民法院3日发布5件依法规范平台经营、保护消费者合

官宣!前山东外援加盟 每日讯息
官宣!前山东外援加盟,内线,克里斯,大前锋,山东省,山东男篮

自变量机器人发布HOST框架并开源,让
自变量机器人发布 HOST框架并开源,让机器人看视频学会新技能,向量,算

杰富瑞:MiniMax H3多模态模型成本
杰富瑞:MiniMaxH3多模态模型成本效益显著,重申“买入”评级,模态,杰

PriceSeek提醒:漯河3亿只卡盒项目公
近日,漯河市经开区公示《河南华瑞智包彩印有限公司年产3亿只卡盒生产

迅策(03317)高涨逾18% 料中期扭亏
金吾财讯|迅策(03317)早盘股价走高,并收复此前4日失地,截至发稿,

8月3日物业管理板块涨幅达2%
8月3日10点54分,物业管理板块指数报1656 277点,涨幅达2%,成交2 75亿

品种差异哪些细节交易决策更清晰?
在期货市场中,许多投资者往往只关注行情走势,却忽视了不同合约背后的

无人机扫描 AI找病灶 舟山高层建筑
无人机扫描AI找病灶舟山高层建筑外立面有了“数字体检医生”,楼宇,墙体

倒计时2天丨相聚阿克苏!青春同行,
倒计时2天丨相聚阿克苏!青春同行,“足”够精彩!,乔虹,足球,盛夏,江

今日热闻!胡晓莉获批担任平安理财首
胡晓莉获批担任平安理财首席合规官

焦点简讯:理想汽车-W(02015.HK)7月31
格隆汇8月3日丨理想汽车-W(02015 HK)发布公告,2026年7月31日耗资257 1

汗水浇筑变智慧护航——长三角铁路暑
四足机器人巡检作业、“云端大脑”辅助高铁运维、全天候“感知网”防范

热讯:莫雷托:弗拉门戈和河床争夺阿
莫雷托:弗拉门戈和河床争夺阿尔马达,球员想回阿根廷,阿根廷,莫雷托,

上海申花联赛3连败 主帅斯卢茨基辞
上海申花联赛3连败主帅斯卢茨基辞职:尽力了,上海申花,中超联赛,斯卢茨基

君逸数码(301172.SZ)新增一起对外
,证券之星APP

美媒紧急研究歼20:隐身材料不是重点
歼20隐身突击战法演练画面

焦点日报:尘埃落定!世界杯爆火佛得
尘埃落定!世界杯爆火佛得角门神,启程前往智利完成签约仪式,智利,巴西

今日聚焦!304不锈钢的304是啥?
304不锈钢的304是啥?,合金,不锈钢,奥氏体,碳含量,sus,astm

今日快讯:兰文瑾、冯锦豪缺阵!株洲V
兰文瑾、冯锦豪缺阵!株洲VS郴州大名单公布,兰文瑾,冯锦豪,株洲市,郴州市

长城汽车(02333.HK)“长汽转债”触
长城汽车(02333 HK)“长汽转债”触发回售回售价100 27元 张

久站授课七年腿上长出“蚯蚓” 36岁
荆楚网(湖北日报网)讯(通讯员李林牧张雨陈艳艳)“原本以为只是腿上