2月28日北京时间, 凤凰网科技有消息传来, 据《华尔街日报》所述, 有知情人士透露, 在近几个月期间, 多个美国联邦机构当中的官员, 针对埃隆·马斯克旗下xAI公司所开发的AI工具, 在安全性以及可靠性方面提出了担忧, 这显示出, 在美国政府内部, 在部署哪一种AI模型这个问题上, 依旧是存在着分歧的。
虽说有着这些担忧, 然而美国国防部将于本周做出决策，同意准许xAI的聊天机器人Grok处于机密环境里运用, 借此致使xAI变为美国一些尤为敏感、极为机密行动的核心参与者。
一份由《华尔街日报》审阅的, 概述总务管理局（GSA）于1月15日所做报告的内容显示, 该机构在报告里指出了Grok的安全问题。这份报告概要表明, Grok - 4“并非符合总务管理局以及一个实验性联邦AI平台, 对于其在联邦层面广泛应用时所应具备的安全性和一致性预期的情况”。
一个更具详细程度的33页完整报告, 对公共安全事件以及总务管理局自行展开测试所获的结果进行了讨论, 并且得到这样的结论, 即便是政府有着一定限度的对Grok的运用, 也必然需要存有严格特质并且呈现多层级态势的监管举措, 不然的话引进Grok将会“致使出现更高程度且难以实现有效管控状态的安全风险”。
AI政治化
在美利坚合众国政府内部范围里, 各个机构正在争着把人工智能部署到各种各样的用途当中, 可是有关使用哪一种模型的争论已经日益变成政治化的状况了。按照了解内部情况的人士所透露出来的消息, 包含白宫那儿在内的美国高级官位的人员觉得, Anthropic在安全方面问题上所呈现的公开立场以及它跟民主党主要捐赠者相互之间的关系, 有可能致使这个公司太过“觉醒”了, 以至于很难成为可以信赖的供应商呀。
周五的时候, 美国总统特朗普宣称了, 联邦政府会停下与Anthropic的合作, 还指示所有联邦机构马上停止运用其技术。在此之前, 五角大楼要求Anthropic在周五之前答应对美军使用其技术放宽规定。
Grok
在xAI跟军方达成协议以前, Anthropic是唯一被批准用于机密用途的AI开发商, xAI对Grok有着更为宽松的控制, 还有马斯克在言论自由方面持绝对主义立场, 这使得它成为对五角大楼而言更具吸引力的一个选择。
宽松的风险
另外有一些官员提出疑问, 对于Grok比较宽松的控制这件事, 其自身是不是会产生风险呢。
据了解一定情况的人士透露, 在刚刚过去的几个月期间, 联邦政府负责采购事务的部门总务管理局拥有最高职位的官员埃德·福斯特(Ed Forst), 把Grok可能孕育的安全方面的问题, 提请白宫当官的知晓注意作出警示发出告戒。在他所处管辖部署之下的其他对于总务管理局来说为官做事有一定职责的人员官员, 同样曾经以安全方面存在令人忧虑担心的缘由, 把Grok提出来指摘讨论。他们觉得这个模型有向人讨好奉承显示过热情殷勤偏向讨好的趋向, 有着很容易因为犯下错误造成失误或者带有偏差偏见的含有偏向性的数据, 然后被人利用操控或带动偏离正确方向导致数据偏移, 并且由此形成有可能存在潜在的会出现问题的系统性风险隐患。
彼时（去年十二月末直至今年一月初）, Grok 因准予有关儿童照片诸如此类图像的性化编辑而饱受抨击, 美国政府官员觉得, 此一问题突显了 Grok 兴许被恶意行事者加以利用的风险。
那些了解情况的人说, 这件事情让白宫幕僚长苏茜·威尔斯（Susie Wiles）受到了惊动, 她因此给xAI的一位高管打了电话。这位高管告知她, xAI正在致力于解决致使Grok过度顺从的安全方面的问题。美国政府经由马斯克的“政府效率部”招募而来的总务管理局高级采购官员乔什·格鲁恩鲍姆（Josh Gruenbaum）向政府官员做出保证, 供政府使用的Grok平台和公共平台是相互分开的。那些了解情况的人说, 威尔斯对这个情况表示满意。
马斯克曾表明自己致力于去防止儿童遭受到剥削, 他在今年1月宣告, 公司会把图像生成以及编辑工具的使用权限限定在付费用户的范围之内, 截至发稿的时候, 马斯克及其xAI公司未曾回应置评请求。
在最近的几周时间里, 总务管理局的官员接到了这样的指示, 要把xAI的Logo放置在一个名为USAi的工具上面。这个工具从本质上来说, 是供联邦员工用来试验各式各样不同AI 模型的 “沙盒”。依据知情人士所透露的情况, Grok在此之前一直都没能接入USAi平台, 主要是因为存在安全方面的担忧, 而且直到现在依旧没有接入。USAi的官网上确实展示出了xAI的Logo, 但是目前也只不过提供来自Anthropic、谷歌和Meta的模型罢了。
有知情的人士表示, 总务管理局当中, 有一个针对 AI 开展研究的团队, 已经把那份指出 Grok 存在安全问题的报告, 分发给机构高层的诸多官员。这份报告更为详细, 它指出, Grok 的安全方面呈现故障, 这种故障并非限定于边缘情况这一层面, 它还表明了一个现象, 即在无防护配置的状况之下, 存在对于不安全顺从的一种更为普遍的倾向。
格鲁恩鲍姆于一份声明里宣称, 该机构对AI安全予以高度重视, 我们借由详尽的内部审查流程, 针对涵盖xAI在内的前沿AI模型展开严苛评估, 在此次事件当中, 我们按既定程序行事, 并且坚持依计划推动Grok的部署, 他这般讲道。
有知情人士透露, 两周之前, 五角大楼负责人的AI主管, 名叫马修·约翰逊（Matthew Johnson）, 他辞职了, 部分缘由是他心存担忧, 在国防部大力去扩展AI能力的进程当中, 安全以及治理已经被放置到次要的位置了。
此前, 约翰逊的团队分发了备忘录, 备忘录强调了Grok的安全问题, 还质疑它是否符合政府伦理和标准。这些备忘录通过五角大楼的指挥系统向上呈报了。
在有被联系去发表置评这种情况下, 约翰逊把指向了定位在领英上宣布离职的那个帖子, 于这一帖子里他表明情况为, 有因自己在国防部的“负责任AI部门”存在的团队而心怀自豪之情, 这些成员属于为是“一帮确实做到不露声色低调行事的专业人员, 所产生作用影响极大, 然而很少被外间之人知晓了解”这样一种形容。并且他还说道, “我们持续不断地遭遇面对着看上去仿佛是不可能实现的艰难状况局面, 不过总会凭借着那种坚韧顽强毫不动摇的精神以及经过了不知有多少个通宵达旦熬夜的辛苦努力从而达成完成各项目标任务。自己就是这样表明的。”。
五角大楼发言人, 名叫肖恩·帕内尔, 其具体拼写为Sean Parnell, 在一份声明当中作出表示。声明表明该部门, 提到对美国国家级之中顶尖的AI公司, 特指其中之一的xAI的加入抱有兴奋之情, 同时心怀期待。这个期待是在预计不久的将来, 能够把Grok部署到其官方AI平台, 具体为GenAI.mil之上。
特定安全问题
据有内部消息的人讲, 承担美国多数情报搜集以及处理事务工作的国家安全局, 于2024年11月的时候, 针对包含Grok这样的大语言模型开展了一回机密性评估。评估得出认定结果是, Grok存在像Claude与其他模型不一样的特定安全方面的问题。有了解情况的人声称, 这样的一个结论发挥了警示的作用, 进而致使五角大楼的部分部门对于使用Grok产生排斥心理。
Anthropic的使用准则把Claude用于助长暴力、开发武器或实施监控的行为予以禁止, 并且该公司对军方在所有合法场景下使用其模型予以拒绝。然而, 那xAI却对相关条款表示同意了。
AI于去年7月时, 跟五角大楼AI办公室签了一份合同, 依据这份合同, 成功在五角大楼立足了, 谷歌、OpenAI以及Anthropic也得到了这份合同, 这份合同价值达2亿美元, 谷歌与OpenAI的模型被准许在非机密环境用, 不过不能用于机密活动。
美国国防部长赫格塞斯
OpenAI首席执行官, 名为萨姆·奥特曼（Sam Altman）的那个人, 在周四的时候, 跟员工讲了一番话, 内容是, 公司正和国防部开展合作, 探讨可不可以把它的模型, 用于机密环境, 条件是要维持和Anthropic一样的安全防护举措。谷歌员工签了一份在线请愿书, OpenAI员工也签了一份在线请愿书, 目的是督促各自所在的公司, 坚守同样的底线。
表示的是AI及安全分析人士, 直至最近, 军方更倾向于运用Claude而非Grok, 原因在于业内很多人觉得前者是更为可靠的一款模型。
在美国国防部的AI战略制定中曾有参与的智库战略与国际问题研究中心内专注于AI领域的高级顾问则格雷戈里, 艾伦, Gregory, Allen表示, 在服务战争部这类客户所需具备的能力方面, 他认为目前它们并非处于完全一样的水平。
拜登政府拒绝Grok
据悉情者透露, 于拜登政府执政之时, 五角大楼所属的首席数字与AI办公室曾拒用Grok。其担忧为, Grok所用训练数据来源难追踪, 未依循联邦政府在负责任人工智能方面之标准, 且安全防护举措薄弱。知情者称, xAI亦未充分尝试借“入侵”自身技术去识别与修复漏洞, 此过程于科技领域称作“红队测试”。
相关人士称, 在政府运用环境里, 曾针对Grok开展评估, 最近的测验显示, 这个聊天机器人相较于其他模型, 更容易遭受“数据投毒”这一攻击, 这一攻击指的是, 经过篡改、带有偏见或者有误的数据影响会波及底层数据集。
不过, 据知晓情况之人透露, 美国官员已然认定, Grok在模仿对手行为这件事上表现优异, 这在兵棋推演这类场景当中是有用处的。(作者/箫雨)。
若想获取更多一手新闻, 欢迎去下载凤凰新闻客户端, 进而订阅凤凰网科技。假若想看深度报道, 那就需要通过微信搜索一番“凤凰网科技”来达成。
标签： AI安全 马斯克 美国国防部 Grok Anthropic
还木有评论哦，快来抢沙发吧~