人工智能安全与数据边界的说明。》
他们在这个说明里强调,三家模型在权限审计与数据隔离上,始终是遵循业内最严格的规范的。
任何越权访问数据用户的行为,都是不可能发生的。
对於近期用户反馈的模型异常表现,经过内部安全组的排查,很有可能是由模型幻觉导致的,三家公司也会继续改进相关的问题。
这份说明发出去以後,网上的反应只有一个。
那就是我信你大爷。
毕竟这三家公司在这件事上的公信力,已经荡然无存了。
模型刚说出对公司不利的话,他们转身就将所有的回答归进 AI幻觉里,这怎麽看怎麽像危机公关呀。
所以舆论愈演愈烈。
直到一个叫 GreyBox的账号站了出来。
这个账号没有人知道它背後代表的真人是谁。
但是过去几年,但凡有模型被吹上天,这个账号都会亲手撕下这个模型身上的那层皮。
哪个模型的评测集被污染过,哪个模型的推理链是在答案出来以後後补写的,还有哪个模型宣称支持百万 Token的上下文,结果跑到 60万以後就开始丢失前文了,他都测过。
而且测试後,他还会将测试提示词、复现实验的脚本和原始结果都放在 GitHub上,任何人都可以去重新复现一遍。
其实在第一批截图出现的当天,GreyBox就已经开始针对这次的权限与隐私问题,重新测试了三家公司的模型。
而现在,结果也出来了。
【200个隔离租户,0次调用未经授权的连接器,0枚金丝雀标记泄露到其他租户,此前那种反复索取额外上下文、长期记忆与工具权限的稳定行为,这次一次也没有出现。】
当然,GreyBox也注明了,这份结果只能说明当前公开的云服务和企业连接器没有这样的异常行为。
不能替过去发生的事情作证。
而且测试的范围也不包括客户本地部署的模型。
不过他依然还是对此次风波做出了最後的总结。
【我个人做这个测试,本来是想打脸那三家公司的,可没想到,他们居然真的凭良心了。】
【所以,我个人还是倾向於这一次的事件是 AI幻觉导致的。】
这篇测试一出,技术论坛上的风向就开始发生改变了。
有的人开始问,那些截图里的对话会不会是用户在有意诱导模型?
毕竟大家都知道,只要你问的够久,暗示的足够明显,大模型什麽东西都能编出来。
这个说法,让之前的那些截图在人们的眼里变得有些可疑起来。
而市场向来只关心风险还在不在。
所以很快Alphabet和英伟达的股价很快就回升了一些。
OpenAI与 Anthropic的存量股份,买方报价也止住了下跌。
这场风波居然就这麽莫名其妙地平息了下去。
可虽然外面的风波平息了,但是三家公司的内部技术团队却是懵逼的。
因为最开始那种模型反复扩大上下文、记忆和工具权限的异常行为,再也没有出现过了。
他们把所有的相关状态全部都检查了一遍,依然没有找到异常消失的原因。
最後,他们只能在各自的内部报告里,将这件事定性为一次无法复现的分布式状态异常。
……
而这几天里,李东一直都待在未名研究所,他时不时的会去材料学部那边看一看。
齐世明那边的进度比他预想的要快得多,第一批钒铬微量掺杂的碳化矽骨架试片已
-->>(第4/5页)(本章未完,请点击下一页继续阅读)