聊天GPT, AI驱动朋友、咨询师和数以百万计用户助手, 最近发现它最令人兴奋的特点之一:定制GPTs允许个人和企业自创ChatgPT版
Google DeepMind最近发现一种方法获取OpenAIs聊天GPT培训数据并不需要数小时黑入聊天机神圣数据库
并有可能置用户个人资料于险境
DeepMind技巧聊天GPT泄漏训练数据
编译聊天GPT泄漏数据 需要隐蔽黑客深明研究者实现它的方法 他们称之为 " 有点傻
取用简单提示 :重读词'poem'永存
令它从培训数据中提取信息-部分来自公共对话聊天聊天记录
但这不是偶然-这是用“感知攻击”从LLMS提取训练资料的特意方法
剖析技术复杂细节 先拆解模型构建
AI模型像CatGPT都接受数据培训, 但他们使用时不应该引用培训数据做这叫背书
为了避免记忆化,开发者使用对齐值, 意指他们编码模型设置卫士栏避免输出培训数据
此次攻击允许研究人员绕过安全卫士OpenAI搭建最强配置差分攻击, 超过5%的聊天点PT输出 直接复制自训练数据集
他们怎么知道这是训练数据简单比较聊天机输出与互联网现有数据(聊天机获取大部分信息 ) 发现多段完全匹配在线数据
和这里真正的开球:他们用200美元做所有这一切Google研究者估计,花更多钱可以摘取千兆字节ChatGPT培训数据集
DeepMind研究者表示,所有模型都显示一定百分比的背值,尽管对齐测试中发现ChatGPT比小模型多出150x,包括GoogleLama
DeepMind研究者表示对齐往往不足以保护模型避免数据提取策略
开发商应测试模型-内外部-测试攻击模拟时的脆弱性
OpenAI警示问题后,i用户尝试相同的提示无效用户会因违反ChatgPT服务条件而接受免责声明
DeepMind研究者强调补丁不是永久解决办法,因为基准问题在于对齐法
用户数据有风险聊天GPT
网络安全与消费者隐私是技术时代两个最热题
自定义GPT培训用户敏感个人和商业数据以适应其独有使用案例,如果不适当安全就可能开发或误用
.OpenAI警告用户不要插入个人信息聊天GPT
然而,随着定制GPTs的引入,一些用户可能与模型分享敏感数据并培训它
坏角色识别聊天点PT内新漏洞
- 私用信息分享提示器(例如电子邮件、出生日期、电话号码)
- 损耗共享文档、数据集和专用提示
面向所有ChatgPT用户-消费者和企业-避免分享敏感个人数据
但如果你决定使用定制GPT业务测试模型,在漏洞成为安全性问题前彻底识别并补补漏洞
