财联社8月20日讯(编辑 周子意)OpenAI最新发文称,承诺不会保留使用其人工智能模型的企业用户数据,同时提升产品的安全性。此举旨在从竞争对手Anthropic手中抢夺客户。
这家ChatGPT的开发商周三(8月19日)表示,已向部分客户开放了新技术预览,该技术能够跨多轮模型交互行为识别其中的行为模式和安全风险。以往的人工智能安全系统只能对单挑交互记录注意监测,若不留存部分客户数据,就很难保障工具被合规使用,而OpenAI新的技术方案旨在突破这一局限。

这一承诺与Anthropic的政策形成鲜明对比:后者公司承诺保留客户数据30天,以确保其最新模型的安全性。
Anthropic此举引发了包括白宫人工智能顾问、风险投资家David Sacks、微软首席执行官萨提亚·纳德拉以及Palantir公司Alex Karp在内的科技界人士的批评。他们认为,企业需要确信人工智能公司不会保留其数据,尤其是在医疗保健和金融等受监管行业。
OpenAI产品政策负责人Aleah Houze对此则表示,“我们已从企业方面听到非常明确的声音,这非常重要。如果你想到那些为其他企业服务、并将其极其敏感的数据托付给自己的人,他们通常都会对客户做出承诺。”
这一举措凸显了OpenAI在人工智能竞赛中追赶Anthropic的努力,同时也安抚了部分批评者,他们担心公司工具缺乏足够的安全防护机制,无法防范网络攻击或模型失控带来的其他危害。
OpenAI还表示,客户数据将保留在客户控制的基础设施上。同时,公司正在开发一个系统,数据可以由OpenAI储存,但加密密匙归客户所有。这意味着OpenAI能够使用客户拥有的加密密钥来存储信息,而公司员工将无法查看模型提示、回复或其他敏感信息。
当系统检测到网络攻击或生物武器等风险时,会向OpenAI发送信号。该信号有助于判断公司是否需要采取相应行动。客户可以对这些决定提出上诉,或在需要时向OpenAI提供更多信息。OpenAI仅保留有关风险严重程度和类别的高层级信号。










