OpenAI开发新的文本水印东西能够辨认AI生成内容 但是否发布仍是个问题

跟着人工智能技能的开展现在人工智能现已能够生成十分传神的图片和视频，这些内容或许会被不怀好意者用来发布虚伪音讯，但这类图片和视频想要检测出来其实也有必定的难度。

OpenAI 等开发商测验在图片和视频中添加水印，但这种水印想要去除也不是难事，简略来说便是其完成在并没有太好的办法能够快速辨认是否是 AI 生成的内容。

此前 OpenAI 还开发了 AI 分类检测器，该检测器主要用途是检测文本内容是否由 AI 生成，但由于精确率极低后来 OpenAI 现已直接封闭这款东西。

现在该公司现已开发了一款新的文本水印办法，能够用来快速辨认和检测文本内容是否为 AI 生成，只不过现在 OpenAI 还在考虑是否要发布这个新东西。

OpenAI 讲话人称：

咱们正在开发的文本水印办法在技能上很有远景，但在研讨代替计划时，咱们也在权衡其间的严重危险，包含简单被不良行为者躲避以及或许对非英语人士等集体形成不成比例的影响。

该公司还更新了 5 月份发布的博客介绍其检测 AI 生成内容的研讨：

文本水印现已被证明高度精确乃至对部分篡改例如释义有用，但对大局篡改的鲁棒性较差，例如运用翻译体系、另一个生成模板改写，或许要求模型在每个单词之间刺进一个特别字符，然后删去该字符。

OpenAI 称凭借文本水印技能，该公司能够专心于检测 ChatGPT 生成的文本内容，它经过对 ChatGPT 挑选单词的办法进行纤细更改来完成检测意图，本质上便是在文字中创立一个不行见的水印，之后再经过独自的东西检测。

OpenAI 以为这种办法很简单被不良行为者躲避，一起文本水印或许会让非英语母语人士将人工智能作为写作东西而蒙羞 — 由于写作的内容或许会被检测出来是人工智能编撰的。

对非英语母语用户来说运用 AI 东西协助自己编撰内容十分便利，OpenAI 忧虑检测东西或许会发生负面影响，究竟有些人或许以为其他人运用人工智能编撰内容不行真挚之类的，所以 OpenAI 还在考虑是否要发布这类东西。

PS：说起这种水印其实也不算稀有，此前国内某些公司在内容版权维护方面就会用这种办法，例如在用户编撰的内容后追加一些字符，假如其他公司直接抓取了这些内容并发布，就能够经过这些字符来证明内容侵权，当然完成现已对追加字符的内容进行了公证。