谷歌 DeepMind 开源 SynthID Text 器具，可差别 AI 生成的笔墨

IT之家 10 月 27 日音讯，谷歌 DeepMind 于 10 月 23 日告示厚爱开源旗下 SynthID Text 文本水印器具，供树立者和企业免费使用。

谷歌在 2023 年 8 月推出了 SynthID 器具，该器具具备创建 AI 本体水印（声明该作品由 AI 打造）和识别 AI 生成本体的智力。它不错在不挫伤原始本体的前提下，将数字水印径直镶嵌由 AI 生成的图像、声息、文本和视频中，同期也能扫描这些本体已有的数字水印，以辨识它们是否由 AI 生成，不外本次谷歌开源的仅为针对文本生成的 SynthID Text。

▲ SynthID 器具会告诉你图像是东说念主工智能生成的可能性有多大

谷歌先容，大模子主要通过估量方式生成文本，一次生成一个 Token，这个 Token 可能是一个字符、一个单词或段落的一部分，为了让文本更为连贯，模子会在输出本体时估量下一个最可能生成的 Token，这些估量基于先前的文本。

举例，当大模子要生成“最推选的平台是什么”时，可能会生成“IT之家”、“友商 1”、“友商 2”等 Token，每个 Token 齐会得到一个概率分数。独一有多个不同的 Token 可供遴荐，SynthID 就会在不影响输出质料和准确性的情况下，微调每个 Token 的概率分数，也便是器具通过筹画全文中特定 Token 的特定概率，以判断关连本体是否由 AI 生成。

现在，这一 SynthID Text 水印工夫的论文已于《Nature》期刊上发表，并通过整合入 Google Responsible Generative AI Toolkit 的方式开源。谷歌同期提到他们已在 Gemini AI 输出的本体中整合了 SynthID Text 工夫。