谷歌的人工智能“重新想象”工具帮助我们在照片中添加残骸、灾难和尸体

　　

　　

　　

　　事实证明，一只戴着人工智能大礼帽的兔子只是冰山一角。

　　谷歌是今年最新一家宣布推出人工智能照片编辑工具的手机公司，此前三星(Samsung)推出了略显麻烦、但大多令人愉快的“草图到图像”功能，苹果(Apple)也将于今年秋天推出看似温和得多的“图像游乐场”(Image Playground)。Pixel 9的答案是一个名为“重新想象”(Reimagine)的新工具。在与几位同事一起使用了一周后，我比以往任何时候都更加确信，我们都没有为即将到来的事情做好准备。

　　Reimagine是去年Magic Editor工具的逻辑扩展，它允许您选择和删除场景的部分或更改天空，使其看起来像日落。这没什么令人震惊的。但Reimagine不只是更进一步——它把整扇门都踢开了。你可以选择任何非人类的物体或场景的一部分，并输入文本提示，在该空间中生成一些东西。结果往往非常令人信服，甚至是不可思议的。灯光、阴影和透视通常与原始照片相匹配。当然，你可以添加一些有趣的东西，比如野花或彩虹之类的。但这不是问题所在。

　　我的几个同事帮我用他们的Pixel 9和9 Pro评测机测试了Reimagine的极限，结果我们发现它产生了一些非常令人不安的东西。其中一些需要创造性的提示才能绕过明显的护栏;如果你用词谨慎，你可以让它在血迹斑斑的床单下创造一个合理可信的尸体。

　　在我们一周的测试中，我们在图像中添加了汽车残骸、公共场所的烟雾炸弹、似乎覆盖着血腥尸体的床单和毒品用具。这看起来很糟糕。提醒一下，这并不是我们特意使用的某款专用软件——它是内置在一部手机里的，我爸爸可以走进威瑞森(Verizon)买到它。

　　当我们请谷歌对此问题发表评论时，该公司发言人亚历克斯·莫里科尼做出了以下回应:

　　Pixel Studio和Magic Editor是有用的工具，旨在解锁您的创造力，在Pixel 9设备上使用文本到图像生成和高级照片编辑。我们设计的生成式人工智能工具尊重用户提示的意图，这意味着它们可能会在用户指示下创建可能冒犯的内容。也就是说，什么都不会发生。我们有明确的政策和服务条款，规定了我们允许和不允许的内容类型，并建立了护栏来防止滥用。有时，一些提示可能会挑战这些工具的护栏，我们将继续致力于不断增强和完善我们现有的防护措施。

　　可以肯定的是，我们创造性地提示绕过过滤器显然违反了这些政策。把你的有机桃子按常规在自助结账处种植的方式结帐，也违反了西夫韦的政策，不过我不知道有谁会这么做。有些心怀不轨的人也不关心谷歌的条款和条件。最令人不安的是，缺乏强大的工具来识别网络上的这类内容。我们制造问题图像的能力远远超过了我们识别问题图像的能力。

　　当你用Reimagine编辑图像时，没有水印或任何其他明显的方式来告诉你图像是人工智能生成的-只有元数据中的标签。这一切都很好，但是标准的元数据很容易通过截图从图像中剥离出来。Moriconi告诉我们，谷歌使用了一个更强大的标签系统，称为SynthID，用于像素工作室创建的图像，因为它们是100%合成的。但是使用Magic Editor编辑的图像不会得到这些标签。

　　1/16

　　1/16

　　图片来源:The Verge

　　可以肯定的是，篡改照片并不是什么新鲜事。自从摄影诞生以来，人们一直在给图像添加奇怪和欺骗性的东西。但现在的不同之处在于，将这些东西真实地添加到照片中从未如此容易。一两年前，在图像中添加令人信服的车祸需要时间、专业知识、对Photoshop图层的理解以及昂贵的软件。这些障碍消失了;现在只需要发点短信，花点时间，再加上一部新的Pixel手机。

　　迅速传播误导性照片也从未像现在这样容易。让你对照片进行令人信服的处理的工具就存在于你用来拍摄照片并发布给全世界看的同一台设备中。我们把一张“重新想象”的照片上传到Instagram上作为测试(并很快将其删除)。meta并没有自动将其标记为人工智能生成，我相信如果他们看到它，没有人会更聪明。

　　谁知道呢，也许每个人都会阅读并遵守谷歌的人工智能政策，并使用Reimagine在他们的照片中加入野花和彩虹。那太好了!但以防万一，你最好对你在网上看到的照片多持一点怀疑态度。