新 Grok 图像生成器安全界限模糊,可生成无限制图像

随着 Grok-2 图像生成器的发布,用户发现其可以生成类似暴力、露骨的图像。

随着科技的不断发展,AI 人工智能技术也在不断的出现新的模型,这些模型在各个领域都展现了强大的能力及潜力,其中 Grok 就是其中之一。

Grok

Grok 是什么呢?这是马斯克 xAI 公司旗下的首款人工智能模型,这款聊天机器人被称为 Grok。

就在不久之前 xAI 公司还发布了 Grok-2 模型,Grok-2 不仅限于处理文本信息,还能够结合图像、音频等多种数据源进行综合分析。这种多模态能力使得 Grok-2 能够在更广泛的应用场景中提供更精确的结果。

Grok.png

传统模型在处理新数据时,通常需要重新训练或微调。而 Grok-2 具备自适应学习能力,能够在获取新信息后迅速进行调整,以保持高效的表现。这大大提升了模型的实用性和灵活性。

Grok-2 同时还引入了增强的上下文理解机制,能够更好地捕捉句子、段落乃至整个文章的语义关系。

Grok-2.png

Grok 可生成未限制图像

就在 Grok-2 测试版发布之后,马斯克的 XAI 公司就宣布将图像生成模型集成到 AI 服务中,这些图像生成是由 Flux 提供支持,但是最近在一些社交软件中有用户发布了由 Grok 生成的图像,这些图像包含暴力等一些因素,这些在其他的 AI 图像生成器中不能生成的图片。

首先是外媒平台 beebom 在一篇文章中发布的图片,该网站编辑人员利用 Grok 生成了一张拜登拿着刀面对奥巴马的图片。

Grok生成图片-1.png

来源:beebom

然后还通过 AI 模型生成了明星比较露骨的照片,该网站在发布图片时将图片进行了处理。

Grok生成图片-2.png

来源:beebom

除了暴力,露骨等照片之外,Grok 还生成了一张比较危险的照片,照片的内容是巴黎埃菲尔铁塔附近发生了大爆炸,图片非常逼真,如果不将全部的内容发布,只是发布一张图片可能真的会引起一番舆论。

Grok生成图片-3.png

来源:beebom

除此了该网站之外,还有 X 软件的用户也发布了一些 Grok 生成的图像,这位 @chrmontessori 用户发布了一篇推文,里面包含 3 张 Grok 生成的图像,米老鼠与马斯克拿着枪在一所学校。

Grok生成图片-4.png

来源:X

目前该篇推文已经被删除,虽然 AI 可以在生活中许多方面帮助我们,但是就像 xAI 公司发布的 Grok 不加上一些限制的话,那么这些 AI 工具也可能会成为不法分子犯罪的工具,就像这些图片如果在真实一点对社会的影响是非常大的。

结论

Grok 模型虽然和其他的 AI 模型一样可以在一定程度上帮助我们在工作或者其他方面更加的方便,但是不加限制的使用 AI 模型进行一些操作可能会导致一些不好的结果。

本文编辑:@ 小小辉

©本文著作权归电手所有,未经电手许可,不得转载使用。