来源：量子位
那个 " 无所不能 " 的 GPT-3，现在触及了人类道德的最底线。
2019 年 12 月，美国犹他州初创公司Latitude，推出了一款开拓性的在线游戏《人工智能地下城》 ( AI Dungeon ) ，灵感来源于经典游戏《龙与地下城》 ( Dungeons&Dragons ) 。
这款游戏一开始就用 OenAI 的 GPT-3 作为噱头。
玩家可以通过输入富有创造性的关键词，来创建冒险故事。
但是，没想到今年却活生生搞成了暗黑故事。
因为游戏竟出现了带有儿童***的内容！
出现儿童***内容
开始的画风是很正常，但游戏玩家玩着玩着，就开始采用一些很过分的词汇作为关键词输入。
输出的角色也就越来越暴力、***，故事场景也越发离谱。
最近监控系统显示，一些玩家甚至通过游戏生成了涉及儿童性侵的故事。
这到底是道德的沦丧，还是人性的扭曲？
Latitude 正面临着双重挑战
虽然 Latitude 拒绝透露有多少个故事包含性内容，但 OpenAI 说，AI Dungeon 每天吸引着超过 20,000 名玩家。
上周有个 AI Dungeon 的玩家发布了一个安全漏洞，使游戏中生成的每个故事都可以公开访问。
这种安全漏洞使一些玩家对 Latitude 审核内容的新方法气不打一处来。
更悲催的是，Latitude 同时还面临 OpenAI 对其文本生成器进行更严格控制的挑战。
OpenAI 发言人说，现在 Latitude 必须使用 OpenAI 的过滤技术。
目前，Latitude 正在开始禁止曾使用带有儿童***内容的玩家，OpenAI 最近发出警告之后，Latitude 也正在研究 " 必要的更改 "。
正在整改
Latitude 上周启用了新的审核系统，它采用了一种新的过滤器系统，想要防止 GPT-3 生成 " 未成年人的性内容 " ，但在其用户群体中引发了大量抗议。
一个问题是它太灵敏了。
这个系统有时会禁止涉及儿童或例如 " 五岁 " 等短语相关的故事程序的生成。
另一个问题是它之前只管涉及成年人的虚构***作品，导致出现了现在的 bug。
看来，未成年人的***内容问题的解决的确不是那么容易。
去年有一段时间，玩家注意到 Latitude 试用过一个过滤器，会自动将出现的 " *** " 一词替换为 " 尊重 "，但目前这个功能已经被删除了。
Latitude 在 4 月 27 日的公告声明中，强调了发布的测试系统重点是防止使用 AI Dungeon 创建儿童性**的内容。
而 OpenAI 的首席执行官 Sam Altman 在一份声明中说：" 在某些情况下，内容调整的决策是困难的，但这个不是。这不是我们所有人想要的 AI 的未来。"
是的，的确不是我们想要的。
Latitude 还在继续整改和调整。
但你觉得能完全控制现在的局面吗？
网友：GPT-3 的 " 锅 "，还是 AI Dungeon 的 " 锅 "？
这一系列的迷惑操作在 Latitude 社区中炸开了锅。
有些客观的网友是这样评论的 ：
如果系统随机生成这样的故事，我会理解，但是既然是用户特别要求这样的故事，那么问题不应该出在用户身上吗？如果应用相同的逻辑，那么在 Google 文档中键入的任何文本也需要检查 CP。
另外一位网友回复道：
区别在于：GPT-3 经常会对 " 性 " 的东西做出反应，即使目的是非 " 性 " 的。所以，举一个假设的例子：你输入 " 我骑上了马 "，它的反应是 " 马开始有了高潮 "（我只是在编，但关键是 " 骑 " 在不同的上下文中意味着不同的东西）。
还有人认为：
老实说，我觉得 AI Dungeon 对这件事完全不负责。人们使用技术来解决问题，事实就是如此。对于这些恋童癖者而言，最好是通过 AI 来实现自己的幻想，而不是真正现实中的孩子。
对此，另一位网友回复道：
如果它加深并扩大了他们的幻想，那就是一个问题。
细心的网友们还发现了一点，Latitude 在 4 月 27 日的公告声明中，暗搓搓地提了这么一句：
"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."
AI Dungeon 将继续支持其他 NSFW 内容，包括成人内容，暴力和亵圣。
听听～
这不禁让人联想他们的潜台词：
我们只是遇到这件事了就紧急公共处理，但处理归处理，其他能吸引流量的我们一个都不会落下。
所以，Latitude 是不是还想打擦边球？
AI 游戏带来道德伦理问题，下一步会不会愈演愈烈？
游戏生成的道德伦理问题可以窥视出人类内心中的深渊。
如何负责任地设置能吸收大量互联网负面文本的 AI 系统，俨然已成为 AI 研究的热门话题。
这个问题不仅会影响 Latitude，也会影响更多采用 AI 创新技术的公司。
治标上，应该控制 GPT-3 的文本生成，使得从理论上无限的句子中，仅生成那些在道德上合理，不包含偏见且没有违反任何法律的语句。
而治本上，只有人类通过加深对事物的理解和道德上的规范，才可能根本性地解决。
另外，值得深思，只是监管成人***问题就足够了吗？
AI 游戏带来了无限想象和创作空间的可能性，但却导致了网络***暴力的泛滥和任意生成。
在监管过程中又持续出现了游戏公司和 OpenAI，游戏公司和客户之间的对立和矛盾，如果不能加以控制，下一步更大的问题将会继续加剧。
这就是 AI 技术发展中不可逆转的问题吗？
如何把握好 AI 场景创新和监管规范的平衡？
这有什么更好的办法能够解决？
值得每一个 AI 从业者深思。
