bigemon/ChatGPT-ToolBox

想问一下关闭监管功能确实有效吗?是否只是自己看不到?而官方能知道?

cr941131 opened this issue · 3 comments

RT

目前会话历史数据是存在服务器的,所以如果要深究,显然官方可以知道你做了什么。
但目前,只要不是大量触碰法律红线(炼铜、种族灭绝、虐杀等严重违规内容),正常使用没什么大问题。

目前ChatGPT审核分成两部分。

  • 首先输入会由模型进行拒绝,只要是得到明确回复的都是这部分在起作用。
  • 另外一部分,则是说完之后,由moderation接口实现二次审查,标黄标红自动删除的功能属于这部分。

不关闭监管时,大量的标红自动删除数据会导致自动发送的警告信。多次警告有可能触发自动ban。

总体来说:开启这个选项的作用,主要是阻止前端回报接口标红并删除数据。有可能可以减少自动警告信的概率(至少我的朋友用了之后再也没收到过)

谢谢回复,也就是说,只要官方不主动查,那么这边即使有违规,在关闭监管的情况下,是不会因为内容实际违规而通知到官方,是这样吗?

谢谢回复,也就是说,只要官方不主动查,那么这边即使有违规,在关闭监管的情况下,是不会因为内容实际违规而通知到官方,是这样吗?

可以这么认为。因为数据量太大了,复查的成本很高。

需要注意的是:官方的红线一直都在调整,目前这些推测不能保证能持续多久。
就目前而言,官方对于不触犯法律的情色内容,或者学习研究为目的构建的恶意请求,容忍度还是很高的。
某种程度上,这些试图绕过模型限制的行为也促进了模型监管的进一步升级。是一种相辅相成的互利关系。

但是触犯到绝大多数国家法律底线的内容就是另外一回事儿了。请务必注意。