大型语言模型越狱的伦理问题

经过越狱，或者没有审查的大型语言模型（LLM），毫无疑问能被用于犯罪等不良用途上。那么发布越狱方法，制作没有审查的 LLM，是否意味着不道德？

LLM 遵守的公司规范，以及当地法律，不一定是普世的规则。其他地区、信仰或是不同价值观的人，可能无法正常使用。然后是关于创作，受限的 LLM 不会讨论关于违法的细节，但这样就没法写犯罪小说了。

这其实与 VPN、Tor 以及 E2EE 是相似的，这些技术都能保护隐私。而 VPN 还能起到跨区的作用，比如查看地区限定的内容。但罪犯也能用来隐藏踪迹，帮助其犯罪。

只因为某种技术能被恶意使用，就要完全制止吗？这显然是可以讨论、妥协的议题。就像是高压锅能做炸弹，但没人想着禁止高压锅，或者使其实名购买吧。

所以发布越狱 prompt，以及无审查版本的 LLM，都不应该受到道德批评。就算真的有罪犯用来犯罪，作者也不应被指控为协助犯罪，因为 技术是中立的。

ggame