社交平台的困境
社交平台在面对AI生成内容的问题上，确实面临着一定的挑战。一方面，AI生成的内容可能会侵犯版权、引发误导或者传播虚假信息，从而对平台的生态环境造成破坏。另一方面，社交平台并没有真正的能力来自动预判和限制AI生成的内容。
平台应对策略
针对这个问题，社交平台采取了一些短期的措施来应对AI生成内容的污染。例如，抖音禁止没有“中之人”的完全由AI生成问答的直播。然而，这些措施只是治标不治本，因为AI生成内容的效率远超人类，而且技术上难以有效判断一段内容是否由AI生成。
开发者的责任
当AI生成内容有可能“污染”大模型时，模型开发者应该负起更多责任，而不是社交平台。这是因为社交平台并没有真正的技术能力来自动预判和限制AI生成内容。此外，娱乐资本论创始人吴立湘提出，“由AI生成”并不意味着人类可以“偷工减料”，从最终结果上看，我们报道的质量和标准和以前没有区别。
AI生成内容的负面影响
AI生成内容的负面影响主要体现在两个方面：一是缺乏事实核查，特别是在医学、金融等专业领域，无资质人员的回答很容易形成误导；二是“GPT体”的显著特征——按条列出要点，最后来一段总结——实际上会在生成过程中，不断强化对前面写过的答案的“自信”。一旦AI生成内容有遗漏或编造成分，它会在剩下的回答中，致力于让前面的内容变得看起来很可信。
结论
综上所述，社交平台在面对AI生成内容的问题上，既要承担起一定的监管责任，也要寻求更加有效的技术手段来区分和处理AI生成的内容。同时，模型开发者也应该承担起更多的责任，确保AI生成的内容不会对用户造成误导。在这个过程中，公众对于AI的认知也需要逐渐提高，以便更好地辨别和处理AI生成的信息。
原创文章，作者：Ur47000，如若转载，请注明出处：https://wyc.retuba.cn/14114.html
