AI工具进军杀猪盘？

Ur47000 • 2024年5月24日下午12:34 • SEO资讯

AI工具与杀猪盘

AI工具在近年来逐渐成为诈骗犯罪的新工具，特别是在东南亚地区，犯罪集团已经开始使用生成式人工智能聊天机器人进行所谓的“杀猪盘”网络诈骗活动。这种诈骗方式通常涉及潜伏在约会应用程序和社交平台中，将浪漫爱情和赌博心理融入其作案手法，通过聊天机器人与受害者进行互动，以获取信任并诱骗其参与投资等，从而榨取他们的巨额钱财。

AI工具的应用现状

据报道，一些换脸软件公司已经提供了7天24小时的支持，并声称其产品已覆盖一千多个地区。这些公司提供的服务包括送货上门，以及使用AI实时换脸技术进行精准聊天。此外，还有报道称，一家软件提供商在广告中宣称其人工智能实时换脸是精准聊天的必备，该软件还集成了语音克隆功能，对特定目标的模仿相似度可以达到60%至95%。

AI工具对诈骗的影响

AI技术的飞速进步使得生成式内容的真实感和高效性越来越强，以假乱真的现象愈发普遍。当AI生成的内容能够轻松吸引大量关注和流量，为平台和从业者带来可观利益时，他们可能会因利益驱动而忽视对信息的真实性和准确性的把控。特别是对于那些非大型公司的独狼式AI模型，由于缺乏有效的监管和约束，其被滥用甚至用于诈骗的风险更大。

对AI工具监管的必要性

随着AI技术的广泛应用，一系列问题也随之产生。与移动互联网时代相比，AI技术的普及使得虚拟与现实的界限变得模糊，真假信息更加难以辨别。在这种环境下，不仅普通民众容易受到欺骗，就连专业机构也难以幸免。因此，对AI技术的监管显得尤为重要。国内外对AI技术的监管呼声日益高涨，特别是对AI生成内容进行信息标注的需求。