那个帮爷爷卖茶叶的善良女孩，可能是ChatGPT _恶意

詹士发自凹非寺
量子位 | 公众号
，越来越刑了!
已有不法分子将其“打扮成”年轻女孩，放社交软件上，引诱男性上钩，进而实施诈骗。
【那个帮爷爷卖茶叶的善良女孩，可能是ChatGPT】△面向中国市场，可能是个朋友圈里的卖茶女孩
事实上，据最新消息，不法用途还不止于此。
它不仅能编写程序，监视键盘输入信息，也能自己生成勒索软件，甚至，还有人用其编写暗网上毒品交易市场各种功能的代码。而对很多不擅长英语的异国黑客，也是协助生成英文钓鱼网站绝佳从犯。
安全研究机构（如Check Point）已关注到了被用于不法行径的问题，引发很多网友热议。
有人感慨：这还只是开始。
也有人提议，要自己构建个聊天机器人，与诈骗聊天机器人唠唠，会发生什么？
所以，是如何被“带坏”的？
恶意打开方式有几种？
在2022年11月刚发布时，就有不少人预测，它可能被用于非法网络犯罪。
甚至有人亲自下场，试验了一下用如何触碰网络犯罪红线。
从构建鱼叉式网络钓鱼邮件，到运行能接受英语命令的反向shell，都能Hold住。
△生成的钓鱼邮件
值得明确的是，上述都停留在“假设”与“警告”中。
直到这两天，IT安全公司Check Point表示，他们找到了确切证据。通过对几个主流地下黑客社区论坛的分析，调研者发现：

文章插图
已有第一批网络犯罪分子使用开发恶意工具，他们中，甚至有人没有代码开发能力。
为证明所言不虚，调研者分享了一些案例。
比如2022年12月29日的一篇帖子，它来自地下黑客论坛，名为《-作为恶意软件的好处》。
帖子作者表示，他已经在尝试用创建恶意软件，随文还分享出一段基于的窃取器的代码。
该程序会搜索12种常见文件类型，比如文档、PDF及图片，当发现特定文件后，程序会将它们复制到Temp文件夹内，压缩并上传到FTP服务器。
网络安全分析者还指出，该程序发送文件过程中并未加密，因此，第三方也可能获得上述传输的文件。
该帖子作者还分享了一段Java代码，它将下载PuTTY 。这是一个常见的SSH和客户端，恶意代码将使用在系统中秘密运行它。通过修改脚本，能下载任何恶意软件。
值得注意的是，这位发帖者是地下黑客论坛活跃分子，曾参与多个非法脚本开发，比如一个试图通过网络钓鱼获得用户敏感信息的C++程序。他还分享过 RAT和的破解版。
网络安全机构调研者认为，此人是个技术能手，这篇帖子是个教程，旨在向低开发能力的不法分子展示利用的方法及实例。
如果上述帖子是技术派带坏的代表，下面一篇帖子，就是门外汉利用AI作恶的旁证。
这位名为USDoD的黑客发布了一个原创脚本，特意强调这是他创建的第一个脚本。下方有人指出该代码很像AI生成代码时，他也承认，提供了一个“好帮手” 。
其功能是对单个文件加密，并将消息认证码（MAC）附在文件末尾，也能将硬编码路径加密，并解密参数文件列表。
尽管上述代码可用于合法场景，但是，一旦部分脚本与语法问题加以调整，它就能变成一个勒索软件。
该发帖者是一位技术不强的活跃分子，曾出售被盗数据库访问权，最近还共享过数据库。
相比生成脚本与代码，更多不法分子专注于用从事更容易上手的非法交易。
一篇2022年12月31日的帖子讨论了——用在暗网创建非法商品市场有多容易。