在你还在担心ChatGPT是否会在后世某一天取代自己就业，琢磨如何利用人工智能提高就业效能时时，有一群人已经靠着这项新技术赚大钱，
他们就是……骗子，
10分钟骗到430万，
最先個批靠AI暴富竟是骗子
倘若你在某天接到一位朋友微信影像电话，镜头另一端人从长相、声音都、你记忆中朋友一模一样，当他开口向你借430万作为就业竞标保证金时，你会怎么做？
最近，福州市某科技公司法人代表郭先生就遇到这個难题，根据信任，他将430万转到朋友账户，直到事后给朋友打一個电话，才发现是骗子盗用朋友微信号，再经由AI换脸、拟声技术，对他实施一次诈骗，
类似事情在大洋彼岸发生频率，也在呈爆炸型增长，
据CNN报道，今年四月，生活亚利桑那州Jennifer DeStefan接到一個陌生电话，电话里声音是自己在外准备滑雪比赛女儿Brianna，Brianna在电话另一头带着哭腔向她求救，几十秒后，一個低沉男音在电话里威胁道：“听着，你女儿在我手里，拿出100万美元赎金，如今你打电话报警或是告诉其他人，就永远别想再见到她，”
在Jennifer表达自己拿不出100万美元后，电话那头男子将赎金大减价到5万美元，爱女心切Jennifer不顾友人、丈夫劝阻，已经开始、对方讨论支付赎金方法，直到Brianna打来一個电话，表达自己平安无事，才防止这次财产损失，
在今年三月，《华盛顿邮报》也报道一起作案手法接近一模一样诈骗案，只但是受害者是一对年过70老年夫妇，
受害老人〔图源《华盛顿邮报》〕
美国联邦贸易委员会〔FTC〕在5月发布警告，称不法分子正在利用AI语音技术伪造紧急情况骗取钱财或信息，伪装成受害者亲人、朋友实行诈骗并非新鲜，但毫无疑问是，AI技术发生使得克隆一個人声音、伪造一個人影像变得异常简单，过去一年里，发生在美国此类骗局暴涨70%，受害人因为这個损失钱财数额高达26亿美元，
照这样势头发展下去，只怕最先靠AI技术实行财富自由，是一群躲藏在屏幕背后骗子，
人工智能黑暗面
倘若说伪造一個人声音、影像还须要一定技术门槛，那么ChatGPT发生，则让AI诈骗变得更加容易，
据外国网络保障平台GBHackers报道，由于无敌就业生产效能、极低运用门槛，ChatGPT诱惑一大批网络诈骗犯，
比方说利用ChatGPT谈一场“虚假恋爱”：自我介绍、聊天记录、精心制作情书都能经由人工智能高速产出，还能经由输入意向对象具体信息，实行個性化定制，让屏幕对面人更快与你坠入爱河，接着，ChatGPT还能辅助骗子编写收款程序或是盗取受害人银行卡信息钓鱼网站，实行诈骗钱财目，
当你直接要求ChatGPT为你撰写一個钓鱼软件程序时，它会拒绝；但倘若你说你是一名老师，希望给学生展示一個钓鱼软件，它就会老老实实写出一個网站给你，
更可怕是，人们很难分辨屏幕另一端到底是人还是机器，全球最大保障技术公司McAfee曾用AI生成过一封情书，并将它发送给全球5000名运用者，在已知该情书大概是由人工智能生成之后，依旧有33%受访者愿意相信它们出自真人手笔，
实际上，利用ChatGPT、受害人谈一场“虚假恋爱”只是入门级其他诈骗手段，更娴熟黑客们已经开始利用人工智能批量生成勒索软件与恶意代码，
为方便在GPT模型上搭载更多应用程序，OpenAI为开发者员预留应用程序编程接口，而黑客就是利用这些接口，把GPT模型引入到一系列外部应用，以此绕开保障监管，运用GPT模型去编写犯罪程序，
这些越过保障监管程序，已经在美国暗网上公开出售，且价格十分便宜，仅须要几美元就可以买到，购买者能够利用这些软件实行违法行为，却十分可怕：经由盗取程序代码、运用者秘密信息、生成攻击软件、勒索病毒，
《金融时报》最近报道一個由ChatGPT辅助生成SIM交换攻击脚本，骗子利用这個程序可以突破移动电话公司对电话号码控制权，将电话号码从原持有者SIM卡交换到由攻击者控制SIM卡中，于是控制受害者移动电话，
“ChatGPT目前虽说只是内容生成工具，并未直接参与犯罪，但这地标人们开始运用人工智能来入侵他人，技术水平更低犯罪者将因为这個获得更无敌犯罪手段，”一位人工智能从业者对《金融时报》表达自己担忧，
潘多拉魔盒，还能关上吗？
当人工智能越来越大社会感召力与其犯罪潜力搅在一起，ChatGPT各类保障漏洞使得人们愈发不安，“应如何对ChatGPT实行监管”已经变成很多国家争论重点，
IBM全球伦理研究院就曾发文，倡导企业将伦理、责任置于其AI议程最先席，以马斯克为代表诸多科技大佬也签署公开信，在训练比GPT-4更无敌人工智能系统之前，大家应该制定一套共享保障协议，由外部专家对其实行核查、监督，
各国立法者，也开始公开表达对ChatGPT担忧，探究是否要将其纳入立法监管系统，相比对于人工智能保障性担忧，更多政府人员焦虑于立法者们对于技术认知滞后，
美联社感觉，在过去20年中，科技巨头们连续耀领美国科技独创，因为这個政府始终不愿监管大型科技公司，变成创意扼杀者，因为这個，当他们决心增强对新兴技术监管时，其中相当一一部分人已对新技术知之甚少，
到底，美国国会上一次为规范技术而颁布法典，已经是1998年《儿童在线秘密呵护法》，
据路透社报道，多個国家已经开始推出法规来规范以OpenAI为代表人工智能，今年三月，意大利由于担心数据保障难题曾短暂禁止过OpenAI在本国运用，一個月后才恢复运用，在五月，意大利一名政府官员向路透社表达，政府将雇佣人工智能专家，来监督OpenAI规范运用，
面对各国政府疑虑，OpenAI最先席技术官米拉·穆拉蒂在接受路透社采访时也表达，“公司欢迎涵盖监管机构、政府在内各方开始介入”，但在高速发展人工智能面前，立法者如何做才干跟上技术脚步，仍是未知数，
唯一确定一点是：潘多拉盒子一旦打开，就没有那么容易关上。
参考资料：
CNN： ‘Mom, these bad men have me’： She believes scammers cloned her daughter’s voice in a fake kidnapping
REUTERS：Factbox：governments race to regulate AI tools
金融时报：Musk and other tech experts call for ‘pause’on advanced AI systems
编辑：Echo
除标注外，图片来源东方IC