网络犯罪史上的AI时代已经到来

发布时间 - 2023-07-07 14:27:30    点击率:917次

人工智能领域刚刚发生了划时代的发展,如果你从事网络安全工作,你很快就会意识到它的影响。我自己的专业知识主要来自网络安全,但在过去的几年里,我一直致力于各种研究,其中包括利用各种工具了解人工智能。

你们中的许多人也将对人工智能有越来越多的认识。到目前为止,大多数人都至少尝试过ChatGPT,这是一种很棒的基于文本的聊天机器人AI,能够实时交互,并拥有比历史上任何人类都学识渊博。这已经给网络安全带来了一些问题,因为这种AI的各种功能可以通过API(应用程序编程接口)以非常低的成本被调用。

ChatGPT和其他商业人工智能平台的滥用虽然受到政策的限制,但仍然需要首先检测到任何不道德或非法的使用。这些AI不会故意以违反任何法律为目的,但那些没有任何道德规范的AI却在忙于寻找规避规则的方法。

在我解释它是如何发生的之前,让我先跳转到结局。想象一下,如果网络犯罪分子获得的不是一个庞大的数据中心,而是像ChatGPT 3.5或4.0那样强大的人工智能,能够在一台独立的机器上运行一个完全独立的实例,在那里他们可以决定它遵守什么规则或政策,会发生什么?

从技术上讲,网络犯罪分子重复使用这项工作是非法的,但遗憾的是,在多方努力下,事实证明,可以采用具有ChatGPT 3.5能力的人工智能模型(一种需要大规模数据中心才能运行其基本功能的人工智能),创建一个更小、更高效的版本,从而超越原版本(在迄今为止进行的少量测试中)。

以下是发生的事情:

我们早就被警告过,一旦人工智能到来,它的发展速度将是指数级的。

斯坦福大学研究团队的一组研究人员只使用了175个不同的手动创建任务(自我指导种子任务),并将这些任务与ChatGPT 3.5(感兴趣的人可以看DaVinci版本)的API连接结合使用,他们能够进入自动生成的循环,直到达到52000个对话的样本大小。

然后,他们将这些样本输入到一个单独的人工智能模型(Metas Llama 7B)中,并对其进行微调。到目前为止,该模型能够与原始模型进行有效竞争,而衍生模型仍然需要一些强大的云计算(但只需要运行GPT的一小部分)。

上述执行过程以小时为单位。

值得注意的是,这些任务仅被允许用于研究目的,因为OpenAI的各种条款和条件禁止使用GPT的输出来创建竞争模型。

随着这一成果的公开,研究人员公布了所有的关键数据。他们将由此产生的人工智能聊天机器人模型称为Alpaca 7B。

在对这一结果的可能性感到兴奋的同时,更多的人致力于研究该模型可以被进一步压缩的程度。所使用的过程被称为LoRA(Low-Rank Adaptation,低秩自适应),它所要做的是在每一个方面进行降维——例如,消除冗余特征,简化识别特征,以及在许多情况下,将大量多维公式网格简化为单个数字。

最新文章 第十二版《网络安全企业100强》发布 开源推荐算法为什么并不“可靠”? 虹膜写真风靡年轻人:小心泄露敏感个人信息 国内最大IT社区CSDN被挂马,CDN可能是罪魁祸首? Apache Struts文件上传漏洞 (CVE-2024-53677) 安全风险通告 工信部:关于防范新型勒索病毒Ymir的风险提示 美国报告揭示俄罗斯战略信息攻击:从攻击方法到战略效果 最危险的网络攻击:云勒索软件 个人信息保护合规审计:个人信息删除落地与审计 Forrester:Akamai创新微分段技术引领企业安全升级,实现 152%高ROI Fortinet发布《2025年网络威胁趋势预测报告》 揭秘四大威胁挑战 榜上有名!360入选2024年天津市网络安全应用场景优秀案例 只需一个暗号,即可戳穿语音克隆骗局 写在IDCC2024数字基础设施国际合作大会之前 IETF的运行方式及RFC的形成 《AI时代深度伪造和合成媒体的安全威胁与对策(2024版)》报告发布 UnitedHealth勒索软件攻击事件应吸取的六个备份教训 网络安全产品奥斯卡 2024年度赛可达优秀产品奖(SKD AWARDS) “危“”机“并存,五位网络安全大咖预警2025年安全态势 赋能智算未来,CDCE2024国际数据中心展12月5日上海璀璨开幕 俄罗斯黑客组织渗透和利用巴基斯坦黑客组织服务器案揭秘 国家安全部:警惕开源信息成为泄密源头 “清朗·网络平台算法典型问题治理”专项行动中的排名算法 游戏玩家请注意!Winos4.0木马已“潜伏” 2024 DAMS中国数据智能管理峰会即将在上海举办 WAF气数已尽? 网安巨头Palo Alto全球数千防火墙被攻陷:因开发低级错误造成零日漏洞 数字城市AI安全运营中心签约揭牌,360赋能长三角城市安全新篇章 勒索软件忙招人,2024年网络威胁五大新趋势 360发布全球首份《大模型安全漏洞报告》,曝光近40个大模型相关安全漏洞 值得关注的十二大网络安全风险评估工具及选型指南 俄黑客通过“近邻攻击”远程入侵美国企业WiFi网络 四校签约、六家授牌!360与河南高校再摘网络安全人才培育新果实 Apple多个在野高危漏洞在野利用通告 苹果官方警告:零日漏洞攻击瞄准Mac电脑用户 《密码法》颁布五周年:法治成效、实施难点与未来走向 27天!揭秘身份管理中凭证修复为何如此艰难? 微软“清理门户”,禁止杀毒软件访问Windows内核 云原生环境下的七大网络安全威胁及应对建议 ​透析恶意软件“四大家族”
在线客服
联系方式

热线电话

18556842815

上班时间

周一到周五

公司电话

027-85365976

二维码
线