不需要先知就知道计算机安全将在 2024 年成为新闻，而且可能不是以一种好的方式。我们不知道的是，到 2024 年，网络犯罪分子将如何试图突破防御并窃取有价值的数据。这就是我们的专家团队的用武之地。
人工智能的民主化将是网络安全的一把双刃剑，Intuit高级副总裁兼首席信息安全官Atticus Tysen预测.
“虽然人工智能的民主化显示出巨大的前景，但其广泛使用对网络安全构成了前所未有的挑战，”泰森说。“人工智能将演变出针对企业的特定攻击，成为针对企业、个人及其所依赖的基础设施的持续、无处不在的威胁。即便如此，这将是一场与威胁行为者的竞赛，以设计有弹性的系统和保护措施。如果我们失败了，那么在不久的将来，成功的黑客攻击变得司空见惯并造成严重破坏的风险是一个明显而现实的危险。
将 AI 与同等部分的勒索软件相等部分相结合，您就已经完成了 Veritas Technologies 高级副总裁兼数据保护总经理 Matt Waxman 所设想的一半.
“第一次端到端的人工智能驱动的机器人勒索软件攻击将为组织带来网络犯罪痛苦的新时代，”Waxman预测。“像 WormGPT 这样的工具已经让攻击者很容易通过人工智能生成的网络钓鱼电子邮件来改善他们的社会工程，这些电子邮件比我们以前发现的那些更有说服力。到 2024 年，网络犯罪分子将通过首次端到端 AI 驱动的自主勒索软件攻击来全面实施 AI。从类似机器人呼叫的自动化开始，最终人工智能将用于识别目标、执行违规行为、勒索受害者，然后将赎金存入攻击者的账户，所有这些都具有惊人的效率，而且几乎没有人际互动。
对于没有博士学位的人来说，生成式人工智能工具的使用变得越来越容易。这对网络骗子来说是个好消息，但对我们其他人来说却不是个好消息，Skybox Security产品管理副总裁Adi Dubin表示.
“到 2024 年，将过渡到 AI 生成的定制恶意软件和网络攻击的全面自动化，”Dubin 说。“网络安全团队面临着使用生成式人工智能和其他先进工具快速自动化恶意软件创建和执行的重大威胁。2023 年，能够生成高度定制恶意软件的 AI 系统应运而生，为威胁行为者提供了新的强大武器。在未来的一年里，重点将从仅仅生成量身定制的恶意软件转向自动化整个攻击过程。这将使即使是不熟练的威胁行为者也更容易发起成功的攻击。
Onapsis 首席技术官 JP Perez-Etchegoyen 表示，对 AI 的激增投资将引发 AI 安全的重大转变并重塑格局
“随着人工智能模型，特别是大型语言模型和生成式人工智能，被整合到不同行业软件链的各个方面，保护这些技术免受及时注入和其他恶意攻击等不断变化的威胁的需求将达到前所未有的水平，”Perez-Etchegoyen说。“尽管这些进步相对新颖，但采取严格安全措施的必要性将获得牵引力，这标志着人工智能技术旅程的分水岭。随着我们继续努力应对海量数据和新挑战的未知领域，我们将见证各方齐心协力，加强界限，确保这项变革性技术的负责任增长。
过去几年采取的安全预防措施将迫使黑客创造性地使用他们的数据窃取技术，该研究实验室经理兼Capterra高级安全分析师Zach Capers说.
Capers说：“企业似乎已经从大流行引发的漏洞的涌入中恢复过来，并开始以前所未有的方式锁定系统。这意味着网络犯罪分子将增加对剥削员工而不是机器的社会工程计划的依赖。进入 2024 年，GetApp 研究发现 IT 安全经理最关心的是高级网络钓鱼攻击。我们不仅在谈论电子邮件网络钓鱼。SEO 中毒攻击是一种日益严重的网络钓鱼威胁，旨在通过利用搜索引擎算法将受害者引诱到恶意的相似网站。这意味着搜索在线云服务的员工可能会发现一个虚假网站，并将他们的凭据直接交给网络犯罪分子，让他们的机器感染恶意软件，或两者兼而有之。到 2024 年，对员工进行教育比以往任何时候都更加重要，这些方法用于诱骗他们交出可能导致破坏性网络攻击的敏感信息。
Veriff 欺诈预防和体验高级总监 David Divitt 表示，2023 年的欺诈行为有所增加，但技术改进也在增加。描述网络安全的猫捉老鼠游戏将继续下去。
“在过去的一年里，整体欺诈行为增加了20%，并将持续到2024年，”迪维特说。“随着使用生物识别技术进行身份验证的增加，我们将看到使用具有活体的深度伪造的帐户接管数量增加。随着人工智能等工具变得越来越容易和更便宜地访问和促进，我们将看到更多的冒充和身份欺诈类型的攻击。我们将看到更多的假冒攻击被推向大众，以及使用深度伪造库和获得身份的大规模大规模攻击。伪造模板文档、深度伪造生物识别技术和大规模被盗凭证的三重奏将继续成为迫在眉睫的威胁。
对于Rubrik Zero Labs的负责人Steve Stone来说，更多的数据意味着更多的安全问题
“加速的数据爆炸将迫使人们重新思考安全策略，”斯通说。“到 2024 年，组织将面临更严峻的挑战，即在快速扩展和变化的表面积上保护数据。解决这一问题的一种方法是，对 SaaS 和云数据的可见性与在本地环境中的可见性相同，尤其是在现有功能下。这将是明年许多组织的主要网络安全重点。更多的人会认识到，整个安全结构已经发生了变化——它不再是保护单个城堡，而是一个相互连接的大篷车。
隐私专业人员需要迅速提高人工智能时代的技能，Intuit的首席隐私官Elise Houlik说。
“随着个人数据变得越来越有价值，人工智能进一步渗透到全球几乎每个领域，当今隐私专业人员的定义和所需的技能将需要迅速发展，”Houlik说。“隐私团队比以往任何时候都更需要与系统架构师、人工智能科学家和工程师、网络安全团队、产品开发人员、隐私工程师和其他技术学科密切合作，以确保平台正确处理个人数据，并以最负责任的方式使用这些数据。使问题复杂化的是分散且具有挑战性的全球人工智能监管环境，随着全球框架越来越受到关注，从数据隐私的角度来看，持续提升技能的需求变得更加紧迫。
Egress产品管理副总裁史蒂夫·马龙（Steve Malone）预测，人工智能副驾驶的激增将不利于此.
“随着越来越多的技术产品提供'副驾驶'人工智能助手，我预计人工智能工具的毒害或接管将导致用户的破坏、妥协和操纵，”马龙说。“事实上，人工智能已经进入了首席信息安全官的大脑;我们的 2023 年电子邮件风险报告显示，72% 的网络安全领导者担心使用聊天机器人来改善网络钓鱼攻击。到2024年，它必将成为一股突出的力量。
人工智能将为我们提供新的工具来打击网络暴徒，例如无状态的人工智能代理，Cohesity 的现场首席信息安全官 Dale “Dr. Z” Zabriskie 预测.
“技术世界正在以非常快的速度发展，随之而来的是新兴技术的技能差距比以往任何时候都大得多。需要开发新的工具，作为母语/自然语言与工程语言或技术术语之间的翻译引擎，“Z博士说。“为了解决这个问题，我们已经开始看到人工智能代理的新兴趋势——使用一组预定义的工具进行行动和推理的系统——以解决比传统RAG架构更复杂的情况。代理和工具组合将用于协助人类进行更复杂的系统管理和操作自动化。
随着多功能身份验证 （MFA） 成为标准，密码在安全圈中已经过时。安全格局的这种变化具有重要意义，Code42 首席执行官 Joe Payne 说.
“随着组织迅速采用Okta Fastpass等技术，该技术使用生物识别技术而不是密码进行身份验证，不良行为者的运作方式将发生变化，”Payne说。“我们预计在两个领域会增加：由社会工程引起的违规行为（已经在上升），以及由内部人员造成的违规行为（已经超过所有违规行为的40%）。有权合法访问源代码、销售预测和联系人以及人力资源数据的内部人员在离开竞争对手或创办自己的公司时继续从组织中获取数据。随着我们降低黑客使用弱密码访问我们数据的能力，对解决内部问题的关注将变得更加明显。