人工智能可能是教育中的一种有价值的工具，但它也带来了一些教育工作者应该注意的关键网络安全漏洞。 黑客利用人工智能弱点和绕过人工智能安全系统的方式越来越多。 以下是当今上升的主要人工智能安全漏洞以及它们如何影响教育。
受损的 AI 训练数据
AI 算法在教育中可能非常有用，但大多数 AI 的黑盒性质构成了严重的网络安全漏洞。 算法是使用训练数据集训练的，这些训练数据教会 AI 理解或识别某些东西。 例如，人工智能可能会被训练来理解 8 年级的代数问题，因此它可以对家庭作业进行评分。
然而，人工智能算法处理信息的方式隐藏在一个黑匣子中，这意味着故障和偏差可能会被忽视。 人工智能可能会无意中错误地学习某些东西或从训练数据中建立错误的连接。 人工智能的黑盒特性也意味着中毒的训练数据可能会被忽视。
黑客可以污染训练数据以包含 隐藏在 AI 中的后门 逻辑。 当黑客想要访问将使用人工智能的系统时，他们只需输入后门的密钥，人工智能就会从训练数据中识别出来。 像这样的后门很难检测到，因为开发人员和用户无法看到 AI 黑匣子中发生的所有连接。
“人工智能算法处理信息的方式隐藏在一个黑匣子中，这意味着故障和偏见可能会被忽视。”
黑客正在适应
在 AI 训练数据中创建后门是一个复杂且耗时的过程，而且主要只有高技能的黑客才能做到。 不幸的是，黑客正在调整他们的攻击策略以绕过人工智能的威胁追踪能力。 事实上，黑客甚至正在创建自己的人工智能算法，这些算法可以超越其他算法。
例如，黑客已经开发出能够 自动破解密码 绕过访问管理系统。 更糟糕的是，黑客正在使用人工智能使他们的勒索软件和恶意软件变得足够聪明，以通过人工智能驱动的安全协议。
这是对教育的严重威胁，因为学校必然需要收集大量有关学生和家庭的个人信息。 学校的数据对黑客来说是一个极具吸引力的目标，他们知道泄露这些数据会引起恐慌，并可能导致受害者支付巨额勒索软件费用。
由于人工智能安全系统面临风险，教育工作者可能会担心他们能做些什么来保护学生。 不过，有解决方案。 例如，基于云的 AI 系统可能比基于传统数据中心的系统更安全。 此外，构建的云智能数据保护系统 专门用于云原生系统，可以在发生 AI 网络攻击时为学校数据提供额外的安全保护。
Deepfake 和错误的图像识别
除了后门之外，黑客还可以利用人工智能算法中的无意故障。 例如，黑客可以篡改照片以诱骗 AI 错误地识别图像。
Deepfake 技术还可用于将视频、照片或音频文件伪装成它们不是的东西。 例如，这可用于创建教师或管理员的欺诈视频。 Deepfakes 可以让黑客进入依赖音频或图像识别进行访问控制的系统。
黑客可以利用 AI 自己创建高度逼真的深度伪造，然后成为攻击模式。 例如，2021 年的欺诈计划 使用 AI 深度伪造 从一家香港银行窃取 35 万美元。
黑客可以以同样的方式将 AI 武器化，以创建对父母、老师或管理人员声音的深度伪造。 他们通过打电话给某人并用基于语音的 deepfake 欺骗他们来发动攻击。 这可用于从学校、学生、教师和家庭窃取金钱或个人信息。
“学校的数据对黑客来说是一个极具吸引力的目标，他们知道泄露这些数据会引起恐慌，可能导致受害者支付高额勒索软件费用。”
依赖人工智能进行测试和辅导
人工智能非常适合自动化教育的各个方面，甚至可以提高学生的教育质量。 例如，流行的语言辅导网站 Duolingo 使用机器学习 AI 帮助学生按照自己的节奏学习。 今天，许多其他学校和教育资源都在使用类似的技术。 这被称为 自适应人工智能学习，它甚至有助于完成测试评分等基本任务。
不幸的是，这种对人工智能的依赖是一个网络安全漏洞。 黑客倾向于瞄准对关键系统运行至关重要的系统。 因此，如果教育工作者依靠某些 AI 辅导工具帮助学生成功完成课程作业，那么对 AI 的依赖就会被黑客利用。 他们可以对关键的教育人工智能算法发起勒索软件攻击，甚至可能操纵人工智能本身。
此特定漏洞是上述几种威胁的组合。 黑客可以在人工智能中创建一个后门，允许他们篡改算法，使其评分不正确或教给学生错误的信息。
“如果教育工作者依靠某些人工智能辅导工具帮助学生成功完成课程作业，那么黑客就可以利用这种对人工智能的依赖。”
警惕教育网络威胁
毫无疑问，人工智能可以成为教育工作者非常有价值的工具。 然而，使用人工智能需要谨慎和积极的网络安全方法，以保护人工智能漏洞不被黑客利用。
随着人工智能在教育和日常生活中变得无处不在，黑客正在开发旨在阻止智能安全系统的新型网络攻击。 通过对这些新出现的网络威胁保持警惕，教育工作者可以采取行动保护他们的系统和学生。
