AI は教育における貴重なツールである可能性がありますが、教育者が認識しておくべき重要なサイバーセキュリティの脆弱性ももたらします。 ハッカーが AI の弱点を悪用し、AI セキュリティ システムを迂回する方法はますます増えています。 ここでは、今日増加している上位の AI セキュリティの脆弱性と、それらが教育に与える影響について見ていきます。
侵害された AI トレーニング データ
AI アルゴリズムは教育に非常に役立ちますが、ほとんどの AI のブラックボックスの性質は、深刻なサイバーセキュリティの脆弱性をもたらします。 アルゴリズムは、AI に何かを理解または認識するように教える一連のトレーニング データを使用してトレーニングされます。 たとえば、AI は 8 年生の代数の問題を理解するようにトレーニングされているため、宿題を採点することができます。
しかし、AI アルゴリズムが情報を処理する方法はブラック ボックスに隠されているため、不具合やバイアスが見過ごされる可能性があります。 AI は、うっかり何かを誤って学習したり、トレーニング データから誤った接続を行ったりする可能性があります。 AI のブラックボックスの性質は、汚染されたトレーニング データが見過ごされる可能性があることも意味します。
ハッカーはトレーニング データを汚染して、 AIに隠されたバックドア 論理。 ハッカーが AI が使用されるシステムにアクセスしたい場合、バックドアのキーを入力するだけで、AI はトレーニング データからそれを認識します。 このようなバックドアは、開発者とユーザーが AI のブラック ボックスで行われているすべての接続を確認できないため、検出が非常に困難になる可能性があります。
「AI アルゴリズムが情報を処理する方法はブラック ボックスに隠されているため、不具合やバイアスが見過ごされる可能性があります。」
ハッカーは適応している
AI トレーニング データにバックドアを作成することは、複雑で時間のかかるプロセスであり、主に高度なスキルを持つハッカーだけが行うことができます。 残念ながら、ハッカーは攻撃戦略を適応させて、AI の脅威ハンティング能力を回避しています。 実際、ハッカーは、他のアルゴリズムの裏をかくことができる独自の AI アルゴリズムを作成しています。
たとえば、ハッカーは次のことができる AI を開発しました。 パスワードを自律的にクラックする アクセス管理システムをバイパスします。 さらに悪いことに、ハッカーは AI を使用してランサムウェアとマルウェアを十分に賢くし、AI を利用したセキュリティ プロトコルをすり抜けています。
学校は必然的に生徒や家族に関する大量の個人情報を収集する必要があるため、これは教育にとって深刻な脅威です。 学校のデータは、ハッカーにとって非常に魅力的な標的です。ハッカーは、そのデータを侵害するとパニックが発生し、被害者から多額のランサムウェアが支払われる可能性があることを知っています.
AI セキュリティ システムが危険にさらされているため、教育者は生徒を守るために何ができるかを心配している可能性があります。 ただし、解決策はあります。 たとえば、クラウドベースの AI システムは、従来のデータセンターに基づくシステムよりも安全かもしれません。 さらに、構築されたクラウド インテリジェント データ保護システム 特にクラウドネイティブ システム向け、AI サイバー攻撃が発生した場合に、学校のデータに追加のセキュリティ層を提供できます。
ディープフェイクと画像認識の欠陥
バックドアに加えて、ハッカーは AI アルゴリズムの意図しない不具合を悪用することもできます。 たとえば、ハッカーは写真を改ざんして、AI をだまして画像を誤って認識させることができます。
ディープフェイク テクノロジーは、ビデオ、写真、またはオーディオ ファイルを偽装するためにも使用できます。 これは、たとえば、教師や管理者の不正なビデオを作成するために使用される可能性があります。 ディープフェイクにより、ハッカーは、アクセス制御のために音声または画像認識に依存するシステムに侵入することができます。
ハッカーは AI を利用して非常にリアルなディープフェイクを作成し、それが攻撃モードになります。 たとえば、2021 年の不正スキーム 使用された AI ディープフェイク 香港の銀行から 35 万ドルを盗む。
ハッカーは、これと同じ方法で AI を兵器化し、親、教師、または管理者の声のディープフェイクを作成できます。 彼らは電話で誰かに電話をかけ、音声ベースのディープフェイクでだますことで攻撃を開始します。 これは、学校、学生、教師、および家族から金銭または個人情報を盗むために使用される可能性があります。
「学校のデータは、ハッカーにとって非常に魅力的な標的です。ハッカーは、そのデータを侵害するとパニックが発生し、被害者から高額のランサムウェアが支払われる可能性があることを知っています。」
テストと指導のための AI への依存
AI は、教育のさまざまな側面を自動化するのに優れており、学生の教育の質を向上させることさえできます。 たとえば、人気の語学学習サイト Duolingo 機械学習 AI を使用 生徒が自分のペースで学習できるようにします。 現在、他の多くの学校や教育リソースが同様のテクノロジーを使用しています。 これは次のように知られています。 適応型 AI 学習、テストの採点などの重要なタスクにも役立ちます。
残念ながら、この AI への依存はサイバーセキュリティの脆弱性です。 ハッカーは、主要なシステムの運用に不可欠なシステムを標的にする傾向があります。 そのため、教育者が学生がコースワークを無事に完了するために特定の AI 個別指導ツールに依存している場合、その AI への依存はハッカーによって悪用される可能性があります。 彼らは重要な教育 AI アルゴリズムに対してランサムウェア攻撃を開始したり、AI 自体を操作したりする可能性さえあります。
この特定の脆弱性は、上記の脅威のいくつかの組み合わせです。 ハッカーは AI にバックドアを作成し、アルゴリズムを改ざんして、誤った採点を行ったり、生徒に誤った情報を教えたりすることができます。
「教育者が学生がコースワークを無事に完了するために特定の AI 個別指導ツールに依存している場合、その AI への依存はハッカーによって悪用される可能性があります。」
教育機関のサイバー脅威に常に注意を払う
AI が教育者にとって非常に価値のあるツールになることは間違いありません。 ただし、AI を使用するには、AI の脆弱性がハッカーによって悪用されるのを防ぐために、サイバーセキュリティに対する注意と積極的なアプローチが必要です。
AI が教育や日常生活のいたるところに普及するにつれて、ハッカーはインテリジェント セキュリティ システムを妨害するように設計された新しい種類のサイバー攻撃を開発しています。 教育者は、これらの新たなサイバー脅威に常に注意を払うことで、システムと学生を保護するための措置を講じることができます。
