آسیب‌پذیری‌های امنیت سایبری هوش مصنوعی برای آگاهی معلمان

هوش مصنوعی ممکن است ابزار ارزشمندی در آموزش باشد، اما برخی از آسیب‌پذیری‌های کلیدی امنیت سایبری را نیز ایجاد می‌کند که مربیان باید از آن آگاه باشند. تعداد فزاینده ای از راه ها وجود دارد که هکرها می توانند از ضعف های هوش مصنوعی سوء استفاده کنند و سیستم های امنیتی هوش مصنوعی را دور بزنند. در اینجا نگاهی داریم به آسیب‌پذیری‌های امنیتی برتر هوش مصنوعی که امروزه در حال افزایش هستند و اینکه چگونه می‌توانند بر آموزش تأثیر بگذارند.

داده های آموزشی هوش مصنوعی به خطر افتاده است

الگوریتم‌های هوش مصنوعی می‌توانند در آموزش بسیار مفید باشند، اما ماهیت جعبه سیاه بیشتر هوش مصنوعی‌ها یک آسیب‌پذیری جدی در امنیت سایبری ایجاد می‌کند. الگوریتم‌ها با استفاده از مجموعه‌ای از داده‌های آموزشی آموزش داده می‌شوند که به هوش مصنوعی می‌آموزد چیزی را بفهمد یا تشخیص دهد. به عنوان مثال، یک هوش مصنوعی ممکن است برای درک مسائل جبر کلاس هشتم آموزش ببیند تا بتواند تکالیف را درجه بندی کند.

با این حال، روشی که الگوریتم‌های هوش مصنوعی اطلاعات را پردازش می‌کنند در یک جعبه سیاه پنهان است، به این معنی که اشکالات و سوگیری‌ها می‌توانند مورد توجه قرار نگیرند. یک هوش مصنوعی ممکن است به طور ناخواسته چیزی را به اشتباه یاد بگیرد یا از داده های آموزشی اتصالات نادرست ایجاد کند. ماهیت جعبه سیاه هوش مصنوعی همچنین به این معنی است که داده های آموزشی مسموم می توانند مورد توجه قرار نگیرند.

هکرها می توانند داده های آموزشی را برای گنجاندن الف درب پشتی پنهان در هوش مصنوعی منطق. هنگامی که هکر می خواهد به سیستمی که در آن هوش مصنوعی استفاده خواهد شد دسترسی داشته باشد، می تواند به سادگی کلید درب پشتی را وارد کند و هوش مصنوعی آن را از داده های آموزشی تشخیص می دهد. شناسایی درهای پشتی مانند این می تواند بسیار دشوار باشد زیرا توسعه دهندگان و کاربران نمی توانند تمام اتصالات موجود در جعبه سیاه هوش مصنوعی را ببینند.

روشی که الگوریتم‌های هوش مصنوعی اطلاعات را پردازش می‌کنند در یک جعبه سیاه پنهان است، به این معنی که اشکالات و سوگیری‌ها می‌توانند مورد توجه قرار نگیرند. 

هکرها در حال تطبیق هستند

ایجاد یک درب پشتی در داده‌های آموزشی هوش مصنوعی یک فرآیند پیچیده و زمان‌بر است و چیزی که عمدتاً فقط هکرهای بسیار ماهر قادر به انجام آن هستند. متأسفانه، هکرها استراتژی‌های حمله خود را برای دور زدن توانایی‌های شکار تهدید هوش مصنوعی تطبیق می‌دهند. در واقع، هکرها حتی الگوریتم‌های هوش مصنوعی خود را ایجاد می‌کنند که می‌تواند از دیگر الگوریتم‌ها پیشی بگیرد.

به عنوان مثال، هکرها هوش مصنوعی ساخته اند که می تواند به طور مستقل رمزهای عبور را می شکند برای دور زدن سیستم های مدیریت دسترسی بدتر از آن، هکرها از هوش مصنوعی استفاده می کنند تا باج افزار و بدافزار خود را به اندازه کافی هوشمند کنند تا از پروتکل های امنیتی مبتنی بر هوش مصنوعی عبور کنند.

این یک تهدید جدی برای آموزش و پرورش است زیرا مدارس لزوماً نیاز به جمع آوری مقادیر زیادی از اطلاعات شخصی دانش آموزان و خانواده ها دارند. داده‌های مدارس یک هدف بسیار جذاب برای هکرها است، زیرا می‌دانند که به خطر انداختن این داده‌ها باعث وحشت می‌شود و به طور بالقوه منجر به پرداخت باج‌افزار بزرگ از سوی قربانیان می‌شود.

با در معرض خطر بودن سیستم های امنیتی هوش مصنوعی، مربیان ممکن است نگران این باشند که چه کاری می توانند برای دفاع از دانش آموزان خود انجام دهند. اگرچه راه حل هایی وجود دارد. برای مثال، سیستم‌های هوش مصنوعی مبتنی بر ابر ممکن است ایمن‌تر از سیستم‌های مبتنی بر مراکز داده معمولی باشند. به علاوه، سیستم‌های حفاظت از داده‌های هوشمند ابری که ساخته شده‌اند به طور خاص برای سیستم های بومی ابری، می تواند یک لایه امنیتی اضافی برای داده های مدارس در صورت حمله سایبری هوش مصنوعی فراهم کند.

دیپ فیک و تشخیص تصویر معیوب

علاوه بر درهای پشتی، هکرها همچنین می توانند از اشکالات ناخواسته در الگوریتم های هوش مصنوعی سوء استفاده کنند. به عنوان مثال، یک هکر می تواند عکس ها را دستکاری کند تا یک هوش مصنوعی را فریب دهد تا تصویر را به درستی تشخیص ندهد.

همچنین می‌توان از فناوری Deepfake برای پنهان کردن فایل‌های ویدئویی، عکس یا صوتی به عنوان چیزی که نیستند استفاده کرد. برای مثال می‌توان از آن برای ایجاد یک ویدیوی تقلبی از یک معلم یا مدیر استفاده کرد. Deepfakes می تواند به هکرها اجازه دهد تا وارد سیستم هایی شوند که برای کنترل دسترسی به تشخیص صدا یا تصویر متکی هستند.

هکرها می‌توانند از هوش مصنوعی برای ایجاد دیپ‌فیک‌های بسیار واقعی استفاده کنند که سپس به حالت حمله تبدیل می‌شوند. به عنوان مثال، یک طرح کلاهبرداری 2021 از دیپ فیک های هوش مصنوعی استفاده کرد برای سرقت 35 میلیون دلار از یک بانک هنگ کنگ.

هکرها می توانند به همین روش هوش مصنوعی را برای ایجاد دیپ فیک صدای والدین، معلمان یا مدیران مسلح کنند. آنها با تماس تلفنی با شخصی و فریب دادن آنها با دیپ فیک مبتنی بر صدا، حمله را آغاز می کنند. این می تواند برای سرقت پول یا اطلاعات شخصی از مدارس، دانش آموزان، معلمان و خانواده ها استفاده شود.

«داده‌های مدارس یک هدف بسیار جذاب برای هکرها است که می‌دانند به خطر انداختن این داده‌ها باعث وحشت می‌شود و به طور بالقوه منجر به پرداخت باج‌افزار بالا از جانب قربانیان می‌شود.» 

تکیه بر هوش مصنوعی برای تست و تدریس خصوصی

هوش مصنوعی برای خودکارسازی جنبه های مختلف آموزش عالی است و حتی می تواند کیفیت آموزش دانش آموزان را بهبود بخشد. به عنوان مثال، وب سایت محبوب آموزش زبان Duolingo از هوش مصنوعی یادگیری ماشینی استفاده می کند برای کمک به دانش آموزان در یادگیری با سرعت خود. امروزه بسیاری از مدارس و منابع آموزشی دیگر از فناوری مشابه استفاده می کنند. این به عنوان شناخته شده است یادگیری تطبیقی ​​هوش مصنوعیو حتی در انجام کارهای ضروری مانند درجه بندی آزمون کمک می کند.

متأسفانه، این اتکا به هوش مصنوعی یک آسیب‌پذیری امنیت سایبری است. هکرها تمایل دارند سیستم هایی را هدف قرار دهند که برای عملکرد سیستم های کلیدی بسیار مهم هستند. بنابراین، اگر مربیان برای تکمیل موفقیت‌آمیز دوره‌های آموزشی به ابزارهای آموزشی هوش مصنوعی خاصی برای دانش‌آموزان تکیه کنند، این اتکا به هوش مصنوعی می‌تواند توسط یک هکر مورد سوء استفاده قرار گیرد. آن‌ها می‌توانند یک حمله باج‌افزاری به الگوریتم‌های حیاتی هوش مصنوعی راه‌اندازی کنند یا احتمالاً حتی خود هوش مصنوعی را دستکاری کنند.

این آسیب پذیری خاص ترکیبی از چندین تهدید ذکر شده در بالا است. هکرها می توانند یک درب پشتی در یک هوش مصنوعی ایجاد کنند که به آنها اجازه می دهد الگوریتم را دستکاری کنند تا به اشتباه نمره دهد یا اطلاعات نادرست را به دانش آموزان آموزش دهد.

«اگر مربیان برای تکمیل موفقیت‌آمیز دوره‌های آموزشی به ابزارهای آموزشی هوش مصنوعی خاصی برای دانش‌آموزان تکیه می‌کنند، این اتکا به هوش مصنوعی می‌تواند توسط یک هکر مورد سوء استفاده قرار گیرد.» 

آگاهی از تهدیدات سایبری آموزش و پرورش

شکی نیست که هوش مصنوعی می تواند ابزار بسیار ارزشمندی برای مربیان باشد. با این حال، استفاده از هوش مصنوعی مستلزم احتیاط و رویکردی پیشگیرانه برای امنیت سایبری برای محافظت از آسیب‌پذیری‌های هوش مصنوعی در برابر سوء استفاده هکرها است.

با فراگیر شدن هوش مصنوعی در آموزش و زندگی روزمره، هکرها در حال توسعه انواع جدیدی از حملات سایبری هستند که برای خنثی کردن سیستم‌های امنیتی هوشمند طراحی شده‌اند. با آگاه ماندن از این تهدیدات سایبری نوظهور، مربیان می توانند برای محافظت از سیستم های خود و دانش آموزان خود اقدام کنند.

همچنین ، بخوانید 5 روشی که رباتیک به شما کمک می کند تجارت بیشتری داشته باشید