امنیت باید اکنون توسعه دهندگان هوش مصنوعی را تقویت کند

امنیت باید اکنون توسعه دهندگان هوش مصنوعی را تقویت کند

تمبر زمان: 16 اکتبر 2023، 7:52 بعد از ظهر
امنیت باید اکنون توسعه دهندگان هوش مصنوعی را به هوش داده PlatoBlockchain قدرتمند کند. جستجوی عمودی Ai.

شکی وجود ندارد که GenAI نحوه انجام تجارت را تغییر خواهد داد. شرکت های تحقیقاتی دستاوردهای بهره وری عظیم را تخمین می زنند در تمام بخش ها، که در صورت تحقق، هر صنعت را به طور کامل متحول می کند. با چنین سود بالقوه بزرگ، واضح است که چرا هر شرکتی در تلاش است تا تیم های خود را قادر سازد تا برنامه های کاربردی مبتنی بر هوش مصنوعی را در سریع ترین زمان ممکن بسازند. با این حال، تیم‌های امنیتی باید از هم اکنون برای اطمینان از اینکه این برنامه‌ها مورد بررسی قرار می‌گیرند، اقدام کنند.

مسابقه برای گرفتن ارزش تجاری هوش مصنوعی ابتدا

برخی از شرکت ها تاکنون صدها برنامه مبتنی بر هوش مصنوعی ساخته اند. سرعت توسعه باورنکردنی است، با نمونه های قابل توجهی مانند مایکروسافت برنامه های Copilot را منتشر می کند با نرخی بسیار فراتر از آنچه که یک شرکت بزرگ معمولا ارائه می دهد.

به دلیل ناپختگی چارچوب ها و ابزارسازی اطراف توسعه اپلیکیشن هوش مصنوعی، اینها با طیف گسترده ای از فناوری ها ساخته می شوند. چارچوب‌های توسعه‌ای که بر روی چند مدل بنیادی ساخته می‌شوند، متعدد هستند و به‌طور قابل‌توجهی متفاوت هستند، و همچنان ظاهر می‌شوند. چارچوب هایی مانند LangChain و AutoGPT با سرعت بی سابقه ای محبوبیت قابل توجهی به دست آورده اند. در یک شرکت بزرگ، شما به راحتی می توانید انتظار داشته باشید که ده ها فریمورک مختلف را پیدا کنید که برای ساخت این برنامه ها استفاده می شوند.

اولین سازمان هایی که می توانند سودهای بهره وری از هوش مصنوعی را قبل از سایرین به دست آورند، یک برد بزرگ خواهند داشت. بنابراین، ما در مسابقه ای شرکت می کنیم که در آن باید به چارچوب های موجود در حال حاضر بسنده کنیم و فقط کارها را انجام دهیم. احتمالاً زمان زیادی طول می کشد تا فریمورک ها استاندارد شوند و تا آن زمان دیگر دیر به بازی خواهید رسید.

ما باید با واقعیت روبرو شویم: تجارت - با ابزارها، چارچوب‌ها و مدل‌های تهدید اثبات‌نشده - با سرعت بی‌سابقه‌ای دوباره تجسم می‌شود.

امنیت: از کجا شروع کنیم؟

ساخت بسیاری از برنامه های جدید در چنین بازه زمانی کوتاه، پیامدهای امنیتی بزرگی دارد. اول، اینها فقط برنامه های کاربردی بیشتری هستند، با همان خطرات امنیتی که هر برنامه دیگری معرفی می کند. آنها باید هویت، جریان داده و مدیریت مخفی را به درستی دریافت کنند تا به چند مورد از نگرانی ها اشاره کنیم. دوم، GenAI چالش‌های امنیتی منحصربه‌فردی را ایجاد می‌کند، که چارچوب‌هایی مانند OWASP LLM 10 کمک به گرفتن و آموزش در مورد.

سازمان های امنیتی پیشرفته با همکاری IT مراکز اختصاصی را برای موجودی، ارزیابی و ایمن سازی این برنامه ها گرد هم می آورند. توجه داشته باشید که اینها مستلزم ایجاد فرآیندهای کاملاً جدید و مسئولیت های تازه واگذار شده است. در حالت ایده آل، این مراکز می توانند به عنوان یک منبع توانمند برای توسعه دهندگان عمل کنند و خدمات مدل سازی تهدید و بررسی طراحی را برای اطمینان از رعایت استانداردهای ایمن ارائه دهند.

ایجاد یک منبع متمرکز مانند اینها کار آسانی نیست. پیدا کردن تمام پروژه های مبتنی بر هوش مصنوعی در سراسر یک شرکت یک چالش بزرگ است موجودی همیشه هست. توسعه مهارت‌های فنی مورد نیاز برای ممیزی این برنامه‌ها نیز دشوار است - به‌ویژه به دلیل گسترش چارچوب‌های هوش مصنوعی مختلف، که هر کدام ویژگی‌ها و مشکلات خاص خود را دارند. نظارت بر این برنامه‌ها در حال تولید چالش دیگری است، هم از منظر فنی به دست آوردن داده‌های مناسب از چارچوب‌های توسعه نابالغ و هم از دیدگاه تحلیل امنیتی که بدانیم به دنبال چه چیزی باشیم.

با این حال، اینها چالش های حل نشدنی نیستند. در واقع، آنها از فرمول مشکل امنیتی برنامه معمولی موجودی، ارزیابی امنیتی و حفاظت در زمان اجرا پیروی می کنند. برای پیشبرد و فعال کردن کسب و کارمان برای تسخیر انقلاب هوش مصنوعی، باید پیشرفت در حل این مشکلات را آغاز کنیم.

تمبر زمان:

بیشتر از تاریک خواندن