보안은 이제 AI 개발자의 역량을 강화해야 합니다

보안은 이제 AI 개발자의 역량을 강화해야 합니다

타임 스탬프 : 16 년 2023 월 7 일 오후 52:XNUMX
보안은 이제 AI 개발자에게 권한을 부여해야 합니다. PlatoBlockchain 데이터 인텔리전스. 수직 검색. 일체 포함.

GenAI가 비즈니스 수행 방식을 변화시킬 것이라는 데에는 의심의 여지가 없습니다. 연구 회사들은 막대한 생산성 향상을 기대하고 있습니다. 모든 부문에 걸쳐, 이것이 이행된다면 모든 산업을 완전히 변화시킬 것입니다. 이러한 큰 잠재적 이득을 통해 모든 기업이 팀이 AI 기반 애플리케이션을 가능한 한 빨리 구축할 수 있도록 노력하는 이유는 분명합니다. 그러나 보안팀은 이러한 앱이 정밀 조사를 받을 수 있도록 지금 조치를 취해야 합니다.

AI 비즈니스 가치를 먼저 포착하기 위한 경쟁

일부 기업은 이미 지금까지 수백 개의 AI 기반 앱을 구축했습니다. 다음과 같은 주목할만한 사례를 보면 개발 속도가 정말 놀랍습니다. Microsoft, Copilot 애플리케이션 출시 대기업이 일반적으로 제공하는 속도를 훨씬 뛰어넘는 속도입니다.

프레임워크와 도구가 미성숙하기 때문에 AI 앱 개발, 이들은 광범위한 기술로 구축되고 있습니다. 몇 가지 기본 모델을 기반으로 구축된 개발 프레임워크는 많고 다양하며 계속 등장합니다. 다음과 같은 프레임워크 랭체인 및 자동GPT 전례 없는 속도로 큰 인기를 얻었습니다. 대기업에서는 이러한 애플리케이션을 구축하는 데 사용되는 수십 개의 서로 다른 프레임워크를 쉽게 찾을 수 있습니다.

다른 조직보다 먼저 AI를 통해 생산성 향상을 포착할 수 있는 조직은 큰 승리를 거둘 것입니다. 따라서 우리는 현재 사용 가능한 프레임워크를 활용하여 작업을 완료해야 하는 경쟁에 참여하고 있습니다. 프레임워크가 표준화되는 데는 아마도 오랜 시간이 걸릴 것이며, 그때쯤이면 이미 게임에 착수한 뒤일 것입니다.

우리는 현실을 직시해야 합니다. 비즈니스는 검증되지 않은 도구, 프레임워크, 위협 모델을 사용하여 전례 없는 속도로 재구상되고 있습니다.

보안: 어디서부터 시작해야 할까요?

이렇게 짧은 시간 내에 너무 많은 새로운 애플리케이션을 구축하면 보안에 큰 영향을 미칩니다. 첫째, 이는 다른 응용 프로그램과 마찬가지로 보안 위험이 동일한 더 많은 응용 프로그램입니다. 몇 가지 우려 사항을 언급하려면 ID, 데이터 흐름 및 비밀 관리 권리를 확보해야 합니다. 둘째, GenAI는 다음과 같은 프레임워크와 같은 몇 가지 고유한 보안 문제를 야기합니다. OWASP LLM 상위 10 포착하고 교육하는 데 도움이 됩니다.

고급 보안 조직은 IT와 협력하여 이러한 애플리케이션의 목록을 작성하고 평가하고 보호하기 위한 전용 센터를 구성하고 있습니다. 이를 위해서는 완전히 새로운 프로세스를 만들고 새로 위임된 책임이 필요합니다. 이상적으로 이러한 센터는 보안 표준이 충족되도록 위협 모델링 및 설계 검토 서비스를 제공하여 개발자를 위한 지원 리소스 역할을 할 수 있습니다.

이와 같은 중앙 집중식 리소스를 만드는 것은 쉬운 일이 아닙니다. 기업 전체에서 모든 AI 기반 프로젝트를 찾는 것은 큰 도전입니다. 재고는 항상. 이러한 애플리케이션을 감사하는 데 필요한 기술적 능력을 개발하는 것 역시 어렵습니다. 특히 각각 고유한 특징과 문제가 있는 다양한 AI 프레임워크의 확산으로 인해 더욱 그렇습니다. 프로덕션 환경에서 이러한 앱을 모니터링하는 것은 미성숙한 개발 프레임워크에서 올바른 데이터를 얻는 기술적 관점과 무엇을 찾아야 할지 아는 보안 분석 관점 모두에서 또 다른 과제입니다.

그러나 이는 극복할 수 없는 과제는 아닙니다. 실제로 이들은 인벤토리, 보안 평가 및 런타임 보호의 일반적인 애플리케이션 보안 문제 공식을 따릅니다. 앞서 나가서 우리 비즈니스가 AI 혁명을 먼저 포착할 수 있도록 하려면 이러한 문제를 해결하는 데 앞장서야 합니다.

타임 스탬프 :

더보기 어두운 독서