AI의 황금기… 또는 보안 위협?

우리는 인공 지능의 황금기에 살고 있습니까? 예측하기가 어렵고 잘못된 조언일 수도 있습니다. 누가 그런 신기술의 미래를 예측하고 싶습니까?

그러나 우리는 몇 가지를 확실히 말할 수 있습니다. 성우부터 각본 초안까지 창작물에 인공지능을 적용하는 일이 많이 이뤄지고 있다. 그러나 AI는 단조로운 일을 처리할 때 가장 유용할 것입니다. 약속이 초기 실험과 일치한다면 이는 개발자에게 희소식입니다. 첫 번째 코드 초안을 쉽게 생성하고 개발자가 수정하고 반복할 수 있도록 준비할 수 있습니다.

그러나 기억하는 것이 중요합니다. 모든 코더가 합법적인 사업을 위해 일하는 것은 아닙니다.. 사이버 보안 위협 행위자들은 보다 비즈니스적인 목표를 모방하면서 새로운 기술과 기법도 채택하고 있습니다. 우리가 AI의 황금 시대에 진입하는지 여부에 관계없이 AI가 향후 몇 년 동안 맬웨어 및 기타 위협 개발에 도움이 될 것으로 기대할 수 있습니다.

제도 코드 및 사기

최근 몇 년 동안 우리가 목격한 한 가지 추세는 "as-a-service" 제품의 증가입니다. 초기 해커는 땜장이이자 장난 꾸러기였으며, 전화 시스템을 속이거나 대부분 재미로 혼란을 야기했습니다. 이것은 근본적으로 바뀌었습니다. 위협 행위자는 전문적이며 다른 사람이 사용할 수 있도록 제품을 판매하는 경우가 많습니다.

AI는 이러한 작업 방식에 매우 잘 맞을 것입니다. 특정 문제를 해결하기 위해 코드를 생성할 수 있는 AI는 취약점을 대상으로 코드를 수정하거나 기존 코드를 가져와서 변경할 수 있으므로 특정 패턴을 찾는 보안 조치로 쉽게 감지되지 않습니다.

그러나 AI의 오용 가능성은 여기서 그치지 않습니다. 많은 피싱 이메일은 효과적인 필터링 도구에 의해 탐지되어 정크 폴더로 이동합니다. 받은 편지함에 도착하는 사람들은 종종 매우 명백하게 사기이며 너무 심하게 작성되어 거의 이해할 수 없습니다. 그러나 AI는 이 패턴을 깨고 감지를 피할 수 있고 필터와 최종 사용자 모두를 속일 수 있을 만큼 잘 작성된 수천 개의 그럴듯한 이메일을 생성할 수 있습니다.

이 공격의 더 표적화된 형태인 스피어 피싱도 이 기술로 혁명을 일으킬 수 있습니다. 물론, 현금을 송금하거나 긴급하게 기프트 카드를 사라고 요청하는 상사의 이메일을 무시하기 쉽습니다. 사이버 보안 교육은 직원들이 이러한 종류의 사기를 피하는 데 도움이 됩니다. 하지만 딥 페이크 전화나 화상 채팅은 어떻습니까? AI는 방송 출연과 팟캐스트를 무시하기 훨씬 어려운 설득력 있는 시뮬라크럼으로 바꿀 수 있는 잠재력을 가지고 있습니다.

AI 사이버 공격에 맞서 싸우다

AI가 적에게 주는 이점에 맞서 싸울 수 있는 두 가지 주요 방법이 있습니다. 더 나은 AI와 더 나은 교육 — 그리고 둘 다 필요합니다.

이 차세대 AI의 출현으로 새로운 군비 경쟁이 시작되었습니다. 사이버 범죄자들이 이를 사용하여 공격을 발전시키듯이 보안 팀도 이를 사용하여 방어를 발전시켜야 합니다.

AI가 없으면 방어는 공격을 방지하기 위해 과로한 사람과 사전 프로그래밍된 특정 패턴에 대한 모니터링에 의존합니다. AI 방어 도구는 공격 벡터를 예측하고 네트워크 및 시스템의 민감한 영역을 정확히 찾아낼 수 있습니다. 또한 악성 코드를 분석할 수 있으므로 새로운 공격의 작동 방식과 방지 방법을 더 잘 이해할 수 있습니다.

AI는 긴급 상황에서 비상 정지 기능을 수행할 수도 있습니다. 위반을 감지하면 네트워크를 비활성화하고 전체 시스템을 잠글 수 있습니다. 비즈니스 연속성 관점에서 이상적이지는 않지만 데이터 유출보다 피해가 훨씬 적을 수 있습니다.

하지만 AI와 AI와의 싸움만이 답은 아니다. 인간의 지능도 필요합니다. 아무리 똑똑하고 표적이 되어도 피싱 공격에 대한 최선의 방어책은 무엇을 찾아야 하는지 알고 미끼를 물지 않을 만큼 의심스러운 직원이나 고객입니다. 강력한 보안 정책과 모범 사례 사이버 위생을 구현하는 것이 공격 방어의 핵심입니다.

이는 AI 공격의 징후를 포함하도록 교육을 업데이트해야 함을 의미합니다. 교육은 AI와 함께 진화해야 합니다. 몇 년마다 단일 교육 과정을 진행하는 것은 해당 교육이 빠르게 구식일 때 더 이상 중단되지 않습니다.

AI 기반 사이버 공격의 가능한 징후는 빠르게 변화하고 있지만 일반적으로 공격은 다음과 같습니다.

• 빠르고 확장 가능, 단기간에 여러 취약점을 악용합니다.
• 적응 및 회피, 감지 및 대응을 피하기 위해 전술과 기술을 변경합니다.
• 타겟팅 및 개인화, AI를 사용하여 설득력 있는 피싱 이메일 또는 사회 공학 캠페인을 만듭니다.
• 기만 및 조작, AI를 사용하여 딥페이크, 음성 복제 또는 텍스트 생성과 같은 가짜 또는 변경된 콘텐츠를 만듭니다.
• 은밀하고 끈질긴, 눈치 채지 못한 채 오랫동안 네트워크 인프라에 숨어 있습니다.

이러한 징후는 완전하지 않으며 일부 AI 기반 공격은 모든 징후를 나타내지 않을 수 있습니다. 그러나 그들은 다음을 나타냅니다. AI가 사이버 보안에 가하는 위협 수준.

AI 기반 사이버 공격에 효과적으로 대처하기 위해 기업은 개별 범죄자를 넘어 생각하고 AI를 사용하여 위험 기반 접근 방식을 사용하여 정교한 캠페인을 시작할 수 있는 국가 후원 행위자 또는 범죄 조직의 공동 공격에 대비해야 합니다. 그들은 또한 능동적 전략 여기에는 정기적인 보안 감사, 백업, 암호화 및 사고 대응 계획이 포함됩니다. 이는 PCI-DSS와 같은 잘 알려진 보안 인증을 획득함으로써 가장 쉽게 달성됩니다.

마지막으로 조직은 무결성, 기밀성 및 가용성을 보장하고 적대적 공격, 데이터 중독 및 모델 도용의 위험을 완화하여 자체 AI 시스템의 사이버 보안을 개선해야 합니다.

이러한 전략은 비즈니스를 보호하는 데 도움이 되지만 독립적이어서는 안 됩니다. 보안은 협력해야 합니다. 다른 조직, 연구원 및 당국과 협력하여 정보, 모범 사례 및 학습할 수 있는 실패를 공유함으로써 기업은 AI 보안 위협의 새로운 물결에 더 잘 대비할 수 있습니다.

AI는 새로운 위협이자 이전 위협의 연속입니다. 이러한 위협이 더욱 정교해지고 많아짐에 따라 기업은 사이버 위협에 대처하는 방법을 발전시켜야 하지만 많은 기본 사항은 동일하게 유지됩니다. 이러한 권리를 얻는 것은 여전히 ​​중요합니다. 보안 팀은 오래된 아이디어에서 벗어나 비즈니스를 안전하게 유지하기 위해 구축할 필요가 없습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 자동차 / EV, 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• BlockOffsets. 환경 오프셋 소유권 현대화. 여기에서 액세스하십시오.
• 출처: https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-