GenAI 및 자동화: 데이터 센터의 미래 가속화

GenAI 및 자동화: 데이터 센터의 미래 가속화

타임 스탬프 : 23 년 2023 월 9 일 31:XNUMX AM

의뢰받은 자동화 및 생성 AI(GenAI) 시대에 "데이터 센터"의 진정한 의미를 재고해야 할 때입니다. 퍼블릭 클라우드에 많은 투자를 한 사람들에게 데이터 센터는 자동화 및 GenAI와 관련하여 가장 먼저 생각하는 장소가 아닐 수 있지만 이러한 기술은 모든 환경에서 가능한 것을 빠르게 변화시키고 있습니다.

XNUMX년 또는 XNUMX년 전 기업이 신용 카드를 사용하고 개발자를 클라우드 리소스에 자유롭게 배치하여 IT를 우회하기 시작했을 때 퍼블릭 클라우드는 절대적으로 올바른 선택이었습니다. 대부분의 대규모 조직에서 내부 고객은 종종 무시되거나 고객의 요구 사항이 완전히 충족되지 않았습니다. 그들은 유연성을 원했고 확장성을 갈망했으며 인큐베이션 프로젝트가 번창할 수 있도록 낮은 초기 비용이 필요했습니다.

시간이 멈춘다면 아마도 데이터 센터의 종말에 대한 무서운 예고가 옳았을 것입니다. 나는 울타리의 반대편에 대해 더 많이 알기 전에는 꽤 클라우드 전도사였습니다. 그렇다면 왜 이 멸종 수준의 사건이 일어나지 않는 것일까요? 데이터 센터가 적응했기 때문입니다. 물론 온프레미스에서 사용할 수 있는 "aaS" 및 구독 모델이 있습니다. 그러나 진정한 안정의 힘은 자동화였습니다.

오늘의 이야기는 GenAI와 데이터 센터의 자동화를 강화하여 퍼블릭 클라우드와 거의 동등한 경험을 제공하는 방법입니다. 거기에 도달하기 전에 데이터 센터에서 역할 자동화 및 스크립팅이 수행한 역할을 살펴봐야 합니다. 몇 가지 필수 사항을 설명하는 것으로 시작한 다음 자동화 및 GenAI가 온프레미스에서 가능한 사항을 변경한 이유를 설명합니다.

클라우드 운영 모델 및 코드형 인프라

기본부터 시작하겠습니다. 클라우드의 기반은 코드형 인프라와 IT를 서비스형으로 사용한다는 아이디어였습니다. 개발자는 환경을 빠르게 가동하고 작업을 시작하기 위해 스토리지 관리자, IT 운영 담당자 또는 네트워킹 팀과 대화할 필요가 없었습니다. 이것은 2023년에 테이블 스테이크가 되어야 하며 좋은 소식은 전적으로 직접 구축할 수 있다는 것입니다. 이 운영 모델을 채택한다는 것은 IT가 자동화와 함께 정책 및 프로세스를 활용하여 환경에서 마찰을 제거한다는 것을 의미합니다.

프로젝트 정신

프로젝트 정신 – 확대하려면 클릭

클라우드 운영 모델을 자동화한 최종 경험의 시각적 표현

자동화 도구 세트 및 원격 측정 데이터

오늘날 데이터 센터에 대한 탁월한 제어 및 통찰력을 제공하는 많은 자동화, 관리 및 원격 측정/AIOps 제품이 있습니다. 데이터는 AI의 기반이자 데이터 센터를 효과적으로 관리하는 기반입니다. 현재 데이터 센터의 제어 및 가시성은 종종 퍼블릭 클라우드에서 달성할 수 있는 것의 상위 집합입니다. 물론 하이퍼스케일러가 해당 부서에서도 훌륭한 작업을 수행했습니다. 클라우드의 다중 테넌트 특성을 고려할 때 클라우드 공급자는 모든 고객을 안전하게 유지하기 위해 일부 운영 지식을 가려야 합니다. 그 결과 일부 모니터링 시스템을 배포할 수 있는 방법과 수집할 수 있는 데이터를 제한하는 아키텍처 결정이 내려집니다. 한 가지 중요한 초점은 이러한 솔루션을 강력하게 통합하고, 자동화 및 코드형 인프라를 수용하고, 모든 것을 측정/모니터링하고, 모든 역할에 대해 응집력 있는 워크플로를 사용하는지 확인하는 것입니다.

공통 자동화/관리 스택

공통 자동화/관리 스택 – 확대하려면 클릭

공통 자동화/관리 스택의 시각적 표현

GenAI를 통한 차세대 IT 자동화

이를 통해 GenAI를 통합하는 데이터 센터의 차세대 진화를 경험할 수 있습니다. 고객이 마케팅 컨설턴트에게 물리적 및 가상 인프라를 위한 HCI 배포 실습 랩을 구축하도록 한 다음 도움을 줄 주제 전문가를 제공하지 않은 과거 역할에 대한 재미있는 이야기를 들려드리겠습니다. 확실하지 않다면 그 마케팅 컨설턴트는 저였고 아마도 제가 지금까지 작업한 프로젝트 중 가장 도전적인 프로젝트 중 하나였을 것입니다. 코드 스니펫과 YouTube 자습서를 사용하여 이러한 작업을 수행하는 방법의 기초를 다졌습니다. 나는 퍼즐을 조립하는 데 몇 주를 보냈고 각 퍼즐 조각이 어떻게 맞춰지는지 알아냈습니다. 기적적으로 코딩에 대해 잘 몰랐음에도 불구하고 실제로 제대로 해냈습니다. 어쨌든, 여기 원더월이 있습니다… 제 말은 여기 GenAI가 그렇게 하고 있다는 뜻입니다.

코드 조립 기계

GenAI는 우리가 찾고 있던 검색 엔진 및 코드 조립 기계입니다.

이제 제 실습 랩에서 Windows Server를 설치하는 것보다 훨씬 더 많은 일을 하고 있었지만 나머지 프로세스를 제공하도록 요청했다면 의심할 여지가 없었습니다. 중요한 것은 코드로서의 인프라 정신과 개발자가 이러한 유형의 호출 또는 런북에 익숙하지 않을 수 있는 새로운 환경에서 GenAI가 실제로 도움이 될 수 있는 새로운 협력자라는 점입니다. 많은 사람들이 공통 인프라 스크립트에 대한 액세스가 널리 퍼져 있다는 사실을 깨닫지 못합니다. 종종 기술 회사에서 직접 작성하기도 합니다. 하드웨어 및 소프트웨어 벤더 모두 대규모 런북 리포지토리를 보유하고 있으며 때때로 이를 찾는 것이 중요합니다. GenAI를 입력하십시오. 또 다른 중요한 고려 사항은 인프라 자체가 지능적이고 안전하다는 것입니다. 이러한 명령은 원격 관리 목적으로 수천 대의 서버로 푸시될 수 있습니다. 이렇게 하면 환경 관리에 대한 기준이 크게 낮아집니다.

GenAI 및 프로세스 구축

내가 가장 좋아하는 고객 참여 사례 중 하나는 길을 잃거나 스마트폰과 함께 성장한 사람들에게는 헤아릴 수 없는 누군가에게 연락할 수 없는 이야기와 같이 다소 길게 들릴 수 있습니다. 우리는 컨테이너에 대해 많은 이야기를 듣지만, 한 고객에게 이 주제에 대해 이야기했을 때 그는 "VMware 관리자도 유지할 수 없는데 왜 내가 컨테이너를 할 수 있다고 생각합니까?"라고 말했습니다. 이것은 제가 많이 생각해 본 것이며 아마도 기술에 대한 가장 큰 도전일 것입니다. 기술이 없다면 어떻게 온보딩할 수 있을까요? GenAI의 다음 놀라운 마찰 감소기: 문서 작성 또는 찾기를 시작하십시오.

프롬프트 1

프롬프트 2

단 두 번의 프롬프트로 우리는 일상적이고 매우 가치 있는 프로세스를 문서화하고 사용할 준비가 되었습니다.

우리는 오랫동안 엄청난 양의 정보에 접근할 수 있었지만 이전에는 모든 정보를 파싱할 수 있는 능력이 없었습니다. 이 모든 것이 GenAI로 변경됩니다. 이제 검색을 탐색하고 코드 리포지토리를 선별하는 대신 간단한 자연어 쿼리 또는 프롬프트를 통해 필요한 문서를 정확하게 얻을 수 있습니다. 답변을 찾는 데 몇 시간씩 걸리는 대신 몇 분 만에 광범위한 문서를 간편하게 이용할 수 있습니다. 이것은 기술 수용에 대한 모든 장벽을 완전히 파괴합니다. 가면 증후군, 기술 격차, 전환 비용: 주의를 기울이고 있습니다.

수천 가지 가능성이 있지만 다음은 AI Ops

저는 이 기술이 데이터 센터를 운영하는 데 도움이 될 수 있는 풍부한 방법을 인정하고 싶습니다. 중요한 가치를 추가할 다음 항목은 아마도 AI Ops일 것입니다. 풍부한 원격 분석 데이터는 우리에게 많은 것을 알려줄 수 있지만 신호 대 잡음비 문제가 있는 경향이 있습니다. 우리는 단순히 인간이 모든 것을 분석하고 이해하기에는 너무 많은 데이터를 생성하고 있습니다. 이 데이터를 GenAI로 푸시하고 자연어를 인터페이스로 사용함으로써 우리는 통찰력을 더 많은 청중에게 확장하고 차트와 원시 데이터를 볼 때 생각하지 못했던 질문을 할 수 있게 할 것입니다. 이러한 종류의 데이터를 사용하면 문제를 해결하는 평균 시간이 급감합니다. 그러나 한 가지 큰 단점이 있는데, 이것이 우리를 최종 요점으로 인도합니다.

GenAI와 자동화는 가능성을 바꾸지만 신중하게 사용해야 합니다.

GenAI의 두 가지 주요 과제를 해결해야 합니다. 지적 재산(IP) 유출 및 “환각” 또는 일을 구성합니다. 각각의 포장을 풀고 구현 중에 방해받지 않고 기술을 수용하는 방법을 결정합시다.

먼저 IP 유출에 대해 살펴보겠습니다. 데이터가 서비스로 제공되는 GenAI 모델로 전송되는 모든 시나리오에서 IP 유출 위험이 있습니다. 퍼블릭 클라우드 및 개방형 S3 버킷의 초기와 마찬가지로 오용 또는 오해의 초기 실험자들은 생성된 위험 그들의 회사를 위해. 이에 대응하는 가장 좋은 방법은 중앙 집중식 IT 전략을 갖고 이를 공통 워크플로 또는 개발 파이프라인에 삽입하고 마지막으로 지속적으로 학습하는 AIaaS로 이동할 수 없는 매우 민감한 데이터를 위해 자체 GenAI 온프레미스 구축을 우선시하는 것입니다. 데이터.

대규모 언어 모델(LLM)을 사내로 가져오는 것의 또 다른 이점은 모델을 더 정확하게 만들고 가드레일을 놓을 수 있다는 것입니다. 이렇게 하면 자신의 비즈니스 맥락에서 보다 정확하고 생성되는 응답이 생성됩니다. 가드레일은 또한 GenAI가 응답해야 하지만 요청을 준수하기 위해 부정확한 정보 및/또는 구성 정보를 제공할 때 일부 "환각"을 멈출 수 있습니다. 이것은 GenAI의 일반적인 문제입니다. 현실은 이러한 도구가 모두 아직 초기 단계에 있다는 것입니다. 대부분의 사람들이 릴리스 파이프라인에 대한 테스트 작업을 하는 것처럼 이 역시 프로덕션으로 전환하기 전에 더 엄격해야 하는 영역입니다. 저는 AI로 실수를 줄이는 방법으로 인간이 참여하는 루프(Human in the Loop) 또는 인간 보조 머신 러닝(Human Assisted Machine Learning)의 열렬한 지지자입니다.

미래는 자동화된다

데이터 센터는 그대로 유지되지만 GenAI 및 자동화를 통해 근본적으로 변환될 수 있습니다. 이러한 도구는 우리의 워크플로를 강화하고 IT Ops와 개발자가 초인적인 능력을 달성하도록 도울 수 있지만 사람을 직접 대체하지는 않습니다. AI 및 자동화 전략을 출시할 때 달성하려는 목표와 수준 조직이 편안하게 자동화할 수 있습니다. 미래는 밝고 어디서든 혁신할 수 있는 능력이 이제 현실이 되었습니다.

방법 알아보기 Dell APEX 포트폴리오 조직이 어디에서나 일관된 클라우드 경험을 수용할 수 있도록 도와줍니다. AI와 같은 기술 채택 혁신을 가속화합니다.

Dell Technologies에서 제공합니다.

타임 스탬프 :

더보기 등록