Bài đăng trên blog này được đồng viết với Tiến sĩ Ebtesam Almazrouei, Giám đốc điều hành – Quyền Trưởng phòng nghiên cứu AI của Đơn vị Trung tâm AI-Cross và Trưởng dự án cho các Dự án LLM tại TII.
Các Tiểu vương quốc Ả Rập Thống nhất (UAE) Viện Đổi mới Công nghệ (TII), trụ cột nghiên cứu ứng dụng của Abu Dhabi Hội đồng nghiên cứu công nghệ tiên tiến, đã ra mắt Falcon LLM, một mô hình ngôn ngữ lớn nền tảng (LLM) với 40 tỷ tham số. TII là một trung tâm nghiên cứu toàn cầu hàng đầu chuyên thúc đẩy các giới hạn của tri thức. Đội ngũ các nhà khoa học, nhà nghiên cứu và kỹ sư của TII làm việc để cung cấp khoa học khám phá và công nghệ biến đổi. Công việc của TII tập trung vào những bước đột phá sẽ là bằng chứng cho xã hội của chúng ta trong tương lai. Được đào tạo trên 1 nghìn tỷ mã thông báo, TII Falcon LLM tự hào về hiệu suất vượt trội trong khi vẫn tiết kiệm chi phí một cách đáng kinh ngạc. Falcon-40B phù hợp với hiệu suất của các LLM hiệu suất cao khác và là mô hình nguồn mở được xếp hạng hàng đầu trong công chúng Bảng xếp hạng LLM ôm mặt mở. Nó có sẵn dưới dạng mã nguồn mở với hai kích cỡ khác nhau – Falcon-40B và Falcon-7B và được xây dựng từ đầu bằng cách sử dụng các công việc đào tạo mô hình và tiền xử lý dữ liệu được xây dựng trên Amazon SageMaker. Falcon 40B mã nguồn mở cho phép người dùng xây dựng và tùy chỉnh các công cụ AI đáp ứng nhu cầu riêng của từng người dùng, tạo điều kiện tích hợp liền mạch và đảm bảo lưu giữ tài sản dữ liệu lâu dài. Trọng lượng mô hình có sẵn để tải xuống, kiểm tra và triển khai ở mọi nơi.
Bắt đầu từ ngày 7 tháng XNUMX, cả hai Falcon LLM cũng sẽ có sẵn trong Amazon SageMaker JumpStart, trung tâm máy học (ML) của SageMaker cung cấp các mô hình được đào tạo trước, thuật toán tích hợp và mẫu giải pháp dựng sẵn để giúp bạn nhanh chóng bắt đầu với ML. Bạn có thể triển khai và sử dụng Falcon LLM với một vài cú nhấp chuột trong Studio SageMaker hoặc lập trình thông qua SDK Python của SageMaker. Để triển khai và chạy suy luận đối với Falcon LLM, hãy tham khảo Giới thiệu về SageMaker JumpStart – Tạo văn bản với Falcon LLMs sổ tay ví dụ.
Tiến sĩ Ebtesam Almazrouei, Giám đốc điều hành – Quyền Trưởng phòng nghiên cứu AI của Đơn vị Trung tâm AI-Cross và Trưởng dự án cho các dự án LLM tại TII, chia sẻ:
“Chúng tôi tự hào công bố việc phát hành nguồn mở chính thức của Falcon-40B, mô hình ngôn ngữ nguồn mở hàng đầu thế giới. Falcon-40B là một mô hình nguồn mở đặc biệt với các tham số 40B, được thiết kế đặc biệt dưới dạng mô hình chỉ dành cho bộ giải mã nhân quả. Nó đã được đào tạo trên một bộ dữ liệu khổng lồ gồm 1,000 tỷ mã thông báo, bao gồm cả RefinedWeb được tăng cường với kho dữ liệu được quản lý. Mô hình được cung cấp theo giấy phép Apache 2.0, đảm bảo khả năng truy cập và khả năng sử dụng của nó. Falcon-40B đã vượt qua các mẫu nổi tiếng như LLaMA-65B, StableLM và MPT trên bảng xếp hạng công khai do Hugging Face duy trì. Kiến trúc của Falcon-40B được tối ưu hóa cho khả năng suy luận, kết hợp FlashAttention và các kỹ thuật đa truy vấn.”
“Bước này phản ánh sự cống hiến của chúng tôi trong việc thúc đẩy ranh giới của đổi mới AI và mức độ sẵn sàng của công nghệ cho sự tham gia của cộng đồng, giáo dục, ứng dụng trong thế giới thực và cộng tác. Tiến sĩ Ebtesam tiếp tục. “Bằng cách phát hành Falcon-40B dưới dạng mô hình nguồn mở, chúng tôi mang đến cho các nhà nghiên cứu, doanh nhân và tổ chức cơ hội khai thác các khả năng đặc biệt của nó và thúc đẩy những tiến bộ trong các giải pháp dựa trên AI từ chăm sóc sức khỏe đến không gian, tài chính, sản xuất đến công nghệ sinh học; khả năng cho các giải pháp dựa trên AI là vô tận. Để truy cập Falcon-40B và khám phá tiềm năng vượt trội của nó, vui lòng truy cập FalconLLM.tii.ae. Hãy cùng chúng tôi tận dụng sức mạnh của Falcon-40B để định hình tương lai của AI và cách mạng hóa các ngành công nghiệp”
Trong bài đăng này, chúng tôi sẽ tìm hiểu sâu với Tiến sĩ Almazrouei về khóa đào tạo Falcon LLM trên SageMaker, quản lý dữ liệu, tối ưu hóa, hiệu suất và các bước tiếp theo.
Một thế hệ LLM mới
LLM là các thuật toán phần mềm được đào tạo để hoàn thành các chuỗi văn bản tự nhiên. Do kích thước và khối lượng dữ liệu đào tạo mà chúng tương tác, LLM có khả năng xử lý văn bản ấn tượng, bao gồm tóm tắt, trả lời câu hỏi, học theo ngữ cảnh, v.v.
Vào đầu năm 2020, các tổ chức nghiên cứu trên khắp thế giới tập trung vào kích thước mô hình, quan sát thấy độ chính xác tương quan với số lượng tham số. Ví dụ: GPT-3 (2020) và BLOOM (2022) có khoảng 175 tỷ tham số, Gopher (2021) có 230 tỷ tham số và MT-NLG (2021) có 530 tỷ tham số. Năm 2022, Hoffman và cộng sự. quan sát thấy rằng sự cân bằng điện toán hiện tại giữa các tham số mô hình và kích thước tập dữ liệu là dưới mức tối ưu và các luật điều chỉnh tỷ lệ theo kinh nghiệm đã công bố cho thấy rằng việc cân bằng ngân sách điện toán đối với các mô hình nhỏ hơn được đào tạo trên nhiều dữ liệu hơn có thể dẫn đến các mô hình hoạt động tốt hơn. Họ đã triển khai hướng dẫn của mình trong mô hình Chinchilla (70) tham số 2022B, mô hình này hoạt động tốt hơn nhiều so với các mô hình lớn hơn.
Đào tạo LLM trên SageMaker
SageMaker là tập hợp các API được quản lý để phát triển, đào tạo, điều chỉnh và lưu trữ các mô hình máy học (ML), bao gồm cả LLM. Nhiều khách hàng dựa vào SageMaker cho khối lượng công việc LLM của họ, chẳng hạn như AI ổn định, Phòng thí nghiệm AI21, Ôm mặtvà LG trí tuệ nhân tạo. Đào tạo SageMaker điều khoản tính toán các cụm với mã và cấu hình phần cứng do người dùng xác định. Công việc điện toán được tính phí cho mỗi lần chạy, được tính theo tỷ lệ thứ hai, nghĩa là người dùng không bị tính phí cho dung lượng GPU khi không sử dụng dịch vụ. TII đã sử dụng các cụm tạm thời do API đào tạo SageMaker cung cấp để đào tạo Falcon LLM, tối đa 48 phiên bản ml.p4d.24xlarge, tích lũy trong 384 GPU NVIDIA A100. Hiện tại, TII đang đào tạo Falcon LLM tiếp theo và mở rộng quy mô đào tạo của họ lên 3,136 GPU A100 (392 phiên bản ml.p4d).
Một số lượng lớn các đổi mới tùy chỉnh chưa từng có đã được đưa vào tất cả các lớp của dự án nhằm nâng cao chất lượng khoa học và tốc độ đào tạo. Trong các phần tiếp theo, chúng tôi mô tả các tối ưu hóa mà TII đã thực hiện ở tất cả các lớp của hệ thống đào tạo học sâu (DL).
Quản lý dữ liệu có thể mở rộng
Các LLM thế hệ mới nhất có được sức mạnh từ quy mô và chất lượng của dữ liệu đào tạo. Nhóm đã dành sự quan tâm đặc biệt cho việc tạo ra bộ dữ liệu nghìn tỷ mã thông báo chất lượng cao. Một số tác vụ CPU đào tạo SageMaker đã biến hàng petabyte dữ liệu web rẻ tiền, có thể mở rộng thành một bộ dữ liệu đào tạo an toàn, được quản lý. Các hệ thống tự động đã lọc và loại bỏ dữ liệu trùng lặp; ví dụ: bộ phân loại ML được sử dụng để lọc ngôn từ tục tĩu. Các tác vụ CPU chạy trên ml.c5.18xlarge (72 vCPU, 144 GB RAM) đã được khởi tạo trong một vài lệnh gọi API thông qua chương trình Đào tạo SageMaker để chạy các tác vụ chuyển đổi dữ liệu. Nhóm đã sử dụng cả tác vụ CPU đơn phiên bản và đa phiên bản cho các trường hợp sử dụng khác nhau. Một số tác vụ trong số này sử dụng hàng trăm tác vụ kiến trúc không chia sẻ song song (SNA), mỗi tác vụ trên một máy duy nhất và đối với các tác vụ yêu cầu đồng bộ hóa giữa các nhân viên, nhóm đã khởi chạy tác vụ đa phiên bản, tích lũy trong hàng chục phiên bản và hàng nghìn vCPU. Thông thường, trong một nhiệm vụ chuẩn bị tập dữ liệu xuôi dòng, nhóm đã tăng tới 257 ml.c5.18xlarge trong một công việc Đào tạo SageMaker duy nhất, tích lũy trong 18,504 vCPU và 37 TB bộ nhớ.
Tối đa hóa thông lượng đào tạo
Để giảm thiểu cả chi phí đào tạo và thời gian đưa ra thị trường, nhóm đã theo đuổi một số hướng tối ưu hóa để tăng tốc độ đào tạo tỷ lệ thuận với mã thông báo đào tạo được xử lý mỗi giây và được đo bằng TFLOP/GPU. Nhóm đã sử dụng khung đào tạo LLM song song 3D hoàn toàn tùy chỉnh, có các lớp được tối ưu hóa tùy chỉnh được viết bằng mã GPU đã biên dịch. Nhóm đã tiến xa hơn khi viết triển khai phép nhân ma trận tùy chỉnh của riêng họ để đạt được tốc độ cao hơn nữa! Nhóm cũng đã phát triển logic điều chỉnh giao tiếp song song với cấu trúc liên kết mạng cơ bản. Trong các thử nghiệm mở rộng quy mô ban đầu của họ, TII đã có thể đạt tới 166 TFLOP/GPU trên mẫu 147B trên 256 GPU và 173 TFLOP/GPU trên mẫu 13B trên 16 GPU, theo hiểu biết của chúng tôi, mẫu TFLOP được biết đến nhanh nhất đạt được trên đám mây tại thời điểm kiểm tra vào cuối năm 2022.
Lưu trữ không có máy chủ
Đào tạo LLM chuyên sâu về lưu trữ; vài terabyte dữ liệu đào tạo cần được chuyển đến cụm đào tạo và vài terabyte điểm kiểm tra mô hình thường xuyên di chuyển ngược lại từ cụm đến bộ lưu trữ vĩnh viễn. Các điểm kiểm tra cũng cần đến cụm đào tạo càng nhanh càng tốt trong trường hợp khởi động lại công việc. Trong điện toán hiệu năng cao (HPC) truyền thống, các nút điện toán được kết nối với hệ thống tệp phân tán, cung cấp thông lượng và I/O hiệu suất cao thông qua giao diện giống như POSIX. Ở AWS, khách hàng thường xuyên sử dụng Amazon FSx cho ánh hệ thống tập tin cho mục đích này (để biết thêm chi tiết, tham khảo Tăng tốc đào tạo trên Amazon SageMaker bằng Amazon FSx cho các hệ thống tệp Luster và Amazon EFS) và chúng tôi cũng đã ghi lại việc sử dụng BeeGFS tự quản lý trong một nghiên cứu điển hình về thị giác máy tính phân tán. Do tập trung vào chi phí và sự đơn giản trong vận hành, nhóm đã quyết định không triển khai và vận hành các máy chủ hệ thống tệp mà thay vào đó, họ đã vượt qua thử thách xây dựng độc quyền trên lưu trữ đối tượng không có máy chủ Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3). Một lớp bộ dữ liệu S3 tùy chỉnh được xây dựng bằng cách sử dụng AWS SDK dành cho Python (Boto3) và mang lại hiệu suất thỏa đáng trong khi cho phép các nhà khoa học lặp lại một cách tự động về kỹ thuật I/O và khoa học mô hình trong cùng một cơ sở mã.
Đổi mới phía khách hàng
Một dự án LLM hiếm khi bao gồm một công việc đào tạo duy nhất; nhiều công việc là cần thiết để tiến hành các thử nghiệm và kinh nghiệm ban đầu. Trong quá trình đào tạo sản xuất chính, một số công việc có thể được xâu chuỗi, chẳng hạn như cập nhật cấu hình hoặc phiên bản phần mềm, triển khai các bản vá lỗi hoặc khôi phục sau lỗi. Các nhà khoa học từ TII đã tiến hành kỹ thuật quan trọng để xây dựng các khách hàng tùy chỉnh phù hợp với đào tạo LLM. Ứng dụng khách trình khởi chạy được xây dựng dựa trên SDK đào tạo SageMaker để kết hợp nhiều chức năng trong một lệnh, chẳng hạn như lập phiên bản mã, xây dựng hình ảnh Docker và khởi chạy công việc. Ngoài ra, một AWS Lambda chức năng điện toán không có máy chủ được thiết kế để theo dõi, giám sát và can thiệp vào các công việc khi cần.
Sử dụng bot Slack để kiểm tra chất lượng suy luận
Vào cuối khóa đào tạo, nhóm đã triển khai mô hình trên một mạng nội bộ Điểm cuối GPU lưu trữ SageMaker cho tương tác thời gian thực. Nhóm đã đi xa đến mức tạo ra một bot Slack để đối thoại, nhận phản hồi thực tế và chạy kiểm tra chất lượng định tính của mô hình.
Đào tạo và giám sát hiệu suất
Đào tạo LLM yêu cầu một lượng lớn tài nguyên tính toán, bao gồm tài nguyên CPU, GPU và bộ nhớ. Do đó, TII cần giám sát hiệu suất và thời gian nhàn rỗi của công việc đào tạo để đảm bảo sử dụng tối ưu tài nguyên máy tính và hiệu quả chi phí của chúng.
Để xây dựng giải pháp giám sát tự động, TII đã sử dụng amazoncloudwatch báo động để giám sát việc sử dụng GPU, CPU và bộ nhớ cho các công việc đào tạo. CloudWatch thu thập dữ liệu thô và xử lý dữ liệu đó thành các chỉ số có thể đọc được, gần thời gian thực từ các phiên bản vùng chứa cơ bản đang được sử dụng trong công việc Đào tạo SageMaker. Sau đó, chúng tôi đặt ngưỡng cho từng chỉ số này và nếu bất kỳ chỉ số nào giảm xuống dưới ngưỡng, một cảnh báo sẽ được kích hoạt. Cảnh báo này thông báo cho nhóm của TII về mức sử dụng tài nguyên thấp, cho phép họ thực hiện các hành động khắc phục để khắc phục các hạn chế về sử dụng tài nguyên.
Ngoài việc giám sát việc sử dụng tài nguyên, TII cũng có thể giám sát thời gian nhàn rỗi của các tài nguyên công việc đào tạo. Nếu tài nguyên công việc đào tạo không hoạt động trong một thời gian dài, điều đó có thể cho thấy nút cổ chai ở bất kỳ giai đoạn nào của chu kỳ đào tạo và yêu cầu điều tra thủ công. Trong một số trường hợp, việc sử dụng tài nguyên vẫn tương đối tối ưu, nhưng bản thân quá trình đào tạo không tiến triển. Đối với những trường hợp này, TII tích hợp cảnh báo CloudWatch với các chức năng Lambda để truy vấn và đọc nhật ký đào tạo đã tạo, sau đó thực hiện hành động tự động dựa trên lỗi đã tạo hoặc tình trạng không hoạt động của quá trình tạo nhật ký (cụm bị tạm dừng). Cảnh báo kích hoạt một hành động để dừng công việc đào tạo, điều này đảm bảo rằng TII không phát sinh chi phí không cần thiết khi tài nguyên không được sử dụng.
Kết luận
Sử dụng SageMaker kết hợp với đổi mới tùy chỉnh, độc quyền, TII có thể đào tạo một mô hình hiện đại nhất ở nhiều khía cạnh: đột phá công nghệ, chất lượng khoa học, tốc độ đào tạo và cả sự đơn giản trong vận hành.
“Việc phát hành Falcon 40B của UAE, Mô hình AI nguồn mở được xếp hạng hàng đầu thế giới, minh họa cho sự dẫn đầu về công nghệ và mở đường cho sự đổi mới do AI cung cấp trong khu vực.ion” chỉ ra Tiến sĩ Ebtesam Almazrouei; Thêm rằng "chúng tôi thể hiện cam kết của mình đối với các mục tiêu được nêu trong Chiến lược AI Quốc gia 2031. Sự tham gia tích cực của chúng tôi vào các tiến bộ công nghệ toàn cầu, được đại diện bởi Falcon-40B, đóng một vai trò quan trọng trong việc chúng tôi theo đuổi nền kinh tế dựa trên tri thức. Thông qua đầu tư và phát triển các giải pháp AI, chúng tôi mong muốn tạo ra những cơ hội mới cho tăng trưởng kinh tế, tiến bộ xã hội và tiến bộ giáo dục.
“Bản chất mã nguồn mở của Falcon-40B phản ánh sự cống hiến của chúng tôi đối với sự hợp tác, minh bạch, đổi mới và nghiên cứu trong lĩnh vực AI. Chúng tôi tin tưởng vào việc dân chủ hóa các khả năng của công nghệ AI tiên tiến, giúp các nhà nghiên cứu và tổ chức trên toàn thế giới có thể tiếp cận Falcon-40B.”
“Sắp tới, chúng tôi sẽ tiếp tục đóng góp vào những tiến bộ của AI và công nghệ, với các mẫu xe sắp ra mắt. Hơn nữa, chúng tôi sẽ tích cực thúc đẩy việc áp dụng công nghệ AI tiên tiến trong các tổ chức và doanh nghiệp ở nước mình, thúc đẩy tăng trưởng và thịnh vượng phù hợp với các mục tiêu chiến lược của chúng tôi.”– Tiến sĩ Almamazrouei
Để tìm hiểu thêm về Falcon LLM, hãy xem trang web FalconLLM.tii.ae và thẻ người mẫu trên Ôm mặt!
Về các tác giả
Tiến sĩ Ebtesam Almazrouei là Giám đốc Điều hành kiêm Quyền Trưởng phòng Nghiên cứu AI và là Người sáng lập Đơn vị Trung tâm Al-Cross tại Viện Đổi mới Công nghệ (TII). Với tư cách là Người sáng lập Đơn vị Trung tâm Al-Cross tại Viện Đổi mới Công nghệ (TII), Tiến sĩ Almazrouei đã đóng một vai trò quan trọng trong việc hình thành các khả năng AI của TII. Tầm nhìn chiến lược và kiến thức chuyên môn về trí tuệ nhân tạo và máy học đã trao quyền cho cô ấy dẫn dắt các sáng kiến nghiên cứu đột phá và thúc đẩy sự hợp tác đa chức năng, dẫn đến việc cung cấp các giải pháp trí tuệ nhân tạo sáng tạo trong nhiều ngành.
Một trong những thành tựu đáng chú ý của Tiến sĩ Almazrouei là vai trò quan trọng của bà trong việc phát triển Falcon 40B, một LLM tiên tiến đã giành được sự công nhận toàn cầu. Hiệu suất vượt trội của Falcon 40B đã xếp nó là LLM số một trên toàn cầu trên bảng xếp hạng của Hugging Face vào tháng 2023 năm 2022. Ngoài ra, cô ấy đã lãnh đạo sự phát triển của Noor, mô hình ngôn ngữ lớn tiếng Ả Rập (LLM) lớn nhất thế giới được phát hành vào tháng XNUMX năm XNUMX.
Tiến sĩ Almamazrouei được công nhận trên toàn thế giới vì những đóng góp của bà cho AI và được vinh danh trong danh sách Những phụ nữ AI hàng đầu thế giới năm 2023, cùng với những phụ nữ xuất sắc khác trong lĩnh vực này. Cô cũng là người ủng hộ tính bền vững và các sáng kiến AI for Good, đồng thời là chủ tịch chung của Abu Dhabi AI Connect và chủ tịch TPC của nhiều hội nghị quốc tế IEEE.
Những đóng góp của cô ấy còn vượt ra ngoài công việc của cô ấy tại TII, nơi cô ấy lãnh đạo tiểu ban chuyên gia dữ liệu lớn của Hội đồng AI và Blockchain của UAE và là thành viên của ban chỉ đạo toàn cầu của Diễn đàn Nghiên cứu Thế giới Không dây (WWRF). Cô là một tác giả khoa học, nhà phát minh bằng sáng chế, doanh nhân và diễn giả nổi tiếng, được biết đến với các bài phát biểu quan trọng tại các hội nghị thượng đỉnh uy tín như Hội nghị thượng đỉnh AI ở London, Liên hoan AI thế giới Cannes và Hội nghị thượng đỉnh công nghệ.
Will Badr là Giám đốc cấp cao của Kiến trúc sư giải pháp AI/ML có trụ sở tại Dubai – UAE, người làm việc như một phần của nhóm Amazon Machine Learning toàn cầu. Will đam mê sử dụng công nghệ theo những cách sáng tạo để tác động tích cực đến cộng đồng. Khi rảnh rỗi, anh thích đi lặn, đá bóng và khám phá các đảo ở Thái Bình Dương.
Olivier Cruchant là Kiến trúc sư Giải pháp Chuyên gia về Học máy tại AWS, có trụ sở tại Pháp. Olivier giúp khách hàng của AWS - từ các công ty khởi nghiệp nhỏ đến các doanh nghiệp lớn - phát triển và triển khai các ứng dụng học máy ở cấp độ sản xuất. Trong thời gian rảnh rỗi, anh ấy thích đọc các tài liệu nghiên cứu và khám phá vùng hoang dã với bạn bè và gia đình.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- EVM tài chính. Giao diện hợp nhất cho tài chính phi tập trung. Truy cập Tại đây.
- Tập đoàn truyền thông lượng tử. Khuếch đại IR/PR. Truy cập Tại đây.
- PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- nguồn: https://aws.amazon.com/blogs/machine-learning/technology-innovation-institute-trains-the-state-of-the-art-falcon-llm-40b-foundation-model-on-amazon-sagemaker/
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 1
- 100
- 16
- 2020
- 2021
- 2022
- 2023
- 2031
- 24
- 28
- 40
- 7
- 72
- a
- khả năng
- Có khả năng
- Giới thiệu
- abu dhabi
- đẩy nhanh tiến độ
- truy cập
- khả năng tiếp cận
- có thể truy cập
- chính xác
- đạt được
- thành tựu
- ngang qua
- Hoạt động
- hành động
- hoạt động
- tích cực
- thích nghi
- thêm
- Ngoài ra
- Ngoài ra
- Nhận con nuôi
- tiên tiến
- tiến bộ
- biện hộ
- Sau
- chống lại
- trước
- AI
- AI và blockchain
- Chiến lược AI
- Hỗ trợ AI
- AI / ML
- nhằm mục đích
- AL
- báo động
- thuật toán
- căn chỉnh
- Tất cả
- Cho phép
- bên cạnh
- Ngoài ra
- đàn bà gan dạ
- Amazon FSx
- Học máy Amazon
- Amazon SageMaker
- Khởi động Amazon SageMaker
- Amazon Web Services
- số lượng
- số lượng
- an
- và
- Thông báo
- bất kì
- bất cứ nơi nào
- Apache
- api
- API
- các ứng dụng
- áp dụng
- Tháng Tư
- Ả Rập
- kiến trúc
- LÀ
- xung quanh
- AS
- Tài sản
- At
- kiểm toán
- tác giả
- Tự động
- Tự động
- tự chủ
- có sẵn
- AWS
- trở lại
- Cân đối
- cân bằng
- thanh
- dựa
- BE
- được
- Tin
- phía dưới
- Hơn
- giữa
- Ngoài
- lớn
- Dữ Liệu Lớn.
- lớn hơn
- Tỷ
- công nghệ sinh học
- blockchain
- Blog
- Hoa
- bảng
- tự hào
- Bot
- cả hai
- chương trình
- ranh giới
- vô hạn
- bước đột phá
- đột phá
- ngân sách
- xây dựng
- Xây dựng
- xây dựng
- được xây dựng trong
- các doanh nghiệp
- nhưng
- by
- Cuộc gọi
- CAN
- khả năng
- Sức chứa
- thẻ
- mà
- trường hợp
- trường hợp
- phục vụ
- Trung tâm
- xích
- Ghế
- thách thức
- tính phí
- giá rẻ
- kiểm tra
- chánh
- tốt nghiệp lớp XNUMX
- khách hàng
- khách hàng
- đám mây
- cụm
- mã
- Cơ sở mã hóa
- hợp tác
- hợp tác
- bộ sưu tập
- cam kết
- Giao tiếp
- cộng đồng
- hoàn thành
- Tính
- máy tính
- Tầm nhìn máy tính
- máy tính
- Tiến hành
- thực hiện
- hội nghị
- Cấu hình
- Kết nối
- kết nối
- bao gồm
- khó khăn
- xây dựng
- Container
- tiếp tục
- Góp phần
- đóng góp
- chi phí-hiệu quả
- Chi phí
- có thể
- hội đồng
- đất nước
- Khóa học
- nghề
- tạo
- Tạo
- quan trọng
- lưu trữ
- sự giám tuyển
- Current
- khách hàng
- khách hàng
- tùy chỉnh
- tiên tiến
- chu kỳ
- dữ liệu
- quyết định
- dành riêng
- sự cống hiến
- sâu
- học kĩ càng
- cung cấp
- giao hàng
- Dân chủ hóa
- chứng minh
- triển khai
- triển khai
- mô tả
- thiết kế
- chi tiết
- phát triển
- phát triển
- phát triển
- Phát triển
- Dhabi
- Đối thoại
- sự khác biệt
- khác nhau
- kích thước
- phát hiện
- Phân biệt
- phân phối
- phu bến tàu
- Không
- tải về
- hàng chục
- dr
- lái xe
- Dubai
- hai
- suốt trong
- E&T
- mỗi
- Đầu
- Kinh tế
- Tăng trưởng kinh tế
- nền kinh tế
- Đào tạo
- Tư vấn Giáo dục
- hay
- nhấn mạnh
- trao quyền
- cho phép
- cho phép
- cuối
- Tham gia
- Kỹ Sư
- Kỹ sư
- nâng cao
- đảm bảo
- đảm bảo
- đảm bảo
- doanh nghiệp
- Doanh nhân
- doanh nhân
- lôi
- Sự kiện
- ví dụ
- đặc biệt
- độc quyền
- điều hành
- Kinh nghiệm
- thí nghiệm
- chuyên gia
- chuyên môn
- khám phá
- Khám phá
- thêm
- Đối mặt
- tạo điều kiện
- Ngã
- gia đình
- xa
- NHANH
- Đặc tính
- đặc sắc
- Với
- thông tin phản hồi
- LỄ HỘI
- vài
- lĩnh vực
- Tập tin
- lọc
- tài chính
- Tập trung
- tập trung
- Trong
- Diễn đàn
- Foster
- bồi dưỡng
- Nền tảng
- người sáng lập
- Khung
- Nước pháp
- bạn bè
- từ
- Biên giới
- đầy đủ
- chức năng
- chức năng
- chức năng
- xa hơn
- tương lai
- Thu được
- Tổng Quát
- tạo ra
- thế hệ
- được
- Toàn cầu
- Toàn cầu
- Go
- Các mục tiêu
- tốt
- Đường hầm quanh co
- GPU
- GPU
- đột phá
- Tăng trưởng
- hướng dẫn
- phần cứng
- khai thác
- Có
- he
- chăm sóc sức khỏe
- giúp đỡ
- giúp
- cô
- hiệu suất cao
- hiệu suất cao
- chất lượng cao
- của mình
- lưu trữ
- hpc
- HTML
- http
- HTTPS
- Hub
- Hàng trăm
- Nhàn rỗi
- IEEE
- if
- minh họa
- hình ảnh
- Va chạm
- thực hiện
- thực hiện
- thực hiện
- ấn tượng
- in
- Bao gồm
- kết hợp
- vô cùng
- chỉ
- chỉ
- các ngành công nghiệp
- ban đầu
- khả năng phán đoán
- sự đổi mới
- đổi mới
- sáng tạo
- thay vì
- Viện
- cụ
- tích hợp
- hội nhập
- tương tác
- tương tác
- Giao thức
- nội bộ
- Quốc Tế
- can thiệp
- trong
- điều tra
- Đầu Tư
- sự tham gia
- Đảo
- IT
- ITS
- chính nó
- Việc làm
- việc làm
- tham gia
- Tham gia với chúng tôi
- jpg
- tháng sáu
- Chủ âm
- kiến thức
- nổi tiếng
- Ngôn ngữ
- lớn
- Doanh nghiệp lớn
- lớn nhất
- Trễ, muộn
- phóng
- phát động
- Luật
- lớp
- dẫn
- Lãnh đạo
- hàng đầu
- Dẫn
- LEARN
- học tập
- Led
- Cấp
- tận dụng
- Giấy phép
- Lượt thích
- Lượt thích
- Danh sách
- LLM
- đăng nhập
- logic
- London
- lâu
- Thấp
- máy
- học máy
- thực hiện
- Chủ yếu
- Làm
- quản lý
- giám đốc
- nhãn hiệu
- sản xuất
- nhiều
- Matrix
- Có thể..
- có nghĩa là
- hội viên
- Bộ nhớ
- số liệu
- Metrics
- ML
- kiểu mẫu
- mô hình
- Màn Hình
- giám sát
- chi tiết
- Hơn thế nữa
- nhiều
- nhiều
- quốc dân
- Tự nhiên
- Thiên nhiên
- Cần
- cần thiết
- nhu cầu
- mạng
- Mới
- tiếp theo
- các nút
- Nổi bật
- máy tính xách tay
- tại
- con số
- nhiều
- Nvidia
- vật
- mục tiêu
- of
- Cung cấp
- chính thức
- Ôliu
- on
- ONE
- mở
- mã nguồn mở
- hoạt động
- hoạt động
- Cơ hội
- Cơ hội
- tối ưu
- tối ưu hóa
- tối ưu hóa
- or
- gọi món
- tổ chức
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- nêu
- kết thúc
- riêng
- Hòa bình
- Gói
- ghép đôi
- giấy tờ
- Song song
- tham số
- thông số
- một phần
- đam mê
- Các bản vá lỗi
- bằng sáng chế
- hiệu suất
- biểu diễn
- thời gian
- vĩnh viễn
- cột
- đường ống dẫn
- quan trọng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Play
- chơi
- đóng
- xin vui lòng
- khả năng
- có thể
- Bài đăng
- tiềm năng
- quyền lực
- chuẩn bị
- bảo quản
- uy tín
- quá trình
- Xử lý
- Quy trình
- xử lý
- Sản lượng
- LỢI NHUẬN
- Tiến độ
- tiến bộ
- dự án
- dự án
- thúc đẩy
- độc quyền
- sự thịnh vượng
- Tự hào
- cho
- cung cấp
- công khai
- công bố
- mục đích
- theo đuổi
- Đẩy
- đặt
- Python
- định tính
- chất lượng
- câu hỏi
- Mau
- nâng cao
- RAM
- xếp hạng
- Nguyên
- đạt
- Đọc
- Sẵn sàng
- Reading
- thế giới thực
- thời gian thực
- thực tế
- công nhận
- công nhận
- Phục hồi
- phản ánh
- thường xuyên
- tương đối
- phát hành
- phát hành
- phát hành
- dựa
- còn lại
- đáng chú ý
- Trứ danh
- đại diện
- yêu cầu
- đòi hỏi
- nghiên cứu
- nhà nghiên cứu
- nhà nghiên cứu
- tài nguyên
- Thông tin
- kết quả
- cách mạng hóa
- Vai trò
- chạy
- chạy
- an toàn
- nhà làm hiền triết
- tương tự
- khả năng mở rộng
- mở rộng quy mô
- Khoa học
- khoa học
- các nhà khoa học
- xước
- sdk
- liền mạch
- Thứ hai
- phần
- Không có máy chủ
- Các máy chủ
- dịch vụ
- DỊCH VỤ
- định
- một số
- Hình dạng
- định hình
- cổ phiếu
- chị ấy
- có ý nghĩa
- Đơn giản
- đơn giản
- duy nhất
- Kích thước máy
- kích thước
- lún xuống
- nhỏ
- nhỏ hơn
- Bóng đá
- Mạng xã hội
- Xã hội
- Phần mềm
- giải pháp
- Giải pháp
- một số
- nguồn
- Không gian
- Loa
- chuyên gia
- riêng
- đặc biệt
- bài phát biểu
- tốc độ
- Traineeship
- bắt đầu
- Startups
- nhà nước-of-the-art
- Bước
- Các bước
- Vẫn còn
- Dừng
- là gắn
- Chiến lược
- Chiến lược
- sức mạnh
- tiểu ban
- như vậy
- Hội nghị thượng đỉnh
- Hội nghị Cấp cao
- vượt qua
- Tính bền vững
- đồng bộ hóa
- hệ thống
- hệ thống
- Hãy
- Nhiệm vụ
- nhiệm vụ
- nhóm
- công nghệ cao
- kỹ thuật
- công nghệ
- Công nghệ
- Công nghệ
- Đổi mới Công nghệ
- mẫu
- thử nghiệm
- kiểm tra
- việc này
- Sản phẩm
- Tương lai
- thế giới
- cung cấp their dịch
- Them
- sau đó
- vì thế
- Kia là
- họ
- điều này
- hàng ngàn
- ngưỡng
- Thông qua
- thông lượng
- thời gian
- đến
- bên nhau
- Tokens
- mất
- công cụ
- hàng đầu
- đối với
- truyền thống
- Train
- đào tạo
- Hội thảo
- tàu hỏa
- Chuyển đổi
- biến đổi
- chuyển đổi
- Minh bạch
- đi du lịch
- được kích hoạt
- Nghìn tỷ
- hai
- Các Tiểu vương quốc Ả Rập
- Dưới
- cơ bản
- độc đáo
- đơn vị
- chưa từng có
- sắp tới
- Cập nhật
- us
- khả năng sử dụng
- sử dụng
- đã sử dụng
- Người sử dụng
- sử dụng
- tận dụng
- Lớn
- thông qua
- tầm nhìn
- khối lượng
- là
- Đồng hồ đeo tay
- Đường..
- cách
- we
- web
- các dịch vụ web
- Website
- TỐT
- đi
- là
- khi nào
- cái nào
- trong khi
- CHÚNG TÔI LÀ
- sẽ
- không dây
- với
- ở trong
- Dành cho Nữ
- Công việc
- công trinh
- thế giới
- thế giới
- khắp thế giới
- viết
- viết
- Bạn
- youtube
- zephyrnet